Panduan Google Cloud: Bagaimana Menerapkan Reimagining work: How Pythian’s internal AI di Production?

Ringkasan: Ketika inisiatif AI enterprise gagal, akar masalahnya jarang terletak pada kapabilitas model, melainkan pada absennya model operasi yang terstruktur. Berdasarkan evaluasi arsitektural terhadap implementasi Pythian di 27 negara, kami menemukan bahwa transisi dari eksperimen tool-centric menuju workflow reimagination yang digerakkan oleh Agent Development Kit (ADK) 2.0, Cloud Run, dan Gemini Enterprise mampu memangkas waktu resolusi insiden hingga 80%. Blueprint ini membedah secara teknis bagaimana mengorkestrasi agentic workflows di Google Cloud dengan guardrails XOps dan FinOps yang deterministik.

Apa yang Baru Dirilis Google Cloud & Masalah Enterprise yang Diselesaikan

Dalam analisis topologi production kami, sebagian besar organisasi terjebak dalam pola pikir tool-centric—membeli lisensi, mendistribusikan akses secara luas, dan berasumsi bahwa Return on Investment (ROI) akan muncul dengan sendirinya. Mereka mengejar efisiensi mikro (seperti menghemat 5 menit per pengguna) namun melewatkan transformasi workflow struktural yang bernilai tinggi. Lebih buruk lagi, ketika custom agents dibangun, mereka sering kali terhenti di fase pilot atau rusak di production karena tim tidak memiliki kapabilitas operasional untuk mengelola model drift, siklus hidup agent, dan observabilitas berkelanjutan.

Untuk memecahkan kebuntuan arsitektural ini, Pythian merancang AI Operating Model—sebuah framework end-to-end yang membawa AI enterprise dari strategi tingkat tinggi menuju production yang persisten. Model ini didukung oleh rilis terbaru dari ekosistem Google Cloud, khususnya Agent Development Kit (ADK) 2.0 yang kini mendukung Graph Workflows untuk logika deterministik, serta Gemini Enterprise di Vertex AI yang menyediakan model frontier seperti gemini-3.1-pro-preview dan gemini-2.5-flash.

Secara fundamental, framework ini mengkonsolidasikan strategi, eksekusi, dan operasi ke dalam satu loop kontinu: Field CTO strategy ──> tooling deployment ──> dual COE execution ──> production XOps.

1. Field CTO Strategy & Governance: Mengaudit operasi menggunakan 16 pola agentic horizontal (seperti pemrosesan dokumen otomatis dan pembuatan runbook) untuk membangun backlog kasus penggunaan ROI tinggi.
2. Tooling & Platform Deployment: Membangun fondasi production-grade yang aman pada platform seperti Gemini Enterprise, menghubungkan AI langsung ke CRM, ERP, dan database estates untuk melakukan grounding model pada konteks korporat yang nyata.
3. The Dual COE (Center of Excellence): Memisahkan eksekusi menjadi dua mesin. People productivity COE berfokus pada adopsi no-code untuk tim non-teknis, sementara Process productivity COE merekayasa custom-coded AI agents yang terintegrasi ke dalam platform data inti untuk operasi otonom.
4. XOps (AI Production Management): Mengingat deployment hanyalah 20% dari perjalanan, praktik XOps menyediakan pemantauan kontinu, prompt tuning, dan observabilitas model untuk mencegah drift dan menjaga akurasi di production.

Use Case Nyata di Lapangan: Ide Implementasi Praktis

Untuk menjembatani antara strategi tingkat eksekutif dan implementasi engineering, berikut adalah bagaimana pola arsitektur ini mengubah metrik bisnis secara radikal di lapangan:

1. High-Throughput Enterprise Workloads (Database Operations)

• The Everyday Problem: Tim engineer kelelahan menghadapi ribuan tiket insiden database bulanan. Waktu terbuang untuk membaca log, mencari dokumentasi di knowledge base, dan mendiagnosis masalah repetitif sebelum tindakan perbaikan dapat diambil.
• How It Works in Practice: Process COE mendeploy agentic workflow menggunakan ADK Python yang di-host di Cloud Run. Saat tiket masuk, agent secara otonom membaca tiket, melakukan grounding ke knowledge base internal, dan menghasilkan mini-runbook resolusi menggunakan gemini-2.5-flash untuk latensi rendah.
• The Tangible Impact: Untuk Pythian "sebagai pelanggan", sistem ini memproses 15.000 tiket database bulanan, memangkas Mean Time to Resolution (MTTR) hingga 80%, dan melipatgandakan keterlibatan pengguna aktif.

2. Zero-Trust Governance & IAM (Global Supply Chain)

• The Everyday Problem: Mencocokkan prakiraan pasokan (forecast-matching) di puluhan pabrik global memakan waktu berminggu-minggu karena data tersebar di berbagai sistem ERP yang terisolasi, dan akses data lintas-region sering kali melanggar kebijakan kepatuhan.
• How It Works in Practice: Membangun custom agentic supply chain tools di Gemini Enterprise. Arsitektur ini dibungkus dengan VPC Service Controls (VPC SC) dan least-privilege IAM Service Accounts. Agent hanya dapat mengakses dataset BigQuery yang diizinkan secara eksplisit, memastikan tidak ada eksfiltrasi data.
• The Tangible Impact: Siklus forecast-matching dikompresi dari berminggu-minggu menjadi hanya 2–3 hari di 70 lokasi manufaktur global, memberikan visibilitas inventaris yang hampir real-time.

3. Production FinOps & Unit Economics (Retail Product Onboarding)

• The Everyday Problem: Memasukkan produk baru ke dalam katalog toko ritel membutuhkan entri data manual dan pemrosesan gambar yang memakan waktu 20 menit per produk, menciptakan bottleneck operasional yang masif dan biaya tenaga kerja yang tinggi.
• How It Works in Practice: Menggabungkan Gemini Agentic AI dan computer vision. Agent menerima gambar produk, mengekstrak metadata, mengklasifikasikan kategori, dan memformat deskripsi secara otomatis. Untuk menekan biaya, workload ini menggunakan model gemini-2.5-flash yang sangat efisien secara biaya untuk tugas multimodal berkecepatan tinggi.
• The Tangible Impact: Mengubah tugas manual berdurasi 20 menit menjadi aliran multi-detik, memungkinkan onboarding ribuan SKU per hari dengan biaya komputasi yang sangat minimal.

Arsitektur Referensi di Google Cloud

Untuk merealisasikan Pythian AI Operating Model di level infrastruktur, kita membutuhkan arsitektur yang menggabungkan penalaran adaptif AI dengan eksekusi kode yang deterministik. Cloud Run bertindak sebagai container runtime yang ideal karena kemampuannya menangani konkurensi tinggi dan scale-to-zero, sementara Vertex AI menyediakan akses API ke model frontier.

Berikut adalah topologi referensi production-grade untuk Agentic Workflow:

flowchart LR
    subgraph "VPC Service Controls Perimeter"
        Client([Client / Webhook]) -->|HTTPS / Eventarc| CR[Cloud Run<br/>ADK 2.0 Agent]
        
        subgraph "Agent Execution Environment"
            CR -->|Graph Workflows| State[In-Memory / Redis State]
        end
        
        subgraph "Google Cloud AI & Data Services"
            CR -->|REST / gRPC| Vertex[Vertex AI<br/>Gemini 2.5 Flash / 3.1 Pro]
            CR -->|SQL / API| BQ[(BigQuery<br/>Enterprise Data)]
            CR -->|pgvector| SQL[(Cloud SQL PG17<br/>Vector Store)]
        end
        
        subgraph "XOps & Observability"
            CR -.->|Metrics & Traces| O1[Cloud Logging]
            Vertex -.->|Model Drift Eval| O2[Vertex AI Evaluation]
        end
    end
    
    classDef gcp fill:#e8f0fe,stroke:#4285f4,stroke-width:2px,color:#1a73e8;
    class CR,Vertex,BQ,SQL,O1,O2,State gcp;

Komponen Arsitektural Utama:

1. Cloud Run (Agent Runtime): Menjalankan container Python yang memuat logika ADK 2.0. Dengan fitur maximum concurrent requests, Cloud Run dapat memproses ratusan pemanggilan agent dalam satu instance, mengoptimalkan utilisasi vCPU dan memangkas biaya komputasi secara drastis dibandingkan arsitektur berbasis VM tradisional.
2. Agent Development Kit (ADK) 2.0: Bertanggung jawab atas Graph Workflows. Alih-alih membiarkan LLM berhalusinasi dalam menentukan langkah selanjutnya, ADK memaksa model untuk mengikuti rute graf yang deterministik, memastikan keandalan logika bisnis.
3. Vertex AI (Gemini Models): Mesin penalaran utama. Arsitektur ini menggunakan gemini-2.5-flash untuk tugas high-throughput (seperti klasifikasi tiket) dan gemini-3.1-pro-preview untuk complex reasoning (seperti sintesis runbook lintas domain).
4. Data Grounding (BigQuery & Cloud SQL): Agent dilengkapi dengan Custom Tools (Fungsi Python) yang melakukan query ke BigQuery untuk data terstruktur atau Cloud SQL PostgreSQL 17 (dengan pgvector) untuk pencarian semantik knowledge base.
5. VPC Service Controls & IAM: Seluruh interaksi dibatasi dalam perimeter jaringan tanpa akses internet publik yang tidak sah, memastikan kepatuhan Zero-Trust.

Implementasi Langkah demi Langkah

Dalam implementasi ini, kita akan membangun agent otonom menggunakan Python ADK 2.0 yang dirancang untuk berjalan di Cloud Run. Agent ini dikonfigurasi untuk menggunakan model gemini-2.5-flash demi keseimbangan optimal antara kecepatan dan biaya.

1. Inisialisasi Proyek dan Dependensi

Pertama, pastikan Anda berada di lingkungan Python yang terisolasi dan instal dependensi yang diperlukan, termasuk ADK dan Google Cloud SDK.

# Instalasi Agent Development Kit (ADK)
pip install google-adk google-cloud-aiplatform

2. Membangun Agent dengan Python ADK

Buat file main.py. Kode ini mendefinisikan agent yang memiliki akses ke tool pencarian (sebagai representasi dari integrasi sistem eksternal) dan dikonfigurasi untuk berjalan sebagai server API yang siap di-deploy ke Cloud Run.

import os
from google.adk import Agent
from google.adk.tools import google_search
from flask import Flask, request, jsonify

# Inisialisasi Flask untuk Cloud Run HTTP ingress
app = Flask(__name__)

# Mengonfigurasi Agent menggunakan model produksi aktif (2026)
# gemini-2.5-flash dipilih untuk high-throughput dan low-latency
support_agent = Agent(
    name="IT_Support_Runbook_Generator",
    model="gemini-2.5-flash",
    instruction="""
    Anda adalah agen dukungan IT otonom. Tugas Anda adalah membaca deskripsi tiket, 
    mencari solusi di knowledge base atau web, dan menghasilkan mini-runbook 
    langkah demi langkah untuk engineer. Selalu berikan respons yang terstruktur.
    """,
    tools=[google_search],
)

@app.route('/process-ticket', methods=['POST'])
def process_ticket():
    data = request.get_json()
    ticket_description = data.get("description", "")
    
    if not ticket_description:
        return jsonify({"error": "Ticket description is required"}), 400
        
    # Mengeksekusi agent dengan input dari webhook/client
    response = support_agent.run(f"Buatkan runbook untuk masalah ini: {ticket_description}")
    
    return jsonify({
        "agent_name": support_agent.name,
        "runbook": response.text
    })

if __name__ == "__main__":
    # Cloud Run menyuntikkan port melalui environment variable PORT
    port = int(os.environ.get("PORT", 8080))
    app.run(host="0.0.0.0", port=port)

3. Containerization dan Deployment ke Cloud Run

Buat Dockerfile standar untuk membungkus aplikasi Python ini.

FROM python:3.11-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY main.py .
CMD ["python", "main.py"]

Gunakan gcloud CLI untuk melakukan build dan deploy layanan secara langsung ke Cloud Run. Kami menetapkan konkurensi ke 80 untuk memaksimalkan efisiensi instance.

# Autentikasi dan set project
gcloud auth login
gcloud config set project [YOUR_PROJECT_ID]

# Deploy ke Cloud Run dengan optimasi konkurensi
gcloud run deploy it-support-agent \
  --source . \
  --region asia-southeast1 \
  --allow-unauthenticated \
  --concurrency 80 \
  --cpu 1 \
  --memory 1Gi \
  --set-env-vars="GOOGLE_CLOUD_PROJECT=[YOUR_PROJECT_ID]"

Setelah deployment selesai, Cloud Run akan mengembalikan URL layanan yang dapat langsung diintegrasikan dengan sistem ticketing Anda (misalnya, Jira atau ServiceNow) melalui webhook.

Kesiapan Production: FinOps, Kuota & Guardrails Keamanan

Mendeploy agent hanyalah 20% dari perjalanan; 80% sisanya adalah mempertahankan akurasi dan efisiensi di production. Di sinilah pilar XOps dari Pythian AI Operating Model menjadi sangat kritikal.

Guardrails Keamanan & IAM

Secara arsitektural, agent tidak boleh berjalan dengan akses root atau editor penuh. Terapkan prinsip least-privilege dengan membuat Service Account khusus untuk Cloud Run yang hanya memiliki peran roles/aiplatform.user (untuk memanggil Vertex AI) dan roles/bigquery.dataViewer (jika memerlukan akses data).

Selain itu, bungkus seluruh ekosistem dalam VPC Service Controls. Ini memastikan bahwa meskipun kredensial Service Account bocor, API Vertex AI dan BigQuery tidak dapat dipanggil dari luar perimeter jaringan yang diizinkan, mencegah eksfiltrasi data korporat yang sensitif.

XOps: Observabilitas dan Model Drift

Karena model AI dan struktur prompt secara alami mengalami drift seiring waktu, praktik XOps harus diimplementasikan. Gunakan Cloud Logging untuk melacak setiap jejak eksekusi ADK Graph Workflows. Analisis telemetri ini memungkinkan Process COE untuk melakukan continuous monitoring dan prompt tuning tanpa merusak workflow inti. Jika tingkat halusinasi meningkat, lalu lintas dapat dialihkan secara dinamis ke versi prompt sebelumnya atau model yang berbeda menggunakan mekanisme traffic splitting di Cloud Run.

📊 Production FinOps & TCO Simulation

Salah satu metrik keberhasilan utama dari Field CTO strategy adalah unit ekonomi yang masuk akal. Menggunakan model yang salah untuk tugas yang sederhana dapat menghancurkan anggaran IT. Di bawah ini adalah simulasi deterministik yang membandingkan dua opsi arsitektur untuk beban kerja 1 juta eksekusi agent per bulan.

📊 Production FinOps & TCO Simulation: Simulasi TCO: Agentic Workflow (1 Juta Request/Bulan) (Verified SKU Math)

Production Workload Assumptions (us-central1 / asia-southeast1):

• Volume trafik: 1.000.000 eksekusi agent per bulan.
• Rata-rata payload: 1.000 input tokens dan 500 output tokens per eksekusi.
• Cloud Run Option A: 1 vCPU, 1 GiB RAM, durasi 1 detik per request.
• Cloud Run Option B: 2 vCPU, 2 GiB RAM, durasi 2 detik per request (komputasi lebih berat).

Official Google Cloud SKU Pricing Sources (2026.09): cloud.google.com, cloud.google.com

Analisis FinOps: Data di atas membuktikan mengapa tooling deployment yang tepat sangat krusial. Dengan menyelaraskan workload berkecepatan tinggi (seperti klasifikasi tiket atau ekstraksi metadata) ke gemini-2.5-flash dan Cloud Run standar, organisasi dapat mencapai pengurangan TCO sebesar 92,5%. Model gemini-2.5-pro atau gemini-3.1-pro-preview harus direservasi secara ketat oleh Process COE hanya untuk node dalam Graph Workflows yang benar-benar membutuhkan penalaran multi-langkah yang kompleks, memastikan bahwa setiap dolar yang dihabiskan secara langsung berkontribusi pada ROI struktural perusahaan.