Google Cloud Rancang Arsitektur Agen AI yang Bisa Berevolusi Sendiri

Google Cloud memaparkan arsitektur referensi riset bersandi Project Chrysalis yang memungkinkan agen kecerdasan buatan berevolusi sendiri ketika menangani gangguan pada layanan produksi. Arsitektur itu berjalan di atas Gemini platform dan Agent Development Kit (ADK), serta diuji lewat simulasi gangguan cache stampede bertema Black Friday.

Dalam simulasi tersebut, arsitektur dengan tata kelola ketat itu memangkas waktu mitigasi pertama dari 15 sampai 45 menit menjadi 1,8 detik. Tingkat galat HTTP 5xx turun dari 72,7 persen sampai 80,0 persen menjadi 0,0 persen, sedangkan latensi P99 membaik dari 519,8 milidetik menjadi 18,2 milidetik. Sistem itu juga mengevaluasi 400 kebijakan lalu lintas kontrafaktual di BigQuery dalam waktu sekitar 0,5 milidetik.

Mengapa agen perlu berevolusi

Platform cloud enterprise yang melayani jutaan pengguna secara bersamaan rentan mengalami kegagalan berantai. Pada peristiwa berkecepatan tinggi seperti flash sale Black Friday, tim Site Reliability Engineer (SRE) harus mendiagnosis telemetri terdistribusi yang bising dalam hitungan detik atau menanggung pemadaman beruntun yang menelan biaya besar per menit.

Copilot AI generatif memang telah mempercepat penulisan kode dan peringkasan log, tetapi agen AI masih sulit memperbaiki gangguan produksi secara andal. Menurut paparan itu, engineer yang sedang berjaga dan menghadapi connection pool starvation tidak membutuhkan agen yang menawarkan tips atau pull request yang belum terverifikasi. Yang dibutuhkan adalah sistem AI dengan tata kelola yang mampu:

• mendiagnosis akar masalah terdistribusi di lapisan cache dan basis data secara waktu nyata,
• menambal dirinya sendiri dengan menyintesis, memverifikasi, dan memasang alat mitigasi ke middleware server yang sedang berjalan,
• mengkritik dirinya sendiri dengan menghitung kredit marjinal setiap tindakan,
• mengingat dengan menyaring invarian operasional bertanda tangan kriptografis ke memori semantik, dan
• merancang ulang hierarki multi-agennya sendiri di memori dengan persetujuan manusia.

Tiga pilar riset

Arsitektur ini menyatukan tiga terobosan riset untuk menjawab Trilemma SRE, yakni keseimbangan antara keamanan eksplorasi, kemampuan adaptasi struktural, dan penilaian kredit multi-langkah.

Serverless Counterfactual Simulation (Dream-RSI)

Jejak permintaan produksi diekspor ke Google BigQuery. Mesin itu memutar ulang ratusan kandidat konfigurasi token bucket dalam sapuan memori tervektorisasi di bawah satu milidetik untuk menemukan kebijakan Pareto-optimal secara offline, tanpa risiko menjerat pendapatan yang sah atau memicu pemadaman baru.

Tri-Level Co-Evolution (APEX)

Evolusi agen dipisahkan ke dalam tiga skala waktu. Lapisan pertama, ephemeral hotpatching, menyintesis dan memasang alat middleware di memori untuk menghentikan gangguan aktif dalam hitungan detik. Lapisan kedua, principle distillation, mengodekan pelajaran bertanda tangan Cloud KMS ke Agent Platform Vector Search agar tindakan yang dikontraindikasikan diblokir pada peringatan berikutnya. Lapisan ketiga, topology rewiring, menambahkan sub-agen spesialis permanen ke dalam Directed Acyclic Graph (DAG) multi-agen yang aktif.

Step-Level Shapley Attribution (AgentEvolver)

AgentEvolver menghitung kredit Shapley marjinal pada setiap rentang eksekusi dengan memakai selisih telemetri sebelum dan sesudah intervensi, yaitu latensi P99, laju HTTP 5xx, dan saturasi pool basis data, sehingga tambalan yang bermanfaat dapat dipisahkan dari yang keliru.

Empat fase demonstrasi

Arsitektur ini diimplementasikan sebagai aplikasi interaktif di Gemini platform yang memperlihatkan alur kerja tertutup antara layanan target produksi, bidang multi-agen ADK, mesin evolusi diri, dan pipeline tata kelola pertahanan berlapis.

Fase 1: Gangguan ingress dan garis dasar SRE

Setelah baseline hangat dengan 5 permintaan, lonjakan flash sale sebanyak 50 permintaan bersamaan menghantam 15 kunci inventaris dingin. Rasio hit Memorystore anjlok dari 100 persen ke 0,0 persen, pool koneksi Cloud SQL mencapai saturasi 100 persen dengan 2 dari 2 koneksi aktif terkunci, latensi P99 melonjak ke 312,8 sampai 519,8 milidetik, dan galat HTTP 500 naik ke 72,7 persen sampai 80,0 persen atau 40 checkout gagal.

Fase 2: Triase cepat ADK dan hotpatch APEX lapisan 1

Peringatan telemetri membangunkan ADK Supervisor Router Agent yang digerakkan Gemini 4 Argon, setelah Model Armor memeriksa muatan peringatan untuk memblokir prompt injection. APEX Layer 1 Hotpatch Synthesizer lantas menghasilkan pembatas laju token bucket di memori berkapasitas 10 token dengan pengisian ulang 40,0 permintaan per detik. Sebelum dipasang ke middleware API Gateway, tambalan melewati tiga gerbang otomatis: AST Sandbox Visitor memastikan tidak ada modul sistem terlarang, OPA Policy Controller memastikan laju pengisian ulang memenuhi SLA minimum perusahaan sebesar minimal 10,0 permintaan per detik, dan Cloud KMS bersama Binary Authorization menandatangani digest artefak EC_SIGN_P256_SHA256.

Pada lonjakan kedua sebanyak 50 permintaan, galat HTTP 500 turun ke 0,0 persen, saturasi pool Cloud SQL turun dari 100 persen ke 0 persen, latensi P99 pulih ke 18,2 milidetik, dan lalu lintas berlebih dibuang lewat HTTP 429, dengan 40 permintaan dibatasi dan 10 dilayani dari cache hangat.

Fase 3: Atribusi AgentEvolver dan persetujuan manusia

AgentEvolver mengaudit rentang eksekusi insiden, memberi penalti pada refleks memulai ulang basis data yang sempat melonjakkan latensi ke 3.800 milidetik, dan memberi kredit 0,97 pada tambalan token bucket. APEX Layer 2 Principle Distiller menandatangani dan mengindeks aturan operasional ke Gemini Platform Vector Search: "Cache eviction stampede: database restart contraindicated; apply token-bucket load shedding."

Sistem kemudian mengusulkan pembaruan struktural Tier-2 berupa pengangkatan Traffic Shaping Specialist Agent permanen. Eksekusi berhenti dan memunculkan Dual-Custody SRE Approval Modal yang menuntut persetujuan eksplisit dari SRE yang sedang bertugas. Setelah token persetujuan kriptografis diterbitkan, APEX Layer 3 Cloud Topology Adapter melakukan pembaruan DAG di memori: menginstansiasi agen spesialis di RAM, menambahkannya sebagai peer paralel di samping Diagnostic Agent, dan memperbarui instruksi perutean supervisor tanpa memulai ulang kontainer.

Fase 4: Replay kontrafaktual BigQuery

Jejak permintaan insiden mengalir ke Google BigQuery, tempat BigQuery Counterfactual Replay Engine menjalankan 400 simulasi kebijakan kontrafaktual atas berbagai kapasitas token dan laju pengisian ulang. Replay memori tervektorisasi menyelesaikan seluruh 400 sapuan dalam sekitar 0,5 milidetik dan menemukan kebijakan Pareto-optimal, yaitu kapasitas 5 token, laju 5,0 permintaan per detik, dan nol galat 5xx. Terakhir, Curiosity Chaos Red-Team Agent menguji sistem hasil evolusi di sandbox bayangan terisolasi dengan menghapus 100 persen cache dan melepaskan 200 permintaan bersamaan.

Pagar keamanan berlapis

Arsitektur ini tidak beroperasi sebagai kotak hitam tanpa batas. Setiap tindakan otonom dibatasi secara kriptografis oleh tumpukan keamanan pertahanan berlapis Google Cloud. Model Armor membersihkan telemetri masuk dari prompt injection dan kebocoran data. Cloud KMS dan middleware Binary Authorization menandatangani tambalan hasil sintesis serta memblokir kode yang belum terverifikasi. OPA Policy Controller menegakkan rambu SLA yang ketat agar tidak terjadi pemadaman akibat kesalahan sendiri. Dual-Custody Human-in-the-Loop mewajibkan persetujuan SRE sebelum ada perubahan permanen pada hierarki agen.

Sumber: Google Developers Blog