Agen AI dan Pemanggilan Alat: Mengapa Orkestrasi Lebih Sulit daripada Modelnya

Kemampuan model bahasa memanggil fungsi eksternal mengubahnya dari mesin penjawab menjadi komponen yang dapat bertindak. Namun pengalaman membangun sistem semacam ini menunjukkan pola yang konsisten: kegagalan jarang berasal dari model yang kurang pintar, melainkan dari perencanaan dan penanganan galat di sekelilingnya.

Apa yang sebenarnya terjadi saat model memanggil alat

Model tidak menjalankan apa pun. Ia menghasilkan teks terstruktur yang menyatakan niat memanggil fungsi tertentu dengan argumen tertentu. Kode di sekelilingnyalah yang membaca niat itu, menjalankan fungsi sungguhan, dan mengembalikan hasilnya ke dalam percakapan.

Perbedaan ini penting karena menempatkan tanggung jawab pada tempat yang benar. Validasi argumen, pembatasan izin, dan penanganan kegagalan sepenuhnya berada di sisi aplikasi. Model yang menghasilkan argumen tidak valid adalah kejadian yang harus diantisipasi, bukan anomali.

Kegagalan yang paling sering muncul

Tiga pola berulang. Pertama, model memanggil alat yang sama berkali-kali karena hasil pertama tidak dipahaminya sebagai jawaban — biasanya karena keluaran alat terlalu panjang atau formatnya tidak jelas. Kedua, model menyerah terlalu cepat ketika sebuah panggilan mengembalikan galat, lalu mengarang jawaban seolah panggilan itu berhasil.

Ketiga, dan paling merepotkan, model memanggil rangkaian alat yang secara individual benar tetapi secara keseluruhan tidak menyelesaikan persoalan. Ia kehilangan arah di tengah tugas panjang karena riwayat percakapan menjadi terlalu panjang dan instruksi awal tenggelam.

Pola perancangan yang membantu

Deskripsi alat adalah antarmuka yang paling menentukan. Nama fungsi yang jelas, parameter yang sedikit, dan penjelasan singkat tentang kapan alat itu tidak boleh dipakai memberi pengaruh jauh lebih besar daripada memperbesar model.

Keluaran alat sebaiknya ringkas dan konsisten. Mengembalikan seluruh objek JSON berisi lima puluh medan memaksa model menyaring informasi yang tidak relevan; mengembalikan tiga medan yang dibutuhkan menghasilkan keputusan yang jauh lebih tepat.

Galat harus dikembalikan sebagai pesan yang dapat ditindaklanjuti. "Gagal" tidak memberi model jalan keluar; "tanggal harus dalam format YYYY-MM-DD" memungkinkan perbaikan pada percobaan berikutnya.

Batas otonomi yang perlu ditetapkan

Sistem agen yang berjalan tanpa batas iterasi adalah sistem yang suatu saat akan berputar tanpa henti. Tetapkan jumlah langkah maksimum, dan perlakukan pencapaian batas itu sebagai kegagalan yang dilaporkan, bukan sebagai kondisi yang diabaikan.

Untuk tindakan yang sulit dibatalkan — mengirim surel, memindahkan dana, menghapus data — konfirmasi manusia bukan kemunduran melainkan perancangan yang benar. Biaya satu konfirmasi jauh lebih kecil daripada biaya satu tindakan salah yang tidak dapat ditarik kembali.

Mengukur sebelum memperbesar

Godaan terbesar ketika sistem agen berperilaku buruk adalah mengganti ke model yang lebih besar. Dalam banyak kasus, perbaikan yang sama dapat dicapai dengan memperjelas deskripsi alat dan merapikan keluarannya — dengan biaya per panggilan yang tidak bertambah sama sekali.

Bangun rangkaian kasus uji yang mewakili tugas nyata, jalankan setiap perubahan terhadapnya, dan catat tingkat keberhasilannya. Tanpa ukuran tersebut, setiap penyesuaian prompt hanyalah tebakan yang terasa membaik.