Pendahuluan

Bayangkan Anda diminta membuat asisten internal untuk tim keuangan. Asisten itu harus dapat membaca dokumen kebijakan perusahaan, menjawab pertanyaan karyawan, menghitung simulasi reimbursement, memeriksa apakah sebuah klaim sesuai aturan, lalu membuat draf balasan yang sopan. Jika hanya berupa chatbot biasa, ia mungkin cukup menjawab teks berdasarkan percakapan. Namun kebutuhan tadi lebih luas: ia harus mengambil informasi dari sumber tepercaya, memakai kalkulator, memanggil API, mengingat konteks percakapan, mengikuti aturan keamanan, meminta persetujuan manusia pada keputusan tertentu, dan meninggalkan jejak audit.

Sistem seperti inilah yang dalam buku ini kita sebut agen AI.

Secara paling dasar, sebuah agen adalah sistem yang menerima informasi dari lingkungannya, lalu memilih tindakan untuk mencapai tujuan tertentu. Dalam buku teks klasik kecerdasan buatan, agen dijelaskan sebagai entitas yang mengamati lingkungan melalui sensor dan bertindak melalui aktuator; gagasan ini menjadi fondasi konseptual untuk banyak sistem AI modern, meskipun pada agen perangkat lunak “sensor” dapat berupa input pengguna, dokumen, log, atau respons API, sedangkan “aktuator” dapat berupa pemanggilan fungsi, penulisan file, pengiriman email, atau pembuatan tiket kerja (Russell & Norvig, 2021). Agen AI adalah agen yang sebagian kemampuan pengambilan keputusannya dibantu oleh teknik kecerdasan buatan, khususnya model bahasa besar atau large language model yang selanjutnya akan sering kita sebut LLM.

LLM membuat gelombang baru dalam rekayasa perangkat lunak karena ia dapat bekerja dengan bahasa alami, kode, dokumen, tabel, dan instruksi yang tidak selalu kaku. Arsitektur transformer, yang memperkenalkan mekanisme attention sebagai cara model menimbang bagian-bagian penting dari urutan input, menjadi salah satu fondasi teknis utama bagi banyak LLM modern (Vaswani et al., 2017). Model seperti GPT-3 menunjukkan bahwa model bahasa berskala besar dapat melakukan berbagai tugas bahasa dengan sedikit contoh dalam prompt, sebuah pola yang kemudian mendorong banyak eksperimen dan produk berbasis LLM (Brown et al., 2020). Namun, kemampuan menghasilkan teks saja belum cukup untuk membangun sistem produksi yang aman dan berguna. Di sinilah rekayasa agen AI menjadi disiplin praktis yang penting.

Buku ini ditulis untuk membantu Anda bergerak dari pemahaman dasar menuju kemampuan membangun agen AI yang dapat dipakai secara nyata: agen yang memiliki arsitektur jelas, dapat diuji, dapat dipantau, dapat diamankan, dan dapat diperbaiki ketika gagal.

Mengapa agen AI penting sekarang?

Perangkat lunak tradisional biasanya bekerja dengan instruksi yang sangat eksplisit. Jika pengguna menekan tombol tertentu, sistem menjalankan prosedur tertentu. Jika data memiliki format tertentu, sistem memprosesnya dengan aturan tertentu. Pola ini tetap penting dan tidak akan hilang. Banyak sistem terbaik justru dibangun dari komponen deterministik yang jelas: validasi input, transaksi database, antrean kerja, autentikasi, otorisasi, logging, dan pengujian otomatis.

Masalahnya, banyak pekerjaan manusia tidak datang dalam bentuk input yang rapi.

Seorang analis mungkin menerima pertanyaan seperti, “Tolong cek apakah tren penjualan bulan ini aneh dibanding tiga bulan terakhir, lalu buat ringkasan untuk rapat.” Seorang staf customer support mungkin menerima pesan seperti, “Saya sudah bayar, tapi status pesanan belum berubah. Bisa dibantu?” Seorang software engineer mungkin diminta, “Cari penyebab test ini gagal, buat patch kecil, lalu jelaskan risikonya.” Setiap tugas tersebut membutuhkan pemahaman konteks, pencarian informasi, pemilihan langkah, pemanggilan alat, dan komunikasi hasil.

Agen AI mencoba menjembatani ruang tersebut. Ia tidak sekadar menjawab satu pertanyaan, tetapi dapat menjalankan rangkaian aksi. Misalnya:

• agen dukungan pelanggan mengambil riwayat pesanan, membaca kebijakan refund, lalu menyusun jawaban;
• agen data membuat query SQL, menjalankannya pada database replika, memeriksa hasilnya, lalu menjelaskan insight;
• agen coding membaca issue, menelusuri repository, mengubah file, menjalankan test, lalu membuat ringkasan perubahan;
• agen riset mengambil dokumen, melakukan retrieval, membandingkan sumber, lalu menyusun ringkasan dengan sitasi.

Namun, semakin besar kemampuan bertindak sebuah agen, semakin besar pula risiko yang harus dikelola. Agen yang dapat membaca dokumen pribadi harus menghormati privasi. Agen yang dapat menjalankan kode harus dibatasi dengan sandbox. Agen yang dapat mengirim email harus memiliki permissioning dan, pada kondisi tertentu, persetujuan manusia. Agen yang dapat mengakses database harus dibatasi agar tidak membocorkan data sensitif. Panduan seperti NIST AI Risk Management Framework menekankan bahwa sistem AI perlu dikelola dari sisi validitas, keamanan, akuntabilitas, transparansi, dan tata kelola risiko sepanjang siklus hidupnya (NIST, 2023). Dalam konteks LLM, komunitas keamanan juga menyoroti risiko khusus seperti prompt injection, kebocoran data, output tidak aman, dan penyalahgunaan tool pada aplikasi berbasis model bahasa (OWASP Foundation, 2025).

Karena itu, buku ini tidak memperlakukan agen AI sebagai “LLM yang diberi prompt panjang”. Agen AI produksi adalah sistem perangkat lunak. Ia membutuhkan desain, kontrak data, evaluasi, observability, deployment, dan tata kelola.

Dari chatbot menuju sistem agentik

Istilah chatbot, copilot, workflow, dan agent sering bercampur dalam percakapan sehari-hari. Pada tahap awal, cukup pahami perbedaannya melalui contoh.

Chatbot sederhana menerima pesan dan membalas pesan. Jika Anda bertanya, “Apa itu invoice?”, chatbot menjawab dengan penjelasan. Ia mungkin tidak mengambil tindakan apa pun di luar percakapan.

Copilot membantu pengguna saat pengguna tetap memegang kendali. Misalnya, asisten coding yang menyarankan fungsi Python, tetapi engineer tetap membaca, memilih, mengubah, dan menjalankan kode. Copilot mempercepat pekerjaan, tetapi tidak sepenuhnya mengambil alih alur kerja.

Workflow adalah rangkaian langkah yang dirancang sebelumnya. Misalnya, setiap tiket refund selalu melewati langkah: validasi nomor pesanan, cek status pembayaran, cek umur transaksi, lalu tampilkan keputusan. Workflow bisa memakai LLM pada salah satu langkahnya, tetapi struktur besarnya tetap ditentukan oleh engineer.

Agen AI berada di antara fleksibilitas dan kendali. Ia dapat memilih langkah berikutnya berdasarkan tujuan, konteks, hasil tool, dan aturan yang diberikan. Dalam pendekatan seperti ReAct, model bahasa dapat menggabungkan penalaran verbal dengan tindakan eksternal, misalnya mencari informasi, mengamati hasil, lalu menentukan langkah berikutnya (Yao et al., 2023). Akan tetapi, agen yang baik tidak berarti agen yang bebas tanpa batas. Agen yang baik adalah agen yang mampu bertindak dalam batas yang jelas.

Contoh sederhana: pengguna bertanya, “Berapa total pengeluaran perjalanan saya bulan lalu?” Agen yang sehat tidak menebak. Ia perlu:

1. memahami maksud pengguna;
2. memeriksa apakah pengguna berhak mengakses data tersebut;
3. mengambil data transaksi dari sumber yang benar;
4. menghitung total secara deterministik, bukan mengandalkan perkiraan teks;
5. menjelaskan hasil dengan format yang dapat diperiksa;
6. mencatat operasi penting untuk audit.

Di sini LLM berguna untuk memahami bahasa dan menyusun respons, tetapi perhitungan sebaiknya dilakukan oleh kode biasa. Inilah salah satu pola utama dalam buku ini: gunakan LLM untuk hal yang cocok bagi LLM, gunakan perangkat lunak deterministik untuk hal yang perlu pasti.

Apa yang akan Anda pelajari

Buku ini disusun sebagai jalur belajar bertahap. Kita mulai dari fondasi konseptual, lalu masuk ke keterampilan teknis, kemudian membangun sistem yang lebih besar dan siap produksi.

Pada bagian awal, Anda akan mempelajari apa itu agen AI, mengapa LLM menjadi komponen penting, dan bagaimana model bahasa bekerja secara konseptual. Kita tidak akan menurunkan seluruh matematika transformer secara formal, tetapi kita akan membangun intuisi teknis yang cukup kuat agar Anda memahami istilah seperti tokenisasi, embedding, attention, context window, sampling, fine-tuning, dan alignment. Pemahaman ini penting karena engineer yang tidak memahami batas model cenderung membangun sistem yang rapuh.

Setelah itu, kita masuk ke prompt engineering. Dalam buku ini, prompt engineering bukan seni menebak mantra. Prompt engineering adalah proses merancang instruksi, konteks, contoh, batasan, dan format keluaran agar model dapat bekerja secara lebih konsisten. Misalnya, alih-alih menulis “Ringkas dokumen ini,” kita dapat menulis instruksi yang menjelaskan audiens, panjang ringkasan, poin yang wajib ada, hal yang tidak boleh disimpulkan tanpa sumber, dan format JSON yang harus dihasilkan.

Kemudian kita membahas pemrograman untuk agen AI. Anda akan melihat mengapa Python, API, JSON, asynchronous programming, logging, testing, dan environment management menjadi keterampilan inti. Agen AI adalah sistem yang bergerak melalui banyak komponen: model, tool, database, penyimpanan file, antrean, dan UI. Tanpa disiplin rekayasa perangkat lunak, prototipe yang tampak pintar akan sulit dipercaya di produksi.

Bagian tengah buku membangun arsitektur agen: model, instruksi, state, memory, tool, planner, executor, evaluator, guardrail, dan event loop. Istilah-istilah ini akan kita definisikan dari awal. Untuk sementara, pahami state sebagai informasi sementara yang menggambarkan kondisi kerja saat ini, memory sebagai informasi yang disimpan agar dapat dipakai kembali, tool sebagai kemampuan eksternal yang bisa dipanggil agen, dan guardrail sebagai mekanisme pembatas agar sistem tetap berada dalam aturan yang diinginkan.

Kita juga akan mempelajari Retrieval-Augmented Generation atau RAG. RAG adalah pendekatan yang menggabungkan model generatif dengan sistem retrieval, yaitu sistem yang mencari dokumen atau potongan informasi relevan sebelum model menjawab. Pendekatan ini dipelajari secara luas karena dapat membantu model menggunakan sumber eksternal alih-alih hanya mengandalkan parameter internalnya (Lewis et al., 2020). Contohnya, agen kebijakan HR sebaiknya mengambil pasal kebijakan terbaru dari knowledge base sebelum menjawab pertanyaan cuti, bukan menjawab dari ingatan model yang mungkin usang.

Setelah agen dapat memakai tool dan mengambil pengetahuan, tantangan berikutnya adalah membuatnya andal. Kita akan membahas workflow agentik, multi-agent systems, evaluasi, observability, debugging, tracing, keamanan, privasi, dan tata kelola. Bagian ini penting karena banyak kegagalan agen AI bukan terjadi pada demo, melainkan ketika sistem berhadapan dengan variasi input nyata, data kotor, pengguna jahil, latensi tinggi, perubahan API, atau biaya inference yang membengkak.

Pada bagian akhir, kita menerapkan pola-pola tersebut untuk kasus nyata: agen data dan analitik, agen coding, agen percakapan produksi, deployment, MLOps, desain produk, dan proyek akhir end-to-end. Tujuannya bukan hanya agar Anda tahu konsep, tetapi agar Anda mampu merancang sistem lengkap: dari kebutuhan pengguna hingga evaluasi dan operasi produksi.

Cara berpikir yang akan dipakai di buku ini

Ada tiga cara berpikir yang akan terus muncul.

Pertama, pisahkan kemampuan bahasa dari kebenaran operasional. LLM sangat kuat dalam memahami dan menghasilkan teks, tetapi teks yang lancar tidak otomatis benar. Jika agen harus menghitung pajak, gunakan fungsi perhitungan yang diuji. Jika agen harus mengetahui saldo, ambil dari database resmi. Jika agen harus menyebut kebijakan, tampilkan sumber. Kemampuan bahasa membantu antarmuka dan interpretasi, tetapi kebenaran sering harus dijamin oleh data, kode, validasi, dan evaluasi.

Kedua, desain agen sebagai sistem yang dapat diamati. Sistem yang tidak dapat diamati sulit diperbaiki. Ketika agen gagal, Anda perlu tahu prompt apa yang dipakai, tool apa yang dipanggil, input apa yang diberikan ke tool, output apa yang diterima, berapa token yang digunakan, berapa latensinya, dan guardrail mana yang aktif. Karena itu, observability bukan tambahan belakangan. Ia bagian dari desain.

Ketiga, mulai dari batasan, bukan dari kebebasan. Banyak demo agen terlihat menarik karena agen diberi banyak kebebasan. Tetapi di produksi, kebebasan tanpa batas adalah risiko. Engineer yang baik bertanya: tindakan apa yang boleh dilakukan agen? data apa yang boleh dilihat? kapan harus meminta konfirmasi manusia? bagaimana mencegah tool misuse? bagaimana memulihkan sistem jika terjadi kegagalan? Pertanyaan-pertanyaan ini membuat agen lebih berguna, bukan kurang berguna.

Contoh orientasi: agen analis spreadsheet

Untuk membuat arah buku ini lebih konkret, mari gunakan contoh kecil yang akan mudah Anda bayangkan.

Seorang manajer mengunggah spreadsheet penjualan dan bertanya:

“Tolong cari produk yang penjualannya turun paling tajam bulan ini, jelaskan kemungkinan penyebabnya, dan buat ringkasan untuk rapat besok.”

Agen yang buruk mungkin langsung menjawab dengan kalimat meyakinkan tanpa benar-benar menghitung. Agen yang lebih baik akan menjalankan langkah-langkah berikut:

• membaca struktur spreadsheet;
• mengenali kolom tanggal, produk, wilayah, dan nilai penjualan;
• membersihkan data jika ada nilai kosong atau format tanggal tidak konsisten;
• menghitung perubahan penjualan antarbukan;
• mengidentifikasi produk dengan penurunan terbesar;
• mungkin mengambil catatan promosi atau stok dari sumber lain;
• menyusun ringkasan dengan angka yang dapat diverifikasi;
• memberi peringatan jika data tidak cukup untuk menyimpulkan penyebab.

Perhatikan bahwa hanya sebagian dari pekerjaan ini berupa “menulis jawaban”. Banyak bagiannya adalah rekayasa data, validasi, pemanggilan tool, dan pengendalian kualitas. Inilah inti rekayasa agen AI: menggabungkan kecerdasan model dengan struktur perangkat lunak yang dapat dipercaya.

Apa yang tidak dijanjikan buku ini

Buku ini tidak menjanjikan bahwa agen AI dapat menggantikan semua proses bisnis atau semua pekerjaan manusia. Klaim seperti itu terlalu luas dan sering menyesatkan. Banyak tugas tetap lebih baik diselesaikan dengan formulir, aturan deterministik, otomasi sederhana, atau dashboard biasa. Agen AI tepat digunakan ketika ada kombinasi kebutuhan bahasa alami, konteks yang bervariasi, pengambilan keputusan bertahap, integrasi tool, dan nilai ekonomi yang cukup untuk menanggung kompleksitasnya.

Buku ini juga tidak mengajarkan bahwa satu framework tertentu adalah jawaban untuk semua masalah. Framework dapat membantu, tetapi konsep lebih tahan lama daripada API. Anda akan belajar pola yang dapat diterapkan dengan berbagai stack: model hosted API, model open-weight, vector database, message queue, serverless, container, atau sistem internal perusahaan.

Terakhir, buku ini tidak menganggap LLM sebagai kotak ajaib. Kita akan memperlakukannya sebagai komponen probabilistik. Probabilistik berarti hasilnya melibatkan ketidakpastian; dua pemanggilan dengan pengaturan sampling tertentu dapat menghasilkan jawaban berbeda. Karena itu, kita perlu desain evaluasi, retry, fallback, batas izin, dan observability. Jika perangkat lunak tradisional sering bertanya “apakah fungsi ini benar?”, sistem berbasis LLM juga bertanya “seberapa sering sistem ini berhasil pada distribusi kasus yang penting, dengan biaya dan risiko yang dapat diterima?”

Prasyarat dan sikap belajar

Buku ini ditujukan untuk tingkat sarjana. Anda tidak harus menjadi peneliti machine learning, tetapi Anda akan terbantu jika sudah mengenal dasar pemrograman, struktur data sederhana, HTTP API, dan konsep database. Jika belum, jangan khawatir. Bab-bab awal dan Bab 5 akan membangun banyak keterampilan praktis dari dasar.

Sikap belajar yang paling penting adalah teliti. Agen AI sering gagal bukan karena idenya buruk, tetapi karena detail kecil diabaikan: schema output tidak divalidasi, prompt berubah tanpa versioning, tool terlalu bebas, data retrieval tidak menyertakan metadata, atau evaluasi hanya dilakukan dengan tiga contoh mudah. Dalam rekayasa agen AI, detail adalah bagian dari keselamatan sistem.

Bacalah buku ini seperti Anda sedang membangun sesuatu. Setelah memahami satu konsep, tanyakan:

• contoh kecil apa yang bisa saya buat?
• kegagalan apa yang mungkin terjadi?
• bagaimana saya mengujinya?
• bagaimana saya tahu sistem membaik?
• data apa yang tidak boleh disentuh agen?
• kapan manusia harus ikut mengambil keputusan?

Pertanyaan-pertanyaan ini akan membuat pembelajaran Anda lebih produktif daripada sekadar mengikuti tren.

Peta perjalanan

Perjalanan kita akan bergerak dari “apa itu agen” menuju “bagaimana mengoperasikan agen dengan bertanggung jawab”. Bab 1 memperjelas konsep agen AI dan kapan pendekatan ini tepat. Bab 2 dan Bab 3 membangun fondasi AI modern dan LLM. Bab 4 sampai Bab 8 memberi Anda alat kerja harian: prompt, Python, tool use, function calling, structured output, dan kontrak data. Bab 9 sampai Bab 13 memperluas kemampuan agen melalui RAG, memory, planning, workflow, dan multi-agent systems. Bab 14 sampai Bab 17 memastikan sistem dapat dievaluasi, diamati, diamankan, dan dikelola secara etis. Bab 18 sampai Bab 23 membawa Anda ke optimisasi, use case produksi, deployment, dan desain produk. Bab 24 menggabungkan semuanya dalam proyek akhir end-to-end.

Jika Anda membaca sampai akhir dan mengerjakan latihan serta proyek dengan serius, tujuan utamanya bukan hanya “bisa memakai LLM API”. Tujuannya adalah menjadi engineer yang mampu mengambil masalah nyata, menentukan apakah agen AI memang tepat, merancang arsitektur yang masuk akal, membangun prototipe, mengujinya, mengamankannya, menerapkannya, dan memperbaikinya berdasarkan data.

Itulah inti dari Rekayasa Agen AI.

Kita mulai dari pertanyaan paling dasar: apa sebenarnya agen AI, dan mengapa ia berbeda dari chatbot biasa?

References

Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., … Amodei, D. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1901.

Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W.-t., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems, 33, 9459–9474.

NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1

OWASP Foundation. (2025). OWASP Top 10 for Large Language Model Applications. https://owasp.org/www-project-top-10-for-large-language-model-applications/

Russell, S., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.

Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing reasoning and acting in language models. International Conference on Learning Representations.