Kenapa AI Agent Kita Perlu Lebih "Mekanis" dan Kurang "Manusiawi"

Pernah pakai AI agent yang jawabannya kayak chat sama teman? Awalnya seru, tapi lama-lama bikin pusing.

Kamu nggak tahu dia beneran ngerti atau cuma ngasih jawaban yang kelihatan meyakinkan. Itu yang disebut over-anthropomorphization—ngasih sifat manusia ke sesuatu yang sebenarnya cuma algoritma.

Masalahnya, AI yang terlalu 'manusiawi' sering nutupin keterbatasannya. Kamu jadi ekspektasi terlalu tinggi, padahal sistemnya belum tentu bisa handle.

Bayangin deh. Kamu minta AI agent bantu reschedule meeting. Yang human-like bakal jawab: "Oke, aku cek dulu ya, sebentar... hmm, kayaknya bisa nih, aku coba urusin."

Terus? Kamu nunggu. Nggak tahu progress-nya di mana. Nggak tahu stuck di step mana. Frustasi kan?

Sekarang bandingin sama AI yang mekanis dan transparan. "Step 1: Cek kalender kamu. Step 2: Cek kalender peserta lain. Step 3: Temukan slot kosong. Step 4: Kirim undangan."

Jelas. Prediktabil. Kamu tahu persis sistemnya lagi ngapain. Kalau stuck, kamu juga tahu di mana.

Desain kayak gini namanya mechanical transparency. Nggak usah dibuat 'pintar' atau 'ramah'. Cukup jujur soal cara kerjanya.

Contoh nyata? GitHub Copilot. Dia nggak pura-pura ngerti konteks besar proyek kamu. Dia cuma kasih suggestion berdasarkan pattern kode yang ada. Transparan. Efektif.

Atau sistem booking yang langsung bilang: "Tidak ada slot di minggu ini. Coba range tanggal lain?" Nggak ada basa-basi. Langsung to the point.

Praktikal takeaway-nya gini: kalau kamu lagi desain atau pilih AI agent, tanya diri sendiri. Apakah interface-nya jujur soal keterbatasannya? Apakah kamu bisa trace step-by-step apa yang lagi terjadi?

Jangan terpikat sama demo yang kelihatan 'smart' tapi black box. Lebih baik sistem yang kelihatan 'dumb' tapi kamu bisa andelin.

Di dunia AI yang makin ramai, transparansi itu fitur. Bukan bug.