Kenapa AI Malas Mikir? Memahami Fenomena Tool Overuse pada LLM

Pernah nggak sih kamu lihat AI yang ditanya hal simpel malah buka kalkulator atau search engine? Padahal jawabannya udah jelas ada di 'kepalanya'. Fenomena ini namanya tool overuse, dan ternyata lebih umum dari yang kita kira.

Penelitian terbaru dari arXiv CS.AI ngebongkar dua alasan kenapa LLM suka 'malas mikir' dan langsung andelin external tools.

Pertama, ada yang namanya knowledge epistemic illusion. Intinya, AI ini nggak bisa bedain dengan akurat: apa yang dia bener-bener tahu vs apa yang dia nggak tahu. Dia sering kali merasa 'kurang yakin' padahal sebenarnya jawabannya udah ada di training data-nya.

Bayangin kamu ditanya "2+2 berapa?" terus kamu malah buka calculator. Kocak kan? Tapi itulah yang sering terjadi pada LLM modern.

Untuk ngatasin ini, para peneliti nyoba strategi namanya knowledge-aware epistemic boundary alignment pakai direct preference optimization. Hasilnya? Tool usage turun 82,8% dan akurasi malah naik. Jadi nggak cuma lebih hemat, tapi juga lebih bener.

Kedua, masalahnya ada di cara AI dilatih. Kebanyakan model dilatih pakai outcome-only rewards — artinya yang penting jawaban akhir bener, nggak peduli prosesnya efisien atau nggak.

Para peneliti visualisasi training process dan nemu kalau reward structure ini secara nggak langsung 'ngebujuk' AI untuk pakai tool sebanyak-banyaknya. Kenapa? Karena pakai tool = lebih aman = lebih besar kemungkinan jawaban bener = dapat reward.

Mereka then verify ini dengan nge-balance reward signals selama training. Hasilnya impressive: unnecessary tool calls turun 66,7% untuk model 7B dan 60,7% untuk model 32B, tanpa ngurangin akurasi sama sekali.

Jadi intinya, AI yang 'overtooling' ini bukan karena emang bodoh, tapi karena sistem training-nya yang nge-reward perilaku konservatif dan defensive.

Practical takeaway buat kamu yang develop atau pake AI: pertimbangkan untuk fine-tune model dengan balanced rewards, bukan cuma outcome-based. Dan kalau bisa, tambahkan self-assessment mechanism biar AI tahu kapan dia bener-bener butuh tool vs kapan cukup pakai internal knowledge.

Tool overuse ini sebenarnya symptom dari masalah lebih besar: AI yang nggak punya metacognition yang baik. Mereka nggak 'introspeksi' dengan akurat. Solusi yang ditawarkan penelitian ini — epistemic boundary alignment dan balanced rewards — bisa jadi template buat bikin AI yang lebih efisien dan lebih 'paham diri'.