Bongkar Cara Bikin Penjelasan AI yang Bikin Kamu Paham, Bukan Cuma Kebingungan

Kamu pasti pernah liat AI ngasih jawaban yang keren, tapi pas ditanya kenapa, jawabannya malah bikin kepala pusing. Nah, artikel ini ngebahas gimana sih sebenarnya penjelasan yang “bagus” itu harusnya kayak apa.

Penjelasan yang bagus udah lama jadi perdebatan filosofi—apa sih yang bikin penjelasan itu memuaskan? Di dunia AI, masalah ini makin penting karena orang mau tau AI ngapa ngelakuin sesuatu sebelum mereka percaya atau pakai teknologi itu.

Penulis ngusulin definisi baru yang diambil dari konsep “counterfactual explanations”. Intinya, penjelasan harus bisa ngasih contoh “kalo ini beda, hasilnya bakal beda juga”. Tapi mereka nambahin satu twist: harus liat dulu apa yang udah kamu percayai tentang fakta-fakta yang bakal diomongin.

Misalnya, AI bilang “produk X bagus karena bahan A”. Kalau kamu udah yakin bahan A itu ramah lingkungan, penjelasan itu terasa masuk akal. Tapi kalau kamu skeptis soal bahan A, penjelasan itu malah bikin kamu curiga. Jadi, penjelasan harus menyesuaikan dengan “prior beliefs” kamu.

Kenapa ini penting buat LLM (Large Language Model)? Karena LLM biasanya ngeluarin teks yang kelihatan logis, tapi seringnya nggak nyambung sama apa yang pembaca udah tahu atau percayai. Akibatnya, penjelasan yang dihasilin jadi terasa “kosong” atau “nggak nyambung”.

Penulis juga ngejelasin tantangan teknis: LLM susah ngukur apa yang udah ada di kepala kamu. Mereka cuma tau data yang dilatih, bukan konteks personal kamu. Jadi, mereka harus “tebak” dulu apa yang kamu peduli, terus nyesuaiin penjelasannya.

Solusinya? Kombinasi antara model yang bisa ngumpulin feedback langsung dari pengguna (misal lewat pertanyaan klarifikasi) dan algoritma yang ngitung probabilitas kepercayaan pengguna. Dengan cara ini, penjelasan jadi lebih personal dan relevan.

Praktisnya, kalau kamu pakai AI buat keputusan penting, tanya dulu “kenapa kamu ngasih rekomendasi ini?” dan minta contoh “kalo faktor X berubah, apa yang bakal terjadi?”. Itu bakal bantu AI ngasih penjelasan yang lebih “counterfactual” dan cocok sama apa yang kamu udah percaya.

Intinya, penjelasan AI yang bagus itu bukan cuma soal logika, tapi juga soal nyambung sama pikiran kamu. Kalau AI bisa ngitung apa yang kamu anggap penting, hasilnya bakal lebih dipercaya dan berguna.