Daftar AI Kanada: Transparansi atau Sekadar Pencitraan?

Pemerintah Kanada baru-baru ini merilis Federal AI Register, semacam daftar sistem AI yang digunakan oleh pemerintah federal. Tujuannya sederhana: menunjukkan komitmen transparansi ke publik.

Tapi sebuah penelitian baru menemukan fakta menarik. Daftar ini bukan cermin netral dari aktivitas pemerintah. Justru, ia adalah instrumen desain yang aktif membentuk batas-batas akuntabilitas.

Peneliti menganalisis 409 sistem AI dalam daftar tersebut. Hasilnya? Ada jurang besar antara retorika "AI berdaulat" dan realitas praktik birokrasi.

Mayoritas sistem—86% tepatnya—dipakai untuk efisiensi internal. Bukan untuk layanan publik langsung, tapi untuk urusan administrasi pemerintah sendiri.

Yang lebih mengkhawatirkan, daftar ini sengaja mengaburkan tiga hal krusial: kebijakan manusia, proses training, dan cara mengelola ketidakpastian sistem.

Bayangkan kamu pakai AI untuk memilah lamaran kerja. Daftar hanya tulis "sistem screening otomatis". Tapi nggak dijelaskan: siapa yang tentukan kriteria? Bagaimana training data-nya? Apa yang terjadi kalau AI ragu-ragu?

Ini namanya ontological design—daftar ini membangun pemahaman bahwa AI adalah "alat andal", bukan "pengambil keputusan yang bisa dipertanyakan".

Padahal dalam praktiknya, AI pemerintah sering kali mengambil keputusan yang berdampak besar ke warga. Mulai dari kelayakan bantuan sosial sampai prioritas inspeksi.

Masalahnya, dengan fokus pada deskripsi teknis, daftar ini membuat akuntabilitas jadi sekadar latihan kepatuhan. Terlihat transparan, tapi sebenarnya sulit dipertanyakan.

Kamu bisa lihat sistemnya ada. Tapi kamu nggak bisa tahu bagaimana keputusan sebenarnya diambil, siapa yang bertanggung jawab kalau ada kesalahan, atau bagaimana protes kalau merasa dirugikan.

Ini bedanya antara visibility dan contestability. Terlihat jelas bukan berarti bisa diperdebatkan secara bermakna.

Untuk praktisi AI di Indonesia, pelajarannya jelas. Kalau kamu bangun sistem serupa—misalnya daftar AI untuk institusi pemerintah atau perusahaan—jangan cuma fokus pada spesifikasi teknis.

Pertanyaan yang harus dijawab: Siapa manusia dalam loop-nya? Bagaimana training dan validasi model? Apa mekanisme banding atau review? Bagaimana ketidakpastian ditangani?

Transparansi sejati bukan soal publikasi data, tapi soal membuat kekuasaan algoritmik bisa dipertanyakan dan dipertanggungjawabkan.

Kalau tidak, daftar transparansi hanya akan jadi alat pencitraan—terlihat progresif, tapi sebenarnya memperkuat status quo tanpa akuntabilitas nyata.