Kimi K3: Model AI 2.8 Triliun Parameter yang Bikin Penasaran!

Jadi, Moonshot AI baru aja merilis Kimi K3, dan ini bukan model biasa. Dengan 2.8 triliun parameter, Kimi K3 diklaim sebagai model open MoE pertama di dunia yang punya kemampuan luar biasa dalam memahami konteks. Bayangkan, ini bisa menangani hingga 1 juta token dalam satu waktu! Gak heran kalau banyak orang yang penasaran sama performanya.

Kimi K3 dibangun dengan dua teknologi baru yang keren: Kimi Delta Attention (KDA) dan Attention Residuals (AttnRes). KDA ini bikin proses decoding jadi lebih cepat, sampai 6.3 kali lipat! Sementara AttnRes membantu model ini mengambil informasi dengan lebih efisien, sehingga proses pelatihannya juga lebih hemat biaya. Jadi, bisa dibilang, Kimi K3 adalah langkah besar ke depan dalam dunia AI.

Meskipun Kimi K3 punya banyak keunggulan, Moonshot AI juga jujur soal posisinya. Model ini memang masih kalah saing sama model proprietary yang lebih kuat, seperti Claude Fable 5 dan GPT 5.6 Sol. Tapi, saat diuji, Kimi K3 berhasil mengalahkan model-model lain yang juga diuji di suite evaluasi mereka. Ini menunjukkan bahwa Kimi K3 punya potensi besar meski masih ada ruang untuk perbaikan.

Salah satu fitur menarik dari Kimi K3 adalah kemampuannya untuk aktifkan 16 dari 896 'expert' yang ada. Ini bikin model ini lebih efisien dalam mengolah data. Dengan menggunakan metode yang disebut Quantile Balancing, Kimi K3 bisa mendistribusikan tugas ke 'expert' yang tepat tanpa harus mengganggu performa keseluruhan. Jadi, meski ada banyak parameter, model ini tetap bisa berjalan dengan lancar.

Kimi K3 juga menawarkan kompatibilitas yang luas dengan berbagai hardware, berkat penggunaan bobot MXFP4 dan aktivasi MXFP8. Moonshot merekomendasikan untuk menggunakan konfigurasi supernode dengan 64 akselerator atau lebih. Ini bikin Kimi K3 bisa diakses dengan lebih mudah oleh banyak pengguna, baik yang baru mulai maupun yang udah berpengalaman.

Dengan semua fitur canggih ini, Kimi K3 jelas jadi model yang layak diperhitungkan di dunia AI. Apalagi, harganya juga cukup bersaing, dengan biaya $0.30 per MTok untuk input cache-hits dan $15.00 per MTok untuk output. Jadi, kalau kamu pengen eksperimen dengan AI yang canggih, Kimi K3 bisa jadi pilihan yang menarik!