AI yang Bisa Lupa: Solusi Biologis untuk Memory Lebih Efisien

Pernah ngerasa AI agent kamu makin lama makin 'berat'? Kayak orang yang nyimpen tiap bon belanja sejak 2010, banyak RAG setup justru gagal karena terlalu rakus nyimpen data.

Setiap bug fix sementara, aturan yang udah nggak dipake, atau catatan random ditumpuk selamanya. Lama-lama context window penuh noise, token cost naik drastis, dan reasoning AI jadi berantakan.

Nah, ada yang nyoba pendekatan beda. Daripada memory diperlakukan kayak filing cabinet statis, mereka eksperimen pakai biological approach.

Konsepnya sederhana: AI juga perlu lupa. Spesifiknya, mereka pakai Ebbinghaus forgetting curve yang kamu mungkin inget dari psikologi SMA.

Tiap memory dikasih 'strength score'. Kalau data sering di-recall, strength-nya naik dan decay curve-nya melebar. Data yang jarang dipakai? Perlahan pudar sampai akhirnya di-prune otomatis.

Ini spaced repetition versi AI. Mirip Anki atau Duolingo, tapi buat context management.

Tapi ada masalah lain: semantic search kadang miss data yang relevan tapi beda kata kunci. Mereka sebut ini 'logical neighbor problem'.

Solusinya? Nambahin graph layer di atas vector store biasa. Jadi selain similarity search, AI bisa 'jelajah' hubungan antar data.

Hasil benchmark-nya menarik. Di dataset LoCoMo, sistem ini dapet 52% Recall@5. Hampir dua kali lipat lebih akurat dari vector store stateless biasa.

Lebih keren lagi: token waste turun sekitar 84%. Bayangin, AI yang lebih pintar tapi lebih irit.

Implementasinya dibuat sebagai local-first MCP server pakai DuckDB. Jadi nggak perlu cloud, bisa jalan di mesin kamu sendiri.

Hipotesis utamanya? Buat agent yang handle project jangka panjang, 'apa yang harus dilupakan' itu sama pentingnya dengan 'apa yang harus diingat'.

Ini bikin sense kalau kamu pernah build AI workflow. Context window itu resource mahal, nggak semua data layak di-retain selamanya.

Yang bikin penasaran: apakah ada yang eksplorasi non-linear decay atau biological constraints lain buat context management? Kurva pelupa kan nggak selalu linear.

Practical takeaway-nya gini: kalau kamu build RAG system, pertimbangkan forgetting mechanism. Nggak harus sekompleks ini, bahkan simple decay rate atau TTL (time-to-live) pada data bisa bikin perbedaan besar.

Coba audit: berapa persen data di vector store kamu yang beneran diakses dalam 30 hari terakhir? Kalau jawabannya di bawah 20%, mungkin kamu nyimpen terlalu banyak noise.

Biological decay di AI ini reminder kalau sometimes less is more. AI yang bisa lupa justru bisa berpikir lebih jernih.