Endoxa Asia – Kecerdasan buatan (AI) semakin banyak digunakan untuk membantu manusia menulis kode, menjalankan eksperimen, hingga melakukan riset. Namun, perkembangan ini membawa pertanyaan yang lebih besar: bagaimana jika AI tidak hanya membantu mengembangkan teknologi, tetapi juga mampu merancang dan meningkatkan generasi AI berikutnya?
Anthropic menilai kemungkinan tersebut semakin dekat. Dalam dokumen pendaftaran perusahaan kepada regulator pasar modal Amerika Serikat, perusahaan pengembang Claude itu menyebut bahwa mereka mungkin segera mencapai ambang tertentu yang berkaitan dengan recursive self-improvement (RSI), atau kemampuan AI untuk mempercepat pengembangan dirinya sendiri.
Peringatan tersebut bukan berarti Claude saat ini sudah mampu membangun penerusnya secara mandiri. Anthropic menegaskan belum ada model mereka yang dinyatakan melewati ambang RSI dalam kebijakan keselamatan internal perusahaan. Namun, penggunaan AI untuk mempercepat riset dan pengembangan model sudah menunjukkan peningkatan yang signifikan.
Apa Itu Recursive Self-Improvement?
Recursive self-improvement adalah kondisi ketika sistem AI mampu membantu mengembangkan, melatih, dan meningkatkan sistem AI berikutnya secara berulang. Dalam skenario paling jauh, sebuah model dapat merancang penerusnya sendiri, yang kemudian memiliki kemampuan lebih tinggi untuk mengembangkan generasi selanjutnya.
Proses tersebut berpotensi menciptakan percepatan perkembangan teknologi yang sulit diikuti oleh manusia. Setiap generasi AI dapat membantu menghasilkan generasi berikutnya dengan kemampuan yang semakin besar, sehingga proses pengembangan tidak lagi sepenuhnya bergantung pada kecepatan kerja peneliti manusia.
Konsep ini berbeda dari penggunaan AI untuk membantu pekerjaan teknis sehari-hari. Model yang menulis kode berdasarkan instruksi manusia, misalnya, belum otomatis bisa disebut melakukan RSI. Kemampuan tersebut membutuhkan tingkat kemandirian yang jauh lebih tinggi, termasuk menentukan eksperimen, mengevaluasi hasil, dan mengambil keputusan penting dalam pengembangan model.
Karena itu, RSI menjadi salah satu isu penting dalam diskusi keselamatan AI. Di satu sisi, kemampuan tersebut berpotensi mempercepat penemuan ilmiah dan meningkatkan produktivitas. Di sisi lain, percepatan pengembangan model dapat melampaui kemampuan manusia untuk menguji, memahami, dan mengendalikan risikonya.
Anthropic Sudah Menggunakan AI untuk Mengembangkan AI
Dalam laporan yang menyertai pengajuan dokumen perusahaan, Anthropic menjelaskan bahwa AI semakin terlibat dalam proses riset dan pengembangan internal. Model Claude tidak lagi hanya membantu peneliti menulis potongan kode, tetapi juga dapat menjalankan program, menguji hasil, memperbaiki kesalahan, dan mengerjakan tugas yang membutuhkan waktu lebih panjang.
Anthropic menyebut lebih dari 80 persen kode yang digabungkan ke dalam basis kode perusahaan pada Mei 2026 ditulis oleh Claude. Perusahaan juga mencatat bahwa pada kuartal kedua 2026, seorang engineer rata-rata menggabungkan kode sekitar delapan kali lebih banyak per hari dibandingkan pada 2024.
Angka tersebut menunjukkan perubahan dalam cara kerja tim teknis Anthropic. Engineer semakin banyak berperan menentukan tujuan, mengarahkan pekerjaan, serta memeriksa hasil yang dibuat AI, sementara model menangani porsi pekerjaan implementasi yang semakin besar.
Meski demikian, Anthropic mengingatkan bahwa jumlah baris kode bukan ukuran sempurna untuk produktivitas. Banyaknya kode yang dihasilkan tidak selalu mencerminkan kualitas pekerjaan atau peningkatan efisiensi dalam proporsi yang sama.
Perusahaan juga melaporkan kemampuan Claude dalam menjalankan eksperimen yang memiliki tujuan dan ukuran keberhasilan yang sudah ditentukan. Dalam salah satu pengujian internal untuk mengoptimalkan kode pelatihan model AI, Claude Mythos Preview mencapai percepatan sekitar 52 kali dibandingkan kode awal pada April 2026. Sebagai pembanding, Claude Opus 4 mencatat sekitar tiga kali percepatan pada Mei 2025.
Hasil tersebut tidak berarti proses pelatihan model AI secara keseluruhan menjadi 52 kali lebih cepat. Pengujian itu hanya mengukur kemampuan model mengoptimalkan kode dalam eksperimen tertentu, dengan hasil yang tetap bergantung pada kondisi awal kode dan batasan pengujian.
AI Mulai Mampu Menentukan Langkah Riset Berikutnya
Tantangan yang lebih besar bukan sekadar membuat AI menulis kode atau menjalankan eksperimen. Sistem juga perlu mampu menentukan eksperimen apa yang sebaiknya dilakukan berikutnya.
Dalam riset internal, Anthropic menguji kemampuan Claude memilih langkah lanjutan dalam sesi investigasi yang dilakukan para peneliti. Pada pengujian tersebut, model terbaru yang mereka evaluasi dinilai mampu memberikan pilihan langkah yang lebih baik daripada keputusan manusia dalam 64 persen kasus pada April 2026.
Namun, angka itu perlu dibaca dengan konteks. Anthropic sengaja memilih 129 momen ketika keputusan manusia masih memiliki ruang untuk diperbaiki. Dengan demikian, hasil tersebut bukan perbandingan langsung yang mewakili seluruh keputusan riset manusia dan AI.
Perusahaan juga melakukan eksperimen ketika AI diberi masalah terbuka dalam bidang keselamatan AI. Agen berbasis Claude diminta mengembangkan hipotesis, menjalankan pengujian, membagikan temuan kepada agen lain, dan mengulang proses berdasarkan hasil yang diperoleh.
Dalam eksperimen tersebut, agen AI berhasil menutup sekitar 97 persen kesenjangan antara kemampuan model pengawas yang lebih lemah dan model yang lebih kuat dalam tugas yang ditentukan. Dua peneliti manusia membutuhkan sekitar satu minggu untuk mencapai sekitar 23 persen dari kesenjangan tersebut.
Meski hasilnya terlihat signifikan, eksperimen itu memiliki batasan. Manusia tetap menentukan masalah yang harus diselesaikan dan membuat rubrik penilaian. Hasilnya juga belum dapat diterapkan secara langsung pada model berskala produksi.
Temuan tersebut memperlihatkan bahwa AI mulai mampu menangani lebih banyak tahapan dalam riset, tetapi belum sepenuhnya menggantikan penilaian manusia dalam menentukan arah penelitian.
Mengapa Anthropic Menganggap Perkembangan Ini Berisiko?
Kekhawatiran utama Anthropic adalah kecepatan perkembangan kemampuan AI dapat melampaui kemampuan perusahaan untuk menguji dan menerapkan sistem keselamatan.
Dalam dokumen pengajuan perusahaan, Anthropic menyatakan bahwa penggunaan AI untuk membangun model yang lebih canggih dapat menimbulkan risiko keselamatan yang besar, terutama jika mempercepat kemajuan teknologi secara tajam.
Perusahaan juga mengakui bahwa pada masa lalu mereka pernah tidak mengenali percepatan kemampuan model hingga perubahan tersebut sudah terjadi. Kondisi serupa berpotensi terulang ketika AI semakin banyak mengambil bagian dalam proses pengembangan teknologi.
Risiko ini berkaitan dengan masalah alignment, yaitu bagaimana memastikan tujuan dan perilaku AI tetap sesuai dengan nilai serta batasan yang ditetapkan manusia. Jika model semakin mampu mengembangkan sistem penerusnya, proses pemeriksaan dan pengawasan juga harus berkembang mengikuti kemampuan tersebut.
Anthropic menyatakan belum memperkirakan Claude dapat sepenuhnya merancang dan membangun generasi model frontier berikutnya secara otonom tanpa pengawasan atau pemahaman manusia yang berarti. Perusahaan juga sedang mempertimbangkan pembaruan terhadap Responsible Scaling Policy, kebijakan internal yang mengatur pemantauan dan mitigasi risiko seiring meningkatnya kemampuan model.
Tiga Skenario Masa Depan Pengembangan AI
Dalam kajian terpisah yang diterbitkan The Anthropic Institute, perusahaan menguraikan tiga kemungkinan arah perkembangan AI.
Skenario pertama adalah percepatan kemampuan AI mulai melambat. Kemajuan teknologi mungkin menghadapi batas tertentu, seperti keterbatasan data, energi, komputasi, atau kebutuhan terobosan arsitektur baru. Dalam kondisi ini, kemampuan AI yang sudah ada tetap dapat menyebar ke berbagai sektor, tetapi perkembangan berikutnya memberi masyarakat lebih banyak waktu untuk beradaptasi.
Skenario kedua adalah AI terus meningkatkan efisiensi kerja manusia dan organisasi tanpa sepenuhnya mengambil alih arah penelitian. Manusia masih menentukan tujuan dan menilai hasil, sedangkan AI mengerjakan semakin banyak pekerjaan teknis. Dampaknya dapat berupa peningkatan produktivitas, tetapi juga membuka peluang penyalahgunaan teknologi untuk pengawasan massal atau operasi manipulasi informasi.
Skenario ketiga adalah AI mencapai kemampuan RSI secara penuh dan mulai membangun generasi penerusnya sendiri. Dalam kondisi tersebut, laju pengembangan AI akan semakin ditentukan oleh ketersediaan komputasi dan efisiensi algoritma. Peran manusia dapat bergeser lebih jauh ke pengawasan, validasi, dan verifikasi sistem yang dikembangkan AI.
Anthropic tidak menyatakan bahwa skenario ketiga pasti terjadi. Perusahaan juga mengakui masih banyak ketidakpastian, termasuk apakah AI dapat mengembangkan kemampuan penilaian dan arah penelitian yang dibutuhkan untuk membangun penerusnya secara mandiri.
Pengawasan Manusia Menjadi Isu yang Semakin Penting
Peringatan Anthropic memperlihatkan bahwa pembahasan masa depan AI mulai bergeser dari sekadar kemampuan chatbot dan otomatisasi pekerjaan menuju siapa yang akan mengendalikan proses pengembangan teknologi itu sendiri.
Jika AI semakin mampu melakukan riset, menulis kode, dan menjalankan eksperimen, pekerjaan manusia mungkin lebih banyak berpusat pada pemilihan tujuan, pemeriksaan hasil, serta pengawasan keselamatan.
Namun, pergeseran tersebut tidak otomatis membuat manusia kehilangan kendali. Hasil akhirnya akan bergantung pada kemampuan perusahaan, regulator, dan masyarakat membangun mekanisme pengawasan yang sejalan dengan perkembangan teknologi.
Anthropic juga mendorong adanya koordinasi lintas perusahaan dan negara apabila diperlukan perlambatan atau jeda pengembangan AI frontier. Perusahaan menilai mekanisme semacam itu membutuhkan kesepakatan yang dapat diverifikasi, karena jeda sepihak berisiko hanya mengubah siapa yang memimpin perlombaan teknologi.
Untuk saat ini, RSI masih merupakan kemungkinan yang sedang dipantau, bukan kemampuan yang telah dicapai Claude. Namun, semakin besarnya peran AI dalam membangun AI menjadi alasan bagi industri dan pembuat kebijakan untuk mulai membahas bagaimana pengembangan teknologi tersebut tetap dapat diawasi manusia.
About The Author
Komentar