BENGKULU — CEO Meta Mark Zuckerberg menolak seruan agar perusahaan AI memperlambat pengembangan teknologi secara bersama-sama. Ia menilai persaingan dan potensi tanggung jawab hukum sudah cukup memberi insentif bagi tiap perusahaan untuk menjaga keamanan sistem masing-masing. Pernyataan ini memperlihatkan perpecahan sikap di antara para petinggi industri AI soal cara merespons kekhawatiran atas laju teknologi.
Menurut Zuckerberg, perusahaan AI tidak perlu menunggu kesepakatan industri untuk mengambil langkah pengamanan. Persaingan pasar dan risiko tanggung jawab hukum disebutnya sudah menjadi pendorong yang cukup kuat.
Beda Sikap dengan CEO Anthropic
Pernyataan Zuckerberg muncul tiga hari setelah CEO Anthropic Dario Amodei meminta perusahaan AI memperlambat peningkatan kemampuan model. Seruan itu disampaikan setelah sejumlah peneliti memperingatkan risiko eksistensial dari perkembangan AI.
CEO OpenAI Sam Altman dan pemilik xAI Elon Musk kemudian secara terbuka mendukung permintaan Amodei. Dukungan keduanya menempatkan Zuckerberg pada posisi berbeda dari sebagian besar nama besar di industri AI.
Titik perbedaan utamanya ada pada gagasan perlambatan terkoordinasi. Amodei menyerukan perlambatan pada pengembangan kemampuan recursive self-improvement, yakni kemampuan AI untuk meningkatkan kemampuannya sendiri.
Zuckerberg menyatakan Meta sudah mengalokasikan sebagian besar daya komputasinya untuk membangun produk yang melayani kebutuhan pengguna saat ini, bukan mengejar sistem AI yang bisa memperbaiki dirinya sendiri secara terus-menerus.
Kepercayaan dan Alignment Jadi Pembeda
Zuckerberg menilai kemampuan membangun kepercayaan dan alignment akan menjadi faktor penting yang membedakan model dan agen AI ke depan. Ia menyebut dua hal itu sebagai kemampuan yang paling menentukan.
"Kepercayaan dan alignment dengan cepat menjadi kemampuan paling penting yang akan membedakan agen dan model," kata Zuckerberg, dikutip dari Reuters.
"Laboratorium mana pun yang tidak fokus pada alignment akan tertinggal," lanjutnya.
Ia juga menyoroti insentif kuat perusahaan AI untuk mencegah model mereka menimbulkan bahaya. Jika gagal, menurutnya perusahaan bisa menghadapi tanggung jawab hukum yang signifikan.
Contoh Penundaan Agen AI Muse
Zuckerberg mencontohkan keputusan Meta menunda peluncuran agen AI Muse pada awal tahun ini untuk memperkuat aspek keamanannya. Langkah itu diambil tanpa menunggu perusahaan lain melakukan hal serupa.
"Kami tidak meminta semua orang melakukan hal yang sama sebelum kami melakukannya. Kami hanya melakukannya sebagai bagian dari pekerjaan sehari-hari karena jelas itu hal yang tepat bagi orang-orang dan bagi kami," ujarnya.
Soal usulan penggunaan evaluator independen untuk menguji sistem AI, Zuckerberg menyebut Meta Superintelligence Labs sudah menerapkannya di beberapa area. Ia menilai praktik tersebut sebagai industry best practice yang bisa diadopsi perusahaan lain tanpa menunggu kesepakatan industri.
Tekanan Regulasi dari Washington
Presiden Amerika Serikat Donald Trump sebelumnya mengecilkan kekhawatiran terhadap potensi bahaya AI dan menyebutnya sebagai hoaks. Trump menyatakan AS sudah memiliki sejumlah guardrails untuk teknologi tersebut.
Ia juga memperingatkan bahwa keraguan berlebihan terhadap pengembangan AI justru bisa menguntungkan China. Pandangan serupa soal risiko regulasi berlebihan menghambat daya saing perusahaan AS disampaikan sejumlah eksekutif teknologi, termasuk CEO Nvidia Jensen Huang.
Perdebatan ini menjadi sinyal penting bagi pelaku industri AI di Asia Tenggara, termasuk Indonesia, yang tengah menyusun kerangka tata kelola AI. Arah kebijakan Washington dan sikap para pemain besar seperti Meta, OpenAI, dan Anthropic akan memengaruhi cara regulator lokal menimbang antara mendorong inovasi dan memasang pengaman.
