Dua mantan peneliti OpenAI mengemukakan pendapat mereka tentang penolakan perusahaan tersebut terhadap SB 1047, rancangan undang-undang California yang akan menerapkan protokol keselamatan ketat dalam pengembangan AI, termasuk “kill switch”.
Para mantan karyawan menulis dalam sebuah surat pertama kali dibagikan dengan Politico kepada Gubernur California Gavin Newsom dan anggota parlemen lainnya bahwa penentangan OpenAI terhadap RUU tersebut mengecewakan tetapi tidak mengejutkan.
“Kami bergabung dengan OpenAI karena kami ingin memastikan keamanan sistem AI yang sangat canggih yang tengah dikembangkan perusahaan tersebut,” tulis para peneliti, William Saunders dan Daniel Kokotajlo, dalam surat tersebut. “Namun, kami mengundurkan diri dari OpenAI karena kami kehilangan kepercayaan bahwa perusahaan tersebut akan mengembangkan sistem AI-nya dengan aman, jujur, dan bertanggung jawab.”
Saunders dan Kokotajlo tidak segera menanggapi permintaan komentar dari Business Insider.
Mereka melanjutkan: “Mengembangkan model AI tingkat lanjut tanpa tindakan pencegahan keamanan yang memadai menimbulkan risiko bencana yang dapat diduga bagi masyarakat.”
CEO OpenAI Sam Altman telah berulang kali dan secara terbuka mendukung konsep regulasi AI, tulis Saunders dan Kokotajlo, mengutip kesaksian Altman di kongres yang menyerukan intervensi pemerintah, tetapi “ketika regulasi sebenarnya ada di atas meja, ia menentangnya.”
Seorang juru bicara OpenAI mengatakan kepada BI dalam sebuah pernyataan: “Kami sangat tidak setuju dengan kesalahan penafsiran posisi kami pada SB 1047.” Juru bicara tersebut mengarahkan BI ke surat ditulis oleh Kepala Strategi OpenAI, Jason Kwon, kepada Senator California Scott Wiener, yang memperkenalkan RUU tersebut, menjelaskan penentangan perusahaan.
SB1047 “telah mengilhami perdebatan yang mendalam,” dan OpenAI mendukung beberapa ketentuan keselamatannya, demikian bunyi surat Kwon, yang tertanggal sehari sebelum surat para peneliti dikirim. Namun, karena implikasi keamanan nasional dari pengembangan AI, perusahaan percaya bahwa regulasi harus “dibentuk dan diterapkan di tingkat federal.”
“Seperangkat kebijakan AI yang didorong oleh pemerintah federal, dan bukan serangkaian undang-undang negara bagian, akan mendorong inovasi dan memposisikan AS untuk memimpin pengembangan standar global,” bunyi surat Kwon.
Namun Saunders dan Kokotajlo tidak yakin bahwa dorongan untuk legislasi federal adalah satu-satunya alasan OpenAI menentang SB 1047 California, dengan mengatakan bahwa keluhan perusahaan tentang RUU tersebut “tidak membangun dan tampaknya tidak beritikad baik.”
“Kita tidak bisa menunggu Kongres bertindak — mereka telah secara tegas mengatakan bahwa mereka tidak bersedia meloloskan regulasi AI yang berarti,” tulis Saunders dan Kokotajlo. “Jika mereka melakukannya, hal itu dapat mendahului undang-undang CA.”
Mantan karyawan OpenAI menyimpulkan: “Kami berharap Badan Legislatif California dan Gubernur Newsom akan melakukan hal yang benar dan mengesahkan SB 1047 menjadi undang-undang. Dengan regulasi yang tepat, kami berharap OpenAI dapat memenuhi pernyataan misinya untuk membangun AGI dengan aman.”
Perwakilan Wiener dan Newsom tidak segera menanggapi permintaan komentar dari BI.