Kecerdasan buatan berkembang cukup cepat, dan bahaya yang ditimbulkannya cukup jelas, sehingga kepemimpinan OpenAI percaya bahwa dunia membutuhkan regulator internasional yang mirip dengan tenaga nuklir dan cepat, tetapi tidak terlalu cepat. Dalam sebuah postingan di blog perusahaan, pendiri OpenAI Sam Altman, presiden Greg Brockman, dan kepala ilmuwan Ilya Sutskever menjelaskan bahwa tingkat inovasi AI sangat cepat sehingga kita tidak dapat mengharapkan institusi yang ada untuk mengontrol teknologinya secara memadai.
Meskipun ada sifat penjilat tertentu di sini, jelas bagi pengamat yang tidak memihak bahwa teknologi ini, terutama bot percakapan ChatGPT OpenAI yang sangat populer, merupakan ancaman unik serta aset berharga.
Artikel tersebut tidak membahas detail dan janji, tetapi juga mengakui bahwa AI tidak akan mengatur dirinya sendiri:
Kami memerlukan beberapa tingkat koordinasi di antara upaya pengembangan terkemuka untuk memastikan bahwa pengembangan intelijen super berlangsung dengan cara yang membuat kami aman dan membantu sistem ini berintegrasi dengan lancar dengan masyarakat.
Kita mungkin pada akhirnya membutuhkan lembaga serupa untuk pekerjaan superintelijen; setiap upaya di luar batas kapasitas tertentu (atau sumber daya seperti komputasi) perlu diperiksa oleh otoritas internasional, memerlukan audit, pengujian kepatuhan terhadap standar keselamatan, dan mengontrol tingkat penyebaran, dan tingkat keamanan, dll.
IAEA adalah badan resmi Perserikatan Bangsa-Bangsa untuk kerja sama internasional dalam masalah tenaga nuklir. Seperti peraturan non-proliferasi nuklir, badan pengawas AI yang dibangun berdasarkan model ini mungkin tidak dapat masuk dan mengaktifkan sakelar untuk aktor jahat, tetapi dapat membangun dan melacak standar dan protokol Internasional, yang setidaknya merupakan titik awal.
Posting OpenAI mencatat bahwa melacak daya komputasi dan penggunaan energi untuk penelitian AI adalah salah satu dari sedikit tindakan objektif yang dapat dan mungkin harus dilaporkan dan dilacak. Meskipun mungkin sulit untuk mengatakan di mana AI harus atau tidak boleh digunakan, mungkin ada baiknya mengatakan bahwa sumber daya yang dikhususkan untuk AI harus dipantau dan diaudit seperti industri lainnya. (Perusahaan juga menyarankan agar perusahaan AI yang lebih kecil dikecualikan dari peraturan untuk menghindari inovasi inovasi yang mencekik.)
Peneliti dan kritikus AI terkemuka Timnit Gebru mengatakan hal serupa dalam wawancara dengan The Guardian hari ini: "Perusahaan tidak akan mengatur sendiri kecuali ada tekanan eksternal untuk melakukan sesuatu yang berbeda. Kami membutuhkan regulasi, kami membutuhkan model yang lebih baik daripada model motif keuntungan belaka.
Pelukan OpenAI terhadap yang terakhir telah membuat banyak orang khawatir yang berharap itu akan sesuai dengan namanya, tetapi setidaknya sebagai pemimpin pasar, itu juga menyerukan tindakan nyata pada tata kelola - selain dari audiensi baru-baru ini di mana para senator berbaris untuk dipilih kembali. pidato dan naskah diakhiri dengan pertanyaan.
Meskipun sarannya adalah "mungkin kita harus, seperti, melakukan sesuatu", itu setidaknya merupakan pembuka percakapan dalam industri, menunjukkan bahwa satu merek dan vendor AI terbesar di dunia mendukung untuk melakukan sesuatu. Pengawasan publik sangat dibutuhkan, tetapi "kami belum tahu bagaimana merancang mekanisme seperti itu".
Sementara para pemimpin perusahaan mengatakan mereka mendukung rem, belum ada rencana untuk melakukannya, karena mereka tidak ingin menyerahkan potensi besar untuk "memperbaiki masyarakat kita" (apalagi intinya), dan karena ada adalah risiko perilaku buruk Mereka yang sudah menginjak pedal gas.
