Hal paling aneh tentang sidang Senat minggu ini tentang kecerdasan buatan adalah caranya Bagus Dia. Perwakilan industri — CEO OpenAI Sam Altman — dengan senang hati menyetujui perlunya mengatur teknologi AI baru, sementara politisi tampaknya dengan senang hati menyerahkan tanggung jawab menyusun aturan kepada perusahaan itu sendiri. Sebagai Senator Dick Durbin (Demokrat – IL) letakkan Dalam sambutan pembukaannya: “Saya tidak ingat kapan orang-orang yang mewakili perusahaan besar atau entitas sektor swasta datang ke hadapan kami dan meminta kami untuk mengatur mereka.”

Persahabatan semacam ini membuat orang gugup. Sejumlah pakar dan tokoh industri mengatakan sidang tersebut menunjukkan bahwa kita mungkin sedang menuju era pengambilalihan industri dalam AI. Jika raksasa teknologi diizinkan untuk menulis aturan yang mengatur teknologi ini, kata mereka, hal itu dapat menyebabkan sejumlah kerusakan, mulai dari menghambat bisnis kecil hingga memperkenalkan regulasi yang lemah.

Penangkapan industri dapat merugikan usaha kecil dan menyebabkan regulasi yang lemah

Di antara para ahli di persidangan adalah Christina Montgomery dari IBM dan kritikus AI Gary Marcus, yang juga mengangkat momok pengambilalihan peraturan. (Marcus mengatakan bahayanya adalah kita “membuat seolah-olah kita sedang melakukan sesuatu, tetapi itu lebih seperti greenwashing dan tidak ada yang benar-benar terjadi, kita hanya menjauhkan orang-orang kecil.”) Meskipun saat ini tidak ada seorang pun dari Microsoft atau Google , juru bicara informal industri teknologi adalah Altman.

Meskipun OpenAI Altman masih disebut sebagai “startup” oleh beberapa orang, ini bisa dibilang sebagai perusahaan AI paling berpengaruh di dunia. Peluncuran alat pembuatan gambar dan teks seperti ChatGPT dan keterlibatannya dengan Microsoft untuk membuat ulang Bing mengirimkan gelombang kejutan ke seluruh industri teknologi. Altman sendiri memiliki posisi yang baik: mampu menangkap imajinasi kelas VC dan penguat AI yang kuat dengan janji besar untuk membangun AI yang sangat cerdas dan, mungkin suatu hari nanti, dalam kata-katanya“Tangkap kerucut cahaya dari semua nilai masa depan di alam semesta.”

Pada sidang minggu ini, dia tidak begitu sombong. Altman juga menyebutkan masalah pembelian regulasi tetapi kurang jelas tentang pemikirannya tentang lisensi entitas yang lebih kecil. “Kami tidak ingin memperlambat startup yang lebih kecil. Kami tidak ingin memperlambat upaya open source,” katanya, menambahkan, “Kami masih membutuhkan mereka untuk mematuhi berbagai hal.”

kata Sarah Myers West, direktur pelaksana AI Now Institute tepi Dia curiga dengan sistem perizinan yang diajukan oleh banyak pembicara. “Saya pikir kerugiannya adalah kita berakhir dengan semacam latihan kotak centang yang dangkal, di mana perusahaan mengatakan ‘ya, kami memiliki lisensi, kami tahu bahayanya dan kami dapat melanjutkan bisnis seperti biasa,’ tetapi tidak menghadapi tanggung jawab nyata ketika sistem ini salah.”

“Membutuhkan lisensi untuk melatih model akan … semakin memusatkan kekuatan di tangan beberapa orang”

Kritikus lain — terutama mereka yang menjalankan perusahaan AI mereka sendiri — telah menekankan potensi ancaman terhadap persaingan. “Regulasi selalu menguntungkan petahana dan dapat menghambat inovasi,” kata Emad Mostaki, pendiri dan CEO Stability AI. tepi. Clem Delango, CEO AI Hugging Face, kicauan Reaksi serupa: “Meminta lisensi untuk melatih model seperti meminta lisensi untuk menulis kode. IMO, Anda akan meningkatkan konsentrasi kekuasaan di tangan segelintir orang dan sangat memperlambat kemajuan, keadilan, dan transparansi.”

Tetapi beberapa ahli mengatakan beberapa bentuk perizinan mungkin efektif. Margaret Mitchell, yang dipaksa keluar dari Google bersama dengan Timnit Gebru setelah menulis makalah tentang potensi bahaya model bahasa AI, menggambarkan dirinya sebagai “pendukung beberapa derajat swa-organisasi, dipasangkan dengan regulasi top-down”. saya sudah memberitahu tepi Mereka bisa melihat daya tarik karir tetapi mungkin bagi individu daripada perusahaan.

“Anda dapat membayangkan bahwa untuk melatih model (di atas beberapa ambang batas), pengembang memerlukan ‘lisensi pengembang ML komersial’,” kata Mitchell, yang sekarang menjadi kepala ahli etika di Hugging Face. “Ini akan menjadi cara langsung untuk menghadirkan ‘ AI yang bertanggung jawab’ ke dalam struktur hukum.” “.

Mitchell menambahkan bahwa regulasi yang baik bergantung pada penetapan standar yang tidak dapat dengan mudah dihilangkan oleh perusahaan demi kepentingan mereka sendiri, dan ini membutuhkan pemahaman yang cermat terhadap teknologi yang sedang dievaluasi. Dia mencontohkan perusahaan AI pengenalan wajah Clearview, yang menjual dirinya ke kepolisian dengan mengklaim algoritmenya “100 persen” akurat. Kedengarannya meyakinkan, tetapi para ahli mengatakan perusahaan telah menggunakannya tes sesat untuk menghasilkan angka-angka ini. Mitchell menambahkan bahwa dia umumnya tidak mempercayai Big Tech untuk bertindak demi kepentingan publik. “Perusahaan teknologi telah berkali-kali membuktikan bahwa mereka tidak menghargai orang lain sebagai bagian dari menjalankan perusahaan,” katanya.

Bahkan jika lisensi diberikan, itu mungkin tidak memiliki efek langsung. Pada audiensi, perwakilan industri sering menarik perhatian pada kerugian hipotetis di masa depan dan, dalam prosesnya, kurang memperhatikan masalah umum yang sudah dimungkinkan oleh AI.

Misalnya, peneliti seperti Joy Buolamwini telah berulang kali menemukan masalah bias dalam pengenalan wajah, yang masih ada. Tidak akurat dalam mengidentifikasi wajah hitam dan diproduksi Banyak kasus Itu ilegal Menangkap di Amerika Serikat. Meskipun demikian, pemantauan berbasis AI tidak disebutkan sama sekali selama persidangan, sementara pengenalan wajah dan kekurangannya hanya diisyaratkan sekaligus.

Tokoh industri sering menekankan bahaya AI di masa depan untuk menghindari pembicaraan tentang masalah saat ini

AI Now’s West mengatakan fokus pada bahaya di masa depan ini telah menjadi trik retoris yang populer di kalangan tokoh industri AI. Dia mengatakan orang-orang ini “menempatkan akuntabilitas ke masa depan”, umumnya dengan berbicara tentang artifisial umum Intelligence, atau AGI: Sistem kecerdasan buatan virtual yang lebih pintar dari manusia dalam berbagai tugas. Beberapa ahli menyarankan agar kita mendapatkannya lebih dekat untuk menciptakan sistem tersebutNamun, kesimpulan ini sangat diperdebatkan.

Trik retoris ini terbukti di persidangan. Saat membahas lisensi pemerintah, Altman OpenAI dengan diam-diam menyarankan agar lisensi apa pun hanya berlaku untuk masa depan sistem. “Menurut saya, sistem lisensi bukanlah tentang apa yang dapat dilakukan oleh model-model ini hari ini,” Dia berkata. “Tapi saat kita bergerak menuju kecerdasan umum buatan… di sinilah menurut saya pribadi kita membutuhkan cetak biru seperti itu.”

Para ahli telah membandingkan proposal Kongres (dan Altman) secara tidak menguntungkan dengan undang-undang kecerdasan buatan UE yang akan datang. Rancangan undang-undang saat ini tidak menyertakan mekanisme perizinan serupa, tetapi mengklasifikasikan sistem AI berdasarkan tingkat risikonya dan memberlakukan persyaratan yang berbeda untuk pengamanan dan perlindungan data. Tetapi yang paling penting adalah larangan eksplisit pada kasus penggunaan AI berbahaya yang diketahui dan ada, seperti algoritme pemolisian prediktif dan pengawasan massal, yang telah menuai pujian dari pakar hak digital.

Seperti yang dikatakan West, “Di sinilah pembicaraan harus mengarah jika kita menginginkan akuntabilitas yang berarti dalam industri ini.”