[Lieyun.com (WeChat ID :)] Laporan 16 November (kompilasi: sake)
Pada "Konferensi Amal Sains dan Teknologi Era Digital" yang baru-baru ini diadakan di Kota Vatikan, Paus mendesak para eksekutif Facebook, pemodal ventura, dan regulator pemerintah untuk waspada terhadap dampak kecerdasan buatan dan teknologi lainnya. Dia berkata: "Jika apa yang disebut kemajuan teknologi umat manusia menjadi musuh kepentingan bersama, itu akan mengarah pada pengembalian yang tidak menguntungkan, dan umat manusia akan kembali ke negara barbar yang diatur oleh hukum yang terkuat."
Musim panas ini, Joy Buolamwini dan Perwakilan Demokrat Alexandria Ocasio-Cortez bersaksi di Kongres. Beberapa audit menemukan bahwa teknologi pengenalan wajah paling baik untuk pria kulit putih dan yang terburuk untuk wanita kulit berwarna.
Persamaan dari kedua peristiwa ini adalah bahwa keduanya membahas hubungan antara dinamika kekuatan dalam etika AI.
Perdebatan tentang etika kecerdasan buatan dapat dilakukan tanpa menyebut kata "power", namun "power" seringkali tersembunyi di balik persoalan tersebut. Faktanya, ini jarang menjadi fokus langsung, tetapi harus. Kekuatan dalam kecerdasan buatan itu seperti gravitasi. Ada kekuatan tak terlihat yang memengaruhi semua pemikiran etis dalam kecerdasan buatan.
Kekuasaan memengaruhi metode yang terkait dengan kasus penggunaan tersebut, masalah yang perlu diprioritaskan, dan siapa yang dilayani oleh alat, produk, dan layanan.
Ini menjadi dasar perdebatan tentang bagaimana perusahaan dan negara membuat kebijakan untuk mengelola penggunaan teknologi.
Itu ada dalam percakapan tentang demokratisasi, keadilan, dan kecerdasan buatan yang bertanggung jawab-CEO Google Sundar Pichai mengundang peneliti kecerdasan buatan ke kantornya; praktisi pembelajaran mesin top dianggap sebagai filsuf modern King; Elon Musk dan yang lainnya menceritakan tentang dampak mengerikan yang mungkin ditimbulkan oleh teknologi kecerdasan buatan pada manusia dalam beberapa dekade mendatang ...
Konsumen mungkin merasa bahwa perlindungan data tidak ada harapan, atau teknisi tahu bahwa ada sesuatu yang bermasalah secara moral, tetapi tidak dapat menemukan jalan lain.
Secara umum, startup mungkin memperlakukan standar etika sebagai syarat tambahan yang bagus, tetapi itu tidak diwajibkan. Insinyur yang ingin menjadi yang pertama memasuki pasar dan menyelesaikan rilis produk sebelum tenggat waktu dapat menertawakan gagasan untuk menempatkan waktu yang berharga sebagai pertimbangan etika. CEO dan politisi mungkin hanya berbicara tentang moralitas, namun pada akhirnya mereka hanya akan mengirimkan sinyal simpati atau pembersihan moral.
Kecerdasan buatan dikenal sebagai salah satu tantangan hak asasi manusia terbesar di abad ke-21. Ini tidak hanya melakukan hal yang benar atau membuat sistem kecerdasan buatan sebaik mungkin, ini tentang siapa yang memegang kekuatan dan bagaimana kecerdasan buatan memengaruhi keseimbangan semua kekuatan yang terlibat.
Dinamika kekuatan ini akan menentukan bisnis, masyarakat, pemerintah, kehidupan individu di seluruh dunia, masa depan privasi, dan bahkan hak masa depan kita. Hampir setiap manajer produk kecerdasan buatan suka mengatakan bahwa segala sesuatunya baru saja dimulai, tetapi di era kecerdasan buatan, jika dinamika kekuatan yang tidak seimbang tidak dapat diselesaikan, konsekuensi berbahaya dapat terjadi.
Pasar tenaga kerja dan era emas baru
Pembelajaran mendalam, komputasi awan, prosesor seperti GPU, dan daya komputasi yang diperlukan untuk melatih jaringan saraf lebih cepat - teknologi ini telah menjadi landasan perusahaan teknologi besar - mendorong kebangkitan hari ini.
Revolusi industri keempat bertepatan dengan sejarah ketidaksetaraan pendapatan dan era emas baru. Sama seperti taipan kereta api yang menggunakan mentalitas petani dengan keinginan kuat untuk membawa hasil panen ke pasar pada abad ke-19, perusahaan teknologi dengan kumpulan data kepemilikan menggunakan kecerdasan buatan untuk lebih mengkonsolidasikan posisi pasar dan monopoli mereka.
Ketika data lebih berharga daripada minyak, perusahaan dengan data berharga memiliki keuntungan besar , Kemungkinan besar untuk mengkonsolidasikan posisi kekayaan atau pemimpin industri. Ini tentu saja berlaku untuk perusahaan besar seperti Apple, Facebook, Google, IBM, dan Microsoft, tetapi juga berlaku untuk perusahaan tradisional.
Pada saat yang sama, kecepatan merger dan akuisisi oleh raksasa teknologi telah mempercepat dan semakin mengkonsolidasikan kekuatan mereka, sehingga mengkonsolidasikan tren lain, karena R&D hampir seluruhnya dimiliki oleh perusahaan besar.
Menurut laporan terbaru dari Institute of Artificial Intelligence (HAI) di Pusat Manusia di Universitas Stanford, pertumbuhan kecerdasan buatan yang berkelanjutan dapat menyebabkan ketidakseimbangan sosial yang besar.
"Potensi keuntungan finansial dari kecerdasan buatan sangat besar, dan kesenjangan antara si kaya dan si miskin AI terlalu dalam. Sejauh yang kami ketahui, keseimbangan ekonomi global dapat diubah melalui serangkaian struktur bencana," sebuah proposal HAI meminta pemerintah AS. Investasikan 120 miliar dolar AS dalam pendidikan, penelitian, dan kewirausahaan dalam 10 tahun ke depan.
Penulis bersama proposal tersebut adalah Dr. Feifei Li, mantan kepala ilmuwan kecerdasan buatan Google Cloud. Dia berkata: "Jika dipandu dengan benar, era kecerdasan buatan dapat membawa era kemakmuran bagi semua orang."
PricewaterhouseCoopers memperkirakan bahwa pada tahun 2030, kecerdasan buatan akan menyumbang $ 15,7 triliun untuk ekonomi global. Namun, jika kita menggunakannya secara tidak bertanggung jawab, kekayaan dan kekuasaan akan lebih terkonsentrasi pada segelintir elit yang menyambut era baru ini, dan kebanyakan orang di dunia akan jatuh miskin dan kehilangan rasa misinya. "
Erik Brynjolfsson, direktur Initiative on the Digital Economy di Massachusetts Institute of Technology (MIT), mempelajari dampak kecerdasan buatan pada pekerjaan di masa depan. Brynjolfsson berkata ketika berbicara tentang jumlah pekerjaan yang cocok untuk pembelajaran mesin yang dapat diganti dalam beberapa tahun mendatang: "Jika Anda melihat ekonomi secara keseluruhan, Anda akan menemukan bahwa tren akan datang. Kecerdasan mesin dapat digunakan untuk mendesain ulang dan meningkatkan tugas di tempat kerja, tetapi paling sering digunakan untuk menggantikan pekerjaan."
Analisis oleh Brookings Institution dan penelitian oleh Brynjolfsson dan Tom Mitchell dari Carnegie Mellon University menunjukkan bahwa dampak otomatisasi terhadap pengangguran diperkirakan berbeda-beda menurut kota dan negara bagian. Selain itu, lapangan kerja yang tidak stabil atau pengangguran diperkirakan akan memengaruhi pendapatan rendah. Keluarga dan orang kulit berwarna memiliki dampak yang tidak proporsional. Laporan McKinsey baru-baru ini menyatakan bahwa otomatisasi akan menyebabkan jumlah pengangguran tertinggi di antara pria Afrika Amerika.
Sebelumnya, pendapatan median di Amerika Serikat mengalami stagnasi sejak tahun 2000. Brynjolfsson menyebut hubungan antara pertumbuhan pendapatan median dan pertumbuhan produktivitas sebagai "pemisahan yang hebat".
Dia berkata: "Untuk sebagian besar abad ke-20, peran-peran ini saling terkait - lebih banyak produksi, lebih banyak kekayaan, produktivitas yang lebih tinggi - dan terkait erat dengan kekayaan orang biasa, tetapi belakangan ini peran-peran ini Ada perbedaan. Kuenya semakin besar dan semakin besar, dan kami telah menciptakan lebih banyak kekayaan, tetapi kekayaan ini dikumpulkan di tangan beberapa orang. "
Brynjolfsson percaya bahwa tantangan komunitas kecerdasan buatan telah memungkinkan tantangan kendaraan otonom (tantangan kendaraan otonom) dan ImageNet visi komputer Departemen Pertahanan AS untuk mencapai lompatan di bidang kecerdasan buatan yang paling canggih. Komunitas kecerdasan buatan harus mulai mengalihkan perhatiannya pada kemakmuran bersama.
"Banyak orang mungkin tertinggal. Padahal, banyak orang telah tertinggal. Makanya menurut saya tantangan yang paling mendesak saat ini bukan hanya teknologi yang lebih baik, meski saya dukung penuh, tapi untuk menciptakan kemakmuran bersama."
Raksasa teknologi dan jalan menuju kekuasaan
Dengan popularitas kecerdasan buatan, tren utama lainnya adalah, untuk pertama kalinya dalam sejarah Amerika, sebagian besar angkatan kerja adalah orang kulit berwarna. Menurut perkiraan Biro Sensus A.S., pada tahun 2030, sebagian besar kota di A.S., dan bahkan seluruh negara, tidak lagi memiliki ras mayoritas.
Perubahan demografis ini membuat kurangnya keragaman dalam perusahaan kecerdasan buatan lebih menonjol. Yang terpenting, kurangnya keragaman ras dan gender dalam penciptaan sistem pengambilan keputusan inilah yang oleh Kate Crawford, direktur AI Now Institute, menyebutnya sebagai "masalah putih".
Sumber gambar: Laporan Keragaman Google 2019-Statistik Gender dan Ras dari Perwakilan Tenaga Kerja TeknisMenurut analisis oleh Wired dan Element AI pada tahun 2018, wanita hanya menyumbang 18% dari penelitian yang dipublikasikan di konferensi kecerdasan buatan yang besar, sementara wanita hanya menyumbang 15% dan 10% peneliti di Facebook dan Google. %. Juru bicara kedua perusahaan tersebut mengatakan bahwa Google dan Facebook tidak memberikan data tentang keragaman penelitian kecerdasan buatan.
Sebuah laporan yang dirilis oleh AI Now Research Institute pada bulan April tahun ini menjelaskan secara rinci "perbedaan budaya yang berbeda antara profesional teknik yang bertanggung jawab untuk penelitian teknis dan populasi yang sangat beragam yang menggunakan sistem kecerdasan buatan". Organisasi tersebut menyebutnya sebagai "celah akuntabilitas kecerdasan buatan."
Laporan tersebut juga mengakui sumber daya manusia yang tersembunyi dalam sistem kecerdasan buatan, seperti puluhan ribu moderator yang diperlukan untuk konten Facebook atau YouTube, atau pengemudi Kiwibot di Kolombia, yang mengemudikan robot pengantar Kiwibot dari jarak jauh di dekat University of California, Berkeley di San Francisco Bay Area. .
Sumber gambar: Data Keragaman Facebook 2019-Tenaga Teknis Facebook berdasarkan RasLaporan tersebut menyatakan: Kesenjangan antara perusahaan yang mengembangkan dan mendapatkan keuntungan dari kecerdasan buatan dan mereka yang paling mungkin terkena dampak negatif semakin melebar, bukan menyempit. Laporan tersebut menunjukkan bahwa industri kecerdasan buatan tidak memiliki pengawasan dan kekuasaan pemerintah. Terkonsentrasi di tangan beberapa perusahaan.
Dalam makalah yang diterbitkan oleh Dr. Safiya Noble dan Sarah Roberts di Universitas California, Los Angeles pada Agustus tahun ini, dampak dari kurangnya keragaman dalam industri teknologi didokumentasikan. Mereka percaya bahwa kita sekarang sedang menyaksikan "kebangkitan aturan teknologi digital", yang sebenarnya merupakan sistem tenaga untuk menyimpan sumber daya. Ini dapat menilai nilai seseorang berdasarkan identitas ras, jenis kelamin, atau kelas.
"Bahkan di bawah undang-undang federal, perusahaan AS tidak dapat mengatur sendiri 'dan' berinovasi 'untuk mengakhiri diskriminasi rasial. Di antara para elit teknologi digital modern, mitos elitisme dan superioritas intelektual digunakan sebagai simbol ras dan gender, secara tidak proporsional Integrasikan sumber daya dari orang kulit berwarna, terutama Afrika Amerika, Latin, dan India, "bunyi laporan itu. "Investasi dalam mitos elit menekan pertanyaan tentang rasisme dan diskriminasi, bahkan jika produk elit digital penuh dengan penanda ras, kelas, dan gender."
Meskipun orang-orang berbicara tentang bagaimana menyelesaikan masalah diversifikasi dalam industri teknologi, banyak aspek industri teknologi hanya mengalami kemajuan bertahap, dan pendanaan untuk pengusaha Latin atau kulit hitam masih tertinggal dari pengusaha kulit putih. Untuk mengatasi kurangnya kemajuan umum dalam keberagaman dan inisiatif inklusi dalam industri teknologi, sepasang peneliti data dan masyarakat merekomendasikan agar perusahaan teknologi dan perusahaan kecerdasan buatan mengadopsi literasi rasial.
Salah satunya, Mutale Nkonde, adalah penulis bersama Undang-Undang Akuntabilitas Algoritmik, yang diperkenalkan di kedua majelis Kongres awal tahun ini, mewajibkan Komisi Perdagangan Federal (FTC) untuk mengevaluasi bias algoritmik dan mengizinkan badan tersebut untuk Timbangan mengeluarkan denda.
Dia juga direktur eksekutif kecerdasan buatan dan peneliti di Berkman Klein Center for Internet and Society di Harvard University. Dia sekarang mengevaluasi bagaimana kecerdasan buatan dan misinformasi dapat digunakan untuk menargetkan orang Afrika-Amerika pada pemilu 2020. Sebuah survei yang dirilis oleh komite Intelijen Senat pada bulan Oktober menemukan bahwa intervensi dalam pemilu 2016 hanya menargetkan orang Afrika-Amerika di Facebook, Twitter, dan Instagram.
Sebelumnya, dia dan tim kecilnya berkomitmen untuk memajukan konsep literasi ras.
Nkonde dan rekan penulisnya percaya bahwa pelatihan bias implisit dan inisiatif keberagaman - yang dipromosikan oleh raksasa teknologi yang menerbitkan laporan keanekaragaman tahunan - tidak berperan dalam menciptakan tenaga kerja teknologi yang terlihat seperti pengguna. Untuk membuat kemajuan yang berarti, perusahaan harus mengesampingkan keinginan samar mereka dan mulai mengambil langkah konkret untuk mendidik masyarakat tentang literasi rasial.
Makalah yang menjelaskan kerangka kerja literasi rasial menulis: "Tujuan sebenarnya dari membangun literasi rasial di bidang sains dan teknologi adalah membayangkan dunia yang berbeda, dunia di mana kita dapat mematahkan model lama. Jika masalah rasial di bidang teknis tidak dengan sengaja diselesaikan, yang baru Teknologi pasti akan mereproduksi perbedaan lama. Tapi bukan ini masalahnya. "
Rekan penulis berharap bahwa literasi rasial akan menjadi bagian dari kurikulum siswa ilmu komputer dan pelatihan karyawan perusahaan teknologi. Metode mereka meminjam dari pelatihan literasi rasial Howard Stevenson untuk sekolah dan termasuk tes asosiasi implisit untuk menentukan stereotip yang dipegang oleh orang-orang.
Literasi rasial bertujuan untuk memberikan pelatihan kepada orang-orang dan meningkatkan kecerdasan emosional mereka untuk mengatasi stres rasial di tempat kerja. Ini mungkin termasuk ilmuwan dan perancang komputer, serta insinyur pembelajaran mesin, yang memungkinkan mereka untuk berbicara secara terbuka tentang bagaimana suatu produk atau layanan dapat melanggengkan rasisme struktural atau berdampak buruk pada kelompok pengguna yang berbeda.
Tujuannya adalah untuk memungkinkan orang mendiskusikan kemungkinan masalah produk atau layanan secara terbuka dan non-konfrontatif. Dalam wawancara dengan karyawan perusahaan teknologi besar dan menengah, peneliti menemukan bahwa di banyak perusahaan teknologi, masalah terkait ras dianggap tabu.
"Orang ingin berpura-pura bahwa itu tidak masalah, dan ini sebenarnya memperkuat pola dan perilaku rasis," kata Nkonde. "Ini berarti bahwa perusahaan harus jelas tentang nilai-nilai mereka, daripada mencoba melayani semua orang dengan menghindari mengungkapkan nilai-nilai mereka."
Nkonde percaya bahwa ketika perusahaan seperti Alphabet mengembangkan produk yang penting bagi kehidupan masyarakat, seperti layanan medis atau perangkat lunak pengenalan wajah yang dijual kepada pemerintah, literasi etnis akan menjadi semakin penting.
Hasil lain yang diharapkan dari pelatihan literasi etnis adalah menciptakan budaya di dalam perusahaan yang dapat melihat nilai dalam tenaga kerja yang beragam. Sebuah laporan penelitian yang dirilis oleh Boston Consulting Group tahun lalu menemukan bahwa organisasi yang lebih beragam memiliki pendapatan yang lebih tinggi dan kemampuan inovatif. Tetapi jika data perekrutan dan retensi menunjukkan sesuatu, raksasa teknologi Silicon Valley sepertinya belum menyadarinya.
Guillaume Saint-Jacques, seorang insinyur perangkat lunak senior di LinkedIn, percaya bahwa etika AI bukan hanya hal yang benar, dan juga masuk akal secara komersial. Ia percaya bahwa prasangka akan menghambat keuntungan.
"Jika Anda memiliki banyak prasangka, Anda hanya dapat memenuhi satu grup, yang pada akhirnya akan membatasi pertumbuhan basis pengguna Anda, jadi dari perspektif bisnis, Anda ingin semua orang berpartisipasi ... Dalam jangka panjang, ini Ini sebenarnya keputusan bisnis yang bagus. "
Otonomi dan otomatisasi pribadi
Perusahaan yang kuat dapat menunjukkan kekuatan mereka dengan cara yang berbeda, tetapi rencana bisnis mereka akan berdampak pada individu.
Mungkin ringkasan terbaik dari struktur kekuatan baru ini berasal dari buku "Age of Surveillance Capitalism" oleh Shoshana Zuboff, seorang pensiunan profesor di Harvard Business School. Buku tersebut merinci penciptaan bentuk baru kapitalisme yang menggabungkan sensor seperti kamera, perangkat rumah pintar, dan smartphone untuk mengumpulkan input data ke dalam sistem AI untuk membuat perbedaan dalam hidup kita. Buat prediksi (seperti bagaimana kita akan berperilaku sebagai konsumen) untuk "memahami dan membentuk perilaku kita dalam skala besar".
"Surveillance capitalism secara sepihak mengklaim bahwa pengalaman manusia adalah sumber daya mentah gratis yang dapat diubah menjadi data perilaku. Meskipun beberapa data (wawasan) digunakan untuk meningkatkan produk atau layanan, sisanya dinyatakan sebagai hak milik Kelebihan perilaku dimasukkan ke dalam proses manufaktur lanjutan yang disebut 'kecerdasan mesin' dan diproduksi menjadi produk prediktif, memprediksi apa yang akan Anda lakukan sekarang, dalam waktu dekat, dan di masa depan, tulis Zuboff.
Dia percaya bahwa tatanan ekonomi ini dibuat oleh Google di Silicon Valley, tetapi kemudian diadopsi oleh mitra China seperti Amazon, Facebook dan Microsoft, serta Baidu dan Tencent.
Zuboff menggambarkan kapitalisme pengawasan sebagai bentuk kekuatan yang belum pernah terjadi sebelumnya yang hampir tidak dapat dipahami sepenuhnya oleh siapa pun.Dia juga menyatakan bahwa saat ini tidak ada cara kolektif atau politik yang efektif untuk melawannya.
Dia mempertanyakan bahwa ketika pasar "berubah menjadi proyek yang sepenuhnya pasti", kapitalisme regulasi dapat menyebabkan kerusakan serius pada sifat manusia. Zuboff mengatakan bahwa jika dibiarkan, kekuatan pasar yang relatif baru ini dapat menggulingkan kedaulatan rakyat dan menjadi ancaman bagi demokrasi liberal Barat dan konsep "imajinasi, kemauan, janji, dan pembangunan masa depan."
Perusahaan-perusahaan besar ini "mengumpulkan banyak pengetahuan baru dari kami, tetapi tidak untuk kami. Mereka memprediksi masa depan kami adalah untuk keuntungan orang lain. Selama kapitalisme regulasi dan pasar berjangka perilakunya dapat berkembang, metode modifikasi perilaku baru Kepemilikan akan melampaui kepemilikan alat-alat produksi dan menjadi sumber kekayaan dan kekuasaan bagi kapitalisme di abad ke-21. "
Zuboff percaya bahwa produk sampingan utama dari kapitalisme pengawasan adalah rasa tidak berdaya yang luar biasa. Inilah yang Anda lihat orang-orang mengangkat bahu mereka dan mengatakan bahwa tidak ada yang dapat menghentikan perusahaan teknologi besar dengan sumber daya dan kekayaan yang besar.
Pembocor Edward Snowden tampaknya setuju dengan penilaian Zuboff.
Perusahaan dan pemerintah semakin banyak menggunakan pengumpulan metadata untuk membuat keputusan yang memengaruhi kehidupan manusia, dari menggunakan perangkat seluler untuk melacak aktivitas pengguna hingga "skor kredit sosial" China. Snowden baru-baru ini ditanyai dalam sebuah wawancara dengan National Broadcasting Corporation (NBC) mengapa orang yang tidak melakukan kejahatan harus memperhatikan teknologi pengawasan. Dia mengatakan bahwa tujuan dari data ini umumnya untuk menghilangkan pengawasan pribadi.
"Catatan aktivitas ini secara konstan dibuat, dibagikan, dikumpulkan, dan dicegat oleh perusahaan dan pemerintah. Pada akhirnya, ini berarti bahwa ketika mereka menjualnya, ketika mereka memperdagangkannya, ketika mereka melakukan bisnis berdasarkan catatan ini, mereka tidak menjual informasi. Mereka menjual kita. Mereka menjual masa depan kita. Mereka menjual masa lalu kita. Mereka menjual sejarah kita, identitas kita, dan pada akhirnya, mereka mencuri kekuatan kita dan membiarkan cerita kita melayani mereka. "
Ruha Benjamin, profesor di Universitas Princeton dan penulis "Race After Technology", juga memperhatikan masalah agensi, karena apakah orang mendukung kecerdasan buatan untuk membawa akhir dunia atau visi utopia, mereka berbicara tentang memberi kekuatan pada mesin .
Benjamin mengatakan pada konferensi pembelajaran mendalam yang diadakan di Universitas Kenyatta di Nairobi, Kenya: "Apakah teknologi akan menyelamatkan kita atau membunuh kita, mereka menyerahkan kekuasaan."
Perwujudan yang sangat berbeda dari kekuatan pribadi telah muncul di dalam perusahaan besar. Misalnya, sekitar setahun yang lalu, lebih dari 20.000 karyawan Google di seluruh dunia melakukan pemogokan karena berbagai masalah etika. Menurut penyelenggara acara tersebut, termasuk kompensasi $ 90 juta dari pendiri Android Andy Rubin setelah tuduhan pelecehan seksual, berakhirnya arbitrase wajib, dan partisipasi Google dalam proyek Maven Pentagon.
Beberapa bulan yang lalu, ribuan karyawan Google menandatangani surat terbuka yang memprotes keterlibatan perusahaan dalam proyek AI untuk deteksi target drone. Beberapa bulan kemudian, Google berjanji untuk mengakhiri kontrak Maven pada 2019 dan mengeluarkan serangkaian prinsip kecerdasan buatan, termasuk janji untuk tidak membuat senjata otomatis.
Demikian pula, karyawan Facebook meminta CEO Mark Zuckerberg untuk memverifikasi fakta atau melarang iklan politik, sementara karyawan Microsoft dan GitHub menyerukan pemutusan kontrak dengan ICE.
Menantang perusahaan teknologi besar membutuhkan keberanian dan pengorganisasian terutama bagi mereka yang dipekerjakan oleh perusahaan-perusahaan ini tetapi protes ini menunjukkan bahwa individu dapat memperoleh kembali kekuasaannya, bahkan saat menghadapi raksasa.
Pemerintah dan masyarakat
Dengan kebangkitan kecerdasan buatan saat ini, Elon Musk telah menjadi Paul Revere (Paul Revere) kontemporer, yang mengeluarkan peringatan tentang robot pembunuh dan kecerdasan umum buatan (AGI). Ketika Presiden Rusia Vladimir Putin mengatakan bahwa negara-negara yang mengontrol kecerdasan buatan akan mengontrol dunia, Musk menjawab bahwa dia yakin perlombaan senjata kecerdasan buatan akan mengarah pada Perang Dunia III.
Musk bergabung dengan lebih dari 4.500 peneliti kecerdasan buatan dan robotika dan menandatangani surat terbuka untuk memperjuangkan masa depan melawan senjata otomatis tak berawak. Jika atau ketika suatu negara memperkenalkan robot pembunuh otonom yang memiliki kekuatan untuk memilih hidup atau mati manusia, itu mungkin benar-benar ekspresi kekuatan tertinggi.
Namun, terlepas dari kenyataan bahwa orang-orang seperti Musk telah memberikan banyak perhatian pada hipotesis, pengenalan wajah telah digunakan di kota-kota tertentu, seperti Departemen Kepolisian Detroit yang telah menguji pengenalan wajah secara real-time. Pada saat yang sama, hasil yang dikembalikan oleh algoritme diyakini memiliki dampak negatif pada kehidupan jutaan orang Afrika-Amerika, dan kinerja jenis kelamin non-biner dan orang kulit berwarna buruk.
Adegan AGI seperti "Terminator: Skynet" mungkin belum muncul, tetapi militer sudah mempertimbangkan penerapan etis dari kecerdasan buatan.
Kecerdasan buatan, kekuatan dan masyarakat sipil
Meskipun perjuangan seputar penggunaan kecerdasan buatan untuk mengontrol pidato politik online terus berlanjut, masalah baru terus muncul, seperti bias yang telah menyebabkan perantara dan organisasi advokasi meminta raksasa teknologi untuk melarang penggunaan algoritme untuk menggantikan hakim dalam penilaian jaminan praperadilan.
Kemitraan kecerdasan buatan yang dibuat oleh peneliti kecerdasan buatan dari perusahaan seperti Apple, Facebook, dan Google menghubungkan organisasi seperti Amnesty International dan Human Rights Watch dengan perusahaan kecerdasan buatan terbesar di dunia. Direktur Eksekutif Terah Lyons mengatakan bahwa kekuatan merupakan inti dari perdebatan etika kecerdasan buatan antara LSM dan raksasa teknologi tentang bagaimana kecerdasan buatan akan mempengaruhi masyarakat.
Dia percaya bahwa industri kecerdasan buatan tidak memiliki keragaman, cara sistem dan alat dibangun dan digunakan, serta kekuatan dan pengaruh perusahaan teknologi dan individu di dalam institusi. Ini semua adalah kekuatan yang bekerja.
Dibandingkan dengan perusahaan teknologi besar dan kaya sumber daya ini, ada banyak perbedaan dalam kekuasaan dan alokasi sumber daya masyarakat sipil dan organisasi nirlaba dengan sedikit sumber daya. Oleh karena itu, untuk memberdayakan mereka secara lebih efektif, saya pikir ini adalah titik awal Anda. Faktor penting untuk kerjasama dan persaingan yang sehat, ujarnya.
Pembatasan perjalanan yang sama juga akan memengaruhi peneliti kecerdasan buatan yang tertarik untuk berpartisipasi dalam konferensi internasional. Tahun lalu, pada Seminar Artificial Intelligence yang diadakan oleh NeurIPS di Montreal, Kanada, sekitar setengah dari peserta ditolak oleh petugas imigrasi. Tahun ini, pelamar melaporkan situasi yang sama lagi.
Insiden semacam itu telah mendorong mitra di bidang kecerdasan buatan untuk mendesak negara-negara memberikan visa khusus untuk perjalanan ke konferensi penelitian kecerdasan buatan, seperti visa untuk profesional medis, atlet, dan wirausahawan di bagian dunia tertentu.
Hubungan kekuasaan antara negara dan raksasa teknologi
Casper Klynge adalah Duta Besar Denmark untuk Silicon Valley. Beberapa negara memiliki pusat bisnis dan inovasi di San Francisco Bay Area, tetapi Klynge adalah duta besar pertama yang dikirim ke Silicon Valley untuk mewakili kepentingan diplomatik suatu negara.
Pemerintah Denmark telah mengirimnya sebagai negara adidaya global untuk berurusan dengan perusahaan seperti Apple, Amazon, Google, dan Facebook, yang telah mengumpulkan banyak talenta kecerdasan buatan di dunia. Klynge percaya bahwa lebih banyak negara kecil harus melakukan hal yang sama sehingga mereka dapat bekerja sama untuk tujuan bersama. Klynge mengatakan bahwa dalam dua tahun sebagai sekretaris jenderal NATO, dia mengetahui bahwa membangun aliansi multilateral dengan negara kecil lainnya adalah bagian dari pekerjaannya.
Monopoli bukanlah hal baru bagi pemerintah, tetapi Klynge mengatakan bahwa kecerdasan buatan seperti otonom mengemudi dan pencarian telah mengubah aturan main, membuat jenis perusahaan teknologi ini lebih penting bagi kepentingan nasional daripada banyak negara lain, dan memicu ancaman bagi Denmark. Yang disebut permintaan diplomasi teknologi.
Klynge menunjukkan bahwa raksasa teknologi mendistorsi sifat hubungan internasional dan menciptakan kenyataan baru, yaitu, negara harus memperlakukan raksasa teknologi seperti negara adidaya global.
Kita tidak bisa lagi melihat mereka sebagai platform netral, mereka hanya penyedia netral dari apa yang orang ingin lakukan. Saya pikir kita harus memperlakukan mereka dengan cara yang lebih dewasa dan bertanggung jawab, yang juga berarti kita tidak lagi naif. Kami lebih seimbang, dan kami juga membuat tuntutan untuk meminta pertanggungjawaban mereka. Dia berkata, Pekerjaan saya hanyalah gejala, dan kami mencoba melakukan sesuatu yang lebih sistematis untuk memiliki pendekatan yang lebih seimbang dan seimbang terhadap perusahaan teknologi dan teknologi itu sendiri. Pandangan yang lebih realistis. "
Apa masa depan
Dalam perdebatan tentang etika kecerdasan buatan, kekuasaan ada dimana-mana, tapi ini tidak berarti kita harus tetap tidak aktif. Seperti yang ditunjukkan oleh proyek melek etnis, ada cara lain.
Ketika Ruha Benjamin mengatakan bahwa teknologi membutuhkan "imajinasi sosial", dia memanggilnya. Cathy O'Neil juga menyebutkan hal ini dalam bukunya "Weapons of Math Destruction".
"Proses data besar mengkodifikasi masa lalu. Mereka tidak menciptakan masa depan. Untuk melakukannya diperlukan imajinasi moral, dan ini adalah sesuatu yang hanya dapat diberikan oleh manusia," tulisnya.
Struktur kekuasaan yang terdistorsi membuat kata-kata seperti "demokratisasi" sebenarnya tidak ada artinya, tetapi menyerahkan kecerdasan buatan ke tangan lebih banyak orang yang memecahkan masalah besar dapat mengubah persepsi orang tentang kecerdasan buatan secara signifikan dan menjadikannya lebih penting bagi manusia. Berikan dampak positif dalam hidup.
Tentu sudah banyak contoh kecerdasan buatan yang digunakan untuk meningkatkan kehidupan manusia. Para peneliti di Massachusetts Institute of Technology telah menemukan algoritme yang memungkinkan anak-anak pergi ke sekolah lebih cepat, menghemat biaya transportasi Boston School District sebesar $ 5 juta setiap tahun. Departemen Pemadam Kebakaran New York dan Universitas New York menggunakan kecerdasan buatan untuk meningkatkan waktu tanggap darurat dengan memahami jalur di tempat yang paling efektif-ini adalah salah satu dari lusinan proyek di Google.org yang menggunakan metode berbasis data untuk membuat kecerdasan buatan demi keuntungan Kemanusiaan. Umat manusia menggunakan kecerdasan buatan untuk membangun rumah kaca yang lebih efisien dan meningkatkan hasil panen. Kemajuan ini dapat membantu menghindari kelaparan dalam beberapa dekade mendatang dan memberi makan dunia saat populasi global membengkak hingga 10 miliar. Daftarnya terus berlanjut.
Namun, teknologi yang dapat memprediksi masa depan, menumbangkan tatanan ekonomi dan sosial, memenjarakan orang, atau membuat keputusan tentang kesehatan kita selalu berarti bahwa di bawah permukaan kemajuan teknologi yang mengesankan, itu adalah a Perebutan kekuasaan.
Ada dinamika kekuatan dalam sistem kecerdasan buatan yang akan membuat orang kulit berwarna tampil lebih buruk dalam penilaian jaminan, perawatan kesehatan yang memengaruhi jutaan orang, layanan untuk tunawisma, dan pengenalan wajah.
Ini juga merupakan kasus ketika pakar kecerdasan buatan UE mendesak negara-negara untuk menghindari pengawasan skala besar dan sebagai gantinya menggunakan kecerdasan buatan untuk meningkatkan kemampuan masyarakat. Baik Samsung dan Perserikatan Bangsa-Bangsa telah mengusulkan penggunaan kecerdasan buatan untuk mencapai tujuan pembangunan berkelanjutan.
Seperti yang dikatakan Camilla Rygaard-Hjalsted, CEO Digital Center Denmark, tujuan perubahan iklim yang agresif membantu merekrut bakat kecerdasan buatan, atau pembelajaran mesin yang diterapkan pada perubahan iklim bisa menjadi rencana pendaratan bulan yang hebat untuk kecerdasan buatan.
Itu ada dalam proyek dialog kecerdasan buatan yang baru lahir untuk melindungi anak-anak dari personel militer, mendeteksi kapan penembakan geng dapat terjadi, atau memberikan layanan konseling kesehatan seksual untuk anak perempuan di Pakistan.
Itu ada dalam proyek sumber terbuka, seperti Masakhane, yang didedikasikan untuk membuat terjemahan mesin untuk lebih dari 2.000 bahasa Afrika. Proyek tersebut saat ini memiliki 60 kontributor dari seluruh penjuru benua Afrika yang berkomitmen untuk mengembangkan kecerdasan buatan yang dapat melestarikan dan menerjemahkan bahasa tersebut. Menurut perkiraan Perserikatan Bangsa-Bangsa, Afrika memiliki populasi termuda di dunia, dan Afrika akan menyumbang lebih dari separuh pertumbuhan populasi global dari sekarang hingga 2050. Terjemahan mesin di Afrika mungkin penting untuk memajukan dialog kecerdasan buatan, komunikasi, dan perdagangan online dan dunia nyata.
Selama tiga tahun terakhir, Kathleen Siminyu telah bekerja di Divisi Wanita dari Pembelajaran Mesin dan Ilmu Data di Nairobi, Kenya. Dia berkata: "Saya pikir bahasa adalah penghalang. Jika penghalang ini dihilangkan, banyak orang Afrika akan dapat berpartisipasi dalam ekonomi digital dan pada akhirnya memasuki ekonomi kecerdasan buatan. Jadi, ya, karena orang-orang yang duduk di sini berkontribusi pada bahasa lokal, Saya pikir kami memiliki tanggung jawab untuk membawa mereka yang tidak berada di era digital ke era kecerdasan buatan. "
Jika Anda hanya memperhatikan sebagian dari debat etika kecerdasan buatan, mudah untuk sampai pada kesimpulan bahwa menjadikan etika kecerdasan buatan sebagai bagian dari proses rekayasa dan desain adalah benar secara politis dan merupakan persyaratan tanggung jawab sosial perusahaan, yang dapat menghalangi kenyataan. kemajuan.
Sebenarnya tidak. Etika kecerdasan buatan berarti membangun model dengan cara terbaik, mempertimbangkan manusia, dan menjaga model dalam suatu siklus. Ini sangat diperlukan untuk teknologi masa depan dan sistem yang dipilih orang untuk mengelola dunia.
Dinamika kekuatan ini tampak paling menakutkan ketika kita tidak memiliki visi lain untuk masa depan, kecuali planet pengangguran yang berada di bawah pengawasan global dan sedang menuju Perang Dunia III.
Ketika menggambarkan jalan menuju dunia yang lebih baik, seseorang harus mengenali dinamika kekuatan di dalamnya, karena seperti halnya kecerdasan buatan itu sendiri dapat menjadi alat atau senjata, ia dapat menempatkan individu dan seluruh masyarakat pada posisi yang menguntungkan atau tidak menguntungkan. Startup, raksasa teknologi, dan komunitas yang menginginkan dunia yang lebih baik memiliki tanggung jawab untuk memimpikan dan berbagi keinginan ini.
Kecerdasan buatan sedang mengubah masyarakat, tidak mungkin hanya beberapa orang yang memiliki hak istimewa untuk memutuskan bagaimana ini akan terjadi atau seperti apa dunia ini.
- Dibuat oleh Luneng harus menghasilkan produk yang bagus! Dia membantu Liu Yang untuk membombardir dan mematahkan gawang.Pertempuran Sino-Suriah layak dipercaya Lippi
- Media: Park Ji-soo pulih dengan baik dan bisa bermain di SIPG Fans: Evergrande mengontrol Asosiasi Sepak Bola Korea?
- Investor ritel domestik terbaik dalam "melakukan T": memegang saham selama 20 tahun, melakukan T bolak-balik, membeli 5%, menjual 5%, dan pokoknya 60 kali dalam 4 tahun
- Li Lei merindukan perang Sino-Suriah, Ji Xiang telah berlatih solo selama 3 hari berturut-turut! Apakah tidak ada dokter jenius di timnas?
- Seseorang akhirnya menjelaskan tentang sifat naik turunnya pasar saham: ini bukan karena pasar saham tidak menghasilkan uang, tetapi Anda telah mengikuti modal utama yang salah, dan memahami bahwa sa
- Lippi akhirnya sadar? Syria tidak "menghidangkan", "master memasak" atau menyerahkan pusatnya kepada Exon