Robot AI sedang berlari untuk walikota!
Ya, plot yang ada dalam fiksi ilmiah ini sekarang tercermin dalam kehidupan nyata. Baru-baru ini, sebuah robot Jepang dinominasikan sebagai calon walikota Kota Tama, berjanji akan memperlakukan semua warga negara secara setara dan tidak memihak. Slogan kampanyenya adalah "Berikan kesempatan yang adil dan setara untuk semua orang."
Robot mencalonkan diri untuk walikota Tama, Jepang
Awalnya orang mengira ini hanya cosplay para kandidat, namun kemudian diketahui bahwa itu adalah robot palsu.Kemudian, kandidat AI tersebut membuka akun Twitter resminya sendiri dan memberikan opini politiknya tentang kampanye tersebut: biarkan Politik menjadi lebih adil.
Setelah itu, robot tersebut juga menyebutkan beberapa keunggulan kampanye utamanya:
- Robot tidak memiliki emosi atau keinginan, ketika menangani urusan pemerintahan, mereka tidak akan mempengaruhi perasaan pribadi atau mencegah korupsi;
- Robot tidak perlu istirahat dan dapat bekerja dengan intensitas tinggi untuk waktu yang lama;
- Dibandingkan dengan degradasi memori manusia seiring bertambahnya usia, robot selalu dapat mempertahankan penyimpanan informasi dalam jumlah besar
- ...
Sumber: AImayor
Secara kebetulan, robot pegawai negeri sipil sebelumnya "Sam" dari Selandia Baru juga mendapat cukup banyak perhatian. "Sam" mampu menjawab pertanyaan tentang perumahan, pendidikan dan imigrasi yang diajukan oleh warga, dan dia sendiri "mengatakan" bahwa dia membuat keputusan. Posisi setiap orang akan dipertimbangkan.
Apakah ini benar? Apakah robot bisa diandalkan untuk menjadi walikota? Ke Ming, seorang analis teori relativitas cerdas, percaya bahwa jika Anda ingin robot benar-benar memenuhi syarat untuk jabatan walikota, atau bahkan mengizinkan robot untuk menggantikan pegawai negeri sipil tradisional dalam skala besar, Anda harus memikirkan masalah ini.
Bisakah robot menjadi subjek moral?
Karena Anda ingin melakukan sesuatu, Anda harus bertanggung jawab atas kemungkinan kesalahan Anda. Tapi bisakah robot secara mandiri memikul tanggung jawab mereka sendiri dan menjadi subjek moral? Mari kita lihat eksperimen "Kamar China" John Searle yang terkenal:
Bayangkan seseorang yang hanya berbicara bahasa Inggris di sebuah ruangan, dan di dalam ruangan tertutup dia hanya membawa sebuah buku dengan program terjemahan bahasa Mandarin. Kertas yang ditulis dalam bahasa Mandarin dikirim ke ruangan melalui jendela kecil. Menurut Searle, orang-orang di ruangan itu dapat menggunakan bukunya untuk menerjemahkan kata-kata ini dan membalas dalam bahasa Mandarin. Meskipun dia sama sekali tidak mengerti bahasa Mandarin, Searle percaya bahwa melalui proses ini, orang-orang di dalam ruangan dapat membuat siapa pun di luar ruangan berpikir bahwa dia dapat berbicara bahasa Mandarin dengan lancar.
Eksperimen "Ruang Cina"
Tentu saja, eksperimen "Ruang China" juga menimbulkan beberapa perdebatan tentang kecerdasan buatan.
Namun, dalam perdebatan ini, masyarakat belum menutup kemungkinan adanya autonomous moral design dari artificial intelligence, dan nyatanya desain artificial intelligence berbeda dengan pembentukan agen sebagai subjek moral. Pemahaman konsep seperti kesadaran dan pemahaman pada dasarnya tidak relevan dengan masalah aktual tentang bagaimana membuat robot berperilaku sesuai dengan standar etika.
Kemudian, mari kita lihat apakah moralitas manusia memiliki penerapan tertentu dalam bidang robotika.
Norma moral adalah universal dalam kehidupan kita sehari-hari dan juga dalam kegiatan sosial yang terorganisir, dalam pandangan Marx, moralitas adalah suprastruktur yang merespon landasan ekonomi tertentu.
Namun, karena perkembangan pesat ilmu kecerdasan buatan dan keberadaan serta penerapan robot otonom yang meluas, robot otonom telah berpartisipasi dalam kehidupan di dunia kita yang penuh warna, dan dunia tidak punya pilihan selain membahas status moral robot otonom.
Buku Wendell Wallach dan Profesor Colin Allen "Ethical Machines: How to Make Robots Discern Right from Wrong" memberikan solusi apakah robot harus atau dapat memikul tanggung jawab moral dan agen moral buatan (AMA) :
- Salah satunya adalah pendekatan teoretis top-down, yang berarti bahwa pengetahuan dan kemampuan yang dibutuhkan robot untuk dikuasai diubah menjadi serangkaian aturan algoritme, dan aturan ini ditanamkan di "otak" robot untuk mendapatkan "kognisi";
- Yang lainnya adalah pendekatan bottom-up untuk perkembangan melalui simulasi proses pertumbuhan anak-anak, memungkinkan robot untuk mempelajari perilaku kompleks dan kemampuan kognitif serta pengetahuan dalam interaksi lingkungan yang berbeda.
Dilihat dari kinerja robot layanan saat ini (seperti pegawai negeri), pembelajaran yang mendalam dan otomatisasi tingkat tinggi masih didasarkan pada penyakit yang melekat. Mungkin terlalu dini untuk membicarakan subjektivitas moral robot itu sendiri.
Bisakah robot pegawai negeri benar-benar tidak memihak?
Dari robot AI Jepang yang mencalonkan diri sebagai walikota hingga robot Selandia Baru "Sam", mereka semua mempromosikan keadilan dan ketidakegoisan mereka.
Namun, sebelum mencapai "kecerdasan buatan super", sulit bagi robot untuk membentuk ide sendiri. Bias algoritmik tampaknya selalu sulit diatasi dan dikritik.
Yang disebut "bias algoritmik" berarti bahwa dalam desain program yang tampaknya berbahaya, secara tidak disadari bias oleh perancang atau pengembang, atau data yang digunakan dalam proses penyusunan program menjadi bias.
Konsekuensi dari situasi ini sangat besar, misalnya pencarian Google disalahartikan, kandidat yang memenuhi syarat tidak dapat masuk sekolah kedokteran, bot chat menyebarkan informasi rasis dan seksis di Twitter.
Salah satu masalah tersulit yang disebabkan oleh bias algoritmik adalah bahwa insinyur yang terlibat dalam desain program, meskipun mereka tidak memiliki kecenderungan untuk mendiskriminasi ras, jenis kelamin, atau usia, juga dapat menyebabkan bias. AI pada dasarnya dirancang untuk belajar sendiri, dan terkadang AI memang membuat kesalahan.
Di bidang perekrutan AI, salah satu kasus yang paling umum adalah casting orkestra papan atas. Musik klasik dulu didominasi oleh pria, tetapi audisi buta diperkenalkan pada tahun 1970-an, yang meningkatkan jumlah musisi wanita di orkestra top sebanyak lima kali. di atas.
Namun, hal ini tidak menyelesaikan masalah yang mendasar, kelompok perempuan pertama yang dipilih melalui audisi buta masih tidak dapat berintegrasi ke dalam penampilan sehari-hari mereka, dan band harus mencari penampil laki-laki lain.
Dan rekrutmen AI kami: seperti tirai orkestra, Pembelajaran mesin adalah perubahan paradigma yang berpotensi menghilangkan prasangka lama, tetapi tidak dapat menyelesaikan prasangka selama berabad-abad dengan sendirinya.
Kembali ke bidang robot PNS, tidak ada kekurangan "value judgement" dalam konten pekerjaan, seperti bagaimana cara melaporkan kelengkapan materi? Apa standar untuk evaluasi dan evaluasi Departemen Organisasi? Sebagai walikota, penilaian urusan sehari-hari membutuhkan standar tertentu. Pembelajaran mendalam robot saat ini dapat mencapai "ajudikasi algoritma", yang lagi-lagi jatuh ke dalam arogansi bias algoritmik.
Robot pegawai negeri jenis layanan, apakah Anda berani membiarkannya bekerja dengan mudah?
Bahkan, publik tidak berani membiarkan robot sepenuhnya menggantikan PNS, termasuk walikota.
Walikota AI dikalahkan dalam pemilihan Jepang, dan itu tuntas. Pada referendum terakhir di Kota Tama, Jepang, "Walikota AI" hanya menerima 4.013 suara, jauh dari 34.603 suara yang diperoleh Walikota Tama saat ini, Hiroyuki Abe.
Percakapan antara David dan ibunya dalam "Artificial Intelligence" sangat mengesankan. Ketika David bertanya kepada ibunya apa yang harus dimakan untuk makan malam, ibunya mengatakan kepadanya bahwa robot tidak bisa makan. David berkata: "Saya tahu, tapi saya suka duduk di meja bersama keluarga saya."
Seperti yang dikatakan aktor dalam drama itu, karena David tahu bagaimana mencintai, dia juga harus tahu bagaimana membenci. Ketika kecerdasan buatan menjadi lebih maju dan cerdas, apakah manusia akan dipotong tangannya oleh pedang tajam sains?
Seperti halnya bedah robotik saat ini, keuangan manajemen robotika dan bidang lainnya, masih banyak orang yang belum dapat mempercayai hal ini. Bagaimanapun, robot telah kehilangan sedikit "popularitas". Di bidang pegawai negeri, tidak ada pertanyaan tatap muka, hanya prosedur rutin untuk mendapatkan bukti, dan pekerjaan tampaknya kurang menyenangkan.
Selain itu, cakupan penerapan robot PNS cukup sempit. Dari sudut pandang saat ini, seiring dengan digitalisasi dunia yang terus berkembang, informasi digital terkait pribadi dapat secara bertahap digantikan oleh robot, seperti pemrosesan jaminan sosial, visa untuk pergi ke luar negeri, perpajakan, dll.; Jenis robot pegawai negeri lain menggantikan robot tradisional di pabrik Foxconn Mirip dengan pekerja, robot dapat melakukan tugas seperti mengonfirmasi identitas personel melalui biometrik.
Namun, AI belum mencapai kesempurnaan. Misalnya, banyak developer yang sering menuliskan bias mereka ke dalam proyek kecerdasan buatan. Sebuah studi terbaru juga menemukan bahwa alat penerjemahan bahasa AI memiliki bias rasis dan seksis.
Asimov mengusulkan tiga hukum robot dalam buku "Aku, Robot":
- Hukum pertama: Robot tidak boleh membahayakan manusia secara individu, atau mengabaikan bahwa mereka akan terkena bahaya;
- Hukum kedua: robot harus mematuhi perintah yang diberikan oleh manusia, kecuali jika perintah tersebut bertentangan dengan hukum pertama;
- Hukum ketiga: Robot harus melindungi kelangsungan hidupnya sendiri sebanyak mungkin tanpa melanggar hukum pertama dan kedua.
Tentunya robot masih mengikuti persyaratan dasar ini, namun dengan semakin berkembangnya robotika akan semakin banyak jenis robot yang bermunculan.Ketika robot yang sebenarnya bertentangan dengan etika manusia, bagaimana mengkoordinasikan hubungan antara kecerdasan buatan dan manusia juga akan terjadi. Hal tersebut sudah menjadi hal yang harus diperhatikan di era sekarang ini.
Tentunya, saya juga berharap prediksi Hawking tidak akan pernah menjadi kenyataan. (Artikel ini pertama kali menerbitkan Titanium Media)
[Pengantar oleh penulis Titanium Media: Wen | Ke Ming, sumber | Relativitas Cerdas (WeChat id: aixdlun): menggali jauh ke dalam sumur kecerdasan buatan, menilai asin dan cahaya, membedakan hitam dan putih, dan menceritakan kedalaman vb.
Untuk konten yang lebih menarik, ikuti Titanium Media WeChat ID (ID: taimeiti), atau unduh Aplikasi Titanium Media
- Pengisi daya mobil Anker tidak hanya dapat mengisi daya telepon, tetapi juga membantu menjawab telepon
- Ciuman Madonna dan penyanyi wanita, Michael Jackson dan Britney berpegangan tangan, semuanya terjadi di sini