Ini adalah hari sehari-hari.
Sebuah drone seukuran telapak tangan terbang perlahan di antara gedung-gedung, dan kameranya berputar, melihat sekeliling, dan mengenali kerumunan.
Tiba-tiba, seseorang terbunuh oleh tembakan tepat di kepala oleh drone, dan kemudian semua orang di sekitarnya ditembak dengan panik.Dalam sedetik, daging dan darah terciprat ke seluruh gedung dan mayat menyebar ke seluruh lapangan.
Hanya satu orang yang keluar dari hujan peluru tanpa cedera, dan drone itu mengikutinya pergi.
Ini hanyalah cerita kecil yang mungkin dibawa senjata AI di masa depan.
Google bekerja sama dengan Departemen Pertahanan AS untuk menggunakan computer vision tingkat lanjut untuk secara otomatis mengenali 38 kategori objek yang diambil oleh drone
Saat ini, senjata AI telah dikerahkan dan dikembangkan oleh negara-negara seperti Amerika Serikat, Rusia, Inggris, Prancis, Israel, dan Korea Selatan, termasuk 381 senjata otonom sebagian dan sistem robotik militer.
Senjata, pesawat, kapal, tank, dan robot berbasis kecerdasan buatan ini kemungkinan besar akan memulai perang dunia di masa depan di bawah kendali algoritme.
Ia juga dianggap sebagai sistem senjata otonom yang mematikan (LAWS) -tidak hanya "berpikir" dan mampu membedakan bahasa alami, ia juga dapat "secara sadar" menemukan dan mengidentifikasi sasaran serangan, dengan kecepatan dan kecepatan yang tak tertandingi oleh senjata dan tentara tradisional. Singkirkan lawan dengan efisiensi.
Karena mereka membawa kematian yang tidak terduga dengan semua senjata saat ini, para ahli AI menyatakan pada pertemuan tahunan American Association for the Advancement of Science (AAAS) Washington:
Senjata AI akan menghadirkan "revolusi senjata ketiga dalam perang" dan menjadi ancaman terbesar bagi kelangsungan hidup manusia.Selamat tinggal, bubuk mesiu dan bom
Seperti yang kita semua tahu, masing-masing dari dua revolusi senjata pertama menyebabkan kerusakan parah pada masyarakat, mulai dari membunuh nyawa seseorang dalam hitungan detik hingga kehancuran suatu negara secara instan.
Revolusi senjata pertama adalah bubuk mesiu.
Senjata ini, yang dimulai dengan alkimia Tiongkok lebih dari 1.000 tahun yang lalu, dapat membakar gerbang kota dalam satu tembakan di akhir Dinasti Song Utara. "Sejarah Emas" menggambarkan senjata yang disebut "petir yang menggetarkan langit": Di lahan seluas setengah hektar, manusia dan kulit sapi sudah rusak dan tidak ada jejaknya.
Setelah diperkenalkan ke Eropa Barat pada abad ke-13, kelas ksatria yang mengandalkan senjata dingin untuk memamerkan kekuatan mereka menurun. Dengan munculnya bubuk tanpa asap, bubuk basa ganda, detonator, dll., Revolusi militer nyata terjadi. Dalam pengertian modern, roket, bom, Rudal mengikuti, dan tembakan mulai ditembakkan di medan perang.
Revolusi senjata kedua adalah bom nuklir.
Umat manusia telah menggunakan senjata nuklir hanya dalam satu perang. Selama Perang Dunia II, Amerika Serikat menjatuhkan dua bom atom di kota-kota Hiroshima dan Nagasaki di Jepang.
Pada tahun 1945, Hiroshima, Jepang, langsung berubah menjadi lautan api di bawah ledakan awan jamur yang memekakkan telinga. 71.379 warga sipil yang tidak bersalah menderita, dan bangunan serta manusia hancur seperti atom. Kekuatan destruktif yang sangat besar yang dihasilkan oleh ledakan nuklir juga menghasilkan bahaya radiologi yang tidak dapat hilang selama puluhan ribu tahun.
Mengenai kekuatan destruktif senjata AI, Musk pendiri Tesla pernah mengatakan dalam petisi bersama oleh lebih dari 2.000 ahli AI untuk melarang "membunuh robot":
Tolong ingat kata-kata saya, AI jauh lebih berbahaya daripada senjata nuklir.1945, reruntuhan bom atom Hiroshima
Ini adalah revolusi senjata ketiga di masa depan: AI . Ini juga merupakan revolusi senjata yang tidak terlihat.
Faktanya, kita tidak asing dengan AI dalam kehidupan kita sehari-hari. Dari pengenalan suara Siri tentang kebutuhan kita, hingga penggunaan potret pengguna di Internet untuk mencapai iklan iklan yang akurat, pada tahun 2017, versi evolusi robot Master AlphaGo bahkan mengelompokkan master Go teratas, AI Teknologi maju dengan kecepatan yang terlihat dengan mata telanjang.
Tapi ketika digunakan dalam senjata, meskipun tidak sci-fi seperti di "Terminator", itu masih cukup menakutkan.
Senjata AI akan menjadi senjata mematikan yang otonom, yang tidak hanya akan digunakan oleh siapa pun di lingkungan mana pun, tetapi juga membuat perang menjadi industri, melampaui etika manusia, dan menjadi tidak terkendali. Inilah mengapa disebut revolusi senjata ketiga setelah bubuk mesiu dan bom nuklir.
Selama orang mengatur algoritme dalam senjata, ditambah banyak sensor, kamera dengan fungsi berbeda, dll., Senjata dapat secara akurat mengidentifikasi, melacak, dan menemukan kombatan tertentu, dan juga dapat memprogram ulang dan memodifikasi algoritme di tengah jalan, serta melacak lebih banyak lagi. Beberapa variabel medan perang.
Dalam ruang pertempuran yang padat, pengambilan keputusan, penyebaran, dan kecepatan adalah aset utama. AI dapat secara akurat memandu senjata, tanpa perlu tentara untuk memanipulasinya, untuk memungkinkan pesawat, kapal perang, dan kendaraan lapis baja mencekik musuh dalam skala besar dan mendapatkan peluang kemenangan yang lebih signifikan.
Kecepatan dan durasi pertempuran sebelumnya akan diubah. Karena kecepatan membunuh senjata AI, baik dalam tindakan atau pemikiran, bisa melebihi kecepatan manusia untuk melindungi diri.
Robot yang ditampilkan di Pameran Dunia yang diadakan di Hanover, Jerman pada tahun 2000. Gambar dari: Associated Press
Ini juga mengerikan: setiap orang dapat menggunakan teknologi AI untuk mengubah senjata menjadi "pembunuh".
Algoritme untuk menanamkan senjata tidak memerlukan bahan mahal atau langka di masa lalu. Seorang programmer dan printer 3D dapat membuat hal-hal yang dapat dibuat oleh sekelompok produsen senjata; mereka yang memiliki dana cukup dapat mewujudkan kekuatan super dengan satu Hal-hal yang hanya bisa dilakukan dengan pasukan.
Ini akan memungkinkan produksi massal senjata berbiaya rendah dan perang industrialisasi.
Selain itu, AI juga dapat menjadi senjata dalam sistem perangkat lunak, yang juga dapat menimbulkan konsekuensi yang mengerikan. Kepanikan terorisme diperkirakan akan meningkat, dan orang-orang akan diliputi oleh bayangan kepanikan informasi yang tak terlihat sepanjang hari.
Gambar dari: Anandabazar Patrika
Karena Anda tidak tahu hari ini, seseorang akan mengoperasikan algoritme canggih untuk menerobos kegelapan, menggunakan AI untuk menutup atau melumpuhkan sistem di seluruh negeri, atau menghasilkan program peretas atau malware yang cerdas untuk secara akurat menemukan pengguna dan sistem yang rentan, dan menggunakan data dan privasi untuk mengintimidasi massa.
Karena semakin banyak negara mulai memperhatikan masa depan senjata AI, jendela peluang untuk tindakan pencegahan ditutup dengan cepat.
Apakah perang AI membayangi?
Kami telah mendengar teori konspirasi dari N jenis robot yang muncul dan menghancurkan umat manusia, tetapi kemungkinan kejadian sebenarnya mungkin nol.
Gambar dari: pluggedin
Saat ini, pemrograman mesin AI juga mengandalkan data tetap, modelnya bergantung pada kondisi lingkungan, sinyalnya mungkin terganggu, dan sains serta otak di balik teknologi tersebut belum matang ...
Sangat jauh dan tidak realistis bagi AI untuk menyingkirkan manusia, menggantikan manusia, mengontrol manusia, dan menjadi spesies baru, dan senjata AI yang sepenuhnya otonom belum muncul.
Meski terlihat tenang di permukaan, dan berbagai negara masih menggunakan senjata tradisional untuk mempersempit jarak dengan kekuatan militer dunia, kekuatan tempur tak berawak yang dibawa oleh AI secara bertahap muncul. "Light warfare" berbasis teknologi telah melonjak dan menunggu. keluar.
Senjata AI yang dipelajari oleh berbagai negara umumnya mencakup tujuh kategori: robot penembakan otomatis jarak jauh, sistem drone cerdas, kapal dan kapal selam tak berawak, senjata darat penembakan otonom, sistem rudal cerdas, serangan dunia maya dan senjata serangan satelit, dan sebagainya.
Seorang pria berjalan melewati sistem robot bersenjata di pameran perdagangan senjata. Kredit gambar: Brendan Smialowski / Bloomberg / Getty Images
Sekarang, pembom nirawak Navy X-47B milik Korps Marinir A.S. telah sepenuhnya dikendalikan oleh komputer.Turret otomatis Super aEgis II di Korea Selatan dan robot tempur Platform-M di Rusia semuanya telah mencapai kendali otomatis. Ada juga banyak drone dan robot keamanan. Sulit untuk membedakan antara penggunaan militer dan sipil.
Lembaga pemikir militer Pentagon setuju bahwa kecerdasan buatan, robot, dan koordinasi manusia-mesin akan mengubah cara perang dilakukan. Pejabat senior militer Rusia juga mengatakan bahwa robot akan banyak digunakan dalam perang dalam beberapa tahun terakhir.
Selain itu, peningkatan pengeluaran teknologi global telah membawa mesin kecerdasan buatan yang "sepenuhnya otonom" mendekati realisasi. Riset International Data Corporation menunjukkan bahwa pengeluaran robotika global akan berlipat ganda dari USD 91,5 miliar pada 2016 menjadi USD 188 miliar pada 2020.
Kubah besi Israel sebagian otonom, dan pejabat militer mengatakan bahwa senjata otonom penuh akan segera menjadi populer. Kredit gambar: Amir Cohen / Reuters
Kecerdasan buatan menumbangkan struktur sosial asli dan metode distribusi, dan data telah menjadi sumber daya yang paling penting.
"A Brief History of Today" berbicara tentang sudut pandang ini: masyarakat modern tidak segila minyak dan koloni seperti di masa lalu, perang tradisional hampir tidak menguntungkan, sumber terpenting dalam masyarakat informasi tidak berwujud, dan perang di masa depan Ini pasti akan menjadi perang teknis. Ini juga alasan mengapa tidak ada perang skala besar yang terjadi selama bertahun-tahun.
Ya, orang-orang sedang bersiap untuk peperangan berteknologi tinggi. AI akan memberikan perang bentuk baru dari campuran lama dan baru yang tersembunyi, terjalin, dan kompleks.
Tren AI yang digunakan di militer tidak dapat dihentikan, meskipun juga memiliki beberapa keuntungan, seperti mengurangi korban sipil dalam perang melalui penentuan posisi yang tepat, hasil yang paling buruk mungkin lebih sulit untuk mengontrol orang dan orang, orang dan mesin. , Krisis yang saling terkait antara mesin dan mesin.
Batasan teknologi tidak terbatas, tetapi hukum dan politik membutuhkan batasan.
Dalam laporan baru, LSM anti-perang Belanda Pax (Pax) mengkhawatirkan pecahnya perlombaan senjata dan menyatakan bahwa "untuk mencegah bencana yang akhirnya terjadi, larangan total harus diterapkan."
Saat ini, 28 negara jelas mendukung larangan penggunaan senjata otonom penuh, tetapi Amerika Serikat, Inggris Raya, dan negara-negara lain menentang larangan tersebut. Mereka percaya bahwa larangan tersebut "terlalu dini" dan dapat mengeksplorasi potensi keuntungan dari pengembangan dan penggunaan senjata otonom. Peninjauan senjata nasional adalah untuk menangani Cara terbaik untuk senjata otonom.
Negara berkembang atau negara berkembang rendah umumnya paling terancam oleh senjata AI Gambar menunjukkan grafiti di jalan-jalan Yaman. Gambar dari: Reuters
Namun dari perspektif yang lebih positif, momentum pelarangan semakin meningkat.
Tahun lalu, Gerakan Non-Blok dan Kelompok Afrika menyerukan instrumen yang mengikat secara hukum. Sekretaris Jenderal Perserikatan Bangsa-Bangsa juga menyerukan pelarangan, dengan mengatakan bahwa senjata-senjata ini "secara politis tidak dapat diterima dan secara moral menyinggung." Seruan tersebut didukung oleh ribuan ilmuwan kecerdasan buatan, masyarakat sipil, pemuka agama, dan pemenang Hadiah Nobel Perdamaian.
Sejak April 2013, organisasi perdamaian PAX telah ikut mendirikan gerakan yang terkenal secara internasional untuk menghentikan robot pembunuh. Dalam beberapa tahun terakhir, organisasi tersebut telah memajukan pengembangan, produksi, dan penyebaran pelarangan senjata otonom, serta memperhatikan masalah hukum, etika, dan keselamatan.
Bagi PAX, alasan terpenting mengapa senjata AI harus dilarang adalah masalah moral.
Organisasi pembunuhan robot dilarang. Gambar dari: stopkillerrobots
Di luar batas moralitas
Ketika keputusan hidup dan mati direduksi menjadi algoritma, kita dapat melakukan serangkaian pertanyaan yang tidak terjawab:
Jika teroris memiliki senjata ini, apa solusinya? Bagaimana senjata AI membedakan manusia dalam masyarakat di mana kombatan tidak berseragam dan warga sipil seringkali bersenjata? Siapa yang bertanggung jawab atas perilaku ilegal senjata AI? Mesin, pengembang, komandan militer? ...Robot polisi militer di Amerika Serikat sedang memeriksa mulut pelaku bom bunuh diri. Gambar dari: Associated Press
Citra mesin AI rasional yang hanya membuat keputusan yang benar itu naif.
Oleh karena itu, kami memerlukan pemerintah untuk mengontrol AI, termasuk algoritme yang bias, perlombaan senjata untuk mengembangkan "robot pembunuh", dan ancaman perusahaan teknologi terhadap privasi data pribadi. Manusia sangat mengkhawatirkan dampak sebuah teknologi di masa depan.Selain penguasaan senjata yang berarti dan memastikan kepatuhan terhadap hukum humaniter internasional dan hukum hak asasi manusia, semua lapisan masyarakat juga perlu berpartisipasi dalam pengembangan teknologi ini secepatnya. Dan masuklah ke aplikasi.
Untuk meredakan oposisi politik, militer AS juga telah mendanai sebuah proyek yang diharapkan dapat memberikan hati nurani kepada tentara robot sehingga mereka dapat membuat keputusan moral. Tetapi tidak ada mesin yang dapat membedakan antara bus yang membawa tentara musuh atau anak-anak, apalagi moralitas, yang seperti mempercayakan semua kesalahan fatal pada senjata.
Gambar dari: Kabel
Tentara manusia memiliki perjanjian hukum seperti Konvensi Jenewa untuk memandu mereka, tetapi robot otonom sekarang hanya dilindungi oleh hukum konflik bersenjata yang melibatkan senjata standar. Mesin-mesin mati tidak dapat memahami kehidupan, atau pentingnya kepergiannya, tetapi mereka memiliki hak untuk memutuskan kapan untuk mengambilnya, betapa absurdnya itu.
Bagaimanapun, orang harus selalu memiliki kendali saat memilih dan menghilangkan target. Bagaimanapun, robot pembunuh tidak hanya akan digunakan oleh kita, mereka juga akan digunakan untuk melawan kita. Menyerahkan kendali manusia atas keputusan hidup dan mati akan menghilangkan martabat yang melekat pada orang.
Setiap keputusan untuk menggunakan kekerasan harus sangat hati-hati dan menghormati nilai kehidupan manusia.
Grup LSM anti-perang "Codepink" melakukan protes di luar "Pameran Drone" di Amerika Serikat pada tahun 2013. Gambar dari: AFP
Padahal, pernah ada peristiwa serupa dalam sejarah.
Senjata kimia dulunya semurah senjata otomatis. Selain digunakan secara luas, senjata kimia juga mencakup area yang tidak dilarang oleh undang-undang pada saat itu. Perusahaan senjata dapat menjual senjata kimia, dan penjahat dapat melancarkan serangan kimia ke suatu negara, selama mereka dijatuhkan dalam perang. Gas beracun akan menutupi langit dan matahari, dan kemudian bumi akan musnah.
Tapi bukannya melarang kimia, kami melarang penggunaan senjata kimia.
Betapa tidak terbatasnya kebijaksanaan otak manusia, betapa rentannya sifat manusia, tetapi untungnya, kita selalu dapat menstabilkan kekuatan pengambilan keputusan manusia pada saat-saat kritis, atau menemukan pilihan terbaik di bawah tren umum.
AI juga "berjalan" sampai hari ini.
Meskipun senjata lahir untuk medan perang, pada akhirnya senjata itu, seperti AI, adalah alat. Kombinasi terbaik dari keduanya berarti itu harus melindungi masa depan yang lebih baik bagi umat manusia.
Biarkan kedamaian langka ini bertahan lebih lama.
Gambar judul dan gambar terakhir berasal dari: stopkillerrobots
- Huawei, yang dihapus dari daftar oleh SD Association, apakah ada cara untuk meningkatkan kapasitas ponsel
- Kebahagiaan datang terlalu tiba-tiba! Saat ini, harga minyak di 7 SPBU di Zhuji telah turun lebih dari 1 yuan per liter!
- Model sinergi industri inovatif Zhejiang, membangun platform tingkat tinggi untuk mempromosikan pembangunan "terintegrasi"
- Bisakah kereta bawah tanah menggunakan Wi-Fi untuk melacak ponsel penumpang? bisakah kamu menerimanya?