Sebuah pertanyaan yang sangat menakutkan, apakah mesin perlu mempertimbangkan etika?
Pada Maret tahun ini, Uber mengalami kecelakaan fatal pertama di dunia dengan kendaraan otonom penuh. Saat itu, banyak yang menyimpulkan bahwa mobil tanpa pengemudi Uber tidak mengaktifkan sistem pemantauan pejalan kaki. Dengan kata lain, itu adalah kecelakaan perangkat keras. Tapi sekarang Hasilnya tampaknya terbalik.
Kebenarannya masih membingungkan
Menurut berita dari situs berita teknologi AS The Information pada 7 Mei, Uber pada dasarnya telah mengidentifikasi penyebab kecelakaan tersebut.Dua sumber mengungkapkan bahwa ketika wanita itu menyeberang jalan, sensor di dalam mobil tanpa pengemudi Uber (dimodifikasi dari Volvo XC90) Dia terdeteksi, tetapi perangkat lunak self-driving Uber menilai bahwa sistem tidak perlu mengambil tindakan mengelak terhadap wanita tersebut.
Karena Google's Waymo dan General Motors Cruise sering berhenti tiba-tiba jika ada sedikit ancaman, sistem Uber telah menyesuaikan strategi penilaiannya untuk mengabaikan false alarm atau hal lain yang tidak akan menjadi masalah, seperti kantong plastik yang mengambang di jalan. , Dan ketika kejadian itu terjadi, wanita tersebut sepertinya sedang membawa kantong plastik ...
Dengan kata lain, penyebab kecelakaan itu adalah sistem perangkat lunak, bukan sistem perangkat keras termasuk berbagai sensor dan kamera.
Saya tidak tahu apakah sisi perangkat keras dan perangkat lunak saling berguncang, atau Uber mencoba menutupi rumor bahwa "teknologi tidak bagus". Lagi pula, ada dua konsep yang tidak dapat mendeteksi pejalan kaki dan dapat mendeteksi. Yang terakhir hanya dapat menjelaskan semua orang. Konsep "budaya keselamatan" berbeda (setelah kecelakaan itu, beberapa media Amerika menuduh proyek mobil tanpa pengemudi Uber dari para pemimpin masa lalu dengan kecepatan pengembangan pertama, keselamatan adalah yang kedua), dan teknologinya baik-baik saja.
Tapi kebenarannya masih simpang siur. Mungkin laporan investigasi yang dikeluarkan Badan Keselamatan Transportasi Nasional (NTSB) yang bersama-sama menyelidiki Uber nanti akan lebih detail.
Berpikir dengan hati-hati, dapatkah mesin menentukan kehidupan manusia?
Jika benar-benar penilaian perangkat lunak bahwa tidak perlu membayar pelanggaran pejalan kaki, maka masalah ini benar-benar menakutkan, karena mesin sudah mulai menentukan nyawa manusia.
Dalam proses pengembangan robot kecerdasan buatan, perlindungan kehidupan diperlukan sebagai prinsip pertama.Bahkan, hal yang sama berlaku untuk pengembangan kendaraan otonom. Pedoman yang dikeluarkan oleh Komite Etik Jerman tahun 2017 mengatur tentang perlindungan kendaraan otonom. Prioritas:
Kehidupan manusia> Kehidupan binatang> Hilangnya harta benda.
Etika mesin, siapa yang harus diselamatkan dan siapa yang harus dikorbankan?
Tetapi ketika sampai pada pertanyaan, bagaimana jika kehidupan pada level yang sama terancam? Di sini sekali lagi menyangkut masalah etika.
Misalnya, ketika dua orang sedang menyeberang jalan pada saat yang sama ketika sebuah kendaraan otonom datang, bagaimana salah satu dari keduanya dapat dihindari? Apakah anggota memiliki prioritas untuk dilindungi?
Atau mungkin ada 10 orang yang menyeberang jalan secara ilegal, dan ada pejalan kaki yang berjalan di jalur tidak bermotor sesuai dengan peraturan lalu lintas. Ketika kendaraan otonom mengalami tabrakan yang tidak dapat dihindari, haruskah Anda memilih untuk membiarkan 10 pejalan kaki ilegal tersebut membayar nyawa mereka? Menabrak yang satu ini?
Jika mesin mengambil perlindungan nyawa manusia sebagai prinsip pertama, sangat mungkin memilih untuk memukul satu orang ini untuk menyelamatkan 10 orang lainnya, tetapi untuk pejalan kaki ini, itu sangat tidak bersalah.
Beberapa orang mungkin berpikir bahwa ini benar, Bukankah lebih etis dan etis mengorbankan minoritas untuk menyelamatkan mayoritas?
Jadi jika suatu saat, Anda membawa mobil tanpa pengemudi berjalan di tikungan terjal di salah satu sisi tebing dan tiba-tiba muncul sekelompok pengendara sepeda di depan Anda. Saat korban jiwa tidak terhindarkan, Anda kira mobil self-driving Anda akan membawa Anda Lompat dari tebing bersama?
Untungnya, setelah kecelakaan itu, banyak perusahaan riset dan pengembangan mobil self-driving, termasuk Uber, menghentikan uji jalan. Kecelakaan mobil yang serius ini akan mendorong perusahaan riset dan pengembangan untuk lebih memperhatikan keselamatan kendaraan tak berawak. Menurut saya, hormati kehidupan. Itu lebih penting daripada mengembangkan teknologi.
- Mobil murah lain yang berhasil mengejar tarif, kali ini masih seri mobil Mercedes-Benz yang berstandar B.
- Pegas cermin ganda? Versi baru PlayerUnknown's Battlegrounds empat kali dan delapan kali cermin terpotong!
- Model Haval H6 mewah dan super mewah baru ada di pasaran, tetapi apakah Anda pernah mendengar istilah itu lebih dari 500 kali?
- "20 +" di minggu mendatang, tertinggi adalah 26 pada hari Rabu! Selain waspada terhadap serbuk sari di musim semi, aktivitas di dalam ruangan juga pasti alergi