Pada awal Juli tahun ini, regulator data Inggris ICO membuat keputusan akhir: Perjanjian berbagi informasi yang ditandatangani oleh DeepMind dan British National Medical System NHS telah dikonfirmasi sebagai Melanggar Undang-Undang Perlindungan Privasi . Apa yang terjadi antara DeepMind dan NHS? Masalah ini harus dimulai pada 2015.
Pada September 2015, perusahaan kecerdasan buatan Google DeepMind dan NHS diam-diam menandatangani perjanjian berbagi informasi untuk bersama-sama mengembangkan Aliran Aplikasi ponsel pintar. Aplikasi ini dapat membantu dokter dan perawat untuk memantau secara klinis fungsi ginjal pasien untuk diagnosis dini cedera ginjal akut.
Perjanjiannya sangat kritis, Karena perjanjian ini, DeepMind dapat mengakses 1,6 juta data medis pasien yang awalnya berafiliasi dengan NHS , Dan tanpa sepengetahuan pasien. Yang lebih buruk adalah bahwa data medis sensitif yang melibatkan identitas pribadi pasien ini memiliki cakupan yang luas, termasuk tidak hanya status fungsi ginjal, tetapi juga Jumlah aborsi, jenis pengobatan, riwayat kesehatan Dan masih banyak data lainnya.
Karena itu, begitu kesepakatan ini terungkap, menimbulkan keributan. Publik menuduh DeepMind dan NHS mengabaikan undang-undang perlindungan privasi dan melanggar privasi pasien. Tambahan, Publik juga khawatir bahwa perusahaan induk DeepMind, Google, akan menyalahgunakan data medis ini untuk tujuan komersial.
Awalnya semua orang tidak tahu bahwa DeepMind dan NHS menandatangani perjanjian ini. Baru pada April 2016 seorang pelapor secara tidak sengaja memperoleh dokumen yang relevan dengan menggunakan haknya atas kebebasan informasi, dan perjanjian ini pertama kali terungkap.
Setelah itu, regulator data Inggris ICO melakukan penyelidikan khusus atas legalitas perjanjian tersebut untuk menentukan apakah DeepMind dan NHS melanggar undang-undang perlindungan privasi yang relevan. Selain itu, publik juga telah memberikan tekanan kepada DeepMind dan NHS, Kedua belah pihak harus mengakui penggunaan khusus dan cakupan khusus penggunaan data medis pasien ini. Selain itu, beberapa organisasi advokasi privasi data pribadi juga mengharuskan kedua belah pihak untuk mengungkapkan lebih detail.
Terlepas dari tekanan besar dari opini publik, hingga keputusan akhir ini dibuat, DeepMind dan NHS masih bersikeras bahwa mereka tidak menggunakan data medis ini untuk penelitian kecerdasan buatan, tetapi hanya menggunakan sebagian data untuk mengembangkan aplikasi Streams.
Namun, menurut dokumen perjanjian yang kemudian diungkapkan lebih lanjut, disebutkan: DeepMind telah mendapatkan persetujuan dari komite etika NHS pada saat itu, mengizinkannya menggunakan data medis untuk penelitian kecerdasan buatan. , Jika DeepMind memiliki kemauan. Dengan kata lain, komite etika NHS merasa tidak melanggar etika.
Kedua pihak juga mengklaim bahwa ketika mereka menandatangani perjanjian tersebut, mereka tidak berpikir itu akan melanggar undang-undang perlindungan privasi yang relevan. Karena menurut hukum Inggris, Jika data medis pasien digunakan untuk merawat pasien secara langsung, itu tidak ilegal . Tetapi publik mengira mereka menggunakan data medis ini untuk penelitian medis ilmiah , Apakah pengobatan tidak langsung, bukan pengobatan langsung, jadi ini sudah ilegal.
Mungkin Google dan NHS benar-benar tidak tahu bahwa perjanjian mereka akan melanggar hukum, tetapi banyak anggota masyarakat menuduh: "Apakah Google tidak tahu menggunakan mesin telusurnya sendiri untuk mencari undang-undang perlindungan privasi yang relevan? Google dan NHS harus jelas-jelas memberi tahu pasien tentang data mereka Sudah digunakan, tapi mereka memilih untuk mengabaikannya. "
Selain itu, beberapa pakar keamanan siber melakukan evaluasi keamanan informasi di server tempat DeepMind menyimpan data medis tersebut dan menemukan bahwa, Server ini kemungkinan besar akan diretas, dirusak, dan mencuri data .
Jelas, transparansi adalah prinsip yang disukai untuk masalah etika yang terlibat dalam penelitian medis. Laporan evaluasi strategi ilmu hayati yang diterbitkan baru-baru ini juga menekankan bahwa pasien memiliki hak untuk mengetahui di mana data medis mereka digunakan. Sayangnya, NHS dan DeepMind tidak memperhatikan pentingnya transparansi.
Putusan bulan Juli itu akhirnya mengakhiri penyelidikan kedua belah pihak yang berlangsung lebih dari setahun, dan mendorong kedua belah pihak untuk terus menggarap etika. DeepMind kemudian membentuk tim evaluasi proyek independen untuk mengevaluasi masalah etika proyek penelitian ilmiah di masa depan. NHS juga menyatakan di situs resminya bahwa pihaknya akan bekerja keras untuk meningkatkan transparansi penggunaan data di masa mendatang.
Gejolak ini sekali lagi menempatkan kontradiksi antara perkembangan teknologi dan kendala etika di hadapan kita.
Semua orang tahu bahwa melatih kecerdasan buatan membutuhkan kumpulan data besar yang sesuai, dan DeepMind tidak lebih dari mencoba mendapatkan data medis besar yang dimiliki oleh NHS kali ini. Namun, sementara DeepMind sangat ingin mengembangkan kecerdasan buatan, ia telah mengabaikan masalah penting kendala etika, yang juga menyebabkan badai ini.
Etika dan moral setiap era memiliki batasan era tertentu , Dan apabila standar etika pada era tersebut tidak dapat mengimbangi kemajuan teknologi pada era tersebut maka akan menghambat perkembangan ilmu pengetahuan dan teknologi.
Seperti yang dikatakan Einstein: " Dari segi maknanya, sains tidak pernah bermoral seperti sekarang. Karena pencapaian perkembangan ilmu pengetahuan, tidak pernah mempengaruhi nasib umat manusia seperti sekarang. "Sudah waktunya umat manusia menghadapi kontradiksi antara perkembangan teknologi dan kendala etika.
- Saudara Spanyol itu mengkritik "insiden BBVA": "Mengapa Anda ingin menambahkan penyumbatan pada orang China selama Festival Musim Semi?"
- Daftar Koi Interaktif Tahun Baru dari Stasiun Intelijen akan datang! Paket hadiah besar ada di sini, datang dan lihat apakah saya memiliki Anda
- Zhang Tianzuo, Direktur Bimbingan Ekonomi Koperasi Kementerian Pertanian dan Pedesaan: Mengembangkan industri pedesaan. Ada 9 jenis industri di tanah air yang patut mendapat perhatian khusus
- Minggu pertama babak playoff: gaya tim tetap "panas dan dingin", tim pendiri tidak memiliki yang selamat