Marang kucing apa sing sampeyan pikirake ing njero - efek kothak ireng

Kasunyatan manawa algoritma AI sing canggih kaya kothak ireng (1) sing mbuwang asil tanpa ngungkapake kepiye kedadeyan kasebut nggawe kuwatir lan ngganggu wong liya.

Ing 2015, tim riset ing Rumah Sakit Mount Sinai ing New York dijaluk nggunakake metode iki kanggo nganalisa database ekstensif pasien lokal (2). Koleksi gedhe iki ngemot samudra informasi pasien, asil tes, resep dokter, lan liya-liyane.

Ilmuwan disebut program analitis dikembangaké ing Course saka karya. Iki dilatih babagan data saka udakara 700 wong. manungsa, lan nalika dites ing registri anyar, wis bukti banget efektif kanggo prédhiksi penyakit. Tanpa bantuan ahli manungsa, dheweke nemokake pola ing cathetan rumah sakit sing nuduhake pasien sing ana ing dalan menyang penyakit, kayata kanker ati. Miturut para ahli, efisiensi prognostik lan diagnostik sistem kasebut luwih dhuwur tinimbang cara liya sing dikenal.

2. Sistem intelijen buatan medis adhedhasar basis data pasien

Ing wektu sing padha, para peneliti ngerteni manawa kerjane kanthi cara sing misterius. Iku nguripake metu, contone, iku becik kanggo pangenalan kelainan mentalkayata skizofrenia, sing angel banget kanggo dokter. Iki pancen nggumunake, utamane amarga ora ana sing ngerti kepiye sistem AI bisa ndeleng penyakit mental kanthi apik mung adhedhasar cathetan medis pasien. Ya, para spesialis seneng banget karo bantuan diagnostik mesin sing efisien, nanging bakal luwih kepenak yen ngerti kepiye AI bisa nggawe kesimpulan.

Lapisan neuron buatan

Wiwit awal, yaiku, wiwit konsep intelijen buatan dikenal, ana rong sudut pandang babagan AI. Pisanan disaranake yen bakal paling cukup kanggo mbangun mesin sing alasan miturut prinsip sing dikenal lan logika manungsa, nggawe karya batine transparan kanggo kabeh wong. Liyane percaya yen intelijen bakal luwih gampang muncul yen mesin sinau liwat pengamatan lan eksperimen bola-bali.

Sing terakhir tegese mbalikke pemrograman komputer sing khas. Tinimbang programer nulis perintah kanggo ngatasi masalah, program kasebut ngasilake algoritma dhewe adhedhasar data sampel lan asil sing dikarepake. Metode pembelajaran mesin sing banjur berkembang dadi sistem AI sing paling kuat sing dikenal saiki, saiki wis mudhun ing dalan, nyatane, mesin dhewe program.

Pendekatan iki tetep ana ing pinggiran riset sistem AI ing taun 60-an lan 70-an. Mung ing awal dekade sadurunge, sawise sawetara owah-owahan pionir lan dandan, Jaringan saraf "jero". wiwit nduduhake dandan radikal ing kemampuan pemahaman otomatis. 

Pembelajaran mesin jero wis menehi komputer kanthi kemampuan sing luar biasa, kayata kemampuan kanggo ngenali tembung sing diucapake meh akurat kaya manungsa. Katrampilan iki rumit banget kanggo diprogram luwih dhisik. Mesin kudu bisa nggawe "program" dhewe dening latihan ing dataset ageng.

Pembelajaran jero uga wis ngganti pangenalan gambar komputer lan ningkatake kualitas terjemahan mesin. Saiki, digunakake kanggo nggawe macem-macem keputusan penting babagan obat, keuangan, manufaktur, lan liya-liyane.

Nanging, karo kabeh iki sampeyan ora bisa mung katon nang jaringan syaraf jero kanggo ndeleng carane "nang" karya. Proses pertimbangan jaringan dilebokake ing prilaku ewonan neuron simulasi, diatur dadi puluhan utawa malah atusan lapisan sing saling nyambungake..

Saben neuron ing lapisan pisanan nampa input, kayata intensitas piksel ing gambar, lan banjur nindakake petungan sadurunge ngasilake output. Padha ditularake ing jaringan kompleks menyang neuron lapisan sabanjure - lan sateruse, nganti sinyal output pungkasan. Kajaba iku, ana proses sing dikenal minangka nyetel petungan sing ditindakake dening neuron individu supaya jaringan latihan ngasilake asil sing dikarepake.

Ing conto sing asring dikutip sing ana gandhengane karo pangenalan gambar asu, tingkat AI sing luwih murah nganalisa karakteristik sing sederhana kayata wujud utawa warna. Sing luwih dhuwur ngatasi masalah sing luwih rumit kaya wulu utawa mata. Mung lapisan ndhuwur ndadekke kabeh bebarengan, ngenali pesawat lengkap informasi minangka asu.

Pendekatan sing padha bisa ditrapake kanggo jinis input liyane sing ndadekake mesin sinau dhewe: swara sing nggawe tembung ing wicara, huruf lan tembung sing nggawe ukara ing teks sing ditulis, utawa setir, contone. gerakan sing perlu kanggo nyopir kendaraan.

Mobil ora nglewati apa-apa.

Ana upaya kanggo nerangake apa sing kedadeyan ing sistem kasebut. Ing taun 2015, peneliti ing Google ngowahi algoritma pangenalan gambar sing jero supaya ora ndeleng obyek ing foto, nanging nggawe utawa ngowahi. Kanthi nglakokake algoritma kasebut mundur, dheweke pengin nemokake karakteristik sing digunakake program kasebut kanggo ngenali, ujare, manuk utawa bangunan.

Eksperimen kasebut, sing dikenal kanthi umum minangka judhul, ngasilake penggambaran (3) kewan aneh, lanskap, lan karakter sing aneh. Kanthi mbukak sawetara rahasia saka persepsi mesin, kayata kasunyatan manawa pola tartamtu bola-bali bali lan bola-bali, dheweke uga nuduhake carane sinau mesin jero beda karo pemahaman manungsa - contone, ing pangertèn sing ngembangake lan duplikat artefak sing ora digatekake. ing proses pemahaman kita tanpa mikir. .

3. Gambar digawe ing project

Miturut cara, ing tangan liyane, nyobi iki wis unraveled misteri mekanisme kognitif kita dhewe. Mbok menawa ana ing pemahaman kita ana macem-macem komponen sing ora bisa dingerteni sing nggawe kita langsung ngerti lan ora nglirwakake, nalika mesin kanthi sabar mbaleni iterasi ing obyek "ora penting".

Tes lan pasinaon liyane ditindakake kanggo "ngerti" mesin kasebut. Jason Yosinski dheweke nggawe alat sing tumindak kaya probe sing macet ing otak, ngarahake neuron buatan lan nggoleki gambar sing ngaktifake kanthi kuat. Ing eksperimen pungkasan, gambar abstrak muncul minangka asil saka "ngintip" jaringan kanthi tangan abang, sing nggawe proses sing ditindakake ing sistem kasebut luwih misterius.

Nanging, kanggo akeh ilmuwan, panaliten kasebut minangka salah pangerten, amarga, miturut pendapate, kanggo mangerteni sistem kasebut, kanggo ngenali pola lan mekanisme saka urutan sing luwih dhuwur kanggo nggawe keputusan sing rumit, kabeh interaksi komputasi ing jero jaringan syaraf jero. Iku mbingungake raksasa fungsi matematika lan variabel. Ing wayahe, iku ora bisa dingerteni kanggo kita.

Komputer ora miwiti? Kenging punapa?

Napa penting kanggo ngerti mekanisme pengambilan keputusan sistem intelijen buatan sing canggih? Model matematika wis digunakake kanggo nemtokake tahanan sing bisa dibebasake kanthi bebas, sapa sing bisa diutangi, lan sapa sing bisa entuk kerja. Wong-wong sing kasengsem pengin ngerti kenapa iki lan dudu keputusan liyane, apa alasan lan mekanismee.

dheweke ngakoni ing April 2017 ing MIT Technology Review. Tommy Yaakkola, profesor MIT nggarap aplikasi kanggo machine learning. -.

Malah ana posisi legal lan politik manawa kemampuan kanggo nliti lan ngerti mekanisme pengambilan keputusan sistem AI minangka hak asasi manungsa.

Wiwit taun 2018, EU wis ngupayakake perusahaan supaya menehi panjelasan marang para pelanggan babagan keputusan sing ditindakake dening sistem otomatis. Pranyata iki kadhangkala ora bisa ditindakake sanajan sistem sing katon prasaja, kayata aplikasi lan situs web sing nggunakake ilmu jero kanggo nuduhake iklan utawa menehi rekomendasi lagu.

Komputer sing nglakokake layanan kasebut program dhewe, lan nindakake kanthi cara sing ora bisa dingerteni ... Malah insinyur sing nggawe aplikasi kasebut ora bisa nerangake kanthi lengkap cara kerjane.