Kecerdasan buatan ora ngetutake logika kemajuan ilmiah
Kita wis nulis kaping pirang-pirang ing MT babagan peneliti lan profesional sing nyatakake sistem pembelajaran mesin minangka "kotak ireng" (1) malah kanggo sing mbangun. Iki nggawe angel ngevaluasi asil lan nggunakake maneh algoritma sing muncul.
Jaringan saraf - teknik sing menehi kita bot konversi sing cerdas lan generator teks sing cerdas sing bisa nggawe puisi - tetep dadi misteri sing ora bisa dingerteni kanggo para pengamat ing njaba.
Dheweke saya gedhe lan luwih rumit, nangani set data gedhe, lan nggunakake susunan komputasi sing akeh. Iki ndadekake replikasi lan analisis model sing diduweni larang regane lan kadhangkala ora mungkin kanggo peneliti liyane, kajaba pusat gedhe kanthi anggaran gedhe.
Akeh ilmuwan sing ngerti masalah iki. Ing antarane yaiku Joel Pino (2), ketua NeurIPS, konferensi utama babagan reproduksibilitas. Para ahli ing pimpinan dheweke pengin nggawe "daftar priksa reproduktifitas".
Ide kasebut, miturut Pino, yaiku kanggo nyengkuyung peneliti supaya menehi peta dalan supaya bisa nggawe maneh lan nggunakake karya sing wis rampung. Sampeyan bisa gumun ing eloquence saka generator teks anyar utawa ketangkasan superhuman robot video game, nanging malah ahli paling ora ngerti carane mukjijat iki bisa. Mulane, reproduksi model AI penting ora mung kanggo ngenali gol lan arah anyar kanggo riset, nanging uga minangka pandhuan praktis sing bisa digunakake.
Liyane nyoba kanggo ngatasi masalah iki. Peneliti Google nawakake "kertu model" kanggo njlèntrèhaké kanthi rinci babagan cara sistem diuji, kalebu asil sing nuduhaké kemungkinan bug. Peneliti ing Institut Allen kanggo Kecerdasan Buatan (AI2) wis nerbitake makalah sing tujuane kanggo ngluwihi daftar priksa reproduksibilitas Pinot menyang langkah liyane ing proses eksperimen. "Tampilake karya sampeyan," padha njaluk.
Kadhangkala informasi dhasar ilang amarga proyek riset diduweni, utamane dening laboratorium sing kerja ing perusahaan kasebut. Nanging, luwih kerep, iki minangka tandha ora bisa njlèntrèhaké cara riset sing owah lan saya rumit. Jaringan saraf minangka area sing kompleks banget. Kanggo entuk asil sing paling apik, tuning ewonan "knobs lan tombol" asring dibutuhake, sing sawetara diarani "sihir ireng". Pilihan model optimal asring digandhengake karo akeh eksperimen. Piandel dadi larang banget.
Contone, nalika Facebook nyoba niru karya AlphaGo, sistem sing dikembangake dening DeepMind Alphabet, tugas kasebut angel banget. Persyaratan komputasi sing ageng, mayuta-yuta eksperimen ing ewonan piranti sajrone pirang-pirang dina, digabungake karo kekurangan kode, nggawe sistem kasebut "angel banget, yen ora mokal, kanggo nggawe ulang, nyoba, nambah, lan ngluwihi," miturut karyawan Facebook.
Masalah kasebut katon khusus. Nanging, yen kita mikir luwih, fenomena masalah karo reproducibility saka asil lan fungsi antarane siji tim riset lan liyane undermines kabeh logika fungsi saka ilmu lan riset pangolahan dikenal kanggo kita. Minangka aturan, asil riset sadurunge bisa digunakake minangka basis kanggo riset luwih lanjut sing ngrangsang pangembangan kawruh, teknologi lan kemajuan umum.
