"Peress li t-tagħlim tal-magni jsir kullimkien u jintuża għall-applikazzjonijiet b'konsegwenzi aktar serji, hemm bżonn li n-nies jifhmu kif qed jagħmlu tbassir biex ikunu fiduċjużi meta qed jagħmlu aktar milli jservu reklam", tgħid Jonathan Su, membru tal-persunal tekniku fil-Grupp ta 'Appoġġ għad-Deċiżjonijiet u l-Informatika ta' MIT Lincoln Laboratory.
Bħalissa, ir-riċerkaturi jew jużaw tekniki post hoc jew mudell interpretabbli bħal siġra ta 'deċiżjoni biex tispjega kif mudell ta' kaxxa sewda jasal għall-konklużjoni tiegħu. B'tekniki post hoc, ir-riċerkaturi josservaw l-inputs u l-outputs ta 'algoritmu u mbagħad jippruvaw jibnu spjegazzjoni approssimattiva għal dak li ġara fil-kaxxa sewda. Il-kwistjoni b'din il-metodu hija li r-riċerkaturi jistgħu biss raden fil-ħidma interna, u l-ispjegazzjonijiet spiss jistgħu jkunu żbaljati. Siġar ta 'deċiżjoni, liema għażliet tal-mapep u l-konsegwenzi potenzjali tagħhom f'bini bħal siġar, jaħdem tajjeb għal dejta kategorika li l-karatteristiċi tiegħu huma sinifikanti, iżda dawn is-siġar ma jistgħux jinftehmu f'oqsma importanti, bħal viżjoni bil-kompjuter u problemi kumplessi ta' data oħra.
Netwerk newrali huwa sistema informatika magħmula minn ħafna elementi ta 'pproċessar interkonnessi. Dawn in-netwerks huma tipikament użati għall-analiżi tal-immaġni u r-rikonoxximent tal-oġġetti. Pereżempju, algoritmu jista 'jiġi mgħallem biex jirrikonoxxi jekk ritratt jinkludi kelb billi l-ewwel jintwerew ritratti ta' klieb. Ir-riċerkaturi jgħidu li l-problema b'dawn in-netwerks newrali hija li l-funzjonijiet tagħhom mhumiex lineari u recursivi, kif ukoll kumplikati u konfużi għall-bnedmin, u r-riżultat aħħari huwa li huwa diffiċli li jiġi identifikat eżattament x'inhu n-netwerk definit bħala "dogness" u dak li wassalha għal dik il-konklużjoni.
Biex tindirizza din il-problema, it-tim qed jiżviluppa dak li jsejjaħ "prototip tan-netwerks newrali". Dawn huma differenti min-netwerks newrali tradizzjonali minħabba li naturalment jikkodifikaw spjegazzjonijiet għal kull waħda mill-previżjonijiet tagħhom billi joħolqu prototipi, li huma partijiet partikolarment rappreżentattivi ta 'immaġini ta' input. Dawn in-netwerks jagħmlu t-tbassir tagħhom ibbażat fuq ix-xebh tal-partijiet tal-immaġini tal-input għal kull prototip.
L-erja l-oħra li qed jinvestiga t-tim tar-riċerka hija BRLs, li huma inqas kumplikati, siġilli ta 'deċiżjoni b'laborazzjoni waħda li huma adattati għal dejta tabulari u spiss eżatti daqs mudelli oħra. L-BRLs huma magħmula minn sekwenza ta 'dikjarazzjonijiet kondizzjonali li naturalment jiffurmaw mudell interpretabbli. Pereżempju, jekk il-pressjoni tad-demm hija għolja, ir-riskju ta 'mard tal-qalb huwa għoli. Su u l-kollegi qed jużaw proprjetajiet ta 'BRL biex l-utenti jkunu jistgħu jindikaw liema karatteristiċi huma importanti għal tbassir. Huma qed jiżviluppaw ukoll BRLs interattivi, li jistgħu jiġu adattati immedjatament meta jaslu data ġdida pjuttost milli jiġu kkalibrati mill-ġdid fuq sett tad-dejta dejjem jikber.
Su jispjega: "Aħna qed jittamaw li jibnu kapaċità strateġika ġdida għall-algoritmi ta 'tagħlim tal-laboratorju-magna li n-nies jafdaw għaliex jifhmuhom."
