L’urgenza dell’interpretabilità
L’opacità dei sistemi di intelligenza artificiale fa sì che non vengano utilizzati in molte applicazioni, come quelle finanziarie ad alto rischio o in contesti critici per la sicurezza, perché non possiamo definire completamente i limiti del loro comportamento e anche un piccolo numero di errori potrebbe essere molto dannoso. Una maggiore interpretabilità potrebbe migliorare notevolmente la nostra capacità di stabilire dei limiti alla gamma di possibili errori. In effetti, per alcune applicazioni, il fatto di non poter vedere all’interno dei modelli rappresenta letteralmente un ostacolo legale alla loro adozione, ad esempio nelle valutazioni dei mutui, dove le decisioni devono essere legalmente comprensibili. Allo stesso modo, l’IA ha fatto grandi progressi in campo scientifico, tra cui il miglioramento della previsione dei dati di sequenza del DNA e delle proteine, ma i modelli e le strutture previsti in questo modo sono spesso difficili da comprendere per gli esseri umani e non forniscono informazioni biologiche. Alcuni studi pubblicati negli ultimi mesi hanno chiarito che l’interpretabilità può aiutarci a comprendere questi modelli.
33 mins read
