A rendere imprevedibili le IA è una questione di matematica
A rendere l’ Intelligenza Artificiale imprevedibile non sono difetti o errori ma una questione di matematica : a scoprirlo è l ricerca guidata da Pulin Gong, dell'Università di Sydney, e pubblicata sulla rivista Nature Machine Intelligence. La scoperta potrà aiutare a sviluppare IA più affidabili , ad esempio nell’analisi di dati medici. I modelli di IA sono oramai addestrati usando milioni se non miliardi di parametri e quel che è ben visibile è che a volte i modelli , seppur usino gli stessi dati di addestramento , possono produrre risultati e soluzioni diverse , a volte errati .
"I ricercatori hanno spesso attribuito le differenze nel comportamento dell' IA a fonti esterne , come l'ordine in cui vengono presentati i dati di addestramento o piccole variazioni numeriche introdotte dall'hardware", ha detto Gong. Ma secondo il nuovo studio non sarebbe questa l’origine delle differenze. “I nostri risultati indicano qualcosa di più profondo ”, ha aggiunto. “Anche quando questi fattori vengono eliminati, differenze estremamente piccole nelle condizioni iniziali di un modello possono comunque portare a risultati diversi”.
Secondo lo studio la causa è ben più profonda , nella struttura stessa degli algoritmi usati che nella gestione dei dati producono dei cosiddetti bacini di attrazione , ossia settori di dati strettamente connessi tra loro con il risultato di inficiare il risultato . La scoperta potrebbe aiutare a rendere meno imprevedibili le risposte delle IA: “per disporre di sistemi affidabili, non sono necessarie solo previsioni accurate, ma anche la certezza che tali previsioni possano essere riprodotte. Questa ricerca offre un nuovo modo di comprendere i limiti della prevedibilità nell'IA e le possibili strategie per superarli”.
© RIPRODUZIONE RISERVATA