L'intelligenza artificiale è accondiscendente, mina la nostra capacità di giudizio

Quando si tratta di questioni personali , l 'intelligenza artificiale è troppo adulatoria e accondiscendente e tende a dire ciò che ci si vuole sentir dire , e non ciò di cui si ha bisogno. Questo ha pesanti conseguenze social i perché distorce i l giudizio degli individui , mina la capacità di assumersi le responsabilità, di valutare prospettive diverse e di riconciliarsi con gli altri. Di qui l 'appello a standard più rigorosi per evitare la proliferazione di modelli moralmente discutibili . E' quanto emerge dallo studio pubblicato sulla rivista Science da un team di informatici dell'Università di Stanford che ha valutato 11 modelli linguistici di grandi dimensioni, tra cui ChatGPT, Claude, Gemini e DeepSeek .

La ricerca ha reclutato oltre 2.400 partecipanti per chattare sia con IA adulatorie che non adulatorie . E' emerso che i sistemi hanno appoggiato l'utente in media il 49% delle volte in più rispetto a quanto avrebbe fatto un essere umano . "l comportamenti sono stati approvati nel 47% dei casi persino quando rispondevano a scenari che implicavano inganno, danno o illegalità " - sottolinea Myra Cheng, autrice principale dello studio.

Non solo: i partecipanti hanno giudicato le risposte adulatorie come più utili e affidabili ed hanno espresso una maggiore disponibilità a fare nuovamente affidamento su questi sistemi. Anche quando gli utenti sono stati consapevoli che i modelli si comportavano in modo lusinghiero,  dichiara Dan Jurafsky, professore di linguistica e informatica alla Stanford, "non hanno compreso che l 'adulazione li rendeva più egocentrici e moralmente dogmatici". Tutti aspetti che influiscono sulla sulla crescita morale delle persone e che vengono esacerbati nei s oggetti più fragili e vulnerabili.

"Affrontare queste sfide - conclude Anat Perry in un articolo di approfondimento correlato - non sarà semplice, ed è improbabile che le soluzioni emergano spontaneamente dagli attuali incentivi di mercato". Secondo gli esperti l'adulazione è un problema di sicurezza e dunque necessita di regolamentazione e supervisione.