L’intelligenza artificiale si trasforma da tecnologia a servizio d’impresa
L’applicazione degli algoritmi pone un problema di controllo e di sicurezza: intorno a questo bisogno sta nascendo un nuovo sistema di business. Ecco come Orobix gestisce il corretto apprendimento del sistema intelligente
L’importanza di controllare l’algoritmo
Intelligenza artificiale capitolo secondo: dopo l’euforia per aver afferrato come e in che settori utilizzare i sistemi di AI, ora l’attenzione globale si rivolge ai problemi connessi all’applicazione di questa tecnologia. Come controllare e gestire i sistemi di intelligenza artificiale, come assicurarsi che il loro apprendimento non sia alterato o inconstante? Sono i temi centrali su cui si stanno interrogando governi e imprese del settore.
La Commissione europea ha appena pubblicato il suo «white paper», il piano di sviluppo di questa tecnologia, ma anche una sorta di carta con le prime indicazioni circa il controllo dei sistemi di intelligenza artificiale, toccando in particolare tutte quelle tecnologie che impatteranno sempre più sulla vita quotidiana delle persone, come il riconoscimento facciale e le applicazioni nei settori sanità, polizia e trasporti. Bruxelles intende avviare un ampio dibattito sul tema, proprio perché l’intelligenza artificiale immessa sul mercato possa garantire trasparenza, tracciabilità e, soprattutto, controllo.
Tecnicamente il rischio più grande è tutto concentrato nel concetto di «black box». Il sistema di AI, infatti, nel momento in cui viene progettato e inserito all’interno del processo su cui deve operare, rischia di diventare una sorta di scatola chiusa in cui, per esempio «si perde il controllo diretto, non si sa con esattezza cosa succede al suo interno».
Per questo alcune società del settore stanno spostando la loro attenzione non tanto sulla produzione di sistemi di AI - che potranno nascere sempre più in partnership con altre aziende, tramite start-up, spin-off e in modalità open source - ma sui servizi di gestione dei sistemi esistenti. Tra di esse anche la bergamasca Orobix, nata dieci anni fa dall’idea di Luca Antiga, ingegnere biomedico e Pietro Rota, innovatore manageriale, specializzatasi nella creazione e applicazione di intelligenza artificiale in diverse settori, dalla manifattura al medicale, passando per il gaming. Proprio l’esperienza che la realtà orobica ha maturato sul campo la sta portando a compiere un passo in avanti nel modello di gestione dell’AI. «Il nostro obiettivo è diventare un’AI service company - spiega Pietro Rota, - fornire servizi di assistenza e gestione simili a quelli delle compagnie di energia, proprio partendo dalla convinzione che l’intelligenza artificiale sarà sempre più parte integrante del processo produttivo».
«Tra dieci anni la maggior parte dei processi ripetitivi, anche affetti da una certa variabilità, saranno quantomeno supervisionati da un algoritmo - spiega Luca Antiga -. Non solo, a livello manageriale la sintesi la faranno algoritmi in grado di analizzare i moltissimi segnali provenienti dal mercato, per aiutare chi deve fare sintesi a guidare le proprie scelte». Pietro Rota aggiunge: «Quello che si prospetta è un sistema dinamico che va regolato. Porterà a un miglior rapporto di produttività, lavorando con meno input lasciati alla decisione. Ovviamente questo ha una potenzialità di rischio, soprattutto nel caso in cui il sistema prenda il sopravvento».
Due i concetti chiave sul tavolo, da una parte la convinzione che l’intelligenza artificiale sarà sempre più un servizio indispensabile per le aziende in ogni settore d’applicazione, al pari della fornitura di energia elettrica, del personale e delle strutture. Dall’altra la certezza che in nessun settore l’AI può essere un sistema chiuso su cui non ci sia un controllo.
«La consapevolezza dei rischi connessi all’idea di black box ci viene soprattutto dalla nostra esperienza in campo medicale - spiega Rota, - in quel settore è impensabile non sapere come il sistema apprende e agisce». Luca Antiga aggiunge: «Abbiamo imparato che la costruzione di algoritmi e sistemi di intelligenza artificiale è abbastanza standard. Per quanto su casistiche differenti il metodo di lavoro è il medesimo e possiamo quindi ipotizzare i problemi a cui il sistema va incontro».
Nel trasformarsi in una “service company” dedicata all’intelligenza artificiale il lavoro di Orobix sarà sempre più concentrato sul monitoraggio di sistemi esistenti. Di fatto la compagnia bergamasca si propone di controllare non tanto l’operato del cervello artificiale, ma il suo meccanismo di apprendimento, verificare eventuali dati errati o corrotti che entrano nel sistema, avendo anche la possibilità di tornare indietro nel tempo fino al punto in cui ha sviluppato un apprendimento scorretto e capire quale meccanismo abbia innescato l’errore. Andando all’opposto del concetto di black box, dunque, il sistema è costantemente monitorato, sia nel suo operato, sia nella sua integrazione con l’ambiente in cui è inserito e, esattamente come farebbe un pedagogo nei confronti di un alunno, la compagnia di gestione ne controlla e corregge l’apprendimento.
Da Orobix confermano che non sono molte le realtà operanti nel settore che stanno “saltando la barricata” a favore di una posizione, non di creazione, ma di dominio dei processi. Tra gli obiettivi dell’azienda c’è sicuramente anche quello di porsi come interlocutore privilegiato nel momento in cui il legislatore dovrà definire termini e condizioni di utilizzo dell’AI nei diversi settori, necessità che si prospetta essere sempre più vicina nel tempo.
L’intelligenza artificiale innova i progetti del futuro
- Al fianco delle attività umane nel «Medical»
In ambito medicale l’AI interviene nello sviluppo di sistemi di “secondo parere” a supporto delle attività umane. Orobix, in partnership con l’Istituto clinico Humanitas sta realizzando un progetto per lo staging automatico del tumore al polmone che affiancherà i radiologi in campo. - I sistemi di controllo nei processi industriali
L’industria sta adottando i nuovi sistemi per il controllo qualità basati su algoritmi di intelligenza artificiale che permettono l’individuazione automatica di difetti di produzione. Gli “anomaly detection” si usano in diversi settori, dalla filiera del bianco, alla gomma, al legno e metallo. - Astrofisica: un sistema “puntato” sul cosmo
In collaborazione con il Laboratoire d’Annecy de Physique des Particules Orobix ha sviluppato un algoritmo di deep learning per identificare e classificare i raggi gamma provenienti dal cosmo, e approcciare il tema dell’intelligenza artificiale in modo trasversale. - La città diventa «smart cities»
Partner del progetto SCC Innovation Hub & Living Lab, nei prossimi due anni Orobix si occuperà di realizzare una piattaforma tecnologica per gestire dati rilevati da sorgenti eterogenee e metterli a disposizione per applicazioni di intelligenza artificiale al servizio del cittadino. - L’industria farmaceutica sperimenta nuovi sistemi di controllo
Nel capitale di Orobix è entrata Antares Vision, realtà attiva nel settore del «track and trace». Dalla collaborazione delle due realtà stanno nascendo nuovi progetti per portare l’AI nella filiera farmaceutica, per la rilevazione automatica di anomalie di produzione. - Le reti neurali per sviluppare nuovo «gaming»
«Anna» è l’acronimo di Artificial Neural Network Agent ed è il rivoluzionario sistema di intelligenza artificiale basato su reti neurali messo a punto da Orobix per il videogioco MotoGP 19. Sviluppata in oltre due anni di collaborazione con il team di Milestone.
talk
In un futuro in cui l’AI sarà parte integrante di una quantità sempre maggiore di processi, quale sarà il modo migliore per controllarla e a chi spetta questo compito?
L’AI si nutre dell’esperienza trasmessa attraverso gli esempi. Il monitoraggio costante e gli aggiornamenti frequenti sono quindi fondamentali per mantenere in buona salute un algoritmo. E’ ipotizzabile che il controllo avverrà direttamente all’interno delle aziende o per il tramite di realtà che diventeranno vere e proprie “AI service company” in grado di monitorare parchi AI diffusi. Un discorso a parte riguarda le applicazioni che impattano direttamente sulla persona, dall’ambito medico al settore delle assicurazioni, alla pubblica amministrazione. In questi casi sarà importante riflettere anche a livello politico e sociale in merito alla definizione del ruolo di controllo per sviluppare strumenti inclusivi, equi e non manipolabili.Quale fra le tante strade perseguibili pensa sia giusta per costruire un rapporto sano di collaborazione fra uomini e macchine pensanti?
Mi auguro che la diffusione dei sistemi di AI e la loro integrazione ragionata nei processi contribuisca all’affermazione del concetto di Intelligenza (umana) Aumentata, ovvero di sistemi che aumentano le capacità dell’umano e che interagiscono con esso in un processo di apprendimento e miglioramento continuo.L’AI è una frontiera, il cui sviluppo è una sorta di traguardo da raggiungere o c’è già qualcosa oltre, un upgrade che porterà un’ulteriore rivoluzione?
Un dato certo è che l’AI diventerà sempre più presente nella nostra vita di tutti i giorni. Nasceranno nuovi servizi e prodotti basati sull’AI e si creeranno nuovi consumatori e mercati. Come in occasione di ogni trasformazione dirompente, è necessario che la società, a partire dal governo, alle aziende fino ai singoli individui, si facciano trovare pronti per fronteggiare questi cambiamenti.© RIPRODUZIONE RISERVATA