Abbiamo posto alcune domande a Franco Folini, che ringraziamo per la disponibilità, in merito all’IA, e ai suoi sviluppi futuri.
Franco Folini, è un imprenditore italiano, con una pluriennale esperienza nel campo delle tecnologia e del digital marketing. È stato fondatore di Novedge, società di eCommerce con sede a San Francisco che si occupa di tecnologie e-commerce, e ha insegnato presso la Berkeley University. Dopo 15 anni in California, è tornato recentemente in Italia, dove ha fondato una propria società di consulenza, e attualmente insegna presso l’Università di Strasburgo e collabora con lo IULM di Milano.
Franco, parlando di IA non possiamo che partire da ChatGPT, che negli ultimi mesi ha fatto parlare di sé anche ai non addetti ai lavori. A fine marzo il Garante Italiano ha imposto un ultimatum ad OperAI, che ha portato al blocco di ChatGPT per circa un mese nel nostro paese. Le preoccupazioni espresse dal Garante riguardano soprattutto problemi legati alla privacy, l’inesattezza dei dati forniti da ChatGPT, e all’utilizzo dei dati pubblici di cittadini italiani per l’addestramento del modello. Secondo te queste preoccupazioni sono fondate?
I problemi di violazione della privacy segnalati dal Garante sono problemi reali. Il Garante ha segnalato due tipi di violazioni: (1) ChatGPT non rispettava le normative europee GDPR, non indicava le restrizioni d’età per l’utilizzo, e non avvisava con chiarezza che le risposte generate possono essere sbagliate e inaffidabili. (2) ChatGPT non avvisava noi utenti che le nostre domande, e le corrispondenti risposte, sono costantemente utilizzate per riaddestrare ChatGPT, violando in questo modo qualunque aspettativa di privacy e confidenzialità. Se ad esempio nel corso di una conversazione con ChatGPT, inseriamo il numero della nostra carta di credito, questa informazione potrebbe essere usata nel formulare una risposta alla domanda di un altro utente. Questo è un problema molto serio, certamente da non sottovalutare. Aziende come Samsung stanno infatti vietando l’uso di ChatGPT ai propri dipendenti, non tanto per avversione al sistema, ma per evitare che dati aziendali riservati e in particolare il codice, divengano accessibili al di fuori dell’azienda. Samsung sta ora costruendo un suo sistema di IA interno equivalente a ChatGPT destinato ai propri dipendenti con l’intento di continuare a beneficiare di queste nuove tecnologie senza dover sacrificare la riservatezza. Tornando al Garante italiano, personalmente credo che il rapporto costi benefici della decisione di bloccare l’accesso sia stato decisamente in rosso. Un bilancio in perdita per l’Italia come paese. Considerata la rapidissima diffusione ed evoluzioni di ChatGPT, il ritardo, anche se di poche settimane, nell’accesso conseguente al blocco ha avuto dei costi elevati in termini di competitività che a mio parere non bastano a bilanciare le ragioni, seppur legittime, del blocco.
È possibile ottemperare a quanto richiesto dal garante, oppure i sistemi IA basati su LLM necessitano di questi dati per poter completare il loro addestramento? Esiste un dibattito del genere negli Stati Uniti?
OpenAI, la società americana che ha creato ChatGPT ha affrontato il problema rendendo possibile optare per escludere le conversazioni dal sistema di re-training di ChatGPT. Questa decisione è certamente un buon inizio che ci consente di proteggere le conversazioni più delicate da sguardi indiscreti, ma è chiaro che i creatori di ChatGPT sono alla ricerca di qualunque cosa possa aiuti a far maturare il sistema migliorando la qualità delle risposte e la comprensione delle domande. Gli sviluppatori hanno anche l’obiettivo di limitare quelle che in gergo vengono chiamate “allucinazioni”, cioè quelle risposte sbagliate che vengono generate date quando ChatGPT non ha avuto, nella fase di training, accesso a sufficiente materiale su un argomento specifico.
Al netto dell’aspetto sollevato dal Garante, esiste un’enorme dibattito a livello mondiale, sui pericoli dell’IA. Mi riferisco in particolare alla richiesta di moratoria da parte del Future Of Life Institute firmata da Elon Musk e altri esperti del settore. Esiste veramente a suo avviso un rischio così grande che l’IA ci sfugga di mano? E’ prefigurabile un futuro distopico, come ipotizzato ad esempio da Geoffrey Hinton – padrino dell’IA, nel quale l’IA possa autonomamente “pensare” di prendere il controllo del mondo e cercare di distruggere l’umanità?
Non sono particolarmente preoccupato del rischio che l’intelligenza artificiale prenda il controllo di tutti noi sottomettendo l’intera umanità ai suoi desideri. Mi preoccupano molto di più gli usi negativi che criminali, dittatori, estremisti e personaggi privi di valori etici potrebbero fare di queste potentissime tecnologie. Ogni giorno vediamo l’intelligenza artificiale abbattere barriere che credevamo insuperabili. Nei giorni scorsi sono usciti alcuni articoli che descrivono alcuni esperimenti in cui un sistema di machine learning impara a catturare i pensieri di un essere umano. I pensieri vengono rilevati con tecniche di risonanza magnetica funzionale (Functional MRI) e tradotti in testo con una precisione stimata intorno all’80%. Questo significa che i nostri più segreti pensieri sono ora a rischio. In circostanze particolari, i segreti della nostra mente potrebbero essere violati da un malintenzionato o da un poliziotto. Altrettanto preoccupanti sono alcuni esperimenti in cui un sistema di machine learning, opportunamente addestrato, riconosce forma, numero e posizioni delle persone in una stanza a cui non ha accesso semplicemente analizzando un segnale WiFi. Dunque, anche la privacy della nostra abitazione potrebbe crollare se questi strumenti finissero nelle mani di persone poco scrupolose. Potrei andare avanti ad elencare ulteriori usi preoccupanti di queste tecnologie. Diventa quindi urgente cominciare a pensare, come comunità e come singoli cittadini, quali limitazioni desideriamo imporre ai sistemi di Intelligenza Artificiale. La situazione è ancora estremamente fluida e in rapida evoluzione per cui è prematuro stabilire delle regole rigide, ma certamente è giunto il momento per cominciare a parlarne. Nel mio piccolo sto facendo un lavoro di divulgazione per dare alle persone, in particolare a chi non ha un background tecnico, un bagaglio minimo di conoscenze per poter partecipare in modo attivo e propositivo a questa importante e necessaria discussione.
Un’altra critica all’IA, è quella che possa soppiantare e sostituire tanti lavori, alimentando in maniera pesante la crisi occupazionale a livello mondiale. Qual è la tua opinione in merito?
Gli economisti chi assicurano che queste ondate di cambiamenti nel medio termine creano più lavori di quanti ne distruggano. Vorrei sinceramente credere a queste affermazioni, ma sappiamo tutti che gli economisti non sono particolarmente affidabili quando si tratta di fare previsioni. Indubbiamente una serie di lavori sono destinati, se non a scomparire integralmente, certamente a ridimensionarsi. È estremamente difficile oggi prevedere come il mondo del lavoro si configurerà nei prossimi anni. L’unica certezza assoluta è che moltissimi lavori sono destinati a cambiare, anche se ancora non è ancora chiaro come e quanto. Alcuni esperti di innovazione tecnologica affermano che nel volgere di cinque anni tutti i lavori che oggi possono essere svolti in remoto saranno trasferibili a sistemi di intelligenza artificiale e automatizzati. Una prospettiva decisamente preoccupante. Ciò che nessuno aveva previsto è che i cambiamenti in arrivo colpiranno primariamente i lavoratori in posizioni intermedie risparmiando, almeno per ora, i lavoratori di fascia bassa, quelli che sono ancora fortemente basati sul lavoro manuale. Anche in questo caso dovremmo parlarne e discuterne come comunità, ben prima che questi cambiamenti arrivino ad impattare le nostre vite. Evitiamo di lasciare che queste decisioni alle aziende che inevitabilmente sono guidate dalla legittima ricerca del profitto e dall’esigenza di proteggere la propria competitività. A livello personale, ci sono alcune cose che possiamo fare per proteggerci dagli scenari più pessimistici. Possiamo ad esempio coltivare le caratteristiche esclusivamente umane come la capacità di comunicare efficacemente e fare networking professionale per stringere alleanze e aprire collaborazioni. Infine dobbiamo rinnovare e rinvigorire il nostro impegno e determinazione verso un aggiornamento professionale costante.
Tu sei un esperto di Social Networks e di Digital Marketing. Pur avendo dato la possibilità a tante persone di conoscersi e condividere conoscenza, e a tante aziende di mostrarsi al mondo, i Social hanno evidenziato negli anni una serie di aspetti negativi e fortemente impattanti sulla nostra società: Fake-news e disinformazione, Polarizzazione ed echo chambers, Cyberbullismo, Isolamento adolescenziale ed iperconnessione, Appiattimento ed uniformità delle idee. Una tecnologia come quella di ChatGPT non rischia di amplificare in maniera esponenziale questi fenomeni?
Il rischio di condizionamento della popolazione attraverso i social media e altri canali di comunicazione esiste ed è importante. Diversamente da molti esperti, credo che presto ci abitueremo all’invasione delle fake-news e impareremo a non credere più a nulla di quanto vedremo apparire sui social. Il che creerà altri problemi, forse anche peggiori, come la certificazione delle fonti di informazione. Molto dipenderà anche dalle restrizioni e controlli che come società civile decideremo di imporre ai sistemi di intelligenza artificiale. Basti pensare alle devastanti conseguenze che abbiamo sperimentato e continuiamo a vedere da quando Facebook e altre piattaforme di social media hanno assegnato all’IA, alcuni anni fa, il compito di massimizzare il tempo trascorso e il numero di interazioni dagli utenti sulle loro pagine (feed). Una scelta che credo sia stata fatta senza secondi fini, semplicemente guidata dall’intento di massimizzare i profitti delle piattaforme. In pochissimi anni, questo uso dell’IA ha generato degli effetti collaterali gravissimi. Abbiamo assistito al fiorire delle conspiracy-theories, all’estremizzazione del panorama politico, all’emergere in tutto il mondo di figure politiche chiaramente mediocri ma con innegabili capacità nel dominare e controllare la folla dei social. Per fare una semplice metafora, possiamo vedere ChatGPT e le tecnologie dell’intelligenza artificiale come il fuoco. Se usato bene il fuoco ci scalda, cucina i nostri cibi, e genera energia. Se usato male e non controllato, il fuoco può incenerire la nostra casa e intere città.
Parliamo ora degli aspetti positivi: quali sono e quali saranno i benefici delle IA nelle nostre vite? Quali settori risentiranno maggiormente di tali benefici? Quali lavori trarranno maggiore vantaggio da queste tecnologie?
Gli aspetti positivi dell’intelligenza artificiale saranno numerosi. Molti scienziati ci dicono che stiamo per assistere ad una “super esplosione scientifica”. Gli strumenti di intelligenza artificiale imprimeranno una incredibile accelerazione allo sviluppo scientifico. È importante notare che ci stiamo avviando verso una fase di progresso che non sarà lineare ma esponenziale. I cambiamenti nelle nostre vite cui abbiamo assistito negli ultimi 20 anni, Internet e smartphone, per citarne solo due, non saranno nulla in confronto al numero e alla dimensione delle novità tecnologiche e scientifiche in arrivo. Cambiamenti che rivoluzioneranno il nostro modo di vivere come individui e come società. Un piccolo esempio lo abbiamo visto recentemente quando ad un sistema simile a ChatGPT è stato assegnato il compito di ottimizzare il proprio codice per ottenere risultati migliori con tempi e costi più bassi. Ebbene, grazie alle ottimizzazioni suggerite, la nuova versione del sistema consuma la metà delle risorse computazionali dalla versione originale creata dagli umani. Se proviamo a proiettare questo meccanismo su altre tecnologie, possiamo facilmente intravedere l’enorme potenziale che queste tecnologie hanno e gli enormi benefici che, se usate con intenti costruttivi e non distruttivi, potranno portare all’umanità. L’unico ostacolo che si frappone tra noi e questi sviluppi positivi è solamente l’ingordigia degli esseri umani.
Nel mio lavoro, soprattutto per quanto riguarda la programmazione, ho visto un impatto positivo nell’utilizzo delle tecnologie LLM come ChatGPT, in particolare per quanto riguarda il feedback nella creazione di codice e nell’error checking, i quali mi hanno permesso di migliorare notevolmente la qualità dei miei progetti e di accelerare i tempi di realizzazione. Come ha impattato tale tecnologia nel tuo lavoro, e in generale che impatto sta avendo nel mondo dell’Information Technology?
Il lavoro di chi si occupa di marketing sta cambiando molto velocemente. Per ora questi cambiamenti vanno nella direzione del miglioramento. Ogni giorno arrivano sul mercato nuovi strumenti per assistere chi si occupa di marketing nella generazione di nuovi contenuti, nuove campagne pubblicitarie, nuovi processi creativi e organizzativi, e nuove immagini. Inevitabilmente i costi per la creazione di contenuti sono destinati a crollare e con i costi anche i compensi per gli operatori di questo settore. Nel breve termine assisteremo a una riduzione dei redditi di molte figure professionali del marketing. Trova molto difficile provare ad indovinare come sarà organizzato un dipartimento marketing fra 4 o 5 anni. Certamente molte mansioni saranno gestite dall’intelligenza artificiale e mi aspetto che gli umani avremo primariamente il compito di fare da supervisori assicurandosi che tutto avvenga nei tempi e modi stabiliti. Ad esempio questa stessa intervista, fra un anno o due potrebbe risultare molto più interessante e accurata se fatta con un sistema di intelligenza artificiale al mio posto. Anche in questo settore oltre a vantaggi e benefici ci sono dei pericoli in agguato. I sistemi di intelligenza artificiale stanno diventando sempre più bravi a costruire descrizioni di prodotti irresistibili per noi umani. Non escludo che prima o poi si dovrà porre un limite alla capacità di persuasione di questi sistemi. Lasciare libertà assoluta a questi sistemi e ai loro utilizzatori potrebbe significare cedere il controllo di tutti nostri desideri, ambizioni. Il che equivale a perdere la nostra libertà e il libero arbitrio. Certamente non una prospettiva allettante.
Dopo i modelli linguistici, i modelli di sintesi vocale e i modelli generativi di immagini, cosa dobbiamo aspettarci per il futuro a livello di tecnologie A.I.?
ChatGPT per quanto sia potente rimane comunque un sistema generalista che è stato addestrato per eseguire ragionevolmente bene task anche molto diversi, ma senza alcuna specializzazione. Mentre ChatGPT continua a riscuotere un enorme successo, ogni giorno arrivano sul mercato nuove applicazione che utilizzano tecniche analoghe a quelle di ChatGPT e che sono state addestrate per operare in un dominio limitato e ben definito e che quindi riescono a generare risultati di qualità superiore ai risultati ottenibili con ChatGPT. Un altro settore interessante di evoluzione saranno i sistemi aziendali di intelligenza artificiale che saranno installati su computer aziendali e completamente controllabili dalle aziende. Per ragioni di privacy e protezione dei dati, numerosi processi aziendali sono al momento esclusi dall’uso di ChatGPT. Pensiamo ad esempio ad attività che fanno uso pesante di dati sensibili, come ad esempio il dipartimento delle risorse umane. Si intuisce facilmente che sarebbe una pessima idea se i responsabili delle risorse umane usassero ChatGPT per scrivere una lettera in cui fanno riferimento a condizioni sanitarie o retributive di un dipendente. Una volta acquisite da ChatGPT, queste informazioni potrebbero riapparire sullo schermo di un’azienda concorrente o di un collega che svolge compiti analoghi ma riceve uno stipendio più basso. È difficile fare previsioni sull’evoluzione della tecnologia su cui è costruito ChatGPT ma, come accennato sopra, nei prossimi anni molti progressi saranno introdotti non solo dagli sviluppatori umani ma anche dai sistemi di intelligenza artificiale. Anche in questo caso, il principale ostacolo ad una condivisione con tutta l’umanità degli enormi benefici che ci porteranno questi importanti progressi tecnologici, potrebbe essere il cieco e poco lungimirante desiderio di ricchezza e potere di qualche umano.
