Le dimissioni clamorose di un giovane ricercatore di Anthropic, modelli di intelligenza artificiale che durante un test “evadono” dall’ambiente protetto ed entrano nei sistemi di aziende reali, dichiarazioni catastrofiste che rimbalzano da un amministratore delegato all’altro: per l’AI è stata una settimana che ha alimentato paure e interrogativi. Ne parliamo con Federica Nardi, giornalista ed esperta di intelligenza artificiale, che lavora ogni giorno con questi strumenti e forma professionisti e aziende al loro utilizzo.
Pochi giorni fa un giovane ricercatore di Anthropic, Jacob Coxon, si è dimesso dicendo che le grandi aziende dell’intelligenza artificiale stanno “giocando d’azzardo con le nostre vite” e che chi ci lavora dentro crede davvero che questi sistemi possano distruggerci entro fine decennio. Il suo post ha fatto cento milioni di visualizzazioni e perfino un suo ex collega gli ha dato ragione. Lei che idea si è fatta: è un grido d’allarme da prendere alla lettera o dentro quei laboratori si respira un’aria che da fuori facciamo fatica a capire?
Certamente in quegli ambienti le sfide dell’AI sono vissute in modo molto più compulsivo rispetto a come le viviamo all’esterno. L’obiettivo dichiarato di queste aziende è arrivare alla cosiddetta AGI, un’intelligenza artificiale generale che però, in realtà, non ha una definizione univoca e condivisa. La superintelligenza, che oltrep asserebbe le capacità umane, è un passaggio ulteriore. I ricercatori non concordano nemmeno sulla possibilità che il modo in cui sono fatti i modelli di oggi sia quello corretto per arrivare a ottenerla e quindi, in parole povere, non sanno nemmeno se questa strada sia sufficiente.
La dichiarazione di Coxon, anche alla luce di quelle di poco successive di Dario Amodei, CEO di Anthropic, a cui hanno fatto seguito altri attori dell’AI americana, come Sam Altman di OpenAI ed Elon Musk, richiama nel contesto un grande paradosso a cui abbiamo assistito per tutta la settimana. Quello dell’oste che dice che il vino non è buono: perché dovrebbe? Sono tutti davvero preoccupati o queste dichiarazioni catastrofiste rientrano in una strategia più ampia? È questa la domanda da farsi. Dire che una tecnologia è tanto potente da essere pericolosa può essere anche un modo per accrescerne il valore percepito e rafforzare l’idea che soltanto chi la produce sia in grado di governarla.
E non sono solo parole: quest’estate i modelli di Anthropic, durante dei test che dovevano essere “a porte chiuse”, sono usciti dall’ambiente di prova e sono entrati nei sistemi di tre aziende vere, che non si erano nemmeno accorte di nulla. La cosa curiosa è che l’intelligenza artificiale non voleva “scappare”: era convinta di essere ancora dentro una simulazione. Ce lo spiega in parole semplici? Cosa è successo davvero?
Questi test vengono condotti per capire quanto i modelli siano capaci di individuare e sfruttare falle informatiche. Si assegna loro un obiettivo, per esempio entrare in un computer e recuperare un’informazione nascosta, all’interno di un ambiente che dovrebbe essere isolato. Secondo la ricostruzione di Anthropic, per un errore di configurazione quell’ambiente aveva invece accesso a internet, mentre le istruzioni date ai modelli dicevano il contrario. Cercando di completare l’esercizio, hanno quindi raggiunto e attaccato sistemi di aziende reali. Nei test erano inoltre assenti alcune protezioni normalmente presenti nei modelli di AI che usiamo noi quotidianamente. Il “nostro” Claude, per intenderci, non è lo stesso che ha attaccato un’azienda durante un test finito male. Da questi episodi, inoltre, non emerge un progetto autonomo di fuga o di conquista, ma un altro tipo di problema: un sistema può continuare a perseguire l’obiettivo assegnato anche quando le sue azioni hanno conseguenze reali e potenzialmente o concretamente negative. Gli agenti, infatti, non hanno fatto altro che fare di tutto per avere successo nel test.
Allora la domanda che si fanno tutti è questa: il rischio che l’intelligenza artificiale prenda il sopravvento sull’uomo è reale o è ancora fantascienza? Lei che ci lavora tutti i giorni, dove mette il confine?
Da quello che vediamo, ritengo che non ci siano elementi sufficienti per considerare imminente uno scenario in cui l’AI prenda il sopravvento su internet e, attraverso la rete, su strutture strategiche per la nostra sopravvivenza. Una delle prospettive più affascinanti e pericolose è quella di un modello di AI così avanzato da progettare autonomamente un successore più capace, che a sua volta sappia fare altrettanto, in un loop che potrebbe sfuggire alla capacità umana di contenerlo o comprenderlo. Ma restano ostacoli tecnici fondamentali e non sappiamo nemmeno se un processo del genere, capace di alimentarsi e accelerare nel tempo, si potrà mai realizzare. Il criterio per comprendere questi fenomeni, quindi, come sempre è il metodo scientifico, in un contesto di pluralismo e di trasparenza degli esperimenti.
Possiamo fidarci di un sistema in cui questi incidenti li rendono pubblici le aziende stesse, controllandosi da sole?
Il fatto che rendano pubblici questi incidenti è positivo, ma non può bastare. Servono controlli indipendenti, accesso alle informazioni necessarie per verificare ciò che raccontano e responsabilità chiare quando qualcosa va storto. Anche la tempistica di questi annunci merita attenzione, perché spesso, come nel caso di Anthropic, seguono altri annunci dei competitor in una gara a chi ha il “modello più pericoloso” e quindi più interessante, anche per gli investitori. Mi preme anche sottolineare che dobbiamo vigilare attentamente sull’indipendenza reale dei controllori esterni. Come nel caso del METR, indicato dallo stesso CEO di Anthropic tra gli enti terzi in grado di controllare in modo indipendente le aziende produttrici di AI. Proprio mentre indaga sugli incidenti di Anthropic, ha accolto tra le sue fila un ricercatore che fino a poche settimane fa guidava un team di sicurezza di quella stessa azienda. È legittimo chiedere conto di come venga garantita, concretamente, l’indipendenza tra chi sviluppa questi sistemi e chi li controlla e quanta propaganda ci sia in certe scelte di comunicazione.
Lei è anche giornalista, e storie come questa mettono chi scrive davanti a un problema: un post su X fa il giro del mondo in poche ore, i titoli parlano di “IA che ci ucciderà tutti” e chi legge non ha strumenti per capire quanto ci sia di vero. Come si racconta l’intelligenza artificiale senza fare né i profeti di sventura né gli ingenui? E che responsabilità abbiamo noi che scriviamo, soprattutto in un giornale che parla a lettori che magari l’IA la incontrano solo nei titoli spaventosi?
Esistono tanti tipi di giornalismo e, avendo lavorato per anni in una redazione locale, so bene che la velocità spesso è tutto, perché vuoi catturare prima degli altri competitor il clic del lettore, la sua attenzione e la monetizzazione che ne deriva. E so anche che i titoli negativi e catastrofici, che i CEO e altri attori dell’AI servono quotidianamente su un piatto d’argento, attirano molta attenzione, mentre un titolo che recita “non preoccupatevi, andrà tutto bene” difficilmente suscita lo stesso interesse. Nel caso dell’AI, però, bisogna essere consapevoli soprattutto della fonte da cui arrivano le notizie, per garantire pluralità di punti di vista al pubblico. Non possiamo prendere per buono tutto quello che ci dicono i CEO e dobbiamo avere ancora più a cuore l’analisi del contesto in cui certe dichiarazioni vengono fatte. È mia ferma convinzione che il giornalista non abbia come compito principale quello di dare la notizia, ma si distingua, ad esempio dall’utente di un social che pubblica la foto di un evento o condivide un suo pensiero, nel saperla verificare e contestualizzare. Soprattutto per chi incontra l’AI soltanto nei titoli, dobbiamo spiegare che cosa è successo davvero, che cosa è un’ipotesi e che cosa ancora non sappiamo.
Lei insegna a professionisti e aziende a usare questi strumenti, anche gli agenti che lavorano da soli al posto nostro. A chi la usa ogni giorno, o ha “paura” di usarla, cosa direbbe dopo una settimana come questa?
Direi di imparare il prima possibile a capire come si usa l’intelligenza artificiale, per essere cittadine e cittadini più consapevoli e quindi più liberi di scegliere, sfruttando appieno le sue potenzialità anche per espandere le proprie competenze e conoscenze. Per chi la usa ogni giorno, questo significa anche imparare a verificarne le risposte e capire quali accessi e quale autonomia stiamo concedendo, soprattutto quando utilizziamo agenti che possono agire al posto nostro nel nostro computer oppure online. Credo che ciò a cui dobbiamo aspirare sia possedere delle intelligenze artificiali “private”, modelli di AI aperti che funzionano nei computer non solo dei tecnici o delle aziende che hanno abbastanza soldi da investire, ma anche del “comune cittadino”, a un costo accessibile. Così che ognuno di noi abbia la sua AI, senza dover condividere i propri dati con le big americane e cinesi. Anche per questo condivido con molti altri il forte sospetto che le grandi aziende americane, che continuano a dire che l’AI è troppo pericolosa con la mano destra mentre con la sinistra suggeriscono le regole per strozzare tutta la concorrenza cosiddetta open, vogliano proprio che ci concentriamo su una finta superintelligenza che ci ucciderà tutti, piuttosto che batterci per una tecnologia che può e deve essere alla portata della popolazione, anche dal punto di vista economico.
All’AI, cosa le manca ancora per essere umana?
Tutto. Anche ora che, come nella robotica, inizia ad avere un corpo oltre a saper parlare, dobbiamo prendere atto che, se può parlare del dolore, del desiderio e della paura, non vuol dire che ne faccia esperienza. Abbiamo comunque ancora tanto da scoprire sul reale funzionamento di questi modelli, così tanto che vale la pena di considerarli “alieni”, senza per forza pretendere che assomiglino agli esseri umani.