Tre crisi e una domanda
Come possiamo governare ciò che abbiamo creato, anche quando non siamo in grado di prevederne completamente le conseguenze? È la domanda che l’intelligenza artificiale rende oggi attuale, ma che riguarda non soltanto l’IA, ma anche le armi che abbiamo costruito, il clima che abbiamo modificato e, più in generale, la crescente capacità dell’uomo di trasformare il mondo.
Le letture di Nello Cristianini, in particolare Machina sapiens e il più recente Forma mentis, mi hanno portato a guardare all’intelligenza artificiale non soltanto come una straordinaria innovazione tecnologica, ma come uno dei grandi interrogativi del nostro tempo. Machina sapiens, racconta il passaggio verso macchine capaci di svolgere compiti che vanno oltre le intenzioni iniziali dei loro creatori; Forma mentis sposta ulteriormente la domanda: che cosa vedono e che cosa rappresentano le macchine quando “guardano” il mondo? Queste domande assumono un significato ancora più grande se vengono collocate nel quadro delle altre grandi crisi del nostro tempo.
La prima è la crisi geopolitica. Guerre che sembravano appartenere ad un passato ormai superato sono tornate a minacciare il mondo e gli arsenali nucleari mantengono aperta la possibilità, per quanto estrema, di una distruzione senza precedenti.
La seconda è la crisi climatica. L’aumento delle temperature non è soltanto una questione ambientale: significa mettere sotto pressione gli equilibri che hanno consentito alla nostra civiltà di svilupparsi. Il rischio non consiste semplicemente nell’avere qualche grado in più, ma nel superare soglie oltre le quali alcuni cambiamenti possono diventare irreversibili.
La terza crisi, ancora più difficile da definire, è quella legata all’intelligenza artificiale.
Le tre situazioni, profondamente di- verse, hanno qualcosa in comune: la sproporzione tra la potenza degli strumenti che abbiamo creato e la nostra capacità di prevederne fino in fondo gli effetti. Per capire la novità dell’IA bisogna però tornare indietro. Per gran parte della storia dell’informatica, il computer è stato concepito soprattutto come una macchina che esegue istruzioni: l’uomo stabilisce una procedura e la macchina la applica con una velocità e una precisione superiori alle nostre. Ma progressivamente qualcosa cambia. Non chiediamo più alla macchina soltanto di eseguire ciò che abbiamo programmato: cominciamo a chiederle di imparare dai dati. È la svolta del machine learning. Invece di scrivere una regola per ogni possibile situazione, forniamo alla macchina grandi quantità di esempi e lasciamo che sia il sistema a individuare le regolarità. Con le reti neurali profonde questo processo diventa molto più sofisticato: attraverso numerosi strati di elaborazione, la macchina può apprendere rappresentazioni sempre più complesse dei dati stessi.
Il passaggio decisivo arriva con i grandi modelli linguistici. Macchine addestrate su quantità enormi di testi imparano, tra l’altro, a prevedere quale parola, o parte di parola, possa seguire una determinata sequenza. Ma dall’aumento delle dimensioni dei modelli e dei dati emergono capacità che vanno molto oltre l’operazione iniziale: dialogare, tradurre, riassumere, scrivere, programmare, risolvere problemi, costruire argomentazioni. È questo uno degli aspetti più sorprendenti raccontati da Cristianini: non tutte le capacità della macchina sono state programmate esplicitamente, alcune sembrano e- mergere dal processo di apprendimento.
La vera rivoluzione dei chatbot non consiste soltanto nella loro capacità di fornire informazioni. Consiste nel fatto che possiamo interrogarli. Possiamo porre una domanda a una macchina utilizzando il nostro linguaggio e ricevere una risposta che appare spesso sensata, articolata, persino intelligente. Un chatbot basato su un grande modello linguistico non funziona semplicemente come un’enciclopedia: la risposta non consiste, in generale, nel recuperare una frase già pronta da un archivio. Il modello la genera sulla base di ciò che ha appreso dalle relazioni statistiche e dalle rappresentazioni costruite durante l’addestramento. E qui nasce una forma di incertezza nuova. Possiamo osservare ciò che la macchina sa fare, ma non comprendiamo ancora completamente come arrivi a farlo. Gli sviluppatori stabiliscono l’ architettura, i dati e il processo di addestramento, ma non programmano direttamente ogni singola capacità che emergerà dal sistema.
In Machina sapiens questa trasformazione porta Cristianini a interrogarsi sul “segreto della conoscenza” che le macchine sembrano aver acquisito. In Forma mentis il problema si spinge ancora più avanti: la ricerca tenta di capire che cosa accade dentro queste reti, quali rappresentazioni costruiscono e che cosa “vedono” quando elaborano il mondo; in definitiva, quanto possiamo comprendere l’intelligenza che abbiamo costruito?
È qui che emerge il punto di contatto tra l’IA e le altre grandi crisi. Una guerra può produrre conseguenze che sfuggono alle intenzioni di chi la scatena. Il sistema climatico è talmente complesso che non possiamo prevedere con assoluta precisione ogni sua reazione. Una rete neurale può sviluppare capacità che non sappiamo spiegare completamente. In tutti e tre i casi ci confrontiamo con sistemi complessi nei quali la nostra capacità di intervento non coincide con la capacità di prevederne ogni conseguenza. L’uomo ha costruito armi capaci di distruggere la propria civiltà. Ha modificato, attraverso la propria attività, il clima del pianeta. E ora sta costruendo macchine capaci di apprendere e di svolgere compiti cognitivi sempre più sofisticati.
Potremmo allora chiederci se queste tre crisi, pur così diverse, non siano anche tre facce di una stessa condizione: abbiamo aumentato enormemente la nostra capacità di trasformare il mondo, senza aumentare nella stessa misura la capacità di prevedere ciò che quella trasformazione produrrà. Da qui nasce anche la domanda più radicale: può l’insieme di questi rischi condurre, prima o poi, alla perdita delle condizioni che rendono possibile la nostra stessa esistenza? Non credo che la risposta debba essere una profezia sull’estinzione dell’umanità, ma l’ipotesi dell’estinzione, proprio perché estrema, può servire a misurare la profondità della nostra responsabilità. La questione non è stabilire se domani le macchine prenderanno il sopravvento sull’uomo; è capire se sapremo mantenere la capacità di governare ciò che abbiamo creato.☺
