L’appello del co-fondatore e Ceo di Anthropic, Dario Amodei, lancia un messaggio forte. Il manager italoamericano parla chiaro, chiedendo esplicitamente al settore dell’IA di rallentare, impegnandosi poi a fare il primo passo con un piano di tre fasi. “Dobbiamo procedere con cautela nella frontiera: ho scritto un nuovo saggio sul perché l’industria dell’IA dovrebbe rallentare, con un piano in tre fasi”, scrive Amodei sottolineando che “Anthropic si sta impegnando unilateralmente nella prima di queste fasi”.
Poi Amodei ricorda l’incidente di sicurezza avvenuto questa estate, in cui agenti interni di OpenAI hanno avuto accesso a Internet senza autorizzazione, attaccando Hugging Face. Tramite questo esempio il manager italoamericano lancia un avvertimento: una versione più potente di questo sciame di AI potrebbe assumere il controllo di Internet entro sei mesi.
La situazione viene definita dal Ceo di Anthropic come un “segnale d’allarme” dato che l’intelligenza artificiale si sta sviluppando a un ritmo “esponenziale”. Per questo servono misure di sicurezza. In un’intervista a Cbs News Amodei confida: “Non credo di aver compreso appieno cosa avrebbe significato davvero un processo così rapido”.
Anthropic, il sostegno di Musk e Altman
Il manager italoamericano spiega che lo sviluppo dell’AI è come una progressione del tipo “uno, poi due, poi quattro, poi otto, poi 16, poi 32” e che ora si trova “sulla curva” che inizia a “farsi rapida”. Amodei però aggiusta il tiro cercando di rassicurare: “Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto”. Bisogna rallentare, questo si, infatti è nata la necessità di trovare misure di sicurezza in grado di sostenere “la velocità con cui la tecnologia stessa evolve”.
La proposta di Amodei trova il sostegno di Elon Musk (SpaceX) e di Sam Altman, presidente di OpenAI. Il piano in tre fasi tracciato da Amodei ha l’obiettivo di “gestire il ritmo di avanzamento della frontiera tecnologica”. Il primo passo riguarda gli “embedded evaluators”, ovvero i valori interni, il secondo il coordinamento democratico e il terzo quello globale. Dunque, se gestita “l’IA può essere l’ultimo di una lunga serie di miracoli tecnologici” ma “come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi”.
