“Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pre-addestramento sia a OpenAI sia ad Anthropic. Nessuna delle due società sta agendo in modo responsabile. Stanno correndo dritte verso una super-intelligenza auto migliorante e stanno giocando d’azzardo con le nostre vite”.
Così, con un post su X, il ricercatore di Anthropic Jacob Coxon, britannico di 27 anni, ha annunciato la volontà di lasciare il colosso statunitense di Intelligenza Artificiale, fondato da Dario e Daniela Amodei e gestore, fra gli altri, del modello Claude. A suo dire, questa corsa “tracotante” rischia di portare l’umanità verso “l’endgame”, la fine.
“Non bisogna sottovalutare il potere di questa tecnologia” ha aggiunto il giovane scienziato: “Presto ci saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire potere e risorse”. E ancora: “Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. I dirigenti in pubblico si esprimono con cautela, ma in privato dicono altro. Nessun’altra attività umana pone un livello di pericolo simile”.
Se in OpenAI – dice Coxon – molti non hanno ancora interiorizzato il pericolo, in Anthropic c’è maggiore consapevolezza, ma la competizione sfrenata rende tutti incauti: “Sono ottimista riguardo al potenziale per un coordinamento, ma non sento che siamo sulla buona strada per prevenire una corsa globale”.
Evan Hubinger, responsabile dell’allineamento di Anthropic – cioè delle garanzie su un’AI onesta, utile e sicura – ha risposto all’ex collega confermando in parte i suoi timori ma ribadendo la buona fede della sua compagnia, fondata nel 2021 proprio per fornire un’AI “rispettosa dell’umanità”: “Jacob ha ragione, crediamo davvero che l’IA potrebbe uccidere tutti gli esseri umani! Io penso che ci sia più del 10% di probabilità entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e certo non siamo sulla strada giusta”.
