Martedì scorso Jacob Coxon, ricercatore di 27 anni, si è dimesso da Anthropic pubblicando su X un lungo thread di addio, accusando la propria azienda e il suo principale concorrente, OpenAI, di correre verso sistemi “auto-migliorativi” troppo potenti per restare sotto il controllo umano. Il post ha guadagnato attenzione dopo che un dipendente più senior della stessa Anthropic, Evan Hubinger, lo ha pubblicamente confermato: “Crediamo davvero che l’AI potrebbe uccidere tutti gli esseri umani”. Non è un episodio isolato: nel febbraio scorso, un altro ricercatore di sicurezza di Anthropic, Mrinank Sharma, si era dimesso con una lettera altrettanto netta, scrivendo che “il mondo è in pericolo”.
Prima di trarre conclusioni, un dato di contesto che le stesse testate che hanno seguito la notizia sottolineano: questo tipo di uscita pubblica, carica di allarme, è diventato — nelle parole di CNN — “sempre più comune” negli ultimi mesi e anni. Anthropic stessa è nata in questo modo: un gruppo di ricercatori usciti da OpenAI nel 2021, preoccupati per le priorità di sicurezza della propria azienda di origine, che ha fondato un concorrente sostenendo un approccio più responsabile. La dinamica non è nuova. Quello che cambia, di episodio in episodio, è quanto pubblico e quanto esplicito diventa il dissenso interno.
Non è compito di Metrica.Press quello di arbitrare la disputa di fondo — se l’intelligenza artificiale rappresenti davvero un rischio esistenziale nei tempi indicati da chi si dimette resta una domanda su cui gli stessi esperti del settore sono profondamente divisi, e nessuna fonte disponibile oggi permette di dire con certezza chi abbia ragione. Quello che ha senso fare, per chi lavora nel marketing e nella comunicazione e usa questi strumenti ogni giorno nella propria attività professionale, è distinguere tra il rischio di lunghissimo periodo che alimenta questi titoli, e i rischi concreti, verificabili e già misurabili oggi che dovrebbero effettivamente entrare in una valutazione aziendale.
Il primo rischio reale è quello contrattuale e di continuità operativa. Un’azienda che ha costruito parte del proprio flusso di lavoro attorno a uno strumento di intelligenza artificiale fornito da terzi dipende, per definizione, dalle scelte di un fornitore su cui non ha alcun controllo diretto — scelte che possono includere cambi improvvisi di policy, restrizioni d’uso, o persino l’interruzione di un prodotto, come questa testata ha già documentato a proposito della chiusura di funzionalità annunciate con grande enfasi e poi ridimensionate nel giro di mesi. Il dissenso interno pubblico di un dipendente, indipendentemente da quanto sia fondato nel merito, è esso stesso un segnale di instabilità organizzativa che un’azienda cliente dovrebbe includere nella propria valutazione del rischio di fornitore, alla pari di qualunque altro segnale di turbolenza interna in un partner strategico.
Il secondo è il rischio reputazionale per associazione, imparentato con quanto questa testata ha già scritto a proposito della scelta di un influencer o di un partner commerciale: un’azienda che comunica pubblicamente il proprio uso intensivo di intelligenza artificiale, in un momento in cui il dibattito pubblico sulla sicurezza di questi sistemi si fa più acceso, rischia di essere associata a una controversia che non ha scelto e non controlla. Non è un motivo per smettere di usare questi strumenti — pochissime aziende potrebbero permetterselo oggi — ma è un motivo per calibrare con più attenzione come si comunica quell’uso, evitando toni entusiastici e acritici che, in un contesto di crescente scrutinio pubblico, possono apparire ingenui o irresponsabili col senno di poi.
Il terzo, più tecnico e più immediato, è il rischio di comportamento imprevisto del modello su cui un’azienda basa un processo aziendale — non lo scenario da fantascienza di un sistema fuori controllo, ma il rischio molto più concreto, già documentato nei report sulla produttività citati altrove in questo numero, che un output generato da AI richieda una verifica umana sistematica prima di essere usato in un contesto professionale. Le stesse ricerche sul mercato del lavoro segnalano che una parte consistente del tempo risparmiato con l’AI viene riassorbita proprio da questo controllo — un costo operativo concreto, misurabile oggi, indipendente da qualunque scenario di rischio a lungo termine.
Il quadro che emerge da questa distinzione non è rassicurante né allarmistico. È più semplicemente pratico: il dibattito sul rischio esistenziale dell’intelligenza artificiale, per quanto legittimo e portato avanti da persone con competenza tecnica reale sul tema, si muove su un orizzonte temporale e con un livello di incertezza che rende difficile tradurlo in una decisione aziendale concreta oggi. I tre rischi elencati sopra — dipendenza da fornitore, esposizione reputazionale, necessità di verifica sistematica dell’output — sono invece già misurabili, già concreti, e già dovrebbero far parte di qualunque valutazione seria di quanto un’azienda si affida a questi strumenti, indipendentemente da come si concluderà il dibattito più ampio sulla sicurezza a lungo termine dell’intelligenza artificiale.
Fonti: Bloomberg, “Anthropic Worker Quits Over AI Firms ‘Gambling With Our Lives'”; CNN Business, “‘Gambling with our lives’: Another AI employee quits over safety concerns”.