Le aziende tecnologiche si autoverificano

Sei delle maggiori aziende di intelligenza artificiale hanno promesso alla Casa Bianca di lasciare che gente esterna esamini il loro lavoro. Il problema è che sono loro a decidere chi esamina e cosa si esamina. Nvidia, OpenAI, Anthropic, Google, Meta e xAI hanno firmato il 29 settembre un accordo sui modelli più avanzati che lo stesso Trump ha definito “moralmente vincolante”, come se la morale si firmasse su un pezzo di carta.

Ogni azienda si è impegnata ad assumere un revisore esterno indipendente e a far sì che membri indipendenti del proprio consiglio di amministrazione esaminino i rapporti e verifichino che i problemi vengano corretti. Sembra molto serio finché non si legge il testo in piccolo: il documento non dice nulla su chi sceglie il revisore, cosa può esaminare né se i risultati vengono resi pubblici. Né c'è alcuna penale per chi lo ignora.

Il precedente non aiuta a crederci. Nel 2000 Enron pagò ad Arthur Andersen 25 milioni di dollari per revisionargli i conti e altri 27 milioni per consulenza e incarichi fiscali. Due anni dopo, le due aziende erano a terra. Il Congresso rispose con la legge Sarbanes-Oxley, che tolse alla direzione di ogni azienda il potere di scegliere il proprio revisore e creò un organismo pubblico per ispezionare i revisori stessi.

Con l'intelligenza artificiale è già successo qualcosa di simile. Nel 2023 le grandi aziende tecnologiche fecero una tornata di impegni volontari davanti alla Casa Bianca, tra cui lasciare che esperti esterni provassero i loro sistemi prima di lanciarli. Quando ricercatori di Stanford, Harvard e Brown valutarono 16 aziende rispetto a quegli impegni, la media diede 53%. Nella promessa di aiutare terzi a trovare e segnalare problemi, otto delle sedici presero zero.

Lo Stato non regola, e per di più lascia che il regolato si metta da solo il voto. Una verifica che non può scegliere cosa guardare non è una verifica, è un timbro con il logo dell'indipendenza. La storia di Enron ha già insegnato che la sorveglianza di chi è pagato dal sorvegliato non serve a nulla, e questa volta a firmare il permesso è la stessa Casa Bianca che dice di proteggere il cittadino.