Anthropic ha concesso a valutatori esterni un accesso «da dipendente» per misurare i rischi dei propri modelli, dando seguito a un impegno pubblico assunto nelle settimane precedenti. Il nonprofit METR, che ha già lavorato con OpenAI, Anthropic, Google e Meta, ha ora un team ospitato negli uffici dell’azienda, con accesso all’hardware e ai sistemi interni. È il primo passo concreto di un percorso che riguarda l’intero settore.
Che cosa significa «accesso da dipendente»
La formula descrive un cambiamento sostanziale rispetto alla valutazione tradizionale, che avviene su modelli resi disponibili in un ambiente controllato e con una documentazione preparata dal fornitore. Qui il valutatore è dentro, vede l’infrastruttura su cui i modelli girano, può osservare come vengono addestrati e testati e ha visibilità su informazioni che normalmente restano riservate. Anthropic motiva la scelta con due argomenti: modelli più potenti richiedono salvaguardie più solide e valutazioni più difficili, e l’azienda vuole essere pubblicamente responsabile delle proprie decisioni pur non potendo rendere pubblici tutti i dettagli del lavoro di sicurezza. È una tensione reale: la trasparenza utile alla collettività non coincide con la pubblicazione integrale dei processi interni.
La partita delle valutazioni indipendenti
Il coinvolgimento di terzi è una delle poche misure concrete su cui i laboratori hanno trovato un terreno comune. A settembre il CEO di Anthropic, Dario Amodei, ha proposto di inserire auditor esterni stabilmente nei laboratori di frontiera e ha ottenuto l’appoggio, insolito, dei rivali Sam Altman ed Elon Musk. L’annuncio di questa settimana è il primo passo attuativo; OpenAI, secondo quanto riportato, non ha ancora definito i propri piani. Le obiezioni ricorrenti riguardano l’indipendenza: un valutatore che lavora dentro l’azienda, con accesso concesso dall’azienda, può essere percepito come meno libero di chi conduce test autonomi. La risposta pratica sta nei dettagli del mandato: chi definisce i test, chi pubblica i risultati, cosa può essere omesso e con quale motivazione.
Cosa significa per le imprese
Per chi acquista servizi AI la notizia ha un valore operativo. Le valutazioni esterne, se solide, diventano un’evidenza da chiedere ai fornitori accanto a certificazioni e documentazione tecnica. In sede di gara o di rinnovo contrattuale è ragionevole domandare se il modello è stato valutato da soggetti indipendenti, con quale metodologia e se i risultati sono disponibili in forma sintetica. Non è una garanzia di sicurezza, ma è un elemento di diligenza. La stessa logica vale per l’adozione interna: un agente autonomo che opera su sistemi aziendali merita una valutazione del rischio costruita su misura, non un rinvio alla reputazione del vendor.
In sintesi. L’accesso concesso a METR sposta la discussione dalla promessa alla verifica. Il nodo, nei prossimi mesi, sarà capire quanto questi osservatori siano davvero indipendenti e quanto i loro giudizi entrino nelle decisioni di rilascio.
Fonte: Ars Technica