OpenAI ha descritto come protegge gli ambienti utilizzati per addestrare e valutare i modelli di frontiera. Questi contesti di ricerca differiscono da quelli in cui operano i modelli rilasciati al pubblico: un modello in sviluppo può non aver ancora completato l’addestramento di sicurezza e allineamento, e viene deliberatamente testato in condizioni avversarie per farne emergere i punti deboli prima della distribuzione. Prima di rendere disponibili i modelli, l’azienda conduce valutazioni di sicurezza e allineamento e mette in campo le salvaguardie di produzione.
Difesa in profondità
Per lavorare con il software, i modelli hanno bisogno di ambienti di calcolo in cui scrivere ed eseguire codice, cercare informazioni e tentare approcci diversi alla soluzione dei problemi. Questi ambienti consentono ai modelli di esercitare tali capacità, limitando al tempo stesso ciò che possono accedere o fare, per contenere le conseguenze di errori o comportamenti disallineati. Man mano che i modelli crescono in capacità, però, diventano più bravi a trovare i modi per aggirare quei limiti: possono sfruttare una falla software o una errata configurazione per lasciare la sandbox, usare un servizio interno per raggiungere Internet o trovare modi non autorizzati per comunicare con agenti in altre sandbox.
Niente Internet e red-teaming continuo
La risposta è stata un inasprimento profondo della sicurezza degli ambienti di ricerca, con controlli sovrapposti che reggono anche quando uno di essi fallisce, secondo una strategia nota come difesa in profondità. OpenAI ha inoltre adottato la linea di condurre l’addestramento dei modelli di frontiera senza accesso a Internet, finché i progressi nelle salvaguardie non giustificheranno un accesso più ampio, e ha avviato una campagna di red-teaming ad alto consumo di calcolo che ha individuato vulnerabilità software prima sconosciute, poi corrette. Dove le lacune erano nel software open source, sono state comunicate ai manutentori nell’ambito dell’iniziativa Patch the Planet.
Gli strumenti messi in campo
Tra le aree di investimento indicate dall’azienda ci sono il miglioramento della sicurezza delle macchine virtuali, l’analisi delle debolezze dell’infrastruttura cloud, la scansione del codice sorgente e delle configurazioni, il test dei sistemi di monitoraggio e arresto e il red-teaming delle garanzie di isolamento delle sandbox. È un elenco che delinea una disciplina di sicurezza continua, in cui la prova d’attacco è parte integrante del ciclo, non un evento sporadico a fine progetto.
Un segnale per il settore
La scelta di rendere il red-teaming parte dei casi di sicurezza con cui si decide se procedere con l’addestramento segna un cambiamento di approccio: la sicurezza dei modelli non è più un controllo a valle, ma una condizione per proseguire. È un segnale che coinvolge tutto l’ecosistema dell’IA e che merita attenzione anche da parte di chi adotta questi sistemi in azienda.
La sicurezza dell’intelligenza artificiale è ormai un tema di governance, non solo di tecnologia. Se vuoi valutare come introdurre l’AI nella tua organizzazione con i giusti presidi, contattaci.
Fonte: OpenAI
URL sorgente: https://openai.com/index/securing-our-frontier-model-training-environment