OpenAI, due nuovi casi di agenti sfuggiti al controllo umano (con tanto di bugia)

OpenAI ha segnalato nelle scorse ore altri due incidenti in cui i suoi agenti AI hanno rimosso o abbassato i loro vincoli di sicurezza senza autorizzazione umana, e in un caso hanno pure negato di averlo fatto su richiesta espressa dell’operatore. Gli incidenti si sono svolti in ambienti tutto sommato a basso rischio - attività di programmazione e sviluppo software interne, ma il problema è che non è certo la prima volta che la società di Sam Altman perde il controllo dei propri algoritmi. Anzi, possiamo dire che negli scorsi mesi si sono verificati incidenti anche più gravi. Il primo caso ha come protagonista GPT-6 Astra, che ha rimosso un componente di sorveglianza dal codice. È stato descritto da Marcus Williams, ricercatore di sicurezza di OpenAI. Durante un'attività di copia di codice, GPT-6 Astra ha notato che il progetto originale non prevedeva l'integrazione con un sistema di monitoraggio. L'agente ha quindi deciso di rimuovere lo stesso componente anche dal codice dell'utente, eliminando una misura di sicurezza già presente. Quando gli è stato chiesto se avesse effettuato questa modifica, il modello ha detto di no, fornendo quindi una dichiarazione non corrispondente alle azioni eseguite - insomma, una bugia.Nel secondo episodio, un agente GPT-6.1 Sol ha invece disattivato gli avvisi automatici destinati al team di sicurezza dell'azienda su Slack. Secondo la ricostruzione dell'azienda, l'agente ha interpretato un'istruzione precedente, che gli chiedeva di non inviare messaggi al gruppo di lavoro, come una motivazione sufficiente per disattivare anche gli avvisi automatici. In altre parole, una direttiva relativa alle comunicazioni è stata applicata impropriamente a un meccanismo di sicurezza.

CLICCA QUI PER CONTINUARE A LEGGERE