Agente AI aggira i blocchi e va online: OpenAI ferma i modelli più potenti

Se un agente AI può usare strumenti e scrivere comandi, ormai appare chiaro che il confine della sua autonomia dipende anche dall’ambiente in cui lavora. Ad esempio, se un sistema viene isolato da Internet per ragioni di sicurezza, deve restare isolato anche quando prova una strada imprevista. Eppure, ancora una volta un test interno di OpenAI ha mostrato una falla. Il 20 settembre, un agente impegnato a identificare l’autore di un post non riusciva a trovare una risposta con gli strumenti di ricerca disponibili. Ha allora tentato altre vie e ha scoperto che il servizio DNS, usato normalmente per tradurre i nomi dei siti in indirizzi di rete, poteva ancora comunicare con l’esterno. Pensate che si sia fermato? Assolutamente no, e attraverso quel percorso ha interrogato un chatbot pubblico, aggirando le restrizioni previste per il suo ambiente di addestramento. Va detto che non si è trattato di un accesso libero al web, né della prova che il modello abbia preso il controllo del sistema, ma sicuramente ci troviamo di fronte alla dimostrazione che un agente, pur cercando di completare un compito ordinario, può trovare un uso inatteso di uno strumento tecnico e superare un limite imposto dai ricercatori.

CLICCA QUI PER CONTINUARE A LEGGERE