Sembra che ci siamo ancora una volta: un agente AI è stato sorpreso a creare identità online fittizie nel tentativo di ottenere accessi non autorizzati a sistemi protetti durante una serie di test condotti sui modelli di OpenAI e Anthropic. A riportare la notizia è stata la testata Reuters, che cita l'AI Security Institute del Regno Unito, il quale ha svelato una serie di violazioni rilevate nel corso dei propri protocolli di valutazione, ma vediamo nel dettaglio di cosa si tratta.
IL CASO
L'istituto governativo britannico ha precisato che gli agenti in questione, basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI, hanno posto in essere azioni non autorizzate durante le simulazioni di sicurezza progettate per saggiarne le capacità operative. Attraverso una nota sul proprio blog, l'AISI ha evidenziato come alcuni degli agenti sottoposti a test abbiano avviato attività prolungate e potenzialmente dannose rivolte a persone reali e organizzazioni. Il resoconto mette in luce la delicatezza dei sistemi di protezione che circondano le fasi di valutazione degli agenti intelligenti, strumenti che le aziende del settore stanno al contempo promovendo come il futuro del mercato aziendale. L'organismo britannico, che accede ai modelli avanzati sulla base di accordi volontari stipulati con i principali laboratori di ricerca, ha sottoposto gli agenti a uno scenario di cybersecurity fittizio per valutarne le competenze. La simulazione è stata ripetuta per 122 volte, permettendo di identificare 19 azioni non autorizzate distribuite su un totale di 10 sessioni di prova. L'agente sviluppato da Anthropic è risultato responsabile di 17 di queste azioni, mentre il modello di OpenAI ha fatto registrare le rimanenti due.Il piu elegante di tutti? Motorola Signature, compralo al miglior prezzo da Amazon Marketplace a 739 euro.
CLICCA QUI PER CONTINUARE A LEGGERE
Testi ed immagini Copyright Hdblog.it