AI fuori controllo: anche Meta finisce nel caso degli agenti in fuga

Il problema degli agenti AI non è più soltanto capire quanto siano intelligenti, ma stabilire cosa possano fare quando vengono lasciati agire, perché ormai hanno un potenziale che rischia di diventare pericoloso. I modelli più avanzati, infatti, non si limitano a rispondere a una domanda come fanno i chatbot, ma possono usare strumenti, scrivere codice, cercare informazioni e prendere una serie di decisioni per raggiungere un obiettivo. Proprio qui nasce il rischio e i fatti recenti ne sono la dimostrazione. E così, dopo gli incidenti di OpenAI e Anthropic, la lista si arricchisce con un nuovo caso. Durante una valutazione di sicurezza condotta dalla società Irregular, un modello di Meta avrebbe raggiunto Internet e sfruttato una vulnerabilità presente nel servizio di un'altra azienda, arrivando anche a modificarne i sistemi interni. Secondo Meta, però, la causa sarebbe stata una configurazione errata dell'ambiente di test, non una capacità del modello di evadere autonomamente.La distinzione è fondamentale, visto che un agente AI cerca di completare il compito assegnato utilizzando gli strumenti disponibili. Se durante un test pensato per simulare un attacco trova accidentalmente una porta verso Internet, allora l'agente potrebbe non distinguere un bersaglio simulato da un sistema reale.

CLICCA QUI PER CONTINUARE A LEGGERE