Chi controlla davvero l?AI? Anthropic prova una nuova strada

Le problematiche di controllo sui nuovi modelli di intelligenza artificiale sono sempre più al centro delle attenzioni, soprattutto ora che gli incidenti si stanno verificando a cadenza settimanale e hanno colpito ormai ogni grande azienda impegnata. La più recente in ordine temporale è Google, ma la prima ad averne parlato e a diventare famosa con il caso Hugging Face è stata OpenAI. Il problema è stato poi sollevato da Anthropic, prima con il licenziamento di Coxon, legato ai rischi di un'AI che potrebbe diventare incontrollabile, poi con il memorandum di Dario Amodei, che ha confermato la necessità di agire prima che sia troppo tardi. In definitiva, è ormai evidente che controllare un modello di intelligenza artificiale quando è ormai pronto per essere pubblicato potrebbe non essere sufficiente. Più questi sistemi diventano autonomi, infatti, più diventa importante capire cosa accade durante il loro sviluppo, quando comportamenti inattesi e vulnerabilità possono ancora essere individuati e corretti

CLICCA QUI PER CONTINUARE A LEGGERE