AI che migliora altra AI: Anthropic mostra cosa sa già fare

Un sistema AI che studia la letteratura disponibile, sceglie un metodo, addestra un altro modello e valuta autonomamente se il risultato merita di essere conservato, non è ancora una macchina capace di migliorarsi senza limiti, ma un curioso esperimento di cui vale la pena parlare. Presentato da Anthropic, offre un assaggio concreto di come potrebbe cambiare la ricerca sull'AI, e a quanto pare i risultati sono particolarmente interessanti. Dovete sapere che su 10 benchmark dedicati a specifici comportamenti non allineati, i sistemi automatizzati hanno ottenuto miglioramenti in tutti i casi senza peggiorare le prestazioni complessive. Il lavoro, guidato dal fellow di Anthropic Chen Yueh-Han, prova infatti ad automatizzare buona parte del processo normalmente affidato ai ricercatori. Ogni sistema consulta la letteratura disponibile, propone una strategia e la utilizza per addestrare il modello per 30 minuti, ma il processo viene ripetuto più volte. Così gli approcci efficaci vengono mantenuti, mentre quelli che non funzionano vengono eliminati. Il sistema prende il nome di Automated Alignment Researcher, abbreviato AAR, e il confronto con il lavoro umano è uno degli aspetti più rilevanti dello studio. Secondo i risultati riportati nel paper, il metodo migliore individuato dall'AAR riesce mediamente, entro sei ore, a superare le proposte elaborate da ricercatori esperti. Gli indirizzi di ricerca guidati dagli esseri umani, inoltre, non avrebbero prodotto prestazioni superiori.

CLICCA QUI PER CONTINUARE A LEGGERE