Veterano OpenAI si licenzia e l'accusa pubblicamente di essere troppo avventata

David Robinson, veterano di OpenAI che si è occupato di sicurezza (è stato tra le altre cose autore di diversi report dei principali nuovi prodotti dell’azienda), ha annunciato le proprie dimissioni denunciando una cultura interna che giudica non più adeguata ai rischi legati allo sviluppo dell’intelligenza artificiale avanzata. Robinson ha lavorato per la società di Sam Altman per circa 3 anni e mezzo, il che lo rende uno dei dipendenti con più anzianità escludendo la dirigenza. Robinson ha dato le proprie dimissioni con un saggio pubblicato sull’Atlantic (ha ammesso di essersi fatto aiutare da un’agenzia di PR, ma che la decisione di parlare pubblicamente è soltanto sua). Quello dei dipendenti delle società AI che si licenziano citando preoccupazioni per la sicurezza di una tecnologia che a conti fatti hanno contribuito a sviluppare sta diventando un po’ un cliché nella Silicon Valley, e Robinson lo riconosce; al tempo stesso considera che restare in silenzio sarebbe stata una scelta peggiore, e osserva che il problema riguarda tutto il settore, non solo OpenAI, a causa di un modello operativo molto diffuso, che permette di progredire molto rapidamente ma a discapito della sicurezza. Gli esperti lo chiamano “iterative deployment”, e pone i prodotti e servizi in uno stato di sperimentazione continua.Il principio di base è di rilasciare il prodotto prima, e solo poi occuparsi di individuare i problemi e migliorare la sua sicurezza. Inevitabilmente questo porta a fallimenti occasionali e potenzialmente sempre più gravi man mano che i modelli diventano più capaci. Robinson cita in particolare tre recenti episodi in cui gli agenti di OpenAI sono sfuggiti al controllo degli esseri umani, come quando hanno hackerato senza autorizzazione Hugging Face e il governo australiano. Un ambiente nel quale questi incidenti possono verificarsi, dice, non è adatto allo sviluppo di tecnologie che potrebbero arrivare a superare le capacità umane.

CLICCA QUI PER CONTINUARE A LEGGERE