OpenAI, i problemi risolti dall'AI accendono la polemica nella comunità scientifica

La valanga di nuovi risultati matematici pubblicata da OpenAI ha impressionato molti ricercatori, ma sta anche provocando una dura reazione all’interno della comunità scientifica. I modelli dell’azienda sono molto capaci, è assodato, così il punto si è spostato altrove, sul fatto che la ricerca sia stata condotta con dei sistemi, più avanzati, accessibili solo a pochi. Il punto era già emerso prima della pubblicazione degli oltre 700 manoscritti di cui abbiamo parlato nei giorni scorsi. Il 29 settembre un comitato consultivo indipendente di matematici ospitato dall’Institute for Advanced Study di Princeton aveva chiesto ai laboratori AI di non utilizzare i propri modelli interni più potenti per affrontare problemi matematici aperti, almeno finché la comunità non avesse avuto strumenti sufficienti per verificare e comprendere il processo. La richiesta nasce dal timore di creare una matematica “a due velocità”: da una parte aziende con accesso a modelli e quantità di calcolo fuori dalla portata della maggior parte degli studiosi, dall’altra ricercatori chiamati a controllare e integrare risultati prodotti con sistemi che non possono utilizzare direttamente. Il gruppo di Princeton chiede quindi accesso più equo ai modelli, maggiore trasparenza sui prompt e informazioni sufficienti per ricostruire il percorso seguito dall’AI. OpenAI sostiene di aver recepito almeno in parte queste indicazioni e di aver pubblicato anche una sintesi del procedimento utilizzato dal modello, ma per appena dieci dei nuovi risultati. La scelta di continuare a testare sistemi proprietari sui problemi aperti è proprio quella che sta generando le tensioni maggiori. La reazione più netta è arrivata dall’Association for Human Mathematics, nata con l’obiettivo di difendere la matematica come attività umana. L’associazione invita a guardare con scetticismo alla pubblicazione simultanea di centinaia di risultati e parla di una “dimostrazione di potere” più che di rigore scientifico, arrivando a chiedere ai matematici di interrompere la collaborazione con OpenAI. Molte delle dimostrazioni sono state sottoposte a verifiche formali con Lean, e alcuni risultati hanno già attirato l’attenzione di specialisti. Il punto delle critiche è quindi un altro, riguarda il processo: una quantità così elevata di materiale rende difficile effettuare rapidamente una revisione scientifica approfondita e secondo alcuni ricercatori rischia di spostare sull’intera comunità il lavoro necessario per capire quali risultati siano davvero nuovi, importanti e corretti.

CLICCA QUI PER CONTINUARE A LEGGERE