OpenAI sfida Nvidia: Jalapeño accelera l?AI consumando meno

In questo momento storico NVIDIA ha una sorta di "quasi" monopolio sui chip dedicati all'intelligenza artificiale, e la crescita del suo valore negli ultimi anni dimostra quanto sia stata in grado di farne tesoro, aumentando la sua quotazione sui mercati azionari. Questi componenti, i chip, sono fondamentali per rendere possibile l'utilizzo dei chatbot, degli agenti AI, dei tool generativi e così avanti. Ogni volta che chiediamo qualcosa a un chatbot o affidiamo un compito a un agente AI, enormi infrastrutture devono eseguire il modello e produrre una risposta. È la cosiddetta inferenza, ed è proprio qui che velocità e consumi stanno diventando problematici. Normalmente bisogna scegliere tra aumentare il numero di richieste elaborate oppure ridurre il tempo necessario per rispondere, ma OpenAI sostiene di poter attenuare questo compromesso con Jalapeño, il suo primo chip ASIC sviluppato insieme a Broadcom e progettato specificamente per l’inferenza. Nei test effettuati con la piattaforma InferenceX, Jalapeño è stato confrontato con sistemi basati sui superchip Nvidia GB200 e GB300. Utilizzando modelli molto diversi, tra cui GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T, il processore avrebbe svolto da 1,5 a 1,9 volte più lavoro AI a parità di energia, inoltre avrebbe contemporaneamente la latenza complessiva da 1,7 a 3,6 volte.

CLICCA QUI PER CONTINUARE A LEGGERE