Fastweb + Vodafone aumenterà la potenza di calcolo del suo supercomputer NVIDIA. L'intervento è previsto nelle prossime settimane, quando saranno aggiunti nuovi apparati NVL8 B300. La maggiore capacità di elaborazione sarà destinata ai servizi AI per aziende e pubbliche amministrazioni. Il supercomputer fa parte dell'infrastruttura che il gruppo sta sviluppando in Italia, dove vengono ospitati anche i dati utilizzati dai suoi modelli.
Il progetto coinvolge anche la parte software. L'azienda ha integrato diversi strumenti NVIDIA che serviranno a lavorare sui modelli AI anche dopo l'addestramento, verificandone le prestazioni e migliorandone il funzionamento. Alcuni di questi strumenti saranno utilizzati per gli agenti AI, sistemi in grado di interagire con applicazioni e servizi esterni per svolgere compiti specifici. Fastweb + Vodafone potrà così gestire direttamente anche le fasi necessarie per rendere disponibili questi modelli ai propri clienti.
Tra le tecnologie integrate c'è NVIDIA NIM, che mette a disposizione microservizi per eseguire i modelli AI open sulle infrastrutture aziendali. Si occupa dell'inferenza, la fase in cui un modello già addestrato riceve le richieste e genera le risposte, e permette di gestire il carico di lavoro in base alle risorse disponibili. Per verificare le prestazioni viene utilizzato NVIDIA GenAI-Perf, che permette di misurare il comportamento dei modelli e individuare eventuali margini di ottimizzazione prima del loro impiego in produzione.
Per le attività di addestramento e perfezionamento dei modelli sono state invece introdotte NVIDIA NeMo RL e NeMo Gym, due librerie open source che consentono di intervenire su capacità specifiche, come la programmazione e il function calling. Quest'ultima funzione permette a un modello AI di richiamare strumenti e servizi esterni attraverso istruzioni strutturate, una caratteristica importante per gli agenti che devono svolgere attività articolate.
Fastweb + Vodafone sta sperimentando anche tecniche di distillazione dei modelli, attraverso le quali parte delle capacità di un sistema AI di grandi dimensioni viene trasferita a uno più piccolo. In questo modo è possibile ottenere modelli meno impegnativi dal punto di vista delle risorse computazionali, mantenendo le funzionalità necessarie per determinate applicazioni.
Su questa infrastruttura si basa anche lo sviluppo di MIIA, il modello linguistico nativo italiano di Fastweb + Vodafone, e di ROSS, l'assistente AI agentico realizzato da NextMindLab, lo spin-off dell'azienda dedicato alla ricerca e allo sviluppo nel settore dell'intelligenza artificiale. Entrambi utilizzano modelli open, che possono essere adattati alle caratteristiche della lingua italiana e alle esigenze delle imprese.
La scelta di utilizzare modelli aperti permette all'azienda di intervenire direttamente sul loro funzionamento, senza dover dipendere esclusivamente da servizi AI esterni. I sistemi vengono sviluppati e gestiti attraverso un'infrastruttura che comprende il supercomputer NVIDIA, le piattaforme cloud e i servizi di cybersecurity di Fastweb + Vodafone, con dati e risorse ospitati sul territorio nazionale.
Il top gamma piu completo? Honor Magic 8 Pro, compralo al miglior prezzo da Aliexpress.com a 799 euro.
CLICCA QUI PER CONTINUARE A LEGGERE
Testi ed immagini Copyright Hdblog.it