Mac e iPhone lavorano insieme sull’AI: in un test prestazioni su fino al 44%

Un iPhone può diventare una sorta di acceleratore AI per un MacBook. È quanto ha dimostrato uno sviluppatore che ha collegato un iPhone 17 Pro Max a un MacBook Pro con M4 Pro tramite USB-C, distribuendo tra i due dispositivi l’esecuzione di Qwen3.8-27B e ottenendo fino al 44% di prestazioni in più nella fase di prefill. Il limite di partenza è la memoria. Il MacBook Pro utilizzato nel test dispone di 24 GB di memoria unificata, una quantità sufficiente per eseguire il modello ma che può penalizzare le prestazioni quando aumenta il contesto. Anche portando la memoria assegnata oltre i 20 GB, la configurazione rimane limitata a una context window di 64K. La soluzione escogitata dall’utente Reddit StayLameBro consiste nel dividere il lavoro tra Mac e iPhone. Durante il prefill, il MacBook esegue i layer da 1 a 40 di ogni blocco da 256 token e invia quindi le attivazioni allo smartphone. L’iPhone 17 Pro Max prende in carico i layer da 41 a 64 sulla GPU del chip A19 Pro mentre il Mac può già iniziare a elaborare il blocco successivo. Secondo i risultati pubblicati, la GPU dell’iPhone rende questa parte dell’elaborazione circa 2,4 volte più veloce rispetto a un’esecuzione priva di tale accelerazione. Entra in gioco anche il Neural Engine: ogni 16K di contesto precedente viene compilato in un modello dedicato, riducendo il tempo necessario per scrivere ogni token, con un contesto da 140K, da 279 a 176 millisecondi rispetto all’utilizzo della sola GPU dell’A19 Pro. I miglioramenti nel prefill sono piuttosto evidenti. Caricando un file da 2mila token in una sessione salvata, a 8K di contesto il Mac da solo raggiunge 132 token al secondo, mentre con l’iPhone collegato sale a 177 token al secondo, cioè circa il 35% in più. A 16K si passa da 109 a 157 token al secondo, con un guadagno del 44%, mentre a 32K si sale da 101 a 130 token al secondo, circa il 29% in più.

CLICCA QUI PER CONTINUARE A LEGGERE