Apple Intelligence non \u00e8 solo Siri. <\/b><\/p>\n
Siri, prima annunciato, promesso e poi rimandato, resta un brutto scivolone di Apple che verr\u00e0 ricordato ogni volta che si parler\u00e0 in futuro di Apple, iPhone e di IA. <\/p>\n
Apple Intelligence sono anche i modelli di IA generativa che l’azienda di Cupertino ha allenato in questi anni pensando non solo di usarli come base per le sue funzionalit\u00e0 ma di renderli disponibili agli sviluppatori delle app destinate ai suoi prodotti quindi iPhone, iPad e Mac. <\/p>\n
Questa novit\u00e0, annunciata alla WWDC 2025 a giugno, ha suscitato un enorme interesse negli sviluppatori: tramite il Foundation Models framework avrebbero finalmente potuto inviare al modello un “prompt” senza costi, in totale sicurezza e soprattutto con latenza davvero ridotta. Questa possibilit\u00e0, un modello LLM gi\u00e0 installato in locale da interrogare rapidamente, permette di processare dati in un modo che un normale algoritmo non pu\u00f2 fare, superando quindi la barriera che fino ad oggi ha impedito di aggiungere alle app alcune funzioni particolari. Certo, avrebbero potuto farlo usando le classiche API di Google, OpenAI e Claude, ma cos\u00ec facendo sarebbero stati costretti a inviare dati dell\u2019utente all\u2019esterno e attendere come risposta un risultato<\/b> che potrebbe arrivare anche con quel ritardo fastidioso, alla fine c\u2019\u00e8 sempre una connessione di mezzo.<\/p>\n
Decine di applicazioni sono gi\u00e0 state aggiornate
\n
<\/p>\n
Con il lancio di iOS 26 decine di applicazioni per iPhone e Mac sono state aggiornate per iniziare ad usare l\u2019IA on device. Non bisogna aspettarsi rivoluzioni, si potrebbe dire che l\u2019IA \u00e8 arrivata nelle app in punta di piedi<\/b>, e non ci troviamo nemmeno davanti a funzioni fondamentali. Come vedremo, per\u00f2, ci troviamo davanti ad un cambiamento che a tendere pu\u00f2 portare ad una nuova generazione di app intelligenti. In un momento in cui si fatica davvero a trovare qualcosa di nuovo nell\u2019hardware di un telefono o di un computer le applicazioni, che poi sono l\u2019elemento che definisce l\u2019esperienza d\u2019uso e anche il piacere di utilizzo, rivestono un ruolo fondamentale.<\/p>\n
\n
<\/p>\n
Prima di fare alcuni esempi, e di vedere come l\u2019IA on-device \u00e8 entrata all\u2019interno delle app, \u00e8 bene fare alcune precisazioni. Non si potr\u00e0 mai fare affidamento solo ed esclusivamente all\u2019IA sul dispositivo: i risultati che oggi vengono restituiti dai modelli elaborati nei datacenter sono di gran lunga superiori qualitativamente parlando<\/b>, ma non bisogna confondere le due cose. <\/p>\n
Un esempio \u00e8 dato dalla \u201cricerca\u201d: oggi ogni dispositivo e ogni sistema operativo hanno un algoritmo di ricerca che funziona pi\u00f9 o meno bene, ma questo cerca solo ed esclusivamente sul dispositivo e nelle app. Per cercare oltre il perimetro esistono i motori di ricerca.<\/p>\n
Allo stesso modo un modello generativo presente su un dispositivo deve essere bravo a fare una sintesi di testo, a lavorare con i dati estraendo informazioni, a unire ed elaborare elementi da pi\u00f9 parti ma non deve necessariamente avere nozioni storiche, scrivere codice o analizzare trattati scientifici.<\/b> L\u2019elaborazione IA on-device non pu\u00f2 e non potr\u00e0 mai escludere la necessit\u00e0 di appoggiarsi al cloud, un po\u2019 come oggi ci si appoggia ad un motore di ricerca.<\/p>\n
<\/p>\n
Il modello LLM on-device di Apple \u00e8 stato allenato per dare agli sviluppatori quello di cui hanno realmente bisogno per migliorare le loro app. Descritto nei vari whitepaper, \u00e8 calibrato a circa 3 miliardi di parametri <\/b>e questa dimensione \u00e8 stata scelta per trovare l’equilibrio ideale tra capacit\u00e0 e requisiti di memoria e potenza, rendendolo specializzato per i task di utilizzo quotidiano. Per essere efficace in un contesto di sistema operativo, la performance deve essere percepita come istantanea. Le metriche prestazionali riportate dai white paper Apple sono impressionanti: il modello raggiunge una velocit\u00e0 di generazione di 30 tokens al secondo su iPhone 15 Pro<\/b>, con una latenza (tempo al primo token) di soli 0.6 millisecondi. Questa rapidit\u00e0 non sarebbe raggiungibile senza scelte architetturali specifiche per l’Apple Silicon.<\/p>\n
\n
<\/p>\n
Le tecniche di ottimizzazione sono il cuore di questa architettura: Apple utilizza una quantizzazione a 2-bit (QAT – Quantization-Aware Training), quindi una compressione estremamente aggressiva che riduce i requisiti di memoria e massimizza il throughput del Neural Engine; aggiunge anche ottimizzazioni per gestire contesti di conversazione pi\u00f9 lunghi. <\/p>\n
Una quantizzazione cos\u00ec spinta (2-bit) pu\u00f2 teoricamente ridurre la qualit\u00e0 del modello<\/b> portando ad un aumento degli errori, tuttavia la ragione di questa scelta \u00e8 dare priorit\u00e0 assoluta alla rapidit\u00e0.<\/p>\n
\n
<\/p>\n
Apple non vuole competere con questo modello con Qwen, Llama, Gemma e altri modelli da 3 miliardi di parametri, ed infatti ha scelto di affinarlo sui compiti specifici dell\u2019utente e i risultati confermano questa strategia: in benchmark basati su prompts reali, il modello on-device supera modelli open-source pi\u00f9 grandi (come Mistral-7B o Llama-3-8B). La vera forza non \u00e8 la qualit\u00e0 generica, ma la performance istantanea e la precisione nei task di sistema predefiniti, che sono le “piccole funzioni IA” che gli utenti sperimentano quotidianamente.<\/p>\n
\n
<\/p>\n
Quello che \u00e8 stato fatto su iOS, e che anche Microsoft ha provato ora a fare su Windows con il suo modello Phi Silica, \u00e8 rendere facile per gli sviluppatori non solo integrare questo modello nelle app ma anche personalizzarlo con un fine tuning specifico<\/b>. <\/p>\n
Secondo alcuni sviluppatori Swift che hanno lavorato questa estate per integrare la chiamata al modello nelle loro app, l\u2019aspetto pi\u00f9 rivoluzionario \u00e8 il supporto runtime per gli adattatori LoRA (Low-Rank Adaptation). Questo consente agli sviluppatori di specializzare il modello di base di Apple per ambiti specifici con un set di dati ridotto, senza dover riaddestrare l’intero modello.<\/b> <\/p>\n
Il modello AI di Apple non \u00e8 chiuso, e Apple ne ha democratizzato l’accesso permettendo la creazione di “piccole funzioni IA” verticali e specializzate. Una applicazione di viaggi potrebbe usare il modello base aggiungendo come dati di \u201cextra training\u201d tutte le informazioni provenienti dalle guide turistiche, questo senza dover addestrare nuovamente tutto. Per uno sviluppatore vuol dire trovarsi l\u2019IA a portata di mano.<\/p>\n
\n
\nLe prime app che usano l\u2019IA locale
\n
<\/p>\n