AI Edge Gallery, l’intelligenza artificiale potrà operare anche offline. Ecco tutti i dettagli.
Google ha lanciato in sordina una nuova applicazione per Android che potrebbe rappresentare un punto di svolta nell’utilizzo quotidiano dell’intelligenza artificiale: si chiama AI Edge Gallery, e consente di eseguire modelli linguistici direttamente sul dispositivo, senza necessità di connessione internet e con la garanzia che nessun dato venga inviato a server esterni.
Disponibile su GitHub con licenza open source Apache 2.0, AI Edge Gallery è rivolta in particolare a sviluppatori e utenti avanzati. Al momento supporta modelli come Gemma 3n, disponibili in varie dimensioni, da 554 MB a oltre 4,4 GB. Dopo aver scaricato il modello desiderato, l’intero processo — dall’elaborazione delle domande all’analisi di immagini — avviene interamente in locale, sfruttando le capacità hardware del dispositivo.
I primi test su smartphone di fascia alta, come il Galaxy S24 Ultra, hanno evidenziato performance notevoli: i modelli più compatti offrono oltre 20 token al secondo su CPU, e ancora di più utilizzando la GPU. Sebbene le prestazioni calino con modelli più pesanti, l’esperienza resta fluida e sorprendentemente simile a quella offerta da piattaforme AI online.
Il principale punto di forza di AI Edge Gallery è la protezione della privacy. L’assenza di trasferimento dati all’esterno la rende ideale per chi lavora con informazioni sensibili: medici, legali, giornalisti e professionisti in mobilità. Anche in assenza di rete, l’utente può contare su un assistente AI pienamente operativo.
Tuttavia, l’app ha alcune limitazioni. Al momento supporta solo modelli in formato .task, escludendo i più diffusi .safetensor, rendendo più complessa l’importazione di modelli personalizzati. Inoltre, la finestra di contesto è limitata a 4096 token, un vincolo da tenere in considerazione per operazioni complesse. Infine, l’uso intensivo dell’elaborazione locale può incidere sensibilmente sulla durata della batteria.
Nonostante questi limiti, AI Edge Gallery segna un importante passo avanti verso un’intelligenza artificiale mobile autonoma e sicura. Per chi desidera sperimentare senza dipendere dal cloud o da abbonamenti, rappresenta un’alternativa potente e promettente. Il futuro dell’AI, forse, sarà davvero sempre più “on-device”.
