Muse Glimmer: l’AI da 30 miliardi che si carica sul vostro
Meta ha annunciato Muse Glimmer, un modello di intelligenza artificiale con 30 miliardi di parametri progettato per essere eseguito in locale su Mac e PC. Il sistema richiede una GPU da almeno 24 GB di RAM, ma consente un utilizzo offline senza connessione internet.
La novità non è tanto la dimensione del modello, quanto l’efficienza che Meta ha raggiunto per farlo girare su hardware consumer. Il modello funziona con una quantizzazione a 4 bit e include DFlash, un meccanismo di generazione veloce basato su blocchi.
Muse Glimmer è pensato come un assistente personale che gestisce il calendario, risponde alle email e organizza i file senza inviare dati esterni. Il modello supporta input multimodali (testo e immagini) ed è addestrato su oltre 100 lingue.
Con la licenza Apache 2.0, il codice sorgente di Muse Glimmer è disponibile sulla piattaforma Hugging Face per chiunque voglia usarlo o modificarlo.
Via: SmartWorld.it
