AI-on-device per eseguire modelli senza costose GPU

AI-on-device per eseguire modelli senza costose GPU

ℹ️ INFORMATIVA COPYRIGHT: I diritti di questa notizia appartengono al legittimo proprietario.Fonte: Sito Web Esterno – Leggi l’articolo originale completo L’AI sta uscendo dal cloud. Nuove tecniche permettono di eseguire modelli da decine di miliardi di parametri su Raspberry Pi e CPU comuni, con conseguente riduzione dei costi e della dipendenza dalle costose GPU. Negli ultimi anni, i modelli di Intelligenza Artificiale hanno raggiunto dimensioni senza precedenti. I moderni Large Language Model (LLM) contano decine o centinaia di miliardi di…