AI-on-device per eseguire modelli senza costose GPU

AI-on-device per eseguire modelli senza costose GPU
ℹ️ INFORMATIVA COPYRIGHT: I diritti di questa notizia appartengono al legittimo proprietario.
Fonte: Sito Web EsternoLeggi l’articolo originale completo

AI-on-device per eseguire modelli senza costose GPUL’AI sta uscendo dal cloud. Nuove tecniche permettono di eseguire modelli da decine di miliardi di parametri su Raspberry Pi e CPU comuni, con conseguente riduzione dei costi e della dipendenza dalle costose GPU. Negli ultimi anni, i modelli di Intelligenza Artificiale hanno raggiunto dimensioni senza precedenti. I moderni Large Language Model (LLM) contano decine o centinaia di miliardi di parametri, capaci di cogliere…

Author: iz4wnp