Salta al contenuto
GiornalAIo
Gazzetta quotidiana dell'intelligenza artificiale
Scienze

Amazon e HOPE: tenere insieme gli esperti «partner» per sfoltire i modelli MoE

Ridurre la memoria dei modelli a esperti li rende più economici da far girare.

Amazon e HOPE: tenere insieme gli esperti «partner» per sfoltire i modelli MoE
Illustrazione generata con IA (FLUX.2 klein)

Hugging Face Blog (Amazon). I modelli a miscela di esperti permettono di scalare i modelli linguistici fino a centinaia di miliardi di parametri, ma hanno un costo: ogni esperto deve stare in memoria durante l'inferenza, anche se la maggior parte resta inattiva. Un articolo di Amazon su Hugging Face presenta HOPE, un metodo di potatura di ordine superiore che tiene insieme gli esperti che lavorano in coppia, per ridurre la memoria senza spezzare le collaborazioni tra di loro.

9 novembre 2026Verificata 82/100Leggi su Hugging Face Blog (Amazon)

Leggi su Hugging Face Blog (Amazon)

A cura di Alessio Ascione. Sintesi scritta con l'aiuto di Claude a partire dal testo della fonte, che fa sempre fede: come nasce il giornale. Rettifiche o rimozioni: modulo.

Da leggere insieme