Salta al contenuto
GiornalAIo
Gazzetta quotidiana dell'intelligenza artificiale
Tecnica e mestiere

SageMaker HyperPod Inference supporta Nvidia Dynamo per servire grandi modelli su più nodi

Chi ospita modelli grandi risparmia l'orchestrazione: AWS la gestisce.

SageMaker HyperPod Inference supporta Nvidia Dynamo per servire grandi modelli su più nodi
Illustrazione generata con IA (FLUX.2 klein)

AWS Machine Learning. AWS ha reso disponibile in Amazon SageMaker HyperPod Inference il supporto a Nvidia Dynamo, per l'inferenza distribuita con servizio multi-nodo e disaggregato, instradamento che tiene conto della cache KV e ripristino automatico dei guasti. Permette di servire grandi modelli su molti nodi senza costruire l'orchestrazione da soli.

Servizio multi-nodo gestito

17 novembre 2026Verificata 97/100Leggi su AWS Machine Learning

Leggi su AWS Machine Learning

Argomenti: NVIDIA

A cura di Alessio Ascione. Sintesi scritta con l'aiuto di Claude a partire dal testo della fonte, che fa sempre fede: come nasce il giornale. Rettifiche o rimozioni: modulo.

Da leggere insieme