Hugging Face: un modello giocattolo da CPU ha scovato un bug in Transformers rimasto quasi due mesi
Un test su un modello minuscolo può accorgersi di errori che i test sui modelli reali scoprono troppo tardi.

Hugging Face. Il 30 luglio 2026 Transformers ha attivato l'attenzione SDPA di PyTorch per T5. Effetto collaterale: il decoder di UMT5 poteva guardare i token futuri e, in addestramento, sbirciare la risposta da prevedere. Nulla si è rotto e il bug è rimasto nel ramo principale quasi due mesi. Rieseguendo i commit, un piccolo modello UMT5 su CPU lo segnalava a ogni passaggio. Hugging Face racconta come ha costruito i 'contratti di integrazione' dei modelli: la libreria supporta oltre 750 tipi di modello e ha più di 88.000 test su CPU e oltre 200.000 test su GPU ogni giorno, ma far girare tutto a ogni modifica è impraticabile. La soluzione è ridurre il modello in una piccola copia di prova.
Bug rimasto nel ramo principale quasi due mesi
Argomenti: Open source
A cura di Alessio Ascione. Sintesi scritta con l'aiuto di Claude a partire dal testo della fonte, che fa sempre fede: come nasce il giornale. Rettifiche o rimozioni: modulo.