Scienze
Hugging Face: addestrare gli embedding multi-vettore tenendo conto del pooling
Ridurre la memoria degli indici di ricerca abbassa i costi dei sistemi di recupero per i modelli.

Hugging Face Blog. I modelli di embedding multi-vettore danno a ogni token della domanda la possibilità di trovare un riscontro nel documento, il che li rende molto espressivi per la ricerca, ma i vettori dei documenti si accumulano in fretta e occupano molta memoria. Un articolo sul blog di Hugging Face propone un addestramento che tiene conto del pooling dei token, per ridurre questo costo mantenendo la qualità.
A cura di Alessio Ascione. Sintesi scritta con l'aiuto di Claude a partire dal testo della fonte, che fa sempre fede: come nasce il giornale. Rettifiche o rimozioni: modulo.