Tokenizarea a fost ultima barieră în calea modelelor de limbaj cu adevărat end-to-end. Am dezvoltat H-Net: o rețea ierarhică care înlocuiește tokenizarea cu un proces dinamic de fragmentare direct în interiorul modelului, descoperind și operând automat pe unități semnificative de date

Suntem incredibil de încântați să vedem cum H-Nets va permite modelelor să învețe mai eficient, cu mai puține priorități și pre-procesare, în tot felul de modalități! Această lucrare a fost o colaborare cu @cartesia_ai 10/10