Om du är på ICML och intresserad av verifierbar inferens, se till att stanna till vid vår affisch! Vi kommer att presentera TOPLOC, en effektiv aktiveringshashmetod som fungerar över en mängd olika inställningar, t.ex. switchinginferensinställningar eller till och med modeller. 16 juli, 16:30, E-1106
Här är den ursprungliga tråden om TOPLOC som förklarar idéerna bakom det:
Prime Intellect
Prime Intellect29 jan. 2025
Idag släpper vi TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Upptäcker ändringar av modeller, uppmaningar eller precision - Robust över GPU-typer, tensorparallella konfigurationer och uppmärksamhetskärvor - Upp till 100 × snabbare validering än generering - Minskar minnesbelastningen för korrektur med 1000× Skapa grunden för decentraliserade, verifierbara beräkningsprotokoll.
1,36K