Als je op ICML bent en geïnteresseerd bent in verifieerbare inferentie, zorg er dan voor dat je bij onze poster langs komt! We zullen TOPLOC presenteren, een efficiënte activatie-hashingmethode die werkt in verschillende instellingen, bijvoorbeeld bij het wisselen van inferentiesystemen of zelfs modellen. 16 juli, 16:30, E-1106
Hier is de originele thread over TOPLOC die de ideeën erachter uitlegt:
Prime Intellect
Prime Intellect29 jan 2025
Vandaag brengen we TOPLOC uit: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detecteert wijzigingen in modellen, aanwijzingen of precisie - Robuust voor alle GPU-typen, parallelle tensorconfiguraties en aandachtskernels - Tot 100× snellere validatie dan generatie - Vermindert de geheugenoverhead van proeven met 1000× De basis leggen voor gedecentraliseerde, verifieerbare rekenprotocollen.
1,36K