Jeśli jesteś na ICML i interesujesz się weryfikowalnym wnioskowaniem, koniecznie wpadnij na nasz plakat! Przedstawimy TOPLOC, efektywną metodę haszowania aktywacji, która działa w różnych ustawieniach, np. w przypadku zmiany konfiguracji wnioskowania lub nawet modeli. 16 lipca, godz. 16:30, E-1106
Oto oryginalny wątek o TOPLOC, który wyjaśnia pomysły stojące za tym projektem:
Prime Intellect
Prime Intellect29 sty 2025
Dzisiaj publikujemy TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Wykrywa modyfikacje modeli, podpowiedzi lub precyzję - Niezawodność w różnych typach procesorów graficznych, konfiguracjach równoległych tensorów i jądrach uwagi - Do 100× szybsza walidacja niż w przypadku generacji - Zmniejsza obciążenie pamięci wydruków próbnych o 1000× Tworzenie podstaw dla zdecentralizowanych, weryfikowalnych protokołów obliczeniowych.
1,34K