如果你在 ICML 並對可驗證推斷感興趣,請務必來我們的海報看看! 我們將展示 TOPLOC,一種高效的激活哈希方法,適用於各種設置,例如切換推斷設置或甚至模型。 7 月 16 日,下午 4:30,E-1106
這是關於TOPLOC的原始討論串,解釋了其背後的理念:
Prime Intellect
Prime Intellect2025年1月29日
今天,我們發佈了 TOPLOC:用於可驗證推理的局部敏感哈希方案 - 檢測對模型、提示或精度的修改 - 在 GPU 類型、張量並行配置和注意力內核之間具有穩健性 - 驗證速度比生成快 100× - 將證明的記憶體開銷減少 1000× 為去中心化、可驗證的計算協定奠定基礎。
1.34K