Se você está no ICML e interessado em inferência verificável, não deixe de visitar nosso pôster! Apresentaremos o TOPLOC, um método de hash de ativação eficiente que funciona em uma variedade de configurações, por exemplo, alternando configurações de inferência ou até mesmo modelos. 16 de julho, 16h30, E-1106
Aqui está o tópico original sobre o TOPLOC que explica as ideias por trás dele:
Prime Intellect
Prime Intellect29 de jan. de 2025
Hoje, lançamos o TOPLOC: Um esquema de hash sensível à localidade para inferência verificável - Detecta modificações em modelos, prompts ou precisão - Robusto em todos os tipos de GPU, configurações paralelas de tensores e núcleos de atenção - Validação até 100× mais rápida do que a geração - Reduz a sobrecarga de memória das provas em 1000× Construindo a base para protocolos de computação descentralizados e verificáveis.
1,36K