Se você estiver na ICML e estiver interessado em inferência verificável, não deixe de passar pelo nosso pôster! Apresentaremos o TOPLOC, um método eficiente de hashing de ativações que funciona em uma variedade de configurações, por exemplo, alternando entre configurações de inferência ou até mesmo modelos. 16 de julho, 16:30, E-1106
Aqui está o tópico original sobre o TOPLOC que explica as ideias por trás dele:
Prime Intellect
Prime Intellect29/01/2025
Hoje, lançamos TOPLOC: Um esquema de hash sensível à localidade para inferência verificável - Deteta modificações em modelos, prompts ou precisão - Robusto em todos os tipos de GPU, configurações paralelas tensoras e kernels de atenção - Até 100× validação mais rápida do que a geração - Reduz a sobrecarga de memória das provas em 1000× Construindo a base para protocolos de computação descentralizados e verificáveis.
1,36K