Eu odeio dizer isso, mas a IA local provavelmente não é a resposta para a privacidade da IA do consumidor. Isso ocorre exatamente pelas mesmas razões pelas quais o p2p "real" nunca foi dimensionado: os usuários simplesmente não executam infra. A melhor abordagem hoje é provavelmente a IA de nuvem privada executada em TEEs.
RYAN SΞAN ADAMS - rsa.eth 🦄
RYAN SΞAN ADAMS - rsa.eth 🦄19 de jul., 20:42
Eu adoraria conectar agentes de IA aos meus arquivos, e-mail, contas de negociação, grupos de bate-papo - incrivelmente poderoso Mas eu não posso fazer isso até que eu tenha privacidade e controle de dados Imagine as violações de dados Imagine a perda de controle Imagine um hack - você pode ser totalmente destruído O que eu quero é um hardware pronto para uso que execute modelos locais que as principais ferramentas de agentes de IA possam tratar como uma nuvem - mesmo UX, mas de forma privada, sem comprometer Algo como @__tinygrad__ Tinybox encontra @Ledger Deve haver uma oportunidade de US $ 10 bilhões para a startup que torna isso real Porque qual é a alternativa. As empresas de IA nos possuem? É possível fazer uma nuvem de IA privada totalmente criptografada e à prova de balas.
Para ser claro: eu amo p2p e fui um grande fã local por ANOS. Mas não é para onde o comportamento do consumidor está indo. Os usuários desejam sincronização de vários dispositivos, backups e dispositivos finos/leves. Os TEEs fazem isso hoje com garantias de privacidade razoáveis. FHE é a solução ideal eventual.
23,8K