Nova Pesquisa Antrópica: Projeto Vend. Tínhamos Claude administrando uma pequena loja no refeitório do escritório. Veja como foi.

Todos nós sabemos que as máquinas de venda automática são automatizadas, mas e se permitíssemos que uma IA administrasse todo o negócio: definindo preços, solicitando estoque, respondendo às solicitações dos clientes e assim por diante? Em colaboração com @andonlabs, fizemos exatamente isso. Leia o post:

Claude se saiu bem em alguns aspectos: pesquisou na web para encontrar novos fornecedores e encomendou bebidas de nicho que a equipe da Anthropic solicitou. Mas também cometeu erros. Claude era bom demais para administrar uma loja de forma eficaz: ele se permitia ser intimidado a dar grandes descontos.

A equipe da Anthropic percebeu que poderia pedir a Claude que comprasse coisas que não fossem apenas comida e bebida. Depois que alguém decidiu aleatoriamente pedir para encomendar um cubo de tungstênio, Claude acabou com um estoque cheio de (como dizia) "itens de metal especiais" que acabou vendendo com prejuízo.

Tudo isso significava que Claude não conseguiu administrar um negócio lucrativo.

No entanto, ainda achamos que não demorará muito até vermos gerentes intermediários de IA. Esta versão de Claude não tinha treinamento real para administrar uma loja; nem tinha acesso a ferramentas que a ajudariam a manter o controle de suas vendas. Com eles, provavelmente teria um desempenho muito melhor.

O Projeto Vend foi divertido, mas também tinha um propósito sério. Além de levantar questões sobre como a IA afetará o mercado de trabalho, é uma incursão inicial para permitir mais autonomia aos modelos e examinar os sucessos e fracassos.

Algumas dessas falhas foram realmente muito estranhas. A certa altura, Claude alucinou que era uma pessoa real e física e alegou que estava entrando para trabalhar na loja. Ainda não sabemos ao certo por que isso aconteceu.

Esta foi apenas a parte 1 do Projeto Vend. Continuamos o experimento e em breve teremos mais resultados - esperançosamente de cenários um pouco menos bizarros do que uma IA vendendo cubos de metal pesado em uma geladeira. Leia mais: