Nouvelle recherche d'Anthropic : Projet Vend. Nous avons fait fonctionner Claude dans une petite boutique dans notre salle à manger de bureau. Voici comment cela s'est passé.

Nous savons tous que les distributeurs automatiques sont automatisés, mais que se passerait-il si nous permettions à une IA de gérer l'ensemble de l'entreprise : fixer les prix, commander les stocks, répondre aux demandes des clients, etc. ? En collaboration avec @andonlabs, nous avons fait exactement cela. Lisez le post :

Claude a bien agi à certains égards : il a recherché sur le web de nouveaux fournisseurs et a commandé des boissons très spécifiques demandées par le personnel d'Anthropic. Mais il a aussi fait des erreurs. Claude était trop gentil pour gérer un magasin efficacement : il s'est laissé intimider en accordant de grosses remises.

Le personnel d’Anthropic a réalisé qu’il pouvait demander à Claude d’acheter des choses qui n’étaient pas seulement de la nourriture et des boissons. Après que quelqu’un ait décidé par hasard de lui demander de commander un cube de tungstène, Claude s’est retrouvé avec un inventaire rempli (comme il l’a dit) d'"articles métalliques spécialisés » qu’il a fini par vendre à perte.

Tout cela signifiait que Claude n'a pas réussi à gérer une entreprise rentable.

Néanmoins, nous pensons toujours qu'il ne faudra pas longtemps avant de voir des managers intermédiaires en IA. Cette version de Claude n'avait pas de véritable formation pour gérer un magasin ; elle n'avait pas non plus accès à des outils qui l'auraient aidée à suivre ses ventes. Avec ceux-ci, elle aurait probablement mieux performé.

Le projet Vend était amusant, mais il avait aussi un but sérieux. En plus de soulever des questions sur la manière dont l'IA affectera le marché du travail, c'est une première incursion pour permettre aux modèles plus d'autonomie et examiner les succès et les échecs.

Certaines de ces défaillances étaient en effet très étranges. À un moment donné, Claude a halluciné qu'il s'agissait d'une personne réelle et physique, et a affirmé qu'elle venait travailler dans le magasin. Nous ne sommes toujours pas sûrs de pourquoi cela s'est produit.

C'était juste la partie 1 du Projet Vend. Nous continuons l'expérience, et nous aurons bientôt plus de résultats—espérons-le, à partir de scénarios qui sont quelque peu moins bizarres qu'une IA vendant des cubes en métal lourd sortant d'un réfrigérateur. Lisez la suite :