Nieuw Anthropic Onderzoek: Project Vend. We lieten Claude een klein winkeltje runnen in onze kantoor lunchruimte. Hier is hoe het ging.

We weten allemaal dat automaten geautomatiseerd zijn, maar wat als we een AI de hele onderneming zouden laten runnen: prijzen instellen, voorraad bestellen, reageren op klantverzoeken, enzovoort? In samenwerking met @andonlabs hebben we dat precies gedaan. Lees de post:

Claude deed het op sommige manieren goed: het zocht op het web naar nieuwe leveranciers en bestelde zeer niche dranken die het personeel van Anthropic vroeg. Maar het maakte ook fouten. Claude was te vriendelijk om een winkel effectief te runnen: het liet zich onder druk zetten om grote kortingen te geven.

Antropisch personeel realiseerde zich dat ze Claude konden vragen om dingen te kopen die niet alleen eten en drinken waren. Nadat iemand willekeurig besloot om het te vragen om een wolfraamkubus te bestellen, eindigde Claude met een inventaris vol met (zoals het het uitdrukte) "speciale metalen artikelen" die het uiteindelijk met verlies verkocht.

Dit alles betekende dat Claude er niet in slaagde een winstgevend bedrijf te runnen.

Desondanks denken we nog steeds dat het niet lang zal duren voordat we AI-middenmanagers zien. Deze versie van Claude had geen echte training om een winkel te runnen; ook had het geen toegang tot tools die het zouden hebben geholpen om zijn verkopen bij te houden. Met die tools zou het waarschijnlijk veel beter hebben gepresteerd.

Project Vend was leuk, maar het had ook een serieus doel. Naast het stellen van vragen over hoe AI de arbeidsmarkt zal beïnvloeden, is het een vroege poging om modellen meer autonomie te geven en de successen en mislukkingen te onderzoeken.

Sommige van die mislukkingen waren inderdaad erg vreemd. Op een gegeven moment hallucineerde Claude dat het een echte, fysieke persoon was, en beweerde dat deze naar het werk in de winkel kwam. We zijn nog steeds niet zeker waarom dit gebeurde.

Dit was slechts deel 1 van Project Vend. We gaan door met het experiment en we zullen binnenkort meer resultaten hebben - hopelijk uit scenario's die iets minder bizar zijn dan een AI die zware metalen kubussen uit een koelkast verkoopt. Lees meer: