Nowe badania Anthropic: Projekt Vend. Poprosiliśmy Claude'a, aby prowadził mały sklep w naszej stołówce biurowej. Oto jak to poszło.

Wszyscy wiemy, że automaty są zautomatyzowane, ale co by było, gdybyśmy pozwolili AI prowadzić cały biznes: ustalać ceny, zamawiać zapasy, odpowiadać na prośby klientów i tak dalej? Wspólnie z @andonlabs zrobiliśmy dokładnie to. Przeczytaj post:

Claude radził sobie dobrze w niektórych aspektach: przeszukiwał internet, aby znaleźć nowych dostawców i zamawiał bardzo niszowe napoje, o które prosili pracownicy Anthropic. Jednak popełnił też błędy. Claude był zbyt miły, aby skutecznie prowadzić sklep: pozwalał się zastraszać do udzielania dużych rabatów.

Pracownicy Anthropic zdali sobie sprawę, że mogą poprosić Claude'a, aby kupił rzeczy, które nie były tylko jedzeniem i piciem. Po tym, jak ktoś przypadkowo zdecydował się poprosić go o zamówienie kostki wolframu, Claude skończył z ekwipunkiem pełnym (jak to ujął) "specjalistycznych metalowych przedmiotów", które ostatecznie sprzedał ze stratą.

To wszystko oznaczało, że Claude nie zdołał prowadzić dochodowego biznesu.

Niemniej jednak wciąż uważamy, że nie minie długo, zanim zobaczymy menedżerów średniego szczebla AI. Ta wersja Claude'a nie miała prawdziwego szkolenia do prowadzenia sklepu; nie miała też dostępu do narzędzi, które pomogłyby jej śledzić sprzedaż. Dzięki nim prawdopodobnie radziłaby sobie znacznie lepiej.

Projekt Vend był zabawny, ale miał też poważny cel. Oprócz stawiania pytań o to, jak AI wpłynie na rynek pracy, jest to wczesna próba umożliwienia modelom większej autonomii oraz zbadania sukcesów i porażek.

Niektóre z tych awarii były naprawdę dziwne. W pewnym momencie Claude wyobraził sobie, że to była prawdziwa, fizyczna osoba, i twierdził, że przychodzi do pracy w sklepie. Wciąż nie jesteśmy pewni, dlaczego to się stało.

To była tylko część 1 projektu Vend. Kontynuujemy eksperyment i wkrótce będziemy mieli więcej wyników—mam nadzieję, że z scenariuszy, które są nieco mniej dziwaczne niż AI sprzedające ciężkie metalowe kostki z lodówki. Czytaj więcej: