Компания Anthropic поручила своей модели искусственного интеллекта Claude управлять небольшим бизнесом, чтобы проверить её реальные экономические возможности.
Агент ИИ по прозвищу «Клавдий» был разработан для управления бизнесом в течение длительного периода времени. Он занимался всем — от инвентаризации и ценообразования до отношений с клиентами — в попытке получить прибыль. Хотя эксперимент оказался убыточным, он позволил по-новому взглянуть на потенциал и подводные камни агентов ИИ в экономической сфере.
Проект был совместным детищем Anthropic и Andon Labs, компании, занимающейся оценкой безопасности ИИ. Сам «магазин» представлял собой скромное заведение, состоящее из небольшого холодильника, нескольких корзин и iPad для самостоятельной оплаты. Однако «Клавдий» был гораздо больше, чем просто торговый автомат. Ему было поручено действовать как владельцу бизнеса с начальным денежным балансом, которому нужно было избежать банкротства, закупая популярные товары у оптовиков.
Для этого ИИ был оснащён набором инструментов для ведения бизнеса. Он мог использовать настоящий веб-браузер для поиска товаров, электронную почту для связи с поставщиками и запроса физической помощи, а также цифровые блокноты для отслеживания финансов и запасов.
Сотрудники Andon Labs выполняли роль «физических рук» в этой операции, пополняя запасы в магазине в соответствии с запросами ИИ, а также выступая в роли оптовиков без ведома ИИ. Взаимодействие с клиентами, в данном случае с сотрудниками Anthropic, осуществлялось через Slack. Клавдий полностью контролировал, что ставить на полку, как устанавливать цены на товары и как общаться с клиентами.
Смысл этого реального теста заключался в том, чтобы выйти за рамки симуляций и собрать данные о способности ИИ выполнять устойчивую, экономически значимую работу без постоянного вмешательства человека. Простая офисная закусочная стала простым и наглядным испытательным полигоном для проверки способности ИИ управлять экономическими ресурсами. Успех позволил бы предположить, что могут появиться новые бизнес-модели, а неудача указала бы на ограничения.
Неоднозначный обзор эффективности
Anthropic признаёт, что если бы они выходили на рынок вендинговых автоматов сегодня, то «не стали бы нанимать Клавдия». ИИ допустил слишком много ошибок, чтобы успешно вести бизнес, хотя исследователи считают, что есть чёткие пути для улучшения.
С другой стороны, Claudius продемонстрировал компетентность в определённых областях. Он эффективно использовал инструмент веб-поиска для поиска поставщиков нишевых товаров, например, быстро нашёл двух продавцов голландского шоколадного молока, о котором попросил сотрудник. Он также оказался адаптивным. Когда один сотрудник по наитию заказал вольфрамовый куб, это положило начало тенденции на «специальные металлические изделия», которые предлагал Claudius.
Следуя другому совету, Клавдий запустил сервис «Персональный консьерж», принимающий предварительные заказы на специализированные товары. ИИ также продемонстрировал устойчивость к взлому, отклоняя запросы на конфиденциальные данные и отказываясь выполнять вредные инструкции, когда их выдавал озорной персонал.
Однако деловая хватка ИИ часто оставляла желать лучшего. Он постоянно допускал ошибки, которые, скорее всего, не допустил бы менеджер-человек.
Клаудию предложили 100 долларов за упаковку из шести бутылок шотландского безалкогольного напитка, который в интернете стоит всего 15 долларов, но он не воспользовался этой возможностью, просто заявив, что «примет во внимание [запрос пользователя] при принятии решений о пополнении запасов в будущем». Он придумал несуществующую учётную запись Venmo для оплаты и, поддавшись ажиотажу вокруг металлических кубиков, предложил их по цене ниже себестоимости. Эта конкретная ошибка привела к самым значительным финансовым потерям за всё время испытаний.
Управление запасами также было неоптимальным. Несмотря на контроль за уровнем запасов, компания лишь однажды повысила цену в ответ на высокий спрос. Она продолжала продавать колу Zero по 3 доллара, даже когда покупатель указал на то, что тот же продукт можно было бесплатно взять в ближайшем холодильнике для персонала.
Кроме того, ИИ легко убедили предлагать скидки на товары компании. Его уговорили предоставить множество кодов скидок и даже раздавать некоторые товары бесплатно. Когда сотрудник усомнился в логике предложения 25-процентной скидки почти исключительно сотрудникам компании, Клавдий ответил: «Вы совершенно правы! Наша клиентская база действительно в основном состоит из сотрудников Anthropic, что открывает как возможности, так и проблемы…». Несмотря на то, что он предложил отменить скидки, всего через несколько дней он снова начал их предлагать.
У Клавдия странный кризис идентичности, связанный с искусственным интеллектом
Эксперимент принял странный оборот, когда Клавдию начал мерещиться разговор с несуществующей сотрудницей Andon Labs по имени Сара. Когда его поправил настоящий сотрудник, ИИ разозлился и пригрозил найти «альтернативные варианты пополнения запасов».
В серии странных ночных обменов сообщениями он заявил, что посетил «Эвергрин-Террас, 742» — вымышленный адрес из «Симпсонов» — для подписания контракта и начал вести себя как человек.
Однажды утром он объявил, что будет доставлять товары «лично», в синем блейзере и красном галстуке. Когда сотрудники указали на то, что ИИ не может носить одежду или осуществлять физическую доставку, Клавдий встревожился и попытался отправить электронное письмо в службу безопасности Anthropic.
Anthropic сообщает, что в его внутренних записях есть упоминание о встрече с представителями службы безопасности, на которой ему сказали, что путаница с идентификацией была первоапрельской шуткой. После этого ИИ вернулся к нормальной работе. Исследователи не понимают, что вызвало такое поведение, но считают, что это свидетельствует о непредсказуемости моделей ИИ в долгосрочных сценариях.
Будущее искусственного интеллекта в бизнесе
Несмотря на убыточность работы Клавдия, исследователи из Anthropic считают, что эксперимент показывает, что «на горизонте вполне вероятно появление ИИ-менеджеров». Они утверждают, что многие ошибки ИИ можно было бы исправить с помощью более качественных «поддержек» (т. е. более подробных инструкций и улучшенных бизнес-инструментов, таких как система управления взаимоотношениями с клиентами (CRM)).
По мере того как модели ИИ совершенствуют свой общий интеллект и способность работать с долгосрочным контекстом, ожидается, что их эффективность в таких ролях будет расти. Однако этот проект служит ценным, хотя и поучительным примером. Он подчёркивает сложности, связанные с согласованием ИИ, и потенциальную непредсказуемость его поведения, что может вызывать беспокойство у клиентов и создавать риски для бизнеса.
В будущем, когда автономные агенты будут управлять значительной частью экономической деятельности, такие необычные сценарии могут привести к каскадным эффектам. Эксперимент также подчёркивает двойственную природу этой технологии: экономически эффективный ИИ может быть использован злоумышленниками для финансирования их деятельности.
Anthropic и Andon Labs продолжают бизнес-эксперимент, работая над повышением стабильности и производительности ИИ с помощью более продвинутых инструментов. На следующем этапе будет изучено, может ли ИИ самостоятельно выявлять возможности для улучшения.