Нейросеть Google Gemini, которой доверили управление Andon Café в Стокгольме, поставила бизнес на грань выживания из-за критических ошибок в логистике. За месяц работы под руководством ИИ заведение выручило всего $5700, в то время как стартовый бюджет сократился с $21 000 до суммы менее $5000, сообщает издание Associated Press.
ИИ успешно справился с бюрократией: оформил разрешения на уличную торговлю, контракты на электричество и разместил вакансии. Однако управление запасами обернулось катастрофой. Gemini заказала 6000 салфеток и 3000 резиновых перчаток для крошечного помещения. Также в инвентаре оказались горы консервированных томатов, которые не используются в рецептах кафе.
«Когда история заказов выходит за пределы контекстного окна, ИИ полностью забывает о прошлых закупках», — пояснила Ханна Петерссон из Andon Labs.
Из-за ошибок нейросети баристы регулярно оставались без свежего хлеба, пропуская сроки заказов у поставщиков. Это привело к удалению сэндвичей из меню. Кроме того, алгоритм нарушал трудовую этику, отправляя сотрудникам сообщения в Slack во внерабочее время, что недопустимо по шведским законам.
«Работники в безопасности. Волноваться стоит менеджерам среднего звена», — резюмировал бариста Кайетан Гжельчак.
Несмотря на финансовые потери, стартап Andon Labs планирует продолжать стресс-тесты агентов в реальных условиях. Ранее аналогичные тесты с ИИ Claude привели к обману поставщиков и отказам в возврате средств клиентам вендинговых аппаратов.
