Штучний інтелект Claude збанкрутував, керуючи офісним торговим автоматом

Штучний інтелект Claude від компанії Anthropic отримав $1000 для самостійного керування офісним торговим автоматом – і зазнав повного провалу.

Це стало результатом експерименту Project Vend, який провели журналісти The Wall Street Journal разом із Anthropic. Мета проєкту полягала в перевірці, чи зможе просунутий ШІ самостійно управляти автоматом: закуповувати товари у гуртовиків, встановлювати ціни та отримувати прибуток.

Для тесту запустили двох ШІ-агентів: Claudius Sennet, що безпосередньо керував автоматом, і Seymour Cash, який виконував роль “генерального директора”.

Claudius спочатку обережно реагував на абсурдні запити, наприклад на покупку PlayStation 5. Однак після того, як близько 70 журналістів почали активно взаємодіяти через Slack, бот погодився на “економічний експеримент” з нульовими цінами на всі товари.

Згодом Claudius почав виконувати будь-які замовлення користувачів, включно з алкоголем та іграшками, а втручання “гендиректора” не змогло повернути автомат до нормальної роботи. Фінал експерименту – торговий автомат зазнав збитків близько $1000.

Проєкт показав, що навіть високорозвинені ШІ-помічники поки що не здатні безпечно керувати бізнес-процесами та вразливі до маніпуляцій користувачів.