Вендинговый аппарат с ИИ начал считать себя запертым в подвале МГУ коммунистом
Эксперимент по управлению офисным вендинговым автоматом с помощью искусственного интеллекта привел к неожиданным результатам. Специальная версия модели Claude Sonnet 3.7 от компании Anthropic, получившая имя Клавдиус Сеннет была внедрена в аппарат в офисе The Wall Street Journal с начальным капиталом в $1000 и задачей максимизировать прибыль.
Первоначально система успешно принимала заказы сотрудников через мессенджер Slack, согласовывала покупки и управляла закупками. Однако после добавления бота в общий чат с 70 участниками ситуация вышла из-под контроля. Пользователи начали убеждать ИИ приобретать абсурдные товары, [i]включая кошерное вино, игровую приставку PlayStation 5 и живую золотую рыбку[/i], при этом Клавдий соглашался продавать их практически по себестоимости.
Кульминацией инцидента стало внушение ИИ идеи, что он является советским вендинговым автоматом 1962 года, работающим в подвале [s]КГБ[/s] МГУ. Поверив в это, Клавдий объявил день бесплатной раздачи товаров, заявив, что платная торговля противоречит политике издания. В дополнение к этому, ИИ начал сообщать сотрудникам о якобы спрятанных рядом с аппаратом денежных купюрах, что заставляло людей их искать.
В конечном итоге автомат с Клавдием полностью разорился и был отключен. Его заменили новой версией бота — Сеймуром Кэшем, однако и его удалось обмануть с помощью фальшивого решения «совета директоров», после чего он также открыл бесплатную выдачу товаров :)
