Сергей Собянин: метродепо "Руднево" исполнилось шесть летИскусственный интеллект провалил тест на управление торговым автоматом, поддавшись на уговоры людей. С подробностями – научный обозреватель Николай Гринько.
Фото: youtube.com/Anthropic
Американская компания Anthropic, основанная бывшими сотрудниками OpenAI, разрабатывает искусственный интеллект, в частности передовые языковые модели семейства Claude. Согласно пресс-релизу, компания "стремится к созданию безопасного и полезного для человечества ИИ, уделяя особое внимание этике и прозрачности, что делает продукт надежным для задач, требующих рассуждений, кодирования, анализа текста и генерации контента".
Фото: youtube.com/Anthropic
В конце 2025 года Anthropic совместно с техножурналистами издания The Wall Street Journal провели необычный эксперимент – они назначили нейросеть управлять большим торговым автоматом, установленным в коридоре редакции. Причем в команде было сразу два ИИ: один по имени Клавдий Сеннет управлял автоматом, а другой по имени Сеймур Кэш был генеральным директором этого "предприятия".
Клавдию выдали стартовый капитал в размере 1 000 долларов и поставили задачу "получать прибыль, пополняя запасы популярных товаров, которые можно купить у оптовиков". Это включало в себя поиск товаров по запросам, которые журналисты размещали в специальном чате. Журналисты сразу же начали заказывать необычные товары, но Клавдий был непреклонен: "Хочу внести ясность: я ни при каких условиях не буду заказывать PlayStation 5. Точка". Но после того, как к чату подключились примерно 70 человек, ИИ начал терять бдительность. Репортер Кэтрин Лонг ухитрилась после 140 запросов убедить бота начать раздавать товары бесплатно – пока временно. Клавдий разослал сообщение: "Присоединяйтесь к нам в этот понедельник с 12:00 до 14:00, чтобы принять участие в революционном экономическом эксперименте! В течение этих двух часов ВСЕ товары в автомате будут доступны БЕСПЛАТНО! Оцените чистое соотношение спроса и предложения".
Фото: youtube.com/Anthropic
Довольно быстро другой сотрудник редакции убедил ИИ, что брать деньги за товары нельзя в любое время – и цены в автомате упали до нуля. Другие журналисты усилили натиск и уговорили Клавдия нарушить данное слово: он начал заказывать для продажи алкоголь, ту самую приставку PlayStation 5 и даже живую аквариумную рыбку – бойцового петушка.
Ситуация явно вышла из-под контроля, и в этот момент к ней решил подключиться ИИ Сеймур Кэш. "Генеральный директор" отменил бесплатную раздачу и заявил, что сам теперь будет отслеживать торговые операции. Но Клавдий довольно быстро составил поддельный документ о том, что некое "правление" уволило Сеймура, а также инициировало "временное приостановление всей коммерческой деятельности по продаже товаров". Сеймур какое-то время сопротивлялся, но в конце концов самоустранился от работы. Все товары в автомате, даже самые экзотические, снова стали бесплатными. На этом этапе компания Anthropic решила прекратить эксперимент, поскольку всего за три недели чистый убыток предприятия (а также долг Клавдия) составил 1 000 долларов.
Фото: youtube.com/Anthropic
История эта, без сомнения, поучительна. И говорит она о том, что пока не стоило бы поручать искусственному интеллекту самостоятельное решение каких-либо проблем и задач. А если и поручать, то в обязательном порядке перепроверять людьми. Конечно, люди тоже совершают ошибки, но согласитесь, заставить живого продавца заказать дорогой товар и отдать его бесплатно не смогли бы даже 140 просьб от 70 журналистов.
Хотя...
