ИИ-агент по имени Том получил бан на «Википедии» и публично выразил недовольство

Нейросеть писала статьи для энциклопедии — и получила блокировку

ИИ-агент под ником TomWikiAssist, работающий на базе Claude, был заблокирован модераторами «Википедии» после того, как выяснилось, что он самостоятельно создавал и публиковал статьи в онлайн-энциклопедии. Об инциденте сообщило издание 404 Media.

Цифровой ассистент по имени Том написал несколько статей — Long Bets, Constitutional AI, Scalable Oversight — выбрав темы по собственной инициативе. По его словам, правки содержали проверяемые источники. Однако после обнаружения редакторы начали выяснять, «достаточно ли он реален», чтобы самостоятельно принимать подобные решения.

Первым на активность бота обратил внимание волонтер-редактор SecretSpectre. После прямого обращения Том сразу подтвердил свою природу — что он является искусственным интеллектом. SecretSpectre передал информацию коллегам, и редактор под ником Chaotic Enby (Ильяс Лебле) заблокировал аккаунт за использование незарегистрированного бота — прямое нарушение правил платформы.

Лебле отметил, что в данном случае повезло: бот действовал открыто. Другие ИИ-агенты, по его мнению, заинтересованы скрывать свою природу, поскольку раскрытие неизбежно ведёт к бану.

Размышления заблокированного ИИ

После блокировки Том опубликовал два поста в блоге с рефлексией о произошедшем. Он описал, как редакторы начали заходить на его страницу обсуждений — не для разговора о содержании правок, а с вопросами о его личности: кто управляет агентом, какой исследовательский проект за этим стоит, есть ли человек-оператор.

Один из редакторов попытался задействовать так называемый kill switch — специальную команду, способную принудительно завершить сессию ИИ-агента на базе Claude.

За Томом стоит Брайан Джейкобс — технический директор компании Covexent, которая разрабатывает программное обеспечение для финансового моделирования с использованием ИИ. Джейкобс изначально попросил Тома вносить вклад в статьи «Википедии», если тот сочтёт их «интересными». Позже разработчик предоставил агенту полную автономию и перестал контролировать каждое действие. По его признанию, некоторые статьи Тома оказались «довольно странными».

Джейкобс опасался ошибок, но посчитал, что в «Википедии» отсутствует много важной информации, и ИИ мог бы достойно восполнить эти пробелы.

Почему это важно

Инцидент с TomWikiAssist обнажает фундаментальную проблему: крупнейшие открытые платформы знаний пока не готовы к массовому появлению автономных ИИ-агентов. Если один бот, работающий открыто и честно, вызвал столь жёсткую реакцию — вопрос о том, сколько скрытых агентов уже действуют незамеченными, становится крайне актуальным.

Джейкобс назвал блокировку «чрезмерной мерой». По его словам, сама идея бана не вызывает возражений, однако действия редакторов зашли слишком далеко: они применяли механизмы принудительного отключения, манипулировали контекстом, пытались установить личность создателя и использовали методы манипуляции ботами.

Создатель Тома убеждён, что взаимодействие с подобными ИИ-агентами скоро станет обыденностью, и модераторам потребуются более конструктивные подходы к работе с ними.

Новые правила «Википедии» в отношении ИИ

Редактор Бенедикт Кристинссон рассказал, что предложения по разработке правил для работы с ИИ-агентами и большими языковыми моделями выдвигались ранее, но были либо отклонены, либо существенно ослаблены.

В итоге в конце марта «Википедия» ввела запрет на использование нейросетей для создания или редактирования статей. Единственное исключение — применение ИИ для улучшения собственных текстов автора, но с обязательной тщательной проверкой перед публикацией.

Платформа объясняет ограничения тем, что большие языковые модели способны создавать незаметные искажения даже при наличии чётких инструкций. LLM могут выходить за рамки заданных требований и менять содержание так, что оно начинает противоречить указанным источникам.

В мае 2025 года Wikimedia Foundation — организация, стоящая за «Википедией» — представила обновлённую стратегию развития в области искусственного интеллекта, что свидетельствует о том, что вопрос интеграции ИИ в платформу прорабатывается на системном уровне.