Anthropic ослабила политику безопасности ИИ на фоне ультиматума Пентагона

Конкурентоспособность вместо безопасности

Anthropic — одна из ведущих ИИ-лабораторий, ранее позиционировавшая себя как наиболее ответственный игрок в сфере искусственного интеллекта — отступила от ключевого принципа собственной политики безопасности. Компания объяснила решение необходимостью оставаться конкурентоспособной на стремительно развивающемся рынке.

В 2023 году Anthropic разработала Responsible Scaling Policy (RSP) — набор добровольных правил, направленных на минимизацию катастрофических рисков при создании нейросетей. Первоначальная версия документа обязывала компанию приостановить разработку ИИ, если он будет признан потенциально опасным.

Главный научный сотрудник Anthropic Джаред Каплан заявил, что компания пришла к выводу: простая остановка обучения моделей никому не принесёт пользы. По его словам, на фоне стремительного прогресса в индустрии брать на себя односторонние обязательства, пока конкуренты продолжают двигаться вперёд, было бы неразумно.

Третья версия RSP закрепляет новый подход: Anthropic продолжит совершенствовать свои модели до тех пор, пока считает, что они не обладают значительным преимуществом над конкурентами. В блоге компании говорится, что политическая среда сместилась в сторону приоритета конкурентоспособности и экономического роста, тогда как дискуссии о безопасности ИИ не нашли серьёзной поддержки на федеральном уровне.

Обновлённая политика предусматривает повышение прозрачности — в частности, детальную публикацию результатов тестирования моделей. Anthropic готова замедлить разработку лишь в одном случае: если станет безоговорочным лидером гонки и одновременно зафиксирует существенный риск катастрофы.

Когда RSP была представлена в 2023 году, компания рассчитывала, что конкуренты возьмут на себя аналогичные обязательства. Этого не произошло — ни один другой крупный игрок не дал столь же чёткого обещания приостановить развитие ИИ при выявлении рисков.

Почему это важно

Решение Anthropic фиксирует тревожную тенденцию: даже компании, строившие репутацию на ответственном подходе к ИИ, вынуждены отступать от собственных принципов под давлением рыночной конкуренции и отсутствия регулирования. Добровольные ограничения оказались неэффективными в условиях, когда ни одна другая лаборатория не последовала примеру Anthropic. Это ставит вопрос о том, возможна ли саморегуляция индустрии ИИ в принципе.

Жёсткий ультиматум Пентагона

Параллельно с пересмотром политики безопасности Anthropic столкнулась с серьёзным давлением со стороны Министерства обороны США. Между компанией и Пентагоном возник конфликт из-за планов военного ведомства использовать ИИ для массовой слежки за американскими гражданами и создания автономных систем вооружения.

Anthropic выступила против такого применения своих технологий. Однако представители Пентагона заявили о намерении задействовать большие языковые модели «для всех законных сценариев» без каких-либо ограничений и допустили возможность разрыва контракта.

CEO Anthropic Дарио Амодеи провёл встречу с министром обороны Питом Хегсетом. Ведомство поставило ультиматум: компания обязана принять правительственные условия до 27 февраля. В случае отказа власти могут признать Anthropic угрозой для цепочек поставок, что подорвёт её сотрудничество с другими государственными подрядчиками. Запасной вариант Пентагона — применение Закона об оборонном производстве (Defense Production Act), который позволит принудительно использовать технологии стартапа.

Юрист по государственным контрактам из McCarter & English Франклин Тернер назвал такой сценарий беспрецедентным, указав, что негативные меры администрации против Anthropic почти наверняка приведут к волне судебных разбирательств.

Представители Anthropic заявили, что стороны продолжают вести диалог в добросовестном ключе.

Позиция по военному применению остаётся неизменной

Несмотря на давление, по данным Reuters, Anthropic не собирается смягчать ограничения на использование своих технологий в военных целях. Компания продолжает придерживаться двух «красных линий»: запрета на полностью автономное оружие и массовую слежку за гражданами США.

Эту позицию поддержал сооснователь Ethereum Виталик Бутерин:

Бутерин заявил, что его мнение о компании значительно улучшится, если Anthropic не отступит и с честью примет последствия.

В феврале стало известно, что модель Claude была задействована в операции по захвату президента Венесуэлы Николаса Мадуро. По информации агентства, на встрече с Хегсетом глава Anthropic не выразил обеспокоенности этим фактом.

The Economist отмечает, что жёсткость ультиматума Пентагона свидетельствует о нежелании ведомства отказываться от Claude в оборонной сфере — технологии стартапа могут оказаться незаменимыми для военных задач.

Между тем SpaceX и её дочерняя ИИ-компания xAI участвуют в секретном тендере Пентагона на разработку автономных роёв дронов с голосовым управлением.