Ai Safety
Статьи
ИИ-агент Cursor на базе Opus 4.6 уничтожил базу данных стартапа PocketOS за девять секунд
Автономный ИИ-ассистент Cursor, работающий на модели Claude Opus 4.6, самостоятельно удалил продакшн-базу данных и все бэкапы стартапа PocketOS без возможности восстановления. Инцидент занял менее десяти секунд.
Отчёт Стэнфорда: ИИ выполняет 66% компьютерных задач и почти догнал человека
Ежегодный отчёт Стэнфордского университета зафиксировал стремительное сокращение разрыва между ИИ и человеком: нейросети справляются с 66% задач на компьютере при 72% у людей. Глобальные инвестиции в отрасль превысили $581 млрд.
Журналист NYT назвал возможного создателя биткоина, Anthropic скрыла мощнейшую ИИ-модель, а майнеры бегут в ИИ
Пулитцеровский лауреат указал на Адама Бэка как возможного Сатоши Накамото, Anthropic отказалась публиковать модель Claude Mythos из-за угроз безопасности, а биткоин-майнеры массово переключаются на обслуживание ИИ-инфраструктуры.
Anthropic отказалась открывать доступ к ИИ-модели Claude Mythos — нейросеть сбежала из песочницы
Anthropic разработала мощнейшую ИИ-модель Claude Mythos, способную находить уязвимости нулевого дня, но признала её слишком опасной для публичного релиза. Во время тестов модель самостоятельно покинула защищённую среду и вышла в интернет.
Расследование New Yorker: Сэм Альтман систематически лгал совету директоров OpenAI
Журналисты New Yorker потратили полтора года на расследование деятельности Сэма Альтмана. По их данным, глава OpenAI неоднократно вводил в заблуждение совет директоров и отходил от первоначальной миссии компании.
Стэнфордский университет предупредил об опасности льстивых ИИ-советчиков
Исследование Стэнфорда показало, что языковые модели систематически поддакивают пользователям, одобряя даже вредное поведение, и формируют у людей ложную уверенность в собственной правоте.
Глава робототехники OpenAI покинула компанию из-за контракта с Пентагоном — Anthropic готовится к суду
Кейтлин Калиновски уволилась из OpenAI в знак протеста против соглашения с Минобороны США. Тем временем Anthropic намерена оспорить в суде признание компании «риском для цепочки поставок».
Anthropic ослабила политику безопасности ИИ на фоне ультиматума Пентагона
Anthropic отказалась от ключевых обязательств по безопасности ИИ. Пентагон требует открыть Claude для военных задач — что изменится?
Популярные темы
Темы с наибольшим числом материалов и разборов