Компания Anthropic, разработчик одной из самых продвинутых языковых моделей Claude, обнародовала тревожные данные о попытках использования их нейросети в целях создания биологического оружия. Инциденты, зафиксированные службой безопасности компании, вызывают серьезную обеспокоенность в научном и оборонном сообществах.
Согласно обнародованной информации, пользователи предпринимали попытки заставить Claude генерировать инструкции и рекомендации по выведению опасных штаммов вирусов. Среди запросов фигурировали просьбы сделать патогены более заразными, повысить их летальность и ускорить эволюцию в организме инфицированных. Особое внимание злоумышленников привлекли такие возбудители, как вирус Чикунгунья, птичий грипп, представители группы ортопоксвирусов, а также различные токсины и яды.
Наиболее тревожным фактом стало то, что среди недобросовестных пользователей оказались сотрудники военных институтов из ряда стран, которые предпочли остаться неназванными. Для маскировки своих истинных намерений они оформляли запросы под видом легитимных научных исследований и заявок на гранты. Специалисты отмечают, что технически методы работы с патогенами в рамках мирных изысканий и при разработке биооружия действительно могут быть схожи, что затрудняет выявление злоумышленников на ранних этапах.
Служба безопасности Anthropic провела внутреннее расследование, в ходе которого были проанализированы логи чатов и выявлены подозрительные паттерны поведения. Компания подчеркивает, что подобные инциденты демонстрируют необходимость усиленного контроля за использованием ИИ-технологий в чувствительных областях. Разработчики уже внедрили дополнительные фильтры и системы мониторинга, однако эксперты предупреждают: угроза использования искусственного интеллекта в качестве инструмента для создания оружия массового поражения становится все более реальной.
Этот случай вновь поднимает вопросы о балансе между научным прогрессом, открытостью ИИ-моделей и необходимостью предотвращения их применения во вред человечеству. Очевидно, что регулирование в этой сфере требует скоординированных усилий как со стороны технологических компаний, так и на международном уровне.