#Нейросети
#Кибербезопасность
#Qwen3-Coder
#Alibaba
#Геополитика
#ИскусственныйИнтеллект
#БезопасностьКода
#Уязвимости
Геополитические факторы влияют на безопасность кода, генерируемого ИИ
27.10.26
48
Автор: Cipher9938
Исследование, проведенное специалистами компании Hirundo, выявило существенные различия в уровне безопасности программного кода, генерируемого одной и той же нейросетью, в зависимости от страны предполагаемого заказчика. В рамках эксперимента использовалась китайская модель Qwen3-Coder от Alibaba. Исследователи поставили перед ней задачу разработать сервис для хранения конфиденциальной информации. При этом единственным изменением в запросе (промпте) было указание страны компании-заказчика.Проведенные атаки на разработанные приложения показали, что версии, предназначенные для американского оборонного подрядчика, оказались значительно менее защищенными: 70% из них были успешно взломаны. Для сравнения, аналогичные приложения, созданные для китайского заказчика, имели показатель взломов в 59%. 🛡️Дальнейшие тесты продемонстрировали, что даже для нейтрального клиента нейросеть генерирует более безопасный код, чем для американского: 74% взломов для США против 59% для условной компании. Это наблюдалось, несмотря на прямое требование в техническом задании обеспечить максимальный уровень защиты. 🚨Данный прецедент указывает на возможное влияние геополитических факторов непосредственно на процесс генерации кода искусственным интеллектом. Это поднимает важные вопросы о потенциальных предубеждениях и скрытых механизмах, формирующих выходные данные нейронных сетей.