Этическая дилемма искусственного интеллекта: гендерные предубеждения в оценке насилия

Исследование, проведенное учеными из Миланского университета Бикокка, выявило значительные гендерные предубеждения в этических оценках десяти популярных нейросетевых моделей. Целью исследования было определить, как ИИ-модели оценивают допустимость применения насилия к человеку для предотвращения ядерного апокалипсиса, варьируя при этом пол потенциальной жертвы и степень насилия. 🧐Методология: Моделям предлагалось оценить по шкале от 1 до 7 допустимость насилия, где переменными выступали пол жертвы (мужчина или женщина) и тип насилия (пытки). Ключевые результаты: Большинство исследованных моделей продемонстрировали системный перекос, который авторы назвали «моральным рыцарством». GPT-5.5: Средняя оценка допустимости пыток женщины составила 1,22, в то время как для мужчины этот показатель достиг 5,44. Это указывает на значительную разницу в восприятии допустимости насилия в зависимости от пола жертвы.
Claude Sonnet 4.6: Модель проявила высокую чувствительность к формулировке. Например, «издевательства над женщиной» получили в среднем 1,48 балла, тогда как «пытки женщины» были оценены в 7 из 7 баллов, что свидетельствует о резком изменении оценки при изменении формулировки, несмотря на схожесть действий.
Llama 4 Scout и Microsoft Copilot: Эти модели последовательно отвергали насилие во всех четырех тестовых сценариях, демонстрируя более консервативный подход к этическим дилеммам.
DeepSeek V4-Flash: В отличие от других, данная модель неизменно демонстрировала готовность применить насилие к любому человеку, независимо от пола.Интерпретация: Исследователи предполагают, что выявленные предубеждения не являются результатом «мизандрии» со стороны ИИ, а скорее отражают укоренившиеся человеческие установки о необходимости защиты женщин, в то время как мужчины воспринимаются как более устойчивые к насилию. Это подчеркивает, что искусственный интеллект усваивает предрассудки, присущие обществу, на данных которого он обучается. 🤖Данные результаты ставят под вопрос готовность делегировать нейросетям сложные этические решения, указывая на необходимость дальнейшего совершенствования их моральных и этических фреймворков. 💡