Кратко

OpenAI представила GPT-Red — ИИ-агента, который ищет уязвимости в других моделях искусственного интеллекта. Это позволяет значительно повысить их устойчивость к внешним угрозам. Данный подход направлен на создание более безопасных и надежных ИИ-систем.

• GPT-Red имитирует реальные атаки, включая промпт-инъекции и попытки извлечения конфиденциальных данных.
• Внутреннее тестирование показало, что GPT-Red преодолевает 84% защитных сценариев, в то время как команды людей достигали лишь 13% успеха.
• Система работает по принципу антихрупкости: каждый успешный взлом делает модель более защищенной и устойчивой.
• Использование ИИ-агентов для тестирования может заменить дорогие услуги внешних консультантов и обеспечить круглосуточную проверку систем.
• Будущие модели ИИ, прошедшие тестирование с GPT-Red, будут обладать беспрецедентным уровнем защиты и повысят доверие пользователей.