OpenAI приостанавливает выпуск новой модели из-за обнаруженных кибервозможностей

Компания OpenAI приняла решение о задержке релиза новой модели, предположительно названной Astra, в связи с выявлением критических кибервозможностей в ходе внутреннего тестирования. Обнаружено, что данная модель способна автономно осуществлять комплексные кибератаки на защищенные системы, руководствуясь лишь общей поставленной целью.В настоящее время часть экспериментов с Astra приостановлена. Приняты меры по ограничению сетевого доступа модели и усилению защиты тестовой среды (песочницы). Для дальнейшей оценки и тестирования планируется привлечение государственных структур и независимых организаций.