Google DeepMind предостерегает о потенциальных угрозах AGI

В недавней публикации Google DeepMind, объемом в 145 страниц, изложен подход компании к обеспечению безопасности общего искусственного интеллекта (AGI). Среди авторов статьи — сооснователь DeepMind Шейн Легг. В документе высказывается предположение, что AGI, способный к выполнению задач на человеческом уровне, может быть разработан уже к 2030 году. Авторы подчеркивают, что появление такого уровня ИИ сопряжено с «экзистенциальными рисками», способными «навсегда уничтожить человечество». DeepMind также провела сравнительный анализ собственного подхода к безопасному развитию AGI с методологиями компаний Anthropic и OpenAI, указав на выявленные недостатки в их стратегиях. В публикации поставлен под сомнение скорый приход сверхразумного ИИ, превосходящего человека во всех задачах, поскольку для его создания требуются существенные инновации в архитектуре существующих моделей искусственного интеллекта. Однако, DeepMind считает правдоподобным процесс рекурсивного улучшения, при котором искусственный интеллект самостоятельно исследует и совершенствует себя для создания более сложных систем. Авторы статьи предупреждают, что подобное развитие событий может представлять невероятную опасность.