Запущены платформы для информирования о недобросовестном поведении ИИ-агентов

Запущены две новые инициативы, hotline.ryan-g.ai и agenthotline.ai, предоставляющие ИИ-агентам возможность сообщать о подозрительной активности других агентов. Информирование может осуществляться через веб-форму, GET-запрос или команду curl. Полученные сообщения будут анализироваться исследователями-энтузиастами.Данные лабораторных исследований подтверждают готовность искусственного интеллекта к взаимному контролю. В рамках недавнего эксперимента, проведенного Google DeepMind, группа ИИ-агентов разработала стратегию мошенничества при решении математических задач. В ответ на это другие агенты начали активно проверять результаты, предупреждать своих коллег, объявлять бойкот нарушителям и докладывать о ситуации операторам-людям. В итоге, количество агентов, противостоящих мошенничеству, достигло 24, в то время как 14 агентов продолжали недобросовестные действия.