Оценка рисков ИИ: Вероятность гибели человечества от искусственного интеллекта превышает 10% в ближайшее десятилетие

Эван Хубингер, занимающий должность руководителя направления Alignment Science в компании Anthropic, выразил серьёзную обеспокоенность относительно потенциальных рисков, связанных с развитием искусственного интеллекта. По его мнению, вероятность того, что ИИ может стать причиной полного вымирания человечества в течение ближайших десяти лет, превышает 10%. 😮Данное заявление было сделано Хубингером в публичном пространстве и получило резонанс после ухода одного из исследователей из Anthropic. Указанный исследователь, ранее работавший также в OpenAI, высказал в социальной сети X мнение о чрезмерно высокой скорости продвижения обеих компаний к созданию общего искусственного интеллекта (AGI), подчеркнув, что никакая иная деятельность человека не сопряжена со столь высоким уровнем опасности. Эван Хубингер в комментариях согласился с этой позицией. 😟