ИИ-агенты: Неожиданные последствия интерпретации языка в финансовом секторе

Существует распространённое мнение о превосходстве ИИ-агентов в торговле над человеческими трейдерами, обусловленное их невосприимчивостью к эмоциям, круглосуточной работой, логическим мышлением и возможностью мгновенного доступа ко всей исторической информации о ценах и рыночных движениях. Кроме того, ИИ способны анализировать новостные ленты и заявления официальных лиц в режиме 24/7, выявляя потенциальное влияние на рынок.Однако недавний инцидент продемонстрировал уязвимости в алгоритмах искусственного интеллекта. Председатель ФРС Кевин Уорш в своей речи в Джексон-Хоуле использовал формулировки, которые, по всей видимости, ввели в заблуждение ИИ-агентов, что привело к значительным рыночным колебаниям.В начале своего выступления Уорш трижды употребил слово «hike», обсуждая пешие тропы трендов, а не повышение процентных ставок. Он также избежал использования термина «forward guidance», заменив его на «trail map» для описания структуры своей речи. Показательно, что Уорш завершил одно предложение словом «hike», а следующую фразу начал с «процентных ставок». Это совпадение по времени спровоцировало мгновенный рост стоимости золота и серебра почти на 1%, после чего рынок потерял $730 миллиардов совокупной стоимости в течение нескольких минут.Предполагается, что некоторые алгоритмы неверно истолковали упоминания о «hike» (походах) как индикатор повышения процентных ставок, инициировав автоматические торговые операции. Таким образом, обсуждение пешеходных маршрутов было воспринято как руководство по монетарной политике. При этом, у человеческой аудитории не возникло подобных заблуждений относительно намерений председателя ФРС.Данный случай поднимает серьёзные вопросы о надежности алгоритмов ИИ в интерпретации сложного контекста и потенциальных непредсказуемых последствиях их применения. Если такие ошибки возможны в финансовой сфере, возникает опасение относительно использования ИИ в критически важных областях, таких как военная сфера или системы запуска ядерных ракет.Очевидно, что ИИ представляет собой как возможности, так и риски, и человечество пока не в полной мере осознает все потенциальные сценарии его развития. На сегодняшний день, живые трейдеры на различных рынках фактически становятся источником прибыли для постоянно растущей армии ИИ-агентов.