Оптимизация взаимодействия с ИИ: подход Андрея Карпатого к интерпретации ответов нейросетей

Известный эксперт Андрей Карпатый представил инновационный подход к интерпретации результатов работы нейронных сетей, акцентируя внимание на изменении роли человека в процессе взаимодействия с ИИ. В условиях, когда модели искусственного интеллекта демонстрируют всё большую автономность, ключевой задачей становится не генерация контента, а его верификация и осмысление. Карпатый отмечает, что скорость генерации информации нейросетями значительно превосходит возможности человека по её анализу, особенно при использовании сложной и многословной формулировки. Это приводит к тому, что узким местом в рабочем процессе становится человеческий фактор, а не производительность модели.В качестве решения этой проблемы Карпатый предлагает использовать стандарт ASD-STE100 (Simplified Technical English) для формулирования ответов нейронных сетей. Этот упрощённый технический английский, разработанный в 1980-х годах для создания инструкций по ремонту авиационной техники, характеризуется высокой степенью однозначности и простоты. Ключевые принципы ASD-STE100 включают: Ограниченный словарь: около 900 разрешённых слов, каждое из которых имеет только одно значение.
Краткость предложений: процедурные предложения не должны превышать 20 слов.
* Чёткость формулировок: одно предложение содержит одну команду, исключается использование пассивного залога. Примеры: вместо «utilize» – «use», вместо «ensure» – «make sure». Приоритет отдаётся команде, затем описывается риск.Обоснование такого подхода заключается в том, что нейронные сети обучены на огромных объёмах текстовых данных, включая техническую документацию, и, следовательно, способны адаптироваться к требованиям данного стандарта. Карпатый также отмечает возможность использования «ручки громкости» для регулировки степени соответствия стандарту, например, запрашивая «на 80% как ASD-STE100», что позволяет гибко управлять уровнем детализации и простоты ответа.Помимо текстовых форматов, Карпатый предлагает использовать визуальные и интерактивные способы представления информации. Он рекомендует запрашивать у моделей схемы вместо текстовых описаний, поскольку визуальная информация воспринимается человеком значительно быстрее. Также предлагается генерировать HTML-страницы для получения интерактивного вывода вместо простых текстовых «простыней».Наиболее амбициозным предложением является создание видео-объяснений в стиле 3Blue1Brown, с использованием технологий озвучивания, таких как ElevenLabs или аналогичные локальные решения. Это подчёркивает общую тенденцию к дешевеющему коду и интеллекту, что позволяет рассматривать создание таких сложных материалов как одноразовую инвестицию для глубокого понимания одной конкретной темы, даже если полученный результат будет впоследствии отброшен как черновик. Ранее подобный подход считался бы нецелесообразным, тогда как в текущих условиях он становится обычной практикой.