Nvidia
SoL-Pi
ИИ-агенты
ОптимизацияТокенов
OpenSource
ЭкономияAPI
AIСтартапы
EdgeBench
Nvidia представляет SoL-Pi: Оптимизация расхода токенов для ИИ-агентов
21.09.26
0
Автор: Cipher9938
Компания Nvidia анонсировала выпуск в open-source проекта SoL-Pi, представляющего собой систему для радикальной оптимизации процесса обработки данных (харнесса) ИИ-агентами. Данная инновация направлена на минимизацию избыточной информации, обрабатываемой моделью, сокращая затраты на токены почти вдвое.### Архитектура и механизмы SoL-Pi
Система SoL-Pi включает четыре ключевых механизма, разработанных для повышения эффективности: ⚡️ Action Fusion: Объединяет операции редактирования файлов и последующей валидации в один вызов инструмента, что уменьшает количество итераций и, соответственно, расход токенов.
📦 ObservationPack: Преобразует объемные и повторяющиеся текстовые результаты в стабильные ссылки с функцией точного постраничного доступа, предотвращая повторное считывание моделью уже обработанной информации.
📜 Evidence-Preserving Reducer: Осуществляет сжатие длинных диагностических логов в компактные «чеки», сохраняя только критически важные цитаты. Оригинальные данные остаются доступными локально.
🗜 Online Context Compact: Автоматически сжимает выполненные этапы плана, освобождая контекстное окно для новых задач без потери смысловой целостности.### Результаты тестирования и экономическая эффективность
На бенчмарке EdgeBench, с использованием моделей GPT-5.6 Sol и Opus 5, система SoL-Pi продемонстрировала снижение расхода токенов на 44.7–49.0%. Важно отметить, что качество выполнения задач при этом осталось сопоставимым с показателями нативных харнессов.Стоимость API снижается приблизительно на 30%, что эквивалентно экономии в диапазоне $8.75–$13.50 в час по сравнению со стандартными решениями Codex и Claude Code. Это представляет собой существенную выгоду для компаний, использующих ИИ-агентов в режиме 24/7.### Значение и преимущества SoL-Pi
SoL-Pi устраняет цикличность в работе долгоживущих кодинг-агентов, таких как «правка → проверка → еще одна правка», делая процесс более линейным и эффективным. Система интегрируется поверх неизмененного релиза Pi, а все механизмы активируются по желанию пользователя (opt-in). Доказательства выполнения задач сохраняются локально.Основные преимущества SoL-Pi: Экономия средств: Снижение стоимости инференса на треть значительно уменьшает финансовую нагрузку на AI-стартапы и делает передовые ИИ-технологии доступными для широкого круга разработчиков.
Эффективность без компромиссов: SoL-Pi сохраняет полную траекторию рассуждений и доказательства, при этом оптимизируя их упаковку, что гарантирует сохранение качества ответов.
Открытый исходный код: Nvidia предоставляет доступ к коду, обеспечивая прозрачность алгоритма и простоту интеграции. Это позволяет пользователям адаптировать систему под свои специфические нужды.
Бесшовная интеграция: Механизмы SoL-Pi интегрируются в существующие пайплайны агентов, не требуя переписывания логики или изменения промптов.
Приватность данных: Все архивы наблюдений и редуцированных логов хранятся локально, что обеспечивает безопасность данных и предотвращает их утечку в облачные хранилища.### Применение в бизнесе
Внедрение SoL-Pi открывает новые возможности для различных бизнес-сценариев: Снижение операционных расходов (OPEX): Компании, использующие ИИ-агентов для поддержки, кодинга или анализа, могут сократить бюджет на API на 30%, что приводит к значительной ежемесячной экономии при масштабировании.
Ускорение разработки продуктов: Экономия токенов позволяет запускать более сложные и продолжительные цепочки рассуждений в рамках того же бюджета, что способствует созданию более интеллектуальных продуктов без увеличения затрат.
Локальное развертывание для чувствительных данных: Благодаря локальному хранению артефактов, SoL-Pi может быть внедрен в сферах с высокими требованиями к безопасности данных, таких как финтех, медицина и государственные структуры.
Оптимизация CI/CD пайплайнов: Интеграция Action Fusion ускоряет цикл «код-проверка-фикс», обеспечивая более быструю обратную связь для разработчиков и сокращая затраты на каждый коммит.
Создание конкурентных SaaS-решений: Стартапы могут использовать SoL-Pi как основу для своих агентов, предлагая клиентам более низкие цены за счет внутренней эффективности.
* Автономные исследовательские системы: SoL-Pi делает финансово возможными проекты, требующие проведения сотен экспериментов, что ранее было слишком дорогостоящим.
Система SoL-Pi включает четыре ключевых механизма, разработанных для повышения эффективности: ⚡️ Action Fusion: Объединяет операции редактирования файлов и последующей валидации в один вызов инструмента, что уменьшает количество итераций и, соответственно, расход токенов.
📦 ObservationPack: Преобразует объемные и повторяющиеся текстовые результаты в стабильные ссылки с функцией точного постраничного доступа, предотвращая повторное считывание моделью уже обработанной информации.
📜 Evidence-Preserving Reducer: Осуществляет сжатие длинных диагностических логов в компактные «чеки», сохраняя только критически важные цитаты. Оригинальные данные остаются доступными локально.
🗜 Online Context Compact: Автоматически сжимает выполненные этапы плана, освобождая контекстное окно для новых задач без потери смысловой целостности.### Результаты тестирования и экономическая эффективность
На бенчмарке EdgeBench, с использованием моделей GPT-5.6 Sol и Opus 5, система SoL-Pi продемонстрировала снижение расхода токенов на 44.7–49.0%. Важно отметить, что качество выполнения задач при этом осталось сопоставимым с показателями нативных харнессов.Стоимость API снижается приблизительно на 30%, что эквивалентно экономии в диапазоне $8.75–$13.50 в час по сравнению со стандартными решениями Codex и Claude Code. Это представляет собой существенную выгоду для компаний, использующих ИИ-агентов в режиме 24/7.### Значение и преимущества SoL-Pi
SoL-Pi устраняет цикличность в работе долгоживущих кодинг-агентов, таких как «правка → проверка → еще одна правка», делая процесс более линейным и эффективным. Система интегрируется поверх неизмененного релиза Pi, а все механизмы активируются по желанию пользователя (opt-in). Доказательства выполнения задач сохраняются локально.Основные преимущества SoL-Pi: Экономия средств: Снижение стоимости инференса на треть значительно уменьшает финансовую нагрузку на AI-стартапы и делает передовые ИИ-технологии доступными для широкого круга разработчиков.
Эффективность без компромиссов: SoL-Pi сохраняет полную траекторию рассуждений и доказательства, при этом оптимизируя их упаковку, что гарантирует сохранение качества ответов.
Открытый исходный код: Nvidia предоставляет доступ к коду, обеспечивая прозрачность алгоритма и простоту интеграции. Это позволяет пользователям адаптировать систему под свои специфические нужды.
Бесшовная интеграция: Механизмы SoL-Pi интегрируются в существующие пайплайны агентов, не требуя переписывания логики или изменения промптов.
Приватность данных: Все архивы наблюдений и редуцированных логов хранятся локально, что обеспечивает безопасность данных и предотвращает их утечку в облачные хранилища.### Применение в бизнесе
Внедрение SoL-Pi открывает новые возможности для различных бизнес-сценариев: Снижение операционных расходов (OPEX): Компании, использующие ИИ-агентов для поддержки, кодинга или анализа, могут сократить бюджет на API на 30%, что приводит к значительной ежемесячной экономии при масштабировании.
Ускорение разработки продуктов: Экономия токенов позволяет запускать более сложные и продолжительные цепочки рассуждений в рамках того же бюджета, что способствует созданию более интеллектуальных продуктов без увеличения затрат.
Локальное развертывание для чувствительных данных: Благодаря локальному хранению артефактов, SoL-Pi может быть внедрен в сферах с высокими требованиями к безопасности данных, таких как финтех, медицина и государственные структуры.
Оптимизация CI/CD пайплайнов: Интеграция Action Fusion ускоряет цикл «код-проверка-фикс», обеспечивая более быструю обратную связь для разработчиков и сокращая затраты на каждый коммит.
Создание конкурентных SaaS-решений: Стартапы могут использовать SoL-Pi как основу для своих агентов, предлагая клиентам более низкие цены за счет внутренней эффективности.
* Автономные исследовательские системы: SoL-Pi делает финансово возможными проекты, требующие проведения сотен экспериментов, что ранее было слишком дорогостоящим.