OpenAI ускоряет принятие решений ИИ в 10 раз
Компания OpenAI открыла общий доступ к Decisions API – специализированному интерфейсу для быстрого принятия структурированных решений в ИИ-приложениях. Релиз призван устранить распространенную проблему разработки искусственного интеллекта: приложениям и автономным агентам часто приходится выполнять множество небольших операций в рамках одного рабочего процесса. Классификация входящих данных, маршрутизация запросов, оценка рисков и выбор следующего действия по отдельности требуют небольших вычислительных ресурсов, однако в масштабных системах совокупные задержки и затраты на инференс могут быть значительными.
Decisions API позволяет эффективнее выполнять такие задачи и интегрировать структурированные решения ИИ непосредственно в логику приложений.
В отличие от универсальных интерфейсов для открытых диалогов и сложных задач, Decisions API ориентирован на запросы с четко определенным форматом ответа. Разработчик задает вопрос, доступные варианты ответа или критерии оценки, а также контекст, необходимый для принятия решения. Затем API возвращает структурированный результат, который приложение может сразу использовать.
API поддерживает три типа решений:
- Логическое условие (predicate): оценивает вероятность того, что определенное условие истинно. Например, система может определить, есть ли на изображении товара видимые повреждения.
- Выбор (choice): выбирает один вариант из заранее определенного набора. ИИ-агент может решить, продолжить ли выполнение задачи, повторить операцию или запросить уточнение.
- Оценка (score): оценивает входные данные по заданной шкале, например присваивает уровень серьезности обнаруженной проблеме.
API поддерживает текст, изображения и входные данные в формате JSON, что делает систему пригодной для текстовых и мультимодальных рабочих процессов. Разработчики также могут отправлять до 400 вопросов в одном запросе, чтобы одновременно обрабатывать несколько связанных процессов.
В общедоступной версии реализовано несколько улучшений, призванных сделать API более практичным для использования в производственных средах:
- Снижение задержки: по данным OpenAI, Decisions API обеспечивает принятие решений до 10 раз быстрее, чем при использовании GPT-6 Luna через Responses API.
- Кэширование промптов: повторное использование инструкций и контекста помогает снизить затраты на повторные запросы.
- Встроенная интеграция с GPT-Live: приложения могут запускать процесс принятия решений во время голосового взаимодействия в реальном времени, обеспечивая более быструю реакцию диалоговых систем.
- Расширенная мультимодальная поддержка: разработчики могут передавать структурированные данные в формате JSON и добавлять изображения для уточнения отдельных вопросов.
- Региональная обработка данных: обработка запросов доступна в США и ЕС, а клиентам, соответствующим установленным требованиям, доступен режим нулевого хранения данных (Zero Data Retention).
Эти возможности делают API особенно полезным для систем, которым необходимо часто и оперативно принимать решения, а не только выполнять их в конце длительного рабочего процесса.
API предназначен для ИИ-агентов, систем поддержки клиентов, обработки документов и мониторинга безопасности. Например, голосовые ассистенты могут быстрее реагировать на запросы, платформы для работы с документами – автоматизировать их классификацию, а системы безопасности – оценивать команды перед выполнением.
OpenAI сообщает о значительном повышении производительности в решениях своих клиентов. Во время тестирования Speak сократили время до следующего действия в своем приложении для изучения языков с 1,4 секунды до 0,13 секунды. Компания Box сообщила о примерно пятикратном ускорении принятия решений по маршрутизации документов, тогда как в Datadog добились 40-кратного сокращения задержки на 95-м перцентиле при оценке рисков выполнения команд.
Эти результаты отражают индивидуальные оценки клиентов и могут варьироваться в зависимости от нагрузки и способа внедрения.
Decisions API доступен широкому кругу разработчиков через специализированный API-эндпойнт OpenAI на базе GPT-6 Luna.
Для разработчиков ИИ-агентов, диалоговых ассистентов, систем классификации и автоматизации бизнес-процессов более быстрое принятие структурированных решений может повысить скорость реагирования систем и помочь контролировать затраты на инференс. Такой подход особенно полезен, когда приложению необходимы предсказуемые форматы ответов, которые можно напрямую интегрировать в программную логику.