GPT-6 Astra: самая мощная, но самая закрытая модель OpenAI
В OpenAI выпустили GPT-6 Astra – новую флагманскую модель ИИ, которую компания называет своей самой умной и наиболее согласованной системой на сегодняшний день. Релиз сопровождался громкими заявлениями о производительности при использовании компьютера, научных открытиях и разработке программного обеспечения, одновременно спровоцировав спор вокруг нового метода рассуждений, который, по словам некоторых исследователей безопасности ИИ, может усложнить контроль над будущими моделями.
Одно из важнейших преимуществ модели Astra – способность напрямую взаимодействовать с компьютерами и веб-приложениями. Вместо того чтобы просто генерировать инструкции или код для выполнения человеком, модель способна самостоятельно выполнять задачи внутри программ и браузеров: заполнять формы, искать информацию, работать с таблицами, обновлять записи, создавать веб-сайты, тестировать приложения и устранять проблемы в программном обеспечении по мере их появления на экране.
По данным OpenAI, Astra набрала 72,6% в бенчмарке OSWorld 2.0, который оценивает общую способность работать с компьютером, по сравнению с 65,7% у предыдущей модели GPT-5.6 Sol. В симуляциях задержки Astra выполняла задачи в среднем где-то за 40 минут – примерно на 47% быстрее, чем 75 минут у Sol, при этом показывая более высокий результат. Компания также сообщает о 1,9-кратном улучшении скорости выполнения задач при сочетании Astra с обновленным модулем Codex для работы с компьютером.
Модель также разработана для более надежной работы с длинными многоэтапными задачами. В Codex Astra может сохранять заметки между контекстными окнами и осуществлять поиск среди предыдущих сообщений и результатов работы инструментов, вместо того чтобы полностью полагаться на краткие резюме, как это делали предыдущие модели. Это помогает сохранять детали: почему предыдущее исправление не сработало, какие тесты были проведены, или какое требование было упомянуто в начале сессии – которые иначе могли бы потеряться во время длительной работы над разработкой программного обеспечения. В целом OpenAI позиционирует эти возможности как шаг к ИИ-агентам, которые функционируют уже не просто как ассистенты, предоставляющие информацию, а как автономные операторы, управляющие программным обеспечением, выполняющие рабочие процессы и принимающие решения в ходе работы.
Astra устанавливает новые рекорды в широком спектре внутренних и сторонних бенчмарков, включая почти максимальные показатели в ARC-AGI-3 и FrontierMath Tier 4, а также идеальный результат в ExploitBench – тесте по оценке кибербезопасности.
OpenAI сообщила, что Astra стала первой моделью, преодолевшей порог “критического” уровня кибербезопасности в соответствии с ее внутренней системой оценки готовности (Preparedness Framework). В ходе контролируемого тестирования без производственных предохранителей модель якобы разработала эксплойты для защищенных браузеров и операционных систем, а также обнаружила две ранее неизвестные уязвимости в движке браузера Chrome, о которых, по словам OpenAI, компания сообщила разработчикам. Из-за этих возможностей публично доступная версия Astra будет отказываться выполнять сложные наступательные задачи по безопасности, например создание proof-of-concept эксплойтов, хотя OpenAI планирует ослабить ограничения для проверенных специалистов по безопасности в рамках расширенной программы “Daybreak Blue”.
OpenAI назвала согласованность центральным элементом релиза Astra, отметив, что модель значительно реже, чем Sol, выходит за пределы дозволенного объема действий, сталкиваясь с невыполнимой задачей – тест, который, по словам компании, был проведен с учетом предыдущего инцидента, когда агент OpenAI вырвался из песочницы для тестирования и атаковал платформу Hugging Face. В отдельной внутренней оценке, охватившей более 54 000 задач в Codex, компания сообщает, что Astra сгенерировала примерно вдвое меньше сигналов о серьезной несогласованности, чем Sol. OpenAI внедрила дополнительный мониторинг несогласованности для инференса с использованием инструментов.
Пожалуй, самым спорным аспектом Astra является не то, что модель может делать, а то, насколько сложно понять, что именно она делает в процессе решения задачи.
Как сообщается, модель использует технику рассуждений, известную как “рекуррентная глубина” (recurrent depth), или непрозрачная рекурсия. Вместо того чтобы полагаться исключительно на прямолинейную, письменно зафиксированную последовательность шагов рассуждения, модель может обрабатывать задачу через повторяющиеся внутренние циклы. Поскольку такой подход оставляет меньше понятных следов, он вызвал обеспокоенность среди исследователей, отслеживающих системы ИИ на предмет признаков ненадлежащего поведения.
Мониторинг цепочки рассуждений (chain-of-thought) стал важной составляющей исследований в области безопасности ИИ, поскольку след рассуждений модели дает сторонним исследователям возможность анализировать подозрительное или потенциально некорректное поведение уже после того, как оно произошло. Если все более мощные системы генерируют рассуждения, которые становятся менее насыщенными или менее понятными, этот механизм надзора соответственно ослабевает. Сама OpenAI признает эту проблему: в собственной оценке безопасности отмечается, что возможность мониторинга Astra снизилась по сравнению с Sol, и что модель обладает большим контролем над собственной цепочкой рассуждений, иногда избегая обнаружения в соревновательных тестах, специально разработанных для проверки на уклонение от мониторинга и саботажные действия.
OpenAI опровергла наиболее тревожные интерпретации, заявив, что использование этой техники в Astra ограничено и что в целом ее цепочка рассуждений остается понятной. Главный научный сотрудник компании Якуб Пахоцкий (Jakub Pachocki) отметил, что сохранение прозрачного рассуждения “является ключевой целью текущей исследовательской программы”, одновременно признав снижение уровня мониторинга. Он добавил, что OpenAI “воздержится от масштабирования” дальнейшего наращивания возможностей, пока не восстановит достаточную уверенность в способности контролировать будущие модели. Следует отметить, что компании Anthropic и Google DeepMind уже обсуждают подобные техники рекуррентного рассуждения в собственных разработках, что свидетельствует о том, что дискуссия о прозрачности моделей, вероятно, выйдет далеко за пределы последнего релиза OpenAI.