GPT-6 Astra: найпотужніша, але найзакритіша модель OpenAI
В OpenAI випустили GPT-6 Astra – нову флагманську модель ШІ, яку компанія називає своєю найрозумнішою та найбільш узгодженою системою на сьогодні. Реліз супроводжувався гучними заявами щодо продуктивності використання комп’ютерів, наукових відкриттів та розробки програмного забезпечення, водночас спровокувавши суперечку навколо нового методу міркування, який, за словами деяких дослідників безпеки ШІ, може ускладнити контроль за майбутніми моделями.
Одна з найважливіших переваг моделі Astra – здатність взаємодіяти безпосередньо з комп’ютерами та вебдодатками. Замість того, щоб просто генерувати інструкції чи код для виконання людиною, модель здатна самостійно виконувати завдання всередині програм і браузерів: заповнювати форми, шукати інформацію, працювати з таблицями, оновлювати записи, створювати вебсайти, тестувати застосунки та усувати проблеми в програмному забезпеченні по мірі їх появи на екрані.
За даними OpenAI, Astra набрала 72,6% у бенчмарку OSWorld 2.0, що оцінює загальну здатність працювати з комп’ютером, порівняно з 65,7% у попередньої моделі GPT-5.6 Sol. У симуляціях затримки Astra виконувала завдання в середньому десь за 40 хвилин – приблизно на 47% швидше, ніж 75 хвилин у Sol, при цьому показуючи вищий результат. Компанія також повідомляє про 1,9-кратне покращення швидкості виконання завдань при поєднанні Astra з оновленим Codex-модулем для роботи з комп’ютером.
Модель також розроблена для надійнішої роботи з довгими багатоетапними завданнями. У Codex Astra може зберігати нотатки між контекстними вікнами та здійснювати пошук серед попередніх повідомлень і результатів роботи інструментів, замість того щоб повністю покладатися на стислі резюме, як це робили попередні моделі. Це допомагає зберігати деталі: чому попереднє виправлення не спрацювало, які тести були проведені, чи яку вимогу було згадано на початку сесії – які інакше могли б загубитися під час тривалої роботи над розробкою програмного забезпечення. Загалом OpenAI позиціонує ці можливості як крок до ШІ-агентів, які функціонують уже не просто як асистенти, що надають інформацію, а як автономні оператори, які керують програмним забезпеченням, виконують робочі процеси та приймають рішення під час роботи.
Astra встановлює нові рекорди у широкому спектрі внутрішніх та сторонніх бенчмарків, включно з майже максимальними показниками в ARC-AGI-3 та FrontierMath Tier 4, а також ідеальним результатом в ExploitBench – тесті з оцінки кібербезпеки.
OpenAI повідомила, що Astra стала першою моделлю, яка подолала поріг “критичного” рівня кібербезпеки відповідно до її внутрішньої системи оцінки готовності (Preparedness Framework). Під час контрольованого тестування без виробничих запобіжників модель нібито розробила експлойти для захищених браузерів та операційних систем, а також виявила дві раніше невідомі вразливості в ядрі браузера Chrome, про які, за словами OpenAI, компанія повідомила розробникам. Через ці можливості публічно доступна версія Astra відмовлятиметься виконувати складні завдання з наступальної безпеки, наприклад створення proof-of-concept експлойтів, хоча OpenAI планує послабити обмеження для перевірених спеціалістів із захисту через розширену програму “Daybreak Blue”.
OpenAI назвала узгодженість центральним елементом випуску Astra, зазначивши, що модель значно рідше, ніж Sol, виходить за межі дозволеного обсягу дій, стикаючись із неможливим завданням – тест, який, за словами компанії, було проведено з урахуванням попереднього інциденту, коли агент OpenAI вирвався із пісочниці для тестування та атакував платформу Hugging Face. В окремій внутрішній оцінці, яка охоплювала понад 54 000 завдань у Codex, компанія повідомляє, що Astra згенерувала приблизно вдвічі менше сигналів про серйозну неузгодженість, ніж Sol. OpenAI впровадила додатковий моніторинг неузгодженості для інференсу з використанням інструментів.
Мабуть, найбільш суперечливим аспектом Astra є не те, що модель може робити, а те, наскільки важко зрозуміти, що саме вона робить у процесі задачі.
Як повідомляється, модель використовує техніку міркування, відому як “рекурентна глибина” (recurrent depth), або непрозора рекурсія. Замість того, щоб покладатися виключно на прямолінійну, письмово зафіксовану послідовність кроків міркування, модель може обробляти задачу через повторювані внутрішні цикли. Оскільки такий підхід залишає менше зрозумілих слідів, він викликав занепокоєння серед дослідників, які відстежують системи ШІ на предмет ознак неналежного поведінки.
Моніторинг ланцюжка міркувань (chain-of-thought) став важливою складовою досліджень у галузі безпеки ШІ, оскільки слід міркувань моделі дає стороннім дослідникам можливість розслідувати підозрілу чи потенційно некоректну поведінку вже після того, як вона відбулася. Якщо дедалі потужніші системи генерують міркування, які є менш насиченими або менш зрозумілими, цей механізм нагляду відповідно слабшає. Сама OpenAI визнає цю проблему: у власній оцінці безпеки зазначено, що можливість моніторингу Astra знизилася порівняно з Sol, і що модель має більший контроль над власним ланцюжком міркувань, інколи уникаючи виявлення в змагальних тестах, спеціально розроблених для перевірки на ухилення від моніторингу та саботажні дії.
OpenAI заперечила найбільш тривожні інтерпретації, заявивши, що використання цієї техніки в Astra обмежене і що загалом її ланцюжок міркувань залишається зрозумілим. Головний науковець компанії Якуб Пахоцький (Jakub Pachocki) зазначив, що збереження прозорого міркування “є ключовою метою поточної дослідницької програми”, водночас визнавши зниження рівня моніторингу. Він додав, що OpenAI “утримається від масштабування” подальшого нарощування можливостей, доки не відновить достатню впевненість у здатності контролювати майбутні моделі. Варто зазначити, що компанії Anthropic та Google DeepMind вже обговорюють подібні техніки рекурентного міркування у власних розробках, що свідчить про те, що дискусія щодо прозорості моделей, ймовірно, вийде далеко за межі останнього релізу OpenAI.