Розгортання великих мовних моделей на інстансах AWS з графічними процесорами може бути трудомістким процесом, але Amazon FSx for Lustre та NVIDIA GPUDirect Storage дозволяють значно скоротити час завантаження — з хвилин до секунд. Завдяки новій архітектурі NVIDIA Blackwell сервери AWS P6e UltraServer забезпечують величезну обчислювальну потужність для масштабного навчання, оптимізуючи
У новій статті представлено Parallax — параметризовану версію локальної лінійної уваги (LLA) для трансформерів, яка підвищує ефективність без скорочення обчислювальних витрат. Parallax замінює обчислювач лінійних систем у LLA на навчену матрицю проекції, що спрощує алгоритм, підвищує його ефективність та полегшує реалізацію.
На конференції GTC Taipei компанія NVIDIA представила ПК RTX Spark для персональних агентів, оснащені новими обчислювальними потужностями та можливостями пам'яті для штучного інтелекту. Партнерство з Microsoft дозволяє впровадити безпечні вбудовані агенти в систему Windows, а також оновлення для Hermes Agent та OpenClaw.
Amazon Bedrock тепер пропонує GPT-5.5, GPT-5.4 та Codex для виробничих додатків штучного інтелекту. GPT-5.5 демонструє високу ефективність у програмуванні та роботі з інформацією, а також відрізняється покращеною здатністю виконувати багатоетапні завдання та підвищеною автономністю.
Компанія Genesis AI випустила Genesis World 1.0, що включає в себе модулі Nyx і Quadrants, а також інтерфейс моделювання, призначений для прискорення розробки робототехнічних моделей за допомогою симуляції. Оцінка, що займає менше 0,5 години, дає результати з точністю до біта, демонструючи кореляцію 0,8996 між результатами моделювання та результатами розгортання на апаратному забезпеченні.
Розгортання великих мовних моделей (LLM) на платформі Amazon SageMaker AI Inference вимагає комплексного контролю для моніторингу як стану інфраструктури, так і якості роботи LLM. Моніторинг таких показників, як затримка, кількість помилок і точність відповідей, має вирішальне значення для оптимізації витрат, продуктивності та якості результатів у довгостроковій перспективі.
Компанія Hexo Labs випустила SIA (Self-Improving AI) як фреймворк з відкритим кодом. SIA редагує як каркас агента, так і ваги моделі з метою постійного вдосконалення. Оновлення ваг підвищують ефективність у різних сферах, перевершуючи результати, досягнуті лише за рахунок редагування каркаса.
Hermes Agent від Nous Research впроваджує функцію Tool Search для усунення вузьких місць у системах штучного інтелекту, спричинених надмірною кількістю інструментів MCP. Tool Search оптимізує завантаження інструментів, підвищуючи точність і знижуючи витрати; значне підвищення точності було продемонстровано під час внутрішніх оцінок, проведених компанією Anthropic.
Метод дистиляції знань забезпечує передачу «прихованої інформації» від великих моделей до малих за допомогою дивергенції KL для кожної позиції. Розробка NVIDIA під назвою X-Token усуває недоліки міжтокенізаторної дистиляції знань, пропонуючи більш ефективний та дієвий метод, що базується на вирівнюванні проміжків та додаткових формулюваннях втрат.
Лінійна регресія прогнозує значення за допомогою ваг і зміщення. Такі методи, як SGD та L-BFGS, відрізняються за підходом до обробки складних даних.
Массачусетський технологічний інститут (MIT) та штат Массачусетс створять Лабораторію квантових систем (QSL) з метою розвитку квантових досліджень та інновацій. QSL стане передовим науково-дослідним центром, що сприятиме розвитку революційних квантових технологій у різних сферах практичного застосування.
Галузь робототехніки розвивається: дослідницький підрозділ NVIDIA Research демонструє технологію перенесення результатів моделювання в реальні умови, що дозволяє роботам адаптуватися та надійно працювати в динамічних середовищах. Серед інновацій — координація роботи декількох маніпуляторів за допомогою ScheduleStream та фреймворку політик COMPASS для різних типів роботів, що забезпечує значне ...
Моделі машинного навчання прогнозують такі показники, як дохід, статева приналежність, вік, штат проживання та політичні погляди. Заповнення пропущених даних для прогнозування може призвести до оманливих результатів у машинному навчанні.
Компанія Liquid AI випустила LFM2.5-8B-A1B — розріджену модель MoE для запуску інструментів безпосередньо на пристрої. Вона покращує здатність до міркування та демонструє вражаючі результати тестування порівняно з попередньою версією.
Компанія Azercell Telecom співпрацює з AWS над створенням великої мовної моделі (LLM) та чат-бота для Азербайджану, досягаючи значної оптимізації та вдосконалення. Платформа на базі Amazon SageMaker AI забезпечує вищу продуктивність навчання, меншу витрату пам’яті та подвоєну ємність для обробки тексту, надаючи аналітичні дані для роботи зі складними мовами.