Исследователи из Meta, Стэнфордского университета и Вашингтонского университета усовершенствовали модель Byte Latent Transformer с помощью трёх новых методов. BLT-D заменяет побайтовое декодирование блочным диффузионным подходом, что позволяет ускорить генерацию текста.
Исследователи из компаний Sakana AI и NVIDIA стремятся снизить высокую стоимость крупных языковых моделей, устраняя неэффективность в слоях прямого прохождения. Используя неструктурированную разреженность, они стремятся повысить эффективность вычислений в этих слоях, уделяя особое внимание пакетному обучению и высокопроизводительному выводу.
Интеграция Exa с Strands Agents SDK упрощает доступ ИИ-агентов к структурированному веб-контенту, что обеспечивает беспрепятственное принятие решений. Модельно-ориентированная архитектура Strands Agents SDK расширяет возможности агентов благодаря более чем 40 готовым инструментам и поддержке серверов MCP.
Такие компании, как Meta и Google, используют крупные языковые модели для обучения более компактных и эффективных моделей с помощью дистилляции LLM. Дистилляция с мягкими метками позволяет обучаемым моделям унаследовать способности к логическому мышлению от обучающих моделей, повышая стабильность и эффективность обучения.
Компания Miro в партнерстве с AWS разрабатывает BugManager — решение на базе искусственного интеллекта для автоматической классификации ошибок, позволяющее сократить количество перенаправлений и время устранения неполадок. BugManager использует оптимизированные подсказки и технологию RAG (Retrieval Augmented Generation) для повышения точности классификации ошибок.
Генеральный директор NVIDIA Дженсен Хуанг на выпускной церемонии в Университете Карнеги-Меллон подчеркнул, что сейчас начинается революция в области искусственного интеллекта. Искусственный интеллект дает Америке шанс на реиндустриализацию и создание возможностей для всех.
Компания NVIDIA представляет Star Elastic — метод встраивания нескольких вложенных подмоделей в одну родительскую модель, позволяющий сократить затраты на обучение и развертывание крупных языковых моделей. Star Elastic использует оценку важности и обучаемые маршрутизаторы для создания вложенных вариантов с разными наборами параметров в рамках одной контрольной точки.
Новые автокодировщики естественного языка (NLA) от Anthropic преобразуют сложные активации моделей в удобочитаемый текст, раскрывая скрытые внутренние механизмы работы. NLA уже используются для выявления моделей, допускающих ошибки, и исправления языковых ошибок до публичного выпуска.
Компания Halliburton в партнерстве с AWS разрабатывает виртуального помощника на базе искусственного интеллекта для платформы Seismic Engine, что позволяет сократить время на создание рабочих процессов почти на 95 %. Теперь геологи могут настраивать инструменты обработки данных с помощью естественного языка, что повышает эффективность и доступность работы.
Последние достижения в области адаптивного параллельного вывода позволяют моделям самостоятельно разбивать задачи на подзадачи и координировать их выполнение, что приводит к улучшению способности к выводу и сокращению задержек при решении сложных задач. Теперь модели рассматривают альтернативные гипотезы и исправляют ошибки, формулируя выводы, не ограничиваясь одним единственным решением, что ...
Команда Meta AI представляет NeuralBench — комплексный фреймворк с открытым исходным кодом для оценки моделей искусственного интеллекта, имитирующих мозговую активность, призванный решить проблему фрагментированности сферы оценки нейро-ИИ. NeuralBench-EEG v1.0 — крупнейший тестовый набор такого рода, охватывающий 36 задач, 94 набора данных и 14 архитектур глубокого обучения в рамках стандартиз...
ИИ-агенты развиваются, чтобы самостоятельно выполнять сложные задачи. Amazon Bedrock AgentCore в сотрудничестве с Coinbase и Stripe внедряет функции обработки платежей для агентов, что упрощает транзакции и повышает эффективность работы разработчиков.
С 1980 года автоматизация привела к росту неравенства доходов в США, поскольку она привела к замене высокооплачиваемых работников, что сказалось на производительности труда. Исследование, проведенное Дароном Асемоглу из Массачусетского технологического института и Паскуалем Рестрепо из Йельского университета, указывает на неэффективность подхода компаний к внедрению автоматизации.
Модель ZAYA1-8B от Zyphra AI, языковая модель с механизмом MoE и общим количеством параметров 8,4 млрд, превосходит более крупные модели в решении математических задач. Уникальная архитектура и инновационные решения ZAYA1-8B позволяют максимально повысить эффективность работы и снизить требования к объему памяти, благодаря чему модель может составить конкуренцию ведущим моделям.
Применение метода обучения с подкреплением с проверяемыми вознаграждениями (RLVR) позволяет повысить эффективность обучения за счет обеспечения прозрачности сигналов вознаграждения. Такие методы, как GRPO и обучение на небольшом количестве примеров, способствуют улучшению результатов, что было продемонстрировано на наборе данных GSM8K по точности решения математических задач.