В процессе обучения моделей машинного обучения может возникать скрытое повреждение данных (Silent Data Corruption, SDC), когда аппаратное обеспечение, например графический процессор, возвращает неверные, но правдоподобные значения без выдачи ошибок. Это может привести к распространению некорректных данных в градиенты и веса при распределенном обучении, что приводит к ухудшению качества модели и...
Amazon Web Services (AWS) проведет свою ежегодную образовательную конференцию re:Invent с 30 ноября по 4 декабря. Участники смогут ознакомиться с различными технологиями AWS посредством основных докладов, интерактивных мероприятий и более чем 2000 сессий, включая 140 в области искусственного интеллекта и машинного обучения. Сессии доступны для участников с разным уровнем подготовки, и некоторые...
В этой статье вы узнаете, как многократно используемые ресурсы из Центра инноваций в области генеративного искусственного интеллекта AWS могут помочь сократить время и стоимость разработки решений на основе генеративного ИИ. Эти ресурсы, включая конвейеры расширенного поиска и генерации, инструменты обработки документов и шаблоны для создания агентов, могут сэкономить командам месяцы работы, ка...
При проверке кода использование текстовых различий между файлами может быть обманчивым из-за синтаксических изменений, которые не влияют на смысл. Семантическая разница, вычисляемая с использованием метода анти-объединения, позволяет определить общие части и расхождения между политиками. Это полезно при создании формальных языковых моделей на основе естественного языка или при сравнении различн...
NVIDIA укрепляет свою приверженность системе с открытым исходным кодом Kubernetes, которая управляет приложениями в тысячах центров искусственного интеллекта, представляя новые инструменты для повышения безопасности и масштабируемости на конференции KubeCon + CloudNativeCon. NVIDIA передает в Cloud Native Computing Foundation (CNCF) NVIDIA OpenShell, платформу с открытым исходным кодом для защи...
При развертывании агента в производственной среде одной из распространенных задач является обеспечение соответствия его работы бизнес-требованиям в масштабе. Команды часто полагаются на поверхностные показатели, такие как процент завершенных операций и задержка, но эти данные не дают представления о том, действительно ли агент выполняет задачи, остается в рамках темы, не раскрывает конфиденциал...
В данном исследовании автор изучает производительность двух методов кодирования для моделей машинного обучения на основе деревьев, уделяя особое внимание градиентному бустингу с использованием решающих деревьев в качестве слабых обучающихся. Первый метод, названный "простым", использует порядковую кодировку для категориальных переменных. Второй метод, названный "сложным", использует сглаженную ...
Trovata – это платформа на базе искусственного интеллекта для управления корпоративными денежными средствами и ликвидностью, которая предоставляет прямой доступ к более чем 10 000 банков через единую систему. Команды финансового отдела сталкиваются с проблемами, связанными с разрозненными данными о банках, ручной отчетностью и устаревшими системами управления финансами (TMS). Инновационное реше...
Компания Tata Consultancy Services (TCS) выявила, что для клиентов в сфере банковского дела, финансовых услуг и страхования (BFSI) самым медленным этапом разработки является не написание кода приложения, а цепочка последующих действий. Это включает интерпретацию требований, разработку сценариев, создание и поддержание автоматизированных процессов, подготовку сред выполнения, анализ сбоев и сбор...
В этом обзоре мы представляем новую функцию Amazon Bedrock AgentCore – API для поиска в интернете. Этот API позволяет AI-агентам получать актуальные результаты поиска через один вызов API, используя существующие учетные данные AWS. Результаты включают заголовки, URL-адреса, даты публикации и фрагменты текста, релевантные запросу. Пользователи также могут указывать ограничения по доменам и диапа...
Новая версия модели Kimi K3.1 от Moonshot AI, получившая название Kimi K3.1 Pro Highspeed, теперь доступна на платформе Amazon Bedrock. Эта улучшенная модель, сохраняющая ту же открытую архитектуру и контекстное окно, была дообучена с использованием дополнительных вычислительных ресурсов, что позволило повысить ее эффективность в задачах, требующих обработки больших объемов информации, а также ...
В этом обзоре я опишу решение для организации хранилища данных мониторинга в рабочих нагрузках Amazon Bedrock. При выполнении множества вызовов моделей ежедневно в различных учетных записях становится сложно понять, что произошло после отправки запроса. Возникают вопросы о том, какой именно запрос был использован, какой ответ был получен от модели, сколько токенов было использовано, как обрабат...
В банковской сфере внутренний AI-ассистент помогает сотруднику с двумя типами запросов информации. Для поиска в списке контрольных вопросов ассистент использует технологию Retrieval Augmented Generation (RAG) от Amazon Bedrock Managed Knowledge Base, что позволяет получить быстрый и однозначный ответ. Для сравнения различных типов организаций – индивидуальных предпринимателей, ООО и партнерств ...
При развертывании моделей машинного обучения на Amazon SageMaker Inference с использованием графических процессоров, наименьшая доступная единица – это целый ускоритель. Это ограничение влияет на количество моделей, которые можно разместить на одном экземпляре, и требует использования полного графического процессора на старых экземплярах для моделей с меньшими требованиями к ресурсам, или более...
В этой статье авторы рассказывают о своем опыте создания системы AWS Quick, которая эволюционировала от простого ответа на вопросы до выполнения действий, и о проблемах, с которыми они столкнулись из-за отсутствия единой терминологии для базовых элементов в работе агентов. Они представляют таксономию работы агентов, основанную на вопросах: Когда, Что, Кто и Как. Триггеры, механизм активации раб...