Стрічка новин про штучний інтелект і машинне навчання

Головні новини та публікації щодня! Будьте на крок попереду: дізнавайтеся першими про нові ідеї, тренди та інновації у сфері технологій

Parcae: вдосконалення мовних моделей на основі циклів в Каліфорнійському університеті в Сан-Дієго

Дослідники з Каліфорнійського університету в Сан-Дієго та компанії Together AI представляють Parcae — архітектуру трансформера з циклічною структурою, яка демонструє кращі результати, ніж попередні моделі, при використанні тих самих параметрів і навчальних даних. Конструкція Parcae дозволяє вирішити проблему обмеженості пам’яті та забезпечує більшу обчислювальну потужність за один прохід, усув...

Розкриття таємниць word2vec: секрети семантичного навчання

Дослідники розкрили динаміку навчання алгоритму word2vec, виявивши його лінійну структуру та послідовні етапи. Мінімальна нейронна модель алгоритму дає уявлення про процес навчання ознак у складних мовних задачах.

Опанування процесів навчання та розгортання великих мовних моделей

Навчання сучасної великої мовної моделі передбачає попереднє навчання загальним мовним шаблонам, а потім — контрольоване точне налаштування для виконання конкретних завдань. Такі методи, як LoRA та RLHF, дозволяють вдосконалити модель, що дає змогу впроваджувати її в реальні системи для досягнення оптимальної продуктивності та забезпечення максимальної користі.

Захист запитів: StruQ та SecAlign

Останні досягнення у сфері великих мовних моделей (LLM) відкривають можливості для створення цікавих інтегрованих додатків, однак атаки типу «prompt injection» становлять серйозну загрозу. StruQ та SecAlign — це запропоновані засоби захисту, покликані зменшити ризики, пов’язані з атаками «prompt injection» у системах LLM, таких як Google Docs та ChatGPT.

Робочі процеси на основі штучного інтелекту від Google в Chrome, що запускаються одним кліком

Google впроваджує функцію Skills in Chrome у рамках Gemini, що дозволяє користувачам зберігати запити до штучного інтелекту як робочі процеси, які можна використовувати повторно. Ця функція спрощує виконання завдань у декількох вкладках, даючи уявлення про майбутнє агентів штучного інтелекту на рівні браузера.

Оптимізація перетворення тексту в SQL за допомогою Amazon Nova Micro та Bedrock

Завдання з перетворення тексту в SQL вирішуються за допомогою моделей Amazon Bedrock та Nova Micro, що забезпечують економічно ефективні індивідуальні рішення. Точне налаштування адаптерів LoRA під конкретні діалекти SQL гарантує високу продуктивність без постійних витрат на хостинг.

Трансформація дотримання вимог у сфері штучного інтелекту за допомогою автоматизованого міркування

Перевірки автоматизованого міркування в Amazon Bedrock Guardrails забезпечують математично обґрунтовані та піддаються аудиту результати роботи ШІ для галузей, що підлягають регулюванню. Використовуючи методи формальної верифікації, команди з питань дотримання нормативних вимог можуть отримувати результати, правильність яких можна довести, усуваючи обмеження ймовірнісної валідації ШІ.

Революція в моделях згортання білків

PLAID — модель, що генерує послідовності та структури білків, — відображає роль штучного інтелекту в біології. Модель вирішує такі завдання, як моделювання всіх атомів та врахування специфіки організмів, маючи на меті ефективне створення корисних білків.

Сила даних у штучному інтелекті

Саме дані, а не алгоритми, визначають цінність штучного інтелекту. Такі компанії, як Amazon, Google та Microsoft, досягають успіху завдяки власним високоякісним наборам даних. Якість даних має вирішальне значення для успіху штучного інтелекту, що робить їх стратегічним активом, який забезпечує конкурентну перевагу у XXI столітті.

Революція у сфері роздрібної торгівлі завдяки штучному інтелекту AWS

Роздрібні продавці стикаються з проблемами, пов’язаними з онлайн-покупками, що призводить до зростання кількості повернень та зниження довіри споживачів. Впровадження технології віртуальної примірки за допомогою Amazon Nova Canvas та Rekognition може сприяти підвищенню прибутковості

Революція в галузі навчання з підкріпленням: новий підхід

Новий алгоритм RL на основі стратегії «розділяй і володарюй» кидає виклик традиційному навчанню методом TD, забезпечуючи масштабованість для завдань із тривалим горизонтом. Політика «поза політикою» (Off-policy RL) забезпечує гнучкість у роботі зі старими даними, що має вирішальне значення для таких складних галузей, як робототехніка та охорона здоров’я.

Дискримінація за діалектом: виявлення мовних упереджень у ChatGPT

ChatGPT демонструє упереджене ставлення до «нестандартних» різновидів англійської мови, а його відповіді містять стереотипи та зверхність. У рамках дослідження GPT-3.5 Turbo та GPT-4 отримали запити з 10 різновидами англійської мови, що виявило збереження рис стандартної американської англійської.

Реклама, створена штучним інтелектом, викликала обурення

Британська компанія з розробки штучного інтелекту Narwhal Labs зіткнулася з хвилею обурення через сексистську рекламу, в якій стверджується, що «співробітник-ШІ» працює більше за всіх, не вимагаючи при цьому підвищення зарплати. Управління з рекламних стандартів отримало скарги на рекламну кампанію з цим суперечливим слоганом.

Вартість токена: ключовий показник загальної вартості володіння (TCO) у сфері штучного інтелекту

Центри обробки даних перетворилися на фабрики токенів штучного інтелекту, зосередившись на вартості одного токена, а не на суто обчислювальній потужності. NVIDIA пропонує найнижчу в галузі вартість одного токена, що дозволяє максимізувати дохід і прибуток.