3.3. Использование нейросетей в современном мире
Существует много областей в сфере искусственного интеллекта. Одна из наиболее значимых — computer vision. Давайте познакомимся с ней подробнее, посмотрев видео.
Обучение с подкреплением
В обучении с подкреплением (reinforcement learning, RL) мы хотим построить алгоритм, моделирующий обучение методом проб и ошибок. Вместо получения обучающей выборки на вход такой алгоритм будет взаимодействовать с некоторой средой (environment), окружающим миром, а в роли «разметки» будет выступать награда (reward) — скалярная величина, которая выдается после каждого шага взаимодействия со средой и показывает, насколько хорошо алгоритм справляется с поставленной ему задачей. Например, если вы печёте тортики, то за каждый испеченный тортик вы получаете +1, а если вы пытаетесь кататься на велосипеде, то за каждое падение с велосипеда вам прилетает -1.
Метод активно используется в игровой индустрии.
К примеру, мы погружаем модель в условия игры. За каждый шаг она получает либо штраф, либо поощрение. Допустим, она потеряла жизнь или встретилась с привидением — это штраф. Нашла кристалл — поощрение и поддерживающая обратная связь. Скоро она улавливает стратегию игры и начинает себя прекрасно в ней проявлять.
Так, искусственный интеллект смог победить европейского чемпиона по настольной игре го. До этого го была одной из немногих логических игр, профессиональные игроки в которую выигрывали у компьютеров.
Кроме того, уже представлена окончательная версия программы AlphaStar — искусственного интеллекта, способного играть в классическую стратегию StarCraft II. Еще в январе 2019 года AlphaStar играла на уровне продвинутых любителей, а сегодня усовершенствованный ИИ соперничает с лучшими из лучших. Это большая победа для ИИ, так как игра очень сложная, с большим количеством механик.
Метод активно используется в игровой индустрии.
К примеру, мы погружаем модель в условия игры. За каждый шаг она получает либо штраф, либо поощрение. Допустим, она потеряла жизнь или встретилась с привидением — это штраф. Нашла кристалл — поощрение и поддерживающая обратная связь. Скоро она улавливает стратегию игры и начинает себя прекрасно в ней проявлять.
Так, искусственный интеллект смог победить европейского чемпиона по настольной игре го. До этого го была одной из немногих логических игр, профессиональные игроки в которую выигрывали у компьютеров.
Кроме того, уже представлена окончательная версия программы AlphaStar — искусственного интеллекта, способного играть в классическую стратегию StarCraft II. Еще в январе 2019 года AlphaStar играла на уровне продвинутых любителей, а сегодня усовершенствованный ИИ соперничает с лучшими из лучших. Это большая победа для ИИ, так как игра очень сложная, с большим количеством механик.
Машинное обучение на графах
Сложность представления данных для глубокого обучения растет с каждым днем. Нейронные сети на основе данных в виде графа (graph neural network, GNN) стали одним из прорывов последних лет. Но почему именно графы набирают все большую популярность в машинном обучении?
Графы — один из самых мощных и гибких способов представления данных. Они обладают большой выразительной силой и могут использоваться как обозначение большого числа систем в различных областях.
Проще говоря, с помощью графа мы можем представить любые сложные данные. Их можно использовать во многих сферах: от разработки лекарств до рекомендаций по дружбе в социальных сетях. Теперь графы — основа многочисленных систем, которые позволяют эффективно хранить реляционные знания и получать доступ к ним.
В последнее время активно развиваются алгоритмы обработки графов как отдельной структуры, представление целого графа с помощью сжатых представлений, одного конкретного узла графа и т. д.
Сегодня можно выделять сообщества в социальных сетях по разным признакам, делать на их основе рекомендательные системы или алгоритмы детекции фрода — мошеннических операций в сфере информационных технологий.
Графы — один из самых мощных и гибких способов представления данных. Они обладают большой выразительной силой и могут использоваться как обозначение большого числа систем в различных областях.
Проще говоря, с помощью графа мы можем представить любые сложные данные. Их можно использовать во многих сферах: от разработки лекарств до рекомендаций по дружбе в социальных сетях. Теперь графы — основа многочисленных систем, которые позволяют эффективно хранить реляционные знания и получать доступ к ним.
В последнее время активно развиваются алгоритмы обработки графов как отдельной структуры, представление целого графа с помощью сжатых представлений, одного конкретного узла графа и т. д.
Сегодня можно выделять сообщества в социальных сетях по разным признакам, делать на их основе рекомендательные системы или алгоритмы детекции фрода — мошеннических операций в сфере информационных технологий.
Рекомендательные системы
Все мы каждый день сталкиваемся с рекомендациями, которые подбираются специально под нас, на основе наших запросов или посещенных сайтов. Самый яркий пример — это, конечно, YouTube. Система рекомендаций в сервисе учитывает просмотры и предпочтения сотен миллионов пользователей, а также длину, жанр, язык или конкретные персоналии, и составляет список рекомендаций на основе обработки этих данных.
Рекомендательные системы используются в самых разных областях. Общепризнанные примеры:
генераторы плейлистов для видео- и музыкальных сервисов
рекомендации товаров для интернет-магазинов
рекомендации контента для платформ социальных сетей
рекомендации открытого веб-контента
Считается, что рекомендательная система CineMatch, созданная Netflix, — одна из наиболее продуманных в мире. При регистрации вас просят указать несколько любимых фильмов и сериалов. На их основе генерируется лента, которая будет подстраиваться под ваши вкусы. С помощью лайков и дизлайков вы можете корректировать ее и добавлять понравившиеся фильмы в плейлист.
Таким образом, рекомендательные системы приносят очевидную выгоду владельцам онлайн-магазинов, различных сервисов и приложений. Они показывают пользователю именно то, что ему интересно, и генерируют прибыль.
Таким образом, рекомендательные системы приносят очевидную выгоду владельцам онлайн-магазинов, различных сервисов и приложений. Они показывают пользователю именно то, что ему интересно, и генерируют прибыль.
Большие языковые модели
Большие языковые модели (LLM) — это часть natural language processing, передовые системы ИИ, предназначенные для обработки, понимания и создания текста, подобного человеческому. Они основаны на методах глубокого обучения и обучены на массивных наборах данных, обычно содержащих миллиарды слов из различных источников, таких как веб-сайты, книги и статьи. Это обширное обучение позволяет LLM понимать нюансы языка, грамматики, контекста и даже некоторые аспекты общих знаний.
Базовые задачи LLM:
языковые модели
рекуррентные нейронные сети
механизм внимания (именно он лежит в основе ChatGPT)
К задачам LLM относятся также:
машинный перевод
классификация текста
генерация текста
На схеме ниже вы можете видеть рост моделей за последние годы. Объем моделей и их предсказательная сила растут. Это можно наблюдать по взрыву LLM.
Некоторые популярные LLM, такие как GPT-3 компании OpenAI, используют тип нейронной сети, называемый преобразователем, который позволяет им решать сложные языковые задачи с замечательным мастерством. Эти модели могут выполнять широкий спектр задач, таких как:
ответы на вопросы
создание обобщающего текста
перевод языков
генерация контента
участие в интерактивных беседах с пользователями
Чтобы полностью понять возможности и работу LLM, важно ознакомиться с некоторыми ключевыми понятиями.
Вложение слов
Это относится к практике перевода слов в числовой формат, который могут интерпретировать модели ИИ. По сути, встраивание слов — это язык ИИ. Каждое слово представлено в виде многомерного вектора, который позволяет ИИ понимать отношения и сходства между словами, улучшать понимание и производительность модели.
Механизмы внимания
Они помогают модели ИИ отдавать приоритет определенным элементам входного текста. Эта стратегия позволяет ИИ генерировать более контекстуально точные и детализированные ответы.
Трансформаторы
Преобразователи представляют собой усовершенствованный тип архитектуры нейронной сети, широко используемый в исследованиях LLM. Их отличает механизм самоконтроля. Он позволяет модели взвешивать и рассматривать все части входных данных одновременно, а не в последовательном порядке.
Тонкая настройка
Даже самые продвинутые LLM требуют некоторой адаптации. Именно здесь вступает в действие тонкая настройка. После первоначального обучения модели на большом наборе данных ее можно дополнительно уточнить или «тонко настроить» на меньшем, более конкретном наборе данных. Это позволяет модели адаптировать общие способности понимания языка к более специализированной задаче или контексту.
Быстрый инжиниринг
Подсказки ввода служат отправной точкой для создания выходных данных. Эффективная разработка подсказок может сильно повлиять на качество ответов модели. Это смесь искусства и науки, требующая четкого понимания того, как модель интерпретирует подсказки и генерирует ответы.
Смещение
Поскольку LLM учатся на данных, любая предвзятость в них может проникнуть в поведение модели. Это может проявляться как дискриминационные или несправедливые тенденции в результатах модели. Устранение и смягчение этих предубеждений — серьезная проблема в области ИИ.
Интерпретируемость
Учитывая сложность LLM, понять, почему они принимают определенные решения или генерируют определенные результаты, может быть непросто. Эта характеристика, известная как интерпретируемость, — ключевая область текущих исследований. Ее повышение не только помогает в устранении неполадок и уточнении моделей, но и доверие к системам ИИ и их прозрачность.
Итак, вы усвоили ключевые понятия LLM. Давайте узнаем, как они обучаются.
Как LLM обучаются
Обучение больших языковых моделей включает в себя несколько важных шагов. Вот упрощенное пошаговое описание процесса.
Наведите курсор на выделенные элементы, чтобы узнать больше
Очистка данных
Затем необработанные текстовые данные упорядочиваются в процессе, называемом предварительной обработкой. Сюда входят такие задачи, как удаление ненужных символов, разбиение текста на более мелкие части, называемые токенами, и преобразование всего этого в формат, с которым может работать модель.
Затем необработанные текстовые данные упорядочиваются в процессе, называемом предварительной обработкой. Сюда входят такие задачи, как удаление ненужных символов, разбиение текста на более мелкие части, называемые токенами, и преобразование всего этого в формат, с которым может работать модель.
Сбор текстовых данных
Обучение LLM начинается со сбора большого количества текстовых данных. Эти данные могут поступать из книг, веб-сайтов, статей или платформ социальных сетей. Цель состоит в том, чтобы захватить богатое разнообразие человеческого языка.
Обучение LLM начинается со сбора большого количества текстовых данных. Эти данные могут поступать из книг, веб-сайтов, статей или платформ социальных сетей. Цель состоит в том, чтобы захватить богатое разнообразие человеческого языка.
Разделение данных
Затем чистые данные разбиваются на два набора. Один набор, обучающие данные, будет использоваться для обучения модели. Другой набор, проверочные данные, будет использоваться позже для проверки производительности модели.
Затем чистые данные разбиваются на два набора. Один набор, обучающие данные, будет использоваться для обучения модели. Другой набор, проверочные данные, будет использоваться позже для проверки производительности модели.
Настройка модели
Затем определяется структура LLM, известная как архитектура. Это включает в себя выбор типа нейронной сети и определение различных параметров, таких как количество слоев и скрытых элементов в сети.
Затем определяется структура LLM, известная как архитектура. Это включает в себя выбор типа нейронной сети и определение различных параметров, таких как количество слоев и скрытых элементов в сети.
Обучение модели
Теперь начинается настоящее обучение. LLM учится, просматривая обучающие данные, делая прогнозы на основе того, что она уже узнала, а затем корректируя свои внутренние параметры, чтобы уменьшить разницу между ее прогнозами и фактическими данными.
Теперь начинается настоящее обучение. LLM учится, просматривая обучающие данные, делая прогнозы на основе того, что она уже узнала, а затем корректируя свои внутренние параметры, чтобы уменьшить разницу между ее прогнозами и фактическими данными.
Проверка модели
Обучение LLM проверяется с использованием проверочных данных. Это помогает увидеть, насколько хорошо работает модель, и настроить ее параметры для повышения производительности.
Обучение LLM проверяется с использованием проверочных данных. Это помогает увидеть, насколько хорошо работает модель, и настроить ее параметры для повышения производительности.
Использование модели
После обучения и оценки LLM готова к использованию. Теперь ее можно интегрировать в приложения или системы, где она будет генерировать текст на основе новых входных данных.
После обучения и оценки LLM готова к использованию. Теперь ее можно интегрировать в приложения или системы, где она будет генерировать текст на основе новых входных данных.
Улучшение модели
Наконец, всегда есть место для улучшения. LLM можно со временем уточнять, используя обновленные данные или корректируя настройки на основе обратной связи и реального использования.
Наконец, всегда есть место для улучшения. LLM можно со временем уточнять, используя обновленные данные или корректируя настройки на основе обратной связи и реального использования.
Помните, что этот процесс требует значительных вычислительных ресурсов, таких как мощные процессоры и большое хранилище, а также специальных знаний в области машинного обучения. Вот почему этим обычно занимаются специализированные исследовательские организации или компании, имеющие доступ к необходимой инфраструктуре и опыту.