В феврале мы познакомились с Gemini 1.5 Pro и контекстным окном в 1 миллион токенов, позволяющим обрабатывать огромные объемы информации за один раз — 1 час видео, 11 часов аудио, 30 000 строк кода или более 700 000 слов.

Сегодня я бы хотела рассмотреть вопрос обработки видео, а именно просмотра часового видео (вернее сказать 58 м 19 с) и оценить, как хорошо модель будет извлекать информацию.

Начнем с вводных. Модель испытывается на способность работать с обширным контекстом через ряд искусственных и прикладных задач. В частности, в задачах искусственного характера, таких как «поиск иголки в стоге сена», которые проверяют способность модели точно выделять нужные данные на фоне избыточной информации, модель Gemini 1.5 Pro продемонстрировала исключительные результаты, превышающие 99,7% точности. Это касается и поиска при значительном увеличении объема «шума» до нескольких миллионов токенов в разнообразных модальностях, включая текст, видео и аудио.

На рисунке ниже проводится сравнение между Gemini 1.5 Pro и GPT-4V в задаче идентификации скрытого слова в видео разной длительности, достигающей до трех часов. Задача моделей заключается в выявлении слова, замаскированного в тексте на протяжении всего видео. Для анализа используется частота 1 кадр/с. На левой стороне изображения две сетки размерами 10 на 50 отражают эффективность работы Gemini 1.5 Pro и GPT-4V на примере первого часа документального фильма. К примеру, верхняя левая ячейка отображает результаты анализа первых 1.2 минут видео и отбор кадров из первых 10% этого временного отрезка, где было скрыто слово. Зеленый цвет ячейки символизирует успешное обнаружение слова, в то время как серый указывает на ошибку API. В то время как API GPT-4V способно анализировать видео только до трех минут, Gemini 1.5 Pro показывает возможность находить слово на протяжении полного часа видео, что подтверждается полностью зеленой сеткой. Справа расположена сетка 10 на 10, которая иллюстрирует безупречную работу Gemini 1.5 Pro в анализе трехчасового видео.

Поскольку мы говорим про видео, то стоит обратиться к примеру обработки немого кино Бастера Китона «Шерлок-младший», продолжительностью в 45 м. Преобразовав видео в последовательность изображений (2674 кадра) с частотой 1 кадр/с, они создали вводный контекст из 684,000 токенов для модели. Это позволило модели извлекать и обрабатывать информацию из конкретного кадра и предоставлять соответствующую временную метку. На картинке ниже по второму промту модель определяет сцену в фильме по рисунку от руки:

Что ж, звучит заманчиво, потому не будем медлить и проверим самостоятельно.

Потестим?

Вспомним методы коммуникации Мэтта Абрахамса и с ними пройдемся по модели, поскольку целый час времени выделить тяжело, а память освежить хочется.

Ремарка на всякий случай: доступ из России ограничен, поэтому для использования необходим иностранный IP, те еще танцы с бубном.

Качаем mp4 видео и идем в Google AI Studio. При загрузке увидела целый 1,032,500 токенов, не дурно, да? 1 токен примерно равен 0,75 слова или 4-м символам, то есть общее число слов составляет порядка 774,375 или если считать по символам — 4,130,000. (для английского)

Я прикинула пул вопросов, поэтому не будем тянуть и перейдем к каждому по порядку!

*Я не буду злоупотреблять, потому прикреплю только часть скринов, поскольку некоторые из них без явной демонстрации того, о чем говорится.

**Также промты я писала на английском, потому здесь будут представлены переводы вопросов и ответов.

Почему спонтанная речь более распространена?

Первый ответ сгенерировался примерно за 80 с (по завершении — это в принципе среднее время ответа модели в моем случае).

Спикер объясняет, что спонтанная речь встречается чаще, чем запланированная (03:43). Он приводит несколько примеров ситуаций спонтанной речи, с которыми мы сталкиваемся в нашей повседневной жизни:

• Предисловие: Когда вас просят представить людей на ужине или мероприятии.

• Обратная связь: Предоставление импровизированной обратной связи, когда это запрашивает начальник или коллега.

• Тосты: Произнесение неожиданного тоста на торжестве.

• Вопросы и ответы: Ответы на вопросы во время сессии вопросов и ответов после презентации или выступления.

Эти примеры иллюстрируют, как спонтанная речь переплетается с различными аспектами нашей личной и профессиональной жизни, делая её более частым явлением по сравнению с запланированными презентациями или речами.

Перейдем по таймкоду:

Да, это нужный таймкод, именно в этот момент лектор начинает приводить примеры спонтанной речи.

Тогда двигаемся далее.

Основные темы, освещаемые спикером

Основные темы видео:

• Управление тревожностью при публичных выступлениях: Спикер подчеркивает важность управления тревожностью при публичных выступлениях, признавая, что это общий опыт для большинства людей (04:41). Он предлагает техники, такие как «приветствие своей тревоги» (07:00) и переосмысление ситуации выступления как беседы (09:19), чтобы помочь людям чувствовать себя более комфортно и уверенно.

• Структура в спонтанных выступлениях: Видео подчеркивает ценность структуры в спонтанных выступлениях. Спикер представляет две структуры:

  • Проблема-Решение-Выгода: Эта структура включает в себя описание проблемы, предложение решения и выделение выгод от этого решения (40:14).

  • Что-И что из этого-Что дальше: Эта структура фокусируется на объяснении, что такое что-то, почему это важно и какие следующие шаги (41:58).

• Ориентация на настоящее: Спикер поощряет сосредоточение внимания на настоящем моменте, а не задумываться о потенциальных будущих исходах или ошибках (12:04). Он предлагает техники, такие как обратный отсчет от 100 сложными числами или произношение скороговорок (13:22), чтобы помочь людям оставаться в настоящем и избегать переосмысления.

• Важность слушания: Видео подчеркивает критическую роль слушания в эффективной коммуникации, особенно в спонтанных сценариях выступлений (06:18). Активно слушая аудиторию и понимая их потребности, спикеры могут адаптировать свои ответы и вступать в более значимое взаимодействие.

• Практика и подготовка: Несмотря на то, что акцент делается на спонтанных выступлениях, спикер признает ценность практики и подготовки. Он поощряет людей репетировать, используя предложенные структуры и техники, чтобы нарастить уверенность и улучшить свою способность эффективно реагировать в непредвиденных ситуациях.

Первые четыре пункта — все хорошо, даже отлично, идеальные таймкоды, в каждый из предложенных спикер начинает погружать в тему, однако вопрос вызывает последний пункт — модель не прикрепила таймкод, в целом, это можно уточнить, но на карандаш стоит взять.

Идем дальше.

Как мы управляем тревогой при общении?

Управление тревогой при общении

Видео предлагает несколько техник управления тревогой, особенно в первые минуты перед выступлением, на основе академических исследований и опыта лектора в Высшей школе бизнеса Стэнфорда:

• (07:20 — 07:47) Приветствуйте свою тревогу: Видео предлагает, вместо того чтобы пытаться подавить чувство нервозности, признать его и осознать, что это естественная реакция на ситуацию, воспринимаемую как важную. Принимая эти чувства, вы можете предотвратить их усиление и взятие под контроль.

• (08:26 — 09:13) Переосмысление ситуации: Измените свою точку зрения, перестав рассматривать выступление как представление и начав видеть его как разговор. Думая о нем как о разговоре с вашей аудиторией, вы уменьшаете давление необходимости сделать все «правильно» и позволяете себе более естественное и расслабленное взаимодействие.

• (13:34 — 13:40) Сосредоточение на настоящем моменте: Техники, такие как скороговорки или обратный отсчет с 100 по семь, могут помочь сосредоточить ваше внимание на настоящем моменте. Занимая ваш ум простой задачей, вы переключаете внимание с тревог о будущем или потенциальных негативных исходов.

• (13:40 — 13:46) Разминка голоса: Многие нервные ораторы пренебрегают разминкой голоса, что может усугубить тревогу. Занятия вокальными упражнениями, такими как скороговорки, могут помочь подготовить ваш голос к выступлению и дополнительно способствуют сосредоточению на настоящем моменте.

В целом, все тайминги верные, разве я бы начало третьего интервала переместила с 13:34 на 13:27. Последние два пункта стоило бы поместить внутрь «переосмысления», а также внутри переосмысления должны быть «начните с вопросов» и «используйте разговорный язык». То есть либо должно быть шесть самостоятельных пунктов, либо два основных, где у последнего 4 подпункта.

Переходим к следующему вопросу.

Стоит ли использовать юмор на выступлениях?

Использование юмора в выступлениях

Видео кратко затрагивает тему юмора, выделяя риски и вознаграждения, и предлагая советы по его эффективному включению:

• (56:14 — 56:21) Риски и вознаграждения: Хотя юмор может быть мощным инструментом для связи с аудиторией и повышения привлекательности вашей презентации, он также несет в себе риски. Шутки, которые не срабатывают или культурно неприемлемы, могут негативно повлиять на вашу достоверность и эффективность вашего сообщения.

• (56:31 — 56:33) Проверьте ваш юмор: Чтобы снизить риски, докладчик предлагает проверять ваш юмор на других, прежде чем включать его в вашу презентацию. Получите обратную связь от разнообразной группы людей, чтобы оценить, насколько ваши шутки, скорее всего, найдут отклик у вашей целевой аудитории и избежать любых потенциальных культурных промахов.

• (56:37 — 56:43) Имейте запасной план: Если шутка не сработает как задумано, имейте запасной план для изящного восстановления. Докладчик предлагает самоиронию как «наименее рискованный» вариант, так как это позволяет вам признать ситуацию и потенциально превратить её в юмористический момент.

• (56:14 — 56:21): Видео подчеркивает, что «самоирония — ваш лучший выбор» при использовании юмора, так как она менее вероятно обидит и может помочь наладить контакт с аудиторией, показав вашу человеческую сторону.

Про юмор спикер начинает говорить на моменте 55:54. В 56:00 он уже говорит о том, что это рискованно и начинает перечислять причины, а в 56:10 начинает говорить о самоиронии. В принципе не критично, поскольку все основные моменты передал, но пометку сделали.

А что еще аудитория спрашивала? Сейчас узнаем!

Какие еще вопросы были заданы во время выступления?

Вопросы, заданные во время презентации

Видео включает два вопроса аудитории, связанных с конкретными ситуациями выступления:

(51:00 — 51:15): Участник аудитории, который часто участвует в удаленных презентациях с географически разбросанной аудиторией через телеконференции, попросил советов по обращению с этим типом выступлений. Докладчик признал сложности удаленных презентаций и предложил включать методы вовлечения, требующие активного участия аудитории, даже когда они физически отсутствуют.

(52:18 — 52:26): Другой участник аудитории, работающий адвокатом, осведомился о стратегиях управления враждебной средой перекрестного допроса во время судебных разбирательств. Хотя докладчик признал отсутствие личного опыта в этой конкретной области, он подчеркнул важность ранее обсуждавшихся техник, таких как управление тревогой, переосмысление ситуации и перефразирование вопросов, чтобы выиграть время и сформулировать эффективные ответы.

Как я понимаю: модель вывела диапазоны именно для заданного вопроса, то есть в какой момент кто-то из аудитории задал вопрос, поскольку по таймингам именно такой вариант подходит. Оба вопроса верно подсвечены, однако не хватает пары вопросов, например, я хотела бы увидеть вопрос про враждебное общение. Всего спикеру было задано 6 вопросов, не учитывая вопрос, когда девушка просила вернуть экран, а также опуская вопрос про юмор, которые мы осветили ранее. То есть суммарно модель проигнорировала 3 вопроса (либо 4, если учитывать вопрос-просьбу), хотя запрос изначально подразумевал все вопросы, заданные о стороны аудитории во время выступления (опуская вопрос про юмор). Думаю, это вполне решаемо уточнением промта. Запомнили и можем идти дальше.

Напиши детализированное резюме лекции

Краткое содержание лекции: Думайте быстро, говорите умно — эффективное спонтанное выступление

Этот интерактивный семинар в Высшей школе бизнеса Стэнфорда был направлен на помощь людям в становлении более эффективными и уверенными коммуникаторами в ситуациях спонтанных выступлений. Докладчик, опираясь на академические исследования и личный опыт, рассмотрел общую проблему тревоги, связанной с публичными выступлениями, и предложил несколько техник для ее управления, включая:

• Приветствие вашей тревоги: принятие чувства нервозности как естественной реакции.

• Переосмысление ситуации: изменение перспективы с выступления на разговор.

• Фокус на настоящем моменте: техники, такие как скороговорки или упражнения на счет, чтобы оставаться в настоящем.

• Разминка голоса: выполнение вокальных упражнений для подготовки голоса и снижения тревоги.

Лекция подчеркивала важность структуры для эффективной передачи сообщения. Докладчик представил две ключевые структуры:

• Проблема-Решение-Выгода: эта структура помогает докладчику четко очертить проблему, предложить решение и подчеркнуть выгоды от принятия этого решения.

• Что? И что из этого? Что дальше?: Эта структура помогает отвечать на вопросы, уточняя проблему, объясняя ее важность и намечая следующие шаги.

Семинар также затронул использование юмора, признавая его потенциал для связи с аудиторией, но также подчеркивая риски, связанные с тем, что шутки могут не сработать или быть культурно неприемлемыми. Докладчик рекомендовал использовать самоироничный юмор как более безопасный вариант и подчеркнул важность тестирования юмора на разнообразной группе людей перед его включением в презентацию.

Наконец, семинар рассмотрел проблемы удаленных презентаций и враждебных вопросов, предлагая техники, такие как вовлечение аудитории и перефразирование, для эффективного управления этими конкретными ситуациями.

Какие ключевые уроки были выделены?

Основные уроки из лекции:

• Управление тревогой имеет решающее значение для эффективной коммуникации. Примите свою нервозность, переосмыслите ситуацию и сосредоточьтесь на настоящем.

• Структурируйте свое сообщение для ясности и воздействия. Используйте рамки, такие как «Проблема-Решение-Выгода» или «Что? И что из этого? Что дальше?»

• Используйте юмор осторожно. Самоирония часто является самым безопасным вариантом, и всегда проверяйте свои шутки заранее.

• Активно слушайте, чтобы понять потребности и ожидания вашей аудитории. Это позволяет вам адаптировать ваше сообщение и соответствующим образом реагировать в данный момент.

• Практика и подготовка необходимы для развития уверенности и компетентности в спонтанных выступлениях.

Итого: сегодня мы пробежались по лекции через Gemini 1.5 Pro и на мой взгляд — это очень хороший инструмент, поскольку число совпадений гораздо больше, нежели неточностей. Что неточности, что галлюцинации решаются качественным промтом в большинстве случаев. Конкретно в этом примере не сказать, что было что-то критичное, чего нельзя было бы, например, уточнить.

В общем-то на мой взгляд отлично подойдет для поиска информации из видео конференций, подкастов и лекций (но, опять же — доверяй, но проверяй).

Спасибо за внимание!

В данной статье представлен обзор различных популярных (и не только) оптимизаторов, которые применяются в машинном и глубоком обучении, в частности для обучения нейронных сетей. Мы рассмотрим их основную идею и ключевые особенности, переходя от простых к более сложным концепциям. Помимо этого, в самом конце вы сможете найти большое количество дополнительных источников для более детального ознакомления с материалом.

Ноутбук с данным материалом можно загрузить на GitHub (rus).

Содержание

• Пару слов про функции потерь

• Классический градиентный спуск

• Более быстрые и точные оптимизаторы

• Обучение и визуализация оптимизаторов

• Нарушение работы адаптивных методов со скользящим средним

• Стратегии изменения скорости обучения

• Работа с большими мини-пакетами

• Проксимальные методы

• Методы второго порядка

• Дополнительные источники

Пару слов про функции потерь

Функции потерь можно разделить на выпуклые и невыпуклые. Первый вариант чаще всего встречается в классическом машинном обучении из-за относительной простоты моделей, а также из-за того, что у выпуклых функций локальный минимум по определению является и глобальным (но не обязательно единственным). Невыпуклые функции, в свою очередь, чаще всего встречаются в нейронных сетях из-за их высокой сложности и в данном случае поиск глобального минимума является трудной задачей, поэтому на практике здесь также используются методы из случая с выпуклыми функциями из-за их способности хорошо аппроксимировать стационарные точки в невыпуклом случае. Проще говоря, методы для выпуклого случая могут хорошо сходиться в локальном оптимуме для невыпуклого случая за приемлемое время, значение которого близко к глобальному.

Классический градиентный спуск

Начнём с того, что если градиент — это вектор наибыстрейшего возрастания функции, то антиградиент — вектор наибыстрейшего убывания, и именно при движении в данную сторону будет расположена минимальная ошибка модели. Тогда градиентный спуск можно определить как численный метод итеративной оптимизации для нахождения весов (коэффициентов) модели путём минимизации её ошибки, представленной в виде функции потерь. Пример работы данного алгоритма на линейной и логистической регрессий с нуля можно посмотреть здесь и здесь.

Алгоритм строится следующим образом:

• 1) изначально происходит инициализация весов с нулевыми значениями;

• 2) далее на основе установленных весов модель делает прогноз;

• 3) на основе полученного прогноза рассчитывается градиент ошибки, после чего происходит обновление весов в сторону антиградиента функции потерь;

• 4) шаги 2-3 повторяются до тех пор, пока градиент не станет нулевым, то есть пока алгоритм не сойдётся в минимуме (как правило, в данном случае используется критерий останова, например, пока разность градиентов на текущей и предыдущей итерациях не станет меньше заранее установленного порогового значения).

Если для вычисления градиентов функции потерь используется полный обучающий набор, то такой градиентный спуск называется пакетным. Не смотря на то, что пакетный градиентный спуск (batch gradient descent) практически всегда хорошо масштабируется в отношении количества признаков, данный алгоритм работает очень медленно на больших наборах данных и требует значительных затрат в виде дополнительной памяти для хранения всех градиентов.

Для увеличения производительности на больших датасетах применяются 2 подхода:

• 1) Мини-пакетный градиентный спуск (mini-batch gradient descent), когда на каждом шаге вычисление градиентов происходит на небольших случайных поднаборах (мини-пакетах). Обычно размер мини-пакета берётся в виде и может достигать нескольких десятков тысяч образцов: выбор размера зависит от особенностей задачи и применяемой модели.

• 2) Стохастический градиентный спуск (stochastic gradient descent), когда на каждом шаге из обучающего набора берётся лишь один образец. Очевидно, что такой вариант должен работать гораздо быстрее предыдущего, но с другой стороны, из-за ещё более стохастический природы данный алгоритм менее стабилен и может потребоваться больше итераций для сходимости, а также mini-batch дает прирост в производительности из-за аппаратной оптимизации матричных вычислений на GPU. Стоит также отметить, что на данный момент под стохастическим градиентный спуском очень часто подразумевается mini-batch.

В отличие от пакетного градиентного спуска, в данных случаях функция потерь будет снижаться скачками вверх-вниз, приближаясь к минимуму, но так и не достигнув его. В случае с мини-пакетным градиентным спуском функция потерь будет расположена чуть ближе к минимуму за счёт меньшего размера скачков. С другой стороны, в отличие от стохастического градиентного спуска, ему может быть труднее пройти локальные минимумы в невыпуклом случае.

Более быстрые и точные оптимизаторы

Помимо того, что градиентный спуск в своём классическом представлении плохо подходит для невыпуклых случаев из-за вышеописанных проблем, может также возникнуть проблема с «седловыми точками», когда на поверхности функции потерь в виде седла имеются точки, в которых значение функции максимально по одним направлениям и минимально по другим, то есть в данных точках будет практически нулевое снижение градиентов и они ошибочно могут быть приняты моделью за оптимум. Поэтому для быстрого поиска оптимального решения используются более интересные стохастические (mini-batch) оптимизации, про самые популярные из которых сейчас и пойдёт речь.

Momentum

Предположим, что со склона с кочками катится мяч, который сначала будет двигаться медленно, но по мере накопления кинетической энергии его скорость будет расти, что ему поможет преодолеть небольшие кочки и остановить своё движение в более глубокой. Именно данный принцип лежит в основе моментной оптимизации. Momentum принимает во внимание значения предыдущих градиентов, которые используются для определения направления и скорости перемещения в пространстве параметров  (называется вектором первого момента, поскольку масса в данном случае равна 1), а для предотвращения её быстрого увеличения используется коэффициент ослабления импульса , который отвечает за силу влияния предыдущего градиента на текущий, то есть выступает в качестве механизма трения мяча о поверхность: значение 0 означает высокое трение, а 1 его отсутствие. Обычно значение  устанавливается 0.9.

Алгоритм обновления параметров моментной оптимизации

Momentum способен решить сразу две проблемы: плохую обусловленность матрицы Гессе и дисперсию стохастического градиента. С другой стороны, из-за вычисления градиента функции потерь в локальной позиции модель может колебаться вокруг локальных минимумов, что в свою очередь увеличивает время схождения.

Хотя во многих статьях  обозначается как , а  как , на данный момент нет единого стандарта и в разных статьях можно встретить для них разные обозначения, но для унификации во всех примерах будут использоваться следующие обозначения:  — это первый момент или ещё по-другому экспоненциально взвешенное скользящее среднее градиентов, а  — второй момент или экспоненциально взвешенное скользящее среднее квадратов градиентов, однако в случае AdaGrad это просто квадрат градиентов.

Nesterov momentum

Для решения вышеописанной проблемы применяется небольшая оптимизация, суть которой заключается в вычислении градиентов не в локальной позиции, а чуть дальше в направлении момента. Другими словами, функция потерь будет снижаться не в текущей позиции, а в которой якобы должна оказаться в будущем, следуя направлению импульса.

Алгоритм обновления параметров моментной оптимизации Нестерова

Такой подход позволяет сойтись гораздо быстрее и чуть ближе к оптимуму, однако он всё ещё может быть чувствительным в отношении одних направлений пространства параметров и нечувствительным в других из-за трудностей подбора оптимальной скорости обучения. Ниже будут представлены оптимизации градиентного спуска с адаптивной скоростью обучения.

AdaGrad

Adaptive Gradient является одной из первых оптимизаций градиентного спуска с адаптивным шагом, в которой снижается градиент вдоль самых крутых направлений. Проще говоря, на каждом шаге происходит обновление параметров модели с учётом значений как предыдущих градиентов, так и их квадратов.

Алгоритм обновления параметров AdaGrad

Где — сглаживающий параметр для избегания деления на ноль.

Такой простой подход позволяет алгоритму быстро начать обучение, а затем замедлить его, когда градиент становится меньше или меняет знак. Однако на практике AdaGrad хорошо справляется с выпуклыми случаями, а вот при обучении нейронных сетей нередко останавливается слишком рано из-за быстрого снижения скорости обучения, так и не достигнув глобального оптимума.

RMSProp

RMSProp (Root Mean Square Propagation) — модификация AdaGrad, адаптированная для лучшей работы в невыпуклом случае. Основная идея заключается в изменении способа агрегирования градиента на экспоненциально взвешенное скользящее среднее. Другими словами, вместо накопления всех квадратов градиента с начала обучения, накапливаются квадраты градиента только из самых последних итераций.

Алгоритм обновления параметров RMSProp

В целом, RMSProp является крайне эффективной оптимизацией, но не самой лучшей. Например, могут возникнуть трудности обучения в многомерных пространствах из-за проблем с масштабированием градиентов в разных направлениях.

Adam и его модификации

Adam (Adaptive Moment Estimation) объединяет в себе концепции Momentum и RMSProp, практически являясь серебряной пулей в задачах стохастической оптимизации. Как можно заметить, расчёт моментов в Adam очень схож с Momentum и RMSProp за исключением того, что к ним применяется поправка на смещение. В целом, благодаря таким улучшениям Adam сходится быстрее и лучше предшественников, а также более устойчив к подбору гиперпараметров, что делает его более стабильным решением в большинстве случаев.

Алгоритм обновления параметров Adam

Поправка на смещение:

Где используются по умолчанию.

С другой стороны, данный алгоритм более сложен в анализе и может быть чувствителен к шуму, что может привести к проблемам со сходимостью, а также он требует больших объемов памяти, поскольку хранит не только параметры модели, но а также информацию о градиентах и накопленном импульсе. Помимо этого, у Adam и всех предыдущих алгоритмов есть ещё один неприятный недостаток: если продолжить обучение модели после прерывания в некоторой точке, придётся восстанавливать не только веса модели из данной точки, но а также и всю информацию о накопленных параметрах.

Однако время не стоит на месте и были разработаны модификации Adam, призванные устранить в той или иной степени недостатки, описанные выше. К наиболее популярным и интересным модификациям можно отнести следующие:

• AdaMax использует экспоненциально взвешенную норму бесконечности для обновления вектора второго момента, то есть скорость обучения изменяется, основываясь максимальной величине градиента в истории:

• Nadam (Nesterov-accelerated Adaptive Moment Estimation) использует другую поправку на смещение для вектора первого момента:

• AdamW добавляет L2-регуляризацию к функции потерь и при обновлении весов:

• Yogi обновляет вектор второго момента с учётом разности второго момента и квадрата градиента:

• Adan (Adaptive Nesterov Momentum) использует модифицированный New Nesterov Momentum (NME позволяет избежать дополнительных затрат на вычисление градиента в точке экстраполяции) для оценки первого и второго моментов, что позволяет значительно ускорить сходимость и найти приближённую точку первого порядка с заданной точностью ϵ. Схема работы алгоритма выглядит следующим образом:

Обучение и визуализация оптимизаторов

Для наглядности рассмотрим небольшой пример работы различных оптимизаторов на данных Boston Housing. Сначала мы создадим простую нейросеть в Pytorch и обучим её на всех тренировочных данных, на которых после же оценим снижение потерь оптимизаторов на каждой итерации. Также для любителей Keras мы обучим простую нейросеть на мини-пакетах, но уже оценим снижение потерь на тестовом наборе.

Загрузка и подготовка датасета

import pandas as pd
import matplotlib.pyplot as plt
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split
df_path = "/content/drive/MyDrive/BostonHousing.csv"
boston = pd.read_csv(df_path)
print(boston)
        crim    zn  indus  chas    nox     rm   age     dis  rad  tax  
0    0.00632  18.0   2.31     0  0.538  6.575  65.2  4.0900    1  296
1    0.02731   0.0   7.07     0  0.469  6.421  78.9  4.9671    2  242
2    0.02729   0.0   7.07     0  0.469  7.185  61.1  4.9671    2  242
3    0.03237   0.0   2.18     0  0.458  6.998  45.8  6.0622    3  222
4    0.06905   0.0   2.18     0  0.458  7.147  54.2  6.0622    3  222
..       ...   ...    ...   ...    ...    ...   ...     ...  ...  ...
501  0.06263   0.0  11.93     0  0.573  6.593  69.1  2.4786    1  273
502  0.04527   0.0  11.93     0  0.573  6.120  76.7  2.2875    1  273
503  0.06076   0.0  11.93     0  0.573  6.976  91.0  2.1675    1  273
504  0.10959   0.0  11.93     0  0.573  6.794  89.3  2.3889    1  273
505  0.04741   0.0  11.93     0  0.573  6.030  80.8  2.5050    1  273
     ptratio       b  lstat  medv
0       15.3  396.90   4.98  24.0
1       17.8  396.90   9.14  21.6
2       17.8  392.83   4.03  34.7
3       18.7  394.63   2.94  33.4
4       18.7  396.90   5.33  36.2
..       ...     ...    ...   ...
501     21.0  391.99   9.67  22.4
502     21.0  396.90   9.08  20.6
503     21.0  396.90   5.64  23.9
504     21.0  393.45   6.48  22.0
505     21.0  396.90   7.88  11.9
[506 rows x 14 columns]

print(boston.isna().sum())
crim       0
zn         0
indus      0
chas       0
nox        0
rm         5
age        0
dis        0
rad        0
tax        0
ptratio    0
b          0
lstat      0
medv       0
dtype: int64

boston.dropna(inplace=True)
X, y = boston.iloc[:, :-1].values, boston.iloc[:, -1].values
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)
X_train_s = StandardScaler().fit_transform(X_train)
X_test_s = StandardScaler().fit_transform(X_test)

Параметры нейросети

nn_params = {'in_features': X.shape[1], 'h1': 16, 'h2': 8, 'out': 1}

Сравнение оптимизаторов Pytorch на тренировочных данных

from torch import nn, optim, FloatTensor, relu, manual_seed
class TorchNN(nn.Module):
    def __init__(self, in_features, h1, h2, out):
        super(TorchNN, self).__init__()
        self.fc1 = nn.Linear(in_features, h1)
        self.fc2 = nn.Linear(h1, h2)
        self.fc3 = nn.Linear(h2, out)
    def forward(self, x):
        x = relu(self.fc1(x))
        x = relu(self.fc2(x))
        x = self.fc3(x)
        return x
def torch_losses(data, model, optim_cls, optim_params, num_epochs=100):
    losses = []
    X_train, y_train = data
    criterion = nn.MSELoss()
    optimizer = optim_cls(model.parameters(), **optim_params)
    for epoch in range(num_epochs):
        y_pred = model.forward(X_train)
        loss = criterion(y_pred, y_train)
        losses.append(loss.item())
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
    return losses
manual_seed(0)
X_train_s_tensor = FloatTensor(X_train_s)
y_train_tensor = FloatTensor(y_train).view(-1, 1)
torch_optimizers = [
    (optim.SGD, 'SGD', {'lr': 0.001}),
    (optim.SGD, 'Momentum', {'lr': 0.001, 'momentum': 0.9}),
    (optim.SGD, 'Nesterov Momentum', {'lr': 0.001, 'momentum': 0.9, 'nesterov': True}),
    (optim.Adagrad, 'Adagrad', {'lr': 0.01}),
    (optim.RMSprop, 'RMSprop', {'lr': 0.01}),
    (optim.Adam, 'Adam', {'lr': 0.01}),
    (optim.Adamax, 'Adamax', {'lr': 0.01}),
    (optim.AdamW, 'AdamW', {'lr': 0.01}),
    (optim.NAdam, 'NAdam', {'lr': 0.01})
    ]
# Visualization
plt.figure(figsize=(14, 6))
for optim_cls, optim_name, optim_params in torch_optimizers:
    nn_model = TorchNN(**nn_params)
    t_losses = torch_losses((X_train_s_tensor, y_train_tensor), nn_model, optim_cls, optim_params)
    plt.plot(range(len(t_losses)), t_losses, label=f'{optim_name}')
plt.title('Pytorch optimizers comparison on train data')
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.legend()
plt.show()

Сравнение оптимизаторов Keras на тестовых данных

from keras import optimizers
from keras.layers import Dense
from keras.models import Sequential
from keras.utils import set_random_seed
def create_keras_nn(optimizer, in_features, h1, h2, out):
    model = Sequential()
    model.add(Dense(input_shape=(in_features,), units=h1, activation='relu'))
    model.add(Dense(input_shape=(h1,), units=h2, activation='relu'))
    model.add(Dense(units=out))
    model.compile(optimizer=optimizer, loss='mse', metrics=['mse'])
    return model
def keras_losses(train_data, test_data, optimizers, nn_params, num_epochs=10):
    losses = []
    X_train, y_train = train_data
    X_test, y_test = test_data
    for name, optimizer in optimizers:
        model = create_keras_nn(optimizer, **nn_params)
        model_history = model.fit(X_train, y_train, batch_size=32, epochs=num_epochs,
                                  verbose=0, validation_data=(X_test, y_test))
        losses.append((name, model_history.history['val_loss']))
    return losses
set_random_seed(0)
keras_optimizers = [
    ('SGD', optimizers.SGD(learning_rate=0.001)),
    ('Momentum', optimizers.SGD(learning_rate=0.001, momentum=0.9)),
    ('Nesterov Momentum', optimizers.SGD(learning_rate=0.001, momentum=0.9, nesterov=True)),
    ('Adagrad', optimizers.Adagrad(learning_rate=0.01)),
    ('RMSprop', optimizers.RMSprop(learning_rate=0.01)),
    ('Adam', optimizers.Adam(learning_rate=0.01)),
    ('Adamax', optimizers.Adamax(learning_rate=0.01)),
    ('AdamW', optimizers.AdamW(learning_rate=0.01)),
    ('Nadam', optimizers.Nadam(learning_rate=0.01))
    ]
plt.figure(figsize=(14, 6))
k_losses = keras_losses((X_train_s, y_train), (X_test_s, y_test), keras_optimizers, nn_params)
for name, k_loss in k_losses:
    plt.plot(k_loss, label=name + ' test Loss')
plt.title('Keras optimizers comparison on test data')
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.legend()
plt.show()

Промежуточные выводы

Поскольку SDG, Momentum и Nesterov momentum являются менее стабильными алгоритмами и больше всего зависят от начальных значений learning rate, для них была задана меньшая скорость обучения, чем для остальных методов. На первом графике видно, что даже в таком случае эти алгоритмы немного подвержены колебаниям, хотя и быстро сошлись. Второй же график хорошо демонстрирует как обучение на мини-пакетах значительно ускоряет сходимость алгоритмов. В случае с AdaGrad возникла классическая проблема резкого снижения скорости обучения, которую в данном случае можно легко решить, установив изначально более высокое значение. А вот RMSprop хорошо сработал в обоих случаях и даже лучше Adam-подобных оптимизаторов.

Отсюда следует интересный вывод, что адаптивные методы могут сходиться быстрее предшественников далеко не в каждой ситуации, но зато они гораздо стабильнее минимизируют функцию потерь. Конкретно в данном случае это означает, что если мы установим одинаковые произвольные значения learning rate для всех оптимизаторов, то неадаптивные методы зачастую будут снижаться с очень большими рывками и могут не сойтись вообще, в то время как адаптивные методы будут более плавно сходиться, хоть и медленно.

Стоит добавить, что данный пример лишь в очередной раз доказывает, что нет универсального оптимизатора, который являлся бы лучшим выбором для всех задач машинного обучения, поскольку многое зависит от самых разных факторов, включая природу данных, сложность модели и цели обучения. Однако это не отменяет тот факт, что в случае со сложными ландшафтами потерь адаптивные методы практически всегда будут превосходить простые стохастические оптимизаторы не только в плане стабильности, но и конечно же в скорости. Поэтому в большинстве ситуаций RMSprop и особенно семейство оптимизаторов Adam можно рассматривать в качестве хорошего стартового решения.

Нарушение работы адаптивных методов со скользящим средним

Поскольку работа всех диагональных адаптивных методов в той или иной степени основана на использовании покоординатного learning rate, то в случае, когда последовательность  перестаёт монотонно не убывать, алгоритм не может нормально сойтись к локальным минимумам. Как правило, такая ситуация означает приближение к критическим точкам и происходит при уменьшении  в сравнении с предыдущей накопленной историей с точностью до некоторой константы.

Данную проблему можно устранить путём наделения таких алгоритмов долговременной памятью о прошлых градиентах для исключения отрицательных регуляризаторов подобно тому, как это реализовано в AMSGrad. Проще говоря, выполняется условие , что возможно благодаря простому трюку:

Однако стоит иметь в виду, что в таком случае требуются дополнительные расходы памяти, что может быть особенно проблематично для моделей с разреженными параметрами. Решить данную проблему можно за счёт использования непостоянных  и , что было предложено в алгоритме AdamNC:

Помимо того, что такой подход не требует изменения структуры оригинального Adam, он также позволяет достичь хороших показателей сходимости.

Однако в работе Tran Thi Phuong и Le Trieu Phong было показано, что проблема в доказательстве сходимости AMSGrad заключается в обработке гиперпараметров, рассматривая их как равные, в то время как это не совсем верно. Так авторами был представлен контрпример в контексте простой задачи выпуклой оптимизации, который показывает эту проблему. Алгоритм должен сходиться согласно следующей лемме:

Однако проблема заключается в равенстве, которое на самом деле может быть как положительным, так и отрицательным:

Поэтому авторы представили новое доказательство сходимости для AMSGrad, а также алгоритм AdamX на его основе, который учитывает различия в гиперпараметрах и позволяет избежать проблемы выше. Решение выглядит следующим образом:

Но стоит иметь в виду, что как и в случае с AMSGrad, AdamX также требует дополнительных расходов памяти.

Стратегии изменения скорости обучения

Как можно было заметить, скорость обучения является одним из ключевых параметров в градиентном спуске, которая может оказывать значительное влияние на сходимость и конечную ошибку модели. Помимо вышеописанных стратегий сокращения скорости обучения, ещё одними из самых популярных являются следующие:

• 1) плавное затухание;

• 2) экспоненциальное затухание;

• 3) , где константа, а число итераций;

• 4) дискретное сокращение, когда после заданного количества итераций шаг уменьшается с определённым размером.

Не смотря на то, что на сегодняшний день в алгоритмах на основе градиентного спуска используется автоматическое снижение скорости обучения как в библиотеке sckit-learn, так и в библиотеках глубокого обучения, подбор learning rate всё ещё нужно выполнять аккуратно: алгоритм может преждевременно выйти на плато либо вовсе разойтись. Пример приведён на графике ниже.

Другим подходом в изменении скорости обучения является её резкое увеличение, чтобы «вытолкнуть» модель из возможных локальных минимумов, в которых она может застрять в процессе обучения. Такой подход называется Warm Restart и включает в себя циклическое изменение скорости обучения: начиная с высокого значения, скорость постепенно снижается по определённому правилу, а затем после достижения минимального значения она снова повышается. Это особенно полезно, когда модель сходится к неоптимальному решению из-за плохой инициализации или когда пространство параметров содержит множество локальных минимумов.

Одним из популярных методов, использующий такой подход, является CosineAnnealingWarmRestarts, в котором скорость обучения регулируется на основе «косинусного отжига» с перезапусками, возвращаясь к своему начальному значению:

Где:

•  — скорость обучения в момент времени ;

• — начальная скорость обучения;

• — минимальная скорость обучения;

•  — количество эпох с момента последнего перезапуска;

• а  — количество эпох между двумя перезапусками.

С полным списком «планировщиков» скорости обучения можно ознакомиться здесь и здесь.

Работа с большими мини-пакетами

Рассмотрим ситуацию, когда нам необходимо обучить сложную нейронную сеть на больших данных с использованием нескольких графических процессоров (GPU). Одно из самых простых решений будет заключаться в вычислении стохастических градиентов для каждого батча отдельно на разных GPU с их последующим усреднением по всем GPU на каждом этапе обновления параметров модели.

По сути, такой подход равносилен обучению с одним огромным батчем и на первый взгляд может показаться оптимальным, но не всё так просто, поскольку это может привести к такому явлению как generalization gap, при котором возникает ухудшение обобщающей способности модели (иногда значительное). Почему так происходит? При использовании батча большого размера оптимизатор начинает лучше распознавать ландшафт функции потерь для определённой выборки, что увеличивает шансы скатиться в узкие локальные минимумы с низкой обобщающей способностью. Тогда даже при незначительном сдвиге ландшафта (при так называемом distributional shift, когда происходит переход от тренировочной выборки к тестовой) значение функции потерь может резко увеличиться. Проще говоря, большие батчи могут приводить к переобучению.

С другой стороны широкие локальные минимумы более устойчивы к изменениям в ландшафте функции потерь и способны обеспечить лучшую обобщающую способность, а для того чтобы в них попадать можно использовать оптимизаторы с более точным динамическим подбором learning rate, про которые далее пойдёт речь. Однако перед этим стоит добавить, что использование маленьких батчей в оптимизации также является не самой хорошей идеей, поскольку это может привести к более шумным оценкам градиента и в конечном счёте к недообучению модели.

LARS

Первым на очереди будет Layer-wise Adaptive Rate Scaling (LARS), использующий momentum в качестве базового алгоритма. Его основная идея заключается в подборе скорости обучения не для каждого нейрона или всей нейросети, а для каждого слоя отдельно. Проще говоря, обновление весов происходит с учётом локального learning rate, рассчитанного как отношение нормы весов к сумме нормы весов и градиентов. Работа алгоритма показана ниже:

Не смотря на то, что такой метод позволяет использовать батчи большого размера для обучения без потери качества, он плохо справляется со сложными моделями, где каждый слой имеет важное значение для общей производительности, например, с моделями внимания, такими как BERT. Это связано с тем, что если в одном из слоёв сети наблюдается нестабильное снижение градиентов, то к этому слою будет применяться меньшая скорость обучения, а поскольку LARS стремится синхронизировать обновления по всем слоям, то скорости обучения для более «стабильных» слоёв также будут снижены для предотвращения расхождения в обучении. Следовательно, более «стабильные» слои будут обновляться не так быстро, как могли бы, что в итоге значительно замедлит обучение всей модели и окажет негативное влияние на конечный результат.

LAMB

В ответ на это был разработан более продвинутый оптимизатор, известный как Layer-wise Adaptive Moments Based optimizer (LAMB), который можно рассматривать как применение LARS к оптимизатору Adam. Основное различие заключается в использовании двойной стратегии нормализации:

• 1) Нормализация каждого измерения (или параметра модели) относительно квадратного корня из второго момента, используемого в Adam. Это означает, что каждый параметр модели обновляется с учётом его собственной истории изменений, что помогает более точно настраивать веса модели.

• 2) Применение послойной нормализации. Другими словами, обновления параметров модели происходят с учётом масштаба каждого слоя в нейронной сети. Это помогает предотвратить слишком большие изменения в весах слоёв и избежать нестабильности в процессе обучения.

Алгоритм работает следующим образом:

Такой подход позволил значительно улучшить процесс обучения модели BERT даже на батчах большого размера без потери точности. Так команде Google Brain удалось сократить время обучения с 3 дней до всего лишь 76 минут, увеличив размер пакета до предела памяти модуля TPUv3. Более того, как и другие оптимизаторы, LAMB имеет ряд модификаций, способных не только ускорить обучение (как в NVLAMB благодаря предварительной нормализации градиентов), но и сделать его ещё более стабильным в плане сходимости (как в N-LAMB и NN-LAMB).

Прокcимальные методы

Проксимальные методы — это класс алгоритмов, предназначенных для решения задач выпуклой оптимизации негладких функций. Основная идея таких методов заключается в замене исходной сложной задачи оптимизации на серию более простых подзадач, аппроксимируя новое решение к текущему. Другими словами, данные методы представляют собой обобщение проективных градиентных методов.

Метод проксимальной минимизации

Может быть полезен в тех случаях, когда трудно минимизировать функцию потерь , но легко (или хотя бы проще) минимизировать её регуляризованную версию, то есть  плюс квадратичная величина. Данный алгоритм имеет множество разных интерпретаций в зависимости от целей использования. Наиболее популярными являются следующие:

• 1) Регуляризация Тихонова позволяет находиться  недалеко от  и ускоряет сходимость, особенно при использовании метода сопряжённого градиента. Это обусловлено тем, что наличие регуляризации обеспечивает сильную выпуклость задачи:

• 2) Градиентный поток обеспечивает сходимость в точке минимума из любой начальной точки при :

Решив данное дифференциальное уравнение с помощью прямой схемы Эйлера, получим:

Однако такое решение менее стабильно, чем с использованием обратной схемы Эйлера. Тогда задача приобретает вид:

Поскольку уравнение представлено в неявном виде, а его левая часть является по сути градиентом функции  в точке , тогда для выпуклого случая:

Также стоит отметить, что идея градиентного потока может быть обобщена на случаи, когда  не дифференцируется с помощью субградиентного дифференциального включения:

• 3) Итеративное уточнение основано на идее асимптотически исчезающей регуляризации Тихонова и используется для решения линейных уравнений вида  с использованием факторизации Холецкого для .

Рассмотрим задачу минимизации квадратичной функции:

где  (множество симметричных положительных полуопределённых  x  матриц). Такая задача эквивалентна решению системы линейных уравнений . Когда  несингулярно, то единственным решением является  . Такую же проблему можно заметить в методе наименьших квадратов. Проксимальный оператор для  при  можно выразить аналитически:

Переписав данное выражение, получим:

Проксимальный градиентный метод (PGM)

Применяется для решения проблемы вида , где  является гладкой (дифференцируемой), а  негладкой функцией, для которой существует быстрый проксимальный оператор. Тогда, выполнив градиентный шаг по  и проксимальный по , получим итеративный процесс вида:

Ещё такой процесс называется forward-backward splitting, где forward относится к шагу градиента, а backward — к проксимальному шагу.

PGM также имеет различные интерпретации:

• 1) Majorization-minimization используется для решения проблемы вида:

А процесс обновления  выглядит следующим образом:

• 2) Fixed point iteration основано на идее, что существует фиксированная точка , которая является решением  лишь в том случае, когда она является точкой оператора forward-backward:

Тогда решение приобретает вид:

• 3) Forward-backward интегрирование градиентного потока представляет собой метод численного интегрирования дифференциального уравнения градиентного потока, в котором используется прямой Шаг Эйлера для дифференцируемой части  и обратный шаг Эйлера для возможно недифференцируемой части . Если исходить предположения, что  является также дифференцируемой, то систему градиентного потока можно представить в виде:

Тогда получим процесс обновления, называемый forward-backward splitting:

Также стоит добавить, что существует вариант ускоренного проксимального градиентного метода, который включает в себя этап экстраполяции:

где — параметр экстраполяции, а одна из самых простых схем его расчёта выглядит следующим образом:

ISTA (Iterative Shrinkage(Soft)-Thresholding Algorithm)

Данный метод можно рассматривать как обновление проксимального градиента, применяемое к L1-регуляризованной задаче наименьших квадратов:

Тогда прокс-оператор для l1-нормы будет выглядеть следующим образом:

где  — оператор с плавным установлением порога, который для одномерной задачи является решением со следующим правилом:

Отсюда получим градиентный шаг обновления:

Как можно заметить, данный метод позволяет получить разреженную модель, поскольку часть координат будет зануляться в случае , что особенно полезно в задачах компьютерного зрения и обработки сигналов. Однако ISTA в чистом виде имеет низкую скорости сходимости, поэтому на практике используются его различные модификации. Например, FISTA (от слова Fast), основанное на ускорении Нестерова, где используется дополнительный шаг экстраполяции:

Такой подход позволил достичь скорости сходимости вместо как в ISTA. К слову, на сегодняшний день FISTA также имеет ряд модификаций, делающих его работу более стабильной и быстрой в ряде случаев.

Методы второго порядка

Методы оптимизации второго порядка — это алгоритмы, которые используют информацию о вторых производных (гессиане) функции потерь для более быстрого и точного нахождения точек минимума с очень неровным и сложным ландшафтом потерь.

Вторая производная характеризует скорость изменения градиента функции потерь за счёт измерения её кривизны, то есть позволяет оценить ожидаемое улучшение от шага градиентного спуска. На примере квадратичной функции это будет означать следующее:

• 1) Если кривизна отрицательная (отрицательное значение второй производной), то функция потерь снижается быстрее, чем ожидалось на основе прогноза градиента. Это может привести к более быстрому достижению минимума, но также увеличивает риск его перепрыгнуть при использовании больших шагов.

• 2) Если кривизна нулевая (нулевое значение второй производной), то градиент точно указывает на изменение функции потерь. В этом случае, градиентный спуск будет эффективно минимизировать функцию потерь, поскольку нет ни ускорения, ни замедления в изменении её значений.

• 3) Если кривизна положительная (положительное значение второй производной), то функция потерь снижается медленнее, чем ожидалось на основе прогноза градиента. Это говорит о том, что при использовании слишком больших шагов можно не только замедлить процесс сходимости, но и увеличить значение функции потерь, отдаляясь от оптимального решения.

Метод Ньютона

Использует разложение в ряд Тейлора второго порядка для приближения функции в окрестностях точки :

Приравняв к нулю , получим оптимальное решение, то есть направление спуска:

Тогда получим итеративный процесс обновления параметров следующего вида:

Если шаг , то это классический метод Ньютона, а при другом размере шага получим дэмпированный (damped) метод Ньютона.

Такой подход обеспечивает квадратичную скорость сходимости в окрестностях оптимума за счёт более правильного оценивания кривизны линий уровня функции потерь, что делает его также устойчивым к плохо обусловленным задачам (задачам, в которых небольшое изменение в начальных данных может привести к значительным ошибкам в решении).

Однако метод Ньютона применим только в случае положительно определённой матрицы , иначе говоря, если не все собственные значения гессиана положительны вблизи седловой точки, то обновление параметров может произойти в неверном направлении. Одно из самых простых решений данной проблемы заключается в регуляризации гессиана через прибавление константы :

Помимо этого, у метода Ньютона есть ещё 2 серьёзных недостатка, которые делают его неприменимым к нейронным сетям с большим количеством параметров:

• 1) Чувствительность к выбору начальной точки. Квадратичная скорость сходимости обеспечивается лишь в близи оптимума, поэтому если начальная точка расположена далеко от него, то алгоритм будет сходиться медленней и может не сойтись вообще. Отсюда следует необходимость в подборе шага  как и в случае с градиентным спуском. Частично данную проблему можно решить также с применением различных видов регуляризацией, например, такой как кубической.

• 2) Высокая требовательность к вычислительным ресурсам. Поскольку число элементов гессиана равно квадрату числа параметров , затраты памяти для их хранения составят , а вычислительная сложность алгоритма будет .

Далее будут рассмотрены альтернативы, использующие некоторые преимущества метода Ньютона, но при этом не требующие таких больших вычислительных затрат.

Метод сопряжённых градиентов

В отличие от метода наискорейшего спуска, в данном методе используется спуск в сопряжённых направлениях. Это означает, что в отличие от метода наискорейшего спуска, где направление спуска всегда совпадает с антиградиентом текущей точки и может привести к зигзагообразным траекториям, в данном случае направления спуска  выбираются таким образом, чтобы они были сопряжёнными (ортогональными) относительно гессиана функции потерь, то есть текущее направление выбирается с учётом предыдущего значения:

Направления  и  являются сопряжёнными, если выполняется условие , а коэффициент  определяет какую часть направления  следует прибавить к текущему направлению поиска.

Найти сопряжённые направления можно, просто получив собственные вектора  для , однако это вычислительно неэффективно, поэтому для расчёта  обычно используются следующие методы:

• 1) Метод Флетчера-Ривса:

• 2) Метод Полака-Рибьера:

Отсюда следует, что для квадратичной поверхности сопряжённость направлений гарантирует поиск минимума не более чем за поисков в -мерном пространстве. Если же функция потерь выходит за рамки простой квадратичной формы и становится более сложной, то не всегда возможно обеспечить сохранение минимума вдоль ранее определённых сопряжённых направлений. Поэтому в нелинейном случае сопряжённых градиентов периодически выполняется процедура рестарта, когда алгоритм заново начинает поиск вдоль направления неизменённого градиента, что в итоге позволяет лучше адаптироваться к изменениям в ландшафте функции потерь и более эффективно находить точки минимума.

BFGS (Broyden–Fletcher–Goldfarb–Shanno)

Является одним из самых известных квазиньютоновских методов и основан на аппроксимации обратного гессиана матрицей , которая итеративно уточняется в ходе обновлений низкого ранга. Обозначив приближение гессиана симметричной положительно определённой матрицей размера , получим функцию потерь аналогичную в методе Ньютона:

Основываясь на информации из последнего шага,  должен удовлетворять условию, при котором градиент  соответствует градиенту  на двух последних итерациях  и :

Отсюда получаем уравнение секущей, которое ещё известно как квазиньютоновское условие:

Перепишем данное уравнение в более удобной форме, сделав несколько упрощений:

Согласно данному уравнению, матрица может преобразовать в только в случае, если они будут удовлетворять условию кривизны:

Когда выполняется данное условие, уравнение секущей всегда имеет решение, а для однозначного определения вводится дополнительное условие, что среди всех симметричных матриц, удовлетворяющих уравнению секущей, будет расположено наиболее близко к текущей матрице . Другими словами, мы получим задачу вида:

Которую можно решить достаточно просто с использованием взвешенной нормы Фробениуса:

Где определяется через , а матрица весов может быть выбрана в качестве любой при выполнении условия . Определим как обратный усреднённый гессиан , где:

С помощью теоремы Тейлора можно показать, что:

При таком выборе матрицы  взвешенная норма Фробениуса является безразмерной, что является желательным свойством, поскольку позволяет избежать зависимости от единиц измерения при решении задачи минимизации. Тогда получим решение, которое называется методом DFP (Davidon-Fletcher-Powell):

Поскольку в квазиньютоновских методах нас больше интересует обратный гессиан, перепишем данную формулу в более удобном виде. Для этого определим и воспользуемся обобщением формулы Шермана–Моррисона–Вудбери:

В таком случае решение DFP приобретает следующий вид:

В этом и заключается фундаментальная идея квазиньютоновского обновления: вместо того, чтобы пересчитывать приближённые гессианы (или обратные гессианы) с нуля на каждой итерации, мы применяем простую модификацию, которая объединяет самую последнюю наблюдаемую информацию о  функции потерь с информацией из текущего приближения гессиана.

Однако формулу обновления из алгоритма DFP можно сделать ещё более эффективной, проделав аналогичные процедуры с вместо . В итоге получим обновление BFGS:

Мы также можем вывести версию алгоритма BFGS, которая работает с аппроксимацией гессиана , а не , если снова воспользуемся обобщением формулы Шермана–Моррисона–Вудбери:

Тогда направление спуска будет выглядеть следующим образом:

А параметры будут обновляться по следующему правилу:

Подобно методу сопряжённых градиентов, в алгоритме BFGS создаётся серия линейных поисков на основе информации о кривизне функции, однако важное отличие заключается в том, что в данном случае достижение точки, максимально приближённой к истинному минимуму вдоль заданного направления, не так критично. Это делает данный алгоритм более эффективным, поскольку не требуется тратить дополнительное время на уточнение результатов каждого линейного поиска, однако для хранения матрицы требуется памяти из-за чего данный алгоритм также малопригоден для моделей с большим количеством параметров.

SR1 (Symmetric Rank-1)

Представляет собой более простое обновление ранга 1, которое сохраняет симметрию матрицы и удовлетворяет уравнению секущей, но при этом исчезают гарантии, что обновлённая матрица (или ) будет положительно определённой. Тем не менее, данный метод может быть полезен, когда стандартные предположения BFGS не выполняются или когда необходимо использовать методы определения доверительной области.

Симметричное обновление ранга 1, которое также известно как формула Бройдена, имеет общий вид:

Где , а также выбирается вместе с таким образом, чтобы удовлетворять уравнению секущей. Подставляя обновление выше в данное уравнение, получим:

Поскольку член в скобках является скалярным, должно быть кратно для некоторого скалярного значения :

Данное уравнение выполняется только в том случае, когда:

Следовательно, формула обновления для приобретает следующий вид:

Применив обобщение формулы Шермана–Моррисона–Вудбери, получим соответствующее обновление для обратной аппроксимации гессиана :

Не смотря на менее стабильную работу в сравнении с DFP и BFGS, преимущество SR1 заключается в создании неопределённых аппроксимаций гессиана, что позволяет получить больше информации о локальной кривизне функции потерь и лучше исследовать пространство для поиска направлений, которые могут привести к лучшему решению.

L-BFGS (Limited-memory BFGS)

Данная модификация использует только последние (обычно от 3 до 20) пар векторов и начальное приближение для аппроксимации , что позволяет иметь линейные затраты не только на память, но и на итерацию. Чтобы лучше разобраться как это происходит, сначала перепишем формулы обновления BFGS в упрощённом виде:

Тогда приближение можно представить в следующем виде:

Из этого выражения можно вывести рекурсивный алгоритм для эффективного вычисления произведения , который называется L-BFGS two-loop recursion:

Преимущество данной рекурсии заключается в том, что умножение на исходную матрицу изолировано от остальных вычислений, что позволяет свободно выбирать эту матрицу и изменять её между итерациями. Методом выбора , показавшим себя хорошо на практике, является установка , где:

В данном случае позволяет произвести оценку размера истинного гессиана по последнему направлению поиска. Это гарантирует хорошую масштабируемость направления поиска , в результате чего на большинстве итераций . Теперь можно сделать формальное определение алгоритма L-BFGS следующим образом:

Shampoo

Вышеописанные методы всё ещё уступают в скорости и потреблении памяти обычным градиентным методам, особенно при обучении больших глубоких нейросетей. Отчасти это связано с тем, что они требуют точного, а не стохастического вычисления градиентов. В идеале нам хотелось бы иметь такой алгоритм, который совмещает в себе точность алгоритмов второго порядка и скорость алгоритмов первого порядка. В попытке приблизиться к этой цели появился алгоритм Shampoo, который применяется для стохастической оптимизации не только в матричных, но и в тензорных пространствах. Рассмотрим его основную идею.

Начнём с того, что данный алгоритм относится к так называемым предобусловленным методам (в контексте машинного обучения предобуславливание можно рассматривать как процесс изменения условий задачи таким образом, чтобы алгоритмы могли работать с ней более точно и эффективно). Вместо использования обратного гессиана явным образом в Shampoo используется произведение градиентов для формирования предобусловленной матрицы, которая выполняет роль, схожую с гессианом, храня информацию о кривизне поверхности функции потерь. По сути, данный алгоритм представляет собой многомерный аналог AdaGrad, а для матричного случая его принцип работы выглядит следующим образом:

На каждой итерации из матриц размера x и размера x , содержащих информацию о втором моменте из накопленных градиентов, формируются две предобусловленные матрицы, которые потом умножаются на градиентную матрицу слева направо соответственно. Каждая из предобусловленных матриц работает только с одним измерением градиента, сокращаясь по остальным, что позволяет неплохо ускорить процесс обучения. Объём пространства, который Shampoo использует в данном случае, составляет вместо в сравнении с полноматричными методами. Более того, поскольку предобуславливание включает в себя обращение матрицы (и чаще всего спектральное разложение), объём вычислений для построения левого и правого предобуславливателей также сокращается с до .

Однако shampoo всё ещё требует больших вычислительных затрат, что особенно выделяется при работе с полносвязными и эмбэддинг слоями. Основная сложность возникает при вычислении p-х корней матриц и , которые были реализованы с использованием спектрального разложения (SVD), что может занимать много времени. Поэтому для ускоренной работы Shampoo было разработано несколько улучшений:

• 1) Вычисление предобуславливателей раз в несколько сотен шагов. Поскольку в большинстве случаев структура функции потерь не изменяется существенно с каждым шагом, то и особого эффекта на снижение точности произойти не должно.

• 2) Использование эффективных итерационных методов для вычисления p-х корней вместо SVD, например, применение модификаций на основе метода Шура-Ньютона.

• 3) Использование одного из предобуславливателей  или , где .

• 4) Применение параллельного обучения на GPU.

Стоит отметить, что данные улучшения без проблем можно использовать для Shampoo в его общей форме, который применим к тензорам произвольной размерности. В фреймворках глубокого обучения реализована именно тензорная форма данного алгоритма, а его принцип работы выглядит следующим образом:

Проследив историю развития методов второго порядка, становится очевидно, что с появлением таких алгоритмов как Shampoo, их применение становится всё более привлекательным с практической точки зрения. На мой скромный взгляд, в будущем их популярность будет расти и они будут играть значимую роль не только в глубоком обучении, но и в других областях инженерии и науки.

Дополнительные источники

Статьи:

• «Adam: A Method for Stochastic Optimization», Diederik P. Kingma, Jimmy Ba;

• «Decoupled Weight Decay Regularization», Ilya Loshchilov, Frank Hutter;

• «Incorporating Nesterov Momentum into Adam», Timothy Dozat;

• «Adaptive Methods for Nonconvex Optimization», Manzil Zaheer, Sashank J. Reddi, Devendra Sachan, Satyen Kale, Sanjiv Kumar;

• «Adan: Adaptive Nesterov Momentum Algorithm for Faster Optimizing Deep Models», Xingyu Xie, Pan Zhou, Huan Li, Zhouchen Lin, Shuicheng Yan;

• «On the Convergence of Adam and Beyond», Sashank J. Reddi, Satyen Kale, Sanjiv Kumar;

• «On the Convergence Proof of AMSGrad and a New Version», Tran Thi Phuong, Le Trieu Phong;

• «SGDR: Stochastic Gradient Descent with Warm Restarts», Ilya Loshchilov, Frank Hutter;

• «Optimization for deep learning: theory and algorithms», Ruoyu Sun;

• «Large Batch Training of Convolutional Networks», Yang You, Igor Gitman, Boris Ginsburg;

• «Large Batch Optimization for Deep Learning: Training BERT in 76 minutes», Yang You, Jing Li, Sashank Reddi, Jonathan Hseu, Sanjiv Kumar, Srinadh Bhojanapalli, Xiaodan Song, James Demmel, Kurt Keutzer, Cho-Jui Hsieh;

• «Proximal Algorithms», Neal Parikh, Stephen Boyd;

• «A Fast Iterative Shrinkage-Thresholding Algorithm», for Linear Inverse Problems, Amir Beck, and Marc Teboulle;

• «Improving Fast Iterative Shrinkage-Thresholding Algorithm: Faster, Smarter and Greedier», Jingwei Liang, Tao Luo, Carola-Bibiane Schönlieb;

• «Resurrecting the sigmoid in deep learning through dynamical isometry: theory and practice», Jeffrey Pennington, Samuel S. Schoenholz, Surya Ganguli;

• «Numerical Optimization», Jorge Nocedal, Stephen J. Wright;

• «A regularized limited-memory BFGS method for unconstrained minimization problems», Shinji SUGIMOTO and Nobuo YAMASHITA;

• «Shampoo: Preconditioned Stochastic Tensor Optimization», Vineet Gupta, Tomer Koren, Yoram Singer;

• «Scalable Second Order Optimization for Deep Learning», Rohan Anil, Vineet Gupta, Tomer Koren, Kevin Regan, Yoram Singer;

• «A Schur-Newton method for the matrix p’th root and its inverse», C.-H. Guo and N. J. Higham.

Видео:

• пакетный градиентный спуск;

• стохастический и мини-пакетный градиентные спуски;

• оптимизации градиентного спуска.

Обзор и реализация популярных ML-алгоритмов 🡆

Общий хайп вокруг нейросетей и их природы несколько перегрет. Да, нейросети способны быстро создавать контент или искать ответы на вопросы. Но что делает их работу действительно ценной, так это применение для комплексных задач. Нейросеть решающая задачи существования и модификации всего, что имеет отношение к живой материи уже запущена в работу.

Еще 5 лет назад разговоры вокруг анализа генома, CRISPR технологий и нейросетей были чем-то вроде околонаучной фантастики. Чего стоит фильм со Скалой «Рэмпейдж», где завязка сюжета в тестировании потенциала CRISPR. Однако, уже сегодня человеку открыт широкий спектр инструментов для улучшения некоторых своих качеств.

Нейросеть решающая задачи существования жизни

Статья написана по материалам исследования. Инновационная нейросеть от Google DeepMind генерирует не только структуру белков, лигандов, ДНК, РНК и «молекул всех форм жизни», но и предсказывает принципы их связи. Это обещает радикальное, революционное ускорение во многих областях науки.

Особенности работы с белками в науке

Белки — одно из самых универсальных изобретений природы. Эти важнейшие строительные блоки всех живых организмов, на которых держатся практически все химические реакции в организме. Белки регулируют экспрессию генов, поддерживают иммунную систему, составляют основные структурные элементы всех клеток и образуют основные компоненты мышц.

При этом, самих белков существует невероятно много. Если пытаться наугад синтезировать их в лаборатории, то процесс займет миллиарды лет. Но можно моделировать процессы, если использовать вычислительные системы. Хотя потребуется невероятно огромное количество мощностей для перебора. Тем более, что вычислительная мощность становится сегодня едва ли не мерилом чего-то божественного, если вдаваться в фундамент датаизма.

Сейчас для этого используются суперкомпьютеры, или подпроекты BOINC. Я сам использовал до последнего старый ноут для расчета заданий в Rosetta@home. Однако, даже если все люди мира запустят проект на своих устройствах, эта работа займет достаточно много времени.

Чем нейросеть решающая задачи отличается от перебора вариантов?

И почему новая нейросеть называется AlphaFold? Суть в том, что белки представляют собой цепочки аминокислот, которые спонтанно складываются, образуя трехмерную структуру. Важны не только компоненты, но и то, как они складываются и связываются друг с другом. В этом случае, форма напрямую влияет на биологические функции белка. 

Говоря о белках, можно анализировать их компоненты и последовательность на бумаге, но если вы не знаете их трехмерную форму, вы не сможете предсказать, что белки будут делать и как они будут взаимодействовать с другими молекулами.

Если говорить цифрами, то на сегодня известно про существование более 200 миллионов белков. И только 170 000 белков разобрано до понимания базовых принципов. Зная аминокислотный состав и способы формирования структур, имеет смысл использовать продукт прогресса, по крайней мере за это ратуют идеи датаизма. Здесь на свет и выходит нейросеть решающая задачи существования жизни, чтобы ускорить этот процесс. Ведь до появления AlphaFold программы не могли предсказывать структуру белка так же точно, как экспериментальные методы, основанные на использовании человека.

Небольшой экскурс в историю. Как развивалась нейросеть решающая задачи фундаментальных жизненных процессов?

AlphaFold 2, выпущенный в 2021 году, стал прорывом, изменившим методологию. Нейросеть предсказала трехмерные структуры почти каждого белка в человеческом организме и помогла в реализации научных исследований. Менее чем за три года нейросеть использовалась исследователями во всем мире для ускорения открытий в области лечения рака, вакцин против малярии , создания ферментов, разъедающих пластик, и бесчисленного множества других проектов. На сегодня Alphafold 2 насчитывает более 14 000 упоминаний в научных статьях.

Итак, чем лучше AlphaFold 3? Новая версия выходит за рамки простого предсказания структуры и характера взаимодействия белков и включает в себя все базовые элементы живых организмов: от множества белков до ДНК, РНК и низкомолекулярных лигандов.

Большинство лекарств это лиганды, которые связываются с белками, меняя принципы их работы.

Нейросеть решающая задачи всестороннего моделирования становится по сути беспрецедентным ресурсом для моделирования того, как конкретные белки в организме будут взаимодействовать с конкретными молекулами лекарств. Датаизм в чистом виде.

Природа данных и архитектура

Чтобы достичь таких возможностей, AlphaFold 3 был обучен на глобальных данных о молекулярной структуре, хранящихся в банке данных белков. Представители компании Deepmind утверждают, что нейросеть может обрабатывать более 99% всех известных биомолекулярных комплексов из упомянутой базы данных. Кроме того, был улучшен модуль Evoformer — архитектура, которая лежала в основе AlphaFold 2.

Вот как работает нейросеть решающая задачи трехмерного моделирования простыми словами. 

•  AlphaFold 2 берет введенную аминокислотную последовательность. 

• Ищет в базах данных аналогичные последовательности, уже идентифицированные в других живых организмах.

• Извлекает всю необходимую информацию с помощью преобразователя Evoformer. Воплотившего в себе философию датаизма.

• Передает эту информацию нейронной сети, которая создает трехмерную структуру — длинный список координат, представляющих положение каждого атома белка, включая боковые цепи. 

Новый и улучшенный Evoformer собирает свои структурные прогнозы с использованием диффузионной сети, подобной той, на которой работают нейросетевые генераторы изображений. 

Как объясняет DeepMind в анонсе AlphaFold 3

Все начинается с облака атомов и через призму многих шагов процесс сводится к своей окончательной, наиболее точной молекулярной структуре.

В недавнем интервью Тому Маккензи из Bloomberg генеральный директор и соучредитель Google DeepMind, а также генеральный директор и основатель Isomorphic Labs, Демис Хассабис обсудил последствия использования AlphaFold 3 в разработке лекарств.

Святой Грааль открытия лекарств — это не просто знание структуры белка, что и делал AlphaFold 2, но и фактическая разработка лекарственных соединений, называемых лигандами, которые связываются с поверхностью белка. Важно знать, где лиганд связывается и насколько сильна новая связь, чтобы разработать правильный тип лекарственного соединения. Таким образом, AlphaFold 3 — это большой шаг в этом направлении предсказания связывания белка с лигандом и того, как это взаимодействие будет работать.

Потенциал AlphaFold 3 

В январе 2024 года Isomorphic Labs объявила о стратегическом партнерстве с фармацевтическими гигантами Eli Lilly и Novartis общей стоимостью около 3 миллиардов долларов США. Но что удивительно, так это сроки производства лекарств, которые, как ожидается, станут результатом этого партнерства.

Итак, мы уже работаем над реальными программами. И я ожидаю, что, возможно, в ближайшие пару лет в клиниках появятся первые лекарства, разработанные с помощью нейросетей. Если вы спросите меня, что самое важное, что может создать нейросеть для человека, так по мне – это лекарство для избавления от сотен ужасных болезней. Я не могу представить лучшего варианта использования нейросетей. Так что отчасти это и есть Мотивация Isomorphic и AlphaFold, а также всей нашей научной работы. Смысл того, что мы делаем. 

Ссылка на интервью

В ходе испытаний AlphaFold 3 продемонстрировал современную точность в прогнозировании лекарственных взаимодействий, включая белки, связанные с лигандами, и антитела, связанные с белками-мишенями.

Использование теста PoseBusters показало, что AlphaFold 3 на 50% точнее лучших существующих методов — без необходимости ввода какой-либо структурной информации. Справка: PoseBusters проверяет химическую и физическую достоверность молекулярных и белково-лигандных «поз», созданных с помощью модели глубокого обучения.

Нейросеть решающая задачи на уровне форм жизни. Можно ли её использовать?

Также, вы сами можете затестить нейросеть. AlphaFold 3 доступен через AlphaFold Server , который включает в себя базу данных из 200 миллионов белковых структур. Этот феноменальный ресурс доступен бесплатно ученым, проводящим некоммерческие исследования, а также просто любопытным пользователям Интернета по всему миру.

Прогнозирование поведения группы белковых структур без такого инструмента может занять лет десять и обойтись в сотни тысяч долларов. AlphaFold 3 обещает радикально ускорить прогресс в  областях биологии и фармацевтики.

Это ступень в дивный новый мир невероятно мощной медицины, или портал в преисподнюю с виртуозно отточенным оружием, способным ориентироваться на генетические маркеры? Сказать сложно. Мы стоим на грани технологической сингулярности и её потенциал велик, а плоды манят разум. Подробнее о них рассказывается в телеграм канале. Подписывайтесь, чтобы не пропустить новые статьи!