Первое открытое заседание Ученого совета ФКН. Доклады Дмитрия Ветрова и Алексея Наумова

1. «Необычные свойства рельефа функции потерь в глубинном обучении» Доклад заведующего Центром глубинного обучения и байесовских методов профессора Дмитрия Ветрова. В докладе мы рассмотрим несколько необычных эффектов, возникающих при обучении современных нейронных сетей и свидетельствующих о том, что рельеф оптимизируемой функции обладает рядом необычных свойств. Также мы обсудим динамику процесса обучения нейросетей и влияние, которое оказывают на нее L2-регуляризация и батч-нормализация весов. В частности, будет показано регуляризация и нормализация весов совместно приводят к стабилизации процесса обучения и делают нейросеть слабозависящей от выбора конкретных гиперпараметров. 2. “Model-Free Approach to Evaluate Reinforcement Learning Algorithms“ Доклад заведующего Международной лабораторией стохастических алгоритмов и анализа многомерных данных Алексея Наумова. Policy evaluation is an important instrument for the comparison of different algorithms in Reinforcement Learning (RL). Yet even a precise kn