Маршрут — обучение и оптимизация моделей

Назначение

Маршрут связывает функции потерь, правдоподобие, backpropagation, обновление параметров, регуляризацию, learning rate и оценку качества моделей.

Шаг 1. Цель обучения

1. Максимальное правдоподобие
2. Кросс-энтропия

Шаг 2. Механика обучения

1. Обратное распространение ошибки
2. Обновление параметров
3. Изменение скорости обучения
4. Затухание градиента

Шаг 3. Стабилизация и перенос

1. Регуляризация
2. Skip connection
3. Батч-нормализация
4. Перенос обучения

Шаг 4. Оценка качества

1. Метрики качества классификаторов
2. ROC-кривая
3. Метрики качества регрессоров
4. Метрики качества кластеризации
5. Метрики стабильности данных

Куда идти дальше

• Маршрут — нейронные сети
• Маршрут — ML в химии и материалах