Основная программа
Основы
- логистическая регрессия
- многослойный перспетрон
- градиентный спуск и метод обратного распространения ошибки
- слои
- регуляризация
- фреймворки
Обработка естественного языка
- языковое моделирование (NeuralLM)
- дистрибутивные модели
- рекуррентные сети (RNN, LSTM и варианты)
- seq2seq-модели и attention
- свертки в задачах NLP
- "постреккуррентные" модели
- контекстуализированные эмбеддинги (ULMFiT, ELMo, BERT)
Компьютерное зрение
- детекция (YOLO)
- сегментация (U-net и DeepLab-v3)
- Depth estimation
- Super resolution
- Mask RCNN
- GAN (на примере Cycle GAN)
- Reverse gradient
- Style transfer и inpainting
- Deep Visual Odometry
Много практики
Упражнения на PyTorch и проектная деятельность.
3-4 циклы: с 21 июля по 5 августа