Начинает свою работу страница курса "Прикладная информатика: машинное обучение". Курс проводится при поддержке компании Akvelon.

В настоящем разделе размещена информация, затрагивающая литературу, ссылки, лекционные и практические занятия по темам курса, а также примеры реализаций алгоритмов.

Место и время проведения 

Лаборатория "Дискретная и вычислительная геометрия" им. Б.Н. Делоне (ул. Комсомольская, д. 3). Занятия проводятся два раза в неделю: среда (с 18.30 до 20.30) и суббота (с 12.00 до 15.00).

Что сделать до следующего занятия?
  1. До 22.03.2017 (среда) необходимо установить программное обеспечение указанное в лекции 1.
  2. До 25.03.2017 (суббота) изучить материалы лекции № 2. Сдать решение тестового задания № 1.
  3. До 29.03.2017 (среда) сдать отчет по практическому заданию № 1.
  4. До 01.04.2017 (суббота) изучить материалы лекции № 3.
  5. До 05.04.2017 (среда) сдать отчет по практическому заданию № 2.
  6. До 08.04.2017 (суббота) изучить материалы лекции № 4. Сдать решение тестового задания № 2.
  7. До 12.04.2017 (среда) сдать отчет по практическому заданию № 3.
  8. До 15.04.2017 (суббота) изучить материалы лекции № 5.
  9. До 19.04.2017 (среда) сдать отчет по практическому заданию № 4.
  10. До 22.04.2017 (суббота) изучить материалы лекции № 6. Сдать решение тестового задания № 3.
  11. До 26.04.2017 (среда) сдать отчет по практическому заданию № 5.
  12. До 29.04.2017 (суббота) изучить материалы лекции № 7.
  13. До 03.04.2017 (среда) сдать отчет по практическому заданию № 6.
  14. До 06.05.2017 (суббота) изучить материалы лекций № 8 и № 9. Сдать решение тестового задания № 4.
  15. До 10.05.2017 (среда) сдать отчет по практическому заданию № 7.
  16. До 15.05.2017 (понедельник) заполнить и выслать форму обратной связи по курсу (ссылка).
Результаты проверки практических и тестовых заданий можно узнать здесь.

Темы лекционных занятий
  1. Введение и обзор материала курса. Линейная регрессия с одной переменной (презентация .pptx). Python 3 скачиваем здесь. Ссылки на библиотеки NumPySciPyMatplotlib и Scikit-Learn. Опционально могут быть установлены библиотеки OpenCVPandas и Scikit-Image. Возможной сборкой пакетов для работы с Python может служить Anaconda. Коды можно набивать в текстовом редакторе Siblime Text 3, далее выполняя их через командную строку. Как установить библиотеку OpenCV под Python 3 можно прочитать здесь. Полезным введением в язык программирования Python является следующий online-курс, а также следующий источник. Для улучшения понимания внутренней работы Python рекомендуется обратиться к Python Tutor.
  2. Линейная регрессия со множеством переменных. Классификация. Логистическая регрессия (презентация .pptx).
  3. Искусственные нейронные сети (представление) (презентация .pptx). Для работы со сверточными нейронными сетям, возможно, окажутся полезными следующие библиотеки: OpenCVTheanoTensorFlow и Caffe.
  4. Искусственные нейронные сети (обучение) (презентация .pptx).
  5. Рекомендации по применению алгоритмов машинного обучения. Построение систем машинного обучения. Оптическое распознавание символов. Данные, данные, данные ... (презентация .pptx). Дополнительно рекомендуется ознакомиться с лекцией "Метрики качества классификации" курса "Введение в машинное обучение" от Высшей школы экономики. Ссылка на презентации из данной лекции находится здесь.
  6. Кластеризация (презентация .pptx).
  7. Анализ главных компонент (презентация .pptx). Копию оригинальной статьи К. Пирсона 1901 г., в которой было предложено описание анализа главных компонент может быть найдена здесьСсылка на статью Turk M., Pentland А. Eigenfaces for Recognition // Journal of Cognitive neuroscience. 1991. V. 3, №1. P. 73–86 может быть найдена здесь. Опционально, про применение анализа главных компонент в задаче шумоподавления на цифровых изображениях можно узнать из следующего источникаВ лекции №29 курса Strang G. Linear Algebra (18.06, 1999, MIT) можно ознакомиться с темой, посвященной SVD - Singular Value Decomposition (ссылка).
  8. Детектирование лиц на основе алгоритма Виола / Джонса (презентация .pptx). Ссылка на статью Viola P., Jones M. Robust Real-time Object Detection // Int. J. Computer Vision. 2004. V. 57, 2. P. 137–154 (ссылка). Видеоролики, демонстрирующие использование алгоритма Виола / Джонса для управления мобильным роботом (ссылка 1ссылка 2). Демонстрационный программный код, показывающий работу детектора Виола / Джонса можно найти здесь. Для запуска кода потребуется установить библиотеку OpenCV по следующей ссылке.
  9. Машинное обучение на больших базах данных (презентация .pptx).
  10. Введение в глубокое обучение. Сверточные нейронные сети (презентация .pptx). Демонстрационные программные коды, показывающие работу сверточной нейронной сети можно найти здесь.
Практические задания
  1. Линейная регрессия (описание .rar). Подсказка для выполнения практического задания (ссылка). Срок сдачи задания - 29.03.2017Решение практического задания №1 (ссылка).
  2. Логистическая регрессия (описание .rar). Срок сдачи задания - 05.04.2017Решение практического задания №2 (ссылка).
  3. Многоклассовая классификация и нейронные сети (описание .rar). Срок сдачи задания - 12.04.2017Решение практического задания №3 (ссылка).
  4. Обучение нейронных сетей (описание .rar). Срок сдачи задания - 19.04.2017Решение практического задания №4 (ссылка).
  5. Регуляризованная линейная регрессия. Недообучение и переобучение (описание .rar). Срок сдачи задания - 26.04.2017Решение практического задания №5 (ссылка).
  6. Кластеризация с использованием алгоритма K-средних (описание .rar). Срок сдачи задания - 03.05.2017Решение практического задания №6 (ссылка).
  7. Анализ главных компонент (описание .rar). Срок сдачи задания - 10.05.2017Решение практического задания №7 (ссылка).
  8. Итоговые проекты для защиты (презентация .pptx). Срок сдачи задания - 17.05.2017.
Тестовые задания
  1. Тест № 1 (ссылка). Срок сдачи решения - 25.03.2017.
  2. Тест № 2 (ссылка). Срок сдачи решения - 08.04.2017.
  3. Тест № 3 (ссылка). Срок сдачи решения - 22.04.2017.
  4. Тест № 4 (ссылка). Срок сдачи решения - 06.05.2017.
Дополнительные материалы
  1. Ng A. Machine Learning (CS 229), 2009. Stanford University (ссылка 1ссылка 2).
  2. Ng A. Unsupervised Feature Learning and Deep Learning. Stanford University (ссылка 1ссылка 2).
  3. Ng A. Machine Learning (Open Classroom). Stanford University (ссылка).
  4. Сайт посвященный новой области машинного обучения - глубокому обучению (Deep Learning). Глубокое обучение введено с целью смещения машинного обучения к одной из его первоначальных целей - искусственному интеллекту (Artificial Intelligence) (ссылка 1ссылка 2).
  5. Goodfellow I., Bengio Y., Courville A. Deep Learning. MIT Press, 2016 (ссылка).
  6. Li F.-F. et al. CS231n: Convolutional Neural Networks for Visual Recognition, 2017. Stanford University (ссылка).
  7. TensorFlow and Deep Learning, without PhD. Google Codelabs (ссылка).
  8. Воронцов К.В. Машинное обучение, 2012/2013. ШАД Яндекс (ссылка).
  9. Профессиональный информационно-аналитический ресурс, который затрагивает машинное обучение, а также распознавание образов и интеллектуальный анализ данных (ссылка).
  10. Анохин Н., Гулин В., Нестеров П. Data Mining. Проект Техносфера (ссылка).
  11. Szelicki R. Computer Vision: Algorithms and Applications. Springer, 2010 (ссылка).
  12. Конушин A. Семантическая классификация изображений (видеолекции), 2010. Сomputer Science клуб при ПОМИ РАН (ссылка).
  13. Ерухимов В. Компьютерное зрение и библиотека OpenCV (видеолекции), 2011. Сomputer Science клуб при ПОМИ РАН (ссылка).
  14. Конушин А. Курсы "Введение в компьютерное зрение" и "Доп. главы компьютерного зрения" (видеолекции), 2011. Лаборатория компьютерной графики при ВМК МГУ (ссылка).
  15. Efros A. Learning-Based Methods in Vision (16-721), 2009. Carnegie Mellon University (ссылка).
  16. Kemelmacher I., Rao R., Seitz S., Shapiro L. Computer Vision (CSE 455), 2003 - 2017. University of Washington (ссылка).
  17. Lazebnik S. Computer Vision (COMP 776), 2016. The University of North Carolina at Chapel Hill (ссылка).
  18. Thrun S. Computer Vision / Introduction to Computer Vision (CS 223b), 2004 - 2009. Stanford University (ссылка).
Online курсы

Информация по наиболее интересным online курсам приведена в первой презентации. Напоминаю, что с 2011 года ряд западных университетов начал практику создания online-курсов (www.coursera.orgwww.udacity.org) по различным дисциплинам. Например, "Искусственный интеллект", "Машинное обучение", "Компьютерное зрение" и т.д. Для ознакомления с материалами курсов (видеолекциями, практическими заданиями и т.д.) нужна регистрация!

Руководитель курса: доцент кафедры инфокоммуникаций и радиофизики Волохов В.А.