Машинное обучение = набор гипотез и набор данных
·
На самом деле, любые подходы к машинному обучению делают одно и тоже. У нас всегда есть две основных вещи: - Во-вервых, это набор гипотез. Это может быть набор функций, или набор весов для нейронов нейронной сети, или набор всевозможных решающих деревьев… Что угодно. Зависит от конкретного подхода. - Во-вторых, у нас есть набор обучающих данных. Наша задача всегда сводится к одному: определить, какая же из наших моделей наиболее адекватна нашим обучающим данным.
Link:: http://www.michurin.net/computer-science/bayes/bayes.html
Ёмкая формулировка для описания подходов в [[machine learning]]. Главное помнить, что переобучение возникает, когда у вас слишком много гипотез и недостаточно данных, чтобы их различить.