Книга Этема Альпайдина «Введение в машинное обучение» утверждает, что размер VC прямоугольника, ориентированного по оси, равен 4. Но как прямоугольник может разрушить набор из четырех коллинеарных точек с чередующимися положительными и отрицательными точками ??
Может кто-нибудь объяснить и доказать размерность прямоугольника VC?
tl; dr: у вас неверное определение измерения VC.
Размерность VC прямоугольников - это количество элементов максимального набора точек, которые могут быть разбиты прямоугольником.
Размер VC прямоугольников равен 4, потому что существует набор из 4 точек, которые можно разбить прямоугольником, и любой набор из 5 точек не может быть разбит прямоугольником. Таким образом, хотя верно то, что прямоугольник не может разрушить набор из четырех коллинеарных точек с чередованием положительных и отрицательных значений, размерность VC по-прежнему равна 4, поскольку существует одна конфигурация из 4 точек, которые могут быть разрушены.
Измерение VC алгоритма таково, что максимальное количество точек таково, что
существует такая схема расположения точек, что
для всех обозначений этих точек алгоритм не допускает ошибок
И действительно, существует схема из четырех точек (как ромб), так что прямоугольник может отделить любой набор положительных точек от других. То, что существует расположение четырех точек, где прямоугольник потерпит неудачу, не имеет значения.
Считайте это игрой между вами и противником. Вы выбираете расположение точек, и оппонент помечает их так, как ему нравится. Если он выигрывает, найдя маркировку, которая не может быть разрушена, то измерение VC будет меньше, чем количество очков, но если вы выиграете, измерение VC будет равно или больше, чем количество очков. В вашем вопросе вы не обязаны выбирать это расположение, вы можете найти лучшее расположение очков, которые позволят вам выиграть.
источник