Статистическая теория обучения VS вычислительная теория обучения?

9

Каковы отношения и различия между статистической теорией обучения и вычислительной теорией обучения ?

Они о той же теме? Решить те же проблемы и использовать те же методы?

Например, первый говорит, что это теория предсказания (регрессия, классификация, ...).

Тим
источник
Это на самом деле отличный вопрос. Я хотел задать подобный вопрос, но я подумал, что это влечет за собой те же свойства вопроса, который я хотел задать. Я видел много книг, много поисков в Google и страницы википедии. Я думаю, что оба вопроса связаны с точки зрения формулировки их как типовых вопросов сложности, но я не смог найти никаких ресурсов, чтобы указать работу, проделанную в этой области до PAC. Все книги, которые я видел, начинаются с PAC, что заставляет меня задуматься о том, что произошло до PAC.
Кирк Уолла

Ответы:

5

Вычислительное обучение, более конкретно, вероятно, приблизительно правильная ( PAC ) структура, отвечает на такие вопросы, как: сколько обучающих примеров необходимо, чтобы учащийся с высокой вероятностью выучил хорошую гипотезу? сколько вычислительных усилий мне нужно, чтобы с большой вероятностью выучить такую ​​гипотезу? Это не относится к конкретному классификатору, с которым вы работаете. Речь идет о том, что вы можете и не можете узнать с некоторыми образцами под рукой.

В теории статистического обучения вы, скорее, отвечаете на вопросы такого рода: сколько обучающих выборок классифицирует неверно, прежде чем сработает с хорошей гипотезой? то есть, насколько сложно обучить классификатор и какие у меня есть гарантии на его работу?

К сожалению, я не знаю источника, где эти две области описываются / сравниваются в единой форме. Тем не менее, хотя не так много надежды, что помогает

jpmuc
источник