Начало работы с нейронными сетями для прогнозирования

16

Мне нужны ресурсы, чтобы начать использовать нейронные сети для прогнозирования временных рядов. Я настороженно отношусь к реализации некоторых документов, а затем выясняю, что они значительно переоценили потенциал своих методов. Так что если у вас есть опыт работы с методами, которые вы предлагаете, это будет еще более круто.

Ричард Харди
источник
Обратите внимание, что NNs довольно ... устарели.
2
@jason, NN были охарактеризованы как «регрессия без этики», поскольку они не только переоценивают, но и делают ошибку, «полагаясь на данные», а не «ставят под сомнение данные для согласованности сигнала»
IrishStat,
13
НС абсолютно не устарели. Они имеют лучшие результаты по нескольким важным критериям, которые в настоящее время рассматриваются сообществом ML. Кроме того, они являются лучшим универсальным приближением дифференцируемой функции. Ознакомьтесь с работой групп Бенгио, Хинтона и Лекуна за последние 5 лет.
Байер
1
Я читал газету Bengio & Lecun, и это немного передумало, но то, что они делают, сильно отличается от исторических нейронных сетей. ОП хочет работать с временными рядами, где есть несколько методов, которые могут работать с одномерными временными рядами и фактически дают вам полезную информацию о временных рядах (на ум приходят DLM). Если у вас есть данные за пределами самого временного ряда, вы можете использовать множество других методов (LM и т. Д.), Которые просты и также освещают. Зачем использовать черный ящик с циферблатами без маркировки, если можно сделать что-то понятное?
Уэйн
8
Конечно, нейронные сети, используемые еще в 80-х / 90-х годах, отличаются от тех, которые вы используете сегодня, и они все еще являются очень активной областью исследований. Кроме того, вы никогда не используете нейронные сети, когда вам небезразлична интерпретируемость. Вы используете их, когда заботитесь об ошибке предсказания. Нейронные сети быстры, и они решают проблемы, которые терпят неудачу другие методы. Они хороши тем, что они просты с концептуальной точки зрения из-за отсутствия каких-либо предположений о данных, которые вы моделируете (кроме гауссовского шума при использовании с квадратом ошибки). У них есть свои достоинства и недостатки.
Bayerj

Ответы:

10

Вот хорошее краткое введение: введение в нейронные сети. Обратите внимание, что R обладает функциональностью нейронной сети, поэтому не нужно тратить время на самостоятельную реализацию NN, пока вы не сделаете это и не решите, что это выглядит многообещающе для вашего приложения.

Нейронные сети не устарели, но они прошли через несколько ажиотажных циклов, и затем, поняв, что они не делают все, как было заявлено, их репутация некоторое время падает в корыто (в настоящее время мы в одном из них) , Нейронные сети хороши в определенных задачах и, как правило, лучше подходят для задач, в которых человек может выполнить аналогичную задачу, но не может точно объяснить, как они это делают.

Нейронные сети не дают вам глубокого понимания системы, которую вы используете для анализа, даже после того, как они обучены и работают хорошо. То есть они могут предсказать, что произойдет (для некоторых систем), но не скажут вам, почему. В некоторых случаях это нормально. В других это не хорошо. Как правило, если вы хотите или особенно если у вас уже есть понимание правил того, как что-то работает, вы можете использовать другие методы.

Но для определенных задач они работают хорошо.

В частности, для временных рядов см. Обсуждение этого вопроса: правильный способ использования рекуррентной нейронной сети для анализа временных рядов.

rossdavidh
источник
6

Хотя он сфокусирован на статистическом распознавании образов, а не на прогнозировании временных рядов, я настоятельно рекомендую книгу Криса Бишопа Нейронные сети для распознавания образов», потому что это лучшее введение в нейронные сети в целом, и я думаю, что было бы неплохо получить чтобы разобраться с потенциальными подводными камнями при использовании нейронных сетей в более простом контексте, где проблемы легче визуализировать и понять. Затем перейдите к книге по периодическим нейронным сетям Мандича и Чемберса . Книга епископов - это классика, никто не должен использовать нейронные сети ни для чего, пока они не почувствуют уверенность, что они понимают материал, содержащийся в этой книге; ANN сделать это слишком легко, чтобы выстрелить себе в ногу!

Я также не согласен с mbq, nn не устарели, хотя многие проблемы лучше решать с помощью линейных моделей или более современных методов машинного обучения (например, методов ядра), есть некоторые проблемы, когда они работают хорошо, а другие - нет. Это все еще инструмент, который должен быть в наших наборах инструментов.

Дикран Сумчатый
источник