R обнаружить увеличение / уменьшение тренда временных рядов

9

У меня много временных рядов с периодами: день, неделя или месяц. С помощью stl()функции или с помощью loess(x ~ y)я могу видеть, как выглядят тренды определенного временного ряда. Мне нужно определить, увеличивается или уменьшается тренд временного ряда. Как я могу справиться с этим?

Я попытался вычислить коэффициенты линейной регрессии lm(x ~ y)и поиграть с коэффициентом наклона. ( If |slope|>2 and slope>0 thenтенденция к увеличению, else if |slope|>2 and slope<0- уменьшение). Может быть, есть еще один и более эффективный метод определения тренда? Спасибо!

Например: у меня есть timeserie1, timeserie2. Мне нужен простой алгоритм, который сказал бы мне, что timeserie2это увеличивающийся алгоритм, и в timeserie1этом случае тренд не увеличивается и не уменьшается. Какие критерии я должен использовать?

timeserie1:

1774 1706 1288 1276 2350 1821 1712 1654 1680 1451 1275 2140 1747 1749 1770 1797 1485 1299 2330 1822
1627 1847 1797 1452 1328 2363 1998 1864 2088 2084  594  884 1968 1858 1640 1823 1938 1490 1312 2312
1937 1617 1643 1468 1381 1276 2228 1756 1465 1716 1601 1340 1192 2231 1768 1623 1444 1575 1375 1267
2475 1630 1505 1810 1601 1123 1324 2245 1844 1613 1710 1546 1290 1366 2427 1783 1588 1505 1398 1226
1321 2299 1047 1735 1633 1508 1323 1317 2323 1826 1615 1750 1572 1273 1365 2373 2074 1809 1889 1521
1314 1512 2462 1836 1750 1808 1585 1387 1428 2176 1732 1752 1665 1425 1028 1194 2159 1840 1684 1711
1653 1360 1422 2328 1798 1723 1827 1499 1289 1476 2219 1824 1606 1627 1459 1324 1354 2150 1728 1743
1697 1511 1285 1426 2076 1792 1519 1478 1191 1122 1241 2105 1818 1599 1663 1319 1219 1452 2091 1771
1710 2000 1518 1479 1586 1848 2113 1648 1542 1220 1299 1452 2290 1944 1701 1709 1462 1312 1365 2326
1971 1709 1700 1687 1493 1523 2382 1938 1658 1713 1525 1413 1363 2349 1923 1726 1862 1686 1534 1280
2233 1733 1520 1537 1569 1367 1129 2024 1645 1510 1469 1533 1281 1212 2099 1769 1684 1842 1654 1369
1353 2415 1948 1841 1928 1790 1547 1465 2260 1895 1700 1838 1614 1528 1268 2192 1705 1494 1697 1588
1324 1193 2049 1672 1801 1487 1319 1289 1302 2316 1945 1771 2027 2053 1639 1372 2198 1692 1546 1809
1787 1360 1182 2157 1690 1494 1731 1633 1299 1291 2164 1667 1535 1822 1813 1510 1396 2308 2110 2128
2316 2249 1789 1886 2463 2257 2212 2608 2284 2034 1996 2686 2459 2340 2383 2507 2304 2740 1869  654
1068 1720 1904 1666 1877 2100  504 1482 1686 1707 1306 1417 2135 1787 1675 1934 1931 1456 1363 2027
1740 1544 1727 1620 1232 1199

timeserie2:

 122  155  124   97  155  134  115  122  162  115  102  163  135  120  139  160  126  122  169  154
 121  134  143  100  121  182  139  145  135  147   60   58  153  145  130  126  143  129   98  171
 145  107  133  115  113   96  175  128  106  117  124  107  114  172  143  111  104  132  110   80
 159  131  113  123  123  104  101  179  127  105  133  127  101   97  164  134  124   90  110  102
  90  186   79  145  130  115   79  104  191  137  114  131  109   95  119  173  158  137  128  119
 109  120  182  140  133  113  121  110  122  159  129  124  119  109  108   95  167  138  125  105
 139  118  115  166  140  112  116  139  121  109  164  135  118  121  112  111  102  169  136  151
 132  135  130  112  156  134  121  116  114   91   86  141  160  116  118  112   84  114  165  141
 109  123  122  110  100  162  145  121  118  115  107  103  162  142  130  139  134  121  118  164
 147  125  120  134  107  130  158  141  144  148  124  135  118  212  178  154  167  155  176  143
 201  170  144  138  152  136  123  223  189  160  153  190  136  144  276  213  199  211  196  170
 179  460  480  499  550  518  493  557  768  685  637  593  507  611  569  741  635  563  577  498
 456  446  677  552  515  441  438  462  530  699  629  555  641  625  544  585  705  584  553  622
 506  500  533  777  598  541  532  513  434  510  714  631 1087 1249 1102  913  888 1147 1056 1073
1075 1136  927  922 1066 1074  996 1189 1062  999  974 1174 1097 1055 1053 1097 1065 1171  843  441
 552  779  883  773  759  890  404  729  703  810  743  743  946  883  813  876  841  742  715  960
 862  743  806  732  669  621
Jurgita
источник
1
Ваш второй пример не имеет тенденции, поэтому вы не должны ее обнаруживать. В периоде 230 данные имеют сдвиг уровня (то есть 0,0,0,0,0,1,1,1,1,1,1 и т. Д.), Который отличается от тренда. Кроме того, есть изменение в приблизительно 200, которое может быть идентифицировано с помощью теста Цая. Подробнее здесь www.unc.edu/~jbhill/tsay.pdf
Том Рейли
2
@ Том Да, то, что вы говорите, видно на графике данных. (Действительно, график показывает три отдельных внезапных изменения уровня, а не только один). Но характеризовать это как отличающееся от «тренда» не совсем справедливо для вашего анализа, который, как я знаю, раскроет тонкие детали в поведении этого временного ряда. Я хотел бы предложить, чтобы ФП лучше обслуживали четкие характеристики поведения данных, а не обсуждения возможных определений «тренда». Она просит альтернативу тестированию наклона наименьших квадратов - и это фактическое указание того, что она подразумевает под «трендом».
whuber

Ответы:

7

Вы можете применить фильтр с нулевым фазовым сдвигом и отключить все частоты выше некоторого порога; это даст вам "тенденцию" в некотором роде.

Например, посмотрите на этот вопрос: « Как запустить фильтр верхних или нижних частот для точек данных в R? ». Они показывают, как использовать фильтр низких частот Баттерворта. Проблема с этим фильтром состоит в том, что это не нулевой сдвиг фазы, то есть, как вы видите, фаза низкочастотного компонента смещена относительно исходного сигнала. Возможно, вы захотите найти фильтр, который не сдвигает фазу. Если бы это были экономические данные, я бы предложил фильтр Кристиано в соответствии с «Полосовым фильтром» Лоуренса Дж. Кристиано и Терри Дж. Фицджеральда (1999). Для физических данных должна быть доступна масса фильтров с нулевым фазовым сдвигом.

ОБНОВИТЬ:

Вот пример применения фильтра нижних частот для LOG второго временного ряда. LOG требуется, чтобы выровнять дисперсию.

UPDATE2:

Вот пример разложения в частотной области с частотными полосами: нерегулярный [2-19], циклический [20-99] и трендовый [100- ] (в длинах периодов). Полосы частот должны выбираться тщательно, исходя из понимания основного явления.

Аксакал
источник
1
Я некоторое время ломал голову над этим ответом и, наконец, понял, что вы должны использовать слово «тренд» почти так же, как многие статистики использовали бы «гладкий». Тогда все это имеет смысл. Мы должны надеяться, что ОП скоро прояснит, что она подразумевает под «трендом».
whuber
да, я использую «тренд» в смысле декомпозиции временных рядов: у = тренд + циклический + сезонный + нерегулярный, например, en.wikipedia.org/wiki/Decomposition_of_time_series, тренд в этом контексте будет «очень низкой» частотной составляющей , насколько низко зависит от проблемы
Аксакал
1
Это не совсем так. Когда вы отфильтровываете высокочастотные компоненты, вы удаляете некоторые «нерегулярные» (читай: шум) и, возможно, крошечную часть циклической части, но тренд, средне- и долгосрочные циклические компоненты и сезонные компоненты. все останется.
whuber
1
для тренда вы бы использовали фильтр нижних частот. скажем, у вас есть несколько лет ежемесячных рядов данных. в этом случае нижняя полоса может составлять 10 лет, поэтому вы отключаете все частоты выше 1/10 (когда время в годах). порог действительно зависит от явления: в экономических данных деловые циклы могут длиться 10-15 лет, поэтому вам может потребоваться установить нижнюю полосу на 1/16
Аксакал
1
Как показывает ваша новая иллюстрация, когда вы слишком агрессивны в фильтрации, вы также теряете очевидные тренды: ваша сглаженность настолько сильна, что пропускает почти всю последнюю треть данных. Несмотря на это, это определенно не разложение на качественные условные компоненты, описанные в статье Википедии, на которую вы ссылаетесь. Другая проблема с подходом фильтрации (как бы он ни проводился) - статистическая: как вы проверяете , есть ли «тренд» и есть ли он вверх или вниз?
whuber
3

Обнаружение тренда во временном ряду может быть сделано просто неправильно или более агрессивно. Ряд может иметь значения, которые демонстрируют тренд, например 1,2,3,4,5, а затем изменение тренда в один или несколько моментов времени, например. 7,9,11,13,15,...Другой пример - 1,1,1,1,1,2,3,4,5,6отсутствие тренда в первых 5 показаниях, а затем тренд. 1,1,1,1,1,2,2,2,2,2Говорят, что серия вроде имеет сдвиг уровня (изменение перехвата). AutoboxЭто программное обеспечение, которое уникально (насколько мне известно) включает аналитику для обнаружения, тестирования и учета временных тенденций. Я был одним из разработчиков и расширил аналитику в этой конкретной области. Процедура, которую вы пытаетесь использовать (на мой взгляд, неверно), является предполагаемой моделью, то есть без импульсов, без сдвигов уровней, без сезонных импульсов, без структуры ARIMA, постоянной погрешности и т. Д. Другой возможный плохой пример предполагаемой модели - это используйте , так как опять-таки предполагается, что определенная структура.[1B]y(t)=θ0+[MA/AR]a(t)

Идея здесь заключается в том, что модель ARIMA может быть неправильной или что изменяется (таким образом, различные тренды) в разные моменты времени.θ0

Вся идея состоит в том, чтобы позволить данным «говорить», а анализ - «слушать» и выявлять «правильную модель» или, по крайней мере, «полезную модель».

Орсон Бин - или, может быть, это был кто-то другой - однажды сказал: «Тренд - это тренд ... до тех пор, пока он не изгибается, а когда тренд изгибается, тренд заканчивается». Тенденции локального времени во временных рядах требуют определения точек разрыва. а затем оценка местной тенденции. Некоторые полезные материалы / ссылки можно найти по адресу http://www.autobox.com/OLDWEB/udontsay.html

Если вы хотите опубликовать некоторые данные, сделайте это, и я отправлю вам результаты.

IrishStat
источник
3
Тренд есть тренд, есть тренд \ Но вопрос в том, согнется ли он? \ Изменит ли он свой курс \ Через какую-то непредвиденную силу \ И придет ли преждевременный конец? Александр Кернкросс
Ник Кокс,
Спасибо за ответ. Я буду изучать вашу информацию. Я также опубликовал некоторые данные.
Юргита
1
В этом случае, Марта, звучит так, будто вы тестируете глобальный «тренд» (в смысле различий в типичных значениях между двумя концами временного ряда), а не локальные тренды, как описано в этом ответе. Это верно?
whuber
1
@ Ник Спасибо! Поскольку потребовалось некоторое усилие, чтобы выследить источник, вот оно: Экономическое прогнозирование , Обращение президента к Королевскому экономическому обществу, 3 июля 1969 года . Кэрнкросс открыл свою речь цитатой из Линкольна, за которой последовал этот оригинальный лиририк (явно приписываемый «Прогнозисту эпохи Стейна»). Последующие замечания дают понять, что он имел в виду прогнозирование - экстраполяцию трендов.
whuber
1
@ whuber, вы правы, я ищу глобальную тенденцию. Извините, если мой вопрос вводил в заблуждение.
Юргита