Поиск корней для стохастической функции

Предположим, у нас есть функция которую мы можем наблюдать только через некоторый шум. Мы не можем вычислить напрямую, только где - некоторый случайный шум. (На практике: я вычисляю используя метод Монте-Карло.) $f(x)$ $f(x)$ $f(x) + \eta$ $\eta$ $f(x)$

Какие методы доступны для нахождения корней , то есть для вычисления так, чтобы ? $f$ $x$ $f(x) = 0$

Я ищу методы, которые минимизируют количество оценок, необходимых для , поскольку это вычислительно дорого. $f(x)+\eta$

Я особенно заинтересован в методах, которые обобщают для нескольких измерений (то есть решить ). $f(x,y) = 0, g(x,y) = 0$

Мне также интересны методы, которые могут использовать некоторую информацию о дисперсии , поскольку оценка этого может быть доступна при вычислении с использованием MCMC. $\eta$ $f(x)$

approximation Сабольч
источник

Я не уверен, какие метки подходят для этого вопроса, пожалуйста, помогите повторно пометить.

Сабольч

Чтобы быть справедливым, я нашел стохастическое приближение , но очень мало практической информации с примерами или практическим обсуждением того, когда это работает хорошо, а когда нет. Большая часть информации содержится в научных статьях, которые, по-видимому, требуют немалой работы для практического применения. Еще одна вещь, которую я нашел, - это оценка без правдоподобия ключевого слова, которая решает очень похожую проблему, и в Интернете доступно больше практической информации. Есть ли еще что-нибудь? Рекомендации приветствуются!

Сабольч

интересная проблема. я предполагаю, что все градиентные методы выходят в окно

Аксакал

Кроме того, в вашем случае проблема более сложна: вы можете контролировать

через MC

v a r [η]

$var[\eta]$

Aksakal

Я добавлю дополнительные 50 к награде Glen_b за хороший ответ.

Сабольч

Ответы:

Вы можете найти следующие ссылки полезными:

Pasupathy, R.and Kim, S. (2011) Стохастическая проблема поиска корней: обзор, решения и открытые вопросы. ACM транзакции по моделированию и компьютерному моделированию, 21 (3). [ DOI ] [ препринт ]

Waeber, R. (2013) Вероятностный поиск пополам для стохастического поиска корней. Докторская диссертация, Корнельский университет, Итака. [ pdf ]

QuantIbex
источник

(+1) Ответ на вопрос с цитированием диссертации 2013 года - это очень здорово.

Sycorax сообщает, что восстановит Монику

Гугл-фу этого сильна

bdeonovic,

Первая статья, которую вы цитируете, полезна, но следует отметить, что для применения этих методов на практике все еще требуется немало работы.

Сабольч

Было бы очень хорошо, если бы кто-то, кто прошел через методы, мог дать оценку того, сколько работы требуется, чтобы перейти от статьи к наиболее простой реализации. Взглянул на первую статью, и она кажется довольно плотной.

Рамон Мартинес

Я думаю, что для такого рода проблем вы можете использовать стохастический градиентный спуск, см., Например, finzi.psych.upenn.edu/R/library/sgd/html/sgd.html

Том Венселерс