Вопросы с тегом «gaussian-process»

Гауссовские процессы относятся к случайным процессам, реализация которых состоит из нормально распределенных случайных величин, с дополнительным свойством, что любая конечная коллекция этих случайных переменных имеет многомерное нормальное распределение. Механизм гауссовских процессов может быть использован в задачах регрессии и классификации.

28
Почему средняя функция в гауссовском процессе неинтересна?

Я только начал читать о GP, и по аналогии с обычным распределением Гаусса оно характеризуется функцией среднего и ковариационной функцией или ядром. Я разговаривал, и оратор сказал, что средняя функция обычно неинтересна, и все усилия по выводу тратятся на оценку правильной ковариационной функции....

26
Почему модели гауссовских процессов называют непараметрическими?

Я немного смущен. Почему гауссовские процессы называют непараметрическими моделями? Они предполагают, что функциональные значения или их подмножества имеют гауссовский априор со средним 0 и ковариационную функцию, заданную в качестве функции ядра. Эти функции ядра сами имеют некоторые параметры...

25
Правда ли, что байесовские методы не подходят больше?

Правда ли, что байесовские методы не подходят больше? (Я видел некоторые документы и учебные пособия, делающие это утверждение) Например, если мы применяем гауссовский процесс к MNIST (классификация рукописных цифр), но показываем только одну выборку, будет ли он возвращаться к предыдущему...

20
Гауссовские процессы в вейвлет-области: что такое ковариация?

Я читал Марауна и др. «Нестационарные гауссовские процессы в вейвлет-области: синтез, оценка и значимое тестирование» (2007), в котором определяется класс нестационарных ГП, которые можно задавать умножителями в вейвлет-области. Реализация одного такого GP: Где η ( т ) является белым шумом, W г...

18
Как работает случайная кухонная раковина?

В прошлом году на NIPS 2017 Али Рахими и Бен Рехт выиграли тест на награду за свою работу «Случайные функции для крупномасштабных машин с ядром», где они представили случайные функции, которые впоследствии были кодифицированы как алгоритм случайных кухонных раковин. В рамках публикации своего...

17
Фиттинг многомерный, натуральный кубический сплайн

примечание: без правильных ответов через месяц я разместил сообщение на SO Фон У меня есть модель, fff , где Y=f(X)Y=f(X)Y=f(\textbf{X}) XX\textbf{X} -матрица выборок изпараметров размером а-векторвыходных данных модели.n×mn×mn \times mmmmYYYn×1n×1n \times 1 fff требует большого объема вычислений,...

16
Гауссовский процесс: свойства аппроксимации функции

Я изучаю гауссовский процесс и слышал только кусочки. Буду очень признателен за комментарии и ответы. Верно ли, что для любого набора данных приближение функции гауссовского процесса даст нулевую или незначительную ошибку подгонки в точках данных? В другом месте я также слышал, что гауссовский...

15
Что такое распределение по функциям?

Я читаю учебник Гауссовского процесса для машинного обучения CE Расмуссена и CKI Williams, и у меня возникают некоторые затруднения с пониманием того, что означает распределение по функциям . В учебнике приводится пример того, что функцию следует представлять как очень длинный вектор (на самом деле...

15
Сплайны против регрессии гауссовского процесса

Я знаю, что Гауссова регрессия процесса (GPR) является альтернативой использованию сплайнов для подгонки гибких нелинейных моделей. Я хотел бы знать, в каких ситуациях одна из них более подходит, чем другая, особенно в рамках байесовской регрессии. Я уже рассмотрел Какие преимущества / недостатки...

14
Понимание регрессии гауссовского процесса через бесконечномерное представление базисной функции

Часто говорят, что регрессия Гауссова процесса соответствует (GPR) байесовской линейной регрессии с (возможно) бесконечным количеством базисных функций. В настоящее время я пытаюсь понять это в деталях, чтобы понять, какие модели я могу выразить, используя GPR. Как вы думаете, это хороший подход,...

13
Гауссовские процессы: как использовать GPML для многомерного вывода

Есть ли способ выполнить Гауссовскую регрессию процесса на многомерном выходе (возможно, коррелированном) с использованием GPML ? В демонстрационном скрипте я мог найти только 1D пример. Аналогичный вопрос о том , что CV тали случай многомерного ввода. Я просмотрел их книгу, чтобы узнать, смогу ли...

13
Настройка гиперпараметра в регрессии Гаусса

Я пытаюсь настроить гиперпараметры алгоритма гауссовой регрессии, который я реализовал. Я просто хочу максимизировать предельное правдоподобие, определяемое формулой где K - ковариационная матрица с элементы K_ {ij} = k (x_i, x_j) = b ^ {- 1} \ exp (- \ frac {1} {2} (x_i-x_j) ^ TM (x_i-x_j)) + a ^...

13
Преимущества гауссовских процессов

У меня эта путаница связана с преимуществами гауссовских процессов. Я имею в виду сравнение с простой линейной регрессией, где мы определили, что линейная функция моделирует данные. Однако в гауссовых процессах мы определяем распределение функций, что означает, что мы не определяем, что функция...

12
Производная гауссовского процесса

Я считаю, что производная гауссовского процесса (ГП) - это другая ГП, и поэтому я хотел бы знать, существуют ли уравнения замкнутой формы для уравнений предсказания производной от ГП? В частности, я использую квадратичное экспоненциальное (также называемое гауссовским) ковариационное ядро ​​и хочу...

12
Плохо обусловленная ковариационная матрица в регрессии ГП для байесовской оптимизации

Предпосылки и проблемы Я использую Гауссовские процессы (GP) для регрессии и последующей байесовской оптимизации (BO). Для регрессии я использую пакет gpml для MATLAB с несколькими пользовательскими модификациями, но проблема общая. Общеизвестно, что когда два входных тренинга находятся слишком...

11
Инкрементная Гауссова регрессия процесса

Я хочу реализовать постепенную гауссовскую регрессию процесса, используя скользящее окно над точками данных, которое приходит один за другим через поток. Пусть обозначает размерность входного пространства. Итак, каждая точка данных имеет количество элементов.dddxixix_iddd Пусть будет размером...

11
Является ли ожидание таким же, как среднее?

Я делаю ML в моем университете, и профессор упомянул термин «ожидание» (E), в то время как он пытался объяснить нам некоторые вещи о гауссовских процессах. Но по тому, как он это объяснил, я понял, что E - это то же самое, что и среднее значение μ. Я правильно понял? Если это то же самое, то знаете...

11
Имитация броуновской экскурсии с использованием броуновского моста?

Я хотел бы смоделировать броуновский экскурсионный процесс (обусловленное броуновское движение всегда будет положительным при 0<t<10<t<10 \lt t \lt 1 до 000 при t=1t=1t=1 ). Поскольку броуновский экскурсионный процесс - это броуновский мост, который всегда должен быть положительным, я...

11
Как вы можете определить, является ли гауссовский процесс более подходящим?

Я тренирую гауссовский процесс с ядром ARD с большим количеством параметров, максимизируя предельное правдоподобие данных вместо перекрестной проверки. Я подозреваю, что это чрезмерно. Как я могу проверить это подозрение в байесовском...