Если я генерирую случайную симметричную матрицу, какова вероятность того, что она положительно определена?

У меня возник странный вопрос, когда я экспериментировал с некоторыми выпуклыми оптимизациями. Вопрос в том:

Предположим, что я случайно (скажем, стандартное нормальное распределение) генерирую симметричную матрицу (например, я генерирую верхнюю треугольную матрицу и заполняю нижнюю половину, чтобы убедиться, что она симметричная), какова вероятность того, что она является положительно определенной матрица? Есть ли способ рассчитать вероятность? $N \times N$

probability matrix random-generation eigenvalues random-matrix Haitao Du
источник

Попробуйте симуляцию ...

kjetil b halvorsen

@kjetilbhalvorsen спасибо, но мне интересно, какова вероятность того, что все собственные значения больше нуля или мы можем даже сделать это аналитически.

Haitao Du

Ответ зависит от того, как вы генерируете матрицу. Например, один способ генерирует действительных собственных значений согласно некоторому распределению и затем сопрягает эту диагональную матрицу случайной ортогональной матрицей. Результат будет положительно определенным, если и только если все эти собственные значения положительны. Если вы должны были генерировать собственные значения независимо в соответствии с симметричным распределением относительно нуля , то этот шанс, очевидно, составляет не более . Затем, чтобы сгенерировать матрицу PD, хорошо выбирайте собственные значения! (Для быстрой работы я создаю такие матрицы, как ковариации многомерных нормальных данных.)

n

$n$

2^{- n}

$2^{-n}$

whuber

Не ответ на заданный вопрос, но учтите, что если сначала смоделировать матрицу с каждой записью с нормальным и одинаковыми размерами , то симметрично и положительно определено с вероятностью 1.

L

$L$

N

$N$

N = L L^{T}

$N = LL^T$

Клифф А. Б.

Ответы:

Если ваши матрицы взяты из стандартных нормальных записей iid, вероятность быть положительно определенной приблизительно , поэтому, например, если , вероятность равна 1/1000, и идет довольно быстро после этого. Вы можете найти расширенное обсуждение этого вопроса здесь . $p_N\approx 3^{-N^2/4}$ $N=5$

Вы можете несколько интуитивно понять этот ответ, приняв, что распределение собственных значений вашей матрицы будет приблизительно полукругом Вигнера , которое симметрично относительно нуля. Если бы все собственные значения были независимы, у вас была бы вероятность положительной определенности этой логикой. В действительности вы получаете поведение, как из-за корреляции между собственными значениями, так и законами, регулирующими большие отклонения собственных значений, в частности, наименьшее и наибольшее. В частности, случайные собственные значения очень похожи на заряженные частицы и не любят быть рядом друг с другом, поэтому они отталкиваются друг от друга (как ни странно, с тем же потенциальным полем, что и у заряженных частиц, , где $(1/2)^N$ $N^2$ $\propto 1/r$ $r$ это расстояние между соседними собственными значениями). Поэтому просить их всех быть позитивными было бы очень высокой просьбой.

Кроме того, из-за законов универсальности в теории случайных матриц я сильно подозреваю, что вышеупомянутая вероятность , вероятно, будет одинаковой для практически любой «разумной» случайной матрицы, с записями iid, которые имеют конечное среднее значение и стандартное отклонение. $p_N$

Алекс Р.
источник

Приятно знать, что это очень низко. Поэтому я не буду использовать выборку отклонения для создания матрицы SPD в будущем.

Haitao Du

@ hxd1011: если вы пытаетесь отобрать SPD-матрицы, я предлагаю метод, который я описал в комментариях выше. Кроме того, может быть полезно прочитать о разложениях Холецкого

Клифф А.Б.

A^{'} A

$A'A$

2 \times 2

$2 \times 2$