Конвертировать массив индексов в 1-й горячий кодированный массив

227

Допустим, у меня есть 1d NumPy массив

a = array([1,0,3])

Я хотел бы закодировать это как 2d 1-горячий массив

b = array([[0,1,0,0], [1,0,0,0], [0,0,0,1]])

Есть ли быстрый способ сделать это? Быстрее, чем просто перебрать, aчтобы установить элементы b, то есть.

Джеймс Этвуд
источник

Ответы:

395

Ваш массив aопределяет столбцы ненулевых элементов в выходном массиве. Вам также нужно определить строки, а затем использовать необычную индексацию:

>>> a = np.array([1, 0, 3])
>>> b = np.zeros((a.size, a.max()+1))
>>> b[np.arange(a.size),a] = 1
>>> b
array([[ 0.,  1.,  0.,  0.],
       [ 1.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  1.]])
YXD
источник
111
Прекрасный. Немного b = np.zeros((a.size, a.max()+1))обобщив:, тогда `b [np.arange (a.size), a] = 1`
Джеймс Этвуд
10
@JamesAtwood это зависит от приложения, но я бы сделал max параметром, а не вычислял его по данным.
Мохаммад Могими
1
@MohammadMoghimi Конечно, имеет смысл для меня.
Джеймс Этвуд
7
Что делать, если «а» был 2d? а ты хочешь 3-ю горячую матрицу?
AD
8
Может кто-нибудь указать на объяснение того, почему это работает, но фрагмент с [:, a] нет?
Н. Мака.
168
>>> values = [1, 0, 3]
>>> n_values = np.max(values) + 1
>>> np.eye(n_values)[values]
array([[ 0.,  1.,  0.,  0.],
       [ 1.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  1.]])
K3 --- СРН
источник
9
Это единственное решение, пригодное для ввода матрицы ND в горячую матрицу N + 1D. Пример: input_matrix = np.asarray ([[0,1,1], [1,1,2]]); np.eye (3) [input_matrix] # Выход 3D тензор
Isaías
5
+1, потому что это должно быть предпочтение перед принятым решением. Однако для более общего решения valuesследует использовать массив Numpy, а не список Python, тогда он работает во всех измерениях, а не только в 1D.
Алекс
8
Обратите внимание, что брать np.max(values) + 1как количество сегментов может быть нежелательно, если ваш набор данных, скажем, выбран случайным образом, и просто случайно он не может содержать максимальное значение. Количество сегментов должно быть скорее параметром, и может быть установлено утверждение / проверка, чтобы проверить, что каждое значение находится в пределах 0 (вкл.), И количество сегментов (исключая).
NightElfik
2
Для меня это решение является лучшим и может быть легко обобщено на любой тензор: def one_hot (x, deep = 10): return np.eye (deep) [x]. Обратите внимание, что указание тензора x в качестве индекса возвращает тензор строк x.shape eye.
cecconeurale
4
Простой способ «понять» это решение и почему оно работает для N-dims (без чтения numpyдокументов): в каждом месте исходной матрицы ( values) у нас есть целое число k, и мы «помещаем» 1-горячий вектор eye(n)[k]в это место , Это добавляет измерение, потому что мы «помещаем» вектор в положение скаляра в исходной матрице.
Авивр
32

Вот что я считаю полезным:

def one_hot(a, num_classes):
  return np.squeeze(np.eye(num_classes)[a.reshape(-1)])

Здесь num_classesобозначает количество классов, которые у вас есть. Так что если у вас есть aвектор с формой (10000,), эта функция преобразует его в (10000, C) . Обратите внимание, что с aнулевым индексом, т.е. one_hot(np.array([0, 1]), 2)даст [[1, 0], [0, 1]].

Именно то, что вы хотели иметь, я верю.

PS: источник модели Sequence - deeplearning.ai

D.Samchuk
источник
Кроме того, в чем причина выполнения np.squeeze (), поскольку для получения (размера вектора a) множества np.eye(num_classes)[a.reshape(-1)]. What you are simply doing is using единичных горячих кодированных массивов с помощью np.eye` вы создаете диагональную матрицу с каждым индексом класса равным 1, остальному нулю, а затем с использованием предоставленных индексов путем a.reshape(-1)получени выходной сигнал , соответствующий индексу в np.eye(). Я не понимал необходимости, np.sqeezeпоскольку мы используем его для простого удаления отдельных измерений, которых у нас никогда не будет, поскольку в измерении выходных данных всегда будет(a_flattened_size, num_classes)
Anu
27

Вы можете использовать sklearn.preprocessing.LabelBinarizer:

Пример:

import sklearn.preprocessing
a = [1,0,3]
label_binarizer = sklearn.preprocessing.LabelBinarizer()
label_binarizer.fit(range(max(a)+1))
b = label_binarizer.transform(a)
print('{0}'.format(b))

вывод:

[[0 1 0 0]
 [1 0 0 0]
 [0 0 0 1]]

Среди прочего, вы можете инициализировать sklearn.preprocessing.LabelBinarizer()так, чтобы вывод был transformредким.

Франк Дернонкур
источник
21

Вы также можете использовать глаз функцию numpy:

numpy.eye(number of classes)[vector containing the labels]

Карма
источник
1
Для большей ясности np.identity(num_classes)[indices]лучше использовать. Хороший ответ!
Оливер
5

Вот функция, которая преобразует одномерный вектор в двумерный массив с одним горячим массивом.

#!/usr/bin/env python
import numpy as np

def convertToOneHot(vector, num_classes=None):
    """
    Converts an input 1-D vector of integers into an output
    2-D array of one-hot vectors, where an i'th input value
    of j will set a '1' in the i'th row, j'th column of the
    output array.

    Example:
        v = np.array((1, 0, 4))
        one_hot_v = convertToOneHot(v)
        print one_hot_v

        [[0 1 0 0 0]
         [1 0 0 0 0]
         [0 0 0 0 1]]
    """

    assert isinstance(vector, np.ndarray)
    assert len(vector) > 0

    if num_classes is None:
        num_classes = np.max(vector)+1
    else:
        assert num_classes > 0
        assert num_classes >= np.max(vector)

    result = np.zeros(shape=(len(vector), num_classes))
    result[np.arange(len(vector)), vector] = 1
    return result.astype(int)

Ниже приведен пример использования:

>>> a = np.array([1, 0, 3])

>>> convertToOneHot(a)
array([[0, 1, 0, 0],
       [1, 0, 0, 0],
       [0, 0, 0, 1]])

>>> convertToOneHot(a, num_classes=10)
array([[0, 1, 0, 0, 0, 0, 0, 0, 0, 0],
       [1, 0, 0, 0, 0, 0, 0, 0, 0, 0],
       [0, 0, 0, 1, 0, 0, 0, 0, 0, 0]])
stackoverflowuser2010
источник
Обратите внимание, что это работает только для векторов (и нет assertнеобходимости проверять векторную форму;)).
johndodo
1
+1 за обобщенный подход и проверку параметров. Тем не менее, в качестве обычной практики, я предлагаю НЕ использовать утверждения для проверки входных данных. Используйте утверждения только для проверки внутренних промежуточных условий. Скорее, преобразовать все assert ___в if not ___ raise Exception(<Reason>).
Фнуннари
3

Для 1-горячего кодирования

   one_hot_encode=pandas.get_dummies(array)

Например

НАСЛАЖДАЙТЕСЬ КОДИРОВАНИЕМ

Шубхам Мишра
источник
Спасибо за комментарий, но краткое описание того, что делает код, было бы очень полезно!
Clarus
пожалуйста, обратитесь к примеру
Шубхам Мишра
@Clarus Checkout приведенный ниже пример. Вы можете получить доступ к одной горячей кодировке каждого значения в вашем массиве np, выполнив one_hot_encode [value]. >>> import numpy as np >>> import pandas >>> a = np.array([1,0,3]) >>> one_hot_encode=pandas.get_dummies(a) >>> print(one_hot_encode) 0 1 3 0 0 1 0 1 1 0 0 2 0 0 1 >>> print(one_hot_encode[1]) 0 1 1 0 2 0 Name: 1, dtype: uint8 >>> print(one_hot_encode[0]) 0 0 1 1 2 0 Name: 0, dtype: uint8 >>> print(one_hot_encode[3]) 0 0 1 0 2 1 Name: 3, dtype: uint8
Дипак
2

Я думаю, что короткий ответ - нет. Для более общего случая в nизмерениях я придумал это:

# For 2-dimensional data, 4 values
a = np.array([[0, 1, 2], [3, 2, 1]])
z = np.zeros(list(a.shape) + [4])
z[list(np.indices(z.shape[:-1])) + [a]] = 1

Мне интересно, есть ли лучшее решение - мне не нравится, что я должен создать эти списки в последних двух строках. Во всяком случае, я провел некоторые измерения, timeitи кажется, что numpy-based ( indices/ arange) и итерационные версии работают примерно одинаково.

Дэвид Немески
источник
2

Просто, чтобы развить превосходный ответ от K3 --- rnc , вот более общая версия:

def onehottify(x, n=None, dtype=float):
    """1-hot encode x with the max value n (computed from data if n is None)."""
    x = np.asarray(x)
    n = np.max(x) + 1 if n is None else n
    return np.eye(n, dtype=dtype)[x]

Кроме того , здесь быстрый и грязный тест этого метода и метода от принятого в настоящее время ответа по YXD (немного изменилась, так что они предлагают один и тот же API , кроме того , что последние работают только с 1D ndarrays):

def onehottify_only_1d(x, n=None, dtype=float):
    x = np.asarray(x)
    n = np.max(x) + 1 if n is None else n
    b = np.zeros((len(x), n), dtype=dtype)
    b[np.arange(len(x)), x] = 1
    return b

Последний метод работает на ~ 35% быстрее (MacBook Pro 13 2015), но первый более общий:

>>> import numpy as np
>>> np.random.seed(42)
>>> a = np.random.randint(0, 9, size=(10_000,))
>>> a
array([6, 3, 7, ..., 5, 8, 6])
>>> %timeit onehottify(a, 10)
188 µs ± 5.03 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
>>> %timeit onehottify_only_1d(a, 10)
139 µs ± 2.78 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
Эмиль Мельников
источник
2

Вы можете использовать следующий код для преобразования в однократный вектор:

пусть x - вектор нормальных классов, имеющий один столбец с классами от 0 до некоторого числа:

import numpy as np
np.eye(x.max()+1)[x]

если 0 не класс; затем удалите +1.

Инаам Илахи
источник
1

Недавно я столкнулся с проблемой такого же рода и нашел упомянутое решение, которое оказалось удовлетворительным, если у вас есть числа, которые входят в определенную формацию. Например, если вы хотите выполнить горячее кодирование следующего списка:

all_good_list = [0,1,2,3,4]

продолжайте, опубликованные решения уже упоминались выше. Но что, если учесть эти данные:

problematic_list = [0,23,12,89,10]

Если вы сделаете это с помощью методов, упомянутых выше, у вас, скорее всего, будет 90 столбцов с одной горячей строкой. Это потому что все ответы включают что-то вроде n = np.max(a)+1. Я нашел более общее решение, которое сработало для меня, и хотел бы поделиться с вами:

import numpy as np
import sklearn
sklb = sklearn.preprocessing.LabelBinarizer()
a = np.asarray([1,2,44,3,2])
n = np.unique(a)
sklb.fit(n)
b = sklb.transform(a)

Я надеюсь, что кто-то сталкивался с такими же ограничениями на вышеуказанные решения, и это может пригодиться

Ханс Т
источник
1

Такой тип кодирования обычно является частью массива numpy. Если вы используете такой массив:

a = np.array([1,0,3])

тогда есть очень простой способ преобразовать это в 1-горячую кодировку

out = (np.arange(4) == a[:,None]).astype(np.float32)

Вот и все.

Судип К Рана
источник
1
  • р будет 2d ndarray.
  • Мы хотим знать, какое значение является самым высоким в ряду, поставить туда 1 и везде 0.

чистое и простое решение:

max_elements_i = np.expand_dims(np.argmax(p, axis=1), axis=1)
one_hot = np.zeros(p.shape)
np.put_along_axis(one_hot, max_elements_i, 1, axis=1)
MiFi
источник
1

Используя шаг конвейера Neuraxle :

  1. Настройте свой пример
import numpy as np
a = np.array([1,0,3])
b = np.array([[0,1,0,0], [1,0,0,0], [0,0,0,1]])
  1. Сделать фактическое преобразование
from neuraxle.steps.numpy import OneHotEncoder
encoder = OneHotEncoder(nb_columns=4)
b_pred = encoder.transform(a)
  1. Утверждаю, что это работает
assert b_pred == b

Ссылка на документацию: neuraxle.steps.numpy.OneHotEncoder

Гийом Шевалье
источник
0

Вот пример функции, которую я написал, чтобы сделать это на основе ответов выше и моего собственного варианта использования:

def label_vector_to_one_hot_vector(vector, one_hot_size=10):
    """
    Use to convert a column vector to a 'one-hot' matrix

    Example:
        vector: [[2], [0], [1]]
        one_hot_size: 3
        returns:
            [[ 0.,  0.,  1.],
             [ 1.,  0.,  0.],
             [ 0.,  1.,  0.]]

    Parameters:
        vector (np.array): of size (n, 1) to be converted
        one_hot_size (int) optional: size of 'one-hot' row vector

    Returns:
        np.array size (vector.size, one_hot_size): converted to a 'one-hot' matrix
    """
    squeezed_vector = np.squeeze(vector, axis=-1)

    one_hot = np.zeros((squeezed_vector.size, one_hot_size))

    one_hot[np.arange(squeezed_vector.size), squeezed_vector] = 1

    return one_hot

label_vector_to_one_hot_vector(vector=[[2], [0], [1]], one_hot_size=3)
Аарон Лелевье
источник
0

Я добавляю для завершения простую функцию, используя только пустые операторы:

   def probs_to_onehot(output_probabilities):
        argmax_indices_array = np.argmax(output_probabilities, axis=1)
        onehot_output_array = np.eye(np.unique(argmax_indices_array).shape[0])[argmax_indices_array.reshape(-1)]
        return onehot_output_array

В качестве входных данных он принимает матрицу вероятностей: например:

[[0,03038822 0,65810204 0,16549407 0,3797123] ... ... [0,02771272 0,2760752 0,3280924 0,33458805]]

И это вернется

[[0 1 0 0] ... [0 0 0 1]]

Джорди Ван Ландегем
источник
0

Вот независимое от размерности автономное решение.

Это преобразует любой N-мерный массив arrнеотрицательных целых чисел в однозначный N + 1-мерный массив one_hot, где one_hot[i_1,...,i_N,c] = 1означает arr[i_1,...,i_N] = c. Вы можете восстановить вход черезnp.argmax(one_hot, -1)

def expand_integer_grid(arr, n_classes):
    """

    :param arr: N dim array of size i_1, ..., i_N
    :param n_classes: C
    :returns: one-hot N+1 dim array of size i_1, ..., i_N, C
    :rtype: ndarray

    """
    one_hot = np.zeros(arr.shape + (n_classes,))
    axes_ranges = [range(arr.shape[i]) for i in range(arr.ndim)]
    flat_grids = [_.ravel() for _ in np.meshgrid(*axes_ranges, indexing='ij')]
    one_hot[flat_grids + [arr.ravel()]] = 1
    assert((one_hot.sum(-1) == 1).all())
    assert(np.allclose(np.argmax(one_hot, -1), arr))
    return one_hot
eqzx
источник
0

Используйте следующий код. Это работает лучше всего.

def one_hot_encode(x):
"""
    argument
        - x: a list of labels
    return
        - one hot encoding matrix (number of labels, number of class)
"""
encoded = np.zeros((len(x), 10))

for idx, val in enumerate(x):
    encoded[idx][val] = 1

return encoded

Нашел здесь PS Вам не нужно заходить по ссылке.

Инаам Илахи
источник
5
Вам следует избегать использования циклов с numpy
Kenan