Подготовьте уровень к мультииндексу панд

106

У меня есть DataFrame с MultiIndex, созданный после некоторой группировки:

import numpy as np
import pandas as p
from numpy.random import randn

df = p.DataFrame({
    'A' : ['a1', 'a1', 'a2', 'a3']
  , 'B' : ['b1', 'b2', 'b3', 'b4']
  , 'Vals' : randn(4)
}).groupby(['A', 'B']).sum()

df

Output>            Vals
Output> A  B           
Output> a1 b1 -1.632460
Output>    b2  0.596027
Output> a2 b3 -0.619130
Output> a3 b4 -0.002009

Как мне добавить уровень к MultiIndex, чтобы я превратил его во что-то вроде:

Output>                       Vals
Output> FirstLevel A  B           
Output> Foo        a1 b1 -1.632460
Output>               b2  0.596027
Output>            a2 b3 -0.619130
Output>            a3 b4 -0.002009
Явар
источник

Ответы:

139

Хороший способ сделать это одной строкой, используя pandas.concat():

import pandas as pd

pd.concat([df], keys=['Foo'], names=['Firstlevel'])

Еще более короткий путь:

pd.concat({'Foo': df}, names=['Firstlevel'])

Это можно обобщить для многих фреймов данных, см. Документацию .

окартал
источник
28
Это особенно удобно для добавления уровня к столбцам путем добавления axis=1, поскольку у df.columnsнего нет метода "set_index", такого как индекс, который всегда меня беспокоит.
Рутгер Кэссис
2
Это хорошо, потому что это также работает для pd.Seriesобъектов, тогда как принятый в настоящее время ответ (с 2013 года) - нет.
Джон
1
Больше не работает. TypeError: unhashable type: 'list'
cduguet
5
Мне потребовалось некоторое время, чтобы понять, что если у вас есть более одного ключа для FirstLevelas в ['Foo', 'Bar']первом аргументе, также потребуется соответствующая длина, т. Е. [df] * len(['Foo', 'Bar'])!
mrclng
7
И даже более кратко:pd.concat({'Foo': df}, names=['Firstlevel'])
kadee
128

Вы можете сначала добавить его как обычный столбец, а затем добавить его в текущий индекс, поэтому:

df['Firstlevel'] = 'Foo'
df.set_index('Firstlevel', append=True, inplace=True)

И при необходимости измените порядок:

df.reorder_levels(['Firstlevel', 'A', 'B'])

Что приводит к:

                      Vals
Firstlevel A  B           
Foo        a1 b1  0.871563
              b2  0.494001
           a2 b3 -0.167811
           a3 b4 -1.353409
Рутгер Кэссис
источник
2
Если вы делаете это с фреймом данных с индексом столбца MultiIndex, он добавляет уровни, что, вероятно, в большинстве случаев не имеет значения, но может, если вы полагаетесь на метаданные для чего-то еще.
naught101
23

Думаю, это более общее решение:

# Convert index to dataframe
old_idx = df.index.to_frame()

# Insert new level at specified location
old_idx.insert(0, 'new_level_name', new_level_values)

# Convert back to MultiIndex
df.index = pandas.MultiIndex.from_frame(old_idx)

Некоторые преимущества перед другими ответами:

  • Новый уровень можно добавить в любом месте, а не только наверху.
  • Это чисто манипуляция с индексом и не требует манипулирования данными, как трюк с конкатенацией.
  • Это не требует добавления столбца в качестве промежуточного шага, который может нарушить многоуровневые индексы столбцов.
cxrodgers
источник
2

Я сделал небольшую функцию из ответа cxrodgers , который, IMHO, является лучшим решением, поскольку он работает исключительно с индексом, независимо от какого-либо кадра или серии данных.

Я добавил одно исправление: to_frame()метод будет изобретать новые имена для уровней индекса, у которых их нет. Таким образом, новый индекс будет иметь имена, которых нет в старом индексе. Я добавил код, чтобы отменить это изменение имени.

Ниже приведен код, я сам некоторое время использовал его, и, похоже, он работает нормально. Если вы обнаружите какие-либо проблемы или крайние случаи, я буду очень обязан скорректировать свой ответ.

import pandas as pd

def _handle_insert_loc(loc: int, n: int) -> int:
    """
    Computes the insert index from the right if loc is negative for a given size of n.
    """
    return n + loc + 1 if loc < 0 else loc


def add_index_level(old_index: pd.Index, value: Any, name: str = None, loc: int = 0) -> pd.MultiIndex:
    """
    Expand a (multi)index by adding a level to it.

    :param old_index: The index to expand
    :param name: The name of the new index level
    :param value: Scalar or list-like, the values of the new index level
    :param loc: Where to insert the level in the index, 0 is at the front, negative values count back from the rear end
    :return: A new multi-index with the new level added
    """
    loc = _handle_insert_loc(loc, len(old_index.names))
    old_index_df = old_index.to_frame()
    old_index_df.insert(loc, name, value)
    new_index_names = list(old_index.names)  # sometimes new index level names are invented when converting to a df,
    new_index_names.insert(loc, name)        # here the original names are reconstructed
    new_index = pd.MultiIndex.from_frame(old_index_df, names=new_index_names)
    return new_index

Он прошел следующий код unittest:

import unittest

import numpy as np
import pandas as pd

class TestPandaStuff(unittest.TestCase):

    def test_add_index_level(self):
        df = pd.DataFrame(data=np.random.normal(size=(6, 3)))
        i1 = add_index_level(df.index, "foo")

        # it does not invent new index names where there are missing
        self.assertEqual([None, None], i1.names)

        # the new level values are added
        self.assertTrue(np.all(i1.get_level_values(0) == "foo"))
        self.assertTrue(np.all(i1.get_level_values(1) == df.index))

        # it does not invent new index names where there are missing
        i2 = add_index_level(i1, ["x", "y"]*3, name="xy", loc=2)
        i3 = add_index_level(i2, ["a", "b", "c"]*2, name="abc", loc=-1)
        self.assertEqual([None, None, "xy", "abc"], i3.names)

        # the new level values are added
        self.assertTrue(np.all(i3.get_level_values(0) == "foo"))
        self.assertTrue(np.all(i3.get_level_values(1) == df.index))
        self.assertTrue(np.all(i3.get_level_values(2) == ["x", "y"]*3))
        self.assertTrue(np.all(i3.get_level_values(3) == ["a", "b", "c"]*2))

        # df.index = i3
        # print()
        # print(df)
Сэм Де Мейер
источник
0

Как насчет того, чтобы создать его с нуля с помощью pandas.MultiIndex.from_tuples ?

df.index = p.MultiIndex.from_tuples(
    [(nl, A, B) for nl, (A, B) in
        zip(['Foo'] * len(df), df.index)],
    names=['FirstLevel', 'A', 'B'])

Подобно решению cxrodger , это гибкий метод, позволяющий избежать изменения базового массива для фрейма данных.

RichieV
источник