панды конвертируют некоторые столбцы в строки

120

Итак, в моем наборе данных есть информация по местоположению для n дат. Проблема в том, что каждая дата на самом деле является отдельным заголовком столбца. Например, CSV выглядит как

location    name    Jan-2010    Feb-2010    March-2010
A           "test"  12          20          30
B           "foo"   18          20          25

Я бы хотел, чтобы это выглядело как

location    name    Date        Value
A           "test"  Jan-2010    12       
A           "test"  Feb-2010    20
A           "test"  March-2010  30
B           "foo"   Jan-2010    18       
B           "foo"   Feb-2010    20
B           "foo"   March-2010  25

проблема в том, что я не знаю, сколько дат в столбце (хотя я знаю, что они всегда будут начинаться после имени)

python pandas Wizuriel
источник
stackoverflow.com/questions/19842066/…
pyCthon

Ответы:

211

ОБНОВЛЕНИЕ
Начиная с версии 0.20, meltэто функция первого порядка, теперь вы можете использовать

df.melt(id_vars=["location", "name"], 
        var_name="Date", 
        value_name="Value")

  location    name        Date  Value
0        A  "test"    Jan-2010     12
1        B   "foo"    Jan-2010     18
2        A  "test"    Feb-2010     20
3        B   "foo"    Feb-2010     20
4        A  "test"  March-2010     30
5        B   "foo"  March-2010     25

СТАРЫЕ (ER) ВЕРСИИ: <0.20

Вы можете использовать его, pd.meltчтобы получить большую часть пути, а затем отсортируйте:

>>> df
  location  name  Jan-2010  Feb-2010  March-2010
0        A  test        12        20          30
1        B   foo        18        20          25
>>> df2 = pd.melt(df, id_vars=["location", "name"], 
                  var_name="Date", value_name="Value")
>>> df2
  location  name        Date  Value
0        A  test    Jan-2010     12
1        B   foo    Jan-2010     18
2        A  test    Feb-2010     20
3        B   foo    Feb-2010     20
4        A  test  March-2010     30
5        B   foo  March-2010     25
>>> df2 = df2.sort(["location", "name"])
>>> df2
  location  name        Date  Value
0        A  test    Jan-2010     12
2        A  test    Feb-2010     20
4        A  test  March-2010     30
1        B   foo    Jan-2010     18
3        B   foo    Feb-2010     20
5        B   foo  March-2010     25

(Можно добавить .reset_index(drop=True), чтобы вывод был чистым.)

Примечание : pd.DataFrame.sort устарел и заменен на pd.DataFrame.sort_values.

DSM
источник
@DSM, что было бы инверсией этой функции. то есть, как можно было бы преобразовать df2[обратно] вdf
3kstc
1
@ 3kstc Попробуйте здесь или здесь . Вы хотите изучить развороты. Возможно pandas.pivot_table(df2,values='Value',index=['location','name'],columns='Date').reset_index().
Teepeemm 09
1
@DSM есть ли способ вернуться назад? Это означает, что у меня много строк с одинаковыми именами, и я бы хотел, чтобы все даты были в разных столбцах,
Адриан
17

Используйте set_indexс stackдля MultiIndex Series, то для DataFrameдополнения reset_indexс rename:

df1 = (df.set_index(["location", "name"])
         .stack()
         .reset_index(name='Value')
         .rename(columns={'level_2':'Date'}))
print (df1)
  location  name        Date  Value
0        A  test    Jan-2010     12
1        A  test    Feb-2010     20
2        A  test  March-2010     30
3        B   foo    Jan-2010     18
4        B   foo    Feb-2010     20
5        B   foo  March-2010     25
Jezrael
источник
5

Думаю, я нашел более простое решение

temp1 = pd.melt(df1, id_vars=["location"], var_name='Date', value_name='Value')
temp2 = pd.melt(df1, id_vars=["name"], var_name='Date', value_name='Value')

Соединить целиком temp1с temp2колонкойname

temp1['new_column'] = temp2['name']

Теперь у вас есть то, о чем вы просили.

Прометей
источник
4

pd.wide_to_long

Вы можете добавить префикс к столбцам с указанием года, а затем подавать прямо в pd.wide_to_long. Я не буду притворяться, что это эффективно , но в определенных ситуациях это может быть удобнее, чем pd.melt, например, когда ваши столбцы уже имеют соответствующий префикс.

df.columns = np.hstack((df.columns[:2], df.columns[2:].map(lambda x: f'Value{x}')))

res = pd.wide_to_long(df, stubnames=['Value'], i='name', j='Date').reset_index()\
        .sort_values(['location', 'name'])

print(res)

   name        Date location  Value
0  test    Jan-2010        A     12
2  test    Feb-2010        A     20
4  test  March-2010        A     30
1   foo    Jan-2010        B     18
3   foo    Feb-2010        B     20
5   foo  March-2010        B     25
jpp
источник