Преобразование времени unix в читаемую дату в кадре данных pandas

111

У меня есть датафрейм с временами unix и ценами в нем. Я хочу преобразовать столбец индекса так, чтобы он отображался в удобочитаемых датах.

Так, например, у меня есть dateкак 1349633705в столбце индекса, но я бы хотел, чтобы оно отображалось как 10/07/2012(или по крайней мере 10/07/2012 18:15).

Для некоторого контекста вот код, с которым я работаю и что я уже пробовал:

import json
import urllib2
from datetime import datetime
response = urllib2.urlopen('http://blockchain.info/charts/market-price?&format=json')
data = json.load(response)   
df = DataFrame(data['values'])
df.columns = ["date","price"]
#convert dates 
df.date = df.date.apply(lambda d: datetime.strptime(d, "%Y-%m-%d"))
df.index = df.date   

Как видите, я использую df.date = df.date.apply(lambda d: datetime.strptime(d, "%Y-%m-%d"))здесь, что не работает, поскольку я работаю с целыми числами, а не со строками. Я думаю, что мне нужно использовать, datetime.date.fromtimestampно я не совсем уверен, как применить это ко всему df.date.

Спасибо.

WA Карнеги
источник

Ответы:

222

Кажется, это секунды с эпохи.

In [20]: df = DataFrame(data['values'])

In [21]: df.columns = ["date","price"]

In [22]: df
Out[22]: 
<class 'pandas.core.frame.DataFrame'>
Int64Index: 358 entries, 0 to 357
Data columns (total 2 columns):
date     358  non-null values
price    358  non-null values
dtypes: float64(1), int64(1)

In [23]: df.head()
Out[23]: 
         date  price
0  1349720105  12.08
1  1349806505  12.35
2  1349892905  12.15
3  1349979305  12.19
4  1350065705  12.15
In [25]: df['date'] = pd.to_datetime(df['date'],unit='s')

In [26]: df.head()
Out[26]: 
                 date  price
0 2012-10-08 18:15:05  12.08
1 2012-10-09 18:15:05  12.35
2 2012-10-10 18:15:05  12.15
3 2012-10-11 18:15:05  12.19
4 2012-10-12 18:15:05  12.15

In [27]: df.dtypes
Out[27]: 
date     datetime64[ns]
price           float64
dtype: object
Джефф
источник
1
а в версии 0.13 вы сможете использовать date_unit при read_json: D
Энди Хайден
Большой! Ваше решение имеет смысл. Панды: Преобразование в метки времени проходит довольно хорошо, и теперь я знаю о to_datetime.
WA Carnegie
Еще один момент. Это не сработало для меня в 0.11, но нормально в 0.12+
WA Carnegie
1
Это решение дает мне OverflowError: Python int too large to convert to C long.
если __name__ равно None
2
Неважно, была отметка времени в миллисекундах, просто пришлось lambda x: x/1000.0, или unit='ms'.
если __name__ равно None
49

Если вы попробуете использовать:

df[DATE_FIELD]=(pd.to_datetime(df[DATE_FIELD],***unit='s'***))

и получите ошибку:

"pandas.tslib.OutOfBoundsDatetime: невозможно преобразовать ввод с единицей измерения" "

Это означает, что DATE_FIELDне указывается в секундах.

В моем случае это были миллисекунды - EPOCH time.

Преобразование работало с использованием ниже:

df[DATE_FIELD]=(pd.to_datetime(df[DATE_FIELD],unit='ms')) 
Сандеш
источник
16

Предполагая, что мы импортировали, pandas as pdи dfэто наш фрейм данных

pd.to_datetime(df['date'], unit='s')

работает для меня.

Фахим Реза
источник
0

В качестве альтернативы, изменив строку приведенного выше кода:

# df.date = df.date.apply(lambda d: datetime.strptime(d, "%Y-%m-%d"))
df.date = df.date.apply(lambda d: datetime.datetime.fromtimestamp(int(d)).strftime('%Y-%m-%d'))

Он тоже должен работать.

ипрамусинто
источник
не векторизовано!
vgoklani