Загрузка файла с более чем одной строкой JSON в Pandas

92

Я пытаюсь прочитать файл JSON в кадре данных Python pandas (0.14.0). Вот первая строка файла JSON:

{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "P_Mk0ygOilLJo4_WEvabAA", "review_id": "OeT5kgUOe3vcN7H6ImVmZQ", "stars": 3, "date": "2005-08-26", "text": "This is a pretty typical cafe.  The sandwiches and wraps are good but a little overpriced and the food items are the same.  The chicken caesar salad wrap is my favorite here but everything else is pretty much par for the course.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"}

Я пытаюсь сделать следующее: df = pd.read_json(path).

Я получаю следующую ошибку (с полным отслеживанием):

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 198, in read_json
    date_unit).parse()
  File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 266, in parse
    self._parse_no_numpy()
  File "/Users/d/anaconda/lib/python2.7/site-packages/pandas/io/json.py", line 483, in _parse_no_numpy
    loads(json, precise_float=self.precise_float), dtype=None)
ValueError: Trailing data

В чем Trailing dataошибка? Как мне прочитать это во фрейме данных?

Следуя некоторым предложениям, вот несколько строк файла .json:

{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "P_Mk0ygOilLJo4_WEvabAA", "review_id": "OeT5kgUOe3vcN7H6ImVmZQ", "stars": 3, "date": "2005-08-26", "text": "This is a pretty typical cafe.  The sandwiches and wraps are good but a little overpriced and the food items are the same.  The chicken caesar salad wrap is my favorite here but everything else is pretty much par for the course.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"}
{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "TNJRTBrl0yjtpAACr1Bthg", "review_id": "qq3zF2dDUh3EjMDuKBqhEA", "stars": 3, "date": "2005-11-23", "text": "I agree with other reviewers - this is a pretty typical financial district cafe.  However, they have fantastic pies.  I ordered three pies for an office event (apple, pumpkin cheesecake, and pecan) - all were delicious, particularly the cheesecake.  The sucker weighed in about 4 pounds - no joke.\n\nNo surprises on the cafe side - great pies and cakes from the catering business.", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"}
{"votes": {"funny": 0, "useful": 0, "cool": 0}, "user_id": "H_mngeK3DmjlOu595zZMsA", "review_id": "i3eQTINJXe3WUmyIpvhE9w", "stars": 3, "date": "2005-11-23", "text": "Decent enough food, but very overpriced. Just a large soup is almost $5. Their specials are $6.50, and with an overpriced soda or juice, it's approaching $10. A bit much for a cafe lunch!", "type": "review", "business_id": "Jp9svt7sRT4zwdbzQ8KQmw"}

Этот файл .json, который я использую, содержит по одному объекту JSON в каждой строке согласно спецификации.

Я попробовал веб-сайт jsonlint.com, как было предложено, и выдает следующую ошибку:

Parse error on line 14:
...t7sRT4zwdbzQ8KQmw"}{    "votes": {
----------------------^
Expecting 'EOF', '}', ',', ']'
user62198
источник
1
У вас есть дополнительные данные в файле, которые не являются частью объекта JSON.
Мартин Питерс
Как выглядят последние несколько строк json-файла?
Брайан Окли
2
Этот пример отлично читается для меня в pandas 0.16.0. Какую версию панд вы используете?
Энди Хайден,
1
@ user62198 обновлен до 0.16.0, в read_json внесены некоторые исправления.
Энди Хайден
1
@Cornel Ghiban, я могу загрузить файл целиком или прочитать в отдельной строке. Кажется, преобразование в указанный формат может быть немного сложным, поскольку таких записей более 5 миллионов.
user62198

Ответы:

240

Начиная с версии 0.19.0 Pandas, вы можете использовать этот linesпараметр, например:

import pandas as pd

data = pd.read_json('/path/to/file.json', lines=True)
Андрей
источник
Есть идеи, как решить эту проблему, относящуюся к linesаргументу? github.com/pandas-dev/pandas/issues/15132
Чак,
33

Вы должны читать это построчно. Например, вы можете использовать следующий код, предоставленный ryptophan на Reddit :

import pandas as pd

# read the entire file into a python array
with open('your.json', 'rb') as f:
    data = f.readlines()

# remove the trailing "\n" from each line
data = map(lambda x: x.rstrip(), data)

# each element of 'data' is an individual JSON object.
# i want to convert it into an *array* of JSON objects
# which, in and of itself, is one large JSON object
# basically... add square brackets to the beginning
# and end, and have all the individual business JSON objects
# separated by a comma
data_json_str = "[" + ','.join(data) + "]"

# now, load it into pandas
data_df = pd.read_json(data_json_str)
Артем
источник
Привет, я пытаюсь прочитать файл un json и сохранить его в фреймворке данных. Однако, когда я использовал ваш код, я получил ошибку: «TypeError: элемент последовательности 0: ожидаемый экземпляр str, найдены байты». Вы знаете, что с этим не так?
ngoduyvu
3

Следующий код помог мне загрузить JSONконтент в dataframe:

import json
import pandas as pd

with open('Appointment.json', encoding="utf8") as f:
    data = f.readlines()
    data = [json.loads(line) for line in data] #convert string to dict format
df = pd.read_json(data) # Load into dataframe
Тригуна
источник
1

У меня была аналогичная проблема.

Оказывается, pd.read_json(myfile.json)поиск будет выполняться в родительской папке автоматически, но он возвращает эту ошибку «конечных данных», если вы не находитесь в той же папке, что и файл.

Я разобрался, потому что когда я пытался сделать это с open('myfile.json', 'r'), у меня возникла FileNotFoundошибка, поэтому я проверил пути.

Мне не удалось переместить myfile.json в ту же папку, что и моя записная книжка.

Меняем его на pd.read_json('../myfile.json')просто работало.

Szeitlin
источник
1
Глупо, что он дает, ValueError: Trailing dataкогда должен давать FileNotFound. Это случилось и со мной.
ProGirlXOXO