Создать Pandas DataFrame из строки

276

Чтобы протестировать некоторые функции, я хотел бы создать DataFrameстроку. Допустим, мои тестовые данные выглядят так:

TESTDATA="""col1;col2;col3
1;4.4;99
2;4.5;200
3;4.7;65
4;3.2;140
"""

Какой самый простой способ прочитать эти данные в панд DataFrame?

Эмиль Н
источник

Ответы:

498

Простой способ сделать это - использовать StringIO.StringIO(python2) или io.StringIO(python3) и передать это pandas.read_csvфункции. Например:

import sys
if sys.version_info[0] < 3: 
    from StringIO import StringIO
else:
    from io import StringIO

import pandas as pd

TESTDATA = StringIO("""col1;col2;col3
    1;4.4;99
    2;4.5;200
    3;4.7;65
    4;3.2;140
    """)

df = pd.read_csv(TESTDATA, sep=";")
Эмиль Н
источник
7
Если вам нужен код, совместимый как с Python 2, так и с 3, вы также можете использовать его from pandas.compat import StringIO, отметив, что это тот же класс, что и тот, который поставляется с Python.
Acumenus
3
К вашему сведению - pd.read_table()это эквивалентная функция, только чуть лучше номенклатура df = pd.read_table(TESTDATA, sep=";").
wkzhu
5
@AntonvBR отметил, что можно использовать pandas.compat.StringIO. Таким образом, мы не должны импортировать StringIOотдельно. Однако pandas.compatпакет считается закрытым в соответствии с pandas.pydata.org/pandas-docs/stable/api.html?highlight=compat, поэтому оставляем ответ таким, какой он есть на данный момент.
Эмиль Х
Если вы создаете TESTDATA с помощью df.to_csv(TESTDATA), используйтеTESTDATA.seek(0)
user3226167
18

Сплит метод

data = input_string
df = pd.DataFrame([x.split(';') for x in data.split('\n')])
print(df)
Shaurya Uppal
источник
2
Если вы хотите, чтобы первая строка использовалась для имен столбцов, измените df = pd.DataFrame([x.split(';') for x in data.split('\n')[1:]], columns=[x for x in data.split('\n')[0].split(';')])
Mabyn
1
Это неправильно, поскольку в файлах CSV символ новой строки (\ n) может быть частью поля.
Антонио Эрколе Де Лука
Это не очень надежно, и большинству людей будет лучше с принятым ответом. Существует очень неполный список вещей , которые могут пойти не так с этим в thomasburette.com/blog/2014/05/25/...
DanB
10

Быстрое и простое решение для интерактивной работы - копировать и вставлять текст, загружая данные из буфера обмена.

Выберите содержимое строки с помощью мыши:

Скопируйте данные для вставки в фрейм данных Pandas

В оболочке Python используйте read_clipboard()

>>> pd.read_clipboard()
  col1;col2;col3
0       1;4.4;99
1      2;4.5;200
2       3;4.7;65
3      4;3.2;140

Используйте соответствующий разделитель:

>>> pd.read_clipboard(sep=';')
   col1  col2  col3
0     1   4.4    99
1     2   4.5   200
2     3   4.7    65
3     4   3.2   140

>>> df = pd.read_clipboard(sep=';') # save to dataframe
user2314737
источник
2
Не хорошо для воспроизводимости, но в остальном довольно аккуратное решение!
Мабин
5

Этот ответ применяется, когда строка вводится вручную, а не когда она читается откуда-то.

Традиционный CSV переменной ширины нечитаем для хранения данных в виде строковой переменной. Специально для использования внутри .pyфайла, рассмотрите данные с фиксированной шириной, разделенные трубами. Различные IDE и редакторы могут иметь плагин для форматирования разделенного на трубы текста в аккуратную таблицу.

С помощью read_csv

Сохраните следующее в служебном модуле, например util/pandas.py. Пример включен в строку документации функции.

import io
import re

import pandas as pd


def read_psv(str_input: str, **kwargs) -> pd.DataFrame:
    """Read a Pandas object from a pipe-separated table contained within a string.

    Input example:
        | int_score | ext_score | eligible |
        |           | 701       | True     |
        | 221.3     | 0         | False    |
        |           | 576       | True     |
        | 300       | 600       | True     |

    The leading and trailing pipes are optional, but if one is present,
    so must be the other.

    `kwargs` are passed to `read_csv`. They must not include `sep`.

    In PyCharm, the "Pipe Table Formatter" plugin has a "Format" feature that can 
    be used to neatly format a table.

    Ref: https://stackoverflow.com/a/46471952/
    """

    substitutions = [
        ('^ *', ''),  # Remove leading spaces
        (' *$', ''),  # Remove trailing spaces
        (r' *\| *', '|'),  # Remove spaces between columns
    ]
    if all(line.lstrip().startswith('|') and line.rstrip().endswith('|') for line in str_input.strip().split('\n')):
        substitutions.extend([
            (r'^\|', ''),  # Remove redundant leading delimiter
            (r'\|$', ''),  # Remove redundant trailing delimiter
        ])
    for pattern, replacement in substitutions:
        str_input = re.sub(pattern, replacement, str_input, flags=re.MULTILINE)
    return pd.read_csv(io.StringIO(str_input), sep='|', **kwargs)

Нерабочие альтернативы

Код ниже не работает должным образом, потому что он добавляет пустой столбец с левой и правой сторон.

df = pd.read_csv(io.StringIO(df_str), sep=r'\s*\|\s*', engine='python')

Что касается read_fwf, он на самом деле не использует так много дополнительных kwargs, которые read_csvпринимает и использует. Как таковой, он не должен использоваться вообще для данных, разделенных каналом.

Акаменус
источник
1
Я обнаружил (методом проб и ошибок), что read_fwfпринимает больше read_csvаргументов, чем задокументировано, но это правда, что некоторые из них не имеют никакого эффекта .
геррит
-4

Самый простой способ - сохранить его во временном файле и затем прочитать:

import pandas as pd

CSV_FILE_NAME = 'temp_file.csv'  # Consider creating temp file, look URL below
with open(CSV_FILE_NAME, 'w') as outfile:
    outfile.write(TESTDATA)
df = pd.read_csv(CSV_FILE_NAME, sep=';')

Правильный способ создания временного файла: как мне создать tmp-файл в Python?

QtRoS
источник
Что делать, если нет разрешения на создание файла?
BingLi224
На мой взгляд, это уже не самый простой случай. Обратите внимание, что «простейшее» прямо указано в вопросе.
QtRoS