Как мне прочитать данные CSV в массив записей в NumPy?

415

Интересно , если есть прямой путь , чтобы импортировать содержимое файла CSV в массив записей, сколько в том , как R - х read.table(), read.delim()иread.csv() импорт семейных данных в кадр данных АиРа?

Или это лучший способ использовать csv.reader (), а затем применить что-то вроде numpy.core.records.fromrecords()?

hatmatrix
источник

Ответы:

647

Вы можете использовать genfromtxt()метод Numpy для этого, установив delimiterkwarg в запятую.

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

Более подробную информацию о функции можно найти в соответствующей документации .

Эндрю
источник
10
Что делать, если вы хотите что-то разных типов? Как строки и целые?
CGTheLegend
11
@CGTheLegend np.genfromtxt ( 'myfile.csv', разделитель = '', DTYPE = None)
chickensoup
2
numpy.loadtxt тоже неплохо сработал
Yibo Yang
11
Я пробовал это, но я только получаю nanзначения, почему? Также с loadtxt я получаю UnicodeDecodeError: 'ascii' codec can't decode byte 0xc3 in position 155: ordinal not in range(128). У меня есть умлауты, такие как ä и ö во входных данных.
HHH
1
@hhh попробуйте добавить encoding="utf8"аргумент. Python - одна из немногих современных программных частей, которая часто вызывает проблемы кодирования текста, которые ощущаются как вещи из прошлого.
Колен
187

Я бы порекомендовал read_csvфункцию из pandasбиблиотеки:

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

Это дает pandas DataFrame - позволяющий много полезных функций манипулирования данными, которые не доступны напрямую с массивами записей .

DataFrame - это двумерная помеченная структура данных со столбцами потенциально разных типов. Вы можете думать об этом как электронную таблицу или таблицу SQL ...


Я также рекомендовал бы genfromtxt. Однако, поскольку вопрос требует массив записей , в отличие от обычного массива, dtype=Noneпараметр должен быть добавлен к genfromtxtвызову:

Учитывая входной файл myfile.csv,:

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

дает массив:

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

а также

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

дает массив записей:

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

Это имеет то преимущество, что файл с несколькими типами данных (включая строки) может быть легко импортирован .

atomh33ls
источник
read_csv работает с запятыми внутри кавычек. Порекомендуйте над genfromtxt
Вьет
3
используйте header = 0, чтобы пропустить первую строку в значениях, если ваш файл имеет 1-строчный заголовок
c-chavez
Имейте в виду, что это создает 2d массив: например (1000, 1). np.genfromtxtне делает этого: например (1000,).
Newskooler
74

Я рассчитал

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

против

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

на 4,6 миллиона строк с примерно 70 столбцами и обнаружили, что путь NumPy занял 2 минуты 16 секунд, а метод понимания csv-list - 13 секунд.

Я бы порекомендовал метод понимания csv-list, так как он, скорее всего, опирается на скомпилированные библиотеки, а не на интерпретатор, а на NumPy. Я подозреваю, что у метода панд были бы похожие интерпретаторы.

Уильям Комп
источник
23
Я протестировал код, похожий на этот, с файлом CSV, содержащим 2,6 миллиона строк и 8 столбцов. numpy.recfromcsv () заняло около 45 секунд, np.asarray (list (csv.reader ())) заняло около 7 секунд, а pandas.read_csv () - около 2 секунд (!). (Файл был недавно прочитан с диска во всех случаях, так что он уже был в файловом кеше операционной системы.) Думаю, я пойду с пандами.
Матиас Фрипп
5
Я только заметил, что есть некоторые заметки о дизайне быстрого парсинга CSV для панд на wesmckinney.com/blog/… . Автор очень серьезно относится к требованиям к скорости и памяти. Также можно использовать as_recarray = True, чтобы получить результат непосредственно в виде массива записей Python, а не в виде фрейма данных pandas.
Матиас Фрипп
67

Вы также можете попытаться recfromcsv()угадать типы данных и вернуть правильно отформатированный массив записей.

btel
источник
9
Если вы хотите сохранить имена порядка / столбцов в CSV, вы можете использовать следующий вызов: numpy.recfromcsv(fname, delimiter=',', filling_values=numpy.nan, case_sensitive=True, deletechars='', replace_space=' ')Ключевыми аргументами являются последние три.
Eacousineau
16

Поскольку я пробовал оба способа, используя NumPy и Pandas, использование pandas имеет много преимуществ:

  • Быстрее
  • Меньшее использование процессора
  • 1/3 использования ОЗУ по сравнению с NumPy genfromtxt

Это мой тестовый код:

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

Файл данных:

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

С NumPy и пандами в версиях:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2
HVNSweeting
источник
5

Вы можете использовать этот код для отправки данных файла CSV в массив:

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)
chamzz.dot
источник
4

С помощью numpy.loadtxt

Довольно простой метод. Но это требует, чтобы все элементы были плавающими (int и т. Д.)

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)  
Сяоцзянь Чен
источник
4

Это самый простой способ:

import csv with open('testfile.csv', newline='') as csvfile: data = list(csv.reader(csvfile))

Теперь каждая запись в данных является записью, представленной в виде массива. Итак, у вас есть 2D-массив. Это сэкономило мне так много времени.

Мэтью Парк
источник
Зачем нам ссориться с Pandas, когда у этих инструментов гораздо меньше возможностей для раздувания?
Кристофер
3

Я попробовал это:

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)
muTheTechie
источник
3

Я бы предложил использовать таблицы ( pip3 install tables). Вы можете сохранить свой .csvфайл с .h5помощью pandas ( pip3 install pandas),

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

Затем вы можете легко и с меньшими затратами времени даже для огромного объема данных загрузить свои данные в массив NumPy .

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values
Джатин Мандав
источник
3

Эта работа как шарм ...

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)
Нихал Саргайя
источник
код должен быть правильно вставлен в его разметку кода.
surajs1n