Объедините несколько команд sed в один скрипт для обработки файла CSV

34

Наличие файла CSV, как это:

HEADER
"first, column"|"second "some random quotes" column"|"third ol' column"
FOOTER

и ищет результат как:

HEADER
first, column|second "some random quotes" column|third ol' column

другими словами, удаляя "FOOTER", кавычки в начале, конце и вокруг |.

Пока этот код работает:

sed '/FOOTER/d' csv > csv1 | #remove FOOTER
sed 's/^\"//' csv1 > csv2 | #remove quote at the beginning
sed 's/\"$//' csv2 > csv3 | #remove quote at the end
sed 's/\"|\"/|/g' csv3 > csv4 #remove quotes around pipe

Как видите, проблема в том, что он создает 4 дополнительных файла.

Вот еще одно решение, целью которого является не создавать дополнительные файлы и делать то же самое в одном скрипте. Это не очень хорошо работает.

#!/bin/ksh

sed '/begin/, /end/ { 
        /FOOTER/d
        s/^\"//
        s/\"$//
        s/\"|\"/|/g 
}' csv > csv4
Бор
источник
1
Поскольку у вас есть кавычки, вы можете иметь новые строки в полях. Вы sedне собираетесь работать с этим, только с упрощенным CSV. Используйте язык программирования с библиотекой, которая может обрабатывать настоящие файлы CSV (Python / Perl / Ruby).
Anthon

Ответы:

44

Прежде всего, как показал Майкл, вы можете просто объединить все это в одну команду:

sed '/^FOOTER/d; s/^\"//; s/\"$//; s/\"|\"/|/g' csv > csv1

Я думаю, что некоторые sedреализации не справляются с этим и могут нуждаться:

  sed -e '/^FOOTER/d' -e 's/^\"//' -e 's/\"$//' -e 's/\"|\"/|/g' csv > csv1

Тем не менее, похоже, что ваши поля определены, |и вы просто хотите удалить "вокруг всего поля, оставляя те, которые находятся внутри поля. В этом случае вы можете сделать:

$ sed '/FOOTER/d; s/\(^\||\)"/\1/g; s/"\($\||\)/\1/g' csv 
HEADER
first, column|second "some random quotes" column|third ol' column

Или с GNU sed:

sed -r '/FOOTER/d; s/(^|\|)"/\1/g; s/"($|\|)/\1/g' csv 

Вы также можете использовать Perl:

$ perl -F"|" -lane 'next if /FOOTER/; s/^"|"$// for @F; print @F' csv 
HEADER
first, column|second some random quotes column|third ol' column
Тердон
источник
13

Это также будет работать:

sed 's / ^ "//; s /" | "/ | / g; s /" "$ /" /'

Пример:

$ echo '"this"|" and "ths""|" and "|" this 2"|" also "this", "thi", "and th""' | 
sed 's/^"//; s/"|"/|/g; s/""$/"/'
this| and "ths"| and | this 2| also "this", "thi", "and th"

красивая версия

sed '
s/^"//
s/"|"/|/g
s/""$/"/
$d
'
Майкл Даррант
источник
1
Это не касается нижнего колонтитула.
Тердон
3
Но это удалит последнюю строку независимо от ее содержимого. Если нет FOOTER, он удалит нужные данные.
Тердон