В Python, как разделить строку и сохранить разделители?

226

Вот самый простой способ объяснить это. Вот что я использую:

re.split('\W', 'foo/bar spam\neggs')
-> ['foo', 'bar', 'spam', 'eggs']

Вот что я хочу:

someMethod('\W', 'foo/bar spam\neggs')
-> ['foo', '/', 'bar', ' ', 'spam', '\n', 'eggs']

Причина в том, что я хочу разбить строку на токены, манипулировать ею, а затем снова соединить.

Кен Киндер
источник
3
что означает \W? Я не смог на Google это.
Ooker
8
Несловообразующим характер см здесь для подробностей
Рассела
Для вопроса, примененного к необработанной байтовой строке и записанного как «Разделить строку и сохранить разделители как часть фрагментов разделенной строки, а не как отдельные элементы списка», см. Stackoverflow.com/questions/62591863/…
Лоренц

Ответы:

295
>>> re.split('(\W)', 'foo/bar spam\neggs')
['foo', '/', 'bar', ' ', 'spam', '\n', 'eggs']
Коммодор егер
источник
22
Это классно. Я не знал, что re.split сделал это с группами захвата.
Лоуренс Гонсалвес
16
@Laurence: Ну, это задокументировано: docs.python.org/library/re.html#re.split : "Разделить строку по вхождению шаблона. Если в шаблоне используются захватывающие скобки, то текст всех групп в шаблоне также возвращаются как часть полученного списка. "
Винай Саджип
40
Это серьезно недокументировано. Я использую Python в течение 14 лет и только что узнал об этом.
smci
19
Есть ли возможность, чтобы вывод совпадения групп был привязан к тому, что находится слева (или аналогично справа) от разбиения? Например, это можно легко изменить, чтобы вывод был ['foo', '/bar', ' spam', '\neggs']?
Ely
3
@ Mr.F Возможно, ты сможешь что-то сделать с re.sub. Я хотел разделить конечный процент, поэтому я просто разделил двойным символом, а затем разделил, хаки, но работал для моего случая: re.split('% ', re.sub('% ', '%% ', '5.000% Additional Whatnot'))->['5.000%', 'Additional Whatnot']
Кайл Джеймс Уокер
29

Если вы разделяете на новую строку, используйте splitlines(True).

>>> 'line 1\nline 2\nline without newline'.splitlines(True)
['line 1\n', 'line 2\n', 'line without newline']

(Не общее решение, но добавление этого здесь на случай, если кто-то придет сюда, не понимая, существует ли этот метод.)

Марк Лодато
источник
12

Еще одно решение без регулярных выражений, которое хорошо работает на Python 3

# Split strings and keep separator
test_strings = ['<Hello>', 'Hi', '<Hi> <Planet>', '<', '']

def split_and_keep(s, sep):
   if not s: return [''] # consistent with string.split()

   # Find replacement character that is not used in string
   # i.e. just use the highest available character plus one
   # Note: This fails if ord(max(s)) = 0x10FFFF (ValueError)
   p=chr(ord(max(s))+1) 

   return s.replace(sep, sep+p).split(p)

for s in test_strings:
   print(split_and_keep(s, '<'))


# If the unicode limit is reached it will fail explicitly
unicode_max_char = chr(1114111)
ridiculous_string = '<Hello>'+unicode_max_char+'<World>'
print(split_and_keep(ridiculous_string, '<'))
ootwch
источник
10

Если у вас есть только 1 разделитель, вы можете использовать списки:

text = 'foo,bar,baz,qux'  
sep = ','

Добавление / добавление разделителя:

result = [x+sep for x in text.split(sep)]
#['foo,', 'bar,', 'baz,', 'qux,']
# to get rid of trailing
result[-1] = result[-1].strip(sep)
#['foo,', 'bar,', 'baz,', 'qux']

result = [sep+x for x in text.split(sep)]
#[',foo', ',bar', ',baz', ',qux']
# to get rid of trailing
result[0] = result[0].strip(sep)
#['foo', ',bar', ',baz', ',qux']

Разделитель как его собственный элемент:

result = [u for x in text.split(sep) for u in (x, sep)]
#['foo', ',', 'bar', ',', 'baz', ',', 'qux', ',']
results = result[:-1]   # to get rid of trailing
Granitosaurus
источник
1
Вы можете также добавить в , if xчтобы убедиться , что кусок производства splitимеет некоторое содержание, то естьresult = [x + sep for x in text.split(sep) if x]
я встревожен чужд
Для меня полоска удалена слишком много, и мне пришлось использовать это:result = [sep+x for x in data.split(sep)] result[0] = result[0][len(sep):]
scottlittle
9

другой пример, разделить на не буквенно-числовые и сохранить разделители

import re
a = "foo,bar@candy*ice%cream"
re.split('([^a-zA-Z0-9])',a)

вывод:

['foo', ',', 'bar', '@', 'candy', '*', 'ice', '%', 'cream']

объяснение

re.split('([^a-zA-Z0-9])',a)

() <- keep the separators
[] <- match everything in between
^a-zA-Z0-9 <-except alphabets, upper/lower and numbers.
Анураг
источник
Несмотря на то, что, как говорят документы , это эквивалентно принятому ответу, мне нравится удобочитаемость этой версии - хотя \Wэто более компактный способ выразить ее.
Эфсмит
3

Вы также можете разделить строку массивом строк вместо регулярного выражения, например так:

def tokenizeString(aString, separators):
    #separators is an array of strings that are being used to split the the string.
    #sort separators in order of descending length
    separators.sort(key=len)
    listToReturn = []
    i = 0
    while i < len(aString):
        theSeparator = ""
        for current in separators:
            if current == aString[i:i+len(current)]:
                theSeparator = current
        if theSeparator != "":
            listToReturn += [theSeparator]
            i = i + len(theSeparator)
        else:
            if listToReturn == []:
                listToReturn = [""]
            if(listToReturn[-1] in separators):
                listToReturn += [""]
            listToReturn[-1] += aString[i]
            i += 1
    return listToReturn


print(tokenizeString(aString = "\"\"\"hi\"\"\" hello + world += (1*2+3/5) '''hi'''", separators = ["'''", '+=', '+', "/", "*", "\\'", '\\"', "-=", "-", " ", '"""', "(", ")"]))
Андерсон Грин
источник
3
# This keeps all separators  in result 
##########################################################################
import re
st="%%(c+dd+e+f-1523)%%7"
sh=re.compile('[\+\-//\*\<\>\%\(\)]')

def splitStringFull(sh, st):
   ls=sh.split(st)
   lo=[]
   start=0
   for l in ls:
     if not l : continue
     k=st.find(l)
     llen=len(l)
     if k> start:
       tmp= st[start:k]
       lo.append(tmp)
       lo.append(l)
       start = k + llen
     else:
       lo.append(l)
       start =llen
   return lo
  #############################

li= splitStringFull(sh , st)
['%%(', 'c', '+', 'dd', '+', 'e', '+', 'f', '-', '1523', ')%%', '7']
Моисей Ойсгелт
источник
3

Одно ленивое и простое решение

Предположим, что ваш шаблон регулярного выражения split_pattern = r'(!|\?)'

Сначала вы добавляете тот же символ, что и новый разделитель, например '[cut]'

new_string = re.sub(split_pattern, '\\1[cut]', your_string)

Затем вы разделяете новый разделитель, new_string.split('[cut]')

Йилей Ван
источник
Этот подход умный, но потерпит неудачу, когда исходная строка уже [cut]где-то содержится .
Маттис
Это может быть быстрее при решении крупномасштабных задач, поскольку в конечном итоге он использует string.split (), в случае, если re.split () стоит больше, чем re.sub () с string.split () (чего я не знаю).
Лоренц
1

Если кто-то хочет разбить строку, сохраняя разделители регулярным выражением без захвата группы:

def finditer_with_separators(regex, s):
    matches = []
    prev_end = 0
    for match in regex.finditer(s):
        match_start = match.start()
        if (prev_end != 0 or match_start > 0) and match_start != prev_end:
            matches.append(s[prev_end:match.start()])
        matches.append(match.group())
        prev_end = match.end()
    if prev_end < len(s):
        matches.append(s[prev_end:])
    return matches

regex = re.compile(r"[\(\)]")
matches = finditer_with_separators(regex, s)

Если предположить, что регулярное выражение включено в группу захвата:

def split_with_separators(regex, s):
    matches = list(filter(None, regex.split(s)))
    return matches

regex = re.compile(r"([\(\)])")
matches = split_with_separators(regex, s)

Оба способа также удалят пустые группы, которые бесполезны и раздражают в большинстве случаев.

Дмитрий Синцов
источник
1

Вот простое .splitрешение, которое работает без регулярных выражений.

Это ответ для Python split () без удаления разделителя , поэтому не совсем то, что просит исходная запись, но другой вопрос был закрыт как дубликат для этого.

def splitkeep(s, delimiter):
    split = s.split(delimiter)
    return [substr + delimiter for substr in split[:-1]] + [split[-1]]

Случайные тесты:

import random

CHARS = [".", "a", "b", "c"]
assert splitkeep("", "X") == [""]  # 0 length test
for delimiter in ('.', '..'):
    for idx in range(100000):
        length = random.randint(1, 50)
        s = "".join(random.choice(CHARS) for _ in range(length))
        assert "".join(splitkeep(s, delimiter)) == s
orestisf
источник
Следует избегать регулярных выражений в больших задачах по соображениям скорости, поэтому это хороший совет.
Лоренц
0

У меня была похожая проблема, пытаясь разделить путь к файлу, и я пытался найти простой ответ. Это сработало для меня и не потребовало замены разделителей обратно в разделенный текст:

my_path = 'folder1/folder2/folder3/file1'

import re

re.findall('[^/]+/|[^/]+', my_path)

возвращает:

['folder1/', 'folder2/', 'folder3/', 'file1']

Конор
источник
Это можно немного упростить, используя: re.findall('[^/]+/?', my_path)(например, делая дополнительный слеш необязательным, используя ?вместо того, чтобы предоставлять две альтернативы |.
Matthijs Kooijman
0

Я нашел этот подход на основе генератора более удовлетворительным:

def split_keep(string, sep):
    """Usage:
    >>> list(split_keep("a.b.c.d", "."))
    ['a.', 'b.', 'c.', 'd']
    """
    start = 0
    while True:
        end = string.find(sep, start) + 1
        if end == 0:
            break
        yield string[start:end]
        start = end
    yield string[start:]

Это избавляет от необходимости выяснять правильное регулярное выражение, в то время как в теории должно быть довольно дешево. Он не создает новые строковые объекты и делегирует большую часть итерационной работы эффективному методу поиска.

... а в Python 3.8 он может быть таким коротким как:

def split_keep(string, sep):
    start = 0
    while (end := string.find(sep, start) + 1) > 0:
        yield string[start:end]
        start = end
    yield string[start:]
Чен Леви
источник
0
  1. заменить все seperator: (\W) наseperator + new_seperator: (\W;)

  2. разделить на new_seperator: (;)

def split_and_keep(seperator, s):
  return re.split(';', re.sub(seperator, lambda match: match.group() + ';', s))

print('\W', 'foo/bar spam\neggs')
kobako
источник