Найти все файлы в каталоге с расширением .txt в Python

1043

Как я могу найти все файлы в каталоге, имеющем расширение .txtв Python?

usertest
источник

Ответы:

2360

Вы можете использовать glob:

import glob, os
os.chdir("/mydir")
for file in glob.glob("*.txt"):
    print(file)

или просто os.listdir:

import os
for file in os.listdir("/mydir"):
    if file.endswith(".txt"):
        print(os.path.join("/mydir", file))

или если вы хотите просмотреть каталог, используйте os.walk:

import os
for root, dirs, files in os.walk("/mydir"):
    for file in files:
        if file.endswith(".txt"):
             print(os.path.join(root, file))
ghostdog74
источник
11
Используя решение № 2, как бы вы создали файл или список с этой информацией?
Мерлин
72
@ ghostdog74: На мой взгляд, было бы более уместно писать, for file in fчем для, for files in fпоскольку в переменной есть одно имя файла. Еще лучше было бы изменить , fчтобы filesи тогда для петель может стать for file in files.
Мартино
46
@computermacgyver: Нет, fileэто не зарезервированное слово, а просто имя предопределенной функции, поэтому вполне возможно использовать его в качестве имени переменной в вашем собственном коде. Хотя это правда, что обычно следует избегать подобных столкновений, fileэто особый случай, потому что вряд ли когда-либо понадобится его использовать, поэтому его часто считают исключением из руководящих принципов. Если вы не хотите этого делать, PEP8 рекомендует добавить к таким именам единичное подчеркивание, т. Е. file_, С которым вы согласитесь, все еще вполне читабельно.
Мартино
9
Спасибо, Мартино, ты абсолютно прав. Я слишком быстро спешил с выводами.
компьютерный
40
Более Pythonic способ для # 2 может быть для файла в [f для f в os.listdir ('/ mydir'), если f.endswith ('. Txt')]:
ozgur
247

Используйте шар .

>>> import glob
>>> glob.glob('./*.txt')
['./outline.txt', './pip-log.txt', './test.txt', './testingvim.txt']
Мухаммед Алкарури
источник
Это не только легко, но и нечувствительно к регистру. (По крайней мере, это на Windows, как и должно быть. Я не уверен насчет других ОС.)
Джон Кумбс
35
Остерегайтесь, что globне можете найти файлы рекурсивно, если ваш питон меньше 3.5. больше информации
qun
лучшая часть в том, что вы можете использовать тест регулярного выражения * .txt
Алекс Пуннен
@JonCoombs Нет. По крайней мере, не в Linux.
Каруханга
157

Нечто подобное должно делать работу

for root, dirs, files in os.walk(directory):
    for file in files:
        if file.endswith('.txt'):
            print file
Адам Быртек
источник
73
+1 для именования ваших переменных root, dirs, filesвместо r, d, f. Гораздо более читабельно.
Климент
27
Обратите внимание, что это чувствительно к регистру (не будет соответствовать .TXT или .Txt), поэтому вы, вероятно, захотите сделать, если file.lower () .ndswith ('. Txt'):
Джон Кумбс
1
Ваш ответ касается подкаталога.
Сэм Ляо
117

Примерно так будет работать

>>> import os
>>> path = '/usr/share/cups/charmaps'
>>> text_files = [f for f in os.listdir(path) if f.endswith('.txt')]
>>> text_files
['euc-cn.txt', 'euc-jp.txt', 'euc-kr.txt', 'euc-tw.txt', ... 'windows-950.txt']
Сет
источник
Как мне сохранить путь к text_files? ['path / euc-cn.txt', ... 'path / windows-950.txt']
IceQueeny
5
Вы можете использовать os.path.joinна каждом элементе text_files. Это может быть что-то вроде text_files = [os.path.join(path, f) for f in os.listdir(path) if f.endswith('.txt')].
Сет
55

Вы можете просто использовать pathlibs 1 :glob

import pathlib

list(pathlib.Path('your_directory').glob('*.txt'))

или в цикле:

for txt_file in pathlib.Path('your_directory').glob('*.txt'):
    # do something with "txt_file"

Если вы хотите, чтобы это было рекурсивно, вы можете использовать .glob('**/*.txt)


1pathlib модуль был включен в стандартной библиотеке в Python 3.4. Но вы можете установить обратные порты этого модуля даже в старых версиях Python (например, используя condaили pip): pathlibи pathlib2.

MSeifert
источник
**/*.txtне поддерживается старыми версиями Python. Так что я решил это с: foundfiles= subprocess.check_output("ls **/*.txt", shell=True) for foundfile in foundfiles.splitlines(): print foundfile
Roman
1
@Roman Да, это была просто демонстрация того, что pathlibможно сделать, и я уже включил требования к версии Python. :) Но если ваш подход еще не опубликован, почему бы просто не добавить его в качестве другого ответа?
MSeifert
1
да, размещение ответа дало бы мне лучшие возможности форматирования, безусловно. Я постет там, потому что думаю, что это более подходящее место для этого.
Роман
5
Обратите внимание, что вы также можете использовать, rglobесли вы хотите искать элементы рекурсивно. Например.rglob('*.txt')
Брэм Ванрой
40
import os

path = 'mypath/path' 
files = os.listdir(path)

files_txt = [i for i in files if i.endswith('.txt')]
user3281344
источник
29

Мне нравится os.walk () :

import os

for root, dirs, files in os.walk(dir):
    for f in files:
        if os.path.splitext(f)[1] == '.txt':
            fullpath = os.path.join(root, f)
            print(fullpath)

Или с генераторами:

import os

fileiter = (os.path.join(root, f)
    for root, _, files in os.walk(dir)
    for f in files)
txtfileiter = (f for f in fileiter if os.path.splitext(f)[1] == '.txt')
for txt in txtfileiter:
    print(txt)
hughdbrown
источник
28

Вот больше версий того же самого, которые дают немного отличающиеся результаты:

glob.iglob ()

import glob
for f in glob.iglob("/mydir/*/*.txt"): # generator, search immediate subdirectories 
    print f

glob.glob1 ()

print glob.glob1("/mydir", "*.tx?")  # literal_directory, basename_pattern

fnmatch.filter ()

import fnmatch, os
print fnmatch.filter(os.listdir("/mydir"), "*.tx?") # include dot-files
JFS
источник
3
Для любопытных, glob1()это вспомогательная функция в globмодуле, которого нет в документации по Python. Есть несколько встроенных комментариев, описывающих, что он делает в исходном файле, смотрите .../Lib/glob.py.
Мартино
1
@martineau: glob.glob1()не публично, но доступно на Python 2.4-2.7; 3.0-3.2; PyPy; jython github.com/zed/test_glob1
jfs
1
Спасибо, это хорошая дополнительная информация для принятия решения о том, использовать ли недокументированную приватную функцию в модуле. ;-) Вот еще немного. Версия Python 2.7 имеет длину всего 12 строк и выглядит так, как будто ее легко извлечь из globмодуля.
Мартино
21

path.py является еще одной альтернативой: https://github.com/jaraco/path.py

from path import path
p = path('/path/to/the/directory')
for f in p.files(pattern='*.txt'):
    print f
Ануврат Парашар
источник
Круто, он принимает и регулярное выражение в шаблоне Я использую for f in p.walk(pattern='*.txt')пройти через все подпапки
Kostanos
1
Я также есть pathlib. Вы можете сделать что-то вроде: list(p.glob('**/*.py'))
user2233949
15

Python v3.5 +

Быстрый метод с использованием os.scandir в рекурсивной функции. Поиск всех файлов с указанным расширением в папке и подпапках.

import os

def findFilesInFolder(path, pathList, extension, subFolders = True):
    """  Recursive function to find all files of an extension type in a folder (and optionally in all subfolders too)

    path:        Base directory to find files
    pathList:    A list that stores all paths
    extension:   File extension to find
    subFolders:  Bool.  If True, find files in all subfolders under path. If False, only searches files in the specified folder
    """

    try:   # Trapping a OSError:  File permissions problem I believe
        for entry in os.scandir(path):
            if entry.is_file() and entry.path.endswith(extension):
                pathList.append(entry.path)
            elif entry.is_dir() and subFolders:   # if its a directory, then repeat process as a nested function
                pathList = findFilesInFolder(entry.path, pathList, extension, subFolders)
    except OSError:
        print('Cannot access ' + path +'. Probably a permissions error')

    return pathList

dir_name = r'J:\myDirectory'
extension = ".txt"

pathList = []
pathList = findFilesInFolder(dir_name, pathList, extension, True)

Обновление апреля 2019

Если вы ищете в каталогах, которые содержат файлы 10 000, добавление в список становится неэффективным. «Сдача» результатов - лучшее решение. Я также включил функцию для преобразования выходных данных в Pandas Dataframe.

import os
import re
import pandas as pd
import numpy as np


def findFilesInFolderYield(path,  extension, containsTxt='', subFolders = True, excludeText = ''):
    """  Recursive function to find all files of an extension type in a folder (and optionally in all subfolders too)

    path:               Base directory to find files
    extension:          File extension to find.  e.g. 'txt'.  Regular expression. Or  'ls\d' to match ls1, ls2, ls3 etc
    containsTxt:        List of Strings, only finds file if it contains this text.  Ignore if '' (or blank)
    subFolders:         Bool.  If True, find files in all subfolders under path. If False, only searches files in the specified folder
    excludeText:        Text string.  Ignore if ''. Will exclude if text string is in path.
    """
    if type(containsTxt) == str: # if a string and not in a list
        containsTxt = [containsTxt]

    myregexobj = re.compile('\.' + extension + '$')    # Makes sure the file extension is at the end and is preceded by a .

    try:   # Trapping a OSError or FileNotFoundError:  File permissions problem I believe
        for entry in os.scandir(path):
            if entry.is_file() and myregexobj.search(entry.path): # 

                bools = [True for txt in containsTxt if txt in entry.path and (excludeText == '' or excludeText not in entry.path)]

                if len(bools)== len(containsTxt):
                    yield entry.stat().st_size, entry.stat().st_atime_ns, entry.stat().st_mtime_ns, entry.stat().st_ctime_ns, entry.path

            elif entry.is_dir() and subFolders:   # if its a directory, then repeat process as a nested function
                yield from findFilesInFolderYield(entry.path,  extension, containsTxt, subFolders)
    except OSError as ose:
        print('Cannot access ' + path +'. Probably a permissions error ', ose)
    except FileNotFoundError as fnf:
        print(path +' not found ', fnf)

def findFilesInFolderYieldandGetDf(path,  extension, containsTxt, subFolders = True, excludeText = ''):
    """  Converts returned data from findFilesInFolderYield and creates and Pandas Dataframe.
    Recursive function to find all files of an extension type in a folder (and optionally in all subfolders too)

    path:               Base directory to find files
    extension:          File extension to find.  e.g. 'txt'.  Regular expression. Or  'ls\d' to match ls1, ls2, ls3 etc
    containsTxt:        List of Strings, only finds file if it contains this text.  Ignore if '' (or blank)
    subFolders:         Bool.  If True, find files in all subfolders under path. If False, only searches files in the specified folder
    excludeText:        Text string.  Ignore if ''. Will exclude if text string is in path.
    """

    fileSizes, accessTimes, modificationTimes, creationTimes , paths  = zip(*findFilesInFolderYield(path,  extension, containsTxt, subFolders))
    df = pd.DataFrame({
            'FLS_File_Size':fileSizes,
            'FLS_File_Access_Date':accessTimes,
            'FLS_File_Modification_Date':np.array(modificationTimes).astype('timedelta64[ns]'),
            'FLS_File_Creation_Date':creationTimes,
            'FLS_File_PathName':paths,
                  })

    df['FLS_File_Modification_Date'] = pd.to_datetime(df['FLS_File_Modification_Date'],infer_datetime_format=True)
    df['FLS_File_Creation_Date'] = pd.to_datetime(df['FLS_File_Creation_Date'],infer_datetime_format=True)
    df['FLS_File_Access_Date'] = pd.to_datetime(df['FLS_File_Access_Date'],infer_datetime_format=True)

    return df

ext =   'txt'  # regular expression 
containsTxt=[]
path = 'C:\myFolder'
df = findFilesInFolderYieldandGetDf(path,  ext, containsTxt, subFolders = True)
DougR
источник
14

В Python есть все инструменты для этого:

import os

the_dir = 'the_dir_that_want_to_search_in'
all_txt_files = filter(lambda x: x.endswith('.txt'), os.listdir(the_dir))
Xxxo
источник
1
Если вы хотите, чтобы все_текст_файлы были списком:all_txt_files = list(filter(lambda x: x.endswith('.txt'), os.listdir(the_dir)))
Ena
12

Чтобы получить все имена файлов «.txt» в папке «dataPath» в виде списка Pythonic:

from os import listdir
from os.path import isfile, join
path = "/dataPath/"
onlyTxtFiles = [f for f in listdir(path) if isfile(join(path, f)) and  f.endswith(".txt")]
print onlyTxtFiles
ewalel
источник
12

Попробуйте это, он найдет все ваши файлы рекурсивно:

import glob, os
os.chdir("H:\\wallpaper")# use whatever directory you want

#double\\ no single \

for file in glob.glob("**/*.txt", recursive = True):
    print(file)
Mayank
источник
не с рекурсивной версией (двойная звезда:) **. Доступно только в Python 3. Что мне не нравится, так это chdirчасть. В этом нет необходимости.
Жан-Франсуа Фабр
2
ну, вы можете использовать библиотеку os, чтобы присоединиться к пути, например, filepath = os.path.join('wallpaper')а затем использовать его как glob.glob(filepath+"**/*.psd", recursive = True), что даст тот же результат.
Митали Рао
8
import os
import sys 

if len(sys.argv)==2:
    print('no params')
    sys.exit(1)

dir = sys.argv[1]
mask= sys.argv[2]

files = os.listdir(dir); 

res = filter(lambda x: x.endswith(mask), files); 

print res
mrgloom
источник
8

Я провел тест (Python 3.6.4, W7x64), чтобы выяснить, какое решение является самым быстрым для одной папки, без подкаталогов, чтобы получить список полных путей к файлам с определенным расширением.

Короче говоря, эта задача os.listdir()является самой быстрой и в 1,7 раза быстрее следующей: os.walk()(с перерывом!), В 2,7 pathlibраза быстрее, в 3,2 раза быстрее os.scandir()и в 3,3 раза быстрее glob.
Помните, что эти результаты изменятся, когда вам понадобятся рекурсивные результаты. Если вы копируете / вставляете один метод ниже, пожалуйста, добавьте .lower (), иначе .EXT не будет найден при поиске .ext.

import os
import pathlib
import timeit
import glob

def a():
    path = pathlib.Path().cwd()
    list_sqlite_files = [str(f) for f in path.glob("*.sqlite")]

def b(): 
    path = os.getcwd()
    list_sqlite_files = [f.path for f in os.scandir(path) if os.path.splitext(f)[1] == ".sqlite"]

def c():
    path = os.getcwd()
    list_sqlite_files = [os.path.join(path, f) for f in os.listdir(path) if f.endswith(".sqlite")]

def d():
    path = os.getcwd()
    os.chdir(path)
    list_sqlite_files = [os.path.join(path, f) for f in glob.glob("*.sqlite")]

def e():
    path = os.getcwd()
    list_sqlite_files = [os.path.join(path, f) for f in glob.glob1(str(path), "*.sqlite")]

def f():
    path = os.getcwd()
    list_sqlite_files = []
    for root, dirs, files in os.walk(path):
        for file in files:
            if file.endswith(".sqlite"):
                list_sqlite_files.append( os.path.join(root, file) )
        break



print(timeit.timeit(a, number=1000))
print(timeit.timeit(b, number=1000))
print(timeit.timeit(c, number=1000))
print(timeit.timeit(d, number=1000))
print(timeit.timeit(e, number=1000))
print(timeit.timeit(f, number=1000))

Результаты:

# Python 3.6.4
0.431
0.515
0.161
0.548
0.537
0.274
user136036
источник
Документация Python 3.6.5 гласит: Функция os.scandir () возвращает записи каталога вместе с информацией об атрибутах файла, обеспечивая лучшую производительность [чем os.listdir ()] для многих распространенных случаев использования.
Билл Олдройд
Мне не хватает степени масштабирования этого теста. Сколько файлов вы использовали в этом тесте? как они сравниваются, если вы масштабируете число вверх / вниз?
N4ppeL
5

Этот код делает мою жизнь проще.

import os
fnames = ([file for root, dirs, files in os.walk(dir)
    for file in files
    if file.endswith('.txt') #or file.endswith('.png') or file.endswith('.pdf')
    ])
for fname in fnames: print(fname)
praba230890
источник
5

Чтобы получить массив имен файлов «.txt» из папки «data» в том же каталоге, я обычно использую эту простую строку кода:

import os
fileNames = [fileName for fileName in os.listdir("data") if fileName.endswith(".txt")]
Камень Цветков
источник
3

Я предлагаю вам использовать fnmatch и верхний метод. Таким образом, вы можете найти любое из следующего:

  1. Имя. TXT ;
  2. Имя. TXT ;
  3. Имя. Текст

,

import fnmatch
import os

    for file in os.listdir("/Users/Johnny/Desktop/MyTXTfolder"):
        if fnmatch.fnmatch(file.upper(), '*.TXT'):
            print(file)
Nicolaesse
источник
3

Вот один с extend()

types = ('*.jpg', '*.png')
images_list = []
for files in types:
    images_list.extend(glob.glob(os.path.join(path, files)))
Efreeto
источник
Не для использования с .txt:)
Efreeto
2

Функциональное решение с подкаталогами:

from fnmatch import filter
from functools import partial
from itertools import chain
from os import path, walk

print(*chain(*(map(partial(path.join, root), filter(filenames, "*.txt")) for root, _, filenames in walk("mydir"))))
Адам Храпковски
источник
15
Этот код вы хотели бы сохранить в долгосрочной перспективе?
Симеон Визер
2

Если папка содержит много файлов или память является ограничением, рассмотрите возможность использования генераторов:

def yield_files_with_extensions(folder_path, file_extension):
   for _, _, files in os.walk(folder_path):
       for file in files:
           if file.endswith(file_extension):
               yield file

Вариант А: итерация

for f in yield_files_with_extensions('.', '.txt'): 
    print(f)

Вариант Б: Получить все

files = [f for f in yield_files_with_extensions('.', '.txt')]
tashuhka
источник
2

Копируемое решение, похожее на ghostdog:

def get_all_filepaths(root_path, ext):
    """
    Search all files which have a given extension within root_path.

    This ignores the case of the extension and searches subdirectories, too.

    Parameters
    ----------
    root_path : str
    ext : str

    Returns
    -------
    list of str

    Examples
    --------
    >>> get_all_filepaths('/run', '.lock')
    ['/run/unattended-upgrades.lock',
     '/run/mlocate.daily.lock',
     '/run/xtables.lock',
     '/run/mysqld/mysqld.sock.lock',
     '/run/postgresql/.s.PGSQL.5432.lock',
     '/run/network/.ifstate.lock',
     '/run/lock/asound.state.lock']
    """
    import os
    all_files = []
    for root, dirs, files in os.walk(root_path):
        for filename in files:
            if filename.lower().endswith(ext):
                all_files.append(os.path.join(root, filename))
    return all_files
Мартин Тома
источник
1

используйте модуль Python OS для поиска файлов с определенным расширением.

простой пример здесь:

import os

# This is the path where you want to search
path = r'd:'  

# this is extension you want to detect
extension = '.txt'   # this can be : .jpg  .png  .xls  .log .....

for root, dirs_list, files_list in os.walk(path):
    for file_name in files_list:
        if os.path.splitext(file_name)[-1] == extension:
            file_name_path = os.path.join(root, file_name)
            print file_name
            print file_name_path   # This is the full path of the filter file
Раджив Шарма
источник
0

Многие пользователи ответили os.walkответами, которые включают все файлы, но также все каталоги и подкаталоги и их файлы.

import os


def files_in_dir(path, extension=''):
    """
       Generator: yields all of the files in <path> ending with
       <extension>

       \param   path       Absolute or relative path to inspect,
       \param   extension  [optional] Only yield files matching this,

       \yield              [filenames]
    """


    for _, dirs, files in os.walk(path):
        dirs[:] = []  # do not recurse directories.
        yield from [f for f in files if f.endswith(extension)]

# Example: print all the .py files in './python'
for filename in files_in_dir('./python', '*.py'):
    print("-", filename)

Или для одного, где вам не нужен генератор:

path, ext = "./python", ext = ".py"
for _, _, dirfiles in os.walk(path):
    matches = (f for f in dirfiles if f.endswith(ext))
    break

for filename in matches:
    print("-", filename)

Если вы собираетесь использовать совпадения для чего-то другого, вы можете сделать это списком, а не выражением генератора:

    matches = [f for f in dirfiles if f.endswith(ext)]
kfsone
источник
0

Простой метод с использованием forцикла:

import os

dir = ["e","x","e"]

p = os.listdir('E:')  #path

for n in range(len(p)):
   name = p[n]
   myfile = [name[-3],name[-2],name[-1]]  #for .txt
   if myfile == dir :
      print(name)
   else:
      print("nops")

Хотя это можно сделать более обобщенно.

Borris
источник
очень нелепый способ проверки расширения. Небезопасно тоже. Что если имя слишком короткое? а зачем использовать список символов, а не строки?
Жан-Франсуа Фабр