Преобразовать вывод команды дерева в формат json

10

Есть ли удобный способ преобразовать вывод команды * nix "tree" в формат JSON?

Изменить: я думаю, что я не описал свою проблему достаточно хорошо. Моя цель - преобразовать что-то вроде:

.
|-- dir1
|   |-- dirA
|   |   |-- dirAA
|   |   `-- dirBB
|   `-- dirB
`-- dir2
    |-- dirA
    `-- dirB

в:

{"dir1" : [{"dirA":["dirAA", "dirAB"]}, "dirB"], "dir2": ["dirA", "dirB"]}
по-круговой
источник
Как вы ожидаете увидеть это в JSON? Не могли бы вы привести пример и ожидаемые результаты?
Драв Слоан
@DravSloan Я отредактировал пост, чтобы показать пример
roundrobin
Что бы вы ожидали получить, если бы dir1/dirAимели подкаталоги?
cjm
{"dir1" : [{"dirA":["dirAA", "dirAB"]}, "dirB"], "dir2": ["dirA", "dirB"]}
Roundrobin
@BausTheBig - я не думаю, что вы думали об этом все время. Команда treeне правильный инструмент. Я мог бы быть склонен сделать ls -Rили findвместо.
SLM

Ответы:

6

Попытка 1

Решение, использующее только perl, возвращающее простой хэш структуры хэшей. Перед ОП уточняется формат данных JSON.

#! /usr/bin/perl

use File::Find;
use JSON;

use strict;
use warnings;

my $dirs={};
my $encoder = JSON->new->ascii->pretty;

find({wanted => \&process_dir, no_chdir => 1 }, ".");
print $encoder->encode($dirs);

sub process_dir {
    return if !-d $File::Find::name;
    my $ref=\%$dirs;
    for(split(/\//, $File::Find::name)) {
        $ref->{$_} = {} if(!exists $ref->{$_});
        $ref = $ref->{$_};
    }
}

File::FindМодуль работает аналогично команде Unix find. JSONМодуль принимает перл переменные и преобразует их в формат JSON.

find({wanted => \&process_dir, no_chdir => 1 }, ".");

Будет выполнять итерацию структуры файла из текущего рабочего каталога, вызывая подпрограмму process_dirдля каждого файла / каталога в разделе ".", И no_chdirсообщать Perl не выдавать a chdir()для каждого каталога, который он найдет.

process_dir возвращает, если данный проверенный файл не является каталогом:

return if !-d $File::Find::name;

Затем получить ссылку на существующий хэш %$dirsв $ref, разделить путь к файлу вокруг /и цикл с forдобавлением нового хэш - ключ для каждого пути.

Создание структуры каталогов, как сделал slm:

mkdir -p dir{1..5}/dir{A,B}/subdir{1..3}

Выход:

{
   "." : {
      "dir3" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir2" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir5" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir1" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      },
      "dir4" : {
         "dirA" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         },
         "dirB" : {
            "subdir2" : {},
            "subdir3" : {},
            "subdir1" : {}
         }
      }
   }
}

Попытка 2

Хорошо, теперь с другой структурой данных ...

#! /usr/bin/perl

use warnings;
use strict;
use JSON;

my $encoder = JSON->new->ascii->pretty;   # ascii character set, pretty format
my $dirs;                                 # used to build the data structure

my $path=$ARGV[0] || '.';                 # use the command line arg or working dir

# Open the directory, read in the file list, grep out directories and skip '.' and '..'
# and assign to @dirs
opendir(my $dh, $path) or die "can't opendir $path: $!";
my @dirs = grep { ! /^[.]{1,2}/ && -d "$path/$_" } readdir($dh);
closedir($dh);

# recurse the top level sub directories with the parse_dir subroutine, returning
# a hash reference.
%$dirs = map { $_ => parse_dir("$path/$_") } @dirs;

# print out the JSON encoding of this data structure
print $encoder->encode($dirs);

sub parse_dir {
    my $path = shift;    # the dir we're working on

    # get all sub directories (similar to above opendir/readdir calls)
    opendir(my $dh, $path) or die "can't opendir $path: $!";
    my @dirs = grep { ! /^[.]{1,2}/ && -d "$path/$_" } readdir($dh);
    closedir($dh);

    return undef if !scalar @dirs; # nothing to do here, directory empty

    my $vals = [];                            # set our result to an empty array
    foreach my $dir (@dirs) {                 # loop the sub directories         
        my $res = parse_dir("$path/$dir");    # recurse down each path and get results

        # does the returned value have a result, and is that result an array of at 
        # least one element, then add these results to our $vals anonymous array 
        # wrapped in a anonymous hash
        # ELSE
        # push just the name of that directory our $vals anonymous array
        push(@$vals, (defined $res and scalar @$res) ? { $dir => $res } : $dir);
    }

    return $vals;  # return the recursed result
}

А затем запустить скрипт на предложенной структуре каталогов ...

./tree2json2.pl .
{
   "dir2" : [
      "dirB",
      "dirA"
   ],
   "dir1" : [
      "dirB",
      {
         "dirA" : [
            "dirBB",
            "dirAA"
         ]
      }
   ]
}

Я нашел, что это чертовски сложно сделать правильно (особенно учитывая логику "hash if sub directory, array or not, OH UNLESS верхнего уровня, затем просто хэширует в любом случае"). Так что я был бы удивлен, если бы это было чем-то, что вы могли бы сделать с sed/ awk... но тогда Стефан еще не смотрел на это, я готов поспорить :)

Драв Слоан
источник
О, формат для sub dirs теперь несколько другой, будет ли выходной формат выше?
Драв Слоан
Да, я сам крутился на этом формате. Я не уверен, что это стандарт каким-либо образом, не могу найти много готового, который обеспечит это так, но ваш подход - определенное улучшение.
SLM
Достигаете ли вы прогресса в этом? 8-)
slm
По другому вопросу меня отслеживали с помощью slm-style-ascii-network-a-грамм (пит-стоп, так как этот кружил голову). Я сделаю чашку чаю, чтобы скорректировать соотношение кофеен и кровь, и еще раз посмотрю.
Драв Слоан
Asciio - инструмент для создания em
slm
13

Версия 1.7 включает поддержку JSON:
http://mama.indstate.edu/users/ice/tree/changes.html

На manстранице (под XML/JSON/HTML OPTIONS):

-J     Turn on JSON output. Outputs the directory tree as an JSON formatted array.

например

$ tree -J                                                                                                 

/home/me/trash/tree-1.7.0
[{"type":"directory","name": ".","contents":[
    {"type":"file","name":"CHANGES"},
    {"type":"file","name":"color.c"},
    {"type":"file","name":"color.o"},
    {"type":"directory","name":"doc","contents":[
      {"type":"file","name":"tree.1"},
      {"type":"file","name":"tree.1.fr"},
      {"type":"file","name":"xml.dtd"}
    ]},
    {"type":"file","name":"hash.c"},
    {"type":"file","name":"hash.o"},
    {"type":"file","name":"html.c"},
    {"type":"file","name":"html.o"},
    {"type":"file","name":"INSTALL"},
    {"type":"file","name":"json.c"},
    {"type":"file","name":"json.o"},
    {"type":"file","name":"LICENSE"},
    {"type":"file","name":"Makefile"},
    {"type":"file","name":"README"},
    {"type":"file","name":"strverscmp.c"},
    {"type":"file","name":"TODO"},
    {"type":"file","name":"tree"},
    {"type":"file","name":"tree.c"},
    {"type":"file","name":"tree.h"},
    {"type":"file","name":"tree.o"},
    {"type":"file","name":"unix.c"},
    {"type":"file","name":"unix.o"},
    {"type":"file","name":"xml.c"},
    {"type":"file","name":"xml.o"}
  ]},
  {"type":"report","directories":1,"files":26}
]
Шридхар Сарнобат
источник
5

Вот один из способов использования Perl и модуля Perl JSON.

$ tree | perl -e 'use JSON; @in=grep(s/\n$//, <>); \
     print encode_json(\@in)."\n";'

пример

Создайте пример данных.

$ mkdir -p dir{1..5}/dir{A,B}

Вот как это выглядит:

$ tree 
.
|-- dir1
|   |-- dirA
|   `-- dirB
|-- dir2
|   |-- dirA
|   `-- dirB
|-- dir3
|   |-- dirA
|   `-- dirB
|-- dir4
|   |-- dirA
|   `-- dirB
`-- dir5
    |-- dirA
    `-- dirB

15 directories, 0 files

Вот прогон с использованием команды Perl:

$ tree | perl -e 'use JSON; @in=grep(s/\n$//, <>); print encode_json(\@in)."\n";'

Который возвращает этот вывод:

[".","|-- dir1","|   |-- dirA","|   `-- dirB","|-- dir2","|   |-- dirA","|   `-- dirB","|-- dir3","|   |-- dirA","|   `-- dirB","|-- dir4","|   |-- dirA","|   `-- dirB","`-- dir5","    |-- dirA","    `-- dirB","","15 directories, 0 files"]

ПРИМЕЧАНИЕ. Это просто инкапсуляция вывода из tree. Не вложенная иерархия. ОП изменил вопрос после того, как я предложил это!

SLM
источник
извините, я думаю, что недостаточно хорошо описал свою проблему. Моя цель - преобразовать что-то вроде: | - dir1 | | - дира | | - dirB | - dir2 | | - дира | | - dirB into: {"dir1": ["dirA", "dirB"], "dir2": ["dirA", "dirB"]}
roundrobin
@BausTheBig - нет проблем. Отредактируйте свой ответ и добавьте пример того, что вы хотите.
SLM
Кажется, что структура данных после OP выглядит как объект Python. Я почти не знаю Python, поэтому не могу помочь, но я бы предположил, что такую ​​структуру легче построить там.
Тердон
@terdon - Я оставил это Драву, для нас это выглядело как структура Hash of Hashes.
СЛМ
2

Я также искал способ вывода дерева папок / файлов linux в какой-нибудь файл JSON или XML. Почему бы не использовать эту простую команду терминала:

tree --dirsfirst --noreport -n -X -i -s -D -f -o my.xml

Итак, просто команда Linux tree, и настройте свои собственные параметры. Здесь -Xдает вывод XML. Для меня это нормально, и я предполагаю, что есть некоторый скрипт для преобразования XML в JSON.

Рулоф Беркейп
источник
1

Вы можете попробовать эту команду:

tree -a -J -o *filename*

Замените имя файла на желаемое имя выходного файла.


источник
Там нет такого флага Jдля команды tree!!
Upvote: на дереве v1.7.0 есть флаг J ... ура
drl
1

Это делает работу. https://gist.github.com/debodirno/18a21df0511775c19de8d7ccbc99cb72

import os
import sys
import json

def tree_path_json(path):
    dir_structure = {}
    base_name = os.path.basename(os.path.realpath(path))
    if os.path.isdir(path):
        dir_structure[base_name] = [ tree_path_json(os.path.join(path, file_name))\
         for file_name in os.listdir(path) ]
    else:
        return os.path.basename(path)
    return dir_structure

if len(sys.argv) > 1:
    path = sys.argv[1]
else:
    path = '.'

print json.dumps(tree_path_json(path), indent = 4, separators = (', ', ' : '))
Дебодирно Чандра
источник
Я не понимаю
Pierre.Vriens
1
Так что это преобразует древовидную структуру в JSON. Запустите этот код в каталоге, и он создаст json, как указано в вопросе.
Дебодирно Чандра,