Postgres: очистить всю базу данных перед повторным созданием / повторным заполнением из скрипта bash

139

Я пишу сценарий оболочки (станет cronjob), который будет:

1: сбросить мою производственную базу данных

2: импортировать дамп в мою базу данных разработки

Между шагами 1 и 2 мне нужно очистить базу данных разработки (удалить все таблицы?). Как это лучше всего сделать из сценария оболочки? Пока это выглядит так:

#!/bin/bash
time=`date '+%Y'-'%m'-'%d'`
# 1. export(dump) the current production database
pg_dump -U production_db_name > /backup/dir/backup-${time}.sql

# missing step: drop all tables from development database so it can be re-populated

# 2. load the backup into the development database
psql -U development_db_name < backup/dir/backup-${time}.sql
Hoff
источник
3
oneliner для людей, которые спешат:dbname='db_name' && dropdb $dbname && createdb $dbname && psql -d $dbname -f dump.sql
Ruuter
этот oneliner требует, чтобы у вас были разрешения на создание / удаление базы данных. подход, который пытается использовать автор, не требует особых привилегий.
Рибамар

Ответы:

188

Я бы просто отбросил базу данных, а затем заново создал ее. В системе UNIX или Linux это должно быть сделано:

$ dropdb development_db_name
$ createdb developmnent_db_name

Вот как я это делаю, на самом деле.

Haes
источник
Вот как я это делаю. Затем просто восстановите в только что созданную базу данных.
Артур Томас
3
Ага. это лучше, потому что могут быть объекты, которые не являются частью восстанавливаемого дампа. в этом случае они точно будут убиты.
pstanton
7
Один трюк, который экономит мое время - это $ sudo -u postgres dropdb DATABASE_NAME
Элвин
36
Но ... как насчет прав доступа и владения базой данных?
Эмануэле Паолини
6
@EmanuelePaolini createdb --owner=db_owner [--template=template0 --encoding=UTF8] db_nameЯ добавляю последние два по умолчанию для всех баз данных
mcalex,
91

Если вам на самом деле не нужна резервная копия базы данных, выгруженной на диск в формате простого текстового файла .sql, вы можете подключиться pg_dumpиpg_restore напрямую через канал.

Чтобы удалить и воссоздать таблицы, вы можете использовать параметр --cleanкомандной строки дляpg_dump чтобы выдавать команды SQL для очистки (отбрасывания) объектов базы данных перед (командами) их создания. (Это не приведет к удалению всей базы данных, только каждой таблицы / последовательности / индекса / и т. Д. Перед их воссозданием.)

Вышеуказанные два будут выглядеть примерно так:

pg_dump -U username --clean | pg_restore -U username
Банди-Т
источник
1
Мне нравится это решение, так как мне нужна резервная копия, сейчас я делаю это: pg_dump -Ft -U production_db_name> /backup/dir/backup-$ndomtime Event.tar pg_restore -U development_db_name -d development_db_name -O - -clean /backup/dir/backup-$ndomtime Object.tar работает как шарм, спасибо за вашу помощь!
Хофф
38
Осторожно: опция --clean удаляет только те отношения, которые есть в файле восстановления. Это означает, что если вы добавите таблицу для тестирования, а затем захотите удалить ее (например, для синхронизации с производственной БД), она не будет удалена.
января
6
Это важно иметь в виду , что pg_dump в --clean опция работает только с простыми текстовыми подпорок. Как ясно сказано в документации postgresql.org/docs/9.4/static/app-pgdump.html , вам нужно использовать --clean в pg_restore для архивированных резервных копий.
Кикин-Сама
6
Есть ли способ включить каскад в опцию "--clean". Как таковой этот вариант выглядит бесполезным. Я получаю сообщение «ОШИБКА: не могу удалить схему публично, потому что другие объекты зависят от нее», как 100% времени ее использования.
user4674453
Задан вопрос об удалении всех таблиц. Это удаляет только таблицы, найденные в базе данных, из которой выгружается pg_dump.
JBG
13

Хотя следующая строка взята из пакетного скрипта Windows, команда должна быть очень похожей:

psql -U username -h localhost -d postgres -c "DROP DATABASE \"$DATABASE\";"

Эта команда используется для очистки всей базы данных путем ее удаления. $DATABASE(В Windows , должно быть %DATABASE%) в команде является переменной окружения окна стиль , который имеет значение имени базы данных. Вам нужно будет заменить это своим development_db_name.

Фрэнк Боллак
источник
4
тогда почему бы не использовать уже имеющиеся dropdbи createdbкоманды? Если вы можете запустить psql, вы можете запустить и их.
Майк 'Pomax' Камерманс
10

Сбросить:

pg_dump -Fc mydb > db.dump

Восстановить:

pg_restore --verbose --clean --no-acl --no-owner -h localhost -U myuser -d my_db db/latest.dump
Карлос Жулио
источник
7

Если вы хотите очистить вашу базу данных с именем "example_db":

1) Войдите в другую базу данных (например, 'postgres'):

psql postgres

2) Удалить вашу базу данных:

DROP DATABASE example_db;

3) воссоздать вашу базу данных:

CREATE DATABASE example_db;
Камил Сивек
источник
6

Я использовал:

pg_restore -c -d database_name filename.dump
Трой
источник
4

Примечание: мой ответ - действительно удалить таблицы и другие объекты базы данных; для удаления всех данных в таблицах, т. е. усечения всех таблиц , Endre Both предоставил аналогично хорошо выполненный (прямое выполнение) оператор месяц спустя.

Для тех случаев , когда вы можете не только DROP SCHEMA public CASCADE;, DROP OWNED BY current_user;или что - то, вот автономный SQL скрипт я написал, что сделка безопасным (т.е. вы можете поместить его между BEGIN;и или ROLLBACK;к просто проверить это или COMMIT;на самом деле делать дело) и очищает «все» объекты базы данных… ну, все те, которые используются в базе данных, которую использует наше приложение, или я мог бы разумно добавить, что:

  • триггеры на столах
  • Ограничения на столах (ФК, ПК, CHECK, UNIQUE)
  • индексы
  • VIEWs (нормальный или материализованный)
  • таблицы
  • последовательности
  • подпрограммы (агрегатные функции, функции, процедуры)
  • все схемы nōn-default (то есть не publicвнутренние или DB-внутренние), которыми владеем «мы»: сценарий полезен, когда выполняется как «не суперпользователь базы данных»; суперпользователь может отбросить все схемы (хотя действительно важные из них явно исключены)
  • расширения (добавленные пользователем, но я обычно намеренно оставляю их в)

Не исключены (некоторые преднамеренные; некоторые только потому, что у меня нет примера в нашей БД):

  • publicсхемы (например , для расширения предоставленного материала в них)
  • подборки и другие локали
  • триггеры событий
  • материал для поиска текста ... (см. здесь другие вещи, которые я мог пропустить)
  • роли или другие параметры безопасности
  • составные типы
  • тост столы
  • FDW и зарубежные таблицы

Это действительно полезно в тех случаях, когда дамп, который вы хотите восстановить, имеет другую версию схемы базы данных (например, с Debian dbconfig-common, Flyway или Liquibase / DB-Manul), чем база данных, в которую вы хотите восстановить ее.

У меня также есть версия, которая удаляет «все, кроме двух таблиц и того, что им принадлежит» (последовательность, проверенная вручную, извините, я знаю, скучно), если кто-то заинтересован; разница маленькая. Свяжитесь со мной или проверьте это РЕПО если интересно.

SQL

-- Copyright © 2019, 2020
--      mirabilos <t.glaser@tarent.de>
--
-- Provided that these terms and disclaimer and all copyright notices
-- are retained or reproduced in an accompanying document, permission
-- is granted to deal in this work without restriction, including un‐
-- limited rights to use, publicly perform, distribute, sell, modify,
-- merge, give away, or sublicence.
--
-- This work is provided “AS IS” and WITHOUT WARRANTY of any kind, to
-- the utmost extent permitted by applicable law, neither express nor
-- implied; without malicious intent or gross negligence. In no event
-- may a licensor, author or contributor be held liable for indirect,
-- direct, other damage, loss, or other issues arising in any way out
-- of dealing in the work, even if advised of the possibility of such
-- damage or existence of a defect, except proven that it results out
-- of said person’s immediate fault when using the work as intended.
-- -
-- Drop everything from the PostgreSQL database.

DO $$
DECLARE
        q TEXT;
        r RECORD;
BEGIN
        -- triggers
        FOR r IN (SELECT pns.nspname, pc.relname, pt.tgname
                FROM pg_catalog.pg_trigger pt, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace AND pc.oid=pt.tgrelid
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pt.tgisinternal=false
            ) LOOP
                EXECUTE format('DROP TRIGGER %I ON %I.%I;',
                    r.tgname, r.nspname, r.relname);
        END LOOP;
        -- constraints #1: foreign key
        FOR r IN (SELECT pns.nspname, pc.relname, pcon.conname
                FROM pg_catalog.pg_constraint pcon, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace AND pc.oid=pcon.conrelid
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pcon.contype='f'
            ) LOOP
                EXECUTE format('ALTER TABLE ONLY %I.%I DROP CONSTRAINT %I;',
                    r.nspname, r.relname, r.conname);
        END LOOP;
        -- constraints #2: the rest
        FOR r IN (SELECT pns.nspname, pc.relname, pcon.conname
                FROM pg_catalog.pg_constraint pcon, pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace AND pc.oid=pcon.conrelid
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pcon.contype<>'f'
            ) LOOP
                EXECUTE format('ALTER TABLE ONLY %I.%I DROP CONSTRAINT %I;',
                    r.nspname, r.relname, r.conname);
        END LOOP;
        -- indicēs
        FOR r IN (SELECT pns.nspname, pc.relname
                FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pc.relkind='i'
            ) LOOP
                EXECUTE format('DROP INDEX %I.%I;',
                    r.nspname, r.relname);
        END LOOP;
        -- normal and materialised views
        FOR r IN (SELECT pns.nspname, pc.relname
                FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pc.relkind IN ('v', 'm')
            ) LOOP
                EXECUTE format('DROP VIEW %I.%I;',
                    r.nspname, r.relname);
        END LOOP;
        -- tables
        FOR r IN (SELECT pns.nspname, pc.relname
                FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pc.relkind='r'
            ) LOOP
                EXECUTE format('DROP TABLE %I.%I;',
                    r.nspname, r.relname);
        END LOOP;
        -- sequences
        FOR r IN (SELECT pns.nspname, pc.relname
                FROM pg_catalog.pg_class pc, pg_catalog.pg_namespace pns
                WHERE pns.oid=pc.relnamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pc.relkind='S'
            ) LOOP
                EXECUTE format('DROP SEQUENCE %I.%I;',
                    r.nspname, r.relname);
        END LOOP;
        -- extensions (only if necessary; keep them normally)
        FOR r IN (SELECT pns.nspname, pe.extname
                FROM pg_catalog.pg_extension pe, pg_catalog.pg_namespace pns
                WHERE pns.oid=pe.extnamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
            ) LOOP
                EXECUTE format('DROP EXTENSION %I;', r.extname);
        END LOOP;
        -- aggregate functions first (because they depend on other functions)
        FOR r IN (SELECT pns.nspname, pp.proname, pp.oid
                FROM pg_catalog.pg_proc pp, pg_catalog.pg_namespace pns, pg_catalog.pg_aggregate pagg
                WHERE pns.oid=pp.pronamespace
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast')
                    AND pagg.aggfnoid=pp.oid
            ) LOOP
                EXECUTE format('DROP AGGREGATE %I.%I(%s);',
                    r.nspname, r.proname,
                    pg_get_function_identity_arguments(r.oid));
        END LOOP;
        -- routines (functions, aggregate functions, procedures, window functions)
        IF EXISTS (SELECT * FROM pg_catalog.pg_attribute
                WHERE attrelid='pg_catalog.pg_proc'::regclass
                    AND attname='prokind' -- PostgreSQL 11+
            ) THEN
                q := 'CASE pp.prokind
                        WHEN ''p'' THEN ''PROCEDURE''
                        WHEN ''a'' THEN ''AGGREGATE''
                        ELSE ''FUNCTION''
                    END';
        ELSIF EXISTS (SELECT * FROM pg_catalog.pg_attribute
                WHERE attrelid='pg_catalog.pg_proc'::regclass
                    AND attname='proisagg' -- PostgreSQL ≤10
            ) THEN
                q := 'CASE pp.proisagg
                        WHEN true THEN ''AGGREGATE''
                        ELSE ''FUNCTION''
                    END';
        ELSE
                q := '''FUNCTION''';
        END IF;
        FOR r IN EXECUTE 'SELECT pns.nspname, pp.proname, pp.oid, ' || q || ' AS pt
                FROM pg_catalog.pg_proc pp, pg_catalog.pg_namespace pns
                WHERE pns.oid=pp.pronamespace
                    AND pns.nspname NOT IN (''information_schema'', ''pg_catalog'', ''pg_toast'')
            ' LOOP
                EXECUTE format('DROP %s %I.%I(%s);', r.pt,
                    r.nspname, r.proname,
                    pg_get_function_identity_arguments(r.oid));
        END LOOP;
        -- nōn-default schemata we own; assume to be run by a not-superuser
        FOR r IN (SELECT pns.nspname
                FROM pg_catalog.pg_namespace pns, pg_catalog.pg_roles pr
                WHERE pr.oid=pns.nspowner
                    AND pns.nspname NOT IN ('information_schema', 'pg_catalog', 'pg_toast', 'public')
                    AND pr.rolname=current_user
            ) LOOP
                EXECUTE format('DROP SCHEMA %I;', r.nspname);
        END LOOP;
        -- voilà
        RAISE NOTICE 'Database cleared!';
END; $$;

Протестировано, за исключением более поздних дополнений ( extensionsпредоставленных Clément Prévost ), на PostgreSQL 9.6 ( jessie-backports). Удаление агрегатов проверено на 9.6 и 12.2, процедура удаления также проверена на 12.2. Исправления и дальнейшие улучшения приветствуются!

mirabilos
источник