Как работает индексация базы данных? [закрыто]

Учитывая, что индексирование так важно, поскольку размер вашего набора данных увеличивается, может ли кто-нибудь объяснить, как индексирование работает на уровне базы данных?

Информацию о запросах для индексирования поля смотрите в разделе Как индексировать столбец базы данных .

Зачем это нужно?

Когда данные хранятся на дисковых устройствах хранения, они хранятся в виде блоков данных. Доступ к этим блокам осуществляется полностью, что делает их операцией доступа к атомарному диску. Дисковые блоки структурированы во многом так же, как связанные списки; оба содержат раздел для данных, указатель на местоположение следующего узла (или блока), и оба не должны храниться непрерывно.

В связи с тем, что несколько записей могут быть отсортированы только по одному полю, мы можем констатировать, что поиск по несортированному полю требует линейного поиска, который требует N/2обращения к Nблокам (в среднем), где число блоков, которое таблица охватывает. Если это поле является неключевым (то есть не содержит уникальных записей), тогда все табличное пространство необходимо искать при Nдоступе к блоку.

Принимая во внимание, что с отсортированным полем может использоваться Бинарный поиск, который имеет log2 Nдоступ к блоку. Кроме того, поскольку данные сортируются по неключевому полю, в остальной части таблицы не нужно искать дубликаты значений, как только будет найдено более высокое значение. Таким образом, увеличение производительности является существенным.

Что такое индексация?

Индексирование - это способ сортировки нескольких записей по нескольким полям. Создание индекса для поля в таблице создает другую структуру данных, которая содержит значение поля и указатель на запись, к которой он относится. Затем эта структура индекса сортируется, что позволяет выполнять бинарный поиск.

Недостатком индексации является то, что эти индексы требуют дополнительного места на диске, так как индексы хранятся вместе в таблице с использованием механизма MyISAM, этот файл может быстро достичь пределов размера базовой файловой системы, если проиндексировано много полей в одной таблице. ,

Как это работает?

Во-первых, давайте наметим пример схемы таблицы базы данных;

Имя поля Тип данных Размер на диске
id (первичный ключ) INT без знака 4 байта
firstName Char (50) 50 байтов
lastName Char (50) 50 байтов
emailАдрес Char (100) 100 байт

Примечание : вместо varchar использовался символ char для точного определения размера диска. Этот образец базы данных содержит пять миллионов строк и не индексируется. Производительность нескольких запросов теперь будет проанализирована. Это запрос с использованием идентификатора (поле отсортированного ключа) и запрос с использованием firstName (не отсортированное по ключу поле).

Пример 1 - сортировка против несортированных полей

Учитывая нашу примерную базу данных r = 5,000,000записей фиксированного размера, дающих длину записи R = 204байтов, и они хранятся в таблице с использованием механизма MyISAM, который использует B = 1,024байты размера блока по умолчанию . Фактором блокировки таблицы будет количество bfr = (B/R) = 1024/204 = 5записей на диск. Общее количество блоков, необходимых для хранения таблицы, равно N = (r/bfr) = 5000000/5 = 1,000,000блокам.

Линейный поиск в поле идентификатора потребует среднего числа N/2 = 500,000обращений к блоку, чтобы найти значение, учитывая, что поле идентификатора является ключевым полем. Но поскольку поле id также отсортировано, можно выполнить бинарный поиск, требующий среднего числа log2 1000000 = 19.93 = 20обращений к блоку. Мгновенно мы видим, что это радикальное улучшение.

Теперь поле firstName не сортируется и не является ключевым, поэтому двоичный поиск невозможен, а значения не являются уникальными, и, следовательно, таблица потребует поиска в конце для точного N = 1,000,000доступа к блоку. Именно эту ситуацию индексация стремится исправить.

Учитывая, что индексная запись содержит только индексированное поле и указатель на исходную запись, очевидно, что она будет меньше, чем многополевая запись, на которую она указывает. Таким образом, сам индекс требует меньше дисковых блоков, чем исходная таблица, поэтому для итераций требуется меньше обращений к блокам. Схема для индекса в поле firstName приведена ниже;

Имя поля Тип данных Размер на диске
firstName Char (50) 50 байтов
(указатель записи) Специальные 4 байта

Примечание . Указатели в MySQL имеют длину 2, 3, 4 или 5 байт в зависимости от размера таблицы.

Пример 2 - индексация

Приведен пример нашей базы данных r = 5,000,000записей с индексной записью длины R = 54байтов и использованием размера блока по умолчанию в B = 1,024байтах. Фактором блокировки индекса будет количество bfr = (B/R) = 1024/54 = 18записей на блок диска. Общее количество блоков, необходимых для хранения индекса, равно N = (r/bfr) = 5000000/18 = 277,778блокам.

Теперь поиск с использованием поля firstName может использовать индекс для увеличения производительности. Это позволяет выполнять двоичный поиск по индексу со средним log2 277778 = 18.08 = 19числом обращений к блоку. Чтобы найти адрес фактической записи, которая требует дополнительного доступа к блоку для чтения, что приводит к общему количеству 19 + 1 = 20обращений к блокам, это далеко от 1 000 000 обращений к блокам, необходимых для поиска соответствия firstName в неиндексированной таблице.

Когда его следует использовать?

Принимая во внимание, что создание индекса требует дополнительного дискового пространства (277 778 блоков дополнительно из приведенного выше примера, увеличение ~ 28%), и что слишком много индексов могут вызвать проблемы, возникающие из-за ограничений размера файловых систем, необходимо тщательно продумать, чтобы выбрать правильный поля для индексации.

Поскольку индексы используются только для ускорения поиска соответствующего поля в записях, очевидно, что поля индексации, используемые только для вывода, будут просто пустой тратой дискового пространства и времени обработки при выполнении операции вставки или удаления, и, таким образом, необходимо избегать. Также, учитывая природу бинарного поиска, важна мощность или уникальность данных. Индексирование в поле с количеством элементов, равным 2, делит данные пополам, тогда как количество элементов в 1000 возвращает приблизительно 1000 записей. При таком низком количестве элементов эффективность снижается до линейной сортировки, и оптимизатор запросов избегает использования индекса, если количество элементов составляет менее 30% от числа записей, что фактически делает индекс пустой тратой пространства.

Классический пример "Указатель в книгах"

Рассмотрим «Книгу» из 1000 страниц, разделенную на 10 глав, в каждом разделе по 100 страниц.

Просто, да?

Теперь представьте, что вы хотите найти определенную главу, которая содержит слово « Алхимик ». Без индексной страницы у вас нет другого выбора, кроме сканирования всей книги / глав. т.е. 1000 страниц.

Эта аналогия известна как «полное сканирование таблицы» в мире баз данных.

Но с индексной страницей вы знаете, куда идти! И еще: для поиска любой конкретной главы, которая имеет значение, вам просто нужно просматривать страницу указателя снова и снова, каждый раз. Найдя соответствующий индекс, вы можете эффективно перейти к этой главе, пропустив остальные.

Но тогда, в дополнение к 1000 страниц, вам понадобится еще ~ 10 страниц для отображения индексов, то есть всего 1010 страниц.

Таким образом, индекс представляет собой отдельный раздел, в котором хранятся значения индексированного столбца + указатель на индексированную строку в отсортированном порядке для эффективного поиска.

В школах все просто, не так ли? :П

Когда я впервые прочитал это, это было очень полезно для меня. Спасибо.

С тех пор я получил некоторое представление о недостатках создания индексов: если вы записываете в таблицу ( UPDATEили INSERT) с одним индексом, у вас фактически есть две операции записи в файловой системе. Один для данных таблицы и другой для данных индекса (и их применение (и - если кластеризовано - обращение к данным таблицы)). Если таблица и индекс находятся на одном жестком диске, это стоит больше времени. Таким образом, таблица без индекса (кучи) позволит быстрее выполнять операции записи. (если бы у вас было два индекса, вы бы получили три операции записи и т. д.)

Однако определение двух разных расположений на двух разных жестких дисках для данных индекса и данных таблицы может уменьшить / устранить проблему увеличения затрат времени. Это требует определения дополнительных групп файлов с соответствующими файлами на желаемых жестких дисках и определения расположения таблицы / индекса по желанию.

Другая проблема с индексами заключается в их фрагментации с течением времени при вставке данных. REORGANIZEпомогает, вы должны написать подпрограммы, чтобы сделать это.

В определенных сценариях куча более полезна, чем таблица с индексами,

Например: - Если у вас есть много конкурирующих записей, но только один ночной просмотр в нерабочее время для отчетности.

Кроме того, различие между кластерными и некластеризованными индексами является довольно важным.

Помог мне: - Что на самом деле означает Кластерный и Некластерный индекс?

Индекс - это просто структура данных, которая ускоряет поиск определенного столбца в базе данных. Эта структура обычно представляет собой b-дерево или хеш-таблицу, но это может быть любая другая логическая структура.

Теперь предположим, что мы хотим запустить запрос, чтобы найти все детали сотрудников, которых зовут «Abc»?

SELECT * FROM Employee 
WHERE Employee_Name = 'Abc'

Что будет без индекса?

Программному обеспечению базы данных в буквальном смысле пришлось бы просматривать каждую строку в таблице Employee, чтобы определить, является ли Employee_Name для этой строки 'Abc'. И, поскольку нам нужна каждая строка с именем «Abc» внутри, мы не можем просто перестать искать, когда найдем только одну строку с именем «Abc», потому что могут быть другие строки с именем Abc . Таким образом, каждая строка вплоть до последней строки должна быть найдена - это означает, что тысячи строк в этом сценарии должны быть проверены базой данных, чтобы найти строки с именем 'Abc'. Это то, что называется полным сканированием таблицы

Как индекс базы данных может помочь производительности

Весь смысл наличия индекса состоит в том, чтобы ускорить поисковые запросы, существенно сократив количество записей / строк в таблице, которые необходимо изучить. Индекс - это структура данных (чаще всего B-дерево), в которой хранятся значения для определенного столбца в таблице.

Как работает индекс B-деревьев?

Причина, по которой B-деревья являются наиболее популярной структурой данных для индексов, заключается в том, что они экономят время - потому что поиск, удаление и вставка могут выполняться в логарифмическом времени. И еще одна важная причина, по которой B-деревья чаще используются, заключается в том, что данные, хранящиеся в B-деревьях, могут быть отсортированы. СУБД обычно определяет, какая структура данных фактически используется для индекса. Но в некоторых сценариях с определенными СУБД вы можете фактически указать, какую структуру данных вы хотите использовать в своей базе данных при создании самого индекса.

Как работает индекс хеш-таблицы?

Хэш-индексы используются по той причине, что хеш-таблицы чрезвычайно эффективны, когда дело доходит до поиска значений. Таким образом, запросы, которые сравнивают на равенство со строкой, могут очень быстро получить значения, если они используют хеш-индекс.

Например, запрос, который мы обсуждали ранее, может получить преимущество от хеш-индекса, созданного в столбце Employee_Name. Способ работы хеш-индекса заключается в том, что значение столбца будет ключом в хеш-таблице, а фактическое значение, сопоставленное с этим ключом, будет просто указателем на данные строки в таблице. Поскольку хеш-таблица в основном является ассоциативным массивом, типичная запись будет выглядеть примерно так: «Abc => 0x28939», где 0x28939 - это ссылка на строку таблицы, в которой Abc хранится в памяти. Поиск значения, такого как «Abc» в индексе хеш-таблицы, и получение ссылки на строку в памяти, очевидно, намного быстрее, чем сканирование таблицы, чтобы найти все строки со значением «Abc» в столбце Employee_Name.

Недостатки хеш-индекса

Хеш-таблицы не являются отсортированными структурами данных, и существует много типов запросов, с которыми хеш-индексы могут даже не помочь. Например, предположим, что вы хотите узнать всех сотрудников, которым менее 40 лет. Как вы могли бы сделать это с индексом хэш-таблицы? Ну, это невозможно, потому что хеш-таблица хороша только для поиска пар ключ-значение - это означает, что запросы проверяют на равенство

Что именно находится внутри индекса базы данных? Итак, теперь вы знаете, что для столбца в таблице создается индекс базы данных, и этот индекс хранит значения в этом конкретном столбце. Но важно понимать, что индекс базы данных не хранит значения в других столбцах той же таблицы. Например, если мы создаем индекс для столбца Employee_Name, это означает, что значения столбцов Employee_Age и Employee_Address также не сохраняются в индексе. Если бы мы просто сохранили все остальные столбцы в индексе, то это было бы подобно созданию другой копии всей таблицы, которая заняла бы слишком много места и была бы очень неэффективной.

Как база данных узнает, когда использовать индекс? Когда выполняется запрос типа «SELECT * FROM Employee WHERE Employee_Name = 'Abc'», база данных проверяет, есть ли индекс в столбце (столбцах), в котором выполняется запрос. Предполагая, что столбец Employee_Name имеет индекс, созданный для него, базе данных придется решить, имеет ли смысл использовать индекс для поиска искомых значений, поскольку существуют некоторые сценарии, в которых на самом деле менее эффективно использовать индекс базы данных. и эффективнее просто сканировать всю таблицу.

Какова стоимость наличия индекса базы данных?

Это занимает место - и чем больше ваша таблица, тем больше ваш индекс. Еще одним ударом по производительности с индексами является тот факт, что всякий раз, когда вы добавляете, удаляете или обновляете строки в соответствующей таблице, одни и те же операции должны выполняться с вашим индексом. Помните, что индекс должен содержать те же самые данные с точностью до минуты, как и все, что находится в столбцах таблицы, которые покрывает индекс.

Как правило, индекс должен быть создан только для таблицы, если данные в индексированном столбце будут часто запрашиваться.

Смотрите также

1. Какие столбцы обычно дают хорошие показатели?
2. Как работают индексы базы данных

Простое описание!

Индекс - это не что иное, как структура данных, в которой хранятся значения для определенного столбца в таблице. Индекс создается по столбцу таблицы.

Пример: У нас есть таблица базы данных под названием Userс тремя столбцами - Name, Ageи Address. Предположим, что Userтаблица имеет тысячи строк.

Теперь предположим, что мы хотим запустить запрос, чтобы найти все детали любых пользователей с именем «Джон». Если мы запустим следующий запрос:

SELECT * FROM User 
WHERE Name = 'John'

Программному обеспечению базы данных в буквальном смысле пришлось бы просматривать каждую строку в Userтаблице, чтобы определить, является ли Nameдля этой строки значение «Джон». Это займет много времени.

Вот где indexнам помогает: индекс используется для ускорения поисковых запросов, существенно сокращая количество записей / строк в таблице, которые необходимо изучить .

Как создать индекс:

CREATE INDEX name_index
ON User (Name)

Он indexсостоит из значений столбцов (например, John) из одной таблицы , и эти значения хранятся в структуре данных .

Так что теперь база данных будет использовать индекс для поиска сотрудников по имени Джон, потому что индекс, вероятно, будет отсортирован в алфавитном порядке по имени пользователя. И, поскольку оно отсортировано, это означает, что поиск имени выполняется намного быстрее, потому что все имена, начинающиеся с буквы «J», будут находиться рядом друг с другом в индексе!

Просто быстрое предложение. Поскольку индексирование требует дополнительных операций записи и хранения, поэтому, если вашему приложению требуется больше операций вставки / обновления, вы можете использовать таблицы без индексов, но если для этого требуется больше операций извлечения данных, вам следует перейти к индексированным Таблица.

Просто подумайте об индексе базы данных как об индексе книги.

Если у вас есть книга о собаках, и вы хотите найти информацию о, скажем, немецких овчарках, вы, конечно, могли бы пролистать все страницы книги и найти то, что вы ищете - но это, конечно, отнимает много времени и не очень быстро.

Другой вариант заключается в том, что вы можете просто перейти в раздел «Указатель» книги, а затем найти то, что вы ищете, используя имя сущности, которую вы ищете (в данном случае, немецкие овчарки), а также взглянув на номер страницы, чтобы быстро найти то, что вы ищете.

В базе данных номер страницы называется указателем, который направляет базу данных на адрес на диске, где находится объект. Используя ту же аналогию с немецкой овчаркой, мы можем получить что-то вроде этого («Немецкая овчарка», 0x77129), где 0x77129находится адрес на диске, где хранятся данные строки для немецкой овчарки.

Короче говоря, индекс - это структура данных, которая хранит значения для определенного столбца в таблице, чтобы ускорить поиск по запросу.