Logo Море(!) аналитической информации!
IT-консалтинг Software Engineering Программирование СУБД Безопасность Internet Сети Операционные системы Hardware
Обучение от Mail.Ru Group.
Онлайн-университет
для программистов с
гарантией трудоустройства.
Набор открыт!
2008 г.

Обзор алгоритмов MOLAP

Юрий Кудрявцев, факультет ВМиК МГУ

Вперед: Многопозиционное агрегирование массивов для вычисления кубов Выше: Синтаксические алгоритмы Назад: Синтаксические алгоритмы   Содержание

Подразделы


Алгоритм DWARF

Алгоритм DWARF (карлик) (см. [21]) назван так с намеком на звезды карликового типа, которые имеют небольшой объем, но огромную массу. Это синтаксический алгоритм, распознающий два типа избыточности хранения данных и устраняющий их во время создания и поддержки куба.

Ключевыми понятиями алгоритма являются префиксная избыточность и суффиксная избыточность (см. определения).

В пользу практического использования алгоритма DWARF говорит автоматическое нахождение префиксных и суффиксных избыточностей, не требующее каких-либо знаний о распределении данных, типов, значений. При этом эффективность сжатия одинаково высока как и для ''разреженных'', так и для ''плотных'' кубов. В большинстве случаев даже для очень плотных кубов размер результирующего DWARF куба меньше размера базовой таблицы. Если для ''плотных'' кубов улучшения происходят за счет префиксной избыточности, то, по мере того как кубы становятся ''разреженнее'', возрастает доля суффиксной избыточности.

Не менее важным является сокращение времени создания и расчетов. Каждый избыточный суффикс идентифицируется до его вычисления, что ведет к существенным уменьшениям времени создания. Более того, вследствие уменьшения общего размера куба пропорционально падает и время обработки запросов.

Виды избыточностей структуры куба

Определение 2.1   Префиксная избыточность. Пусть имеется есть куб с измерениями a, b и с. Каждое значение измерения a участвует в четырех группировках (a, ab, ac, abc) и, возможно, много раз в каждой из сгруппированных таблиц.

DWARF успешно распознает подобный тип изыбыточности и устраняет его за счет хранения каждого префикса лишь один раз.

Определение 2.2   Суффиксная избыточность возникает, если 2 или более сгруппированные таблицы разделяют однаковый суффикс (например, abc и bc).

Рассмотрим значение $ b_j$ измерения $ b$ , которое появляется в базовой таблице с единственным значением $ a_i$ измерения $ a$ . Тогда сгруппированные таблицы $ <a_i,b_j,x>$ и $ <b_j,x>$ всегда будут иметь одинаковые агрегирующие значения. Это происходит благодаря тому, что вторая сгруппированная таблица агрегирует все значения фактической таблицы, которые содержат все возможные комбинации значений измерения (в нашем случае это только значение $ a_i$ ) с $ b_j$ и $ x$ . Эта идея расширяет понятие базового единичного кортежа (BST, Base Single Tuple) (см. определение) из алгоритма ''сжатого'' куба [25]. Поскольку $ x$ обычно является множеством значений, суффиксная избыточность может иметь экспоненциальный эффект. Суффиксная избыточность определяется во время создания DWARF-куба и уничтожается за счет поглощения (или слияния) места, занимаемого избыточными суффиксами.

Структура куба

Пример куба


Таблица 5.1: Копия таблицы 1.1

$\displaystyle \begin{tabular}{\vert c\vert c\vert c\vert c\vert}
\hline
Регион ...
...e
R1 & Еда & Осень & 3\\
\hline
R2 & книги & Осень & 6\\
\hline
\end{tabular}$


Для начала приведем пример структуры куба, а в дальнейшем дадим формальное определение. Рисунок 2.1 показывает структуру куба для таблицы 1.1, в качестве агрегирующей функции используется SUM.

Вершины пронумерованы в порядке их создания. Высота куба равна числу измерений, каждое из которых относится к одному из уровней, как показано на рисунке.

Корневая вершина содержит ячейки вида {ключ, указатель} для каждого значения первого измерения. Указатель каждой ячейки направлен к лежащей ниже вершине, которая содержит все различные значения следующего измерения, ассоциированные с ключом ячейки.

Каждая вершина содержит специальную ячейку ALL, изображенную серой областью справа от вершины, содержащую указатель и отвечающую всем значениям вершины. Каждый лист L имеет форму {ключ, агрегирующее значение} и содержит агрегирующее значение всех кортежей, которые удовлетворяют пути (паттерну) от корня к L. Каждый лист содержит и ALL ячейку, которая содержит агрегирующее значение всех ячеек вершины.

На рисунке 2.1 все вершины, к которым идет более одного указателя, поглощают несколько путей (возможных вершин).

Свойства DWARF-куба
  1. Это ациклический ориентированный граф с одной корневой вершиной, имеющий ровно D уровней, где D-число измерений.
  2. Вершины уровня D (листья) содержат ячейки вида {ключ, агрегирующее значение}.
  3. Вершины на уровнях, отличных от уровня D, (нелистовых) содержат ячейки вида {ключ, указатель}. Ячейка С в нелистовой вершине уровня i указывает на вершину уровня i+1, которую она обобщает. С — родительская вершина для обобщаемой вершины.
  4. В каждой вершине имеется специальная ячейка, которая содержит псевдо-значение ALL как ключ. Эта ячейка содержит указатель или на нелистовую вершину, или на агрегирующее значение листовой вершины.
  5. Ячейки на i-ом уровне содержат ключи, являющиеся значениями i-того измерения куба. Внутри одной вершины не может встречаться повторения ключа.
  6. Каждая ячейка $ C_i$ на i-ом уровне структуры отвечает последовательности $ S_i$ из i ключей, входящих в путь от корня до ячейки. Такой путь соответствует оператору group by с (D-i) не указанными измерениями. Все группировки, содержащие $ S_i$ в качестве префикса, будут относиться к ячейкам, являющимся потомками $ C_i$ в структуре куба. Для всех подобных группировок их общий префикс будет хранится единожды.
  7. Когда две или более группировки создают одинаковые вершины и ячейки, их хранение обобщается (поглощается), чтобы можно было хранить только одну копию. В таком случае результирующая вершина будет достижима более чем одним путем из корня, причем все пути будут иметь одинаковый суффикс. Если вершина N — обобщающая, то все ее потомки будут обобщающими вершинами.

Выполнение различных типов запросов

Точечные запросы
выполняются последовательным разыменованием пути в структуре куба. Таким образом, этот вид запросов выполняется намного быстрее, чем в аналогичных алгоритмах или базовых таблицах, за счет того, что для каждого запроса требуется ровно D обращений к вершинам куба, где D — число измерений (уровней) куба.
Интервальные запросы
включают хотя бы одно измерение с интервалом значений. Для каждого из ключей i-ого уровня, попадающего в интервал, строятся рекурсивные подзапросы к нижележащим подкубам, что тоже достаточно просто по структуре.
Обратные запросы
оптимизаций по выполнению обратных запросов этот алгоритм не дает, но возможно его сочетание с какими-либо другими алгоритмами, ориентированными на обратные запросы. Правда, в настоящее время все оптимизации обратных запросов основаны на специально создаваемых кубах, поэтому такое объединение алгоритмов — нетривиальная задача. См. также Алгоритм Bottom-Up Computation.

Сложность

Несмотря на то, что показана NP-полнота общей задачи выбора представлений для материализации [10], в работе [22] были даны новые оценки сложности алгоритма DWARF. Большая часть этих результатов вошла в данный раздел. При этом хотелось бы в очередной раз подчеркнуть, что DWARF — алгоритм полной материализации (materialize-all). Также хотелось бы отметить, что оценки в работе [22] были получены при наложении определенных условий на начальные данные.

С помощью приведенной ниже модели можно показать, что вычислительная сложность алгоритма и объем результирующего куба равны:

$\displaystyle O(T\frac {d^{\log_c T + 1}} {\log_c T!}) = O(d\bullet T^{1+ \frac 1 {\log_d C}})
$

$ d$ — число измерений

$ C$ — мощность измерения

$ T$ — число фактических кортежей

Приведем некие трактовки данного результата.

  • Положим, размерность куба растет , т.е. все кортежи фактической таблицы ''расширяются'' путем добавления новых столбцов. Тогда:

    $\displaystyle T = const, d\uparrow \Rightarrow
O(T\frac {d^{\log_c T + 1}} {\log_c
T!})\sim O(d^{\log_c T})
$

    Причем $ {\log_c T}$ для реальных баз данных довольно мало.

  • Правая часть равенства показывает, что размер и время вычисления куба при постоянном числе измерений и добавлении новых фактических кортежей растет почти полиномиально от T, которое возводится в $ 1 + \frac1 {\log_d
C}$ (что очень близко к единице для больших фактических таблиц).
Модель опирается на понятия префиксной, суффиксной избыточности, приведенные выше в описании алгоритма (см. определения). Разобьем категории сжатия на две группы:
  • сжатие разреженности (sparsity coalescing)
  • сжатие связанности (implication coalescing)

Виды сжатия

Сжатие разреженности
Введем категории сжатия разреженности. Хвостовое сжатие (Tail Coalescing) происходит на всех группировках, имеющих префикс $ (P,x)$ , где
  1. путь $ (P,x)$ ведет к подкубу, агрегирующему только один фактический кортеж (см. также случай базового единичного кортежа (BST);
  2. путь $ (P,x)$ не проходит ни через один указатель .

Левое сжатие (Left Coalescing) происходит на всех группировках, имеющих общий префикс $ (P,ALL,y)$ , где

  1. путь $ (P,ALL,y)$ ведет к подкубу, агрегирующему только один фактический кортеж;
  2. путь $ (P,ALL,y)$ проходит хотя бы через один указатель ALL. Области куба, агрегирующие только один фактический кортеж, создают большую избыточность структуры. Ниже будет показано, что избавление от избыточности разреженности приводит к почти полиномиальному времени создания куба.
Примеры категорий сжатия разреженности:
Рис. 2.2: Категории сжатия разреженности
Image dwarf_sparsity
Сжатие связанности

Сжатие разреженности работает только на тех областях куба, где существует только один фактический кортеж. В свою очередь, сжатие связанности расширяет данный метод путем сжатия на подкубах. Например, для таблицы 1.1 из введения продукт ''еда'' продается только осенью.

Сжатие связанности, таким образом, представляет собой расширение понятия левого сжатия на случай наличия связей (implications) между значениями измерений. Подобные связи часто наблюдаются в реальных базах данных.

Доказательство

Авторы опускают необходимую при создании DWARF-куба лексикографическую сортировку начальной таблицы (во время создания куба появление нового префикса означает необходимость создания новой вершины на уровне, где различаются префиксы). Сортировка всей фактической таблицы — $ O(n\log n)$ или $ O(n)$ в лучшем случае (сортировка слиянием, кучами или подсчетом, вычерпыванием). Но с учетом NP-полноты начальной задачи, этим затратами можно пренебречь.

Пусть существует таблица фактических данных с $ D$ измерениями ( $ \forall Dim \in D \vert Dim\vert=C$ ), и количество фактических кортежей $ T = C$ . Не нарушая общности, положим $ \exists L: C=L!$ . У получившегося сжатого куба (или DWARF-куба) корневая ячейка будет иметь вид, показанный на рисунке 2.4. Группа $ G_0$ содержит ячейки, не имеющие связи с фактическими кортежами, группа $ G_1$ — ячейки, связанные с одним кортежем фактической таблицы, $ G_2$ — два фактических кортежа.

Лемма 1

Если из набора равномерно распределенных $ C$ элементов выбрать некоторый элемент и повторить выбор $ T$ раз, то вероятность выбора этого элемента ровно $ z$ раз приблизительно равна:

$\displaystyle P_z(C,T) =\frac{{T\choose z}}{{(C-1)}^z}e^{(-\frac T C)}
$

Равномерность — еще одно ограничение на входные фактические данные. В общем случае:

$\displaystyle P_z(C,T) ={T\choose z}p^z{(1-p)}^{T-z} = {T\choose z}
{\left({\frac {p} {1-p}}\right)}
^z(1-p)^T
$

Коротко укажем дальнейшие пункты доказательства.

Применяя лемму 1 к группам $ G_z$ и подставляя $ C=T$, получим

Лемма 2

$ G_z, z\in \{0\ldots(L-1)\}$ содержит $ \approx {\frac C {z!}}
e^{-1}$ ячеек, которые адресуют ровно $ z$ кортежей.

В общем случае в $ G_z$ попадает

$\displaystyle \begin{array}{clr}
\char93 G_z&=&\sum\limits_{x=1}^C P_z(x,C,C)\c...
...=1}^C {\left({\frac {p(x)}
{1-p(x)}}\right)}^z(1-p(x))^T \cdot x\\
\end{array}$

В случае неравномерного распределения кортежей, данная сумма будет отличаться от результатов [22], и это повлечет изменение всех дальнейших оценок в леммах.

Лемма 3

Число дубликатных ключей в вершине, на которую указывает ячейка группы $ G_z$, равно 0. ( $ \frac{(L-1)} {{L!}^2} \approx 0 $ )

Основываясь на введенных выше понятиях левого и хвостового сжатий, можно показать, что

$\displaystyle \begin{array}{rcl}
NLeft
(T=C^k,d,C)&=&C\cdot\sum^{d-1}_{i=1}NLef...
...^{k-1}{d\choose {k-i}} +
1\\ [5 pt]
\mbox{где}~a_0=\frac {e-2} e&&
\end{array}$

и

$\displaystyle \begin{array}{rcl}
NTail(T=C^k,d,C) & = & C\cdot
NTail(C^{k-1},d-...
...hoose
{k-i}}-1]+b_0C^k\\ [5pt]
\mbox{где}~b_0=\frac {2e-2} e & &\\
\end{array}$

Здесь $ NLeft$ — число ячеек, подвергающихся левому сжатию, и $ NTail$ — число ячеек, подвергающихся хвостовому сжатию.

Из последней формулы получим следующее соотношение для числа ячеек куба:

$\displaystyle Number\_of\_Cells = O(T\frac {d^{\log_c T + 1}} {\log_c T!}) = O(d T^{1+ \frac 1 {\log_d C}})
$

А поскольку при устранении суффиксной избыточности DWARF, в отличие от других алгоритмов, проверяет каждую ячейку только один раз (автору неизвестны алгоритмы, которые для устранения суффиксной избыточности не проверяли бы каждую ячейку экспоненциальное число раз), получаем ту же оценку и для сложности работы алгоритма.

Вывод

При использовании этого алгоритма структура куба сжимается синтаксически. Префиксная и суффиксная избыточности устраняются за счет создания лучшей системы адресации и хранения ячеек. Алгоритмы, предложенные для создания и модификации кубов с использованием данной структуры, являются наилучшими из всех синтаксических решений на данный момент. Таким образом, если не рассматривать различные эвристические алгоритмы или более глубоких семантические изменения, то в настояющее время этот синтаксический алгоритм или его различные (правда уже частично эвристические) модификации являются оптимальными для хранения и адресации OLAP — данных.

Вперед: Многопозиционное агрегирование массивов для вычисления кубов Выше: Синтаксические алгоритмы Назад: Синтаксические алгоритмы   Содержание

Новости мира IT:

Архив новостей

Последние комментарии:

Релиз ядра Linux 4.14  (9)
Среда 22.11, 19:04
Loading

IT-консалтинг Software Engineering Программирование СУБД Безопасность Internet Сети Операционные системы Hardware

Информация для рекламодателей PR-акции, размещение рекламы — adv@citforum.ru,
тел. +7 985 1945361
Пресс-релизы — pr@citforum.ru
Обратная связь
Информация для авторов
Rambler's Top100 TopList liveinternet.ru: показано число просмотров за 24 часа, посетителей за 24 часа и за сегодня This Web server launched on February 24, 1997
Copyright © 1997-2000 CIT, © 2001-2015 CIT Forum
Внимание! Любой из материалов, опубликованных на этом сервере, не может быть воспроизведен в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев авторских прав. Подробнее...