a fast apriori implementation aérton dillenburg; alisson moscato loy alisson moscato loy

25
A FAST APRIORI A FAST APRIORI implementation implementation Aérton Dillenburg; Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy.

Upload: internet

Post on 17-Apr-2015

130 views

Category:

Documents


5 download

TRANSCRIPT

Page 1: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

A FAST APRIORI A FAST APRIORI implementationimplementation

Aérton Dillenburg;Aérton Dillenburg;Alisson Moscato LoyAlisson Moscato Loy.

Page 2: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

APRIORI Original

Objetivo: encontrar os itemsets freqüentes, usando geração de Candidatos.

Entradas: banco de dados de transações D; limite de suporte mínimo (sup_min).

Saída: itemsets freqüentes em D (L ).

Page 3: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

APRIORI Original

O algoritmo Apriori considera a seguinte propriedade para diminuir o espaço de busca a ser avaliado

na extração dos conjuntos freqüentes: todo conjunto de itens que contém um subconjunto não

freqüente também não é freqüente.

Page 4: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Objetivos do Artigo

Melhorar a performance do algoritmo APRIORI (através do uso de uma estrutura de dados denominada TRIE)

Page 5: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Estrutura de dados TRIE

A estrutura de dados TRIE foi introduzida originalmente para armazenar e recuperar eficientemente palavras de um dicionário.

Page 6: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Uso da TRIE no fast APRIORI

Usando as características da TRIE, o autor propõem a ordenação dos itens em cada transação e a construção dos ramos da árvore. Para itens iguais em diferentes

transações, um contador é incrementado reduzindo o tamanho da árvore criada.

OBS.: É pré-requisito do algoritmo que os itens na transação estejam ordenados.

Page 7: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Uso da TRIE no fast APRIORIExemplo da construção de uma TRIE para os seguintes candidatos:

Page 8: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Benefícios TRIEA árvore armazena não somente candidatos, mas itemsets

freqüentes também. Isto tem as seguintes vantagens:

1. A geração do candidato torna-se fácil e rápida. É possível gerar candidatos dos pares de nós que têm os mesmos pais.

2. As regras de associação são produzidas muito mais rapidamente, pois a recuperação de um itemset é mais rápida (relembrando que TRIE foi desenvolvida originalmente para decidir rapidamente se uma palavra é incluída em um dicionário).

3. Apenas uma estrutura de dados tem que de ser executada, assim o código é mais simples e mais fácil de manter.

4. Nós podemos imediatamente gerar a chamada negative border; Característica importante em alguns casos do uso de algoritmos baseados no apriori.

Page 9: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Métodos da contagem com uso de uma TRIE

A contagem de suporte é feita, one-by-one lendo as transações e determinando quais candidatos estão contidos na transação

atual.

A seleção dos itens freqüentes é feita com base no counter de cada nodo, conforme

exemplo posterior.

Page 10: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Estrutura da TRIE em memória

O algoritmo faz uso de vetores para armazenar os dados em memória. Os principais são:

EDGE NUMBER: Contém o número de itens partindo do nó atual;

ITEM ARRAY: Descrição ou rótulo dos vetores filhos do nó atual;

STATE ARRAY: Nós destinos (filhos) do nó atual;

PARENT: Nó pai do atual;

Page 11: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Estrutura da TRIE em memória (continuação)

MAX-PATH: Maior caminho a ser seguido a partir do nó atual; Este valor será usado para minimizar a quantidade de caminhos a serem percorridos quando da geração de itens frequentes. Ex: para a geração de 5-itemset os nós com MAX-PATH menores que 5 são ignorados.

COUNTER: Contador incrementado a cada ocorrência do item na seqüência de montagem da árvore;

Page 12: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Estrutura da TRIE em memória (exemplo)

Page 13: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIEPara exemplificar o algoritmo Fast Apriori, tomemos por

exemplo o seguinte banco de dados com 10 transações e 7 itens por transação.

Page 14: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIENa primeira transação encontramos os seguintes itens ordenados: {café, manteiga, pão}

Os números dentro dos círculos servem apenas para referência ao nó, sendo que o 0 (zero) é a raiz. Entre parênteses o contador de ocorrências do item na arvore (counter).

Page 15: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIENa segunda transação encontramos os seguintes itens ordenados: {cerveja, leite, manteiga, pão}

Page 16: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIEA terceira transação é exatamente igual à primeira. {café, manteiga, pão}

Assim o algoritmo somente irá incrementar os

contadores em cada item da árvore que se repete.

Page 17: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIENa quarta transação encontramos os seguintes itens: {café, leite, manteiga, pão}

Os ramos são inseridos na TRIE sempre observando a ordem correta, neste caso,

alfabética.

Page 18: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIENa quinta transação somente {cerveja} e na sexta transação somente {manteiga}

Page 19: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIESétima transação somente {pão} e na oitava transação somente {feijão}

Page 20: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Processo de criação da TRIENas duas últimas transações encontramos na ordem: {arroz, feijão} e {arroz}.

Esta é a representação da árvore completa, de acordo com as transações dadas

como entrada.

Page 21: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Tabela comparativa entre variações do APRIORI e o Fast Apriori (Apriori Brave)

Page 22: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Tabela comparativa entre variações do APRIORI e o Fast Apriori (Apriori Brave)

Page 23: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Tabela comparativa entre variações do APRIORI e o Fast Apriori (Apriori Brave)

Page 24: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Conclusão

A estrutura de dados influencia fortemente no tempo de execução do algoritmo.

Page 25: A FAST APRIORI implementation Aérton Dillenburg; Alisson Moscato Loy Alisson Moscato Loy

Trabalhos futuros

Melhorar a performance do algoritmo utilizando de um grupo menor de

dados na TRIE, através da remoção do nodo da TRIE que não

tiver nenhum candidato.