recomendação baseada em múltiplas interações

Recomendação de Conteúdo Baseada em Interações Multimodais

ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO

ARTHUR FORTES DA COSTA

Sumário

• Introdução

• Referencial Teórico

• Proposta

• Experimentos e Resultados

• Considerações Finais

• Contribuições

• Trabalhos Futuros

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Introdução

• A informação está disponível de maneira rápida, barata e disseminada

• Sistemas de Recomendação oferecem recomendações personalizadas baseada no perfil do usuário

• Os mecanismos de recomendação tradicionais utilizam:• Interações Implícitas

• Interações Explícitas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 3

Introdução

Motivação: problemas e tendências relacionadas com as interações dos usuários

• Tendência da Web de permitir múltiplas interações dos usuários

• Os trabalhos presentes na literatura se restringem a um número limitado de interações• Exemplo: SVD ++ (Notas e histórico de visualização)

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 4

Introdução

Objetivo: desenvolvimento de um framework de recomendação baseado em interações multimodais

• Fornecer recomendações mais precisas

• Combinar diversos tipos de interações (pré processadas)

• Manter a escalabilidade do sistema

Figura 1. Interações de usuários

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 5

Referencial TeóricoInterações Multimodais

* Teve diversas extensões, como o gSVD++, proposto por Manzato (2013).

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 6

Autor(es) Ano Trabalho

Koren 2009 SVD++ (Notas e Histórico de visualização) *

Rendle et al. 2012 Factorization Machines – FM (Combina informações de usuários e itens)

Domingues et al. 2013 SR para o Last.fm (Histórico de visualização e etiquetas)

Referencial TeóricoCombinação (Ensemble)

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 7

Autor(es) Ano Trabalho

Jahrer et. al. 2010 Conjunto de técnicas de ensemble aplicadas à SR

Bar et al. 2013 Combinação de ranques (aprendizagem linear)

Petar el al. 2014 Combinação de ranques gerados por diversosrecomendadores

Referencial TeóricoRecomendadores Unimodais

•Utilizam um único ou um simples conjunto de tipos de interação para gerar recomendação:• Predição de Notas

• Recomendação de itens

• Recomendadores Unimodais utilizados no framework:• BPR MF (Bayesian Personalized Ranking) > Recomendação de itens

• SVD ++ (Singular Value Decomposition) > Predição de Notas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 8

Referencial Teórico• BPR MF

• Consiste em fornecer classificação personalizada de itens para um usuário

• Apenas com interação implícita

• Considera itens positivos e negativos

Figura 2. Representação do algoritmo BPR MF.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 9

Referencial Teórico• Aprendizado no BPR

Algoritmo 1. Algoritmo de aprendizado do BPR.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 10

Referencial Teórico• SVD ++

• Utiliza tanto interação explícita, quanto a interação implícita do usuário

• Considera notas atribuídas por usuários e simula histórico de visualização

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 11

Onde N(u) é o conjunto de interações implícitas

Proposta

• Desenvolvimento de um framework capaz de gerar recomendações com base nas interações multimodais do usuário (Explícitas e Implícitas)

• Composto por 4 técnicas de combinação:• Baseadas em Heurísticas (Etiquetas e Médias)

• Baseada em Aprendizado

• Baseada em Grupos

• Módulos de validação e avaliação:• Protocolo All-but-one

• Prec@N e MAP@N

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 12

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 13

Figura 3. Representação do Framework.

Exemplo de saída :

Usuário Item Score1 5 3.3242

Re

com

en

dad

ores

Proposta

• Técnica Baseada em Etiquetas

• Pondera quantidade de vezes que o item é retornado no ranques

• Atribui maior peso à interação do ranque de etiquetas

• Etiquetas demanda um maior esforço por parte do usuário

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 14

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 15

Figura 4. Ilustração da execução da técnica baseada em etiquetas.

• Técnica Baseada em Etiquetas

Proposta

• Técnica Baseada em Médias

• Combina os resultados dependente da media de escores de cada interação

• Generalização para qualquer tipo de interação

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 16

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 17

Algoritmo 2. Algoritmo da técnica baseada em médias.

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 18

Algoritmo 2. Algoritmo da técnica baseada em médias.

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 19

Algoritmo 2. Algoritmo da técnica baseada em médias.

Proposta• Técnica Baseada em Aprendizado

• Técnica na qual os parâmetros são aprendidos com base no comportamento de cada usuário

• Extensão do algoritmo de aprendizado do BPR

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 20

Proposta• Técnica Baseada em Aprendizado

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 21

Figura 5. Representação da Técnica Baseada em Aprendizado.

Re

com

en

dad

ores

Proposta

• Técnica Baseada em Grupos

• Etapa de pré-processamento para combinar usuários em grupos de acordo com suas similaridades

• Recomendação feita somente com os itens avaliados por cada grupo

• Utiliza técnicas de agrupamento de dados e cálculos de distâncias

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 22

Proposta• Técnica Baseada em Grupos

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 23

Figura 6. Representação da Técnica Baseada em Grupos.

Experimentos e Resultados• Realização de dois estudos em duas bases diferentes• Aplicação em em bases de dados real

• Verificar eficácia do framework

• Métricas de Avaliação: Map@N e Prec@N• Com validação cruzada em 10 folds

• Protocolo All-but-one

• Biblioteca de recomendação: MyMediaLite 3.10

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 24

Experimentos e Resultados

• Estudo 1: HetRec Last FM 2k

92.834 interações no histórico/ 186.479 etiquetas atribuídas/ 1.892 usuários/ 17.632 artistas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 25

Figura 7. Representação da base considerando todas as interações.

Experimentos and ResultadosFigura 8. Gráfico MAP@N Para o Estudo 1.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 26

Experimentos and ResultadosFigura 9. Gráfico Prec@NPara o Estudo 1.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 27

Experimentos e Resultados

• Estudo 2: HetRec Movielens 2k

800.000 interações de notas/ 10.000 etiquetas atribuídas/ 2.113 usuários/ 10.197 filmes

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 28

Figura 10. Representação da base considerando todas as interações.

Experimentos and ResultadosFigura 11. Gráfico MAP@N Para o Estudo 2.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 29

Experimentos and ResultadosFigura 12. Gráfico Prec@NPara o Estudo 2.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 30

Considerações Finais

• Melhores resultados que os baselines

• Framework extensível e aplicavél em diversos domínios

• Resultados com valores baixos devido ao uso do Protocolo All-but-one

31RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Contribuições• Um framework de recomendação baseado em interações multimodais• Módulo de divisão de base

• Módulo de recomendação (4 técnicas)

• Módulo de validação e avaliação

• Integração mais rápida de novos usuários na comunidade

• Avanço no estado da arte de sistemas de recomendação

• Publicação dos resultados em conferências

32RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Contribuições• Fortes, C. A.; Manzato, Marcelo G; Domingues, Marcos A.; Rezende, Solange O. Improving Personalized Ranking in Recommender Systems with Multimodal Interactions. Web Intelligence (WI) and Intelligent Agent Technologies (IAT), 2014 IEEE/WIC/ACM International Joint Conferences on, v. 1, p. 198-204, 2014. Qualis A2

• Fortes, C. A.; Manzato, Marcelo G. Multimodal Interactions in Recommender Systems: AnEnsembling Approach. In: Brazilian Conference on Intelligent Systems, 2014, São Carlos, São Paulo. Brazilian Conference on Intelligent Systems (BRACIS 14). Los Alamitos: IEEE, 2014. QualisB1

• Fortes, C. A.; Manzato, Marcelo G. Ensemble Learning in Recommender Systems: CombiningMultiple User Interactions for Ranking Personalization. In: XX Simpósio Brasileiro de Sistemas Multimídia e Web (Webmedia), 2014, João Pessoa - PB. Anais do XX Simpósio Brasileiro de Sistemas Multimídia e Web. New York: ACM, 2014. Qualis B3

33RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Trabalhos Futuros• Artigo: Group-based Collaborative Filtering with Multiple Users' Interactions

• Integração das abordagens baseada em grupos e em aprendizagem, afim de considerar todos os tipos de interações individualmente

• Desenvolver e aprimorar técnicas utilizando abordagens de agrupamento de dados

• Uso de informações de contexto dos itens para gerar recomendações ainda mais precisas

• Desenvolver novas métricas de avaliação para SR utilizando a semântica dos dados

34RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Recomendação de Conteúdo Baseada em Interações Multimodais

ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO

ARTHUR FORTES DA COSTA

Referências Adomavicius; G., Mobasher, B.; Ricci, F.; Tuzhilin, A. Context-aware recommender

systems. AI Magazine, p. 67 - 80, 2011.

Ricci, F.; Rokach, L.; Shapira, B. Introduction to recommender systems handbook. In:

Recommender Systems Handbook, p. 1--35, 2011.

Fortes, A.; Manzato, M. Ensemble learning in recommender systems: Combining multiple

user interactions for ranking personalization. XX Simposio Brasileiro de Sistemas

Multimdia e Web - Webmedia 2014, p. 47-54, 2014a.

36RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Apêndice ADesvio padrão Estudo 1

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 37

Apêndice BDesvio padrão Estudo 2

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 38

Apêndice CLinks

SlideShare: http://pt.slideshare.net/fortesarthur

Github: https://github.com/ArthurFortes

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 39