feature learning for image classification via multiobjective genetic programming seminários de...
TRANSCRIPT
![Page 1: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/1.jpg)
Feature Learning for Image Classification via Multiobjective
Genetic Programming
Seminários de Inteligência Artificial
Felipe de Paula Wanderley Barros (FPWB)
![Page 2: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/2.jpg)
Introdução•Classificação de Imagens
▫ Extração de Características (feature extraction) Diversos algoritmos para extração de
bordas, quinas, orientação, cores...
![Page 3: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/3.jpg)
Introdução•Problema
▫Grande maioria de algoritmos tem sua eficácia restrita a domínios específicos de imagens.
Como determinar quais os melhores algoritmos a serem utilizados para a
extração de determinada característica?
![Page 4: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/4.jpg)
Introdução•Proposta
▫Definir características de propósito geral e propor uma solução ótima capaz de extraí-las de quaisquer domínio de imagens.
Como encontrar essa solução ótima?
![Page 5: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/5.jpg)
Introdução•Abordagem
▫Utilizando o conceito de Genetic Programming (GP), ser capaz de se aproximar de uma solução ótima.
Genetic Programming?
![Page 6: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/6.jpg)
Genetic Programming (GP)•Conceitos
▫Operadores Primitivos.▫Evolução (Crossovers e Mutações).▫Best Fitness.
![Page 7: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/7.jpg)
Genetic Programming (GP)•Conceitos
![Page 8: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/8.jpg)
Trabalhos Relatos•Feature-Focused: Técnicas
especializadas na extração de características específicas.▫Essas técnicas são sensíveis a mudança
de domínio. Podem ser excelentes para alguns domínios de imagens, e péssimas em outros.
![Page 9: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/9.jpg)
Trabalhos Relatos•Whole Scene-Focused: Técnicas que
avaliam a imagem por completo.▫Todas as referências citadas são utilizadas
em características hand-crafted. Ou seja, tiveram o seu ambiente de teste preparado para a sua utilização.
![Page 10: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/10.jpg)
Trabalhos Relatos•Deep Learning: Técnicas utilizando
massivos conjuntos de dados para treinamento.▫Essas técnicas extraem as características
de maneira estática. Ou seja, não “aprendem” a melhor maneira de realizar a extração de características.
![Page 11: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/11.jpg)
Trabalhos Relatos•Genetic Programming: Técnicas
utilizando o conceito de programação genética para caracterização de imagens.▫Todas com uma única finalidade. Enquanto
que o artigo propõe uma abordagem de multifinalidade. Além disso, o artigo é o único a utilizar a complexidade da árvore como parâmetro.
![Page 12: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/12.jpg)
Metodologia
MOGP
![Page 13: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/13.jpg)
Estrutura do Programa MOGP
![Page 14: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/14.jpg)
Estrutura do Programa MOGP•O programa MOGP está dividido em 4
partes:▫Input▫Filtering▫Max-polling▫Concatenation.
Segundo o autor, essa estrutura imita a estrutura do córtex humano.
![Page 15: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/15.jpg)
Estrutura do Programa MOGP•Input•Filtering•Max-Polling•Concatenation
![Page 16: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/16.jpg)
Estrutura do Programa MOGP
![Page 17: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/17.jpg)
Estrutura do Programa MOGP•Conjunto Final
▫Conjunto de características extraídas pelo sistema. Componentes Azul, Verde, Vermelho (Ib, Ig,
Ir) Intensidade de Tom Cinza (Igray) Coeficiente C atribuído aleatoriamente para
cada sub-árvore.▫A saída possui estas informações a respeito
do programa gerado {Ib, Ig,Ir, Igray, C}
![Page 18: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/18.jpg)
Estrutura do Programa MOGP•Conjunto Final
![Page 19: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/19.jpg)
Estrutura do Programa MOGP
![Page 20: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/20.jpg)
Estrutura do Programa MOGP•Conjunto Funções
▫Definição das funções que podem ser utilizadas para compor as árvores do programa (nós).
▫Programas se diferenciam de acordo com a composição de funções.
▫Extrair Informações Significativas▫Simples e Eficiente (Partículas Atômicas)
![Page 21: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/21.jpg)
Estrutura do Programa MOGP•Conjunto Funções
![Page 22: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/22.jpg)
Estrutura do Programa MOGP•Conjunto Funções - Filtering Layer
▫24 Funções distintas.▫Denoising, Contorno, Orientação...▫Conjunto Fechado de Funções
Tamanho da Entrada = Tamanho da Saída
Composição Irrestrita de Funções!
![Page 23: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/23.jpg)
Estrutura do Programa MOGP•Conjunto Funções - Filtering Layer
![Page 24: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/24.jpg)
Estrutura do Programa MOGP•Conjunto Funções – Max-Polling Layer
▫5 Funções distintas.▫Etapa fundamental do reconhecimento de
imagens no córtex cerebral.▫Conjunto Fechado de Funções
Tamanho da Entrada != Tamanho da Saída, MAS
as imagens são restauradas ao tamanho original por interpolação.
Composição Irrestrita de Funções!
![Page 25: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/25.jpg)
Estrutura do Programa MOGP•Conjunto Funções – Max-Polling Layer
![Page 26: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/26.jpg)
Estrutura do Programa MOGP•Conjunto Funções – Concatenation
Layer▫Funções responsáveis pela fusão de
informação de cada árvore em um único vetor.
▫Possuem mesma saída (Descritor de Característica Final)
![Page 27: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/27.jpg)
Estrutura do Programa MOGP•Conjunto Funções – Concatenation
Layer
![Page 28: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/28.jpg)
Estrutura do Programa MOGP
![Page 29: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/29.jpg)
Estrutura do Programa MOGP•Fitness Function
▫Maneira de medir/avaliar os programas gerados.
▫Duas medidas: Taxa de Erro. Complexidade dá Árvore
![Page 30: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/30.jpg)
Estrutura do Programa MOGP•Fitness Function – Taxa de Erro
▫Avalia o programa N vezes sobre o conjunto de dados.
▫Conjunto de treinamento: ((1-N)/N)ths▫Cross-Validation com o restante dos dados.
(SVM ou KNN).▫Taxa de erro final é a média das taxas de
cada avaliação.
![Page 31: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/31.jpg)
Estrutura do Programa MOGP•Fitness Function – Complexidade da
Árvore▫Conta-se o número de nós da árvore.▫Tentativa de evitar bloat.
Explosão da árvore do programa, aumentando complexidade, e causando overfitting.
![Page 32: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/32.jpg)
Estrutura do Programa MOGP•Fitness Function
▫Como determinar qual a melhor árvore se baseando em duas medidas?
Fronteira de Pareto!
![Page 33: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/33.jpg)
Estrutura do Programa MOGP•Fitness Function
![Page 34: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/34.jpg)
Estrutura do Programa MOGP
![Page 35: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/35.jpg)
Experimentos•Implementação do MOPG
▫200 Indivíduos e 70 Gerações.▫Operadores Genéticos: CrossOvers(90%) e
Mutações (10%).▫Tournament como seleção de indivíduos.▫0.5% de taxa de erro.
![Page 36: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/36.jpg)
Experimentos•Divisão dos Conjuntos de Dados
![Page 37: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/37.jpg)
Experimentos•Descrição dos Conjuntos de Dados
Caltech-101
MIT Urban and Nature Scene
CMU PIE Face Set
Jochen Triesch Static Hand Posture
Database II
![Page 38: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/38.jpg)
Resultados
![Page 39: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/39.jpg)
ResultadosÁrvore Gerada para o conjunto de dados Caltech-101
![Page 40: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/40.jpg)
ResultadosÁrvore Gerada para o conjunto de dados CMU PIE face data set
![Page 41: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/41.jpg)
Conclusões• Segundo os pesquisadores:
▫ O método demonstrou autonomia na extração de features, sem nenhum tipo de informação a respeito do domínio de imagens.
Tambem mostrou, de alguma forma, a escalabilidade dessa abordagem na tentativa de reconhecimento de objetos em larga-escala.
▫ Tambem aferiram que a arquitetura abordada é, de fato, consistente com a estrutura física do córtex visual humano.
Os pesquisadores atribuem o sucesso da abordagem principalmente à capacidade do algoritmo em extrair e fundir os componentes de cores das imagens automaticamente.
![Page 42: Feature Learning for Image Classification via Multiobjective Genetic Programming Seminários de Inteligência Artificial Felipe de Paula Wanderley Barros](https://reader036.vdocuments.us/reader036/viewer/2022070507/5706384f1a28abb8238f7f50/html5/thumbnails/42.jpg)
Dúvidas?