big data montée en compétence hadoop

39
MONTER EN PUISSANCE ET EN AUTONOMIE SUR UNE PLATEFORME HADOOP ? Romain Chaumais – [email protected]

Upload: laurent-letourmy

Post on 14-Jun-2015

1.206 views

Category:

Technology


2 download

DESCRIPTION

Présentation Ysance Big Data Paris 2014 : Montée en compétence sur la plateforme Hadoop.

TRANSCRIPT

Page 1: Big Data Montée en compétence Hadoop

MONTER EN PUISSANCE ET EN AUTONOMIE SUR UNE PLATEFORME HADOOP ?

Romain Chaumais – [email protected]

Page 2: Big Data Montée en compétence Hadoop
Page 3: Big Data Montée en compétence Hadoop

Notre métier

Agence conseil en Technologie Digitale

Conception, mise en œuvre et animation de Plateformes Digitales

Organisée autour de 7 offres

Digital Marketing Ecommerce CRM

Cloud Computing

BusinessIntelligence

Data Management Big Data

Page 4: Big Data Montée en compétence Hadoop

Comment monter en puissance et en autonomie sur une plateforme Hadoop ?

Romain Chaumais

Page 5: Big Data Montée en compétence Hadoop

CONSEIL #1 DÉMYSTIFIER LA BÊTE

Page 6: Big Data Montée en compétence Hadoop
Page 7: Big Data Montée en compétence Hadoop
Page 8: Big Data Montée en compétence Hadoop
Page 9: Big Data Montée en compétence Hadoop
Page 10: Big Data Montée en compétence Hadoop

CONSEIL #2 FAIRE COMME AVANT

Page 11: Big Data Montée en compétence Hadoop
Page 12: Big Data Montée en compétence Hadoop

Les bénéfices de la « base de données » Hadoop

12

Gestion des données structurées, peu

structurées et non structurées

Massivement Scale-Out (Gestion du temps

contraint)

Faible coût de possession

Intégrée et compatible avec l’écosystème BI

traditionnel

Pas de modèle de données à priori

Grande capacité de stockage

De plus en plus compatible avec des usages temps réel

(Flume, Hbase, Impala)

Page 13: Big Data Montée en compétence Hadoop
Page 14: Big Data Montée en compétence Hadoop
Page 15: Big Data Montée en compétence Hadoop
Page 16: Big Data Montée en compétence Hadoop

CONSEIL #3 CHOUCHOUTER LES ADMIN SYSTÈMES

Page 17: Big Data Montée en compétence Hadoop
Page 18: Big Data Montée en compétence Hadoop
Page 19: Big Data Montée en compétence Hadoop
Page 20: Big Data Montée en compétence Hadoop
Page 21: Big Data Montée en compétence Hadoop
Page 22: Big Data Montée en compétence Hadoop
Page 23: Big Data Montée en compétence Hadoop

CONSEIL #4 OSER SE JETTER À L’EAU

Page 24: Big Data Montée en compétence Hadoop
Page 25: Big Data Montée en compétence Hadoop
Page 26: Big Data Montée en compétence Hadoop
Page 27: Big Data Montée en compétence Hadoop

Architecture logique & applicative avec un ecosystème Hadoop

Cluster élastique : CPU / RAM / Disk / Network

Stockage HDFS / MAPRFS

Transformations Batch : Map Reduce (Hive /Pig)

Transactions Temps réel : Hbase / Cassandra / etc.

Moteur de recherche Temps réel : ElasticSearch/SolR

Requêtes Temps réel : Impala / Presto / Spark / etc.

Orc

hestr

ati

on

des t

rait

em

en

ts :

ETL

Don

nées s

ou

rces

Ventes

Web.com

Logs

Autres …

APIAccès Apps tiercesTemps réel (R/W)

BrowserApps

Opérationnelles HTML Temps réel

(Search / Pilotage)

HT

TP

/ R

ES

T /

JS

ON

Outils BIApps Analytiques

Données historisées Pour

les 3 BI

SQ

L O

DB

C /

JD

BC

Fil

es S

yste

m /

Sh

ell Fichier

sÉchange de données par

fichiersInput / OutputShellInteraction en

ligne de commande

Collecte et streaming : Flume, SyslogNG, Storm

Page 28: Big Data Montée en compétence Hadoop
Page 29: Big Data Montée en compétence Hadoop

CONSEIL #5 CONSTRUIRE UNE HISTOIRE D’AMOUR

Page 30: Big Data Montée en compétence Hadoop
Page 31: Big Data Montée en compétence Hadoop
Page 32: Big Data Montée en compétence Hadoop
Page 33: Big Data Montée en compétence Hadoop
Page 34: Big Data Montée en compétence Hadoop
Page 35: Big Data Montée en compétence Hadoop
Page 36: Big Data Montée en compétence Hadoop

CONSEIL #6 APPELER UN AMI

http://ysance.com/nous-contacter.html :)

Page 37: Big Data Montée en compétence Hadoop

ET SI VOUS SUIVEZ BIEN TOUS CES CONSEILS …

Page 38: Big Data Montée en compétence Hadoop

#MYJOB DOMPTEUR DE HADOOP

Page 39: Big Data Montée en compétence Hadoop

Merci

MERCI

Romain Chaumais – [email protected]