la práctica de machine learning en la empresa
Post on 11-May-2015
414 Views
Preview:
DESCRIPTION
TRANSCRIPT
La práctica de Machine Learningen la Empresa
Emilio Osorio GarcíaChief Technology OfficerPredictive Technologies
minoru@predictivecorp.com
Dr. Manuel Reyez GomezChief Data ScientistPredictive Technologiesmanuel@predictivecorp.com
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
¿Qué imaginábamos hace 30 años?
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
El presente...
* Traducción Liberal
“Las mejores mentes de mi generación están pensando en como hacer que la gente haga
click en un anuncio. Eso no esta chido”*
-Jeff Hammerback Cofundador de Cloudera
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
¿Donde estaremos en 30 años?
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
El estado del arte
• No existen soluciones que sean “llave en mano”
• Los datos estructurados crecen exponencialmente
• Se requiere investigación de los problemas específicos de negocio
• Baja utilización de los sistemas analíticos existentes
• Lidiar con el cambio constante en los datos
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Que es “Machine Learning”• Es una rama de la Inteligencia artificial• Aprender de los datos• Descubrir, codificar y modelar patrones encontrados
en los datos (historicos) que después permitan estimar variables desconocidas, mediante el uso del contexto
• Representación de los datos (Arte)• Modelo probabilístico
• Genéricos: Neural Networks, SVMs, Decision Trees, etc• A la medida usando la infraestructura de modelos gráficos
“Graphical Models Framework”
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Detección de fuentes de sonido
FRECUENCIA
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Prediciendo usando el contexto
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Usando el modelo para hallar anomalías
Puntos donde los datos no siguen el modelo
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Bing Local
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Bing Local
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Bing Local
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Recomendación de Películas
? ? ? ?
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Caracterización de Variables
Es Romántica : (0,1)Es infantil: [0,1]Es animada: (0,1)Tiene director famoso: (0,1)Tiene actores famosos: (0,1)Grado de violencia: (0,1,2,3,4,5)Edad promedio de actores: (Continua)Año de publicación: (Discreta)…..…..…..
x0
x1
x2
x3
x4
x5
x6
x7
.
.
.
Clasificación : (0,1,2,3,4,5) y
X
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Estimación del modelo
X1 = [0, 1, 0, 1, 0, 3, 23.6, 1981]; y1 = 3 X2 = [1, 1, 0, 1, 1, 4, 43.3, 2013]; y2 = 5 X3 = [0, 1, 1, 1, 1, 5, 14.4, 1999]; y3 = 2 X4 = [1, 1, 1, 1, 0, 4, 35.3, 1954]; y4 = 3 X5 = [0, 1, 0, 1, 0, 3, 23.6, 2001]; y5 = 3X6 = [0, 1, 0, 1, 0, 3, 23.6, 2001]; y6 = 1….
f(W,X) = y’
w0+w1x1+w2x2+w3x3+…= y’
Estimar el modelo consiste en estimar W usando los valores de los ejemplos Xi, yi de tal manera que minimice:
∑𝑖=1
𝑁
(𝑦 ′ 𝑖❑−𝑦 𝑖)
2=¿∑𝑖=1
𝑁
( 𝑓 (𝑊 , 𝑋 𝑖❑)− 𝑦 𝑖)
2¿
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
En producción• Para nuevos elementos y sus representaciones X, se
estima sus y’ usando el modelo estimado
?
x0
x1
x2
x3
x4
x5
x6
x7
.
.
.
X
w0+w1x1+w2x2+w3x3+…= y’
y’ =
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Otras soluciones• Estimación de riesgo crediticio
• Estimación optima de abasto de suministros
• Estimación de probabilidad de perdida del cliente
• Estimación optima de cantidades de mercancía por tipo y locación (datos no estructurados)
• Selección automática de mejores candidatos para puestos disponibles
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
No se necesita descubrir el hilo negro
• Modelos genéricos accesibles en el mercado• Lineal Regression• Neural Networks• Logistic Regression• Support Vector Machines• Decision Trees
• Software Libre– R Studio– Mahout– Weka– MLib
• Software Licenciado– Oracle Data Mining– SAS Advance Analytics– IBM Predictive Analytics– Matlab
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
60% Arte – 40% Ciencia• Representación (Arte)
• Representación que generalice correctamente• Representación que induzca transferencia• Limpieza de datos• Normalización de valores • Ajustar representación a las limitaciones del modelo
• Fecha de Publicación: Decision Tree-> Continua • Logistic Regression: discretizada binaria. [1985-1990]
• Ciencia• Selección o diseño del modelo• Prevención de “overfitting”• Regularización de parámetros• Análisis de errores (experto de dominio)• Estar consciente de las limitaciones del modelo
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Modelos genéricos vs. a la medida
• Modelos genéricos
• Modelos a la medida
Informacióndel
sistema Modelo
Información del sistema se debe transformar/adaptar al modelo
Informacióndel
sistema ModeloModelo
Modelo se diseña dada la Información del sistema
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Modelos genéricos vs. a la medida
• Modelos genéricos• Pros
• Sus propiedades y características han sido ampliamente estudiadas• Muchas implementaciones optimas disponibles • Fáciles de entrenar y probar
• Cons• La información del sistema requiere de un proceso adecuado de los
valores en sus variables para ajustarlas a las predisposiciones y limitaciones de cada modelo
• Tienen Limitaciones, al ser genéricos no son los suficientemente ricos para modelar sistemas complejos
• No son apropiadas para problemas con mas de una variable de salida que interactúan entre si
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Modelos genéricos vs. a la medida• Modelos a la medida
• Pros• Como se diseñan para modelar el sistema sin las limitaciones de los
modelos genéricos tienen mejor desempeño• Se pueden patentar• Dan ventajas competitivas• Apropiados para sistemas donde se requiere estimar varias variables
de salida que interactúan entre si. (Predicción de Trafico)
• Cons• Requieren diseño especializado por lo tanto las soluciones son mas
caras que cuando usando modelos genéricos • Soluciones • Soluciones basadas en modelos a la medida requieren mas testeo
que las basadas en modelos genéricos• Soluciones requieren mas tiempo de implementación
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Pasos para implementar en relación al
data scientist
• Fase 1• Análisis de factibilidad en datos históricos disponibles.
Determinar si se tienen suficientes y diversos datos que cubran las diferentes condiciones del sistema
• Fase 2 con modelos genéricos• Diseño e implementación de la representación de variables• Selección del modelo• Estimación del modelo (con regularización y “tunning” para
evitar “overfitting”)• Análisis de errores• Recalibración del modelo
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Machine Learning como Práctica
• En esencia es investigación y desarrollo
• El reto es como crear una práctica que tenga resultados de negocio
• ¿Como operacionalizar la inteligencia artificial?
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Las fases de la metodología CRISP-DM
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Lean Machine Learning
• Eliminar el derroche • Construir con Calidad
Incluida • Respetar a las Personas • Crear conocimiento • Diferir los compromisos • Entregar Rápido • Optimizar el Todo
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Los roles de equipo en Machine Learning
• Business Product Owner • Business Domain Expert • Data Scientist • Data Analyst • Machine Learning
Engineer • Data Engineer
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Nuevas habilidades requeridas
• Formulación correcta de problemas • Cultura de Prototipaje • Intuición para tomar realizar asunciones a
problemas no muy bien definidos • Diseñar experimentos para probar hipótesis • Analizar resultados y plantear mejoras
continuamente
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Tecnología: Software Libre para aprender
Manuel Reyes / manuel@predictivecorp.com SGCE 2014 Emilio Osorio / minoru@predictivecorp.com
Tecnología: Proveedores para escalar
Preguntas y Respuestas
Emilio Osorio GarcíaChief Technology OfficerPredictive Technologies
minoru@predictivecorp.com
Dr. Manuel Reyez GomezChief Data ScientistPredictive Technologiesmanuel@predictivecorp.com
top related