methoden der datenanalyse ai-basierte decision support … 2006... · 2006. 10. 24. · einführung...

Einführung in das Data Mining

Methoden der Datenanalyse AI-basierte Decision Support Systeme

WS 2006/07

Ao.Univ.Prof. Dr. Marcus Hudecmarcus.hudec@univie.ac.at

Institut für Scientific Computing, Universität Wien

2 Einführung in das Data Mining

Wozu Data Mining ?

We are drowning in data, but starving for knowledge (information)John NaisbettNow that we have gathered so much data, what do we do with it ?Fayyad & Uthurusamy CACM, 1996

ProgrammatikWhile database technology has provided us with the basic tools for the efficient storage and lookup of large data sets, the issue of how to help humans understand and analyze large bodies of data remains a difficult and unsolved problem.

To deal with the data glut, a new generation of intelligent tools for automated data mining and knowledge discovery is needed.

Fayyad, Piatetsky-Shapiro,Smyth & Uthurusamy

Entstehung von Massendaten

Supermarkt ScannerdatenDatenbestände von Banken und VersicherungenProzessdaten aus Real-Time Applikationen (Telekommunikationssektor)E-Commerce (Clickstream-Daten)Forschungsdatenbanken (Satellitendaten, DNA-Datenbanken)

Anwendungen in der Wirtschaft

KreditrisikoanalyseZielgruppenmarketingFehleranalyse in TelekommunikationsnetzenAufdeckung von GeldwäscheSchadensfallanalyse im VersicherungsbereichWarenkorbanalyseAnalyse von eCommerce-Anwendungen

Interdisziplinäres Forschungsgebiet

StatistikArtificial IntelligenceData EngineeringData WarehousingOLAP (on-line analysis processing)Expertensysteme (deductive databases)Data VisualizationOptimierungstheorieMachine LearningPattern Recognition

Was versteht man unter Data Mining ?

Discovering knowledge from data

Data Mining bezeichnet eine Sammlung von Techniken (~Algorithmen) zum Auffinden von validen, neuen, interessanten, interpretierbaren und nützlichen (verwertbaren) Mustern, Regeln, Gruppen und Abhängigkeiten (~Wissen) in großen Datenbanken.

Definitionen von Data Mining

"Data mining is the process of discovering meaningful new correlations, patterns and trends by "mining" large amounts of stored data using pattern recognition technologies, as well as statistical and mathematical techniques."

Ashby, Simms (1998)"Data mining is the exploration and analysis, by automatic and semiautomatic means, of large quantities of data in order to discover meaningful patterns and rules.“

Berry, Linoff (1997)Extraction of interesting (non-trivial, previously unknown and potentially useful) information or patterns from data in large databases

Alternative Bezeichnungen

Knowledge discovery(mining) in databases (KDD)knowledge extractiondata/pattern analysisdata dredginginformation harvestingbusiness intelligence

Was versteht man unter Data Mining ?

Data Mining versucht explorativHypothesen über die in einer Datenbank (in einem Data Warehouse) gespeicherten Daten aufzufinden.Das heißt mittels statistischer, systemtheoretischer und auf Visualisierung abzielender Verfahren und Methoden Assoziationen, Klassen und Muster zu erkennen.

Klassisches Berichtswesen versus Data MiningBerichtswesen- OLAP Data Mining

„Wie viele Kunden aus den einzelnenRegionen haben auf dieletzte DM-Aktion positiv reagiert?“

„Welche Kunden werden sehrwahrscheinlich auf die nächste DM-Aktion positiv reagieren?“

„Haben Kunden mit einem relativhohen Umsatz einegeringere Kündigungsrate?“

„Welche Merkmale beschreibentypischerweise Kunden, dieden Vertrag stornieren?“

„Haben die Kunden in gleichenWohnhaustypen ein vergleichbaresNutzungsverhalten?“

„Welche typischen homogenenKundensegmente lassen sichidentifizieren?“

Data Mining im analytischen CRMData Mining ist das computergestützte Gewinnen von verborgenen Informationen aus Geschäfts-datenbanken.Ziel ist dabei die Steigerung der Effizienz von Geschäftsprozessen und die Erhöhung der Profitabilität.Data Mining ist ein Prozess, der die Zusammenarbeit von Data Mining Experten mit Informatikern und Fachleuten mit Wissen über die Geschäftsprozesse, sowie Entscheidungsträgern im Unternehmen erfordert.

Data Warehousing

Ein Data Warehouse dient dazu, Daten einer Organisation, die in unterschiedlichen internen und externen Quellen (operativen Systemen) gespeichert werden, zusammenzuführen und inhaltlich neu zu strukturieren.

Operational Systems

Data ExtractionTransformation-Engine

Data Warehousewith Metadata

Datenmanagement Datenorganisation Datenauswertung

Data Warehousing als GrundlageThere is a symbiotic relationship between the activity of data mining and the data warehouse – the architectural foundation of decision support systems. The data warehouse sets the stage for effective data mining. (Inmon 1996)

Metadaten-ModellierungInformationen über Inhalte und semantische Bedeutung der Daten eines Data Warehouse in Datenbankanwendungen zu integrieren und für Mining Zwecke verfügbar zu machen.DatenqualitätLogische Datenintegration, Fehlerbereinigung, unterschiedliche Aggregationsniveaus, historische Datenbank

Aufgaben des Data MiningDescription• Auffinden von interpretierbaren Mustern in den

Daten (Sequenzen)• Auffinden von Assoziationen• Auffinden von Abweichungen

Prediction• Basierend auf Attributen der Datenbank

Vorhersagen über künftige Werte von anderen interesierenden Attributen

Classification• Allokation zu vorgegebenen Gruppen• Auffinden von typischen Gruppen

Visualization

Predictive Modeling

Basierend auf gesammelten Daten der Vergangenheit Vorhersagen über künftiges Verhalten treffenData description alone cannot provide an action plan. You must build a predictive model based on patterns determined from known results and then test that model.Building Profitable Customer Relationships with Data Mining. Herb Edelstein (2000)

Predictive Modeling (1)

Schätzung von Produktassoziationen• Assozationsalgorithmen• Warenkorbanalysen• Identifikation von Produkten, die häufig auf

den selben Kassenbons aufscheinen bzw. die häufig von den selben Kunden gekauft werden

Bildung von homogenen Kundensegmenten um das Ansprechverhalten der Kunden zu optimieren• Methoden der Clusteranalyse• k-means, Two Step Cluster Analysis,

Kohonen Self Organizing Maps

Schätzung von quantitativen Größen• Regression Analysis• Bewertung von Kunden (customer value)• Prognose von Umsätzen• Prognose von Nachfrage,

Verbrauchsmengen

Predictive Modelling (4)Vorhersage der Eintrittswahrscheinlichkeit von Ereignissen • Kaufwahrscheinlichkeiten,

Churn-Wahrscheinlichkeiten• Methoden des Supervised learning

- Logistische Regression, Entscheidungsbäume, Neuronale Netze

Predictive Modelling (5)

Vorhersage des Zeitpunktes von Ereignissen (survival analysis)• Folgeabschlüsse bei abreifenden Produkten,

Optimierung der Kundenüberleitung • Methoden der Survival Analysis

- Cox-Modell, Kaplan Meier

Prognose von ErsatzzyklenWie lange dauert es vom ersten Click auf einen e-Shop bis der Kunde zum Käufer wird

Anwendung im Direct Marketing

Zahlen zum vorigen Beispiel

100.000 Kunden1.000 Responses zum konkreten AnbotDirect Mail an die „wahrscheinlichsten“10% (10.000) erreicht bereits 40% der ZielpopulationDirect Mail an die „wahrscheinlichsten“40% (40.000) erreicht bereits 80% der Zielpopulation

98% der Prognosen sind falsch

96% der Prognosen sind falsch

One-to-One Marketing

Die Herausforderung des heutigen Marktes besteht darin, die im wachsenden Maße heterogenen Wünsche und Bedürfnisse jedes Einzelnen zu verstehen und zu erfüllen.Segmentierung des Markts in Kleinstsegmente stellt enorme Anforderungen, denen die in der Praxis des Data Mining heute generierten Prognosemodelle häufig nicht gerecht werden können

udecVereinfachte Sicht des Data Mining

Historische Daten

Data MiningSoftware

Prognose

Produktions-planungbzw.Lagerhaltung

Vertriebs/Marketing-Aktivitäten

Der Kreislauf des Data Mining

Geschäfts-prozesse

ErgebnisseMarketing Aktivitäten

udecDer Kreislauf des Data Mining

Geschäfts-prozesse

Daten-Modellierung

Geschäfts-prozesse

PredictiveModelling

Geschäfts-prozesse

Interpretation

Verwertung

Eckpunkte einer profitabler Data MiningStrategie1. Definition des Problemfeldes (Business

Understanding)2. Schaffung eines entsprechenden IT-

Umfeldes3. Explorative Datenanalyse (Data

Understanding)4. Datenaufbereitung (Data Preparation)5. Modellierung6. Modellevaluation7. Anwendung & Monitoring (Deployment)

Methodenformate Data Mining Methodenformate (z.B. CRISP-DM) bieten Anhaltspunkte für die Vorgehensweise CRISP-DM Cross Industry Standard Processfor Data MiningEffiziente Projektorganisation von DataMining ProjektenHerstellerunabhängigkeitwww.crisp-dm.org

CRISP-DM

Robustes, allgemeines Modell

Zuverlässiger und wiederholbarer Prozess

Kosten- und Zeitreduktion

Unterstützung bei Dokumentation

Unterstützung bei Wissensmanagement

Beispiel-Stream von Clementine

Data Mining im Unternehmen

Data Mining startet in einem Unternehmen meist aus einer konkreten Fragestellung als kleines ProjektData Mining is a journey – an ongoing initiative – not a project

Schaffung organisatorischer Rahmenbedingungen für effiziente Data Mining - Prozesse

Data Mining and Business Intelligence

Increasing potentialto supportbusiness decisions

End User

BusinessAnalyst

DataAnalyst

MakingDecisions

Data PresentationVisualization Techniques

Data MiningInformation Discovery

Data Exploration

OLAP, MDA

Statistical Analysis, Querying and Reporting

Data Warehouses / Data Marts

Data SourcesPaper, Files, Information Providers, Database Systems, OLTP

Softwareanbieter im Data Mining

3 heroische Konventionen in der Praxis

Ein einmal entwickeltes Prognosemodell kann routinemäßig angewendet werdenDie Anwender des Modells verstehen die Spezifika der Modellierung und setzen das Modell korrekt einIst die Population auf die das Modell angewendet wird mit jener vergleichbar, die für die Modellentwicklung herangezogen wurde?

Annahme struktureller Konstanz

Handlungsrelevante Aussagen können nur aus Daten gewonnen werden, welche die aktuellen und zukünftigen Marktverhältnisse widerspiegeln.• Unveränderte Marktstrukturen• Konstante Kunden- und

WettbewerbsverhaltensweisenHippner, Wilde „Der Prozess des Data Mining im Marketing“

Kurzlebigkeit von Data Mining Ergebnissen

Ergebnisse des Data Mining sind in der Praxis nur kurzfristig gültig• Entwickelte Märkte sind extrem dynamisch• Kundenverhalten hängt in einer komplexen

Weise von einer Vielzahl von Einflussfaktoren ab

• Kundenverhalten unterliegt Technologie-und Modetrends

Self Destroying Prophecy

Aus den Ergebnissen abgeleitete Marketingaktivitäten verändern die datengenerierenden ProzesseErschwert eine objektive Bewertung von Modellen, die Data Based Marketing –Strategien bestimmenProblem: Identifikation guter Modelle

Metriken zur Erfolgsmessung

Frühzeitige Definition von Kennzahlen zur Messung des ErfolgesMaßnahmen zur Umsetzung von ErkenntnissenTransparente Kommunikation der Modellergebnisse im Unternehmen

Laufende Überwachung derModelleffizienz

Fachübergreifende Kooperation

• Erfolgreiches Data Mining setzt die Kooperation von Data Mining Experten mit Informatikverantwortlichen, Fachleuten mit Wissen über die Geschäftsprozesse und Top-Entscheidungsträgern im Unternehmen voraus

Statistik versus Data Mining

„Learning from data“„Turning data into information“

Wodurch unterscheiden sich die Lösungsansätze des Data Mining von klassischen statistischen Methoden ?

Unterschiede im methodologischen Ansatz (1)

Statistikpräzise formuliertes spezifisches SachproblemDatenerhebung oft forschungsorientiert

Konzept von Stichprobe/Grund-gesamtheit

Data Miningunscharf formulierte globale Aufgabenstellung

Datenerhebung durch Aufzeichnung von Transaktionen in operativen Systemen Inhalt einer Datenbank(Data Warehousing)

StatistikVersuchsplanung(Homogenisierung via inclusion/exclusioncriteria; stratification; randomisation)einfache Datenstruktur (Datenmatrix)Hohe DatenqualitätÜberschaubare Datenbestände

Data Miningkomplexes Beziehungsgeflecht von Ursache und Wirkung

komplexe DatenstrukturenSchlechte DatenqualitätExtrem große Datenbestände

StatistikMathematikModellTheoretische Analyse von Optimalitäts-eigenschaften

Data MiningInformatikAlgorithmusHeuristik; Benchmarkingmit Real Life Data

Herausforderung an die Statistik:

extrem große Datenmengen erfordernAutomatische Modellierungstechniken(automatic data analysis)

The statistician's tendency to avoid complete automation out of the respect or the challenges of the data, and the historical emphasis on models with interpretable structure, has led that community to focus on problems with a more manageable number of variables than may be encountered in Data Mining.Elder & Pregibon

Algorithmen verdrängen Modelle

The key role of programs has lead to an increased emphasis on algorithms in data mining, in contrast to the emphasis on models in statistics. The idea is that one applies the algorithm to data sets, learning how it behaves and what properties it has, regardless of any notion of an underlying model (or pattern) which it might be building.(Hand 1999).

Konvergenz von Algorithmen ?

An important feature of an estimator is consistency; in the limit, as the sample size increases without bound, estimates should almost certainly converge to the correct value of whatever is being estimated.Heuristic procedures, which abound in machine learning, have no guarantee of ever converging to the right answer.(Glymour et al. 1996).

Klassischer AnalyseprozessModellwahl integrativer Teil des wissenschaftlichen Analyseprozess (iterativer Prozess abhängig von Daten/Ergebnissen)Modellwahl• Modellierung des datengenerierenden Prozesses• Behandlung extremer Werte• Variablenselektion

Modelldiagnose• Goodness of fit; Residuenanalyse; influential

observations• Predictive accuracy (cross-validation)

Data Mining Analyseprozess„off the shelf procedures“Anspruch: Algorithmus liefert „gute“ErgebnisseFlexibler Algorithmus• Große Datenmengen• Fehlerbehaftete Daten• Fehlende Werte• Unterschiedliche Skalenniveaus• Invarianzeigenschaften• Filtern irrelevanter Inputs• Interpretierbarkeit

Grenzen des Data Mining (I)

The major barrier in obtaining high-qualityknowledge from data is due to the limitationsof the data itselfMögliche Datenquellen:• operative Systeme, die die Durchführung

von geschäftlichen Transaktionen unterstützen

• Nichtoperationale Daten (z.B. wirtschaftliche Rahmenbedingungen)

• Meta-Daten • Hintergrundwissen

Schwachstellen der Datenbasis

Mangel an RepräsentativitätFehlen wichtiger VariablenFehlende Versuchsplanung ==> komplexe Korrelationsstrukturen (confounding)Fehlende WerteVerzerrte DatenAlterungsprozess der gesammelten Daten

Grenzen des Data Mining (II) - AussagekraftData Mining ist ein exploratives Verfahren, dessen Ergebnisse mit großer Vorsicht zu interpretieren sind.Bei Data Mining geht es nicht primär darum, "wahre Gesetzmäßigkeiten" über den datengenerierenden Prozess aufzuzeigen.Im Vordergrund steht, ob die Ergebnisse für den intendierten Zweck brauchbar bzw. praxistauglich sind.• Overfitting• Signifikanz kleiner irrelevanter Aspekte

Grenzen des Data Mining (III) - AussagekraftEin weiteres Problem kann im Überschätzen der Allmacht des Algorithmus liegen. Es besteht zweifellos die Gefahr, dass der Anwender jegliche Beziehung zu den Daten und Ihrer Semantik verliert. Der komplexe Algorithmus wird für den Anwender zur undurchschaubaren Black-Box, die ihm von den Daten trennt. Das menschliche Überprüfen von Modellannahmen entfällt und die vom Algorithmus generierten Ergebnisse, welche oft nur eines von vielen mögliche Interpretationsszenarien eines komplexen Datensatzes darstellen, werden fälschlicherweise als erwiesenes Faktum angesehen.

Grenzen des Data Mining (IV) - AussagekraftHäufig erlauben empirischen Daten keine eindeutige Entscheidung zwischen in bezug auf die den Algorithmus steuernden Kriterien nahezu äquivalenten Modellen, welche jedoch eine unterschiedliche semantische Interpretation aufweisen.Sensitivitätsanalysen und Visualisierungs-techniken werden hier zum unverzichtbaren Instrument, will man das Auffinden von Artefakten vermeiden.

Grenzen des Data Mining (V) - Privacy

Angst vor der missbräuchlichen Verwendung personenbezogener Daten kann das allgemeine Klima für statistische Erhebungen entscheidend beeinträchtigen Strikte Einhaltung ethischer Grundprinzipien

FALLBEISPIELE

Analyse eines VersicherungsbestandesSchadenfrequenz in den Gruppen nach Scorewert (1-jährig) - alle Haftpflichverträge

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29

Gruppe

Seit 2003 wird bei einer großen österreichischen Versicherung das Annahmeverhalten der Kunden bei früheren Aktionen für die gezielte Kundenauswahl mittels Methoden des Data Mining herangezogen.

Direct mail Kampagne - Annahmequote in %

4,7 4,4

2000* 2002 2003 2004*2001 aufgrund Umstellung Verw altungssystem keine DM-Aktion

Anwendung Versicherungsbranche

Praxisbeispiel: CHURN-Analyse

1,0,8,5,30,0

AUC = 0,821

Bei Kontaktierung von 30% der Kunden können 80% der abwanderungs-gefährdeten Kunden erreicht werden.

Echtdaten Mobilfunkanbieter Österreich

Entscheidungskriterien für Selektion

Selektion: maximale

Responsequote

ProfitmaximierendeSelektion

Reichweiten-maximierende und

kostenneutrale Selektion

OptimaleSelektion unter

Berücksichtigungbeider Größen

Executive Summary

Der unreflektierte Einsatz moderner DataMining Software alleine bietet keine wie immer geartete Garantie für den ErfolgOhne den intelligenten Einsatz moderner Data Mining Verfahren nach einem „Best Practice Standard“ im analytischen CRM werden Unternehmen auf entwickelten stark kompetitiven Märkten mittel- bis langfristig massive Wettbewerbsnachteile erleiden.

methoden der datenanalyse ai-basierte decision support … 2006... · 2006. 10. 24. · einführung...

Documents

methoden der datenanalyse ai-basierte decision support...

numerieke methoden voor differentiaal vergelijkingen

datenanalyse für ngo/npo

datenanalyse mit ipython und pandas - dirk...

reports und datenanalyse in google adwords

explorative datenanalyse im data lab

modellierung von hydrosystemen [1ex] ''numerische und...

semantik-basierte autorenwerkzeuge für mathematische...

spml-basierte provisionierung im identity...

fabrication information modelling – bim-basierte

explorative datenanalyse in r

web knowledge management - · ontologie -basierte systeme...

eine cloud-basierte datenplattform zur ... › content ›...

numerieke methoden voor differentiaalvergelijkingen

human-centerd-design: prozess, methoden

digitalpatente und ki basierte use cases für kmus

aws roadshow herbst 2013: datenanalyse und business...

fourier analyse: matlab basierte lehre und anwendungen ·...

policy-basierte konfiguration und verwaltung adaptiver...

methoden vegetationsanalyse gradienten