introduction to data mining with weka by open miner

54
About Us AN INTRODUCTION TO DATA MINING WITH WEKA รรรรรรร 14 BY OPEN MINER WWW.OPEN-MINER.COM Part 0

Upload: openminer

Post on 26-Jan-2015

124 views

Category:

Technology


2 download

DESCRIPTION

Introduction to data mining with WEKA by OPEN MINER www.open-miner.com

TRANSCRIPT

Page 1: Introduction to data mining with Weka by OPEN MINER

About Us

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part 0

Page 2: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

2

Instructors

อ.สิ�ริ�วริริณ แต้ว�จิ�ต้ริ อยู่��รุ่ะหว่�างศึ�กษาต่�อรุ่ะดั�บปรุ่�ญญาเอก ที่��สถาบ�น

เที่คโนโลยู่�นานาชาต่�ส�รุ่�นธรุ่ มหาว่�ที่ยู่าล�ยู่ธรุ่รุ่มศึาสต่รุ่% และ Japan Advance Institute of Science and Technology

ปรุ่�ญญาโที่ สาขาว่�ชา Computer Engineering มหาว่�ที่ยู่าล�ยู่เกษต่รุ่ศึาสต่รุ่%

ปรุ่�ญญาต่รุ่� สาขาว่�ชา Computer Engineering มหาว่�ที่ยู่าล�ยู่เกษต่รุ่ศึาสต่รุ่%

Email: [email protected], [email protected]

Page 3: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

3

Course Outline

1st day Introduction to data mining Introduction to Weka Preprocess Regression & Classification

Techniques Linear Regression Decision tree

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 4: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

4

Course Outline (cont’)

2nd day Regression & Classification Techniques

K-Nearest neighbors Neural Networks Support Vector Machines (SVM)

Clustering Association rule discovery JAVA + WEKA PHP + WEKA Knowledge Flow

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 5: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part IIntroduction to Data Mining

Page 6: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

6

What is data mining?

“The exploration and analysis of large quantities of data in order to discover meaningful patterns and rules” – Data Mining Techniques (2nd Edition) เป)นการุ่ว่�เครุ่าะห%ข*อม�ลเพื่,�อหารุ่�ปแบบ (patterns) หรุ่,อคว่ามส�มพื่�นธ%

(relation) รุ่ะหว่�างข*อม�ลในฐานข*อม�ลขนาดัใหญ�

“Extraction of interesting (non-trivial, previously, unknown and potential useful) information from data in large databases” – Data Mining Concepts &Techniques (2nd Edition) เป)นกรุ่ะบว่นการุ่ดั�งข�าว่สารุ่ที่��น�าสนใจ และม�ปรุ่ะโยู่ชน%แต่�ไม�เคยู่รุ่� *มาก�อน

จากฐานข*อม�ลขนาดัใหญ�

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 7: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

7

Loyalty Cards

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 8: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

Loyalty Cards (2)

Tesco Lotus

BigC Carrefour

TOPS

ช,�อบ�ต่รุ่ Club card

BigCard I wish SPOT

เรุ่��มต่*นโปรุ่โมช�น

08/2552 09/2552 07/2550 ~2548

ส�ที่ธ�ปรุ่ะโยู่ชน%

สะสมแต่*ม ที่�ก 2 บาที่ไดั* 1 แต่*ม

รุ่�บเง�นค,น 5

บาที่ เม,�อซื้,2อส�นค*าครุ่บ 500 บาที่

สะสมแต่*ม รุ่�บส�ว่นลดัส3าหรุ่�บสมาช�กและ personal shopping list

Reference : น�ต่ยู่สารุ่ positioning ฉบ�บเดั,อนพื่ฤศึจ�กายู่น 2552

8

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 9: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

9

Summary

ในป6จจ�บ�นข*อม�ลม�จ3านว่นเพื่��มมากข�2นเรุ่,�อยู่ๆ แต่�ไม�ไดั*น3ามาใช*ปรุ่ะโยู่ชน% การุ่ซื้,2อส�นค*าในห*างสรุ่รุ่พื่ส�นค*าต่�างๆ ข*อม�ลการุ่ลงที่ะเบ�ยู่นเรุ่�ยู่นของน�ส�ต่ Social network : facebook, twitter ข*อม�ลช�ว่สารุ่สนเที่ศึ เช�น protein sequence, gene ฐานข*อม�ลล�กค*าภายู่ในบรุ่�ษ�ที่

Data mining เป)นการุ่หาคว่ามส�มพื่�นธ%ต่�างๆ ที่��ปรุ่ากฏอยู่��ในข*อม�ลที่��ม�ขนาดัใหญ�

ว่�เครุ่าะห%พื่ฤต่�กรุ่รุ่มการุ่ซื้,2อส�นค*าของล�กค*าแต่�ละคน เพื่,�อน3าเสนอโปรุ่โมช�นให*ต่รุ่งก�บคว่ามต่*องการุ่

ว่�เครุ่าะห%ข*อม�ลปรุ่ะว่�ต่�การุ่ศึ�กษาเพื่,�อแนะน3าให*น�ส�ต่ปรุ่ะสบคว่ามส3าเรุ่:จในอาช�พื่ ว่�เครุ่าห%ข*อม�ลโปรุ่ต่�นรุ่ะดั�บปฐมภ�ม� เพื่,�อใช*ในการุ่ที่3านายู่โครุ่งสรุ่*างของโปรุ่ต่�น ว่�เครุ่าะห%แนว่โน*มต่�างๆ เก��ยู่ว่ก�บส��งที่��สนใจ

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 10: Introduction to data mining with Weka by OPEN MINER

Cross Reference Industry Standard Process for Data MiningPart II

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINER

WWW.OPEN-MINER.COM

Page 11: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

11

CRISP-DM

CRoss-Industry Standard Process for Data Mining (CRISP-DM) พื่�ฒนาข�2นโดัยู่

บรุ่�ษ�ที่ DaimlerChryslerบรุ่�ษ�ที่ SPSSบรุ่�ษ�ที่ NCR

Workflow มาต่รุ่ฐานส3าหรุ่�บการุ่ที่3า data mining ปรุ่ะกอบดั*ว่ยู่ 6 ข�2นต่อน

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 12: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

12

Data Mining Workflow

Business Understanding + Data Understanding + Data Preparation ใช*เว่ลาถ�ง 80% ของที่�2งหมดั

บที่คว่ามเพื่��มเต่�ม : http://open-miner.com/2009/11/03/introduction-datamining/

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 13: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

13

CRISP Example

การุ่ใช*เที่คน�คดัาต่*าไมน%น�งเพื่,�อพื่�ฒนาค�ณภาพื่การุ่ศึ�กษาคณะว่�ศึว่กรุ่รุ่มศึาสต่รุ่%

( http://www.nectec.or.th/NTJ/No11/No11.php ) รุ่ศึ. ดัรุ่. กฤษณะ ไว่ยู่ม�ยู่ ช�ดัชนก ส�งส�รุ่� ธนาว่�นที่% รุ่�กธรุ่รุ่มานนที่%

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 14: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

14

CRISP Example (5)

Data Understanding ข*อม�ลการุ่ลงที่ะเบ�ยู่นของ

น�ส�ต่ต่�2งแต่�ป= 2535-2542 น�ส�ต่จ3านว่น 10,000 กว่�า

คน ข*อม�ล 476,085 แถว่

ข*อม�ลแบ�งเป)น 2 ส�ว่น ข*อม�ลปรุ่ะว่�ต่�ส�ว่นต่�ว่ของ

น�ส�ต่ เช�น ช,�อ ที่��อยู่�� ภ�ม�ล3าเนา อายู่� เป)นต่*น

ข*อม�ลการุ่ลงที่ะเบ�ยู่นของน�ส�ต่ช�2นป=ที่�� 1 จ3านว่น 9 รุ่ายู่ว่�ชา

Stu_code

Sex Address

GPA

37058063

Male Bangkok

2.3

37058167

Male Songkla

3.2

…. … … …

ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้

Stu_code

Sub_code

… Grade

37058063

คอมพื่�ว่เต่อรุ่%

… C+

37058063

คณ�ต่ศึาสต่รุ่%

… D

…. … … …

ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 15: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

15

CRISP Example (6)

Stu_code

Sex Address

GPA

37058063

Male Bangkok

2.3

37058167

Male Songkla

3.2

…. … … …

ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้ (Old)

Stu_code

Sub_code

… Grade

37058063

คอมพื่�ว่เต่อรุ่%

… C+

37058063

คณ�ต่ศึาสต่รุ่%

… D

…. … … …

ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้ (Old)

Stu_code

Sex Address

GPA

37058063

Male Bangkok

BAD

37058167

Male Songkla

GOOD

…. … … …

ข้อมู�ลปริะว�ต้�สิ�วนต้�วน�สิ�ต้ (New)

Stu_code

Sub_code

… Grade

37058063

คอมพื่�ว่เต่อรุ่%

… Medium

37058063

คณ�ต่ศึาสต่รุ่%

… Low

…. … … …

ข้อมู�ลการิลงทะเบี�ยนต้�วน�สิ�ต้ (New)

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 16: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

16

Data Mining Concepts and Techniques

Classification เป)นการุ่จ3าแนกข*อม�ลออกเป)น

ปรุ่ะเภที่ต่�างๆ อาศึ�ยู่การุ่เรุ่�ยู่นรุ่� *จากข*อม�ลเก�า

Regression การุ่ปรุ่ะมาณค�าจ3านว่นหรุ่,อ

ปรุ่�มาณที่��เป)นต่�ว่เลข อาศึ�ยู่การุ่เรุ่�ยู่นรุ่� *จากข*อม�ลเก�า

Clustering แบ�งข*อม�ลเป)นหลายู่ๆ กล��ม อาศึ�ยู่คว่ามคล*ายู่คล�งก�นของ

ข*อม�ล

Associate อาศึ�ยู่คว่ามส�มพื่�นธ%ของข*อม�ล

ที่��เก�ดัรุ่�ว่มก�น สรุ่*างเป)นกฎคว่ามส�มพื่�นธ%

Supervised learning Unsupervised learning

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 17: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

17

Data Mining Software

Commercial Software SAS® Enterprise

Miner

DB2 Intelligent Miner

Microsoft SQL Server 2008

Open source software or Freeware Weka

RapidMiner

KNIME (Konstanz Information Miner)

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 18: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

18

Data Mining Software (2)

Weka

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 19: Introduction to data mining with Weka by OPEN MINER

Introduction to WekaPart III

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINER

WWW.OPEN-MINER.COM

Page 20: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

20

What is Weka ?

Weka Waikato Environment for Knowledge Analysis เป)นซื้อฟต่%แว่รุ่% open source ส3าหรุ่�บการุ่ว่�เครุ่าะห%ข*อม�ลดั*ว่ยู่

เที่คน�ค Data Mining สามารุ่ถดัาว่น%โหลดัมาใช*ไดั* ฟริ� !!! พื่�ฒนาดั*ว่ยู่ภาษา Java และสามารุ่ถที่3างานไดั*บน

WindowsLinuxMAC OS

ดัาว่น%โหลดั Weka ไดั*จาก http://www.cs.waikato.ac.nz/ml/weka/

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 21: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

21

Download Weka

http://www.cs.waikato.ac.nz/ml/weka/

เว่อรุ่%ช�นน�2จะม�โปรุ่แกรุ่มJava รุ่ว่มมาให*ดั*ว่ยู่

เว่อรุ่%ช�นน�2จะไม�ม�โปรุ่แกรุ่มJava รุ่ว่มมาให* ต้องมู� Java ในเคริ !องแลว !!

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 22: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

22

Weka Explorer

Tab ส3าหรุ่�บเรุ่�ยู่กใช*งานฟ6งก%ช�นต่�างๆ ของ data mining

Workspace: เป)นส�ว่นส3าค�ญของ Weka Explorer จะใช*ในการุ่ปรุ่�บเปล��ยู่น พื่ารุ่าม�เต่อรุ่%ต่�างๆ และแสดังผลการุ่ที่3างาน

Status: บอกว่�า Wekaก3าล�งที่3างานอะไรุ่อยู่��

Log: เก:บรุ่ายู่ละเอ�ยู่ดัของการุ่ที่3างานต่�างๆ

จะเต่*นเม,�อก3าล�งที่3างานอยู่��

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 23: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

PreprocessPart IV

Page 24: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

24

Agenda

ข*อม�ล อ�นสแต่นซื้% (instance) แอต่ที่รุ่บ�ว่ต่% (attribute)

โหลดัข*อม�ลเข*าไปใช*ในโปรุ่แกรุ่ม Weka ไฟล% CSV ไฟล% ARFF ฐานข*อม�ล

Preprocess Data ดั*ว่ยู่ Weka แปลงข*อม�ลจากต่�ว่เลขให*เป)นช�ว่ง เพื่��มข*อม�ลที่��ขาดัหายู่ ค*นหาข*อม�ล Outlier

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 25: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

25

ข*อม�ลที่��ใช*เป)น input ส3าหรุ่�บ Weka

Load data into Weka (2)

อ�นเต้อริ"เน#ต้

(Internet)

ฐานข้อมู�ล(Databa

se)

ไฟล" (File)

ARFF

CSV

ข้อมู�ลจิ&าลอง

(Generate Data)

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 26: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

26

Lab 4-1: Generate CSV file

ว�ต้ถุ(ปริะสิงค": เพื่,�อสรุ่*างไฟล% CSV ดั*ว่ยู่โปรุ่แกรุ่ม Excel และโหลดัไฟล%เข*าใช*งานใน Weka

ต้าริางท�! 1: สมาช�ก

Note : In sex attribute, value 0 = Female, 1 = Male, 2 = Others

บ�นที่�กไฟล%ในช,�อ customers.csv

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 27: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

27

Weka & MySQL (4)

URL : ช,�อ URL ของ database server

Click ป�Aม Userjdbc:mysql://localhost:3306/weka_course

Server URL & port

Database name

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 28: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

28

Replace missing values in Weka

กดัป�Aม Choose เล,อก filters เล,อก unsupervised เล,อก attribute เล,อก ReplaceMissingValues

กดัป�Aม Apply

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 29: Introduction to data mining with Weka by OPEN MINER

Regression & Classification

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part V

Page 30: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

30

Agenda

การุ่ปรุ่ะมาณค�าจ3านว่น (Regression) และ การุ่จ3าแนกปรุ่ะเภที่ข*อม�ล (Data classification) คว่ามหมายู่และการุ่ปรุ่ะยู่�กต่%ใช* ข*อม�ล training, testing การุ่ที่ดัสอบปรุ่ะส�ที่ธ�ภาพื่ และการุ่แปลคว่าม

เที่คน�คต่�างๆ ในการุ่ปรุ่ะมาณค�าจ3านว่น และ จ3าแนกปรุ่ะเภที่ข*อม�ล Linear Regression Decision tree K-nearest neighbors Neural Network Support Vector Machines (SVM)

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 31: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

31

What is classification?

ค&าถุามู : มู�ริ�ปภาพอะไริปริากฏอย��บีาง ?

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 32: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

32

Example: Classification (3)

Model สรุ่*างไดั*จากการุ่เรุ่�ยู่นรุ่� *ดั*ว่ยู่ training data ใช*ส3าหรุ่�บจ3าแนกข*อม�ลใหม�ที่��ยู่�งไม�รุ่� * class Decision tree model

Evaluate Model

โมเดัลในรุ่�ปแบบ Tree

สิ�เข้�ยว

ภาพป,าไมู ภาพชายทะเล

< 100

≥ 100

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 33: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

33

Example: Classification (4)

Unseen data ข*อม�ลใหม�จะไม�ม�ค3าต่อบ (class) อยู่��ดั*ว่ยู่ แต่�เม,�อผ�านการุ่

ปรุ่ะมว่ลผลจากโมเดัล ถ�งจะที่รุ่าบค3าต่อบ

สิ�แดง สิ�เข้�ยว สิ�น&/าเง�น134.86 96.01 158.83

แอต่ที่รุ่�บ�ว่ต่%

? ?

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 34: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

Classification Steps (3)

แอต่ที่รุ่�บ�ว่ต่% 1

แอต่ที่รุ่�บ�ว่ต่% 2

คลาส

1 0 A

0 1 B

34

เทคน�คClassification

โมูเดล (Model)

ข้อมู�ลเริ�ยนริ�(Training data)

ข้อมู�ลทดสิอบี(Evaluate

data)

Classify/Predictแอต่ที่รุ่�บ�ว่

ต่% 1แอต่ที่รุ่�บ�ว่ต่% 2

1 0

คลาสิA

ข�2นต่อนการุ่สรุ่*างโมเดัล(classification model building)

ข�2นต่อนการุ่ว่�ดัปรุ่ะส�ที่ธ�ภาพื่ (evaluation)

34

Unseen data

แอต่ที่รุ่�บ�ว่ต่% 1

แอต่ที่รุ่�บ�ว่ต่% 2

1 0

คลาสิท�!ท&านาย

A

คลาสิ

จิริ�งAเปรุ่�ยู่บเที่�ยู่บผลที่��ไดั*

จากโมเดัลและค3าต่อบจรุ่�ง

การุ่ใช*งานจรุ่�ง3

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 35: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

35

Classification in Weka (cont’) คล�กที่�� tab Classify

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 36: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

36

1: Classifier

เที่คน�คในการุ่ที่3า classification แบบต่�างๆ Bayes

สรุ่*างโมเดัลโดัยู่อาศึ�ยู่การุ่ค3านว่ณคว่ามน�าจะเป)น (probability) ของข*อม�ลต่�างๆ

Functions สรุ่*างโมเดัลโดัยู่อาศึ�ยู่การุ่ค3านว่ณที่าง

คณ�ต่ศึาสต่รุ่% โมเดัลเป)นรุ่�ปแบบของสมการุ่

Lazy ต่�างจากเที่คน�ค classification แบบอ,�นๆ ไม�ม�การุ่สรุ่*างโมเดัลไว่*ก�อน ใช*ข*อม�ลเรุ่�ยู่นรุ่� *เพื่,�อจ3าแนกปรุ่ะเภที่ข*อม�ลของ

ข*อม�ลใหม�ไดั*เลยู่

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 37: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

37

Lab 5-2: German Credit Card Business Understanding

การุ่อน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่ของธนาคารุ่ต่�างๆ จ3าเป)นจะต่*องพื่�จารุ่ณาป6จจ�ยู่หลายู่ๆ ดั*านของล�กค*าผ�*ขออน�ม�ต่� ที่� 2งน�2เพื่รุ่าะคว่ามเส��ยู่งที่��อาจจะเก�ดัข�2นจากการุ่ใช*บ�ต่รุ่เครุ่ดั�ต่ของล�กค*าอาจจะที่3าให*ธนาคารุ่ส�ญเส�ยู่เง�นเป)นจ3านว่นมาก

การุ่สรุ่*างรุ่ะบบช�ว่ยู่การุ่ต่�ดัส�นใจ (decision support system) ในการุ่อน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่แบบอ�ต่โนม�ต่�จะช�ว่ยู่ให*ธนาคารุ่สามารุ่ถที่3างานไดั*เรุ่:ว่ข�2น

Data Understanding ธนาคารุ่ไดั*เก:บรุ่ว่บรุ่ว่มข*อม�ลการุ่ขออน�ม�ต่�บ�ต่รุ่เครุ่ดั�ต่จากล�กค*าเก�าจ3านว่น 600 คน โดัยู่ธนาคารุ่จะเก:บค�ณล�กษณะของล�กค*าแต่�ละคนไว่* เช�น จ3านว่นเง�นในบ�ญช� เป)นต่*น รุ่ว่บรุ่ว่มเก:บไว่*ในไฟล% GermanCreditBalance.arff ซื้��งอยู่��ในแผ่�น CD

โฟลเดัอรุ่% dataset/GermanCredit

รุ่ายู่ละเอ�ยู่ดัของแอต่ที่รุ่�บ�ว่ต่%ต่�างๆ ดั�ไดั*จากไฟล% GermanCredit.pdf

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 38: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part VI Clustering

Page 39: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

39

Segmentation

แบ�งล�กค*าออกเป)นกล��มๆ ยู่�อยู่ เพื่,�อจะไดั*พื่�จารุ่ณาล�กษณะของแต่�ละกล��มไดั*ง�ายู่ข�2น สมาช�กในแต่�ละกล��ม

คว่รุ่จะม�ล�กษณะที่��คล*ายู่ๆ ก�น และคว่รุ่จะม�ล�กษณะที่��ต่�างก�นก�บกล��มอ,�น ๆ

ต่�ว่อยู่�างแอต่ที่รุ่�บ�ว่ต่%ที่��ใช*ในการุ่แบ�งกล��ม ข*อม�ลเช�งพื่,2นที่�� (geographic)

จ�งหว่�ดั ข*อม�ลเช�งปรุ่ะชากรุ่ (demographic)

อายู่� เพื่ศึ รุ่ายู่ไดั*

พื่ฤต่�กรุ่รุ่มการุ่บรุ่�โภค (behavior) ส�นค*าที่��เคยู่ซื้,2อ จ3านว่นครุ่�2งที่��กล�บมาซื้,2อ

ภ�ม�ภาค

จ3านว่นสมาช�กในครุ่อบครุ่�ว่ การุ่ศึ�กษา อาช�พื่

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 40: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

40

Data clustering

การุ่แบ�งกล��มหรุ่,อคล�สเต่อรุ่��ง (clustering) เป)นเที่คน�คหน��งที่��น�ยู่มใช*ก�นในการุ่ว่�เครุ่าะห%ข*อม�ล

หน*าที่��ของคล�สเต่อรุ่��ง การุ่แบ�งข*อม�ลออกเป)นกล��มยู่�อยู่ๆ โดัยู่ต่*องการุ่ให*ข*อม�ลในกล��มเดั�ยู่ว่ก�น

ม�คว่ามเหม,อนก�นมากๆ และข*อม�ลที่��อยู่��ต่�างกล��มก�นม�คว่ามต่�างก�นมากๆ เรุ่าจะเรุ่�ยู่กแต่�ละกล��มยู่�อยู่ว่�าคล�สเต่อรุ่% (cluster)

คล�สเต่อรุ่��งเป)นว่�ธ�สามารุ่ถที่3าไดั*โดัยู่ไม�ต่*องอาศึ�ยู่การุ่เรุ่�ยู่นรุ่� * (unsupervised learning)คล�สิเต้อริ"

1

คล�สิเต้อริ" 3

คล�สิเต้อริ" 2

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 41: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

41

Clustering in Weka (cont’)

คล�กที่�� tab Cluster

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 42: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

42

Example1 : Clustering bank data ข*อม�ลรุ่ายู่ละเอ�ยู่ดัล�กค*าของธนาคารุ่ (bank)

id age sex region inco

memarri

edchildr

encar

save_act

current_act

mortgage

pep

ID12101

48 FEMALEINNER_CI

TY1754

6NO 1 NO NO NO NO

YES

ID12102

40 MALE TOWN30085.1

YES 3YES

NO YES YES NO

ID12103

51 FEMALEINNER_CI

TY16575.4

YES 0YES

YES YES NO NO

ID12104

23 FEMALE TOWN20375.4

YES 3 NO NO YES NO NO

ID12105

57 FEMALE RURAL50576.3

YES 0 NO YES NO NO NO

ID12106

57 FEMALE TOWN37869.6

YES 2 NO YES YES NOYES

ID12107

22 MALE RURAL8877.07

NO 0 NO NO YES NOYES

ID12108

58 MALE TOWN24946.6

YES 0YES

YES YES NO NO

ID12109

37 FEMALESUBURB

AN25304.3

YES 2YES

NO NO NO NO

ID12110

54 MALE TOWN24212.1

YES 2YES

YES YES NO NO

ID12111

66 FEMALE TOWN59803.9

YES 0 NO YES YES NO NO

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 43: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Association RulesPart VII

Page 44: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

44

Market Basket Analysis

รุ่�เรุ่��มจากการุ่ส�งเกต่�การุ่ซื้,2อส�นค*าใน supermarket ข*อม�ลการุ่ซื้,2อส�นค*าของล�กค*าแต่�ละคน ว่�เครุ่าะห%พื่ฤต่�กรุ่รุ่มของผ�*บรุ่�โภค

ชอบซื้,2อส�นค*าชน�ดัไหนพื่รุ่*อมก�นบ*าง ?

Customer1

Apple, Beer, Cereal, Diapers

Apple, Beer, Diapers, Eggs

Beer, Eggs

Customer2

Customer3

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 45: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

45

Data from point-of-sale (4)

Transaction- time

Product

01-13-2009 20:04

Apple

01-13-2009 20:04

Beer

01-13-2009 20:04

Cereal

01-13-2009 20:04

Diapers

01-14-2009 11:30

Apple

01-14-2009 11:30

Beer

01-14-2009 11:30

Diapers

01-14-2009 11:30

Eggs

01-15-2009 14:15

Beer

01-15-2009 14:15

Eggs

POS database

TID

Product

1 Apple, Beer, Cereal, Diapers

2 Apple, Beer, Diapers, Eggs

3 Beer, EggsTransaction database

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 46: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

46

Association Rules in Weka (cont’) คล�กที่�� tab Associate

OPEN MINER

www.open-miner.comwww.facebook.com/

openminer

Page 47: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

47

Lab 7-1: Market Basket

Business Understanding ซื้�เปอรุ่%มารุ่%เก:ต่แห�งหน��งต่*องการุ่ที่3ารุ่ะบบ CRM ก�บล�กค*าที่��เข*ามาซื้,2อส�นค*าโดัยู่

ต่*องการุ่หาว่�าม�ส�นค*าชน�ดัใดับ*างที่��ล�กค*าม�กจะซื้,2อพื่รุ่*อมก�นบ�อยู่ๆ เพื่,�อน3าไปจ�ดัโปรุ่โมช�น

Data Understanding ซื้�ปเปอรุ่%มารุ่%เก:ต่แห�งน�2ไดั*ที่3าการุ่เก:บปรุ่ะว่�ต่�การุ่ซื้,2อส�นค*าของล�กค*าจ3านว่น

1,000 คน โดัยู่ข*อม�ลของล�กค*าแต่�ละรุ่ายู่จะแบ�งเป)น 2 ส�ว่นใหญ�ๆ ค,อ

ข*อม�ลรุ่ายู่ละเอ�ยู่ดัเก��ยู่ว่ก�บล�กค*าแต่�ละรุ่ายู่ ม�จ3านว่น แอต่ที่รุ่�บ�ว่ต่%…… ข*อม�ลส�นค*าที่��ล�กค*าซื้,2อแต่�ละครุ่�2ง ม�จ3านว่น แอต่ที่รุ่�บ�ว่ต่% ……

ข*อม�ลเหล�าน�2ไดั*ถ�กรุ่ว่บรุ่ว่มเก:บไว่*ในไฟล% supermarket_basket_transactions_2005.arffในแผ�น CD โฟลเดัอรุ่% dataset/supermarket

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 48: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part VIII Command line & Integrate System

Page 49: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

49

Weka in command line

การุ่เรุ่�ยู่กใช*งาน Weka ดั*ว่ยู่การุ่พื่�มพื่%ค3าส��งผ�านที่าง DOS เล,อก Run > พื่�มพื่% cmd จะปรุ่ากฏหน*า DOS (หน*าจอดั3าๆ)

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 50: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

50

Lab8-2: Weka in Java Program (2) พื่ารุ่าม�เต่อรุ่%ของเที่คน�คต่�างๆ ดั�ไดั*จาก Weka Explorer

ข�2นต่อนการุ่ compile โปรุ่แกรุ่มjavac -classpath “C:\Program Files\Weka-3-6\weka.jar” testClassifier.java

ข�2นต่อนการุ่ run โปรุ่แกรุ่มjava -classpath “C:\Program Files\Weka-3-6\weka.jar;.” testClassifier

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 51: Introduction to data mining with Weka by OPEN MINER

AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

BY OPEN MINERWWW.OPEN-MINER.COM

Part IX Knowledge Flow

Page 52: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

52

Weka KnowledgeFlow

สามารุ่ถเล,อก component ต่�างๆ ของ Weka มาเรุ่�ยู่งต่�อก�น เพื่,�อให*ที่3างานเป)นแบบ workflow

OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 53: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

53

Example: Knowledge flow (7) เล,อก component TextViewer จากแที่:บ Visualization ว่างไว่*ในส�ว่น Layout และคล�กขว่าที่��

ClassifierPerformanceEvaluator เล,อกเมน� text แล*ว่ลากล�กศึรุ่มายู่�ง TextViewer OPEN MINERwww.open-miner.com

www.facebook.com/openminer

Page 54: Introduction to data mining with Weka by OPEN MINER

Open Miner Intelligence : http://www.open-miner.com AN INTRODUCTION TO DATA MINING WITH WEKA รุ่� �นที่�� 14

54

Contact Us

อ.ส�รุ่�ว่รุ่รุ่ณ แต่*ว่�จ�ต่รุ่ E-mail

[email protected] Website

http://www.open-miner.com Google Buzz

http://www.google.com/profiles/openminer