Nghiên Cứu Ứng Dụng Support Vector Machine Trong Phân Tích Dữ Liệu

Chuyên khảo phân tích Tiếp cận svm support vector machine để chọn học sinh vào đội tuyển tin học, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu tiếp theo.

• Tác giả: Nguyễn Thị Kiều Oanh
• Người hướng dẫn: PGS.TS Trần Vĩnh Phác
• Trường học: Học Viện Công Nghệ Bưu Chính Viễn Thông
• Chuyên ngành: Hệ Thống Thông Tin
• Đề tài: Tiếp Cận SVM (Support Vector Machine) Để Chọn Học Sinh Vào Đội Tuyển Tin Học
• Loại tài liệu: Đề Án Tốt Nghiệp
• Năm xuất bản: 2024
• Địa điểm: Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• MỞ LẠC LỜI CAM ĐOAN
• DANH MỤC CÁC THUẬT NGỮ, CHỮ VIẾT TẮT
• DANH SÁCH BẢNG
• DANH SÁCH HÌNH VẼ
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Giới thiệu
• 2. CHƯƠNG 2: THUẬT TOÁN MÁY VECTOR HỖ TRỢ SVM
• 2.1. Giới thiệu
• 2.2. Support Vector Machine (SVM)
• 2.2.1. Giới thiệu về SVM
• 2.2.2. Không gian đặc trưng
• 2.2.3. Ý tưởng của phương pháp SVM
• 2.2.4. Khoảng cách từ một điểm tới một siêu mặt phẳng
• 2.2.5. Các bước chính của phương pháp SVM
• 2.3. Tổng kết chương 2
• 3. CHƯƠNG 3: MÔ HÌNH NĂNG LỰC CỦA NHỮNG HỌC SINH ĐÃ TẶNG THẲNG GIẢI
• 3.1. Giới thiệu
• 3.2. Mô hình hóa các đặc trưng
• 4. CHƯƠNG 4: GIẢI THUẬT TUYỂN CHỌN HỌC SINH VÀO ĐỘI TUYỂN TIN HỌC
• 4.1. Môi trường thực nghiệm
• 4.2. Dữ liệu thực nghiệm. Tổ chức dữ liệu
• 4.3. Tiền xử lý dữ liệu
• 4.4. Tiếp cận miền thẳng giải (Winner – Domain)
• 4.5. Tổng kết chương 4
• 5. CHƯƠNG 5: KẾT LUẬN
• 5.1. Hướng phát triển
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về Nghiên Cứu Ứng Dụng Support Vector Machine

Nghiên cứu ứng dụng Support Vector Machine (SVM) trong phân tích dữ liệu đã trở thành một lĩnh vực quan trọng trong khoa học dữ liệu. SVM là một trong những thuật toán học máy mạnh mẽ, được sử dụng để phân loại và hồi quy. Với khả năng xử lý dữ liệu lớn và phức tạp, SVM giúp cải thiện độ chính xác trong việc phân tích và dự đoán. Nghiên cứu này sẽ khám phá các khía cạnh cơ bản của SVM, từ lý thuyết đến ứng dụng thực tiễn.

1.1. Giới thiệu về Support Vector Machine

Support Vector Machine (SVM) là một thuật toán học máy được phát triển vào giữa những năm 1990. SVM hoạt động bằng cách tìm kiếm một siêu phẳng tối ưu để phân tách các lớp dữ liệu khác nhau. Điều này giúp tối đa hóa khoảng cách giữa các điểm dữ liệu thuộc các lớp khác nhau, từ đó cải thiện khả năng phân loại.

1.2. Lịch sử phát triển của SVM

SVM được giới thiệu lần đầu bởi Vladimir Vapnik và Alexey Chervonenkis vào năm 1995. Kể từ đó, SVM đã trở thành một trong những phương pháp phổ biến nhất trong lĩnh vực học máy, nhờ vào khả năng xử lý dữ liệu phi tuyến tính và hiệu suất cao trong nhiều ứng dụng thực tiễn.

II. Thách thức trong Phân Tích Dữ Liệu với SVM

Mặc dù Support Vector Machine mang lại nhiều lợi ích, nhưng vẫn tồn tại một số thách thức trong việc áp dụng nó vào phân tích dữ liệu. Các vấn đề như lựa chọn kernel, điều chỉnh tham số và xử lý dữ liệu không cân bằng có thể ảnh hưởng đến hiệu suất của mô hình. Nghiên cứu này sẽ phân tích các thách thức chính và cách giải quyết chúng.

2.1. Vấn đề lựa chọn kernel trong SVM

Lựa chọn kernel là một trong những yếu tố quan trọng nhất trong việc áp dụng SVM. Kernel giúp chuyển đổi dữ liệu vào không gian cao hơn, nơi mà các lớp có thể được phân tách dễ dàng hơn. Tuy nhiên, việc lựa chọn kernel không phù hợp có thể dẫn đến kết quả không chính xác.

2.2. Điều chỉnh tham số trong SVM

Điều chỉnh tham số như C và gamma là rất quan trọng để tối ưu hóa mô hình SVM. Tham số C kiểm soát độ chính xác của mô hình, trong khi gamma xác định độ phức tạp của kernel. Việc điều chỉnh không chính xác có thể dẫn đến overfitting hoặc underfitting.

III. Phương Pháp Nghiên Cứu SVM trong Phân Tích Dữ Liệu

Nghiên cứu này sẽ trình bày các phương pháp chính trong việc áp dụng Support Vector Machine cho phân tích dữ liệu. Các bước từ thu thập dữ liệu, tiền xử lý, đến huấn luyện mô hình sẽ được mô tả chi tiết. Điều này giúp hiểu rõ hơn về quy trình và cách thức hoạt động của SVM.

3.1. Quy trình thu thập và tiền xử lý dữ liệu

Quy trình thu thập dữ liệu bao gồm việc xác định nguồn dữ liệu, thu thập và làm sạch dữ liệu. Tiền xử lý dữ liệu là bước quan trọng để đảm bảo rằng dữ liệu được đưa vào mô hình SVM là chính xác và đầy đủ.

3.2. Huấn luyện mô hình SVM

Sau khi dữ liệu đã được chuẩn bị, bước tiếp theo là huấn luyện mô hình SVM. Điều này bao gồm việc lựa chọn kernel, điều chỉnh tham số và đánh giá hiệu suất của mô hình thông qua các chỉ số như độ chính xác và độ nhạy.

IV. Ứng Dụng Thực Tiễn của SVM trong Phân Tích Dữ Liệu

SVM đã được áp dụng rộng rãi trong nhiều lĩnh vực khác nhau như y tế, tài chính và marketing. Nghiên cứu này sẽ trình bày một số ứng dụng thực tiễn nổi bật của Support Vector Machine, từ phân loại bệnh đến dự đoán xu hướng thị trường.

4.1. Ứng dụng SVM trong y tế

Trong lĩnh vực y tế, SVM được sử dụng để phân loại bệnh nhân dựa trên các đặc điểm lâm sàng. Ví dụ, SVM có thể giúp phân loại bệnh nhân mắc bệnh ung thư dựa trên các chỉ số sinh học, từ đó hỗ trợ bác sĩ trong việc đưa ra quyết định điều trị.

4.2. Ứng dụng SVM trong tài chính

Trong ngành tài chính, SVM được sử dụng để dự đoán xu hướng giá cổ phiếu và phân loại các khoản đầu tư. Việc áp dụng SVM giúp các nhà đầu tư đưa ra quyết định chính xác hơn dựa trên phân tích dữ liệu lịch sử.

V. Kết Luận và Tương Lai của Nghiên Cứu SVM

Nghiên cứu về Support Vector Machine đã mở ra nhiều cơ hội mới trong phân tích dữ liệu. Mặc dù còn nhiều thách thức, nhưng tiềm năng ứng dụng của SVM trong các lĩnh vực khác nhau là rất lớn. Tương lai của nghiên cứu này sẽ tiếp tục phát triển với sự xuất hiện của các kỹ thuật mới và cải tiến trong học máy.

5.1. Tóm tắt kết quả nghiên cứu

Nghiên cứu đã chỉ ra rằng SVM là một công cụ mạnh mẽ trong phân tích dữ liệu, với khả năng phân loại và hồi quy hiệu quả. Các ứng dụng thực tiễn cho thấy SVM có thể mang lại giá trị cao trong nhiều lĩnh vực.

5.2. Hướng phát triển tương lai của SVM

Tương lai của SVM sẽ tập trung vào việc cải thiện khả năng xử lý dữ liệu lớn và phức tạp, cũng như phát triển các thuật toán mới để tối ưu hóa hiệu suất. Sự kết hợp giữa SVM và các kỹ thuật học sâu có thể mở ra nhiều cơ hội mới trong nghiên cứu và ứng dụng.

Trích đoạn nội dung tài liệu

HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG --------------------------------------- NguyÅn Thß KiÁu Oanh TI¾P CÀN SVM (SUPPORT VECTOR MACHINE) Đ CHàN HàC SINH VÀO ĐÞI TUYÂN TIN HàC CHUYÊN NGÀNH: HÆ THäNG THÔNG TIN Mà Sä: 8.04 ĐÀ ÁN TäT NGHIÆP TH¾C S) Kþ THUÀT (Theo định hướng ứng dụng) TP. Hà CHÍ MINH – NM 2024 HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG --------------------------------------- NguyÅn Thß KiÁu Oanh TI¾P CÀN SVM (SUPPORT VECTOR MACHINE) Đ CHàN HàC SINH VÀO ĐÞI TUYÂN TIN HàC CHUYÊN NGÀNH: HÆ THäNG THÔNG TIN Mà Sä: 8.04 ĐÀ ÁN TäT NGHIÆP TH¾C S) Kþ THUÀT (Theo định hướng ứng dụng) NG¯âI H¯àNG D¾N KHOA HàC: PGS.TS TRÀN V)NH PH¯àC TP. Hà CHÍ MINH – NM 2024 i LâI CAM ĐOAN Tôi cam đoan đây là công trình nghiên cąu căa riêng tôi, trong đó có sự giúp đỡ rất lßn căa Thầy PGS.TS TrÁn V*nh Ph°ác. Các sß liệu, kÃt quÁ nêu trong đề án là hoàn toàn trung thực và ch°a từng đ°ÿc ai công bß trong bất kỳ công trình nào khác.

Hồ Chí Minh, ngày 09 tháng 05 năm 2024 Hác viên thăc hiÇn đÁ án NguyÅn Thß KiÁu Oanh ii LâI CÀM ¡N Lái đầu tiên, em xin chân thành cÁm ¢n Thầy PGS. TrÁn V*nh Ph°ác, thầy đã tÁn tình h°ßng d¿n, chỉ bÁo và luôn có sự phÁn hái tỉ mỉ trong thái gian nhanh nhất nhằm giúp em trong sußt thái gian qua để có thể hoàn thành đề án. Em cũng xin cÁm ¢n các Thầy/Cô Khoa Công Nghệ Thông Tin và Phòng Đào t¿o sau đ¿i hác căa Hác Viện Công Nghệ B°u Chính Viễn Thông c¢ sã Thành Phß Há Chí Minh đã nhiệt tình giÁng d¿y và t¿o điều kiện thuÁn lÿi cho em trong quá trình hác tÁp, nghiên cąu, hoàn thành ch°¢ng trình đào t¿o và đề án căa khóa hác. Lái cußi, em xin cÁm ¢n tÁp thể Giáo viên và đáng nghiệp Tr°áng Trung cấp Kinh tà Kỹ thuÁt – Tây Ninh cũng nh° b¿n bè, gia đình đã t¿o điều kiện để em có thể hoàn thành đề án trong thái gian sßm nhất.

Do điều kiện về thái gian và nng lực còn h¿n chÃ, sai sót là không thể tránh khỏi. Vì vÁy nhāng đóng góp quý báu từ quý thầy cô sÁ giúp em khÃc phāc nhāng sai sót và có thể hoàn thiện đề án nghiên cąu tßt h¢n. Em xin cÁm ¢n quý Thầy Cô! TP. Hồ Chí Minh, ngày 09 tháng 05 năm 2024 Hác viên thăc hiÇn đÁ án NguyÅn Thß KiÁu Oanh iii MĀC LĀC LàI CAM ĐOAN.

iii DANH MĀC CÁC THUÀT NGĀ, CHĀ VIÂT TÂT. vi DANH SÁCH BÀNG. vii DANH SÁCH HÌNH VÀ. Tổng quan về vấn đề nghiên cąu:.

Đßi t°ÿng và ph¿m vi nghiên cąu:. Ph°¢ng pháp nghiên cąu .2 CH¯¡NG 1: GIàI THIÆU .4 CH¯¡NG 2: THUÀT TOÁN MÁY VECTOR Hà TRþ SVM. Support Vector Machine (SVM). Giới thiệu về SVM.

Không gian đặc trưng. Ý tưởng của phương pháp SVM. Khoảng cách từ một điểm tới một siêu mặt phẳng. Các bước chính của phương pháp SVM.

Tổng kÃt ch°¢ng 2 .11 CH¯¡NG 3: MIÀN NNG LĂC CĂA NHĀNG HàC SINH Đà TĀNG THÂNG GIÀI. Các đặc tr°ng Non–Learning. Kỹ năng tư duy (F19). Kỹ năng nhận biết (F20).

Kỹ năng tư duy nhận xét (F21). Kỹ năng sáng tạo (F22). Kỹ năng quản lý thời gian (F23). Kỹ năng nghiên cứu (F24).

Kỹ năng phân tích (F25). Tự lực, không dựa dẫm (F27) .Sinh hoạt cá nhân (F29) .Đam mê tin học (F30) .Quan hệ khác giới (F32) .Sự quan tâm của gia đình (F33) .Kinh tế gia đình (F34) .25 CH¯¡NG 4: GIÀI THUÀT TUYÂN CHàN HàC SINH VÀO ĐÞI TUYÂN HàC SINH GIâI TIN HàC. Môi tr°áng thực nghiệm. Dā liệu thực nghiệm.

Tổ chąc dā liệu. Tiền xÿ lý dā liệu. TiÃp cÁn miền thÃng giÁi (Winner – Domain). Tổng kÃt ch°¢ng 4.

46 CH¯¡NG 5: K¾T LUÀN. H°ßng phát triển. 47 v TÀI LIÆU THAM KHÀO .48 vi DANH MĀC CÁC THUÀT NGĀ, CHĀ VI¾T TÂT Vi¿t tÃt Ti¿ng Anh Ti¿ng ViÇt SVM Support Vector Machine ThuÁt toán máy vect¢ hß trÿ THPT High school Trung hác phổ thông TCN B.C Tr°ßc công nguyên KNN K-Nearest Neighbor ThuÁt toán K láng giềng gần nhất FP False Positive Tÿ lệ sai d°¢ng FN False Negative Tÿ lệ sai âm TP True Positive Tÿ lệ đúng d°¢ng TN True Negative Tÿ lệ đúng âm R Ratio Tÿ lệ ACC Accurary Đá chính xác vii DANH SÁCH BÀNG BÁng 3.1: Mô hình hóa các đặc tr°ng. Xÿ lý điểm các môn.

Xÿ lý thuác tính team, Degree. Xÿ lý thuác tính Like Informatic, Game. Xÿ lý thuác tính Personality. Xÿ lý thuác tính Interest.

Xÿ lý thuác tính Datetime, Weektime. Xÿ lý thuác tính Parents, Lover. Xÿ lý thuác tính Family, Opinion. Xÿ lý thuác tính Mentality.

Xÿ lý thuác tính Sport, Sports. Xÿ lý thuác tính Program. KÃt quÁ đánh giá đá tin cÁy .44 viii DANH SÁCH HÌNH VẼ Hình 2.1: Tổng quan quy trình SVM .2: Chuyển đổi từ không gian dā liệu sang không gian đặc tr°ng .3: Phân lo¿i hai nhóm dā liệu xanh và đỏ .4: T¿o ra nhiều siêu phẳng .5: Margin giāa hai support vector .6: Minh háa bài toán 2 phân lßp bằng ph°¢ng pháp SVM .1: Kỹ nng t° duy .2: Kỹ nng nhÁn biÃt .3: Kỹ nng t° duy nhÁn xét.4: Kỹ nng sáng t¿o .5: Kỹ nng quÁn lý thái gian .6: Kỹ nng nghiên cąu .7: Kỹ nng tÁp trung .8: Tự lực, không dựa d¿m .9: Đam mê tin hác. Lý do chán đÁ án â Việt Nam, các kỳ thi hác sinh giỏi cấp tỉnh, cấp qußc gia dành cho hác sinh các tr°áng trung hác phổ thông đ°ÿc tổ chąc hàng nm.

Các kỳ thi này là c¢ hái để các tr°áng trung hác phổ thông gặt hái đ°ÿc nhiều thành tích. Do đó, lãnh đ¿o các tr°áng rất quan tâm đÃn việc chán hác sinh vào đái tuyển và huấn luyện đái tuyển để t¿o thành tích cho tr°áng. Trong thực tÃ, mát sß tr°áng trung hác phổ thông thành lÁp các lßp nng khiÃu để đào t¿o nâng cao cho các hác sinh đ°ÿc chán trong từng bá môn. Hằng nm, mßi tr°áng tuyển chán nhāng hác sinh xuất sÃc để thành lÁp các đái tuyển tham gia các kỳ thi cấp tỉnh, cấp qußc gia.

Việc lựa chán đang đ°ÿc thực hiện dựa trên kÃt quÁ hác tÁp căa hác sinh, kinh nghiệm và khÁ nng cÁm nhÁn căa giáo viên. Bài toán đặt ra cho nghiên cąu này là làm thà nào để đánh giá mát hác sinh có thể đ°ÿc chán vào đái tuyển căa mát ngành hác nào đó. Tßng quan vÁ v¿n đÁ nghiên cÿu Hiện nay ã n°ßc ta, hàng nm các kỳ thi hác sinh giỏi cấp tỉnh, cấp qußc gia dành cho hác sinh các tr°áng trung hác phổ thông đ°ÿc tổ chąc. Các kỳ thi này là c¢ hái để các tr°áng trung hác phổ thông gặt hái đ°ÿc nhiều thành tích.

Do đó, lãnh đ¿o các tr°áng rất quan tâm đÃn việc chán hác sinh vào đái tuyển và huấn luyện đái tuyển để t¿o thành tích cho tr°áng. Các đái tuyển đ°ÿc bái d°ỡng vßi mát ch°¢ng trình nâng cao, chuyên sâu và cā thể. Đề án <TiÃp cÁn SVM (Support vector machine) để chán hác sinh vào đái tuyển tin hác= nghiên cąu thuÁt toán tuyển chán hác sinh vào đái tuyển tin hác căa mát tr°áng THPT. Nhāng hác sinh có nng lực t°¢ng tự vßi các hác sinh đã thÃng giÁi có khÁ nng thÃng giÁi cao h¢n.

Dựa vào các đặc tr°ng căa các hác sinh thÃng giÁi, ta xây dựng miền căa nhāng ng°ái thÃng giÁi. Nhāng ąng cÿ viên thuác miền thÃng giÁi đ°ÿc đ°a vào đái tuyển, ng°ÿc l¿i bß lo¿i ra. ThuÁt toán giúp các thầy cô huấn 2 luyện viên lựa chán đái tuyển mát cách nhanh chóng, chính xác, khoa hác và khách quan. Giúp tng khÁ nng mang thành tích về cho tr°áng.

Māc tiêu nghiên cÿu Nghiên cąu này tiÃp cÁn kỹ thuÁt SVM để xác đßnh miền căa nhāng ng°ái thÃng giÁi, từ đó xây dựng thuÁt toán chán hác sinh vào đái tuyển tham gia các kỳ thi hác sinh giỏi cấp tỉnh và cấp qußc gia. Đåi t°ÿng và ph¿m vi nghiên cÿu 4. Đåi t°ÿng - Đặc tr°ng nng lực do hác tÁp và không do hác tÁp (t¿i tr°áng lßp) căa hác sinh tin hác hiện t¿i căa tr°áng và hác sinh tin hác đã đ¿t các giÁi căa nhāng nm tr°ßc. - Dā liệu giáo dāc về đặc tr°ng nng lực hác sinh tin hác.

- ThuÁt toán SVM. Ph¿m vi - Dā liệu nng lực căa hác sinh ngành tin hác căa vài tr°áng trung hác phổ thông. - Dā liệu nng lực căa mát sß hác sinh đo¿t giÁi tin hác cấp tỉnh và cấp qußc gia căa nhāng nm tr°ßc. Ph°¢ng pháp nghiên cÿu - Ph°¢ng pháp khÁo sát đ°ÿc áp dāng để thu thÁp dā liệu.

- Ph°¢ng pháp phân tích để xác đßnh đặc tr°ng nng lực do hác và không do hác căa các hác sinh ngành tin hác. - Ph°¢ng pháp toán hác đ°ÿc áp dāng để thiÃt lÁp không gian nng lực hác sinh, đßnh nghĩa vector đặc tr°ng nng lực căa hác sinh, tiÃp cÁn thuÁt toán SVM để xác đßnh miền nng lực căa nhāng hác sinh đo¿t giÁi, chỉ đßnh vß trí căa từng hác sinh trong không gian nng lực. - Ph°¢ng pháp lÁp trình đ°ÿc áp dāng để viÃt ch°¢ng trình thực nghiệm. 3 CH¯¡NG 1: GIàI THIÆU 1.

Giái thiÇu Hàng nm, các kỳ thi hác sinh giỏi các cấp dành riêng cho các tr°áng trung hác phổ thông đ°ÿc tổ chąc. Các kỳ thi này là c¢ hái căa các tr°áng để thu đ°ÿc thành tích. Riêng đßi vßi các thầy/ cô – ng°ái huấn luyện, nÃu đái tuyển mình huấn luyện thÃng giÁi, có thành tích thì cũng chąng tỏ đ°ÿc khÁ nng căa bÁn thân, là ng°ái có nng lực, có tâm huyÃt, lúc đó ng°ái thầy sÁ đ°ÿc phā huynh hác sinh và tr°áng tôn tráng nhiều h¢n. Ngoài ra, phā huynh và hác sinh cũng rất quan tâm đÃn các kỳ thi hác sinh giỏi.

Khi đ¿t đ°ÿc thành tích, ng°ái hác ngoài việc nhÁn đ°ÿc các giÁi th°ãng, mang l¿i niềm vinh dự, tự hào cho bÁn thân và gia đình, điều quan tráng h¢n hÃt là có c¢ hái để đ°ÿc tuyển thẳng vào các tr°áng đ¿i hác. Đây là điều mà bất cą phā huynh và hác sinh nào cũng mong mußn sau 12 nm hác phổ thông. Trên thực tÃ, Ban giám hiệu các tr°áng Trung hác phổ thông sÁ chỉ đßnh giáo viên căa mßi bá môn: Toán, Vn, Anh, Hóa, Sinh, Sÿ, Đßa, Lý, Tin,…chán hác sinh trong các khßi lßp 10, 11, 12 để thành lÁp đái tuyển. Các giáo viên sÁ dựa vào kÃt quÁ hác tÁp, hác b¿ căa hác sinh, dựa vào kinh nghiệm và khÁ nng cÁm nhÁn căa bÁn thân để lựa chán đ°a vào đái tuyển căa bá môn mình, sau đó các em sÁ đ°ÿc bái d°ỡng, đào t¿o vßi mát ch°¢ng trình cā thể.