Kỹ Thuật Học Máy Trong Việc Trích Xuất Thông Tin Từ Tệp Log

Luận văn thạc sĩ khoa học máy tính áp dụng kỹ thuật học máy trong việc trích xuất thông tin từ tệp log, mang lại hiệu quả cao trong phân tích dữ liệu.

• Tác giả: Nguyen Minh Tri
• Người hướng dẫn: Assoc. Nam Thoai
• Trường học: Ho Chi Minh City University of Technology
• Chuyên ngành: Computer Science
• Đề tài: Applying Machine Learning Techniques In Extracting Information From The Log File
• Loại tài liệu: Master Thesis
• Năm xuất bản: 2019
• Địa điểm: Ho Chi Minh City

Tóm tắt

I. Tổng Quan Kỹ Thuật Học Máy Trích Xuất Thông Tin Log

Sự phát triển nhanh chóng của công nghệ Internet và cơ sở hạ tầng đã dẫn đến sự bùng nổ về số lượng người dùng Internet. Tất cả các hoạt động của chúng ta trên Internet đều được ghi lại, tạo ra một lượng lớn tệp log mỗi ngày. Mặc dù nguồn tệp log rất đa dạng, chúng có chung một số đặc điểm. Ví dụ, lượng dữ liệu và thông tin trên tệp log rất lớn và tăng dần; dữ liệu thuộc tất cả các loại tồn tại trên log, chẳng hạn như phi cấu trúc, bán cấu trúc và cấu trúc; dữ liệu thường không đáng tin cậy và luôn chứa nhiễu; và nhiều hơn nữa. Tất cả những đặc điểm này tạo ra cả thách thức và cơ hội để khai thác và khám phá thông tin và kiến thức hữu ích từ tệp log. Gần đây, một lượng lớn nội dung trực tuyến đã xuất hiện. Việc dự đoán chính xác mức độ phổ biến của nội dung trực tuyến, đặc biệt là video, có tầm quan trọng lớn vì nó hỗ trợ và thúc đẩy việc thiết kế và quản lý các dịch vụ khác nhau. Việc sử dụng các kỹ thuật học máy có thể giúp giải quyết vấn đề này một cách hiệu quả.

1.1. Ứng Dụng Học Máy Trong Phân Tích Log Giới Thiệu

Học máy đang ngày càng được ứng dụng rộng rãi trong nhiều lĩnh vực, và phân tích log không phải là ngoại lệ. Các thuật toán học máy có thể được sử dụng để tự động hóa các tác vụ như phát hiện bất thường, dự đoán lỗi, và trích xuất thông tin quan trọng từ tệp log khổng lồ. Điều này giúp các nhà quản trị hệ thống và các chuyên gia bảo mật tiết kiệm thời gian và công sức, đồng thời cải thiện hiệu quả hoạt động và an ninh của hệ thống. Theo nghiên cứu của Nguyen Minh Tri, việc sử dụng các thuật toán học máy phù hợp có thể cải thiện đáng kể hiệu suất trong dự đoán chuỗi thời gian.

1.2. Thách Thức Trong Trích Xuất Thông Tin Tự Động Từ Log

Mặc dù tiềm năng rất lớn, việc trích xuất thông tin từ tệp log bằng học máy vẫn đối mặt với nhiều thách thức. Tệp log thường chứa dữ liệu không đồng nhất, nhiều nhiễu và thiếu cấu trúc rõ ràng. Việc lựa chọn thuật toán học máy phù hợp và tiền xử lý dữ liệu một cách hiệu quả là rất quan trọng để đạt được kết quả chính xác. Ngoài ra, cần có kiến thức chuyên môn về học máy và hiểu biết sâu sắc về hệ thống log để xây dựng các mô hình hiệu quả.

II. Phương Pháp Tự Động Hóa Trích Xuất Thông Tin Log Bằng ML

Để giải quyết những thách thức trên, cần áp dụng các phương pháp tiếp cận phù hợp. Một trong những phương pháp hiệu quả là sử dụng xử lý ngôn ngữ tự nhiên (NLP) để phân tích văn bản trong tệp log. NLP có thể giúp xác định các thực thể quan trọng, trích xuất các sự kiện và phân loại các thông điệp log. Các thuật toán học máy như mô hình học sâu (Deep Learning) cũng có thể được sử dụng để tự động học các đặc trưng từ tệp log và dự đoán các sự kiện trong tương lai. "With the development of machine learning and deep learning, many novel mechanisms and techniques have been proposed to capture the non-linear relations. They have significantly improved the performance in time series prediction".

2.1. Sử Dụng Xử Lý Ngôn Ngữ Tự Nhiên Cho Phân Tích Nhật Ký

Xử lý ngôn ngữ tự nhiên (NLP) đóng vai trò quan trọng trong việc phân tích nhật ký. Các kỹ thuật NLP cho phép máy tính hiểu và xử lý ngôn ngữ tự nhiên có trong tệp log. Điều này bao gồm các tác vụ như phân tích cú pháp, phân tích ngữ nghĩa và nhận dạng thực thể. Bằng cách sử dụng NLP, có thể trích xuất thông tin chi tiết về các sự kiện, lỗi và hành vi của người dùng từ tệp log.

2.2. Mô Hình Học Sâu Để Phát Hiện Bất Thường Trong Tệp Log

Mô hình học sâu, đặc biệt là các mạng nơ-ron tái phát (RNN) và mạng nơ-ron tích chập (CNN), đã chứng minh hiệu quả trong việc phát hiện bất thường trong tệp log. Các mô hình này có thể học các mẫu bình thường trong dữ liệu log và xác định các điểm khác biệt đáng kể. Việc phát hiện bất thường có thể giúp xác định các vấn đề bảo mật, lỗi hệ thống và các hành vi đáng ngờ khác.

III. Ứng Dụng Dự Đoán Lỗi Hệ Thống Từ Tệp Log Bằng Học Máy

Một ứng dụng quan trọng của học máy trong phân tích log là dự đoán lỗi hệ thống. Bằng cách phân tích các tệp log lịch sử, có thể xây dựng các mô hình dự đoán khả năng xảy ra lỗi trong tương lai. Điều này cho phép các nhà quản trị hệ thống chủ động thực hiện các biện pháp phòng ngừa, giảm thiểu thời gian chết và cải thiện độ tin cậy của hệ thống. Việc kết hợp Big data và phân tích log bằng học máy giúp tăng cường khả năng dự đoán.

3.1. Trích Xuất Đặc Trưng Từ Log Sử Dụng Machine Learning Hướng Dẫn

Để dự đoán lỗi hệ thống hiệu quả, việc trích xuất đặc trưng phù hợp từ tệp log là rất quan trọng. Các đặc trưng có thể bao gồm tần suất xuất hiện của các thông báo lỗi cụ thể, thời gian giữa các sự kiện liên quan đến lỗi, và các mẫu hành vi của người dùng. Các kỹ thuật học máy như lựa chọn đặc trưng và giảm chiều dữ liệu có thể được sử dụng để xác định các đặc trưng quan trọng nhất cho việc dự đoán lỗi.

3.2. Các Thuật Toán Học Máy Phổ Biến Cho Dự Đoán Lỗi Log

Có nhiều thuật toán học máy có thể được sử dụng để dự đoán lỗi từ tệp log. Một số thuật toán phổ biến bao gồm cây quyết định, máy vector hỗ trợ (SVM), và mạng nơ-ron. Việc lựa chọn thuật toán phù hợp phụ thuộc vào đặc điểm của dữ liệu log và yêu cầu cụ thể của bài toán.

IV. Mô Hình Học Máy Tiên Tiến Cho Trích Xuất Thông Tin Log

Các mô hình học máy ngày càng trở nên phức tạp và hiệu quả hơn trong việc trích xuất thông tin từ tệp log. Các mô hình học sâu như mạng nơ-ron tích chập (CNN) và mạng nơ-ron tái phát (RNN) có khả năng tự động học các đặc trưng phức tạp từ dữ liệu log, giúp cải thiện độ chính xác của các tác vụ như phát hiện bất thường, phân loại log và dự đoán lỗi. Việc sử dụng các giải pháp học máy cho quản lý log cũng đang ngày càng trở nên phổ biến.

4.1. Deep Learning Trong Phân Tích Log Ưu Điểm và Ứng Dụng

Deep learning mang lại nhiều ưu điểm vượt trội trong phân tích log. Các mô hình deep learning có thể xử lý dữ liệu phi cấu trúc một cách hiệu quả, tự động học các đặc trưng phức tạp và đạt được độ chính xác cao hơn so với các phương pháp truyền thống. Các ứng dụng của deep learning trong phân tích log bao gồm phát hiện bất thường, phân loại log, dự đoán lỗi và trích xuất thông tin ngữ nghĩa.

4.2. Phân Loại Log Bằng Học Máy Các Phương Pháp Hiệu Quả Nhất

Phân loại log bằng học máy là một tác vụ quan trọng trong nhiều ứng dụng. Việc phân loại log có thể giúp xác định nguồn gốc của các sự kiện, phân loại các loại lỗi và ưu tiên các vấn đề cần giải quyết. Các phương pháp học máy hiệu quả cho phân loại log bao gồm cây quyết định, máy vector hỗ trợ (SVM), và mạng nơ-ron.

V. Nghiên Cứu Kết Quả Thử Nghiệm Dự Đoán Content Phổ Biến

Nghiên cứu tập trung vào việc sử dụng Machine Learning for Log Analysis để dự đoán độ phổ biến của nội dung trực tuyến trên các nền tảng như YouTube và MovieLens. Các kết quả thử nghiệm cho thấy các mô hình đề xuất không chỉ vượt trội hơn các đường cơ sở mà còn cải thiện đáng kể thời gian suy luận. Derivative-based Multivariate Linear Regression (DMLR) và Attention-based Non-Recursive Neural Network (ANRNN) là hai mô hình được sử dụng. "The experimental results show that the proposed models not only outperform some baselines on the real datasets but also significantly improve the inference time."

5.1. Thử Nghiệm Với MovieLens Đánh Giá Hiệu Suất Mô Hình

Thử nghiệm trên tập dữ liệu MovieLens cho thấy các mô hình ANRNN và DMLR có khả năng dự đoán độ phổ biến của nội dung với độ chính xác cao. Các kết quả được so sánh với các mô hình khác như DA-RNN và FC-ANN để đánh giá hiệu suất tương đối. Các chỉ số đánh giá chính là RMSE (Root Mean Squared Error) và MAE (Mean Absolute Error).

5.2. Thử Nghiệm Với Youtube So Sánh Khả Năng Dự Đoán

Tương tự như thử nghiệm với MovieLens, thử nghiệm trên tập dữ liệu YouTube cũng cho thấy sự vượt trội của các mô hình ANRNN và DMLR. Việc dự đoán độ phổ biến của video trên YouTube mang tính thách thức hơn do tính đa dạng và phức tạp của dữ liệu. Kết quả cho thấy các mô hình đề xuất có khả năng nắm bắt các xu hướng và yếu tố ảnh hưởng đến độ phổ biến của video.

VI. Kết Luận Tương Lai Của Học Máy Trong Phân Tích Log

Việc ứng dụng học máy trong phân tích log đang mở ra những cơ hội to lớn để cải thiện hiệu quả hoạt động, an ninh và độ tin cậy của hệ thống. Với sự phát triển không ngừng của các thuật toán học máy và sự gia tăng về lượng dữ liệu log, chúng ta có thể kỳ vọng vào những tiến bộ vượt bậc hơn nữa trong lĩnh vực này trong tương lai. Việc theo dõi và áp dụng các giải pháp học máy cho quản lý log là rất quan trọng để tận dụng tối đa tiềm năng của phân tích log.

6.1. Xu Hướng Phát Triển Của Log Mining Using Machine Learning

Các xu hướng phát triển chính trong log mining using machine learning bao gồm việc sử dụng các mô hình học sâu phức tạp hơn, tích hợp dữ liệu log với các nguồn dữ liệu khác và phát triển các công cụ tự động hóa quy trình phân tích log. Ngoài ra, việc chú trọng đến các vấn đề bảo mật và quyền riêng tư trong phân tích log cũng là một xu hướng quan trọng.

6.2. Ứng Dụng Của Machine Learning Based Log Monitoring

Machine learning based log monitoring có nhiều ứng dụng tiềm năng, bao gồm phát hiện các cuộc tấn công mạng, dự đoán lỗi hệ thống, tối ưu hóa hiệu suất ứng dụng và cải thiện trải nghiệm người dùng. Bằng cách giám sát tệp log liên tục và sử dụng học máy để phân tích dữ liệu, có thể phát hiện sớm các vấn đề và thực hiện các biện pháp khắc phục kịp thời.

Trích đoạn nội dung tài liệu

VIETNAM NATIONAL UNIVERSITY HO CHI MINH CITY UNIVERSITY OF TECHNOLOGY -------------------- NGUYEN MINH TRI APPLYING MACHINE LEARNING TECHNIQUES IN EXTRACTING INFORMATION FROM THE LOG FILE Majors: Computer Science ID: 60480101 MASTER THESIS Ho Chi Minh City, 03 July 2019 WORK IS DONE AT HO CHI MINH CITY UNIVERSITY OF TECHNOLOGY – VNU – HCM Scientific supervisor: Assoc. The reviewer 1: Assoc. Huynh Trung Hieu. The reviewer 2: Dr.

Le Thanh Sach. This master thesis is defended at Ho Chi Minh City University of Technology – VNU – HCM HCM City, 03 July 2019. The master thesis assessment committee includes: 1. Dang Tran Khanh.

Le Hong Trang. Huynh Trung Hieu. Le Thanh Sach. Tran Cong Hung.

Confirmation of the Chairman of the assessment committee and the Head of the specialized management department after the thesis has been corrected (if any). CHAIRMAN OF THE HEAD OF FACULTY ASSESSMENT COMMITTEE OF CSE ii VNU – HO CHI MINH CITY SOCIALIST REPUBLIC OF VIETNAM HO CHI MINH CITY UNIVERSITY Independence – Freedom – Happiness OF TECHNOLOGY MASTER THESIS Student name: NGUYEN MINH TRI. Date of birth: 10-12-1994. Place of birth: Lam Dong.

Major: Computer Science. THESIS TITLE: Applying machine learning techniques in extracting information from the log file. TASKS AND CONTENTS: Study machine learning techniques in processing and analyzing logfile. Propose several analytical methods to extract the characteristics of online contents as well as predict their popularity in the near future based on the historical access recorded in the log file.

DATE OF THE THESIS ASSIGNMENT: (according to the thesis assignment decision) 13/08/2018. DATE OF THE THESIS COMPLETION: (according to the thesis assignment decision) 02/06/2019. Ho Chi Minh City, 03 July 2019 SUPERVISOR HEAD OF COMPUTER SCIENCE AND (Sign and full name) ENGINEERING DEPARTMENT (Sign and full name) iii ACKNOWLEDGEMENTS First, I would like to extend my appreciation to my supervisor, Prof. Nam Thoai, who has provided me countless support and given me so much inspiration for my academic career.

I would also like to thank all members of the High-Performance Computing Lab and all the lecturers who have always been willing to encourage and support me greatly. During the past two years, I have learned a lot of knowledge and experience from them. Finally, I must express my very profound gratitude to my parents, my brothers and my friends for providing me with unfailing support and continuous encouragement throughout my two years of study as well as the process of researching and doing this thesis. Thank you! Nguyen Minh Tri 03/07/2019 iv ABSTRACT With the rapid growth of Internet technology and infrastructure, we have entered the era of data explosion.

Recently, a massive amount of data, including log files which contain a lot of valuable information, have been generated. Since the amount of log files is growing exponentially, processing and analyzing them become real challenges. Among these challenges, time series prediction can be considered as one of the fundamental problems in various domains, related to wide-ranging and high-impact applications. Despite the fast-paced process in the field of time series analysis over the past decades, the quality of prediction has not yet met the increasing user demands.

At the beginning, some simple machine learning techniques were used to make a prediction based on many kinds of linear relationships. However, as the amount of data is increasing and the relationships among data sequences are becoming more complicated, those earlier techniques have no longer met the requirements. With the development of machine learning and deep learning, many novel mechanisms and techniques have been proposed to capture the non-linear relations. They have significantly improved the performance in time series prediction.

This work mainly focuses on time series prediction task as well as provides some analysis of log files. Toward this goal, I not only investigate some characteristics of several real datasets but also introduce Derivative-based Multivariate Linear Regression model and Attention-based Non-Recursive Neural Network model to predict the popularity of online contents within these datasets. My contributions include providing some useful metrics to extract valuable knowledge from log files, exploiting some superior techniques in the field of natural language processing to address the short-term prediction in time series, and proposing two novel models to predict the popularity of online contents. The experimental results show that the proposed models not only outperform some baselines on the real datasets but also significantly improve the inference time.

Finally, the limitations of proposed models are discussed as a part of my study, which makes room for further experiments in the future. v PLEDGE OF HONOR In this thesis, any formulation, idea, research, reasoning or analysis borrowed from a third party is accurately indicated in the way that the original source is immediately recognizable and in respect of citation techniques and the author’s rights. I affirm that, in addition to these cited references, the entire content of my thesis is my own study, not copied from any other document. I declare that I have not plagiarized, nor committed any other kind of fraud.

Nguyen Minh Tri vi CONTENTS ACKNOWLEDGEMENTS. v PLEDGE OF HONOR. vii LIST OF FIGURES. x LIST OF TABLES.

xii LIST OF ACRONYMS. xiii CHAPTER 1: INTRODUCTION .1 Data pre-processing .2 Time Series Prediction .2 Non-linear regression .1 Sequence-to-sequence model. 24 vii CHAPTER 3: RELATED WORK.1 Web content mining .2 Web structure mining .3 Web usage mining .2 Time Series Prediction .3 Predicting content popularity. 30 CHAPTER 4: LOGFILE PROCESSING & ANALYSIS .1 Weblog of HCMUT Website .1 Data Pre-processing .1 The Popularity Distribution.2 The Movies Lifetime .3 Access Evolution Pattern.

53 CHAPTER 5: PREDICTING MODEL .1 Derivative-based Multivariate Linear Regression.2 Attention-based Non-Recursive Neural Network.1 Derivative-based Multivariate Linear Regression .2 Attention-based Non-Recursive Neural Network .2 Time series prediction .3 Predicting online content popularity .1 Experiments in MovieLens dataset .2 Experiments in Youtube dataset.3 Inference time efficiency. 76 CHAPTER 7: CONCLUSION & FUTURE WORK. 80 LIST OF PUBLISHED ARTICLES. 87 ix LIST OF FIGURES Fig.

Client IP Lookup Model. Data Pre-processing process. The global distribution of user access to the HCMUT website. The global proportion coupled with the number of access to the HCMUT website.

The domestic distribution of user access to the HCMUT website. The domestic proportion coupled with the number of access to the HCMUT website. Distribution of user access within domestic ISPs. The market share of internet service in some major cities.

The monthly trend of user's preferences in HCMUT website. The proportion of contents popularity in MovieLens dataset. Movies popularity distribution at a specific timestamp. The CDF of movies popularity in MovieLens dataset.

Movies' lifetime in MovieLens dataset. The proportion of videos popularity in Youtube dataset. The CDF of views in Youtube dataset. The Alpha parameter of gamma distribution over the observation.

The Beta parameter of gamma distribution over the observation. Hourly views count of top 50 popular videos in several countries. Percentage of views in a given hour of a day in Japan. Percentage of views in a given hour of a day in the US.

Percentage of views in a given hour of a day in Vietnam and Singapore. Percentage of view in a given day of a week in the US and Japan. The structure of the attention-based non-recursive neural network. RMSE and MAE in predicting with MovieLens dataset.

RMSE and MAE in predicting with Youtube dataset. RMSE comparison among the different numbers of stacked layers. hidden size of attention layers. DA-RNN’s train and test prediction on NASDAQ 100 dataset.

ANRNN’s train and test prediction on NASDAQ 100 dataset. DA-RNN's train and test prediction on MovieLens dataset. FC-ANN's train and test prediction on MovieLens dataset. DMLR's train and test prediction on MovieLens dataset.

ANRNN's train test prediction on MovieLens dataset. DA-RNN's train and test prediction on Youtube dataset. FC-ANN's train and test prediction on Youtube dataset. DMLR's train and test prediction on Youtube dataset.

ANRNN's train and test prediction on Youtube dataset. The comparison of inference time among DA-RNN, ANRNN, FC-ANN, and DMRL in two datasets. xi LIST OF TABLES Table 4. Structure of HCMUT weblog (ECLF).

Example of data cleaning. Example of Access Identification. The proportion of different evolution patterns Table 4. The format of the Youtube dataset (2008).

The format of Youtube dataset (2019) Table 6. Average RMSE comparison between DA-RNN and ANRNN when practicing with NASDAQ 100 dataset. RMSE and MAE comparisons between different methods when practicing with MovieLens dataset. Mean correlation among series in 2 datasets.

RMSE and MAE comparisons between different methods when practicing with Youtube dataset. xii LIST OF ACRONYMS Acronym Meaning ANN Artificial Neural Network CNN Convolutional Neural Network NLP Natural Language Processing NMT Neural Machine Translation RNN Recurrent Neural Network CPU Central Processing Unit GPU Graphic Processing Unit DA-RNN Dual-stage Attention-based Recurrent Neural Network FC-ANN Fully Connected Artificial Neural Network DMLR Derivative-based Multivariate Linear Regression ANRNN Attention-based Non-Recursive Neural Network WUM Web Usage Mining WCM Web Content Mining WSM Web Structure Mining FP Frequent Pattern ARM Association Rule Mining WAR Weighted Association Rule SOM Self Organizing Map CFPM Combined Frequent Pattern Mining ARMA Autoregressive Moving Average NARX Nonlinear Autoregressive Exogenous NARMAX Nonlinear Autoregressive Moving Average with Exogenous GRU Gated Recurrent Unit LSTM Long Short Term Memory ARIMA Autoregressive Integrated Moving Average xiii CHAPTER 1: INTRODUCTION 1.1 Overview The rapid development of Internet technology and infrastructure has caused the explosion of Internet usage. Since all of our activities on the Internet are recorded, an enormous amount of log files is being generated every day. Although the log files source is diverse, they share a number of characteristics.

For example, the amount of data, as well as information on log files, is huge and gradually grows; data of all types exist on the log, such as unstructured, semi-structured, and structured; data is not usually reliable and always contains noise; and many more. All of these characteristics present both challenges as well as opportunities for mining and discovering useful information and knowledge from the log files. Specifically, the emergence of social network has also brought an enormous and ever-growing amount of online content into our digital world. In this context, video contents are determined to be a dominant cause of network congestion as it would account for more than 80% of total Internet traffic by 2020 [1].

It has been revealed that user attention is distributed in a skewed fashion as a few contents receive massive views and downloads, whereas most contents get few user attention [2]. By accurately predicting the popularity of online content in the future, the network operators can proactively manage the distribution as well as cache replacement policies for online contents across their infrastructures. For services providers, they can exceedingly benefit from designing appropriate advertising strategies and recommendation schemes which encourage their users to reach the most relevant and popular contents. Thus, predicting the popularity of online contents, especially videos, is of great importance as it supports and drives the design and management of various services.

Several efforts have been made to predict the long-term popularity of online videos by analyzing their historical accesses [2], [3], [4]. However, it has been hard to accurately predict the popularity of a given content in the near future or make the short-term prediction. In this thesis, I mainly focus on exploiting several mechanisms and techniques in the field of time series prediction to address the problem. 14 Fundamentally, predicting in time series involves taking models to fit on historical data and applying them to determine the future value.

Since time series prediction is a basic problem in various domains, it has usually been applied in wide- ranging and high-impact applications such as financial market prediction [5], weather forecasting [6], predicting the next frame of a given video [7], complex dynamical system analysis [8] and so on.