Chương 1. Phân tích tổng quan vấn đề nghiên cứu Chương 2. Lý thuyết nhận dạng Chương 3. Dữ liệu trong nhận dạng ổn định hệ thống điện Chương 4.
Xây dựng và đánh giá mô hình nhận dạng ổn định động hệ thống điện Chương 5. Kết luận 3 Luan van Nguyễn Ngọc Âu LÝ THUYẾT NHẬN DẠNG 2.1 Mạng nơ-ron nhân tạo 2.1 Giới thiệu về mạng nơ-ron nhân tạo Mạng nơ-ron nhân tạo (Artificial Nơ-ron Networks – ANN) được xây dựng dựa trên cấu trúc của bộ não con người, giúp đưa ra một phương pháp mới trong lĩnh vực tiếp cận hệ thống thông tin [19]. Mạng nơ-ron nhân tạo có thể thực hiện các bài toán nhận dạng, phân loại và điều khiển cho các đối tượng tuyến tính và phi tuyến đạt hiệu quả cao hơn so với các phương pháp tính toán truyền thống. Mạng nơ-ron nhân tạo gồm nhiều nơ-ron nhân tạo liên kết với nhau thành mạng.
Nó có hành vi tương tự như bộ não con người với các khả năng học (Learn- ing), gọi lại và tổng hợp thông tin từ sự luyện tập của các mẫu dữ liệu.2 Mô hình nơ-ron sinh học Bộ não con người có khoảng 1011 nơ-ron sinh học ở nhiều dạng khác nhau [19]. Mô hình của một dạng nơ-ron sinh học được mô tả trên Hình 2. Cấu trúc chung của một nơ-ron sinh học gồm có ba phần chính là: thân, cây và trục. Cây gồm các dây thần kinh liên kết với thân.
Trục có cấu trúc đơn, dài liên kết với thân. Phần cuối của trục có dạng phân nhánh.Trong mỗi nhánh có một cơ cấu nhỏ là khớp thần kinh, từ đây nơ-ron sinh học này liên kết bằng tín hiệu tới các nơ-ron khác. Sự thu nhận thông tin của nơ-ron sinh học được thực hiện từ cây hoặc từ thân của nó. Tín hiệu thu, nhận ở dạng các xung điện.
Đầu vào Trục Đầu ra Thân Cây Hình 2.1 Mô hình nơ-ron sinh học 4 Luan van Nguyễn Ngọc Âu Một tế bào thần kinh có ba phần, Hình 2.1: -Phần đầu có nhiều khớp thần kinh (Dendrite) là nơi tiếp xúc với các với các điểm kết nối (Axon Terminal) của các tế bào thần kinh khác. -Nhân của tế bào thần kinh (Nucleus) là nơi tiếp nhận các tín hiệu điện truyền từ Dendrite. Sau khi tổng hợp và xử lý các tín hiệu nhận được nó truyền tín hiệu kết quả qua trục nơ-ron (Axon) đến các điểm kết nối (Axon Terminal) ở đuôi. -Phần đuôi có nhiều điểm kết nối (Axon Terminal) để kết nối với các tế bào thần kinh khác.3 Mô hình nơ-ron nhân tạo 2.1 Cấu trúc mô hình một nơ-ron nhân tạo Mạng nơ-ron nhân tạo được thiết kế để mô phỏng tính chất của mạng nơ-ron sinh học, tức là mô phỏng hoạt động dựa theo cách thức của bộ não con người [19].
Các đặc tính của mạng nơ-ron là: - Tri thức của mạng được nắm bắt bởi các nơ-ron thông qua quá trình học. - Trọng số kết nối các nơ-ron đóng vai trò lưu giữ thông tin. - Mạng nơ-ron tính toán rất nhanh. Nơ-ron nhân tạo nhận một số các ngõ vào (từ dữ liệu gốc, hay từ ngõ ra của các nơ-ron khác trong mạng).
Mỗi kết nối đến ngõ vào có một trọng số (weight) w đặc trưng cho mức độ liên kết giữa các nơ-ron.Trọng số liên kết có giá trị dương tương ứng với khớp thần kinh bị kích thích, ngược lại có giá trị âm tương ứng với khớp thần kinh bị kiềm chế. Mỗi nơ-ron có một giá trị ngưỡng (threshold), ngưỡng này được đưa qua thành phần dịch chuyển (bias) b. Tín hiệu được truyền qua hàm kích hoạt hay hàm chuyển đổi f tạo giá trị ngõ ra nơ-ron.2 trình bày mô hình nơ-ron với n phần tử ngõ vào, mỗi ngõ vào được kết nối với trọng số w. Tổng ngõ vào được trọng hóa với ngưỡng đưa tới ngõ ra qua hàm chuyển đổi f như biểu thức (2.
5 Luan van Nguyễn Ngọc Âu x1 w1 w2 y x2 f wn b xn 1 Hình 2.2 Mô hình một nơ-ron nhân tạo Trong đó: Biến ngõ vào x = [x1, x2,…, xn] là vector ngõ vào có n phần tử, trọng số kết nối W = [w1, w2,…, wn]. Ngõ ra mạng được tính theo công thức: n y f (b xi wi ) ( 2.1) i 1 Hàm chuyển đổi (Transfer Function) hay hàm kích hoạt (Activation Func- tion) có nhiệm vụ biến đổi tổng trọng (hoặc net) thành tín hiệu ngõ ra y. Các nơ- ron có thể sử dụng các hàm chuyển đổi khác nhau để tạo ra tín hiệu ngõ ra. Các hàm chuyển đổi phổ biến như hàm hard limit, logsig, tansig, purelin, hàm bán kính, Bảng 2.
6 Luan van Nguyễn Ngọc Âu Bảng 2.1 Một số hàm phi tuyến thường dùng trong các mô hình nơ-ron Tên hàm Công thức Đặc tính g(u)= 1 nếu u 0 g Hàm bước nhảy đơn vị g(u)=0 nếu u< 0 1 u (hard limit) 0 g 1 Hàm bước nhảy lưỡng g(u)=1 nếu u 0 cực g(u)=-1 nếu u< 0 0 u -1 g u Hàm tuyến tính (purelin) g(u)=a.5 1 Hàm sigmoid đơn cực g (u ) 1 e u 0 u (log-sigmoid (logsig)) Hàm sigmoid lưỡng cực g 1 2 (tan-sigmoid (tansig)) g (u ) 1 u u 1 e 0 -1 g Hàm bán kính g(u) =e-u u 7 Luan van Nguyễn Ngọc Âu 2.2 Cấu trúc mô hình mạng nơ-ron nhân tạo nhiều lớp Cấu trúc của mạng nơ-ron nhân tạo mô phỏng ý tưởng của mạng nơ-ron sinh học. Tuy nhiên, mạng nơ-ron nhân tạo có cấu trúc đơn giản hơn nhiều, về cả số lượng nơ-ron và cả cấu trúc mạng. Mạng nơ-ron nhân tạo các nơ-ron được kết nối sao cho có thể dễ dàng biểu diễn bởi một mô hình toán học nào đó. Mạng nơ-ron nhiều lớp gồm một lớp đầu vào và một lớp đầu ra, các lớp nằm giữa lớp đầu vào và lớp đầu ra gọi là các lớp ẩn (Hidden layers).
Mạng nơ-ron truyền thẳng là mạng hai hay nhiều lớp mà tín hiệu truyền theo một hướng từ đầu vào đến đầu ra, các nơ-ron được phân thành nhiều lớp, các nơ-ron chỉ được kết nối với các nơ-ron ở lớp liền trước hoặc liền sau lớp nó. Input Hidden Output layer layer layer x1 x2 Input Output xn Hình 2.3 Cấu trúc mô hình mạng nơ-ron nhân tạo nhiều lớp truyền thẳng 2.4 Phân loại mạng nơ-ron Tùy theo cách kết nối giữa các nơ-ron xác định nên cấu trúc mạng. Trọng lượng các kết nối được điều chỉnh hay được huấn luyện để đạt được các yêu cầu của mạng bởi thuật toán huấn luyện. Mạng nơ-ron có thể được phân loại theo cấu trúc và thuật toán huấn luyện.
Theo cấu trúc, mạng nơ-ron phân loại thành mạng truyền thẳng và mạng phản hồi. Mạng truyền thẳng nhiều lớp gồm có lớp vào, các lớp ẩn và lớp ra. Lớp vào sẽ nhận tín hiệu trực tiếp từ bên ngoài. Lớp ra gồm các nơ-ron có tín hiệu ra, đưa ra bên ngoài mạng.
Mạng phản hồi thì đầu ra của một số nơ-ron hồi tiếp ngược lại chính nó hay các nơ-ron trong lớp kế tiếp. Vì vậy, các tín hiệu có thể đi theo hai hướng truyền tới (forward) hay truyền lùi (backward). 8 Luan van Nguyễn Ngọc Âu Theo phương pháp huấn luyện có thể chia mạng theo các nhóm có phương pháp học tập có giám sát, phương pháp học tập không giám sát và phương pháp học tập củng cố hay học tăng cường.5 Mạng Perceptron nhiều lớp Mạng Perceptron nhiều lớp (Multilayer Perceptron – MLP) với thuật toán truyền ngược được sử dụng giải quyết nhiều vấn đề trong nhiều lĩnh vực khác nhau. Mạng gồm có một lớp ngõ vào, một hoặc nhiều lớp ẩn và một lớp ngõ ra.
Số lượng nơ-ron trong lớp ngõ vào bằng với số lượng biến đầu vào. Có thể nói rằng thuật toán truyền ngược là thuật toán học quan trọng nhất trong lĩnh vực mạng nơ- ron. Thuật toán được phát triển một cách độc lập bởi Werbos vào năm 1974, Par- ker vào năm 1985, Rumelhart, Hinton và Williams vào năm 1986, thuật toán truyền ngược đã được nhiều nhà nghiên cứu cải thiện nhằm cải tiến tốc độ hội tụ cũng như tăng cường tính ổn định của thuật toán. Về cơ bản, thuật toán truyền ngược là một thuật toán tìm theo chiều gradient âm và có giám sát.
Thuật toán truyền ngược bao gồm hai quá trình: quá trình lan truyền tiến và quá trình lan truyền ngược sai số. Trong quá trình lan truyền tiến, tín hiệu nhập được đưa vào mạng và tín hiệu truyền này xuyên qua mạng từ lớp này đến lớp khác. Cuối cùng một tập các tín hiệu xuất được tạo ở ngõ ra. Trong suốt quá trình lan truyền tiến các trọng số của mạng không thay đổi.
Trong quá trình truyền ngược, một tín hiệu sai số hay lỗi được truyền ngược xuyên qua mạng. Trong quá trình này các trọng số được hiệu chỉnh sao cho đáp ứng thực tế của mạng ngày càng đến gần với đáp ứng mong muốn. Quy trình huấn luyện phổ biến nhất là học có giám sát với giải thuật lan truyền ngược. Giải thuật lan truyền ngược thực thi phương pháp giảm Gradient nhằm cực tiểu sai số trung bình bình phương giữa ngõ ra và ngõ ra mong muốn.
Có nhiều giải thuật huấn luyện, trong đó thuật toán Levenberg-Marquardt được khuyến cáo áp dụng nhờ vào tốc độ hội tụ nhanh và cho độ chính xác nhận dạng cao [20]. Thông số mạng ban đầu là ngẫu nhiên, quá trình huấn luyện dừng khi đạt một trong các điều kiện như số vòng lặp đạt giá trị tối đa cài đặt, thời gian huấn luyện vượt giá trị tối đa, sai số đạt một mức cho phép,… 9 Luan van Nguyễn Ngọc Âu 2.2 Bộ phân lớp K-Nearest Neighbor Thuật toán K-Nearest Neighbor (K-NN) [21], [22] tìm ra các láng giềng gần nhất của mẫu học và quy về các nhãn lớp của chúng dựa trên các nhãn đa số, điều đó có nghĩa là các mẫu được quy về cùng lớp khi chúng là lân cận của nhau. Kỹ thuật này cho rằng vị trí trong không gian đặc trưng hàm ý một quan hệ họ hàng gần gũi ở giữa các nhãn lớp. K-NN phân lớp vec-tơ biến x chưa biết dựa vào các mẫu gần nhất cần xếp lớp và tất cả các mẫu huấn luyện.
Giải thuật đơn giản nhất là K=1 hay 1-NN. Các bước của thuật toán K-NN: Bước 1. Xác định số K, K được chọn phải là số lẻ cho trường hợp có 2 lớp hay số lớp chẵn. Tính khoảng cách giữa đối tượng cần phân lớp với tất cả các mẫu huấn luyện.
Khoảng cách Euclide thường được sử dụng. Xếp khoảng cách theo thứ tự tăng dần Bước 4. Xác định K láng giềng gần nhất với lớp. Chỉ định vec-tơ x thuộc vào lớp Ci với số mẫu K gần nhất là lớn nhất.