Khóa luận: Phát triển hệ thống nhận diện khuôn mặt, giọng nói cho gương thông minh

Tìm hiểu gương thông minh tích hợp nhận diện khuôn mặt, giọng nói. Nâng tầm trải nghiệm sống hiện đại, tiện nghi cho không gian của bạn.

Chuyên ngành

Kỹ thuật Máy tính

Người đăng

Ẩn danh

Thể loại

Khóa luận tốt nghiệp

2022

47
0
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

1. CHƯƠNG 1: GIỚI THIỆU TONG QUAN VỀ GƯƠNG THONG MINH

1.1. Tổng quan

1.2. Giới thiệu về các hệ thống gương thông minh đã có trên thị trường

1.2.1. Hệ thống gương thông minh trên thế giới và lịch sử ra đời

1.2.2. Hệ thống gương thông minh tại Việt Nam

1.3. Những cải tiến em muốn hiện thực

2. CHUONG 2.1 Lý thuyết về gương hai ChiGU

2.1. Gương hai chiều

2.2. Công nghệ Electron

2.3. Hệ thống Server NodeJS

3. CAC PHAN CUNG SU DUNG TRONG HE THONG VA MO HINH HE THONG

3.1. Các phan cứng sử dung trong hệ thống

3.1.1. Board Raspberry Pi 4 Model B 2019

3.2. Mô hình hệ thống

3.2.1. Tổng quan hệ thống

3.2.2. Cách vận hành của gương thông Minh

3.2.3. Trình quan lí quy trình vận hành gương thông minh

4. CHƯƠNG 4: MO DUN NHAN DIỆN KHUÔN MAT VÀ GIỌNG NÓI

4.1. Nhận diện khuôn mặt

4.1.1. GiGi thigu 0 in

4.1.2. Thuật toán nhận diện khuôn mặt bằng DIIT

4.1.3. Kiểm tra kết quả phương pháp nhận diện khuôn mặt

4.1.4. Kết quả và kiểm thử hoạt động cùng với các mô-đun giao điện

4.2. Nhận diện và điều khiển gương bằng giọng nói

4.2.1. GiGi thigu CHUNG 1n

4.2.2. Các bước xây dựng từ khóa cho model

4.2.3. Kiểm tra kết quả phương pháp nhận diện giọng nói

4.2.4. Kết quả và kiểm thử hoạt động cùng với các mô-đun giao diện

5. CHƯƠNG 5: KET QUÁ THỰC NGHIỆM

5.1. Kết quả gương hoạt động trong thực tẾ

5.2. Mô hình khung ðƯƠNg

5.3. Thông số đo lường phan cứng khi gương hoạt động

6. CHƯƠNG 6: KET LUẬN VA HƯỚNG PHAT TRIEN

6.1. c0,

6.2. Hướng phát triỂn

DANH MỤC HÌNH VẼ

DANH MỤC BẢNG

DANH MỤC TU VIET TAT

TOM TAT KHÓA LUẬN

MỞ DAU

Tóm tắt

I. Gương thông minh Tổng quan và tiềm năng phát triển IoT

Gương thông minh không chỉ là một vật dụng quen thuộc trong cuộc sống hàng ngày mà còn là một giải pháp tích hợp đầy tiềm năng cho các hệ thống IoT như nhà thông minh. Với khả năng hiển thị thông tin, nhận lệnh, đưa ra thông báo và điều khiển các thiết bị, gương thông minh có thể được xem như một trợ lý ảo thu nhỏ. Tuy nhiên, tại Việt Nam, gương thông minh vẫn chưa phổ biến do giá thành cao và chức năng chưa được tối ưu. Khóa luận này tập trung vào nâng cấp hệ thống nhận diện khuôn mặtnhận diện giọng nói để đề xuất giao diện phù hợp với người dùng, giúp gương trở nên tối ưu hơn cho mọi lứa tuổi và đặc biệt là người dùng Việt. Gương thông minh ngoài chức năng chính để soi, còn tích hợp thêm nhiều chức năng đặc biệt như hiển thị thông báo, thời tiết, tin tức, cho phép người dùng tương tác trực tiếp thông qua điều khiển giọng nói và khuôn mặt để giải trí, đọc báo, nghe nhạc, cùng nhiều tính năng hữu ích khác. Để đáp ứng các chức năng đặc biệt, cấu tạo gương thông minh có sự khác biệt so với gương thường, đặc biệt là về chất liệu. Mặt gương có thể sử dụng kính hai chiều, kính Dieletric TV, hoặc Acrylic hai chiều, trong đó Acrylic hai chiều tráng một mặt là phổ biến nhất, với tỷ lệ phản xạ từ 80% đến 90%, cho phép hiển thị hình ảnh phía sau.

1.1. Lịch sử ra đời và phát triển của gương thông minh

Gương thông minh bắt nguồn từ ý tưởng của Michale Teeuw, người Hà Lan, vào năm 2014, với cảm hứng từ HomeMirror và Magic Mirror. Hiện nay, cộng đồng phát triển gương thông minh trên thế giới rất mạnh mẽ, với nhiều phiên bản và mã nguồn mở như Mirror OS, Magic Mirror Builder. Các công ty lớn như Samsung, LG cũng đã tham gia sản xuất nhiều sản phẩm. Tuy nhiên, tính năng của các gương thông minh này còn gói gọn trong một vài khuôn khổ nhất định, chưa có sự đa dạng. Gương thông minh hiện tại chủ yếu là công cụ hiển thị thông tin "cứng nhắc", được lập trình sẵn và làm theo lệnh mà không có sự tương tác, phản hồi. Hệ thống gương thông minh tiên tiến nhất hiện nay vừa có thể hiển thị giao diện đẹp, vừa có thể xem phim, đọc báo, vừa tích hợp cảm biến để theo dõi thay đổi của làn da, từ đó chăm sóc sức khỏe người dùng tốt hơn, theo [2].

1.2. Tình hình ứng dụng gương thông minh tại Việt Nam

Tại Việt Nam, một số nhà phát triển đã bắt đầu nghiên cứu và sản xuất gương thông minh, như Dehome, RoyalMirror. Các công ty lớn nhỏ khác nhau cũng kinh doanh và cung cấp các sản phẩm như HiMirror Mini, iHome Reflect. Một số resort ở các khu du lịch trong nước cũng đã tích hợp công nghệ này để mang đến trải nghiệm mới lạ cho du khách. Tuy nhiên, số lượng này vẫn còn ít do chi phí sản xuất cao, hệ điều hành không tối ưu cho người Việt. Những chiếc gương này chủ yếu lặp lại các tính năng cơ bản như hiển thị thông tin cài đặt sẵn hoặc trình chiếu hình ảnh cụ thể, và thường được nhập từ nước ngoài nên giá thành cao. Các đề tài nghiên cứu trước đây cũng cho thấy gương vẫn chỉ đơn thuần là màn hình trình chiếu, chưa có được sự tương tác với người dùng.

1.3. Mục tiêu cải tiến và phát triển hệ thống gương thông minh

Khóa luận này hướng đến cải tiến tương tác giữa người dùng và gương thông minh, giúp giao tiếp trở nên "mềm mại" hơn, không bị gò bó giữa việc ra lệnh và thực thi. Một số giải pháp được đề xuất: phát triển hệ thống nhận diện khuôn mặt để đề xuất giao diện cho người dùng, với mỗi người sẽ có một giao diện riêng theo sở thích; hiện thực điều khiển gương bằng giọng nói thông qua thuật toán Google Assistant, đồng thời cải tiến cú pháp giúp người dùng dễ dàng giao tiếp hơn; tạo ra các tương tác thông minh giữa gương và người dùng, cho phép gương phản hồi thông tin. Ngoài ra, còn nâng cấp và cải tiến tính năng để tăng độ chính xác của hệ thống.

II. Phân tích công nghệ cốt lõi Gương hai chiều và Electron AI

Gương hai chiều là loại gương có lớp mặt làm từ thủy tinh tráng một lớp chất liệu mỏng có khả năng phản xạ ánh sáng. Lớp phủ này hoạt động tương tự giấy dán kính một chiều, khi ánh sáng chiếu vào, phần lớn sẽ bị phản xạ lại, chỉ một ít xuyên qua. Khi mặt này được xoay về phía chiếu sáng, một số ánh sáng sẽ phản xạ, số khác sẽ xuyên qua. Điều này làm cho người đứng bên phía mặt tối thấy được phía bên sáng, nhưng ngược lại thì không. Tùy vào mục đích sử dụng, chất liệu tráng bạc cũng khác nhau. Electron là một framework dựa trên nền tảng NodeJs để xây dựng các ứng dụng cho máy tính sử dụng JavaScript, HTML và CSS chạy trên nền trình duyệt Chromium. Electron cho phép duy trì một cơ sở mã JavaScript và tạo các ứng dụng đa nền tảng hoạt động trên Windows, macOS và Linux [3].

2.1. Nguyên lý hoạt động của gương hai chiều Vật lý

Gương hai chiều có lớp mặt được làm bằng thủy tinh tráng phủ một lớp chất liệu mỏng có khả năng phản xạ ánh sáng. Lớp phủ này có công dụng giống như giấy dán kính một chiều. Khi có ánh sáng chiếu vào mặt này thì phần lớn sẽ bị phản xạ lại, chỉ có một ít có thể xuyên qua được. Khi mặt này được xoay về phía chiếu sáng thì một số ánh sáng sẽ phản xạ đi còn số khác sẽ xuyên qua bề mặt bên kia. Điều này làm cho người đứng bên phía mặt bên tối thấy được phía bên sáng nhưng ngược lại thì không. Và cũng tùy vào mục đích sử dụng mà chất liệu tráng bạc cũng sẽ khác nhau, ví dụ như ở phòng thẩm vấn trong đồn cảnh sát thì có độ phản xạ cao, tù nhân sẽ hoàn toàn không thể nhìn xuyên qua được, hay trong các cửa hàng bán hàng hay kính xe ô tô thì vẫn có thể nhìn xuyên qua được dù rất khó. Nó cũng giống như vào ban đêm, ta rất khó nhìn ra bên ngoài qua cửa kính nếu trong nhà bật đèn.

2.2. Tổng quan về công nghệ Electron và ứng dụng

Electron là một framework dựa trên nền tảng NodeJs để xây dựng các ứng dụng cho máy tính sử dụng JavaScript, HTML và CSS chạy trên nền trình duyệt Chromium. Electron cho phép duy trì một cơ sở mã JavaScript và tạo các ứng dụng đa nền tảng hoạt động trên Windows, macOS và Linux. Electronjs được sử dụng dé xây dựng các ứng dụng cho máy tính sử dụng JavaScript, HTML và CSS. Electron cho phép duy trì một cơ sở mã JavaScript và tạo các ứng dụng đa nền tảng hoạt động trên Windows, macOS và Linux.

2.3. Vai trò của NodeJS trong hệ thống gương thông minh

NodeJS là một mã nguồn mở được xây dựng dựa trên nền tảng Javascript V8 Engine, nó được sử dụng để xây dựng các ứng dụng web có thể chạy trên đa nền tảng. NodeJS cung cấp các thư viện phong phú ở dạng Javascript Module khác nhau giúp đơn giản hóa việc lập trình. Các đặc tính của NodeJS (không đồng bộ) cho phép tăng khả năng xử lý tác vụ song song và rút ngắn thời gian trễ giữa các lần yêu cầu từ phía người dùng. Việc ứng dụng NodeJS vào hệ thống gương thông minh giúp cho không tạo ra quá nhiều thời gian trễ giữa các tác vụ, nhằm đáp ứng yêu cầu của người dùng ngay lập tức. NodeJS cũng mang sở hữu rất nhiều mô-đun hữu ích vì đây là một Server cực kỳ phố biến đối với cộng đồng lập trình phía Backend ưa chuộng được gọi là các gói NPM - một tập hợp các thư viện có sẵn chỉ cần cai đặt về từ Internet với một câu lệnh đơn giản là hệ thống NodeJS sẽ tự đồng bộ và có thể sử dụng được ngay tức khắc. Đây là một số mô-đun cơ bản phô biến được nhóm sử dụng: Socket, Webserver, Express, MySql, HTTP, GPIO, Ledonoff.

III. Thiết kế hệ thống Phần cứng và mô hình hoạt động SmartHome

Raspberry Pi đóng vai trò là bộ não chính điều khiển toàn bộ hệ thống. Các thiết bị như cảm biến, camera kết nối đến Raspberry thông qua cổng USB và chân GPIO. Khi có tín hiệu điều khiển từ người dùng, thông qua các thiết bị ngoại vi đến gương thông minh (Raspberry). Server chứa các gói mô-đun, là hệ thống trung gian quan trọng trong việc nhận và thực thi các tác vụ điều khiển phần cứng lẫn phần mềm. Các mô-đun đã cài đặt trước đó sẽ được tải lên màn hình chính. Mô-đun thực thi nhiệm vụ được đảm nhận, một số truy vấn dữ liệu từ internet như giờ, lịch, tin tức. Raspberry thu thập thông tin cần thiết theo yêu cầu người dùng từ server. Hệ thống phản hồi lại yêu cầu của người dùng thông qua màn hình LCD, loa, đèn led, hiển thị thông tin người dùng yêu cầu.

3.1. Cấu hình phần cứng chi tiết của hệ thống gương thông minh

Board Raspberry Pi 4 Model B 2019 đóng vai trò trung tâm điều khiển, với Broadcom BCM2711, Quad core Cortex-A72 (ARM v8) 64-bit SoC @ 1.5GHz, RAM: 8GB LPDDR4-2400 SDRAM, Gigabit Ethernet, 40xGPIO, hỗ trợ 2 cổng Micro HDMI lên tới 4K, cổng AV 4 chân, khe cắm Micro-SD. Camera PS3 tích hợp microphone đến từ Sony, chuyên dùng cho PlayStation 3, hoạt động tốt ngay cả khi thiếu sáng, microphone đa hướng, độ phân giải 640x480 lên đến 60Hz, hoặc 320x240 lên đến 120Hz.

3.2. Quy trình vận hành và quản lý hệ thống Magic Mirror

Sau khi tải gói cài đặt MagicMirror từ Magic mirror builder và cài đặt, người dùng truy cập vào thư mục Magic Mirror bằng cửa sổ console trên Raspberry và thực hiện lệnh “npm start”. Hệ thống Electron sẽ khởi động và tải các mô đun đã định nghĩa trong hệ thống lên, tùy vào số lượng mô đun trong file “config.js”. Đối với sản phẩm hoàn thiện, hệ thống gương thông minh tự khởi động thông qua trình quản lý vận hành PM2, giúp người dùng không cần am hiểu về công nghệ thông tin vẫn có thể sử dụng được.

3.3. PM2 Trình quản lý quy trình vận hành gương thông minh

PM2 là trình quản lý quy trình vận hành cho các ứng dụng NodeJs với bộ cân bằng tải được tích hợp sẵn. Nó cho phép giữ cho các ứng dụng tồn tại mãi mãi, tải lại chúng mà không cần thời gian chết và tạo điều kiện thuận lợi cho các tác vụ quản trị hệ thống thông thường. PM2 là một platform mở, hiện đại, hiệu quả. Nó hoạt động trên Linux, MacOS cũng như Windows. Ở trong đề tài gương thông minh này thì PM2 đóng vai trò như một phần mềm để tự khởi động gương thông minh và là cách để giữ gương hoạt động trong trường hợp bị lỗi.

IV. Phát triển module Nhận diện khuôn mặt và giọng nói AI

Module MMM-Face-Reco-DNN có chức năng nhận biết người sử dụng gương, sử dụng DNN được cung cấp bởi OpenCV 4.1 và chính xác hơn so với phương pháp Haar Cascade cũ. Module cho phép quyết định hiển thị hay ẩn các mô đun khác nhau tùy thuộc vào người dùng được nhận dạng. Đồng thời, Google Assistant (GA) được sử dụng như một công cụ hỗ trợ thu nhận giọng nói và tương tác lại với người dùng, nhóm cũng xây dựng một keyword là “JARVIS” để kích hoạt hệ thống này.

4.1. Thuật toán Dlib HOG trong nhận diện khuôn mặt

Dlib là một chương trình của thư viện OpenCV, hỗ trợ người dùng trong việc xác định khuôn mặt. Thuật toán mà Dlib sử dụng đó là HOG — một phương pháp nhận diện khuôn mặt với thời gian chạy rất nhỏ và có thể sử dụng trong các hệ thống thời gian thực. Dlib cũng đã cung cấp thêm các hàm xác định khuôn mặt dựa trên mạng CNN giúp nâng độ chính xác khi nhận diện khuôn mặt. Để tiết kiệm tài nguyên bộ nhớ, và đề đáp ứng được nhu cầu thời gian thực, nhóm đã quyết định chọn phương pháp HOG để nhận diện. Khi chương trình bắt đầu sẽ bật camera và bắt đầu xử lý. Đầu tiên xác định vị trí khuôn mặt dựa trên phương pháp HOG, cắt vùng ảnh của khuôn mặt theo đúng kích thước đầu vào phù hợp với mô hình đã huấn luyện. Sau đó, mô hình sẽ cho ra | vector các đặc trưng của khuôn mặt. Tiếp theo nhóm sẽ tính độ tương đồng so với các bộ đặc trưng khuôn mặt đã được lưu trong cơ sở dữ liệu. ID của người đó sẽ được quyết định bởi yếu tố là phải là ID có độ tương đồng cao nhất và cao hơn ngưỡng quy định, ngược lại nếu thấp hơn thì xác thực thất bại.

4.2. Xây dựng mô hình điều khiển giọng nói với Google Assistant

Google Assistant (GA) được sử dụng đề hỗ trợ thu nhận giọng nói và tương tác lại với người dùng, đồng thời nhóm cũng xây dựng một keyword là “JARVIS” để kích hoạt hệ thống này. Khi có một người dùng bất kỳ (kể cả người lạ) đứng trước gương nhận diện được, thì một profile của người dùng đó được hiển thị, đồng thời đánh thức mô- đun Detector, mô-đun này sẽ nghe những gì người dùng nói và khi xác định được từ khóa, mô-đun sẽ đánh thức GA, và gửi lệnh của người dùng cho GA xử lí và GA trả về những lệnh cần thực thi điều khiển những mô-đun khác. Dưới đây là các bước sau khi phát triển thì ta sẽ có được một model có thể: kích hoạt hệ thống khi người dùng gọi keyword “JARVIS”, phân tích và xử lý các câu lệnh do người dùng tự định nghĩa, có khả năng tương tác hai chiều bằng giọng nói, linh hoạt, đối đáp với người sử dụng trong nhiều ngữ cảnh khác nhau.

V. Kết quả thực nghiệm Đánh giá hiệu suất và độ tin cậy

Kết quả thực nghiệm cho thấy gương hoạt động ổn định, với các hình ảnh thực tế về giao diện và các mô-đun chức năng. Module nhận diện khuôn mặt hoạt động ổn định và chính xác khi chưa kết hợp với thiết kế đa người dùng. Độ trễ phản hồi thấp < 1s, đồng thời độ nhận diện khuôn mặt chính xác cao cho cả trường hợp nhiều người dùng trong 1 khung hình (2 người). Khi kết hợp với các mô-đun giao diện, việc tiền xử lý và điều khiển ẩn hiện các mô-đun giao diện cần nhiều thời gian, đôi khi làm chậm việc load kết quả nhận diện. Hệ thống đôi khi nhận diện chưa đúng khi có hơn 3 người trong khung ảnh. Module nhận diện giọng nói có khả năng tương tác được với các mô-đun khác.

5.1. Kiểm thử độ chính xác của module nhận diện khuôn mặt

Độ chính xác của việc camera nhận diện phụ thuộc vào nhiều yếu tố khác nhau: ánh sáng, khoảng cách, mức độ dao động của vật thể, thuật toán nhận diện. Để đạt hiệu quả tối ưu, người dùng nên đứng trong tầm < 0,5m so với gương. Để đạt được hiệu quả nhận diện cao nhất, cường độ sáng rơi vào khoảng 50 — 100 lux (cường độ sáng phòng ngủ).

5.2. Đánh giá khả năng nhận diện giọng nói trong môi trường khác nhau

Để kiểm thử khả năng nhận diện cũng như thực thi lệnh của mô đun nhận diện giọng nói, nhóm đã xây dựng nên một số kịch bản để thử nghiệm với các tiêu chí đánh giá sau: Giới hạn độ nhiễu âm (độ ồn) mà mô đun có thể hoạt động được, thời gian đáp ứng lệnh của mô đun ở điều kiện lí tưởng. Thời gian đáp ứng lệnh của mô đun bao gồm 2 giai đoạn: thời gian phản hồi từ khóa và thời gian xử lí lệnh. Để đạt được hiệu quả tốt nhất cần đặt gương ở trong môi trường <=30dB (môi trường phòng vệ sinh, phòng ngủ,...).

5.3. Thông số phần cứng và hiệu suất hoạt động thực tế

Nhóm đã cài đặt và sử dụng mô-đun MMM-Tools để đo đạc thông số phần cứng, kiểm thử gương trong khoảng 20 phút hoạt động liên tục. Khi chưa kết hợp các mô-đun giao diện, nhiệt độ CPU khoảng 67 độ C, CPU sử dụng 53%, Ram sử dụng 404.6 Mb/8 Gb, bộ nhớ trong sử dụng khoảng 7%. Sau 20 phút hoạt động thì nhiệt độ tăng lên khoảng 73 độ. Khi đã kết hợp với các mô-đun giao diện, nhiệt độ CPU khoảng 68 độ C, CPU sử dụng 93%, Ram sử dụng 604.6 Mb/8 Gb, bộ nhớ trong sử dụng khoảng 8%. Sau 20 phút hoạt động thì nhiệt độ tăng lên khoảng 77 độ C và các thông số còn lại không thay đổi. Khi nhóm chạy tất cả mô dun và chia sẻ màn hình xem Youtube trên gương thì nhiệt độ cũng không thay đổi đáng kể chỉ rơi vào khoảng từ 75- 78 độ C tùy vào thời gian hoạt động của gương.

VI. Kết luận và hướng phát triển gương thông minh Tương lai

Dù kỹ năng và kiến thức về AI, Machine Learning và Deep Learning còn giới hạn, nhưng việc nghiên cứu tích hợp hệ thống nhận diện khuôn mặt và xây dựng model sử dụng điều khiển giọng nói đã giúp đúc kết được nhiều kinh nghiệm trong phát triển các sản phẩm thông minh trong lĩnh vực IoTs. Đề tài đóng góp một phần nhỏ cho cộng đồng Magic Mirror và áp dụng trí tuệ nhân tạo vào các sản phẩm IoTs để cải thiện trải nghiệm người dùng. Chiếc gương có thể hoạt động ổn định và đáp ứng các chức năng cần có như cảm ứng, màn hình hiển thị, nhận diện khuôn mặt, tương tác bằng giọng nói. Nếu được nâng cấp thêm, sản phẩm này có thể sử dụng để lắp đặt ở những nơi đông người như thang máy, trung tâm thương mại, trạm xe buýt để người dùng có những trải nghiệm mới.

6.1. Tổng kết các kết quả đạt được và hạn chế còn tồn tại

Sau thời gian nghiên cứu đề tích hợp hệ thống nhận diện khuôn mặt và xây dựng model sử dụng giọng nói đề điều khiển gương đã giúp em đúc kết được nhiều kinh nghiệm quý báu trong việc phát triển các sản phẩm thông minh trong lĩnh vực IOTs như việc được thực hành chạy mô phỏng gương trên môi trường linux, được tiếp xúc làm việc với NodeJs trên hệ thống electron, được làm việc trên máy tính nhúng Raspberry Pi. Qua đề tài này thì em cũng đóng góp được một phần nhỏ công sức cho cộng đồng Magic Mirror nói riêng đồng thời ngày nay trí tuệ nhân tạo cũng đang là xu thế vì vậy đây cũng là cơ hội vô cùng tốt đê áp dụng hiện thực trí tuệ nhân tạo vào các sản phẩm IOTs từ đó giúp cải thiện chất lượng trải nghiệm của người dùng. Ngoài một số điểm yếu như phần cứng còn chưa tốt, kéo theo tốc độ nhận diện còn chưa tối ưu thì về cơ bản chiếc gương này hoàn toàn có thể hoạt động ổn định và đáp ứng được những chức năng cần có của một thiết bị thông minh như cảm ứng, màn hình hiên thị giao diện đẹp đầy đủ tính năng, có thể nhận điện khuôn mặt và tương tác lại với người dùng bằng giọng nói.

6.2. Các hướng phát triển tiềm năng cho gương thông minh tương lai

Sau khi đã hoàn thành xong đề tài thì em cũng muốn cải tiên thêm ở một số điểm như: tạo thêm nhiều bộ lệnh để hệ thống có thể dễ dàng hiểu và thực hiện lệnh điều khiển của người dùng. Tối ưu hóa code để có thể điều khiển vận hành gương trơn tru hơn. Giải quyết những vấn đề còn tồn đọng như quá tải CPU, dữ liệu lưu trữ local còn nhiêu, ...

11/09/2025

Trích đoạn nội dung tài liệu

CHƯƠNG 1: GIỚI THIỆU TONG QUAN VE GƯƠNG THONG MINH 1.1 Tổng quan Gương thông minh ngoài chức năng chính đề soi thông thường còn tích hợp thêm một số chức năng đặc biệt khác như: e Kha nang hién thi thông bao, thời tiết hôm nay, tin tức và sự kiện quan trọng. e Cho phép người dùng tương tác trực tiếp nhờ hệ thống điều khiển giọng nói và khuôn mặt dé giải trí, đọc báo và nghe nhạc. e_ Còn rất nhiều tinh năng hữu ích khác. Dé đáp ứng một số chức năng đặc biệt của hệ thống nên về cấu tạo chiếc gương thông minh này sẽ có những sự khác biệt so với những chiếc gương bình thường khác mà dễ nhận thấy nhất đầu tiên đó là về chất liệu.

Thông thường thì mặt gương sẽ là thủy tỉnh tráng bạc nhưng ở đây mặt gương có thê được sử dụng như kính hai chiều, kính Dieletric TV, Acrylic hai chiều. Nhưng phô biến nhất là Acrylic hai chiều được tráng một mặt nên tỉ lệ phản xạ khoảng từ 80% đến 90% từ đó có thé hiển thị được những hình ảnh phía sau nhờ một phần ánh sáng đi qua mặt gương bên kia[1]. Hình 1: Gương thông minh cho phép người dùng xem thông tin thời tiết 3 1.2 Giới thiệu về các hệ thống gương thông minh đã có trên thị trường 1.1 Hệ thống gương thông minh trên thế giới và lịch sử ra đời Gương thông minh là sản phẩm của nhà sáng lập Michale Teeuw người Hà Lan phát hành vào năm 2014 ban đầu được lay cảm hứng từ HomeMirror va Magic Mirror. Hiện nay cộng đồng phát triển hệ thống gương thông minh trên thé giới phát triên rât mạnh và cho ra rât nhiêu phiên bản cũng như mã nguôn mở như: Mirror OS, Magic Mirror Builder.

Cùng với sự góp mặt của các công ty lớn như Samsung, LG. đã cho sản xuất nhiều sản phẩm có mặt trên thị trường. Tuy nhiên, xét về tính năng thì những chiếc gương thông minh này chỉ gói gọn trong một vài khuôn khô nhất định mà chưa có sự đa dang. Cụ thé ở đây, gương thông minh hiện tại chỉ là công cụ dé hiển thị thông tin “cứng nhắc”, được lập trình sẵn và làm theo lệnh được đặt ra mà không có sự tương tác, phản hồi.

Hình 2 dưới đây là một trong số những hệ thống gương thông minh tiên tiến nhất hiện nay khi nó vừa có thé hiền thi giao diện đẹp, vừa có thể xem phim đọc báo vừa tích hợp những cảm biến dé có thé theo đõi những thay déi của làn da từ đó có thé chăm sóc sức khỏe người dùng tốt hơn [2].2 Hệ thống gương thông minh tại Việt Nam Ở nước ta cũng bắt đầu có một số nhà phát triển nghiên cứu sản xuất có thé kế đến như Dehome, RoyalMirror. Các công ty lớn nhỏ khác nhau cũng đã kinh doanh và cung cấp các sản phâm như HiMirror Mini, iHome Reflect. Một số resort ở các khu du lịch trong nước cũng đã tích hợp công nghệ này tại khách sạn của minh dé mang đến một trải nghiệm mới lạ cho du khách. Tuy nhiên, số lượng này vẫn còn ít vì hiện tại những chiếc gương này vẫn còn nhiều hạn chế như chi phí sản xuất cao, hệ điều hành không tối ưu dành riêng cho người Việt.

Và những chiếc gương đó chủ yếu lặp đi lặp lại những tính năng cơ bản như hiển thị thông tin được cài đặt sẵn hoặc một vài loại trình chiếu hình ảnh cụ thể và do thường được nhập từ nước ngoài nên giá thành cao khó tiếp cận được với người dùng. Cũng như ở những đề tài gương thông minh đã xây dựng trước của những anh chị, em nhận thấy rằng gương vẫn chỉ đơn thuần là một màn hình trình chiếu, chưa có được sự tương tác với người dùng. Nhận thấy điều đó mà em đã lựa chọn phát triên hệ thông này với mong muôn cải tiên đê có thêm nhiêu sự đa dạng về phiên bản cho người dùng lựa chọn. Hình 3: Gương thông minh được dùng trong resort dé mang lai cảm giác mới la cho khách du lich 1.3 Những cải tiến em muốn hiện thực Trong khuôn khổ khóa luận này em muốn hướng đến những cải tiến về tương tác giữa người dùng và gương thông minh, giúp việc giao tiếp giữa người và gương trở nên “mềm mại” hơn, không bị gò bó giữa việc người dùng ra lệnh và gương thực thi.

Dé có thé hướng đến cải tiến như trên em xin đề xuất một số giải pháp: e Phat triển hệ thống nhận diện khuôn mặt đề đề xuất giao diện cho người đang đứng trước gương. Cụ thê hơn với mỗi người dùng nhận diện được sẽ cho ra một giao diện cụ thê dựa theo sở thích của người đó. e Hiện thực giọng nói dé điều khiển gương thông qua thuật toán nhận diện giọng nói Google Assistant. Đồng thời cải tiến thêm về mặt cú pháp giúp người dùng dé dang giao tiếp với gương hơn.

e Tạo ra một số tương tác thông minh giữa gương với người dùng. Cho phép gương có thé phản hồi lai thông tin được đưa ra bởi người dùng. Ngoài ra, em còn nâng cấp và cải tiến thêm một số tính năng đề tăng tính độ chính xác cho hệ thống chất lượng hơn các sản phẩm cũ từ đó tăng tính da dang, dong góp cho cộng đông nghiên cứu ở lĩnh vực nay. - ¬ L_ _| FACE DETECTION Hinh 4: Face Recognition va Voice Control CHUONG 2.1 Lý thuyết về gương hai chiều 2.1 Gương hai chiều Gương hai chiều là loại gương có lớp mặt được làm bang thủy tinh có trang dan phủ một lớp chất liệu mỏng có thé phản xạ ánh sáng.

Đặc điểm của lớp phủ này có công dụng giống như giấy dán kính một chiều, khi có ánh sáng chiếu vào mặt này thì phần lớn sẽ bị phản xạ lại chỉ có một ít có thể xuyên qua được nhưng bạn rất khó dé cảm nhận được. Khi mặt này được xoay về phía chiếu sáng thì một sỐ ánh sáng sẽ phản xạ đi còn số khác sẽ xuyên qua bề mặt bên kia. Điều này làm cho người đứng bên phía mặt bên tối thấy được phía bên sáng nhưng ngược lại thì không. Và cũng tùy vào mục đích sử dụng mà chất liệu tráng bạc cũng sẽ khác nhau, ví dụ như ở phòng thâm van trong đồn cảnh sát thì có độ phan xạ cao, tù nhân sẽ hoàn toàn không thể nhìn xuyên qua được, hay trong các cửa hàng bán hàng hay kính xe 6 tô thì van có thé nhìn xuyên qua được du rất khó.

Nó cũng giống như vào ban đêm, ta rất khó nhìn ra bên ngoài qua cửa kính nếu trong nhà bật đèn. Loại gương này thường dùng trong các cửa kính xe oto, một sô tường kính của các cửa hang,. Hình 5: Hai mặt của gương hai chiều 2.2 Công nghệ Electron Electron là một framework dựa trên nền tảng NodeJs dé xây dựng các ứng dụng cho máy tính sử dụng JavaScript, HTML và CSS chạy trên nền trình duyệt Chromium. Electron cho phép duy trì một cơ sở mã JavaScript và tạo các ứng dụng đa nền tảng hoạt động trên Windows, macOS và Linux [3].3 Hệ thống Server NodeJS Node.js Server Request _—— Event Request Loop ———> elegate Non- Requests 66 blocking IO Requests Thread ô THỊ NodeJS là một mã nguồn mở được xây dựng dựa trên nền tảng Javascript V8 Engine, nó được sử dụng dé xây dựng các ứng dung web có thé chạy trên đa nền tảng.

NodeJS cung cấp các thư viện phong phú ở dạng Javascript Module khác nhau giúp đơn giản hóa việc lập trình. Các đặc tính của NodeJS (không đồng bộ) cho phép tăng khả năng xử lý tác vụ song song và rút ngắn thời gian trễ giữa các lần yêu cầu từ phía người dùng. Việc ứng dụng NodeJS vào hệ thống gương thông minh giúp cho không tạo ra quá nhiều thời gian trễ giữa các tác vụ, nhằm đáp ứng yêu cầu của người dùng ngay lập tức. NodeJS cũng mang sở hữu rất nhiều mô-đun hữu ích vì đây là một Server cực kỳ phố biến đối với cộng đồng lập trình phía Backend ưa chuộng được gọi là các gói NPM - một tập hợp các thư viện có sẵn chỉ cần cai đặt về từ Internet với một câu lệnh đơn giản là hệ thống NodeJS sẽ tự đồng bộ và có thé sử dung được ngay tức khắc.

Đây là một số mô-đun cơ bản phô biến được nhóm sử dụng: Socket, Webserver, Express, MySql, HTTP, GPIO, Ledonoff,.4 Google Colab Là một nền tảng cung cấp sức mạnh phần cứng cho các nghiên cứu về máy học và trí tuệ nhân tạo từ Google. Dựa trên Jupyter notebook, nó cho phép chạy các dong code Python thông qua trình duyệt, đặc biệt phù hợp với Data analysis, machine learning. Nhóm tận dụng dé xây dựng và huấn luyện các model cho việc xử lý ảnh [5]. CÁC PHAN CỨNG SU DỤNG TRONG HE THONG VÀ MO HINH HE THONG 3.1 Các phan cứng sử dung trong hệ thống 3.1 Board Raspberry Pi 4 Model B 2019 Hình 9: Board mạch trung tâm Raspberry Pi 4 Thông số kĩ thuật: e Broadcom BCM2711, Quad core Cortex-A72 (ARM v8) 64-bit SoC @ 1.

e RAM: 8GB LPDDR4-2400 SDRAM. e Cổng mang Gigabit Ethernet. e 40xGPIO, tương thích với các phiên ban trước. e H6 trợ 2 công ra màn hình chuân Micro HDMI với độ phân giải lên tới 4K.

e Cổng AV 4 chan. e Khe cắm Micro-SD cho hệ điều hành và lưu trữ. e Nguồn điện DC 5V — 3A DC chuẩn USB-C. e 5V DC via GPIO header (minimum 3A*).

e Hỗ trợ Power over Ethernet (PoE) (yêu cầu có PoE HAT) [6].2 Camera PS3 Hình 10: Camera PS3 tích hợp microphone Day là camera đến từ hãng Sony chuyên dùng dé chơi game cho máy PlayStation 3 hoạt động tốt ngay cả khi thiếu sáng và tích hop microphone đa hướng. Thông số kĩ thuật: e Hai độ phân giải: 640x480 lên đến 60Hz, và 320x240 lên đến 120Hz ° Ong zoom vat ly: 56 độ (cham đỏ) và 75 độ (chấm xanh) e Microphone: Đa hướng, cho âm thanh 16bit 48KHz e_ Cổng giao tiếp: USB 2.0 e Công suất tiêu thụ: 5V, Tối đa 500mA 13 3.2 Mô hình hệ thống 3.1 Tổng quan hệ thống Sever HTTP API Rashberry Actor database A Các thiết bi ngoại vi( cảm biên nút,micro,.) _—_ gương thông minh Hình 11: Sơ đồ tong quan hệ thống Raspberry sẽ đóng vai trò như bộ não chính điều khiển toàn bộ hệ thống. Các thiết bị như cảm biến, camera sẽ được kết nói đến Raspberry thông qua các công USB và chân GPIO. Bước 1: Khi có tín hiệu điều khiến từ người dùng, thông qua các thiết bị ngoại vi (như cảm ứng chạm, giọng nói, nhận diện khuôn mặt, tín hiệu từ các thiết bị điện tử khác, .) đến gương thông minh, hay đúng hơn là đến board Raspberry.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ