Bối cảnh và vấn đề nghiên cứu
Khóa luận tốt nghiệp chuyên ngành Khoa học Máy tính (Khoa Công nghệ Thông tin, Trường Đại học Sư phạm Thành phố Hồ Chí Minh, năm 2023) của tác giả Dương Tiến và Đoàn Minh Nhật, dưới sự hướng dẫn của TS. Nguyễn Viết Hưng, tập trung vào bài toán tự động hóa quá trình kí âm âm nhạc thông qua các kỹ thuật học sâu.
Trong thực tiễn sáng tác và lưu trữ âm nhạc, kí âm (music transcription) là quy trình ghi chép lại các âm thanh của một bài nhạc thành văn bản hoặc bản nhạc tương ứng, sử dụng hệ thống ký hiệu âm nhạc chuẩn mực. Quy trình này đòi hỏi người thực hiện không chỉ có kiến thức nhạc lý chuyên sâu mà còn cần khả năng cảm âm chuẩn xác nhằm xác định đúng cao độ (pitch) và trường độ (duration) của từng âm thanh phát ra. Do đó, việc kí âm thủ công từ các bản ghi âm nhạc cụ hoặc giọng hát tiêu tốn nhiều thời gian và công sức của nhạc sĩ. Trước thực trạng đó, nghiên cứu đặt ra vấn đề ứng dụng các thuật toán theo dõi cao độ đơn âm (monophonic pitch tracking) nhằm xây dựng hệ thống tự động hóa kí âm, hỗ trợ giảm thiểu thời gian sáng tác và đóng góp vào lĩnh vực Truy hồi Thông tin Âm nhạc (Music Information Retrieval - MIR).
Mục tiêu tổng quát của khóa luận là nghiên cứu, áp dụng kiến thức chuyên môn để xây dựng mô hình Học sâu (Deep Learning) rút trích giai điệu chính của bài hát, từ đó phát triển một ứng dụng kí âm tự động xuất kết quả dưới định dạng MIDI (Musical Instrument Digital Interface).
Để hiện thực hóa mục tiêu trên, nghiên cứu xác định ba nhiệm vụ cụ thể:
- Tìm kiếm và thu thập các bộ dữ liệu âm nhạc có chú thích giai điệu phù hợp.
- Xây dựng mô hình Học sâu nhằm rút trích đường cao độ giai điệu chính từ tệp âm thanh.
- Ứng dụng mô hình đã huấn luyện để thiết lập một hệ thống phần mềm kí âm tự động.
Về phạm vi nghiên cứu, đối tượng xử lý của đề tài là tín hiệu âm thanh bài hát dạng sóng (waveform), với mục tiêu trích xuất giai điệu chính đơn âm chiếm ưu thế (dominant melody) dựa trên dải 88 phím của đàn piano tiêu chuẩn. Không gian trích xuất bao gồm:
- Cao độ: Giới hạn trong 88 nốt nhạc từ phím A0 (tần số 27,5 Hz) đến C8 (tần số 4186 Hz).
- Trường độ: Thời lượng ngân vang của từng nốt nhạc.
- Thời điểm xuất hiện: Thời điểm bắt đầu (onset) và kết thúc (offset) của nốt nhạc.
Nghiên cứu giới hạn phạm vi, không thực hiện trích xuất các thuộc tính âm nhạc trừu tượng khác như kỹ thuật diễn tấu (legato, staccato), nhịp điệu (tempo/meter) hay điệu tính chính (key signature), do hệ thống sử dụng định dạng MIDI tiêu chuẩn để làm cấu trúc biểu diễn bản nhạc.
Cơ sở lý thuyết và phương pháp
Khóa luận xây dựng hệ thống dựa trên sự kết hợp liên ngành giữa lý thuyết âm nhạc phương Tây, kỹ thuật xử lý tín hiệu số (Digital Signal Processing - DSP) và các kiến trúc mạng nơ-ron học sâu.
Về mặt lý thuyết âm nhạc, nghiên cứu sử dụng hệ thống chuẩn ký hiệu cao độ khoa học (Scientific Pitch Notation - SPN) kết hợp với chuẩn cao độ quốc tế A440 (ISO 16), trong đó nốt A4 tương ứng với tần số chuẩn 440 Hz và nốt Middle C tương ứng với C4. Về cấu trúc tệp âm nhạc kỹ thuật số, giao thức MIDI được lựa chọn với cơ chế truyền thông điệp Kênh (Channel Messages), tối thiểu bao gồm lệnh kích hoạt Note On và ngắt âm Note Off. Khi không có thông điệp Set Tempo điều chỉnh riêng, nhịp độ mặc định của tệp MIDI được định mức ở 500.000 micro giây trên mỗi nốt đen (tương đương tốc độ 120 nhịp/phút). Định nghĩa giai điệu trong nghiên cứu áp dụng "Định nghĩa giai điệu 2" từ bộ dữ liệu MedleyDB: giai điệu là đường tần số cơ bản 1 chiều ($f_0$) của nguồn âm thanh chiếm ưu thế (nhạc cụ hoặc giọng hát) được kết hợp thành một đường chú thích duy nhất xuyên suốt thời lượng bài hát.
Trong xử lý tín hiệu số, phương pháp chuyển đổi tín hiệu liên tục sang rời rạc tuân thủ định lý lấy mẫu Nyquist-Shannon (tần số lấy mẫu tối thiểu phải gấp hai lần tần số cao nhất trong tín hiệu). Khóa luận áp dụng thuật toán Biến đổi Fourier ngắn hạn (Short-time Fourier Transform - STFT) sử dụng hàm cửa sổ Hann để khắc phục hiện tượng rò rỉ phổ (spectral leakage). Số lượng dải tần số ($N_{frequency_bins}$) và số lượng khung hình phân tích ($N_{frames}$) được xác định theo các công thức:
$$N_{frequency_bins} = \frac{N_{fft}}{2} + 1$$
$$N_{frames} = \frac{N_{sample} - n_{fft}}{hop_size} + 1$$
Từ biểu diễn Spectrogram ban đầu, tín hiệu được chuyển đổi sang thang đo Mel (Mel-spectrogram) nhằm mô phỏng đặc tính cảm nhận cao độ phi tuyến của thính giác người, giúp mạng nơ-ron phân biệt tốt hơn ở các dải tần số thấp.
Về phương pháp học máy, đề tài lựa chọn tiếp cận bài toán theo hướng phân loại có giám sát (supervised classification) thay vì bài toán hồi quy (regression). Miền tần số cơ bản $f_0$ được lượng tử hóa thành 89 nhãn lớp rời rạc, bao gồm nhãn 0 tương ứng với trạng thái không có giai điệu (unvoiced/silence) và các nhãn từ 1 đến 88 tương ứng với các nốt trên phím đàn piano tiêu chuẩn. Công thức quy đổi từ tần số $f_0$ sang giá trị nốt MIDI nguyên $m$ dựa trên chuẩn A440 được thiết lập như sau:
$$m = 12 \times \log_2\left(\frac{f_0}{440}\right) + 69$$
Nguồn dữ liệu thực nghiệm được thu thập từ ba tập dữ liệu công khai phục vụ nghiên cứu MIR: MedleyDB, ADC2004 và MIREX05.
Thiết kế và triển khai
Hệ thống được thiết kế thành một chuỗi xử lý hoàn chỉnh gồm tiền xử lý dữ liệu, mô hình học sâu rút trích cao độ và phân hệ hậu xử lý tạo tệp MIDI.
Quy trình tiền xử lý và đóng gói dữ liệu
Dữ liệu âm thanh thô định dạng .wav được chuẩn hóa về tần số lấy mẫu 44.100 Hz và chuyển thành tín hiệu đơn kênh (mono). Tín hiệu được phân tích STFT với kích thước cửa sổ phân tích $n_fft = 1024$ mẫu và bước nhảy $hop_size = 512$ mẫu. Tiếp đó, ma trận phổ được chuyển đổi thành Mel-spectrogram với 176 dải tần số Mel ($mel_bins = 176$), thiết lập tần số tối thiểu $f_{min} = 27,5$ Hz tương ứng với nốt A0.
Dữ liệu đặc trưng được cấu trúc theo các đơn vị thời gian:
- Mỗi khung hình phân tích (analysis frame) có độ dài bằng 5 khung STFT, tương đương thời lượng xấp xỉ 0,058 giây.
- Mỗi mẫu huấn luyện (patch) được tạo nên từ 210 khung hình phân tích liên tiếp, tương ứng 1050 khung STFT với tổng thời lượng 12 giây.
- Kích thước tensor đầu vào cho mỗi patch là
(batch_size, 1, 1050, 176).
- Kỹ thuật đệm dữ liệu (padding) được áp dụng cho các đoạn cuối bài hát không đủ 12 giây.
- Kỹ thuật lọc mẫu: Loại bỏ các patch có tỷ lệ khung hình gán nhãn 0 (không có giai điệu) vượt quá 20% nhằm giải quyết hiện tượng mất cân bằng lớp giữa các đoạn nhạc dạo và đoạn có giai điệu chính.
- Cơ chế quản lý bộ nhớ: Toàn bộ các patch đặc trưng và nhãn được lưu trữ trực tiếp xuống đĩa cứng thay vì nạp toàn bộ vào RAM, cho phép xáo trộn ngẫu nhiên đường dẫn dữ liệu trong quá trình huấn luyện và loại bỏ nguy cơ tràn bộ nhớ.
Kiến trúc mô hình mạng CRNN
Khóa luận xây dựng mô hình tích hợp Mạng nơ-ron tích chập và Mạng nơ-ron hồi quy (Convolutional-Recurrent Neural Network - CRNN) nhằm khai thác đồng thời đặc trưng không gian phổ và tính phụ thuộc thời gian:
- Khối trích xuất đặc trưng tích chập (CNN):
- Lớp tích chập thứ nhất: 64 bộ lọc (filters), kích thước kernel (5, 1) dùng để trích xuất năng lượng và mối tương quan giữa các dải điều hòa âm (harmonics). Tiếp theo là lớp Max Pooling 2D kích thước (5, 1).
- Lớp tích chập thứ hai: 64 bộ lọc, kích thước kernel (3, 3), theo sau bởi lớp Max Pooling 2D kích thước (5, 1) nhằm giảm chiều tensor đặc trưng.
- Lớp tích chập thứ ba: 64 bộ lọc, kích thước kernel (12, 5), theo sau bởi lớp Max Pooling 1D.
- Khối mô hình hóa chuỗi thời gian (RNN):
- Sử dụng lớp Bi-GRU (Bidirectional Gated Recurrent Units) gồm 128 đơn vị (units). Cơ chế cổng cập nhật (update gate) và cổng thiết lập lại (reset gate) của GRU giúp xử lý ngữ cảnh hai chiều của chuỗi âm thanh và hạn chế triệt để hiện tượng triệt tiêu đạo hàm (vanishing gradient).
- Khối phân loại đầu ra:
- Tầng kết nối đầy đủ (Fully Connected) kết hợp hàm kích hoạt Softmax, xuất ra tensor kích thước
(210, 89), biểu thị phân phối xác suất của 89 lớp cao độ trên từng khung hình trong 210 khung hình phân tích.
Phân hệ hậu xử lý và chương trình audio2midi
Kết quả dự đoán xác suất từ mô hình được xử lý tiếp qua các bước:
- Chuyển đổi ma trận phân loại thành mảng một chiều các giá trị nốt nhạc theo trục thời gian.
- Gộp các khung hình phân tích liên tiếp mang cùng giá trị cao độ thành một sự kiện nốt duy nhất nhằm xác định đúng trường độ.
- Loại bỏ các khung hình mang nhãn 0.
- Ứng dụng chương trình tự xây dựng mang tên
audio2midi (dựa trên thư viện Mido) để ghi các sự kiện thời gian và cao độ thành các cặp thông điệp Note On và Note Off chuẩn trong tệp MIDI.
Công nghệ phần mềm và thư viện thực thi được sử dụng trong hệ thống gồm: ngôn ngữ Python, framework học sâu PyTorch 1.13, thư viện âm thanh Torchaudio (phối hợp Librosa dự phòng), thư viện Madmom và thư viện xử lý thông điệp MIDI Mido. Quá trình kiểm tra kết quả trực quan được thực hiện qua các phần mềm Sonic Visualiser và Signal.
Nội dung chính theo từng chương
Chương Mở đầu
Chương này thiết lập cơ sở nghiên cứu của đề tài. Tác giả trình bày lý do chọn đề tài xuất phát từ nhu cầu giảm thiểu công sức kí âm thủ công cho nhạc sĩ, đồng thời thúc đẩy nghiên cứu lĩnh vực xử lý âm thanh trong cộng đồng sinh viên công nghệ thông tin. Chương xác định rõ mục tiêu chế tạo hệ thống trích xuất giai điệu kết hợp kí âm tự động, phân chia thành ba nhiệm vụ cụ thể, giới hạn phạm vi trong 88 nốt đàn piano tiêu chuẩn từ A0 đến C8 trên định dạng MIDI, và nêu rõ ý nghĩa khoa học cùng giá trị thực tiễn của công trình.
Chương 1: Cơ sở lí thuyết
Chương 1 cung cấp nền tảng kiến thức học thuật bao gồm bốn phân mảng chính:
- Nhạc lý: Giải thích các khái niệm âm sắc, cao độ ($f_0$), trường độ, chuẩn ký hiệu khoa học SPN, chuẩn A440, giao thức thông điệp kênh MIDI và ba định nghĩa giai điệu trong nghiên cứu MIR.
- Xử lý tín hiệu số: Trình bày cơ chế lấy mẫu theo định lý Nyquist-Shannon, phép biến đổi Fourier rời rạc (DFT), thuật toán FFT, biến đổi Fourier ngắn hạn (STFT) với hàm cửa sổ Hann, cùng nguyên lý biểu diễn của Spectrogram và Mel-spectrogram.
- Học máy và Học sâu: Hệ thống hóa mô hình học có giám sát, mạng nơ-ron nhân tạo (ANN), mạng tích chập (CNN), mạng hồi quy (RNN), cơ chế cổng GRU và mạng kết hợp CRNN.
- Ngôn ngữ và công cụ: Giới thiệu hệ sinh thái phát triển gồm Python, PyTorch 1.13, Mido, Librosa, Madmom và Torchaudio.
Chương 2: Tổng quan và tình hình nghiên cứu
Chương 2 tổng thuật lịch sử và hiện trạng nghiên cứu của lĩnh vực Truy hồi Thông tin Âm nhạc (MIR), vai trò của tổ chức ISMIR và chuỗi đánh giá thường niên MIREX từ năm 2005. Tác giả phân tích các thành tựu tiêu biểu gồm Google MusicLM (mô hình sinh nhạc từ văn bản ở 24 kHz), Spotify Basic Pitch (mô hình mạng tích chập 2 chiều chuyển đổi âm thanh đa nguồn sang MIDI) và CREPE (mô hình CNN theo dõi cao độ trực tiếp trên dạng sóng thời gian). Đồng thời, chương chỉ rõ thách thức về sự khan hiếm dữ liệu có bản quyền và tính chủ quan trong gán nhãn chuyên gia (nghiên cứu thực nghiệm dẫn chứng sự thống nhất giữa 4 chuyên gia chỉ đạt 73% trên hợp âm trưởng và 54% trên hợp âm phức tạp). Phần nghiên cứu liên quan tổng hợp các thuật toán kinh điển và hiện đại: thuật toán YIN (2002), pYIN kết hợp HMM (2014), mô hình CNN với Harmonic CQT của Bittner & McFee trên tập MedleyDB (2014), mô hình CRNN kết hợp tiền huấn luyện NMF của Dogac Basaran (2018), và mô hình kiến trúc Transformer T5 của Google Research với 54 triệu tham số.
Chương 3: Mô hình rút trích cao độ giai điệu chính từ bài hát
Chương 3 trình bày chi tiết giải pháp mô hình đề xuất. Tác giả lựa chọn hướng tiếp cận bài toán phân loại 89 lớp thay vì bài toán hồi quy, tiến hành khảo sát và tổ chức ba bộ dữ liệu (MedleyDB, ADC2004, MIREX05). Quy trình tiền xử lý xác lập các tham số kỹ thuật cụ thể: chuẩn hóa 44.100 Hz mono, STFT với $n_fft = 1024$, $hop_size = 512$, trích xuất Mel-spectrogram 176 dải tần số. Kỹ thuật chia patch thời lượng 12 giây (210 khung hình phân tích, mỗi khung 0,058 giây) và phương pháp loại bỏ patch có nhãn câm trên 20% được giải thích chi tiết. Thiết kế mạng CRNN được mô tả với 3 tầng CNN, tầng Bi-GRU 128 chiều và tầng phân loại Softmax. Cuối cùng, chương định nghĩa 5 chỉ số đánh giá theo tiêu chuẩn quốc tế: Tỷ lệ nhận diện giai điệu (Voicing Recall - VR), Báo động giả giai điệu (Voicing False Alarm - VFA), Độ chính xác cao độ thô (Raw Pitch Accuracy - RPA), Độ chính xác sắc độ thô (Raw Chroma Accuracy - RCA) và Độ chính xác tổng thể (Overall Accuracy - OA).
Chương 4: Thiết lập ứng dụng kí âm tự động
Chương 4 tập trung vào phương pháp hiện thực hóa ứng dụng phần mềm. Tác giả trình bày giải thuật hậu xử lý: làm phẳng ma trận dự đoán xác suất, gộp các khung hình phân tích liên tiếp có giá trị cao độ trùng nhau nhằm khôi phục trường độ tự nhiên của nốt nhạc, và loại trừ toàn bộ nhãn 0 tương ứng với khoảng lặng. Quy trình ánh xạ dữ liệu sau xử lý sang các sự kiện thông điệp MIDI (Note On, Note Off) thông qua chương trình audio2midi được triển khai cụ thể, kết hợp kiểm chứng kết quả xuất ra trên các phần mềm giao diện âm nhạc Sonic Visualiser và Signal qua tệp âm thanh minh họa Auctioneer_OurFutureFaces.
Chương 5: Thực nghiệm và kết quả
Chương 5 mô tả chi tiết môi trường thực nghiệm phần cứng, thiết lập tham số huấn luyện mô hình, và tiến hành đánh giá hiệu năng của hệ thống. Tác giả đối chiếu kết quả của mô hình đề xuất (ký hiệu trong bảng thực nghiệm là Thesis2023) với các công trình nghiên cứu đã công bố trước đó của các tác giả trong cộng đồng MIR trên các tập kiểm thử chuẩn, phân tích ưu nhược điểm của việc ứng dụng mạng CRNN trên dữ liệu Mel-spectrogram.
Chương 6: Kết luận
Chương tổng kết các kết quả đạt được của khóa luận trong việc xây dựng hoàn chỉnh chuỗi xử lý từ trích xuất giai điệu đến tạo tệp MIDI, đồng thời nêu rõ các giới hạn còn tồn tại và vạch ra định hướng mở rộng hệ thống trong tương lai.
Kết quả và đóng góp
Nghiên cứu đã thu thập và chuẩn hóa thành công ba bộ dữ liệu âm nhạc phục vụ huấn luyện và kiểm thử mô hình rút trích cao độ:
| Đặc tính dữ liệu |
MedleyDB |
ADC2004 |
MIREX05 |
| Số lượng bài hát |
108 bài có nhãn melody (62 bài vocal, 46 bài nhạc cụ) |
20 bài |
13 bài |
| Độ dài âm thanh |
Toàn bộ bài hát hoàn chỉnh |
Đoạn trích ngắn 30 – 35 giây |
Đoạn trích ngắn 30 – 35 giây |
| Định dạng tệp |
.wav mono/stereo |
.wav mono/stereo |
.wav mono/stereo |
| Tần số lấy mẫu |
44.100 Hz |
44.100 Hz |
44.100 Hz |
| Tần suất chú thích nhãn |
0,0058 giây (bảng thống kê ghi 0,0100 giây) |
Theo từng mốc thời gian |
Theo từng mốc thời gian |
| Phân loại thể loại |
9 thể loại âm nhạc |
Đa dạng đoạn trích |
Đa dạng đoạn trích |
Các kết quả và đóng góp chính của công trình gồm:
- Xây dựng thành công mô hình học sâu kết hợp CRNN (3 lớp CNN và 1 lớp Bi-GRU 128 đơn vị) giải quyết bài toán theo dõi cao độ dưới dạng phân loại đa lớp (89 nhãn), chuyển đổi tín hiệu Mel-spectrogram thành chuỗi cao độ chuẩn xác trên 88 phím đàn piano.
- Đề xuất giải pháp tiền xử lý và tổ chức dữ liệu hiệu quả: phân đoạn patch 12 giây (210 khung hình phân tích), kỹ thuật loại bỏ patch có nhãn tĩnh vượt 20% giúp cân bằng dữ liệu, và phương pháp lưu trữ đĩa cứng trung gian giúp tối ưu hóa dung lượng RAM trong quá trình huấn luyện.
- Xây dựng hoàn chỉnh chương trình kí âm tự động
audio2midi, tích hợp giải thuật hậu xử lý gộp khung hình để chuyển đổi trực tiếp kết quả trích xuất giai điệu sang tệp tin chuẩn MIDI, có thể mở và chỉnh sửa trực tiếp trên các phần mềm biên tập âm nhạc thương mại và mã nguồn mở (FL Studio, GarageBand, Ableton, Signal, Sonic Visualiser).
- So sánh hiệu năng mô hình đề xuất (
Thesis2023) với các nghiên cứu tiền nhiệm (như mô hình CRNN của Dogac Basaran 2018, mô hình CNN của Bittner & McFee) dựa trên hệ thống chỉ số chuẩn hóa của tổ chức MIREX: VR, VFA, RPA, RCA và OA.
Hạn chế và hướng nghiên cứu tiếp
Khóa luận chỉ rõ những hạn chế xuất phát từ phạm vi nghiên cứu và đặc thù của lĩnh vực:
- Vấn đề dữ liệu: Nguồn dữ liệu huấn luyện có gán nhãn chi tiết còn khan hiếm do rào cản bản quyền âm nhạc; việc tạo dữ liệu đòi hỏi chuyên gia thẩm âm thẩm định nhưng vẫn tồn tại độ lệch chủ quan giữa các chuyên gia.
- Phạm vi trích xuất: Mô hình mới chỉ tập trung trích xuất đường giai điệu chính đơn âm chiếm ưu thế (monophonic dominant melody), chưa giải quyết bài toán kí âm đa âm phức tạp (polyphonic transcription) cho toàn bộ các nhạc cụ chơi đồng thời trong bài nhạc.
- Thuộc tính âm nhạc: Hệ thống lược bỏ các thuộc tính âm nhạc trừu tượng như sắc thái diễn tấu (legato, staccato), phân tích nhịp phách và nhận dạng giọng/tông bài hát.
Hướng nghiên cứu tiếp được đề xuất gồm:
- Mở rộng kiến trúc mô hình và thuật toán để xử lý bóc tách và kí âm đa nhạc cụ cùng lúc từ các bản ghi âm đa âm phức tạp.
- Nâng cao độ phân giải thời gian của khung phân tích và tối ưu hóa số lượng tham số để mô hình có thể vận hành theo thời gian thực trên các thiết bị phần cứng tiêu chuẩn.
Giá trị tham khảo
Khóa luận là tài liệu tham khảo hữu ích cho sinh viên, học viên cao học và các nhà nghiên cứu thuộc các chuyên ngành Khoa học Máy tính, Công nghệ Thông tin, Kỹ thuật Dữ liệu và Xử lý Tín hiệu có định hướng nghiên cứu về âm thanh số và Truy hồi Thông tin Âm nhạc (MIR).
Các nội dung có giá trị tham khảo ứng dụng cao trong tài liệu gồm:
- Phương pháp luận chuyển đổi bài toán ước lượng tần số liên tục thành bài toán phân loại rời rạc 89 lớp tương ứng với chuẩn MIDI và hệ thống phím piano.
- Quy trình chuẩn hóa tín hiệu âm thanh số từ dạng sóng thô sang Mel-spectrogram thông qua STFT sử dụng thư viện Torchaudio và Librosa.
- Thiết kế kiến trúc mạng CRNN kết hợp CNN (trích xuất đặc trưng phổ) và Bi-GRU (mô hình hóa quan hệ chuỗi thời gian).
- Giải thuật hậu xử lý làm mịn dữ liệu và quy trình tạo tệp MIDI hoàn chỉnh thông qua việc cấu hình các thông điệp
Note On, Note Off bằng thư viện Mido.
Câu hỏi thường gặp
Khóa luận tiếp cận bài toán trích xuất giai điệu chính theo hướng hồi quy hay phân loại, và không gian nhãn được xác định như thế nào?
Tác giả lựa chọn tiếp cận bài toán theo hướng phân loại có giám sát (classification). Không gian nhãn gồm 89 lớp rời rạc: nhãn 0 đại diện cho trạng thái không có giai điệu (unvoiced/silence), và các nhãn từ 1 đến 88 tương ứng với 88 nốt nhạc trên đàn piano tiêu chuẩn từ A0 (27,5 Hz) đến C8 (4186 Hz), được lượng tử hóa theo công thức quy đổi tần số sang số nguyên MIDI dựa trên chuẩn A440.
Dữ liệu âm thanh đầu vào được tiền xử lý và phân đoạn thành các mẫu (patch) huấn luyện với kích thước ra sao?
Tín hiệu âm thanh được chuẩn hóa về định dạng mono với tần số lấy mẫu 44.100 Hz, chuyển đổi STFT ($n_fft = 1024$, $hop_size = 512$, cửa sổ Hann) để tạo Mel-spectrogram 176 dải tần số. Dữ liệu được cắt thành các khung phân tích dài 0,058 giây (tương đương 5 khung STFT). Mỗi patch huấn luyện gồm 210 khung phân tích liên tiếp (tương ứng 1050 khung STFT, độ dài 12 giây), tạo thành tensor đầu vào có kích thước (batch_size, 1, 1050, 176).
Mô hình học sâu đề xuất sử dụng kiến trúc mạng nào và chức năng của từng khối mạng là gì?
Mô hình đề xuất sử dụng kiến trúc tích hợp CRNN. Khối CNN gồm 3 lớp tích chập 64 bộ lọc (kích thước kernel lần lượt là (5, 1), (3, 3), (12, 5)) kết hợp các lớp Max Pooling nhằm trích xuất đặc trưng năng lượng phổ, mối tương quan giữa các dải điều hòa âm và giảm chiều dữ liệu. Khối hồi quy sử dụng mạng Bi-GRU 128 đơn vị để học mối quan hệ phụ thuộc theo thời gian hai chiều của giai điệu, trước khi đưa qua tầng Fully Connected và hàm Softmax để xuất nhãn phân loại.
Nhóm nghiên cứu xử lý vấn đề mất cân bằng dữ liệu và tối ưu hóa bộ nhớ RAM trong quá trình huấn luyện bằng cách nào?
Để xử lý mất cân bằng lớp giữa các đoạn nhạc dạo và đoạn có giai điệu, tác giả loại bỏ toàn bộ các patch có tỷ lệ khung hình mang nhãn 0 vượt quá 20%. Để tránh tràn bộ nhớ RAM do kích thước lớn của các tệp âm thanh, toàn bộ các patch Mel-spectrogram kèm nhãn sau tiền xử lý được lưu trữ trực tiếp xuống đĩa cứng, sau đó mô hình chỉ nạp đường dẫn và thực hiện xáo trộn ngẫu nhiên dữ liệu trực tiếp từ đĩa cứng khi huấn luyện.
Phần mềm audio2midi thực hiện những bước hậu xử lý nào để xuất ra tệp bản nhạc MIDI hoàn chỉnh?
Đầu ra xác suất của mô hình được làm phẳng thành mảng nốt một chiều theo thời gian. Thuật toán tiến hành gộp các khung hình phân tích liên tiếp có cùng giá trị cao độ để tái tạo trường độ nốt nhạc, loại bỏ hoàn toàn các khung mang nhãn 0, sau đó sử dụng thư viện Mido để tạo ra các thông điệp điều khiển kênh gồm Note On (thời điểm nốt bắt đầu vang lên) và Note Off (thời điểm kết thúc nốt), đóng gói thành tệp .mid hoàn chỉnh.
Kết luận
Khóa luận tốt nghiệp của tác giả Dương Tiến và Đoàn Minh Nhật đã giải quyết trọn vẹn bài toán tự động hóa quy trình kí âm âm nhạc từ bản ghi âm thông qua việc kết hợp kỹ thuật xử lý tín hiệu số và mô hình học sâu CRNN. Bằng việc chuyển đổi bài toán theo dõi cao độ thành mô hình phân loại đa lớp trên biểu diễn Mel-spectrogram và xây dựng công cụ chuyển đổi audio2midi, nghiên cứu đã cung cấp một giải pháp khả thi trong việc hỗ trợ sáng tác và lưu trữ âm nhạc tự động. Công trình là tài liệu tham khảo có giá trị học thuật và kỹ thuật thực nghiệm rõ ràng cho các nghiên cứu tiếp theo trong lĩnh vực Truy hồi Thông tin Âm nhạc tại Việt Nam.