Luận văn: Giải pháp thiết kế và đánh giá hiệu năng siêu máy tính CPU-GPU

Luận văn phân tích giải pháp thiết kế, đánh giá hiệu năng siêu máy tính kiến trúc CPU-GPU. Trình bày tổng quan kiến trúc, mô hình và thử nghiệm.

• Tác giả: Nguyễn Trí Trung
• Người hướng dẫn: TS. Nguyễn Kim Khánh
• Trường học: Đại học Bách Khoa Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Thiết kế siêu máy tính CPU-GPU: Đánh giá hiệu năng
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2015
• Địa điểm: Hà Nội

Tóm tắt

I. Giới thiệu về Kiến trúc CPU GPU trong Siêu máy tính

Thiết kế siêu máy tính CPU-GPU đã trở thành xu hướng chủ đạo trong lĩnh vực tính toán hiệu năng cao (HPC). Sự kết hợp giữa CPU (Central Processing Unit) và GPU (Graphics Processing Unit) tạo ra một hệ thống tính toán không đồng nhất, cho phép xử lý các bài toán phức tạp với tốc độ vượt trội. Kiến trúc tính toán CPU-GPU kết hợp khả năng xử lý nối tiếp của CPU với sức mạnh tính toán song song của GPU, tạo nên một giải pháp tối ưu cho các ứng dụng đòi hỏi hiệu năng cao. Mô hình này không chỉ cải thiện tốc độ xử lý mà còn giảm tiêu thụ năng lượng, làm cho siêu máy tính CPU-GPU trở thành lựa chọn ưu tiên cho các trung tâm tính toán và các tổ chức nghiên cứu toàn cầu.

1.1. Khái niệm Siêu máy tính và Tính toán Đa dụng GPU

Siêu máy tính là hệ thống máy tính có khả năng tính toán với hiệu năng rất cao, được đo lường bằng đơn vị FLOPS (Floating Point Operations Per Second). GPGPU (General Purpose GPU) cho phép sử dụng GPU không chỉ để xử lý đồ họa mà còn cho các bài toán tính toán chung. Mô hình không đồng nhất CPU-GPU kết hợp hiệu quả của cả hai bộ xử lý, cho phép tối ưu hóa hiệu năng trong các ứng dụng khoa học và kỹ thuật phức tạp.

1.2. Lịch sử Phát triển Siêu máy tính

Lịch sử siêu máy tính bắt đầu từ thập niên 1960 với những máy tính lớn đầu tiên. Thời kì 1970-1990 chứng kiến sự phát triển của bộ xử lý vector, tăng cường khả năng tính toán song song. Từ năm 1990 đến nay, siêu máy tính hiệu ứng CPU-GPU đã thay thế các thiết kế truyền thống, cung cấp năng suất tính toán cao hơn gấp nhiều lần so với các thế hệ trước.

II. Kiến trúc Tính toán CPU GPU và Các Thành phần Chính

Kiến trúc tính toán CPU-GPU được thiết kế dựa trên nguyên lý tính toán không đồng nhất, nơi CPU đảm nhận các tác vụ điều khiển và xử lý nối tiếp, trong khi GPU xử lý các tác vụ tính toán song song với quy mô lớn. Hệ thống này bao gồm các nút máy chủ, bộ nhớ chia sẻ, và các kênh truyền thông cao tốc kết nối các thành phần. Cơ chế làm việc giữa CPU và GPU đòi hỏi sự phối hợp chặt chẽ thông qua các API như CUDA (Compute Unified Device Architecture) của NVIDIA. Thiết kế siêu máy tính CPU-GPU cho phép giảm độ trễ truyền thông và tối ưu sử dụng bộ nhớ, tạo nên một hệ thống tính toán vô cùng hiệu quả.

2.1. Thành phần GPU và Streaming Multiprocessor

GPU bao gồm hàng trăm hoặc hàng nghìn Streaming Multiprocessor (SM), mỗi cái chứa nhiều core xử lý. Kiến trúc này cho phép GPU xử lý hàng triệu luồng (threads) đồng thời thông qua cơ chế SIMT (Single Instruction Multiple Thread). Các SM được tối ưu hóa để xử lý song song với độ trễ thấp, làm cho GPU trở thành công cụ lý tưởng cho các bài toán tính toán dữ liệu lớn.

2.2. Cơ chế Phối hợp và Giao tiếp CPU GPU

CPU điều phối các tác vụ tính toán và gửi kernel xuống GPU thông qua driver GPU. Giao tiếp giữa CPU và GPU diễn ra qua PCI Express (PCIe), một kênh truyền dữ liệu cao tốc. CUDA cung cấp mô hình lập trình cho phép các nhà phát triển tận dụng sức mạnh của GPU một cách hiệu quả, tối ưu hiệu năng tổng thể của hệ thống.

III. Phân loại Hệ thống Máy tính Cụm

Hệ thống máy tính cụm (Cluster) sử dụng kiến trúc CPU-GPU được phân loại thành nhiều mô hình khác nhau. Mô hình cụm Beowulf là hình thức phổ biến nhất, gồm các nút máy tính riêng biệt kết nối qua mạng Ethernet hoặc InfiniBand tốc độ cao. Hệ thống cụm máy chủ với GPU cung cấp khả năng mở rộng vô hạn cho các ứng dụng tính toán phân tán. Thiết kế siêu máy tính CPU-GPU trong cụm cho phép cân bằng tải động và tối ưu sử dụng tài nguyên. Các hệ thống hiện đại sử dụng cơ chế quản lý tài nguyên tiên tiến để đảm bảo hiệu suất cao nhất và độ tin cậy trong các hoạt động liên tục.

3.1. Mô hình Cụm Beowulf và Kiến trúc Phân tán

Cụm Beowulf sử dụng CPU-GPU là một mô hình tính toán phân tán chi phí hiệu quả. Mỗi nút trong cụm có CPU đa nhân và một hoặc nhiều GPU, cho phép xử lý song song trên quy mô lớn. Kênh truyền thông InfiniBand hoặc Ethernet tốc độ 10Gbps+ kết nối các nút, giảm độ trễ và tăng thông lượng dữ liệu. Mô hình này cho phép mở rộng ngang bằng cách thêm các nút mới mà không làm ảnh hưởng đến hiệu năng toàn hệ thống.

3.2. Quản lý Tài nguyên và Nút Lưu trữ

Nút máy chủ trong cụm chịu trách nhiệm điều phối công việc và quản lý tài nguyên cho toàn hệ thống. Nút lưu trữ sử dụng RAID hoặc NAS để cung cấp bộ nhớ chia sẻ có thông lượng cao cho tất cả các nút tính toán. DMA (Dynamic Memory Access) cho phép GPU truy cập bộ nhớ chính trực tiếp mà không cần sự can thiệp của CPU, giảm chi phí truyền dữ liệu và cải thiện hiệu suất tổng thể của hệ thống cụm.

IV. Đánh giá Hiệu năng Kiến trúc Tính toán CPU GPU

Đánh giá hiệu năng là bước quan trọng để xác định hiệu quả của hệ thống siêu máy tính CPU-GPU. Các phương pháp đánh giá bao gồm benchmark tính toán, đo lường độ trễ, và phân tích tiêu thụ năng lượng. Bài toán tính toán đơn vị như tính độ dài cạnh huyền của tam giác giúp đánh giá hiệu năng các nút tính toán riêng lẻ. Hiệu năng hệ thống được đo bằng GFLOPS (Gigaflops), cho biết số lượng phép toán dấu phẩy động được thực hiện mỗi giây. Các công cụ đánh giá hiệu năng hiện đại như LINPACK và HPL được sử dụng để so sánh và xếp hạng các siêu máy tính trên toàn thế giới, đảm bảo chất lượng hiệu năng cao nhất.

4.1. Phương pháp Benchmark và Công cụ Đánh giá

Benchmark là công cụ không thể thiếu để đánh giá hiệu năng của kiến trúc CPU-GPU. LINPACK là một bài toán benchmark tiêu chuẩn, được sử dụng để đo hiệu năng của siêu máy tính bằng cách giải hệ phương trình tuyến tính lớn. HPL (High Performance Linpack) cung cấp hiệu suất tối đa mà hệ thống có thể đạt được. Các công cụ đo lường khác như STREAM đánh giá thông lượng bộ nhớ, giúp xác định các nút thắt hiệu năng trong hệ thống.

4.2. Chỉ số Hiệu năng và Kết quả Đánh giá

Các chỉ số hiệu năng chính bao gồm GFLOPS, độ trễ truyền thông, và hiệu suất năng lượng (GFLOPS/Watt). Hiệu suất thực tế thường thấp hơn hiệu suất lý thuyết do chi phí giao dịch, độ trễ bộ nhớ, và chi phí đồng bộ hóa. Kết quả đánh giá cho thấy hệ thống CPU-GPU đạt hiệu suất 50-70% so với giới hạn lý thuyết, điều này chấp nhận được cho các ứng dụng thực tế phức tạp.

Trích đoạn nội dung tài liệu

LO1 CAM DOAN éi mục đích nghiên cứu, học tập dé nang cao kiến thức và trinh độ chuyên nôn nên lôi đã làm luận văn rrấy miột cách hoàn toàn nghiệm Lúc và trưng thực. Trong luận văn, tỏi có sử dụng và trích đẫn từ một số tải liệu của cáo tác giả khác. Tôi dã nêu trong, phân tài liễu tham khảo ở cuối luận văn. Tỏi xin cam đoan và chịu trách nhiệm vẻ nội dung và sự trung thực trong luận văn lốt nghiệp Thạc sĩ của mình Tà Nội, tháng 9 năm 201 5 lọc viên Nguyễn Trí Trung, LOLCAM ON Đầu tiên, tỏi xin bảy tổ lòng biết ơn chân thành vá xin dược gửi lời cảm ơn sâu sắc nhất đến thầy giáo TS.

Kguyễn Kim Khánh, người đã trực tiếp hướng dẫn và định hướng cho tôi giải quyết các vẫn để khó khăn trong klui làm luận văn. Những kiến thức tôi trinh bảy trong luận vẫn này một phân lả kết quả của hai xăm tôi có cơ hội học tập chương trình thạc sĩ ở Viện Công nghệ Thỏng tin, dai học Bách Khoa Hà Nội. Tôi xin gửi lời cám ơn chân thành đến các thấy cổ giáo ở viện. CNTT, phỏng Dão tạo sau đại học, DI IBK 11à Nội đã tạo điểu kiện thuận lợi cho tôi trong thời gian học tập tại trường, Tôi cũng xin gửi lời cám ơn gia đình, người thân và bạn bẽ tôi vì luôn là nguồn động lực đổi đào giúp tôi có có thể hoàn thành luận văn này.

Hà Nội, tháng 9 năm 2015 MỤC LỤC LỜI CAM ĐOAN. TÔI MỔ DẦU. DANH MỤC THUẬT NGỮ, DANH MỤC HÌNH VỀ BẰNG BIẾU. CHUGNG I: GIỚI THIỆU DE TAI 1.

Nột dung dé fat. Phạm vi đổi kượng của để làI. Lý do và mục đích chọn để tài. CHƯƠNG2: TỎNG QUAN KIỀN TRÚC GEI 21.

Lich sir GPU. Kilén trie GPU. Đường ắng din dé hoa (Graphics Pipeline). Tiễn hóa của kiến trúc GP.

Kiến trúc của GPU 2. - Tỉnh toán trên GPU. 231 'Tẳng quan về mô hình tinh fan trén GPU .2 Cơ chế đa luỗng của GPU. Kiến trúc đalãt cũa ŒPU.

24, Tổng kết GPU. CHƯƠNG 3: KIÊN TRÚC MÔ HÏKH TÍNH TOÁN CPU-GPU 3.1 Tổng quan về tính toán đa dụng GPU (GPGPU).2 __ Giới thiệu về mỏ hinh tính toán không đồng nhất CPU IGPU.3 Kiên trúc hệ thắng tính toán không đẳng nhất CPU GPU. Kiến trúc tính foán CPU ŒDU riêng biệt, ane BD. Kiến trúc tính toán CPU-GPU hợp nhất.

Cơ chế làm việc giữa GPU và GPL trong hệ tính foán không dỏng nhất CPU GPL 58 CHƯƠNG 4: SIỀU MÁY TÍNH VÀ MÔ HÌNH SIÊU MÁY TINH SU DUNG KIRN TREC TÍNH TOÁN CPU-GPU.1L Phan loại hệ thông máy tính. Lịch sử ra dời và phát triển của siêu máy tính 41.1 Thời ki dau (1960-1969).2 Thời kì sử dụng bộ xử ý vector (1970-1990) 41. Thời kì gần đây (1990 nay 43. Phân loại hệ thẳng siêu máy tính.

Hệ thống cụm máy tỉnh.1 Phânloại mô bình cụm máy tỉnh 4.42 Hệ thống máy tính cụm Bcowulf, 4.43 lệ thống mạng/cụu máy lính trạm. __ Hệ thống siêu máy tính đựa trên mô hình máy tĩnh cạm sử đụng kiến trúc tính toàn CPU-GPU, “81 445. Nút máy chủ và nútlưu trữ; quản lý thiết bị ngoại vì. Cuntnroc diém cin bé thong siêu máy tỉnh cụm Beowtlf đựa trên kiến trúc.

tính toán CPU GPU. 2 BA CHƯƠNG 5: THỨ NGHIÊM DANH GTA HIRU NANG KIRN TRUC TINH TOAN CPU-GPU 87 S. Sự cần thiết của việc đánh giá hiệu nâng hệ thốn,. Dánh giá hiệu năng của một nút tính toán trên bài toán tính foán độ đải cạnh huyền cũa nhiều tam giác vnâng.

Dat vin đề bởi toán. DANH MỤC THUẬT NGỮ Tên sIT|. 1 | GPU | GraphieProcessme Lnit bộ xử lý dỗ họa GPGPU | General Purpose GPU- tỉnh toán đa đụng trên GPU 3 | CPU | Central Processing Unit — b6 x0 lý trung tâm 4 | TPC | Tigh Performance Computing — Tỉnh toán hiệu nàng lớn § TTL | Transitor to Transiter Logic — một loại mạch số hoạt động dựa trên nguyên lý Iransitor lưỡng cục 6 | PGA |Professional Graghiss Controller — bộ diễu khiến dé hoa chuyên nghiệp 7 PEL | Peripheral Component Interconect - giao dign bus hé théng của máy tỉnh § ACP | Accelerated Graphics Port. - cong tăng tốc đồ họa 9 SM | Streaming MulGprocessor — bd xir dong Wy da Tdi Hong kiến trúc GPU ctia NVIDIA 10 | CUDA | Compute Unified Device Architecture mồ hình lập trình tính toán đa dụng trên GPU eta NVIDIA 11 | SIMT | Single Instruction Multiple Thread — co ché don lénh da luéng 12 | SIMD | Single Instruction Multiple Data — co ché don lénh da dit ligu 13 | MIMD | Multiple Instruction Multiple Data — co ché da lénh da dit ligu 14 | SISD | Single Insrncbon Sigle Data— cơ chế đơn lệnh đơn dữ liệu 15 | MISD | Muliple Tnstuction Single Dala — cơ chế da lệnh đơn dữ liệu 16 | VGA | Video Graphics Array — chuan x ly dé hoa theo dãy dễ hiển thị ra mán hình 17 | ĐMA |Dynamic Memery Access — hoạt động truy cập bộ nhớ trực tiếp không qua CPU từ các thiết bị ngoại vĩ Hình 29; Lịch trình cho céc kieh ban CPU-GPU.

(a): đơn luỗng, một nhàn GIU với mội GPU. (U): đơn luỗng, hai nhân GPU với một GPU; (c): đa nhân GPU với nhiễu GPU. „61 -Hình 30: Mô hình phân loại hệ thông mây tính Eiynn-Tohnson. 1 65 Tình 31: Mô hình phân loại hệ thông máy tỉnh MIMD của Tanenbanm.

-66 Hình 32: Siêu mày tính Cray-1 với thiết kế hình trụ, đảm bảo khoảng cách giữa vi xử lí với các thành phan khác trong hệ thống là đều nhau. 11inh 33: Hệ thông máy tính cụm. Tỉnh 34: Phân loại hệ thông máy tính sử đụng hộ nhỏ phân rán và trao đổi bin tin cia, Thomas 1. Sterling, Hinh 35: Kién tnic h@ thang may tinh cum.

Hình 36: Mô hình siêu máy tính loai Beowulf sit dung kien tic tinh toan CPU-GPU. Tinh 37: Kién tric cia mit tinh todn trong hệ thẳng. ‘Hinh 38: Man hình hiển thị lúc chạy chương trình. Hình 39: Eile dữ liệu của chương trình.

Tỉnh 40: Thời gian zử'1y cña CPU khi thay đối số lắnlặp lại tính toán và độ đải máng (1) Hình 41: Thời gìan xử lý cña CPU khi thay đổi số lần lặp lại tinh toan va 46 dai mang (2). - 83 11ỉnh 42: Thời gian xử lý của CPU-GPU khủ Lhay đổi độ dài màng xử lý và số lân lặp lại lĩnh toán. œ)- 94 -Hình 43: Thời gian tính loán của CPU-GPU khi thay đổi độ dài mảng xử lý và số lần lặp lại línht toàn (2). -95 Tình 44: Thời gian xử lỷ cũa CPU-GPU khi thay đổi ag dai mang sat ly và số lần lặp lại tỉnh toán 96 11ỉnh 45: Tỷ lệ gita thời gian xử lý của CPU và CPU-GPU khi thay đối độ dải màng và số lần lập tại tĩnh toán (1).

98 THình 46: Tỷ lê gia thời gian xử lý cña CPU và GPII hi thay đối đô dai mang vA sé lẫn lặp lại tỉnh toán (2).- 98 Hình 4?: Thời gian thực thi bài toán trên GPU khi thay đổi kích cỡ khối và lưới 6. 100 Hình 48; Tinh tong liên trước trên GPU - giai đoạm Ì. 104 Tỉnh 49: Tính tổng, liên trước trên GPU — giai đoạn 2.105 Hình 50: Thuật toán sắp xếp đựa trên cơ số trên GP. 106 Hình 5L: Thöi gìan sắp xếp mảng theo thuật toán sắp xếp đựa trên cơ số.

1lình 52: Tỷ lệ thời gian xử lý CPL/GPL khi thay đổi độ dài mảng xử lý. 110 Hình 53: Sơ đỏ FET 8 điểm phân chia theo thời gian. Kiến trúc tính foán CPU ŒDU riêng biệt, ane BD. Kiến trúc tính toán CPU-GPU hợp nhất.

Cơ chế làm việc giữa GPU và GPL trong hệ tính foán không dỏng nhất CPU GPL 58 CHƯƠNG 4: SIỀU MÁY TÍNH VÀ MÔ HÌNH SIÊU MÁY TINH SU DUNG KIRN TREC TÍNH TOÁN CPU-GPU.1L Phan loại hệ thông máy tính. Lịch sử ra dời và phát triển của siêu máy tính 41.1 Thời ki dau (1960-1969).2 Thời kì sử dụng bộ xử ý vector (1970-1990) 41. Thời kì gần đây (1990 nay 43. Phân loại hệ thẳng siêu máy tính.

Hệ thống cụm máy tỉnh.1 Phânloại mô bình cụm máy tỉnh 4.42 Hệ thống máy tính cụm Bcowulf, 4.43 lệ thống mạng/cụu máy lính trạm. __ Hệ thống siêu máy tính đựa trên mô hình máy tĩnh cạm sử đụng kiến trúc tính toàn CPU-GPU, “81 445. Nút máy chủ và nútlưu trữ; quản lý thiết bị ngoại vì. Cuntnroc diém cin bé thong siêu máy tỉnh cụm Beowtlf đựa trên kiến trúc.

tính toán CPU GPU. 2 BA CHƯƠNG 5: THỨ NGHIÊM DANH GTA HIRU NANG KIRN TRUC TINH TOAN CPU-GPU 87 S. Sự cần thiết của việc đánh giá hiệu nâng hệ thốn,. Dánh giá hiệu năng của một nút tính toán trên bài toán tính foán độ đải cạnh huyền cũa nhiều tam giác vnâng.

Dat vin đề bởi toán. DANH MỤC THUẬT NGỮ Tên sIT|. 1 | GPU | GraphieProcessme Lnit bộ xử lý dỗ họa GPGPU | General Purpose GPU- tỉnh toán đa đụng trên GPU 3 | CPU | Central Processing Unit — b6 x0 lý trung tâm 4 | TPC | Tigh Performance Computing — Tỉnh toán hiệu nàng lớn § TTL | Transitor to Transiter Logic — một loại mạch số hoạt động dựa trên nguyên lý Iransitor lưỡng cục 6 | PGA |Professional Graghiss Controller — bộ diễu khiến dé hoa chuyên nghiệp 7 PEL | Peripheral Component Interconect - giao dign bus hé théng của máy tỉnh § ACP | Accelerated Graphics Port. - cong tăng tốc đồ họa 9 SM | Streaming MulGprocessor — bd xir dong Wy da Tdi Hong kiến trúc GPU ctia NVIDIA 10 | CUDA | Compute Unified Device Architecture mồ hình lập trình tính toán đa dụng trên GPU eta NVIDIA 11 | SIMT | Single Instruction Multiple Thread — co ché don lénh da luéng 12 | SIMD | Single Instruction Multiple Data — co ché don lénh da dit ligu 13 | MIMD | Multiple Instruction Multiple Data — co ché da lénh da dit ligu 14 | SISD | Single Insrncbon Sigle Data— cơ chế đơn lệnh đơn dữ liệu 15 | MISD | Muliple Tnstuction Single Dala — cơ chế da lệnh đơn dữ liệu 16 | VGA | Video Graphics Array — chuan x ly dé hoa theo dãy dễ hiển thị ra mán hình 17 | ĐMA |Dynamic Memery Access — hoạt động truy cập bộ nhớ trực tiếp không qua CPU từ các thiết bị ngoại vĩ 52.

Thâng số cấu hình thử nghiệm. Kết quả thử nghiệm và dánh gì:. Đánh giá hiệu năng của một nút tính toán trên Dài toán sắp xếp dãy số .1, Thuật oán sắp xếp dựa trên cơ sị 102 5. Thông số cấu Hinh thử nghiệm 107 5.

Kết quã thủ nghiệm và điảnh glá. Đánh giá hiệu năng của một núí tĩnh toán trên bài raán tính nhanh hiến đổi Tonrler 111. Biến đổi ourler rời rạc và giải thuật tính nhanh biến đổi Foiml 111 5.