Compact Numerical Methods for Computers - Sách của tác giả J. C. Nash

Khám phá thông tin chi tiết và các phân tích chuyên sâu về Kgy1653640430. Tổng hợp dữ liệu quan trọng cùng hướng dẫn ứng dụng hiệu quả trong thực tế.

• Tác giả: J C Nash
• Chuyên ngành: Toán học tính toán
• Đề tài: Compact Numerical Methods for Computers: Linear Algebra and Function Minimisation
• Loại tài liệu: Sách chuyên khảo
• Năm xuất bản: 1990
• Địa điểm: Bristol

Tóm tắt

I. Tổng quan về phương pháp tính gọn Kgy1653640430

Phương pháp tính số Kgy1653640430 đại diện cho bước tiến lớn trong đại số tuyến tính ứng dụng. Kỹ thuật này kế thừa các nguyên lý từ nghiên cứu của J. C. Nash. Trọng tâm của hệ thống là việc tối ưu hóa thuật toán trên máy tính có bộ nhớ hạn chế. Cấu trúc chương trình được thiết kế ngắn gọn và chặt chẽ. Thuật toán xử lý hiệu quả các hệ phương trình tuyến tính đồng thời và ma trận phức tạp. Kgy1653640430 loại bỏ các bước tính toán dư thừa nhằm tiết kiệm tài nguyên vi xử lý. Các phép biến đổi ma trận được thực hiện trực tiếp trên không gian lưu trữ sẵn có. Điều này giúp giảm thiểu việc cấp phát bộ nhớ phụ trong suốt chu kỳ tính toán. Quá trình kiểm tra chẩn đoán sai số được tích hợp tự động vào từng hàm chức năng. Độ tin cậy của thuật toán đã được chứng minh qua nhiều thử nghiệm nghiêm ngặt. Hệ thống mang lại kết quả chính xác cao với tốc độ xử lý vượt trội. Các nhà nghiên cứu có thể triển khai phương pháp này trên nhiều nền tảng phần cứng khác nhau mà không gặp trở ngại kỹ thuật nào.

1.1. Lịch sử hình thành và triết lý thiết kế Kgy1653640430

Triết lý thiết kế Kgy1653640430 bắt nguồn từ nhu cầu tối ưu hóa thuật toán trên máy vi tính thời kỳ đầu. Tác giả J. C. Nash đã đặt nền móng cho cách tiếp cận mã nguồn nhỏ gọn. Mục tiêu chính là giảm dung lượng lưu trữ nhưng vẫn duy trì độ chính xác số học. Thuật toán ưu tiên sự đơn giản trong triển khai mã nguồn thực tế. Cấu trúc dữ liệu được tổ chức chặt chẽ để hạn chế tối đa việc chiếm dụng bộ nhớ RAM. Các nguyên tắc này giúp chương trình vận hành ổn định trên các hệ thống phần cứng giới hạn dung lượng xử lý.

1.2. Phạm vi ứng dụng của giải thuật Kgy1653640430

Phạm vi ứng dụng của Kgy1653640430 trải rộng từ đại số tuyến tính đến tối ưu hóa hàm phi tuyến. Phương pháp này giải quyết triệt để bài toán phân tích giá trị riêng và véc tơ riêng. Các kỹ sư ứng dụng giải thuật để xử lý tín hiệu và mô phỏng quỹ đạo vệ tinh. Trong kinh tế lượng, mô hình giúp phân tích các thành phần chính từ tập dữ liệu lớn. Khả năng thích ứng cao giúp thuật toán hoạt động tốt trong môi trường tính toán đơn chính xác lẫn đa chính xác mà không làm suy giảm hiệu năng tổng thể.

II. Phân tích các thách thức tính toán trong Kgy1653640430

Tính toán ma trận số học luôn đối mặt với nhiều thách thức nghiêm trọng về độ ổn định. Vấn đề trôi số và sai số làm tròn thường xuyên xuất hiện khi xử lý số học dấu phẩy động. Kgy1653640430 tập trung giải quyết hiện tượng mất mát độ chính xác trong các ma trận suy biến. Phép tính tích vô hướng có thể gây ra sai số tích lũy lớn trên máy tính độ chính xác thấp. Điều này khiến các thuật toán tìm kiếm cục bộ dọc theo đường thẳng trở nên kém tin cậy. Ngoài ra, việc hình thành ma trận tích chéo A^T A thường làm tăng gấp đôi số điều kiện của bài toán. Hiện tượng này dẫn đến việc mất mát thông tin quan trọng của các cột ma trận ban đầu. Dữ liệu thực tế thường chứa nhiễu đo lường và các quan hệ phụ thuộc tuyến tính ngầm. Việc xác định giá trị suy biến bằng không tuyệt đối là điều bất khả thi trong thực nghiệm. Do đó, việc thiết lập ngưỡng dung sai tự động dễ dẫn đến kết quả sai lệch nghiêm trọng. Kgy1653640430 đòi hỏi sự can thiệp có kiểm soát của chuyên gia để phân định rõ ràng giữa tín hiệu thực và nhiễu ngẫu nhiên.

2.1. Sai số làm tròn và giới hạn số học dấu phẩy động

Số học dấu phẩy động đơn chính xác luôn tiềm ẩn nguy cơ gây mất ổn định thuật toán. Khi thực hiện các phép cộng trừ ma trận lớn, sai số làm tròn tích lũy rất nhanh. Kgy1653640430 chỉ ra rằng việc tính toán gradient dọc theo đường dốc thường thất bại do sai số này. Các phép nhân ma trận liên tiếp khuếch đại nhiễu số học ngoài tầm kiểm soát. Việc kiểm tra số dư chẩn đoán là bước bắt buộc để phát hiện sớm các bất thường tính toán. Thiết kế thuật toán cần tránh triệt để các phép khử Gauss không chọn phần tử trục thích hợp.

2.2. Vấn đề ma trận suy biến và nhiễu dữ liệu thực tế

Trong thực tế, các cột ma trận dữ liệu hiếm khi độc lập tuyến tính hoàn toàn. Các bài toán kinh tế lượng thường chứa nhiều biến số có tương quan cao. Kgy1653640430 phân tích rõ nguy cơ khi các giá trị suy biến nhỏ bị chi phối hoàn toàn bởi nhiễu. Nếu thuật toán tự động nghịch đảo các giá trị này, nghiệm số sẽ bị bùng nổ vô căn cứ. Ngược lại, trong bài toán quỹ đạo không gian, giá trị suy biến nhỏ lại chứa thông tin nhiễu loạn quan trọng. Việc phân loại dữ liệu đòi hỏi kiến thức chuyên môn sâu sắc.

III. Giải pháp phân rã ma trận tối ưu theo Kgy1653640430

Giải pháp cốt lõi của Kgy1653640430 là ứng dụng phân tích giá trị suy biến SVD thông qua phép quay phẳng Givens. Kỹ thuật trực giao hóa này bảo toàn năng lượng và hạn chế tối đa sai số làm tròn. Phép biến đổi ma trận được thực hiện trực tiếp trên từng cặp cột mà không cần tạo ma trận phụ. Nhờ vậy, dung lượng bộ nhớ được tiết kiệm ở mức tối đa. Thuật toán cho phép tính toán ma trận giả nghịch đảo Moore-Penrose một cách an toàn và bền vững. Kgy1653640430 áp dụng cơ chế thiết lập ngưỡng dung sai q do người dùng chủ động cấu hình. Ngưỡng này giúp loại bỏ chính xác các giá trị suy biến nhỏ bị nhiễm tạp âm. Đồng thời, cấu trúc phân rã Choleski và phương pháp Gauss-Jordan cải tiến cũng được tích hợp linh hoạt. Khi xử lý ma trận đối xứng xác định dương, thuật toán tự động chuyển đổi sang nhánh tối ưu tương ứng. Các phép kiểm tra số dư được thực thi song song để đảm bảo nghiệm thu được luôn thỏa mãn điều kiện ràng buộc bài toán.

3.1. Phân rã giá trị suy biến SVD bằng phép quay phẳng

Thuật toán SVD trong Kgy1653640430 sử dụng chuỗi phép quay phẳng trực giao hai chiều. Phương pháp này biến đổi ma trận ban đầu thành dạng trực giao một cách tuần tự. Mỗi phép quay triệt tiêu phần tử ngoài đường chéo mà không làm thay đổi chuẩn Euclid của véc tơ. Không gian nhớ của ma trận ban đầu được tái sử dụng để chứa kết quả phân rã. Quá trình lặp dừng lại khi các cột đạt độ trực giao theo tiêu chuẩn đặt trước. Kỹ thuật này đạt độ tin cậy vượt trội so với các phép khử truyền thống.

3.2. Cơ chế ngưỡng dung sai linh hoạt cho giả nghịch đảo

Kgy1653640430 giải quyết bài toán bình phương tối thiểu thông qua công thức nghiệm tổng quát. Thuật toán định nghĩa ma trận đường chéo S+ dựa trên ngưỡng dung sai q xác định trước. Các giá trị suy biến nhỏ hơn q sẽ được quy ước bằng không để tránh phân kỳ nghiệm. Người dùng có quyền tùy chỉnh tham số q dựa trên đặc tính vật lý của tập dữ liệu. Cơ chế này giúp tách biệt tín hiệu cốt lõi khỏi nhiễu nền một cách khoa học. Kết quả tính toán đảm bảo độ bền vững cao trước các sai lệch ngẫu nhiên.

IV. Kết luận và triển vọng ứng dụng chuẩn Kgy1653640430

Phương pháp tính số Kgy1653640430 khẳng định giá trị bền vững trong kỷ nguyên khoa học dữ liệu hiện đại. Thuật toán kết hợp hoàn hảo giữa tính nhỏ gọn của mã nguồn và độ chính xác số học cao. Việc tối ưu hóa bộ nhớ cho phép triển khai giải thuật trên các thiết bị nhúng và hệ thống tính toán biên. Kỹ thuật này giải quyết xuất sắc các bài toán bình phương tối thiểu có ma trận hệ số suy biến. Độ tin cậy của mô hình đã được kiểm chứng qua hàng loạt thử nghiệm độc lập. Trong tương lai, Kgy1653640430 tiếp tục là nền tảng quan trọng cho các ứng dụng trí tuệ nhân tạo và xử lý ảnh số. Cấu trúc thuật toán mô-đun hóa cao giúp việc tích hợp vào các thư viện toán học trở nên dễ dàng. Các nhà phát triển phần mềm có thể yên tâm sử dụng giải thuật mà không lo ngại lỗi tràn bộ nhớ. Việc áp dụng đúng đắn các nguyên tắc Nash sẽ nâng cao hiệu suất toàn diện của hệ thống xử lý số liệu lớn.

4.1. Ứng dụng trong học máy và phân tích thành phần chính

Kgy1653640430 đóng vai trò trụ cột trong việc trích xuất đặc trưng và giảm chiều dữ liệu. Thuật toán phân tích thành phần chính PCA được thực thi trực tiếp qua phân rã SVD rút gọn. Phương pháp này giúp hệ thống học máy loại bỏ các thuộc tính dư thừa mà không làm mất thông tin gốc. Quá trình huấn luyện mô hình diễn ra nhanh chóng hơn nhờ giảm thiểu độ phức tạp tính toán. Các ma trận hiệp phương sai lớn được xử lý trơn tru trên phần cứng thông thường.

4.2. Khả năng tích hợp trên hệ thống nhúng và vi điều khiển

Đặc tính tiêu thụ ít bộ nhớ biến Kgy1653640430 thành lựa chọn hàng đầu cho vi điều khiển nhúng. Các thiết bị IoT có thể thực hiện tính toán ma trận thời gian thực mà không cần kết nối máy chủ đám mây. Mã nguồn gọn nhẹ giúp giảm thiểu điện năng tiêu thụ và tăng tuổi thọ pin thiết bị. Các hệ thống điều khiển tự động phản ứng nhanh hơn trước các biến đổi tín hiệu từ cảm biến. Đây là tiền đề vững chắc cho việc phát triển các thiết bị thông minh thế hệ mới.

Nội dung chính

Tổng quan về giáo trình

Compact Numerical Methods for Computers: Linear Algebra and Function Minimisation (Ấn bản lần thứ hai, 1990) của tác giả J. C. Nash, do nhà xuất bản Adam Hilger (IOP Publishing Ltd) phát hành, là tài liệu chuyên khảo và giáo trình học thuật chuyên sâu về giải thuật số. Trong chương trình đào tạo bậc đại học và sau đại học, tài liệu này thuộc nhóm học phần Phương pháp tính, Đại số tuyến tính tính toán (Numerical Linear Algebra) và Tối ưu hóa số trị (Numerical Optimisation) dành cho các ngành Toán ứng dụng, Khoa học máy tính, Thống kê và Kỹ thuật tính toán.

Mục tiêu học tập của giáo trình là trang bị cho người học phương pháp xây dựng, phân tích và hiện thực hóa các thuật toán số học có cấu trúc thu gọn (compact numerical methods). Giáo trình hướng đến việc tạo ra các chương trình có khả năng thực thi tin cậy, chính xác trên các hệ thống máy tính có dung lượng bộ nhớ chính hạn chế, từ các máy tính bỏ túi lập trình được (như HP 9825, HP 71B), vi máy tính (microcomputers), đến các phân hệ trạm làm việc chuyên dụng.

Cấu trúc giáo trình tiếp cận theo mô hình kết hợp chặt chẽ giữa cơ sở toán học giải tích ma trận và giải thuật lập trình thực nghiệm. Thay vì sử dụng các cấu trúc dữ liệu phức tạp đòi hỏi tài nguyên lớn, tài liệu triển khai các giải thuật giải hệ phương trình, bài toán bình phương tối thiểu, tính trị riêng và tìm cực tiểu hàm số thông qua mã nguồn viết bằng ngôn ngữ Turbo Pascal 3.01a. Điểm đặc sắc của giáo trình là triết lý thiết kế bảo toàn (conservative design policy): ưu tiên hàng đầu cho độ tin cậy của kết quả và dung lượng bộ nhớ tối thiểu, đi kèm cơ chế tính toán số dư chẩn đoán tự động nhằm phát hiện hiện tượng cộng tuyến (collinearity) hoặc suy biến dữ liệu.

---

Nội dung kiến thức cốt lõi

Các chương và chủ đề chính

Nội dung giáo trình được cấu trúc thành 19 chương chuyên đề, chia thành hai khối kiến thức lớn:

1. Khối Đại số tuyến tính số học (Chương 1 đến Chương 11 và Chương 19):

   • Chương 1 (A Starting Point): Thiết lập môi trường tính toán số học, khảo sát số học dấu phẩy động, xác định độ chính xác máy tính ($\text{eps}$), cơ số ($\text{radix}$ $R$), cùng các công cụ kiểm thử như chương trình PARANOIA của W. Kahan và ELEFUNT của Cody & Waite.
   • Chương 2 (Formal Problems in Linear Algebra): Định hình các bài toán đại số tuyến tính hình thức bao gồm hệ phương trình $Ax = b$, bình phương tối thiểu $Ax \approx b$, ma trận nghịch đảo, giả nghịch đảo Moore-Penrose và bài toán giá trị riêng.
   • Chương 3 (The Singular-Value Decomposition): Trình bày thuật toán phân rã trị suy biến (SVD) sử dụng phép quay phẳng trực giao hóa (plane rotations) theo phương pháp Jacobi cải tiến (NashSVD), kết hợp phân tích thành phần chính và giải bình phương tối thiểu có kiểm soát ngưỡng.
   • Chương 4 & 5 (Handling Larger Problems & $A^TA$ Formation): Phân tích kỹ thuật rút gọn Givens cho dữ liệu quy mô lớn và cảnh báo hiện tượng mất mát độ chính xác khi tạo ma trận tích chéo $A^TA$.
   • Chương 6, 7 & 8 (Linear Equations, Choleski & Gauss-Jordan Reduction): Trình bày phép khử Gauss, phân rã Choleski ($LL^T$, $LDL^T$) cho ma trận đối xứng xác định dương hoặc nửa xác định dương, và phép khử Gauss-Jordan để nghịch đảo ma trận.
   • Chương 9, 10 & 11 (The Algebraic Eigenvalue Problem): Khảo sát bài toán giá trị riêng, phương pháp lũy thừa (power method), lặp nghịch đảo (inverse iteration), thuật toán Jacobi cho ma trận thực đối xứng và mở rộng sang bài toán giá trị riêng suy rộng $Ax = eBx$.
   • Chương 19 (Conjugate Gradients in Linear Algebra): Ứng dụng phương pháp Gradient liên hợp giải hệ phương trình tuyến tính thưa, bài toán bình phương tối thiểu và cực tiểu hóa thương số Rayleigh ($Rayleigh\ quotient$).

2. Khối Tối ưu hóa và Phương trình phi tuyến (Chương 12 đến Chương 18):

   • Chương 12 & 13 (Optimisation & One-Dimensional Problems): Thiết lập bài toán tối ưu hóa không ràng buộc, tìm kiếm tuyến tính một chiều (linear search) và tìm nghiệm thực của phương trình phi tuyến một biến.
   • Chương 14 (Direct Search Methods): Trình bày các phương pháp tìm kiếm trực tiếp không dùng đạo hàm, trọng tâm là thuật toán Simplex của Nelder-Mead và tìm kiếm theo trục (axial search).
   • Chương 15 & 16 (Descent Methods, Variable Metric & Conjugate Gradients): Khảo sát các thuật toán hướng giảm mêtric biến thiên (Variable Metric / Quasi-Newton) và thuật toán Gradient liên hợp cho bài toán tối ưu đa biến.
   • Chương 17 & 18 (Nonlinear Sum of Squares & Method Comparison): Giải bài toán bình phương tối thiểu phi tuyến, phương pháp xấp xỉ đạo hàm số học và đánh giá so sánh hiệu năng giữa các giải thuật tối ưu hóa.

Kiến thức nền tảng được xây dựng

Giáo trình xây dựng hệ thống lý thuyết nền tảng vững chắc bao gồm:

• Lý thuyết sai số và số học dấu phẩy động: Mô hình hóa sai số làm tròn (rounding) và cắt cụt (truncation), biểu diễn nhị phân/thập phân chuẩn IEEE, xác định giới hạn sai số số học trong bộ nhớ máy tính.
• Đại số ma trận nâng cao: Các phép phân rã ma trận chính quy ($QR$, $LU$, $LL^T$, $USV^T$), bốn điều kiện Penrose (1955) cho ma trận giả nghịch đảo ($AA^+A = A$, $A^+AA^+ = A^+$, $(AA^+)^T = AA^+$, $(A^+A)^T = A^+A$), định lý hội tụ trong phép quay trực giao.
• Nguyên lý cực tiểu hóa hàm đa biến: Không gian mêtric biến thiên, tính trực giao của các hướng liên hợp trong bài toán tối ưu hóa bậc hai, và xấp xỉ mặt cong phi tuyến.

Kỹ năng phát triển

Thông qua nội dung tài liệu, người học phát triển các kỹ năng chuyên môn:

• Kỹ năng kỹ thuật (Technical skills): Lập trình các thuật toán ma trận và tối ưu hóa bằng ngôn ngữ có cấu trúc; tối ưu hóa không gian nhớ của mảng dữ liệu (in-place computation); xử lý định dạng tệp luồng đầu vào/đầu ra trên hệ điều hành.
• Kỹ năng phân tích (Analytical skills): Nhận diện ma trận suy biến (ill-conditioned matrix) và đa cộng tuyến; phân tích sự suy giảm bậc tự do và mất mát độ chính xác số học; so sánh chi phí tính toán giữa các giải thuật trực tiếp và lặp.
• Năng lực thực hành (Practical competencies): Triển khai mô hình số giải quyết các bài toán vật lý, kỹ thuật và kinh tế lượng thực tế; kiểm tra số dư ($residuals$) và kiểm thử tự động hệ thống mã nguồn bằng ma trận kiểm tra chuẩn.

---

Phương pháp giảng dạy và học tập

Giáo trình áp dụng phương pháp sư phạm cấu trúc - tạo dựng (constructive algorithmic pedagogy). Tác giả không dừng lại ở việc phát biểu các định lý thuần túy mà chuyển hóa toàn bộ công thức toán học thành các thuật toán từng bước (step-by-step algorithms) và chuyển thẳng thành mã nguồn máy tính cụ thể.

Hệ thống ví dụ thực tế (case studies) được trích xuất trực tiếp từ các bài toán khoa học và kỹ thuật:

• Hiệu chuẩn phổ kế khối lượng (Mass-spectrograph calibration): Giải hệ phương trình tuyến tính 4 ẩn để xác định thành phần hỗn hợp hydrocarbon dựa trên cường độ vạch quang phổ.
• Bài toán biên hai điểm phương trình vi phân thường (Two-point boundary-value problem): Chuyển đổi phương trình vi phân $y'' = (2 + x^4)y$ trên đoạn $[0, 1]$ thành hệ phương trình đại số tuyến tính ma trận ba đường chéo thưa thông qua sai phân hữu hạn cấp hai.
• Khớp dữ liệu trắc địa đo cao (Surveying-data fitting): Giải bài toán bình phương tối thiểu trên ma trận thiếu hạng (rank-deficient matrix) để tính toán độ chênh cao thủy chuẩn khi không có mốc chuẩn tuyệt đối.
• Mô hình kinh tế nông nghiệp (Farm money income estimation): Khớp mô hình bình phương tối thiểu đa biến xác định mối liên hệ giữa thu nhập trang trại tại Mỹ và lượng phân đạm, lân, kali, xăng dầu tiêu thụ.
• Bài toán biến phân lượng tử (Quantum mechanics variation method): Khảo sát phương trình trị riêng suy rộng $Ax = eBx$ phát sinh từ nguyên lý biến phân tìm trạng thái năng lượng dừng với toán tử Hamilton.

Phương pháp đánh giá và tự học được hỗ trợ thông qua cơ chế kiểm định độc lập:

• Sử dụng bộ 9 ma trận kiểm thử chuẩn (Nine test matrices, Phụ lục 1), bao gồm ma trận Hilbert và ma trận Frank, để đánh giá độ chính xác của nghiệm.
• Cấu trúc chương trình điều khiển (startup.pas) cho phép đọc dữ liệu tự động từ các tệp văn bản điều khiển (dr0102x) và xuất nhật ký ra tệp (confile), hỗ trợ người học thiết lập quy trình kiểm thử tự động dạng batch script trên hệ điều hành MS-DOS.

---

Điểm nổi bật và cập nhật

So với ấn bản thứ nhất (năm 1979), ấn bản thứ hai (năm 1990) của giáo trình có những thay đổi và cập nhật học thuật quan trọng:

• Chuyển đổi hoàn toàn sang ngôn ngữ Turbo Pascal: Toàn bộ thuật toán trong ấn bản cũ (vốn ở dạng mô tả từng bước Step-and-Description, BASIC hoặc FORTRAN trong gói NASHLIB) được viết lại toàn bộ bằng Borland Turbo Pascal 3.01a. Mã nguồn được dàn trang trực tiếp từ tệp chương trình thực thi nhằm loại trừ triệt để lỗi in ấn và lỗi chính tả.
• Mở rộng thuật toán trị riêng và SVD: Bổ sung phương pháp xử lý giá trị riêng cho ma trận phức và ma trận không đối xứng (Chương 9); cải tiến thuật toán SVD (alg01.pas) bằng cách bỏ qua các cột có chuẩn nhỏ hơn ngưỡng sai số nhằm tăng tốc độ xử lý trên ma trận thiếu hạng (dựa trên nghiên cứu của Nash và Shlien, 1987); tích hợp kết quả phân tích hội tụ của T. Hoy Booker (1985).
• Cung cấp phần mềm kèm theo: Đi kèm đĩa mềm máy tính (chuẩn 5¼ inch và 3½ inch cho hệ máy IBM PC) chứa toàn bộ mã nguồn thuật toán, chương trình điều khiển (driver routines) và dữ liệu mẫu kiểm thử.
• Tích hợp các tiêu chuẩn số học mới: Cập nhật các phân tích liên quan đến tiêu chuẩn số học dấu phẩy động IEEE 754/854, phần cứng đồng xử lý toán học Intel 80x87 và Motorola 68881.

---

Đối tượng sử dụng giáo trình

Tài liệu được biên soạn phục vụ các nhóm đối tượng cụ thể trong môi trường học thuật và nghiên cứu ứng dụng:

• Sinh viên đại học năm cuối và học viên cao học: Thuộc các chuyên ngành Toán ứng dụng, Khoa học máy tính, Thống kê, Vật lý tính toán, Địa tin học và Kỹ thuật công nghiệp. Tài liệu cung cấp cơ sở để thực hiện đồ án, luận văn chuyên môn liên quan đến tính toán ma trận và tối ưu hóa số.
• Điều kiện tiên quyết (Prerequisites): Người học cần hoàn thành các học phần Đại số tuyến tính cơ bản (ma trận, định thức, không gian vector), Giải tích số (chuỗi Taylor, đạo hàm, sai phân) và có kỹ năng lập trình cơ bản với ngôn ngữ có cấu trúc (Pascal, C hoặc FORTRAN).
• Giảng viên và nhà nghiên cứu: Sử dụng làm tài liệu giảng dạy học phần Phương pháp tính nâng cao, hoặc dùng các đoạn mã nguồn làm nền tảng phát triển bài tập lớn, bài thực hành phòng máy tính.
• Kỹ sư và lập trình viên phần mềm khoa học: Các chuyên gia cần nhúng trực tiếp thuật toán số học vào các phần mềm tự phát triển nội bộ (in-house software) hoặc các hệ thống nhúng mà không thể sử dụng các thư viện phần mềm thương mại cồng kềnh (như NAG, IMSL hay LINPACK/EISPACK).

---

Câu hỏi thường gặp

1. Giáo trình này phù hợp với ai?

Giáo trình phù hợp với sinh viên đại học năm cuối, học viên cao học, giảng viên và các kỹ sư/nhà khoa học cần giải quyết các bài toán đại số tuyến tính (hệ phương trình, ma trận nghịch đảo, trị riêng) và tối ưu hóa phi tuyến trên môi trường máy tính có tài nguyên bộ nhớ hạn chế.

2. Cần trang bị kiến thức nền tảng nào trước khi học?

Người học cần có kiến thức cơ bản về đại số tuyến tính (phép biến đổi ma trận, không gian vector), giải tích số học (đạo hàm, tiệm cận, sai phân) và hiểu biết về lập trình cấu trúc với ngôn ngữ Pascal, C hoặc BASIC.

3. Điểm khác biệt giữa giáo trình này và các tài liệu khác (như Numerical Recipes hay thư viện LINPACK)?

Giáo trình tập trung chuyên biệt vào các giải thuật có cấu trúc cực kỳ thu gọn (thường dưới 3 trang mã nguồn cho mỗi thuật toán), tối ưu hóa bộ nhớ tại chỗ, không đòi hỏi phần cứng mở rộng (như độ chính xác kép kép phức tạp), đồng thời tích hợp trực tiếp mã nguồn Turbo Pascal có thể biên dịch ngay mà không cần liên kết thư viện ngoài.

4. Làm thế nào để tự học và thực hành hiệu quả với giáo trình?

Người học nên chạy thử các mã nguồn thuật toán (từ alg01.pas đến các chương trình tối ưu) kèm tệp điều khiển dữ liệu mẫu (startup.pas, dr0102x), đồng thời kiểm chứng kết quả với bộ 9 ma trận kiểm thử chuẩn (ma trận Hilbert, Frank) trong Phụ lục 1 để đánh giá sai số số dư ($residuals$).

5. Có tài liệu bổ trợ nào kèm theo giáo trình?

Giáo trình đi kèm đĩa mềm phần mềm chứa toàn bộ mã nguồn Turbo Pascal 3.01a của các thuật toán, các chương trình điều khiển, dữ liệu kiểm thử, danh mục các bài kiểm tra số học (PARANOIA, ELEFUNT, DUBLTEST) và hệ thống thư mục tham khảo phong phú (Golub & Van Loan, Wilkinson, Penrose).

---

Kết luận

Compact Numerical Methods for Computers: Linear Algebra and Function Minimisation của J. C. Nash là tài liệu tham khảo học thuật chuẩn mực về các phương pháp số học gọn nhẹ. Giá trị cốt lõi của cuốn sách nằm ở tính thực dụng cao, cung cấp các thuật toán đại số ma trận và tối ưu hóa đáng tin cậy, tối giản về nhu cầu bộ nhớ và dễ dàng cài đặt trên mọi hệ thống tính toán.

Lộ trình học tập khuyến nghị bắt đầu từ việc nắm vững lý thuyết sai số số học máy tính (Chương 1), tiếp cận các phép phân rã ma trận trực giao và bình phương tối thiểu (Chương 2, 3, 7), khảo sát bài toán trị riêng (Chương 9, 10), trước khi hoàn thiện các kỹ thuật tối ưu hóa phi tuyến và Gradient liên hợp (Chương 14 - 19). Các phụ lục thuật toán, hệ thống ma trận kiểm thử và mã nguồn Turbo Pascal đi kèm là nguồn tài nguyên thực hành đồng bộ cho quá trình nghiên cứu và giảng dạy.

Trích đoạn nội dung tài liệu

COMPACT NUMERICAL METHODS FOR COMPUTERS linear algebra and function minimisation Second Edition J C NASH Adam Hilger, Bristol and New York www.com Copyright © 1979, 1990 J C Nash All rights reserved. No part of this publication may be reproduced, stored in a retrieval system or transmitted in any form or by any means, electronic, mechanical, photocopying or otherwise, without the prior permission of the publisher. Multiple copying is only permitted under the terms of the agreement between the Committee of Vice-Chancellors and Principals and the Copyright Licensing Agency. British Library Cataloguing in Publication Data Nash, J.

Compact numerical methods for computers: linear algebra and function minimisation - 2nd ed. Applications of microcomputer & minicomputer systems.4 ISBN 0-85274-318-1 ISBN 0-85274-319-X (pbk) ISBN 0-7503-0036-1 (5¼" IBM disc) ISBN 0-7503-0043-4 (3½" IBM disc) Library of Congress Cataloging-in-Publication Data are available First published, 1979 Reprinted, 1980 Second edition, 1990 Published under the Adam Hilger imprint by IOP Publishing Ltd Techno House, Redcliffe Way, Bristol BSl 6NX, England 335 East 45th Street, New York, NY 10017-3483, USA Filmset by Bath Typesetting Ltd, Bath, Avon Printed in Great Britain by Page Bros (Norwich) Ltd www.com CONTENTS Preface to the Second Edition ix Preface to the First Edition xi 1. Purpose and scope 1 1. Sources of programs 9 1.

Programming languages used and structured programming 11 1. Choice of algorithms 13 1. A method for expressing algorithms 15 1. Software engineering issues 17 2.

FORMAL PROBLEMS IN LINEAR ALGEBRA 19 2. Simultaneous linear equations 19 2. The linear least-squares problem 21 2. The inverse and generalised inverse of a matrix 24 2.

Decompositions of a matrix 26 2. The matrix eigenvalue problem 28 3. THE SINGULAR-VALUE DECOMPOSITION AND ITS USE TO SOLVE LEAST-SQUARES PROBLEMS 30 3. A singular-value decomposition algorithm 31 3.

Orthogonalisation by plane rotations 32 3. An alternative implementation of the singular-value decomposi- tion 38 3. Using the singular-value decomposition to solve least-squares problems 40 4. HANDLING LARGER PROBLEMS 49 4.

The Givens’ reduction 49 4. Extension to a singular-value decomposition 54 4. Some labour-saving devices 54 4. SOME COMMENTS ON THE FORMATION OF THE CROSS- PRODUCTS MATRIX ATA 66 v www.com vi Compact numerical methods for computers 6.

LINEAR EQUATIONS-A DIRECT APPROACH 72 6. Variations on the theme of Gauss elimination 80 6. Complex systems of equations 82 6. Methods for special matrices 83 7.

THE CHOLESKI DECOMPOSITION 84 7. The Choleski decomposition 84 7. Extension of the Choleski decomposition to non-negative defi- nite matrices 86 7. Some organisational details 90 8.

THE SYMMETRIC POSITIVE DEFINITE MATRIX AGAIN 94 8. The Gauss-Jordan reduction 94 8. The Gauss-Jordan algorithm for the inverse of a symmetric positive definite matrix 97 9. THE ALGEBRAIC EIGENVALUE PROBLEM 102 9.

The power method and inverse iteration 102 9. Some notes on the behaviour of inverse iteration 108 9. Eigensolutions of non-symmetric and complex matrices 110 10. REAL SYMMETRIC MATRICES 119 10.

The eigensolutions of a real symmetric matrix 119 10. Extension to matrices which are not positive definite 121 10. The Jacobi algorithm for the eigensolutions of a real symmetric matrix 126 10. Organisation of the Jacobi algorithm 128 10.

A brief comparison of methods for the eigenproblem of a real symmetric matrix 133 11. THE GENERALISED SYMMETRIC MATRIX EIGENVALUE PROBLEM 135 12. OPTIMISATION AND NONLINEAR EQUATIONS 142 12. Formal problems in unconstrained optimisation and nonlinear equations 142 12.

Difficulties encountered in the solution of optimisation and nonlinear-equation problems 146 13. ONE-DIMENSIONAL PROBLEMS 148 13. The linear search problem 148 13. Real roots of functions of one variable 160 www.com Contents vii 14.

DIRECT SEARCH METHODS 168 14. The Nelder-Mead simplex search for the minimum of a function of several parameters 168 14. Possible modifications of the Nelder-Mead algorithm 172 14. An axial search procedure 178 14.

Other direct search methods 182 15. DESCENT TO A MINIMUM I: VARIABLE METRIC ALGORITHMS 186 15. Descent methods for minimisation 186 15. Variable metric algorithms 187 15.

A choice of strategies 190 16. DESCENT TO A MINIMUM II: CONJUGATE GRADIENTS 197 16. Conjugate gradients methods 197 16. A particular conjugate gradients algorithm 198 17.

MINIMISING A NONLINEAR SUM OF SQUARES 207 17. Critique and evaluation 212 17. Numerical approximation of derivatives 218 18. A comparison of function minimisation and nonlinear least- squares methods 226 19.

THE CONJUGATE GRADIENTS METHOD APPLIED TO PROBLEMS IN LINEAR ALGEBRA 234 19. Solution of linear equations and least-squares problems by conjugate gradients 235 19. Inverse iteration by algorithm 24 241 19. Eigensolutions by minimising the Rayleigh quotient 243 APPENDICES 253 1.

Nine test matrices 253 2. List of algorithms 255 3. List of examples 256 4. Files on the software diskette 258 BIBLIOGRAPHY 263 INDEX 271 www.com PREFACE TO THE SECOND EDITION The first edition of this book was written between 1975 and 1977.

It may come as a surprise that the material is still remarkably useful and applicable in the solution of numerical problems on computers. This is perhaps due to the interest of researchers in the development of quite complicated computational methods which require considerable computing power for their execution. More modest techniques have received less time and effort of investigators. However, it has also been the case that the algorithms presented in the first edition have proven to be reliable yet simple.

The need for simple, compact numerical methods continues, even as software packages appear which relieve the user of the task of programming. Indeed, such methods are needed to implement these packages. They are also important when users want to perform a numerical task within their own programs. The most obvious difference between this edition and its predecessor is that the algorithms are presented in Turbo Pascal, to be precise, in a form which will operate under Turbo Pascal 3.

I decided to use this form of presentation for the following reasons: (i) Pascal is quite similar to the Step-and-Description presentation of algorithms used previously; (ii) the codes can be typeset directly from the executable Pascal code, and the very difficult job of proof-reading and correction avoided; (iii) the Turbo Pascal environment is very widely available on microcomputer systems, and a number of similar systems exist.6 and appendix 4 give some details about the codes and especially the driver and support routines which provide examples of use. The realization of this edition was not totally an individual effort. My research work, of which this book represents a product, is supported in part by grants from the Natural Sciences and Engineering Research Council of Canada. The Mathema- tics Department of the University of Queensland and the Applied Mathematics Division of the New Zealand Department of Scientific and Industrial Research provided generous hospitality during my 1987-88 sabbatical year, during which a great part of the code revision was accomplished.

Thanks are due to Mary Walker- Smith for reading early versions of the codes, to Maureen Clarke of IOP Publishing Ltd for reminders and encouragement, and to the Faculty of Administration of the University of Ottawa for use of a laser printer to prepare the program codes. Mary Nash has been a colleague and partner for two decades, and her contribution to this project in many readings, edits, and innumerable other tasks has been a large one. In any work on computation, there are bound to be errors, or at least program ix www.com x Compact numerical methods for computers structures which operate in unusual ways in certain computing environments. I encourage users to report to me any such observations so that the methods may be improved.

Nash Ottawa, 12 June 1989 www.com PREFACE TO THE FIRST EDITION This book is designed to help people solve numerical problems. In particular, it is directed to those who wish to solve numerical problems on ‘small’ computers, that is, machines which have limited storage in their main memory for program and data. This may be a programmable calculator-even a pocket model-or it may be a subsystem of a monster computer. The algorithms that are presented in the following pages have been used on machines such as a Hewlett-Packard 9825 programmable calculator and an IBM 370/168 with Floating Point Systems Array Processor.

That is to say, they are designed to be used anywhere that a problem exists for them to attempt to solve. In some instances, the algorithms will not be as efficient as others available for the job because they have been chosen and developed to be ‘small’. However, I believe users will find them surprisingly economical to employ because their size and/or simplicity reduces errors and human costs compared with equivalent ‘larger’ programs. Can this book be used as a text to teach numerical methods? I believe it can.

The subject areas covered are, principally, numerical linear algebra, function minimisation and root-finding. Interpolation, quadrature and differential equa- tions are largely ignored as they have not formed a significant part of my own work experience. The instructor in numerical methods will find perhaps too few examples and no exercises. However, I feel the examples which are presented provide fertile ground for the development of many exercises.

As much as possible, I have tried to present examples from the real world. Thus the origins of the mathematical problems are visible in order that readers may appreciate that these are not merely interesting diversions for those with time and computers available. Errors in a book of this sort, especially in the algorithms, can depreciate its value severely. I would very much appreciate hearing from anyone who discovers faults and will do my best to respond to such queries by maintaining an errata sheet.

In addition to the inevitable typographical errors, my own included, I anticipate that some practitioners will take exception to some of the choices I have made with respect to algorithms, convergence criteria and organisation of calculations. Out of such differences, I have usually managed to learn something of value in improving my subsequent work, either by accepting new ideas or by being reassured that what I was doing had been through some criticism and had survived. There are a number of people who deserve thanks for their contribution to this book and who may not be mentioned explicitly in the text: (i) in the United Kingdom, the many members of the Numerical Algorithms Group, of the Numerical Optimization Centre and of various university depart- ments with whom I discussed the ideas from which the algorithms have con- densed; xi www.com xii Compact numerical methods for computers (ii) in the United States, the members of the Applied Mathematics Division of the Argonne National Laboratory who have taken such an interest in the algorithms, and Stephen Nash who has pointed out a number of errors and faults; and (iii) in Canada, the members of the Economics Branch of Agriculture Canada for presenting me with such interesting problems to solve, Kevin Price for careful and detailed criticism, Bob Henderson for trying out most of the algorithms, Richard Wang for pointing out several errors in chapter 8, John Johns for trying (and finding errors in) eigenvalue algorithms, and not least Mary Nash for a host of corrections and improvements to the book as a whole. It is a pleasure to acknowledge the very important roles of Neville Goodman and Geoff Amor of Adam Hilger Ltd in the realisation of this book.

Nash Ottawa, 22 December 1977 www.com Chapter 1 A STARTING POINT 1. PURPOSE AND SCOPE This monograph is written for the person who has to solve problems with (small) computers. It is a handbook to help him or her obtain reliable answers to specific questions, posed in a mathematical way, using limited computational resources. To this end the solution methods proposed are presented not only as formulae but also as algorithms, those recipes for solving problems which are more than merely a list of the mathematical ingredients.

There has been an attempt throughout to give examples of each type of calculation and in particular to give examples of cases which are prone to upset the execution of algorithms.