希尔伯特矩阵的逆
精确希尔伯特矩阵的精确逆是一个元素为大整数的矩阵。只要矩阵的阶数N
小于15时,这些整数可以表示为浮点数,而不会出现舍入错误。
比较因弗希尔布(北)
具有高级督察(高级督察(北))
涉及两组或三组舍入误差的影响:
由于表示错误而导致的错误高等教育文凭(北)
矩阵求逆过程中的误差
表示错误时出现的错误(如果有)因弗希尔布(北)
这些舍入误差中的第一个涉及用浮点表示法表示分数,如1/3和1/5,并且是最显著的。
[1] 福赛斯,G.E.和C.B.莫勒。线性代数系统的计算机解法恩格尔伍德悬崖,新泽西州:普伦蒂斯大厅,1967年。