Find the least squares solution to A x = b Ax=b A x = b A = [ 3 − 5 1 − 7 0 1 ] A=\begin{bmatrix}3&-5\\1&-7\\0&1\end{bmatrix} A = ⎣ ⎡ 3 1 0 − 5 − 7 1 ⎦ ⎤ b = [ 0 2 5 ] b=\begin{bmatrix}0\\2\\5\end{bmatrix} b = ⎣ ⎡ 0 2 5 ⎦ ⎤ [ − 24 266 23 266 ] \begin{bmatrix}-\frac{24}{266}\\\frac{23}{266}\end{bmatrix} [ − 266 24 266 23 ] [ − 24 − 23 ] \begin{bmatrix}-24\\-23\end{bmatrix} [ − 24 − 23 ] [ − 24 133 − 23 133 ] \begin{bmatrix}-\frac{24}{133}\\-\frac{23}{133}\end{bmatrix} [ − 133 24 − 133 23 ] STEP 1 Предположения 1. Матрица A A A 3 × 2 3 \times 2 3 × 2 b b b 3 × 1 3 \times 1 3 × 1 x x x 2 × 1 2 \times 1 2 × 1 A x − b Ax - b A x − b STEP 2 Для решения системы уравнений A x = b Ax = b A x = b A T A x = A T b A^T A x = A^T b A T A x = A T b STEP 3 Сначала найдем транспонированную матрицу A T A^T A T A T = ( 3 1 0 − 5 − 7 1 )
A^T = \left(\begin{array}{ccc}
3 & 1 & 0 \\
-5 & -7 & 1
\end{array}\right)
A T = ( 3 − 5 1 − 7 0 1 ) STEP 4 Теперь найдем произведение A T A A^T A A T A A T A = ( 3 1 0 − 5 − 7 1 ) ( 3 − 5 1 − 7 0 1 )
A^T A = \left(\begin{array}{ccc}
3 & 1 & 0 \\
-5 & -7 & 1
\end{array}\right)
\left(\begin{array}{cc}
3 & -5 \\
1 & -7 \\
0 & 1
\end{array}\right)
A T A = ( 3 − 5 1 − 7 0 1 ) ⎝ ⎛ 3 1 0 − 5 − 7 1 ⎠ ⎞ STEP 5 Выполним умножение матриц. A T A = ( 3 ⋅ 3 + 1 ⋅ 1 + 0 ⋅ 0 3 ⋅ ( − 5 ) + 1 ⋅ ( − 7 ) + 0 ⋅ 1 − 5 ⋅ 3 + ( − 7 ) ⋅ 1 + 1 ⋅ 0 − 5 ⋅ ( − 5 ) + ( − 7 ) ⋅ ( − 7 ) + 1 ⋅ 1 )
A^T A = \left(\begin{array}{cc}
3 \cdot 3 + 1 \cdot 1 + 0 \cdot 0 & 3 \cdot (-5) + 1 \cdot (-7) + 0 \cdot 1 \\
-5 \cdot 3 + (-7) \cdot 1 + 1 \cdot 0 & -5 \cdot (-5) + (-7) \cdot (-7) + 1 \cdot 1
\end{array}\right)
A T A = ( 3 ⋅ 3 + 1 ⋅ 1 + 0 ⋅ 0 − 5 ⋅ 3 + ( − 7 ) ⋅ 1 + 1 ⋅ 0 3 ⋅ ( − 5 ) + 1 ⋅ ( − 7 ) + 0 ⋅ 1 − 5 ⋅ ( − 5 ) + ( − 7 ) ⋅ ( − 7 ) + 1 ⋅ 1 ) STEP 6 Рассчитаем элементы матрицы A T A A^T A A T A A T A = ( 9 + 1 + 0 − 15 − 7 + 0 − 15 − 7 + 0 25 + 49 + 1 )
A^T A = \left(\begin{array}{cc}
9 + 1 + 0 & -15 - 7 + 0 \\
-15 - 7 + 0 & 25 + 49 + 1
\end{array}\right)
A T A = ( 9 + 1 + 0 − 15 − 7 + 0 − 15 − 7 + 0 25 + 49 + 1 ) A T A = ( 10 − 22 − 22 75 )
A^T A = \left(\begin{array}{cc}
10 & -22 \\
-22 & 75
\end{array}\right)
A T A = ( 10 − 22 − 22 75 ) STEP 7 Теперь найдем произведение A T b A^T b A T b A T b = ( 3 1 0 − 5 − 7 1 ) ( 0 2 5 )
A^T b = \left(\begin{array}{ccc}
3 & 1 & 0 \\
-5 & -7 & 1
\end{array}\right)
\left(\begin{array}{l}
0 \\
2 \\
5
\end{array}\right)
A T b = ( 3 − 5 1 − 7 0 1 ) ⎝ ⎛ 0 2 5 ⎠ ⎞ STEP 8 Выполним умножение матрицы на вектор. A T b = ( 3 ⋅ 0 + 1 ⋅ 2 + 0 ⋅ 5 − 5 ⋅ 0 + ( − 7 ) ⋅ 2 + 1 ⋅ 5 )
A^T b = \left(\begin{array}{c}
3 \cdot 0 + 1 \cdot 2 + 0 \cdot 5 \\
-5 \cdot 0 + (-7) \cdot 2 + 1 \cdot 5
\end{array}\right)
A T b = ( 3 ⋅ 0 + 1 ⋅ 2 + 0 ⋅ 5 − 5 ⋅ 0 + ( − 7 ) ⋅ 2 + 1 ⋅ 5 ) STEP 9 Рассчитаем элементы вектора A T b A^T b A T b A T b = ( 0 + 2 + 0 0 − 14 + 5 )
A^T b = \left(\begin{array}{c}
0 + 2 + 0 \\
0 - 14 + 5
\end{array}\right)
A T b = ( 0 + 2 + 0 0 − 14 + 5 ) A T b = ( 2 − 9 )
A^T b = \left(\begin{array}{c}
2 \\
-9
\end{array}\right)
A T b = ( 2 − 9 ) STEP 10 Теперь у нас есть система уравнений с матрицей A T A A^T A A T A A T b A^T b A T b ( 10 − 22 − 22 75 ) ( x 1 x 2 ) = ( 2 − 9 )
\left(\begin{array}{cc}
10 & -22 \\
-22 & 75
\end{array}\right)
\left(\begin{array}{c}
x_1 \\
x_2
\end{array}\right)
=
\left(\begin{array}{c}
2 \\
-9
\end{array}\right)
( 10 − 22 − 22 75 ) ( x 1 x 2 ) = ( 2 − 9 )
STEP 11 Решим систему линейных уравнений, используя метод Гаусса или обратную матрицу. STEP 12 Найдем определитель матрицы A T A A^T A A T A det ( A T A ) = 10 ⋅ 75 − ( − 22 ) ⋅ ( − 22 )
\det(A^T A) = 10 \cdot 75 - (-22) \cdot (-22)
det ( A T A ) = 10 ⋅ 75 − ( − 22 ) ⋅ ( − 22 ) det ( A T A ) = 750 − 484
\det(A^T A) = 750 - 484
det ( A T A ) = 750 − 484 det ( A T A ) = 266
\det(A^T A) = 266
det ( A T A ) = 266 STEP 13 Так как определитель не равен нулю, матрица A T A A^T A A T A STEP 14 Найдем обратную матрицу ( A T A ) − 1 (A^T A)^{-1} ( A T A ) − 1 2 × 2 2 \times 2 2 × 2 ( A T A ) − 1 = 1 det ( A T A ) ( 75 22 22 10 )
(A^T A)^{-1} = \frac{1}{\det(A^T A)}
\left(\begin{array}{cc}
75 & 22 \\
22 & 10
\end{array}\right)
( A T A ) − 1 = det ( A T A ) 1 ( 75 22 22 10 ) STEP 15 Подставим значение определителя. ( A T A ) − 1 = 1 266 ( 75 22 22 10 )
(A^T A)^{-1} = \frac{1}{266}
\left(\begin{array}{cc}
75 & 22 \\
22 & 10
\end{array}\right)
( A T A ) − 1 = 266 1 ( 75 22 22 10 ) STEP 16 Теперь найдем решение x x x A T b A^T b A T b x = ( A T A ) − 1 A T b
x = (A^T A)^{-1} A^T b
x = ( A T A ) − 1 A T b x = 1 266 ( 75 22 22 10 ) ( 2 − 9 )
x = \frac{1}{266}
\left(\begin{array}{cc}
75 & 22 \\
22 & 10
\end{array}\right)
\left(\begin{array}{c}
2 \\
-9
\end{array}\right)
x = 266 1 ( 75 22 22 10 ) ( 2 − 9 ) STEP 17 Выполним умножение. x = 1 266 ( 75 ⋅ 2 + 22 ⋅ ( − 9 ) 22 ⋅ 2 + 10 ⋅ ( − 9 ) )
x = \frac{1}{266}
\left(\begin{array}{c}
75 \cdot 2 + 22 \cdot (-9) \\
22 \cdot 2 + 10 \cdot (-9)
\end{array}\right)
x = 266 1 ( 75 ⋅ 2 + 22 ⋅ ( − 9 ) 22 ⋅ 2 + 10 ⋅ ( − 9 ) ) STEP 18 Рассчитаем элементы вектора x x x x = 1 266 ( 150 − 198 44 − 90 )
x = \frac{1}{266}
\left(\begin{array}{c}
150 - 198 \\
44 - 90
\end{array}\right)
x = 266 1 ( 150 − 198 44 − 90 ) x = 1 266 ( − 48 − 46 )
x = \frac{1}{266}
\left(\begin{array}{c}
-48 \\
-46
\end{array}\right)
x = 266 1 ( − 48 − 46 ) STEP 19 Упростим вектор x x x x = ( − 48 266 − 46 266 )
x = \left(\begin{array}{c}
-\frac{48}{266} \\
-\frac{46}{266}
\end{array}\right)
x = ( − 266 48 − 266 46 ) x = ( − 24 133 − 23 133 )
x = \left(\begin{array}{c}
-\frac{24}{133} \\
-\frac{23}{133}
\end{array}\right)
x = ( − 133 24 − 133 23 ) Таким образом, приближенное решение системы A x = b Ax = b A x = b x = ( − 24 133 − 23 133 )
x = \left(\begin{array}{c}
-\frac{24}{133} \\
-\frac{23}{133}
\end{array}\right)
x = ( − 133 24 − 133 23 ) Ответ: c. ( − 24 133 − 23 133 ) \left(\begin{array}{l}-\frac{24}{133} \\ -\frac{23}{133}\end{array}\right) ( − 133 24 − 133 23 ) 
