正交性與內積 (Orthogonality & Inner Product)¶

定義與性質¶

項目	定義/說明
內積	\(\langle \mathbf{u}, \mathbf{v} \rangle = \mathbf{u}^T\mathbf{v} = \sum u_i v_i\)（標準內積）
正交	\(\mathbf{u} \perp \mathbf{v}\) ⟺ \(\langle \mathbf{u}, \mathbf{v} \rangle = 0\)
正交集	集合中任兩向量都正交
正規正交集	正交集且每個向量長度為 1
正交矩陣	\(Q^TQ = QQ^T = I\)，即 \(Q^{-1} = Q^T\)
投影	\(\text{proj}_{\mathbf{u}}\mathbf{v} = \frac{\langle \mathbf{v}, \mathbf{u} \rangle}{\langle \mathbf{u}, \mathbf{u} \rangle}\mathbf{u}\)
Gram-Schmidt	將任意基底轉換為正規正交基底

故事理解：正交就像「垂直」的推廣。在 2D 中，\(\mathbf{i}\) 和 \(\mathbf{j}\) 互相垂直，所以它們正交。正交基底讓計算變得簡單——任何向量的座標就是「投影長度」。

設多項式空間 \(\mathcal{P}_2\) 包含所有次數 \(\leq 2\) 的實係數多項式，內積定義為：

\[\langle p_1(x), p_2(x) \rangle = \int_{-1}^{1} p_1(x) p_2(x) \, dx\]

⭐ 110年 Q3 風格

(a) 多項式正交基底

驗證 \(\{1, x\}\) 是正交集（計算 \(\langle 1, x \rangle\)）
設 \(W = \text{span}\{1, x\}\)。對於 \(p(x) = x^2\)，找出 \(q(x) \in W\) 和 \(r(x) \in W^\perp\) 使得 \(p(x) = q(x) + r(x)\)

（提示：\(q(x) = \text{proj}_W(p)\)，\(r(x) = p(x) - q(x)\)）

(b) Gram-Schmidt 正交化

對基底 \(\{1, x, x^2\}\) 應用 Gram-Schmidt 過程，求出 \(\mathcal{P}_2\) 的一組正規正交基底。

（這組多項式稱為 Legendre 多項式）

設 \(Q\) 是 \(n \times n\) 正交矩陣。 ⭐ 109年 Q9 風格

判斷以下敘述的真偽：

(T/F) \(Q\) 的列向量構成 \(\mathbb{R}^n\) 的正規正交基底
(T/F) \(Q\) 的行向量構成 \(\mathbb{R}^n\) 的正規正交基底
(T/F) \(\|Q\mathbf{x}\| = \|\mathbf{x}\|\)（保持長度）
(T/F) \(\langle Q\mathbf{x}, Q\mathbf{y} \rangle = \langle \mathbf{x}, \mathbf{y} \rangle\)（保持內積）
(T/F) \(\det(Q) = \pm 1\)
(T/F) \(Q\) 的特徵值滿足 \(|\lambda| = 1\)

設 \(A\) 是 \(m \times n\) 矩陣（\(m \geq n\)），\(A\) 的列向量線性獨立。 ⭐ 110年 Q1© 風格

(d) 投影矩陣

令 \(P_W\) 是投影到 \(W = \text{Col}(A)\) 的投影矩陣。

判斷以下集合是否為指定向量空間的正規正交基底： ⭐ 109年 Q9 風格

(e) 正規正交基底判斷

\(\left\{ \frac{1}{5}\begin{bmatrix} 3 \\ 4 \end{bmatrix}, \frac{1}{5}\begin{bmatrix} 4 \\ -3 \end{bmatrix} \right\}\) 對於 \(\mathbb{R}^2\)（標準內積 \(\langle \mathbf{x}, \mathbf{y} \rangle = \mathbf{x}^T\mathbf{y}\)）
\(\{\cos x, \sin x\}\) 對於 \(C[0, 2\pi]\)（內積 \(\langle f, g \rangle = \int_0^{2\pi} f(x)g(x) \, dx\)）
\(\{1, x, x^2\}\) 對於 \(\mathcal{P}_3\)（內積 \(\langle f, g \rangle = \int_{-1}^{1} f(x)g(x) \, dx\)）

設 \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) 是正交集（非零向量）。 ⭐ 113年 Q10 風格

(f) 正交集的性質

證明 \(\mathbf{v}_1, \ldots, \mathbf{v}_k\) 線性獨立
若 \(\mathbf{u} = c_1\mathbf{v}_1 + \cdots + c_k\mathbf{v}_k\)，證明 \(c_i = \frac{\langle \mathbf{u}, \mathbf{v}_i \rangle}{\langle \mathbf{v}_i, \mathbf{v}_i \rangle}\)
利用上述結果，計算 \(\mathbf{u} = [1, 2, 3]^T\) 在 \(\mathbf{v}_1 = [1, 1, 0]^T\)，\(\mathbf{v}_2 = [1, -1, 0]^T\)，\(\mathbf{v}_3 = [0, 0, 1]^T\) 下的座標

最小平方問題。

(g) 最小平方解

設 \(A\mathbf{x} = \mathbf{b}\) 無解。最小平方解 \(\hat{\mathbf{x}}\) 滿足 \(\|A\hat{\mathbf{x}} - \mathbf{b}\|\) 最小。