python求奇異矩陣的解（奇異矩陣的解會有無窮解）

本文目錄一覽：

• 1、求一矩陣奇異值的過程，順便說明什麼是奇異值.盡量詳
• 2、matlab奇異矩陣如何處理？
• 3、矩陣分解
• 4、Python中怎樣實現奇異值SVD分解

求一矩陣奇異值的過程，順便說明什麼是奇異值.盡量詳

1、什麼是奇異矩陣？奇異矩陣是線性代數的概念，就是如果一個矩陣對應的行列式等於0，則該矩陣稱為奇異矩陣。2、如何判斷一個矩陣是否是奇異陣呢？（1）看這個矩陣是不是方陣（即行數和列數相等的矩陣。若行數和列數不相等，那就談不上奇異矩陣和非奇異矩陣）。（2）看此方陣的行列式|a|是否等於0，若等於0，稱矩陣a為奇異矩陣；若不等於0，稱矩陣a為非奇異矩陣。（3）由|a|≠0可知矩陣a可逆，可以得出另外一個重要結論：逆矩陣就是非奇異矩陣，非奇異矩陣也是可逆矩陣。　如果a為奇異矩陣，則ax=0有無窮解，ax=b有無窮解或者無解。如果a為非奇異矩陣，則ax=0有且只有唯一零解，ax=b有唯一解。（4）如果a(n×n)為奇異矩陣a的秩rank(a)a滿秩，rank(a)=n.3、奇異矩陣的特徵：（1）一個方陣非奇異當且僅當它的行列式不為零。（2）一個方陣非奇異當且僅當它代表的線性變換是個自同構。（3）一個矩陣半正定當且僅當它的每個特徵值大於或等於零。（4）一個矩陣正定當且僅當它的每個特徵值都大於零。

matlab奇異矩陣如何處理？

如果是A*inv(B),為了避免運算時間過長，或出現奇異矩陣，一般寫成A/B的形式。如果是inv(B)/A,就寫成B\A;

矩陣分解

為什麼要進行矩陣分解？

1、從矩陣變換的角度：

將複合變換後的矩陣分解成基本變換過程。具體請看奇異值分解之矩陣變換角度。

2、從 研究動機 的角度:

首先要理解基變換（坐標變換）再理解特徵值的本質。

1、如果一個矩陣的行列式為0（非滿秩），其特徵值為0，這個證明比較簡單：

(單位矩陣有時候用 表示，有時候用 表示。)

如果 ，那麼 ，進而

2、對於一個 的矩陣 ，其 ;

3、主對角線上的元素都不為0，其他元素都為0的矩陣叫對角矩陣，對角矩陣一定是正交矩陣，即其基兩兩垂直。

特徵值分解就是矩陣的對角化，就是可以將 分解為 ， 是由對應特徵向量組成的矩陣–特徵矩陣， 為對角矩陣，對角線上的元素為 的特徵值。只有在一定條件下，一個變換可以由其特徵值和特徵向量完全表述，也就是說： 所有的特徵向量組成了空間的一組基 。並不是所有方陣都可以對角化，方陣 可以被對角化的條件是 ：

正交矩陣一定可以對角化 。以三維空間為例，正交矩陣就是歪著的立方體，對角化就是把這個立方體擺正（就是讓它的某一個頂點放在原點上，同時這個頂點的三條邊放在三條坐標軸上）。對角矩陣就是擺正後的立方體。

機器學習中的特徵值分解， 往往是協方差矩陣，如PCA，所以我們要確保各個特徵之間是線性無關的。

如何通俗地理解奇異值？

我們知道一個向量張成的空間是一條直線， 任意實數 可以得到非零向量 張成的空間是一條直線。那麼如果一個 維空間中的向量 其所張成的空間——一條直線上的點，經過一個矩陣 變換到另一個 的空間中依然在同一條直線上，這個直線是 空間中的向量 所張成的空間，只是會有對應的縮放，這個縮放的程度就是奇異值。用數學形式表達為： ， 是 空間中的向量， 是 的變換矩陣， 是 空間中的向量， 就是奇異值。

可以感覺到特徵值是奇異值的特例，當m=n且 和 重疊的時候（方向可以不同），奇異值=特徵值。

奇異值分解計算例子：

SVD（奇異值分解）Python實現：

矩陣分解為了解決傳統協同過濾處理稀疏共現矩陣能力差的問題。使用矩陣分解相比傳統協同過濾也提升了泛化性。

基於矩陣分解的模型又叫潛在因素模型、隱語義模型。

矩陣分解的開端是2006年的Netflix競賽。

1、推薦系統中：

分解的是什麼矩陣？共現矩陣

怎麼共現矩陣分解？

1）特徵值分解

要求待分解的是方陣，所以行不通

2）奇異值分解

要求待分解矩陣是稠密矩陣，而共現矩陣是稀疏矩陣，所以不行；

奇異值分解的複雜度是 ，複雜度很高，也不合適。

3）梯度下降法——也就是交替最小二乘法（alternating least squares，ALS），解決兩個變數求解。

使用梯度下降法進行矩陣分解

（1）確定目標函數： ，就是一個MSE；

（2）分別對 和 求偏導

（3）參數更新

（4）迭代

得到隱向量後，對某個用戶進行推薦時，利用該用戶的隱向量與所有物品的隱向量進行逐一內積運算，得到該用戶對所有物品的得分，再進行排序，得到最終的推薦列表。

4)貝葉斯矩陣分解

2、PCA—奇異值分解

Python中怎樣實現奇異值SVD分解

這兩個命令是完全不同的呀。

S=svd（A）表示對矩陣A進行SVD分解，分解的結果是得到3個矩陣，如果返回值只有一個，那麼可以得到A的奇異值向量。

eig（A）表示求矩陣A的特徵值。

所以區別就是，svd得到的是A的奇異值，eig得到的是A的特徵值。

A’表示A的轉置矩陣，A’*A的n個非負特徵值的平方根叫作矩陣A的奇異值。記為σi(A)。

希望可以幫助你，望採納！