全國(guó)模式識(shí)別 振皓科技

全國(guó)模式識(shí)別 振皓科技

模式識(shí)別簡(jiǎn)史? ? ??早期的模式識(shí)別研究著重在數(shù)學(xué)方法上。20世紀(jì)50年代末，F(xiàn).羅森布拉特提出了一種簡(jiǎn)化的模擬人腦進(jìn)行識(shí)別的數(shù)學(xué)模型--感知器，初步實(shí)現(xiàn)了通過(guò)給定類別的各個(gè)樣本對(duì)識(shí)別系統(tǒng)進(jìn)行訓(xùn)練，使系統(tǒng)在學(xué)習(xí)完畢后具有對(duì)其他未知類別的模式進(jìn)行正確分類的能力。1957年，周紹康提出用統(tǒng)計(jì)決策理論方法求解模式識(shí)別問(wèn)題，促進(jìn)了從50年代末開(kāi)始的模式識(shí)別研究工作的迅速發(fā)展。1962年，R.納拉西曼提出了一種基于基元關(guān)系的句法識(shí)別方法。付京孫(K.S. Fu)在笮的理論及應(yīng)用兩方^行了系統(tǒng)的卓有成效的研究，并于1974年出版了一本專著《句法模式識(shí)別及其應(yīng)用》。1982年和1984年，J.荷甫菲爾德發(fā)表了兩篇重要論文，深刻揭示出人工神經(jīng)元，網(wǎng)路所具有的聯(lián)想存儲(chǔ)和計(jì)算能力，進(jìn)一步推動(dòng)了模式識(shí)別的研究工作，短短幾年在很多應(yīng)用方面就取得了顯著成果，從而形成了模式識(shí)別的人工神經(jīng)元網(wǎng)絡(luò)方法的新的學(xué)科方向。
模式識(shí)別算法1. K-Nearest Neighbor? ??K-NN可以說(shuō)是一種直接的用來(lái)分類未知數(shù)據(jù)的方法。簡(jiǎn)單來(lái)說(shuō)，K-NN可以看成：有那么一堆你已經(jīng)知道分類的數(shù)據(jù)，然后當(dāng)一個(gè)新數(shù)據(jù)進(jìn)入的時(shí)候，就開(kāi)始跟訓(xùn)練數(shù)據(jù)里的每個(gè)點(diǎn)求距離，然后挑離這個(gè)訓(xùn)練數(shù)據(jù)近的K個(gè)點(diǎn)看看這幾個(gè)點(diǎn)屬于什么類型，然后用少數(shù)服從多數(shù)的原則，給新數(shù)據(jù)歸類。? ??實(shí)際上K-NN本身的運(yùn)算量是相當(dāng)大的，因?yàn)閿?shù)據(jù)的維數(shù)往往不止2維，而且訓(xùn)練數(shù)據(jù)庫(kù)越大，所求的樣本間距離就越多。就拿我們course project的人臉檢測(cè)來(lái)說(shuō)，輸入向量的維數(shù)是1024維(32x32的圖，當(dāng)然我覺(jué)得這種方法比較silly)，訓(xùn)練數(shù)據(jù)有上千個(gè)，所以每次求距離(這里用的是歐式距離，就是我們常用的平方和開(kāi)根號(hào)求距法) 這樣每個(gè)點(diǎn)的歸類都要花上上百萬(wàn)次的計(jì)算。所以現(xiàn)在比較常用的一種方法就是kd-tree。也就是把整個(gè)輸入空間劃分成很多很多小子區(qū)域，然后根據(jù)臨近的原則把它們組織為樹(shù)形結(jié)構(gòu)。然后搜索近K個(gè)點(diǎn)的時(shí)候就不用全盤比較而只要比較臨近幾個(gè)子區(qū)域的訓(xùn)練數(shù)據(jù)就行了。? ?? ? ??當(dāng)然，kd-tree有一個(gè)問(wèn)題就是當(dāng)輸入維數(shù)跟訓(xùn)練數(shù)據(jù)數(shù)量很接近時(shí)就很難優(yōu)化了。所以用PCA(稍后會(huì)介紹)降維大多數(shù)情況下是很有必要的

模式識(shí)別方法? ? ? ?決策理論方法又稱統(tǒng)計(jì)方法，是發(fā)展較早也比較成熟的一種方法。被識(shí)別對(duì)象首先數(shù)字化，變換為適于計(jì)算機(jī)處理的數(shù)字信息。一個(gè)模式常常要用很大的信息量來(lái)表示。許多模式識(shí)別系統(tǒng)在數(shù)字化環(huán)節(jié)之后還進(jìn)行預(yù)處理，用于除去混入的干擾信息并減少某些變形和失真。隨后是進(jìn)行特征抽取，即從數(shù)字化后或預(yù)處理后的輸入模式中抽取一組特征。所謂特征是選定的一種度量，它對(duì)于一般的變形和失真保持不變或幾乎不變，并且只含盡可能少的冗余信息。特征抽取過(guò)程將輸入模式從對(duì)象空間映射到特征空間。這時(shí)，模式可用特征空間中的一個(gè)點(diǎn)或一個(gè)特征矢量表示。這種映射不僅壓縮了信息量，而且易于分類。在決策理論方法中，特征抽取占有重要的地位，但尚無(wú)通用的理論指導(dǎo)，只能通過(guò)分析具體識(shí)別對(duì)象決定選取何種特征。特征抽取后可進(jìn)行分類，即從特征空間再映射到?jīng)Q策空間。為此而引入鑒別函數(shù)，由特征矢量計(jì)算出相應(yīng)于各類別的鑒別函數(shù)值，通過(guò)鑒別函數(shù)值的比較實(shí)行分類。