NumPy是Python中用於資料分析、機器學習、科學計算的重要軟體包。它極大地簡化了向量和矩陣的操作及處理。python的不少資料處理軟體包依賴於NumPy作為其基礎架構的核心部分(例如scikit-learn、SciPy、pandas和tensorflow)。除了資料切片和資料切塊的功能之外,掌握numpy也使得開發者在使用各資料處理庫除錯和處理複雜用例時更具優勢。
在本文中,將介紹NumPy的主要用法,以及它如何呈現不同型別的資料(表格,影象,文字等),這些經Numpy處理後的資料將成為機器學習模型的輸入。
NumPy中的陣列操作
建立陣列
我們可以透過將python列表傳入np。array()來建立一個NumPy陣列(也就是強大的ndarray)。在下面的例子裡,創建出的陣列如右邊所示,通常情況下,我們希望NumPy為我們初始化陣列的值,為此NumPy提供了諸如ones(),zeros()和random。random()之類的方法。我們只需傳入元素個數即可:
一旦我們建立了陣列,我們就可以用其做點有趣的應用了,文摘菌將在下文展開說明。
陣列的算術運算
讓我們建立兩個NumPy陣列,分別稱作data和ones:
若要計算兩個陣列的加法,只需簡單地敲入data + ones,就可以實現對應位置上的資料相加的操作(即每行資料進行相加),這種操作比迴圈讀取陣列的方法程式碼實現更加簡潔。
當然,在此基礎上舉一反三,也可以實現減法、乘法和除法等操作:
許多情況下,我們希望進行陣列和單個數值的操作(也稱作向量和標量之間的操作)。比如:如果陣列表示的是以英里為單位的距離,我們的目標是將其轉換為公里數。可以簡單的寫作data * 1。6:
NumPy透過陣列廣播(broadcasting)知道這種操作需要和陣列的每個元素相乘。
陣列的切片操作
我們可以像python列表操作那樣對NumPy陣列進行索引和切片,如下圖所示:
聚合函式
NumPy為我們帶來的便利還有聚合函式,聚合函式可以將資料進行壓縮,統計陣列中的一些特徵值:
除了min,max和sum等函式,還有mean(均值),prod(資料乘法)計算所有元素的乘積,std(標準差),等等。上面的所有例子都在一個維度上處理向量。除此之外,NumPy之美的一個關鍵之處是它能夠將之前所看到的所有函式應用到任意維度上。
NumPy中的矩陣操作
建立矩陣
我們可以透過將二維列表傳給Numpy來建立矩陣。
np。array([[1,2],[3,4]])
除此外,也可以使用上文提到的ones()、zeros()和random。random()來建立矩陣,只需傳入一個元組來描述矩陣的維度:
矩陣的算術運算
對於大小相同的兩個矩陣,我們可以使用算術運算子(+-*/)將其相加或者相乘。NumPy對這類運算採用對應位置(position-wise)操作處理:
對於不同大小的矩陣,只有兩個矩陣的維度同為1時(例如矩陣只有一列或一行),我們才能進行這些算術運算,在這種情況下,NumPy使用廣播規則(broadcast)進行操作處理:
與算術運算有很大區別是使用點積的矩陣乘法。NumPy提供了dot()方法,可用於矩陣之間進行點積運算:
上圖的底部添加了矩陣尺寸,以強調運算的兩個矩陣在列和行必須相等。可以將此操作圖解為如下所示:
矩陣的切片和聚合
索引和切片功能在操作矩陣時變得更加有用。可以在不同維度上使用索引操作來對資料進行切片。
我們可以像聚合向量一樣聚合矩陣:
不僅可以聚合矩陣中的所有值,還可以使用axis引數指定行和列的聚合:
矩陣的轉置和重構
處理矩陣時經常需要對矩陣進行轉置操作,常見的情況如計算兩個矩陣的點積。NumPy陣列的屬性T可用於獲取矩陣的轉置。
在較為複雜的用例中,你可能會發現自己需要改變某個矩陣的維度。這在機器學習應用中很常見,例如模型的輸入矩陣形狀與資料集不同,可以使用NumPy的reshape()方法。只需將矩陣所需的新維度傳入即可。也可以傳入-1,NumPy可以根據你的矩陣推斷出正確的維度:
上文中的所有功能都適用於多維資料,其中心資料結構稱為ndarray(N維陣列)。
很多時候,改變維度只需在NumPy函式的引數中新增一個逗號,如下圖所示:
NumPy中的公式應用示例
NumPy的關鍵用例是實現適用於矩陣和向量的數學公式。這也Python中常用NumPy的原因。例如,均方誤差是監督機器學習模型處理迴歸問題的核心:
在NumPy中可以很容易地實現均方誤差:
這樣做的好處是,numpy無需考慮predictions與labels具體包含的值。文摘菌將透過一個示例來逐步執行上面程式碼行中的四個操作:
預測(predictions)和標籤(labels)向量都包含三個值。這意味著n的值為3。在我們執行減法後,我們最終得到如下值:
然後我們可以計算向量中各值的平方:
現在我們對這些值求和:
最終得到該預測的誤差值和模型質量分數。
用NumPy表示日常資料
日常接觸到的資料型別,如電子表格,影象,音訊……等,如何表示呢?Numpy可以解決這個問題。
表和電子表格
電子表格或資料表都是二維矩陣。電子表格中的每個工作表都可以是自己的變數。python中類似的結構是pandas資料幀(dataframe),它實際上使用NumPy來構建的。
音訊和時間序列
音訊檔案是一維樣本陣列。每個樣本都是代表一小段音訊訊號的數字。CD質量的音訊每秒可能有44,100個取樣樣本,每個樣本是一個-65535到65536之間的整數。這意味著如果你有一個10秒的CD質量的WAVE檔案,你可以將它載入到長度為10 * 44,100 = 441,000個樣本的NumPy陣列中。想要提取音訊的第一秒?只需將檔案載入到我們稱之為audio的NumPy陣列中,然後擷取audio[:44100]。
以下是一段音訊檔案:
時間序列資料也是如此(例如,股票價格隨時間變化的序列)。
影象
影象是大小為(高度×寬度)的畫素矩陣。如果影象是黑白影象(也稱為灰度影象),則每個畫素可以由單個數字表示(通常在0(黑色)和255(白色)之間)。如果對影象做處理,裁剪影象的左上角10 x 10大小的一塊畫素區域,用NumPy中的image[:10,:10]就可以實現。
這是一個影象檔案的片段:
如果影象是彩色的,則每個畫素由三個數字表示 :紅色,綠色和藍色。在這種情況下,我們需要第三維(因為每個單元格只能包含一個數字)。因此彩色影象由尺寸為(高x寬x 3)的ndarray表示。
語言
如果我們處理文字,情況就會有所不同。用數字表示文字需要兩個步驟,構建詞彙表(模型知道的所有唯一單詞的清單)和嵌入(embedding)。讓我們看看用數字表示這個(翻譯的)古語引用的步驟:“Have the bards who preceded me left any theme unsung?”
模型需要先訓練大量文字才能用數字表示這位戰場詩人的詩句。我們可以讓模型處理一個小資料集,並使用這個資料集來構建一個詞彙表(71,290個單詞):
然後可以將句子劃分成一系列“詞”token(基於通用規則的單詞或單詞部分):
然後我們用詞彙表中的id替換每個單詞:
這些ID仍然不能為模型提供有價值的資訊。因此,在將一系列單詞送入模型之前,需要使用嵌入(embedding)來替換token/單詞(在本例子中使用50維度的word2vec嵌入):
你可以看到此NumPy陣列的維度為[embedding_dimension x sequence_length]。
在實踐中,這些數值不一定是這樣的,但我以這種方式呈現它是為了視覺上的一致。出於效能原因,深度學習模型傾向於保留批資料大小的第一維(因為如果並行訓練多個示例,則可以更快地訓練模型)。很明顯,這裡非常適合使用reshape()。例如,像BERT這樣的模型會期望其輸入矩陣的形狀為:[batch_size,sequence_length,embedding_size]。
這是一個數字合集,模型可以處理並執行各種有用的操作。我留空了許多行,可以用其他示例填充以供模型訓練(或預測)。
事實證明,在我們的例子中,那位詩人的話語比其他詩人的詩句更加名垂千古。儘管生而為奴,詩人安塔拉(Antarah)的英勇和語言能力使他獲得了自由和神話般的地位,他的詩是伊斯蘭教以前的阿拉伯半島《懸詩》的七首詩之一。
掃碼
關注