中國儲能網訊：
本文亮點：（1） 使用增量容量分析法繪制IC曲線，提出 IC 曲線的面積作為特征輸入，提高了估計 SOH 的準確性。（2） 提出一種CNN與 Transformer 結合的神經網絡，大大提高了神經網絡模型在處理序列問題時對局部特征的提取能力。（3） 將特征多項式作為輸入，提升了SOH與特征之間的非線性映射關系，大大提高了估算 SOH 的魯棒性。
摘 要 為了提高鋰離子電池健康狀態(tài)(state of health，SOH)估計的精確度，本研究結合卷積神經網絡(convolutional neural networks，CNN)強大的局部特征提取能力和Transformer的序列處理能力，提出了基于多項式特征擴展的CNN-Transformer融合模型。該方法提取了與電池容量高度相關的增量容量(incremental capacity，IC)曲線峰值、IC曲線對應電壓、面積及充電時間作為健康因子，然后將其進行多項式擴展，增加融合模型對輸入特征的非線性處理能力。引入主成分分析法(principal component analysis，PCA)對特征空間進行降維，有利于捕獲數(shù)據(jù)有效信息，減少模型訓練時間。采用美國國家宇航局(National Aeronautics and Space Administration，NASA)數(shù)據(jù)集和馬里蘭大學數(shù)據(jù)集，通過加入多項式特征前后的CNN-Transformer模型對比、加入多項式特征的CNN-Transformer模型和單一模型算法對比，驗證了加入多項式特征的CNN-Transformer融合算法的有效性和精確度，結果表明提出模型的SOH估計精度相較于未加入多項式特征的CNN-Transformer模型，對于B0005、B0006、B0007、B0018數(shù)據(jù)集分別提高了38.71%、50.28%、4.71%、17.58%。
關鍵詞 鋰離子電池；電池健康狀態(tài)預測；主成分分析法；CNN-Transformer；增量容量分析；多項式特征
鋰離子電池具有循環(huán)壽命長、能量密度高等優(yōu)點，近年來鋰離子電池廣泛用于汽車動力電池等領域，促進了電動汽車產業(yè)的快速發(fā)展。然而，在使用過程中鋰離子電池會出現(xiàn)容量衰減現(xiàn)象，導致電池性能的退化，還會影響電池荷電狀態(tài)(state of charge，SOC)估計的準確度。因此，鋰離子電池健康狀態(tài)(state of health，SOH)的準確有效估計至關重要。
目前SOH估計方法主要有模型驅動法和數(shù)據(jù)驅動法。其中模型驅動法分為基于等效電路模型和電化學模型的方法?；诘刃щ娐纺Ｐ偷腟OH估計方法需要建立等效電路，一般使用二階等效電路模型，利用卡爾曼濾波器或者粒子濾波器估計SOH?；陔娀瘜W模型的SOH估計方法通?；陔姵氐幕瘜W原理、物理參數(shù)以及實驗數(shù)據(jù)，通過數(shù)學表達式描述電池的充放電過程、內阻變化、容量衰減等關鍵特征進而進行容量估計。數(shù)據(jù)驅動法因不需要建立電池內部機理模型而備受關注，通常是通過支持向量機(support vector machine，SVM)、長短期記憶遞歸神經網絡(long short-term memory，LSTM)、門控遞歸神經網絡(gated recurrent neural networks，GRU)、極限學習機等神經網絡模型來建立輸入特征與SOH之間的映射關系。Sun等結合不同的特征提取方法，提取電壓脈沖響應曲線的有效特征和代表性特征，然后，引入SVM估計SOH。Xiao等提出了一種基于等電壓間隔下不同放電時間的健康因素，并使用遺傳算法優(yōu)化的反向傳播神經網絡來快速準確地估計電池容量。隨著神經網絡模型的發(fā)展越來越迅速，研究人員也在嘗試使用不同的網絡結構。Wen等提出一種新的LSTM方法，稱為auto-LSTM的SOH估計方法，該方法可以自動調整特征選擇、LSTM結構及訓練算法中的超參數(shù)。Jia等提出一種雙向門控循環(huán)單元(bi-directional gated recirculating unit，BiGRU)和Transformer與注意力機制相結合的混合預測模型，該模型能夠有效解決長時間序列預測的挑戰(zhàn)。上述研究人員在預測電池壽命或電池健康度領域有長足的進步，但是還缺乏關聯(lián)度更高的特征進行訓練和缺乏更加適合預測電池的網絡結構。
特征提取是建立數(shù)據(jù)驅動模型重要的組成部分，常用的特征為溫度、電壓、電流，其中研究最廣泛的特征提取方法是增量容量(incremental capacity，IC)分析法。利用IC曲線分析恒流充電階段電池退化機理來挖掘更多能表征電池健康度的特征，它可以將內部電化學反應平衡引起的電壓平臺轉化為IC曲線上各種特征，并且IC峰值的出現(xiàn)與鋰離子插層/脫嵌過程中活性材料的相變現(xiàn)象密切相關。Gismero等和Wang等研究顯示，在電池的整個生命周期中，IC峰值的特征(例如高度和位置)存在明顯且有規(guī)律的變化，使得利用IC特性進行SOH估計應用更加廣泛。Chen等利用IC曲線提出了一種基于粒子群優(yōu)化算法(particle swarm optimization，PSO)和極限學習機(extreme learning machine，ELM)的鋰離子電池健康狀態(tài)估計模型。Sun等提出Bi-LSTM網絡模型，用IC曲線的峰值作為輸入來預測SOH。She等用增量容量分析實現(xiàn)從實驗室測試到實際應用的過渡。Tian等實現(xiàn)了將鋰離子電池充電過程的溫差曲線與IC曲線相結合，利用支持向量回歸與SOH建立關系。Park等提出了采用ICA方法分析鋰離子電池在室溫和高溫條件下的不同老化機理。此外，通過皮爾遜相關性分析，來分析電池容量與ICA峰值的相關性，以使用線性回歸模型估計溫度魯棒性健康狀態(tài)(SOH)。上述基于IC曲線的數(shù)據(jù)驅動SOH估計算法雖然取得了不錯的估計效果，但仍然存在一些問題：采用平滑濾波的方法會去掉原始數(shù)據(jù)的特征信息，沒有一套通用的濾波方法適合不同電池數(shù)據(jù)、不同SOH的IC曲線。在特征提取中，傳統(tǒng)的數(shù)據(jù)驅動模型缺乏處理SOH與強關聯(lián)特征之間非線性關系的能力。傳統(tǒng)的數(shù)據(jù)驅動模型大都只關注SOH與特征之間的關系，忽略了特征與特征之間的關聯(lián)。
本工作采用了基于多項式特征擴展的CNN-Transformer模型用于SOH估計，解決了上述問題，主要貢獻如下：
（1）使用增量容量分析法繪制IC曲線，將IC曲線的面積作為特征輸入，提高了估計SOH的準確性。
（2）提出一種CNN與Transformer結合的神經網絡，大大提高了神經網絡模型在處理序列問題時對局部特征的提取能力。
（3）將特征多項式作為輸入，提升了SOH與特征之間的非線性映射關系，大幅提高了估算SOH的魯棒性。
1 基本原理
1.1 卷積神經網絡
其結構圖如圖1所示。
圖1 卷積神經網絡
1.2 Transformer
Transformer模型主要由位置編碼、編碼器-解碼器以及殘差連接和層歸一化模塊構成。位置編碼在Transformer模型中起著至關重要的作用。由于Transformer模型主要依賴于自注意力機制來處理輸入序列，它本身并不具備處理序列中元素位置信息的能力，因此，位置編碼被引入，以在輸入序列中引入位置信息。位置編碼通常是一個與輸入序列維度相同的矩陣，它使用了三角函數(shù)的正弦和余弦函數(shù)來編碼位置信息，其數(shù)學模型為：
2 實驗數(shù)據(jù)處理
2.1 數(shù)據(jù)集介紹
本實驗采取的第一個數(shù)據(jù)集是美國國家宇航局測試中心為研究電池老化問題所作的4組電池充放電實驗，編號為B0005、B0006、B0007、B0018。實驗分為3種模式：恒流恒壓充電、恒流放電和阻抗測量模式。在提取鋰離子電池健康度特征時，可以分為充電特征與放電特征。由于鋰離子電池放電過程中具有各種不同的放電工況，因此在放電過程中提取健康度特征十分困難。但是充電過程是相對穩(wěn)定的，因此可以收集到更多有代表性的特征，從而能夠更加準確地估計SOH。鋰離子電池充電階段可分為恒流充電與恒壓充電。恒流充電階段時電池在1.5 A的條件下連續(xù)充電，充電電壓達到4.2 V時轉換為恒壓充電，當電流小于C/100時停止充電。第二個數(shù)據(jù)集是來自馬里蘭大學高級生命周期工程中心(CALCE)收集的開源電池壽命數(shù)據(jù)集CS35，該數(shù)據(jù)集對應的電池為LiCoO2石墨電池，電池的額定容量為1.1 Ah。實驗分為3個階段：恒流充電、恒壓充電和恒流放電。恒流充電時充電電流為0.5C，直到電壓達到4.2 V。恒壓充電時電壓保持在4.2 V，直到充電電流降至0.05 A以下。恒流放電時以1C的電流放電直至電壓小于2.7 V。
2.2 增量容量分析法
增量容量分析法是一種分析鋰離子充放電過程中容量與電壓的關系的方法。在鋰離子電池充電過程中，電壓上升會出現(xiàn)一個平穩(wěn)期，在此期間電壓上升速度緩慢，這是因為鋰離子電池內部的化學反應已經達到了一個相平衡狀態(tài)。其增量容量對電壓的導數(shù)被稱作IC值，如式(8)所示。
IC曲線被廣泛用于分析電池容量損失。在充電過程中，達到相平衡狀態(tài)的電壓以及存儲容量與電池健康度有很大關系，尤其是在3.8~4 V之間，IC曲線存在峰值。不同的充電循環(huán)次數(shù)時3.8~4 V的對應IC曲線如圖2所示，可以看出隨著充電次數(shù)增加，其充電IC曲線的峰值在減小，峰值所對應電壓在右移，這些特征均可作為神經網絡的輸入。因此，本論文提出將3.8~4 V的IC曲線的面積作為特征輸入到神經網絡模型中進行訓練。使用IC曲線的面積估計電池健康度具有更好的穩(wěn)定性，可以融合IC曲線多個階段的特征信息。
圖2 不同充電循環(huán)的IC曲線
2.3 皮爾遜相關性分析
皮爾遜系數(shù)是用來衡量兩個連續(xù)變量之間線性關系的指標，在多個學科具有廣泛應用。在本論文中，皮爾遜相關性分析用來判斷特征與標簽的相關度，進而判斷提取的特征是否可以被當作神經網絡模型的輸入。
其公式(9)如下：
2.4 多項式特征
多項式特征是一種特征工程技術，主要用于增強模型的能力，以便更好地學習和理解數(shù)據(jù)中的非線性關系。在神經網絡訓練前，將輸入的特征轉換為其圖片次冪時，實際上是在創(chuàng)建這些特征的多項式組合。例如，假設有一個特征圖片，不僅使用圖片，還使用圖片，圖片…圖片，如式(10)所示。其中，n是預定的最高次冪。這樣做的目的是捕捉特征與輸出之間的非線性關系。通過明確引入非線性特征組合，可以幫助神經網絡更容易地學習這些關系，特別是在網絡較淺或訓練數(shù)據(jù)不足以揭示復雜關系時。
為準確估計鋰離子電池的健康狀況，本研究采用了多項式特征轉換方法來增強模型對電池性能衰退非線性特征的學習能力。電池的健康狀況通常受多種因素的影響，包括充放電循環(huán)次數(shù)、溫度變化以及電池的充放電速率等，這些因素之間存在復雜的非線性關系。通過將電池操作參數(shù)的原始測量值轉換為它們的多項式形式，就能夠構造一個更加豐富的特征集，以揭示這些參數(shù)之間的潛在非線性交互作用。該多項式擴展方法的應用顯著提升了深度學習模型對電池性能隨時間衰減方式的細致學習能力，進而增強了電池狀況估計的準確性和可靠性。通過預處理輸入數(shù)據(jù)以包含重要的非線性特征，可以減少網絡需要學習的復雜性，從而可能減少訓練時間。
2.5 主成分分析
本研究關注于提高鋰離子電池健康狀況估計的準確性和效率。考慮到電池性能數(shù)據(jù)在多維特征空間中的復雜性，本文采取了主成分分析(principal component analysis，PCA)的數(shù)據(jù)預處理策略，以優(yōu)化深度學習模型輸入。
為了應對高維特征帶來的挑戰(zhàn)，本文引入了PCA技術對特征空間進行降維。電池性能數(shù)據(jù)的高維性不僅增加了模型訓練的計算負擔，而且可能導致過擬合，特別是在樣本量有限的情況下。通過 PCA技術能夠從原始特征中提取出最重要的成分，捕獲了數(shù)據(jù)中的主要變異信息，同時去除了噪聲和冗余信息。在實際應用中，通過選擇數(shù)據(jù)絕大部分變異性的前幾個主成分，顯著降低了特征的維度，從而簡化了模型結構并降低了過擬合的風險。PCA降維處理的步驟如下：
2.6 電池SOH估計框架及模型評價標準
本論文提出了一種基于多項式特征擴展的CNN-Transformer模型進行電池SOH估計，其框架如圖3所示。該模型的工作流程如下：
圖3 系統(tǒng)流程圖
（1）利用增量容量分析法從恒流充電3.8~4 V的數(shù)據(jù)中，獲取IC曲線的5個特征。使用皮爾遜系數(shù)法從這5個特征獲得4個強關聯(lián)特征，然后利用多項式擴展的方法，將原來的特征擴展為特征、特征的二次方和特征的三次方，作為新的特征。
（2）用歸一化和主成分分析使得原來的12個特征變成5個特征，以獲得多項式擴展特征之后的主成分，減少模型計算量。
（3）CNN：接收5個輸入特征，將其組織成一個2×5的矩陣。然后使用2×2的卷積核對輸入矩陣進行卷積操作，步長為2。這一步驟旨在提取輸入特征的局部相關性，從而生成卷積特征圖。
（4）Transformer架構：將經過卷積和位置編碼處理后的特征輸入到Transformer模型中。
（5）輸出層：最終通過Transformer的輸出層，生成對輸入序列進行預測的結果。
本文采用了3種常用的評價指標來全面評估模型的性能，分別是平均絕對誤差(mean absolute error，MAE)、均方根誤差(root mean square error，RMSE)和平均絕對百分比誤差(mean absolute percentage error，MAPE)。這些指標分別從不同的角度反映了模型預測結果的準確性，其公式分別為：
3 結果與分析
在本次實驗中，采用美國國家宇航局數(shù)據(jù)集(B0005、B0006、B0007、B0018)和馬里蘭大學數(shù)據(jù)集(CS2_35)，驗證增量基于多項式特征擴展的CNN-Transformer模型在鋰離子電池SOH估計中的精度與魯棒性。本次實驗參數(shù)：迭代次數(shù)為40000次，學習率統(tǒng)一調整為0.005。將NASA數(shù)據(jù)集70%用于訓練，30%用于測試，在統(tǒng)計評估模型性能指標時只統(tǒng)計后30%數(shù)據(jù)。本文設計了兩組實驗。第一組驗證進行多項式特征擴展時增加不同高次項對皮爾遜相關性及模型精度的影響。第二組實驗進行算法對比，對比了3種算法的結果驗證提出的算法的有效性，并且最后在馬里蘭大學CS2_35數(shù)據(jù)集上驗證算法的泛化能力。
圖4展示了NASA數(shù)據(jù)集恒流充電時間的高次項與容量之間的皮爾遜相關系數(shù)，結果表明，在B0005、B0006、B0007三個數(shù)據(jù)集上，三次項與一次項的相關性絕對值分別提升了0.09、0.06和0.07，而二次項與一次項的相關性絕對值也分別提高了0.06、0.04和0.05。這說明將特征拓展為三次項時，特征與標簽值相關系數(shù)提升最多。
圖4 恒流充電時間的高次項與容量之間的皮爾遜相關系數(shù)：(a) B0005；(b) B0006；(c) B0007；(d) B0018
圖5給出了加入多項式特征前后的CNN-Transformer模型的SOH估計結果對比。與未加入多項式特征的模型相比，加入多項式特征的模型在預測時浮動更小，顯示出更好的穩(wěn)定性和魯棒性。這一改進不僅有助于提升鋰離子電池健康狀態(tài)的預測精度，還為實際應用中的穩(wěn)定性提供了有力保障。
圖5 加入特征多項式的CNN-Transformer和不加特征多項式的CNN-Transformer對比：(a) B0005；(b) B0006；(c) B0007；(d) B0018
表1給出了這兩種算法在SOH估計中的具體誤差結果對比。從表中可以看出，加入多項式特征后的CNN-Transformer模型(Poly-CNN-Transformer)在所有數(shù)據(jù)集上均展現(xiàn)出最低的MAE、MAPE和RMSE值，系統(tǒng)的預測精度得到了顯著提升。具體而言，B0005、B0006、B0007、B0018數(shù)據(jù)集的精度分別提高了38.71%、50.28%、4.71%、17.58%。這一改進不僅體現(xiàn)在數(shù)值上，更體現(xiàn)在預測的穩(wěn)定性和魯棒性上。表明模型中CNN用于提取局部特征，而Transformer則處理序列數(shù)據(jù)的全局關系的結合顯著提高了模型對輸入序列的理解和處理能力并顯示出其在預測精度上的優(yōu)勢。
表1 加入與不加入特征多項式SOH誤差對比結果圖
圖6給出了加入多項式特征擴展后的融合模型、單一Transformer模型和LSTM模型的比較，從圖中可以看出，CNN-Transformer模型在所有數(shù)據(jù)集上均表現(xiàn)出更小的預測浮動和更好的穩(wěn)定性。表2展示了不同模型在SOH估計中的誤差結果?？梢钥闯?，加入多項式特征后，CNN-Transformer模型相較于Transformer模型和LSTM模型，平均精度分別提高了32.47%和21.07%。表明模型中CNN用于提取局部特征，以及Transformer用于處理序列數(shù)據(jù)的全局關系的結合顯著提高了模型對輸入序列的理解和處理能力并顯示出其在預測精度上的優(yōu)勢。
圖6 CNN-Transformer和Transformer、LSTM網絡結構實驗結果對比：(a) B0005；(b) B0006；(c) B0007；(d) B0018
表2 不同算法SOH誤差對比結果圖
為了全面評估本研究所提出的算法對于不同數(shù)據(jù)集以及不同起始點的泛化能力，本文采用了馬里蘭大學數(shù)據(jù)集的80%作為訓練數(shù)據(jù)，剩余的20%作為預測數(shù)據(jù)進行了深入的實驗驗證。實驗結果如圖7所示，從圖中可以清晰地觀察到，提出的Poly-CNN-Transformer模型在面對多樣化的數(shù)據(jù)集時，依然展現(xiàn)出強大的適應性和穩(wěn)定性。
圖7 馬里蘭大學數(shù)據(jù)集實驗結果：(a) 多項式特征實驗；(b) 不同網絡模型實驗
馬里蘭大學CS2_35數(shù)據(jù)集實驗SOH誤差對比結果如表3所示，通過對比分析，相較于Poly-Transformer模型、Poly-LSTM模型和CNN-Transformer模型，提出的Poly-CNN-Transformer模型MAE分別降低了29.9%、13.73%和3.77%。這一結果不僅凸顯了本研究所提出模型的優(yōu)越性，更進一步證實了Poly-CNN-Transformer模型在處理不同數(shù)據(jù)集和不同起始點時的卓越泛化能力。
表3 馬里蘭大學CS2_35數(shù)據(jù)集實驗SOH誤差對比結果
表4展示了CNN-Transformer、Transformer和LSTM網絡的參數(shù)量與在4060Ti的GPU上迭代一次所需時間。Transformer模型的迭代時間近似是LSTM的2倍，這是由于Transformer模型的計算復雜度更高，導致運行時間增加。在每個迭代步驟中，Transformer模型，需要執(zhí)行多頭自注意力機制和前饋神經網絡，這些操作相對于LSTM的循環(huán)神經網絡結構來說，計算量更大。然而，由于估計電池健康度模型屬于參數(shù)量較少的模型，迭代一次時間僅為微秒級別，可以適當放寬迭代時間以提高精度。
表4 模型參數(shù)與訓練時間
4 結 論
本文通過融合CNN出色的局部特征抽取能力和Transformer強大的序列處理能力，構建了基于多項式特征擴展的CNN-Transformer混合模型。在訓練過程中，CNN應用了數(shù)據(jù)增強技術，有助于提高模型對數(shù)據(jù)的魯棒性和泛化能力，從而降低預測的不確定性。同時，Transformer通過自注意力機制實現(xiàn)全局關注，能夠同時考慮輸入序列中所有位置的信息，有助于建立全局依賴關系。論文深入分析了充電過程中的多項關鍵特征，涵蓋IC曲線峰值、峰值對應電壓、IC曲線面積、充電至4 V所需時間以及充電過程的最高溫度等，并借助皮爾遜相關性分析，量化了這些特征與真實容量之間的關聯(lián)性，作為提出融合模型的輸入特征。此外，歸一化和PCA降維處理進一步提升了模型的訓練效率和泛化能力。
利用NASA數(shù)據(jù)集和馬里蘭大學數(shù)據(jù)集驗證了提出模型的精確度、魯棒性和泛化能力，通過多項式特征擴展，有效提升了SOH估計的精確度，提出模型的SOH估計精度相較于未加入多項式特征的CNN-Transformer模型，在B0005、B0006、B0007、B0018數(shù)據(jù)集分別提高了38.71%、50.28%、4.71%、17.58%。通過CNN與Trans former的有機融合，顯著增強了模型在處理序列數(shù)據(jù)時對局部特征的捕捉能力，加入多項式特征后，CNN-Transformer模型在NASA數(shù)據(jù)集上相較于Transformer模型和LSTM模型，平均精度分別提高了32.47%和21.07%。
