中國(guó)儲(chǔ)能網(wǎng)訊：
摘 要 鋰離子電池長(zhǎng)期充放電循環(huán)周期后會(huì)出現(xiàn)容量退化，性能下降，對(duì)儲(chǔ)能系統(tǒng)構(gòu)成潛在的危害。為此，本工作提出了考慮能量和溫度特征的鋰離子電池早期壽命預(yù)測(cè)混合模型，用以解決當(dāng)前研究中對(duì)溫度和能量特征以及深度學(xué)習(xí)提取出的特征重要性研究不足的問(wèn)題。首先，為了充分挖掘溫度數(shù)據(jù)中的有效信息，利用電壓、電流和溫度數(shù)據(jù)間接計(jì)算提取電池的容量、能量和溫度信號(hào)能量曲線，選取前100個(gè)周期的曲線數(shù)據(jù)構(gòu)建對(duì)應(yīng)的二維特征。其次，針對(duì)卷積神經(jīng)網(wǎng)絡(luò)無(wú)法對(duì)所提取特征圖進(jìn)行篩選的問(wèn)題，提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)和卷積塊注意力機(jī)制的特征提取架構(gòu)，利用注意力機(jī)制識(shí)別各特征圖的重要程度，進(jìn)而實(shí)現(xiàn)從特征到早期壽命的映射。在MIT鋰離子電池退化數(shù)據(jù)集上展開(kāi)實(shí)驗(yàn)，對(duì)所提出的特征和方法進(jìn)行效果驗(yàn)證。研究結(jié)果表明，相較于基礎(chǔ)的卷積神經(jīng)網(wǎng)絡(luò)，所提出的混合模型取得了更優(yōu)的預(yù)測(cè)效果，平均均方根誤差為97.43。此外，對(duì)比一系列不同特征作為輸入的實(shí)驗(yàn)可以發(fā)現(xiàn)所提出的溫度信號(hào)能量特征性能較好，同時(shí)多特征融合技術(shù)能夠?qū)崿F(xiàn)更優(yōu)的預(yù)測(cè)性能。最后，在更少周期數(shù)據(jù)應(yīng)用的場(chǎng)景下，模型至少需要70個(gè)周期的數(shù)據(jù)才能保持較好的預(yù)測(cè)性能和較高的穩(wěn)定性。
關(guān)鍵詞 鋰離子電池；早期壽命預(yù)測(cè)；深度學(xué)習(xí)；溫度特征；能量特征
鋰離子電池已然成為全球綠色能源中的一項(xiàng)重要技術(shù)，其具備充電速度快、能量密度高、壽命周期長(zhǎng)、環(huán)境友好以及充放電性能良好等特點(diǎn)，在新能源動(dòng)力汽車、電力儲(chǔ)能系統(tǒng)等相關(guān)產(chǎn)品中得到了大量的實(shí)際應(yīng)用。然而，對(duì)于鋰離子電池而言，隨著充放電次數(shù)的增加，它的可用容量會(huì)逐漸下降，性能也會(huì)隨之顯著下滑，對(duì)系統(tǒng)構(gòu)成潛在的危害。因此，實(shí)現(xiàn)對(duì)電池壽命的有效預(yù)測(cè)對(duì)于保障電池安全管理和電池儲(chǔ)能系統(tǒng)設(shè)計(jì)與優(yōu)化至關(guān)重要。
目前，研究者關(guān)于電池壽命終止的標(biāo)準(zhǔn)基本上都來(lái)自于IEEE標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)統(tǒng)一將電池實(shí)際容量與最初容量比值降低至80%時(shí)定義為電池壽命終止。在實(shí)際情況下，鋰離子電池具有很長(zhǎng)的壽命周期，獲取全壽命周期內(nèi)的數(shù)據(jù)需要很長(zhǎng)的時(shí)間跨度。基于此，研究者開(kāi)展了大量有關(guān)電池早期壽命預(yù)測(cè)的相關(guān)研究。具體來(lái)說(shuō)，電池的早期壽命預(yù)測(cè)是指利用和分析電池前數(shù)個(gè)周期的數(shù)據(jù)所表征出的信息來(lái)實(shí)現(xiàn)對(duì)電池壽命終止的預(yù)測(cè)。實(shí)際上電池在前幾個(gè)周期內(nèi)所表現(xiàn)出的容量退化是微乎其微的，這使得電池的早期壽命預(yù)測(cè)極具挑戰(zhàn)性。
有效的電池健康特征能夠充分反映電池退化過(guò)程中的內(nèi)外部狀態(tài)與電池健康壽命之間的潛在聯(lián)系，有助于利用電池早期少量的數(shù)據(jù)預(yù)測(cè)電池的壽命。目前電池的健康特征根據(jù)提取方式的不同主要可以分為基于可觀測(cè)變量直接提取的特征和基于計(jì)算變量間接提取的特征。基于可觀測(cè)變量直接提取的特征包括利用電池工作過(guò)程中的各項(xiàng)可觀測(cè)指標(biāo)數(shù)據(jù)如電流、電壓、溫度、內(nèi)阻等直接提取相關(guān)特征。Braco等提取了不同電壓范圍內(nèi)的電池充電容量數(shù)據(jù)作為健康特征，利用Pearson相關(guān)系數(shù)進(jìn)行特征選擇。Widodo等則是利用了電池在放電過(guò)程中的電壓數(shù)據(jù)提取樣品熵從而構(gòu)建了向量機(jī)模型的輸入特征。Severson等基于電池放電容量和電壓數(shù)據(jù)，統(tǒng)計(jì)容量差值的多項(xiàng)特征，包括均值、方差等，并在彈性網(wǎng)絡(luò)中驗(yàn)證特征對(duì)于早期壽命預(yù)測(cè)的有效性。在此基礎(chǔ)上，F(xiàn)ei等從充電過(guò)程、放電過(guò)程、容量、溫度以及電池內(nèi)阻數(shù)據(jù)中分析了多組特征，并通過(guò)彈性網(wǎng)絡(luò)等六種機(jī)器學(xué)習(xí)方法實(shí)現(xiàn)對(duì)電池早期壽命的準(zhǔn)確預(yù)測(cè)。Yang等利用充放電曲線數(shù)據(jù)關(guān)系提取了電池充電時(shí)恒壓和恒流下的持續(xù)時(shí)間，以及利用恒定電流進(jìn)行充電時(shí)的膝點(diǎn)斜率和結(jié)束充電時(shí)的斜率共4個(gè)健康特征，這些健康特征從不同方面反映了電池的退化情況，而后通過(guò)灰色關(guān)系分析了特征與健康狀態(tài)之間的關(guān)聯(lián)程度。由于直接提取的特征往往是電池可觀測(cè)數(shù)據(jù)的統(tǒng)計(jì)特征，缺乏了對(duì)數(shù)據(jù)深層關(guān)系的進(jìn)一步挖掘，因此越來(lái)越多的研究開(kāi)始計(jì)算變量間接提取電池特征，其中大部分是基于增量分析和差值分析進(jìn)行特征提取的，這些特征首先用于估計(jì)電池的健康狀態(tài)，而后通過(guò)進(jìn)一步的計(jì)算預(yù)測(cè)電池的壽命。Zhang等通過(guò)容量增量方法分析電池充電容量相對(duì)于電池電壓的變化率，并進(jìn)一步捕捉曲線中隱含的特征，包括峰高、峰面積以及峰值位置等，并驗(yàn)證了這些特征能夠反映電池的老化進(jìn)程。Zhou等關(guān)注容量增量曲線中的區(qū)域面積特征，利用機(jī)理分析和電池老化相關(guān)特征對(duì)所提出的特征進(jìn)行識(shí)別和驗(yàn)證。Deng等將部分充電數(shù)據(jù)中提取到的不同電壓區(qū)間的容量增量序列的平均值和標(biāo)準(zhǔn)偏差作為電池健康特征。Lyu等將容量增量曲線融合到充電容量數(shù)據(jù)中提取電池的老化特征。
然而，間接計(jì)算提取的方法大多集中在電壓和電流直接計(jì)算的容量增量曲線上，對(duì)于電池充放電周期能量和溫度的間接計(jì)算特征提取研究相對(duì)較少，大部分應(yīng)用于電池早期壽命預(yù)測(cè)的溫度特征是直接利用溫度數(shù)據(jù)或其統(tǒng)計(jì)數(shù)據(jù)，如均值、最大值等，這種特征大多以一種附加特征的形式出現(xiàn)，用于輔助模型綜合考慮電池的熱效應(yīng)。在實(shí)際工作中，由于內(nèi)部的化學(xué)反應(yīng)，電池不斷向外散發(fā)熱量，其表面溫度會(huì)因?yàn)槟芰康脑黾佣?，進(jìn)一步改變電池內(nèi)部的鋰離子遷移速率，從而對(duì)電池的老化進(jìn)程造成影響。因此進(jìn)一步研究和挖掘電池的表面溫度和能量規(guī)律有助于開(kāi)發(fā)更多高相關(guān)性的特征。
目前關(guān)于早期壽命預(yù)測(cè)的方法主要是數(shù)據(jù)驅(qū)動(dòng)方法?；跀?shù)據(jù)驅(qū)動(dòng)的方法是直接利用電池在充放電循環(huán)中的可觀測(cè)指標(biāo)數(shù)據(jù)，如電壓、電流、溫度等等，去研究和分析電池的壽命退化規(guī)律，從而避免了對(duì)電池內(nèi)部復(fù)雜結(jié)構(gòu)機(jī)理的深入研究。Paulson等充分挖掘了電壓和電流與時(shí)間的函數(shù)關(guān)系，并利用Pearson相關(guān)性和基于特征重要性選擇策略中實(shí)現(xiàn)對(duì)相關(guān)性較強(qiáng)的有效健康特征進(jìn)行選擇，進(jìn)而構(gòu)造多周期特征，同時(shí)研究對(duì)比了包括神經(jīng)網(wǎng)絡(luò)在內(nèi)的多種機(jī)器學(xué)習(xí)模型的早期壽命預(yù)測(cè)性能。Yang等從電壓、容量和溫度數(shù)據(jù)中提取相關(guān)特征，進(jìn)而利用梯度提升回歸樹(shù)模型對(duì)電池壽命進(jìn)行預(yù)測(cè)。Zhang等利用線性和非線性變換技術(shù)將放電容量、放電電流、端電壓、內(nèi)阻等數(shù)據(jù)映射到特征空間中，而后構(gòu)建一般回歸神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)利用早期循環(huán)周期數(shù)據(jù)對(duì)電池壽命進(jìn)行預(yù)測(cè)。近年來(lái)，深度學(xué)習(xí)方法憑借其強(qiáng)大的特征自動(dòng)提取能力和預(yù)測(cè)能力，在電池早期壽命預(yù)測(cè)方面得到了大量應(yīng)用。Saxena等利用前100個(gè)循環(huán)周期的容量-電壓數(shù)據(jù)構(gòu)造二維數(shù)據(jù)，而后應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)特征的自動(dòng)提取和壽命預(yù)測(cè)。Yang針對(duì)實(shí)際應(yīng)用問(wèn)題，搭建了一種混合卷積神經(jīng)網(wǎng)絡(luò)的電池壽命早期預(yù)測(cè)模型，這個(gè)模型能夠分別利用三維卷積核和二維卷積核兩個(gè)模塊自動(dòng)捕獲數(shù)據(jù)中不同維度上的抽象復(fù)雜特征，同時(shí)融合充電電壓、電流以及溫度數(shù)據(jù)。Zhang等利用長(zhǎng)短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)處理電池容量退化序列數(shù)據(jù)中的規(guī)律，對(duì)處于相異溫度和相異電流速率下的電池進(jìn)行準(zhǔn)確的壽命預(yù)測(cè)。Jiang等針對(duì)電池早期壽命預(yù)測(cè)任務(wù)中的數(shù)據(jù)分布不同，提出了一種柔和并行神經(jīng)網(wǎng)絡(luò)，利用三維卷積網(wǎng)絡(luò)提取電池壽命衰退的特征，并結(jié)合Inception模塊提高模型對(duì)不同數(shù)據(jù)尺度的適用性，提高了早期壽命預(yù)測(cè)的準(zhǔn)確性。
然而，雖然目前已有大量的研究開(kāi)展了深度學(xué)習(xí)和電池早期壽命預(yù)測(cè)的研究，但是大多數(shù)文獻(xiàn)對(duì)深度學(xué)習(xí)所提取的特征采用的做法是完全保留，而沒(méi)有考慮一部分低效特征信息對(duì)模型帶來(lái)的負(fù)面影響。為了實(shí)現(xiàn)更加準(zhǔn)確的早期壽命預(yù)測(cè)，深度學(xué)習(xí)所提取的特征應(yīng)當(dāng)給予一定的權(quán)重，篩選出重要性和貢獻(xiàn)程度更高的特征，從而提高模型整體的預(yù)測(cè)性能。這種做法在很多研究領(lǐng)域都有所應(yīng)用，如Li等利用對(duì)比注意力模塊評(píng)估每個(gè)局部特征的重要性，通過(guò)對(duì)特征進(jìn)行加權(quán)來(lái)獲取特征間的協(xié)作關(guān)系。Niu等提出了整體注意力網(wǎng)絡(luò)用以充分考慮卷積層間的相關(guān)性，自適應(yīng)地表征層次特征，以選擇捕獲更多有效信息特征。在圖像識(shí)別領(lǐng)域，Wang等和Jiang等分別在手勢(shì)識(shí)別和面部表情識(shí)別中嵌入了卷積塊注意力機(jī)制，用以加強(qiáng)對(duì)特征的捕獲能力，提高手勢(shì)識(shí)別的精度。總而言之，注意力機(jī)制已被證明了可以在整個(gè)特征圖之間有效地交換信息，通道注意力機(jī)制能夠有效地保留每層中具有豐富信息的特征，而空間注意力機(jī)制能夠很好地考慮特征圖的位置信息，處理遠(yuǎn)距離的空間連接問(wèn)題，為特征的提取提供更高的穩(wěn)定性。這兩個(gè)模塊的串行連接能夠逐步聚焦于局部特征，從而強(qiáng)化圖像中的重要信息。
基于上述分析，為了進(jìn)一步分析研究電池放電溫度數(shù)據(jù)中更深層次的信息，本工作利用電池放電過(guò)程中的溫度、電壓、電流數(shù)據(jù)計(jì)算了電池在周期內(nèi)的容量-電壓、能量-電壓和溫度信號(hào)能量-電壓曲線，而后利用樣條插值進(jìn)行多個(gè)周期內(nèi)的數(shù)據(jù)采樣，構(gòu)建3組二維圖形特征。本工作融合了AlexNet卷積神經(jīng)網(wǎng)絡(luò)和卷積塊注意力機(jī)制(convolutional block attention module, CBAM)，搭建了早期壽命預(yù)測(cè)混合模型，利用CBAM獲取每個(gè)特征圖的權(quán)重系數(shù)，然后再與特征圖進(jìn)行加權(quán)重構(gòu)，從而避免了一些無(wú)關(guān)特征對(duì)模型性能的影響。最后本工作在麻省理工學(xué)院(MIT)提供的鋰離子電池退化公開(kāi)數(shù)據(jù)集驗(yàn)證所提出特征和混合模型的有效性。實(shí)驗(yàn)結(jié)果表明，所提出的溫度信號(hào)能量表現(xiàn)出不錯(cuò)的性能，能夠有效提高模型的預(yù)測(cè)準(zhǔn)確度，加入了注意力機(jī)制的混合模型的早期壽命預(yù)測(cè)具有更高的精度。
1 電池?cái)?shù)據(jù)特征提取
1.1 數(shù)據(jù)集介紹
本研究使用來(lái)自麻省理工學(xué)院(MIT)提供的鋰離子電池退化公開(kāi)數(shù)據(jù)集，記錄了A123系統(tǒng)公司制作的124個(gè)磷酸鐵鋰電池在30 ℃恒溫箱中充放電過(guò)程中的各項(xiàng)指標(biāo)數(shù)據(jù)。圖1(a)為MIT數(shù)據(jù)集中所有124個(gè)電池樣本的電池實(shí)際容量隨著電池充放電次數(shù)的增加而降低至電池初始標(biāo)稱容量的80%的曲線。圖1(b)為所有電池樣本的壽命分布統(tǒng)計(jì)，可以發(fā)現(xiàn)大部分電池的壽命主要集中在400~1000個(gè)循環(huán)內(nèi)。
圖1 MIT數(shù)據(jù)集描述 (a) 所有鋰離子電池樣本的電池容量衰減曲線；(b) 電池?cái)?shù)據(jù)集的壽命分布情況；(c)，(d) 兩個(gè)不同充電策略電池的電壓與電流在一個(gè)周期內(nèi)的變化曲線
該數(shù)據(jù)集提供了124個(gè)電池樣本在充放電過(guò)程中的多項(xiàng)指標(biāo)，如電流、電壓、溫度、放電容量等。由于不同電池在第一階段的充電過(guò)程中采用了不同電流和電壓的充電策略，如圖1(c)～(d)，難以形成統(tǒng)一的數(shù)據(jù)樣本獲取區(qū)間，因此本工作使用電池放電過(guò)程中的數(shù)據(jù)對(duì)電池壽命進(jìn)行研究。圖2為在全壽命周期內(nèi)的放電電壓和溫度隨時(shí)間的變化曲線及演變規(guī)律。圖中顯示，單個(gè)周期內(nèi)，電壓呈現(xiàn)出先加速而后減速下降，至3.0 V左右時(shí)加速降低，而溫度則在整個(gè)周期內(nèi)隨著放電的進(jìn)行逐漸增大。
圖2 電池在全壽命循環(huán)周期內(nèi)放電過(guò)程的 (a) 電壓曲線和 (b) 溫度曲線變化趨勢(shì)
在數(shù)據(jù)預(yù)處理過(guò)程中，3類電池預(yù)測(cè)數(shù)據(jù)需要進(jìn)行處理。首先是刪除43號(hào)電池，因?yàn)樵撾姵貕勖芏?，根?jù)MIT電池?cái)?shù)據(jù)集描述該電池的壽命退化有可能是內(nèi)部原因而非自然退化。其次刪除第4、27、42、54、58、61、62、112號(hào)電池，根據(jù)MIT電池?cái)?shù)據(jù)集實(shí)驗(yàn)記錄這些電池在實(shí)驗(yàn)過(guò)程中的熱電偶意外脫落，所采集到的溫度數(shù)據(jù)并非電池的實(shí)際溫度數(shù)據(jù)。同樣進(jìn)一步刪除了第48、49、89和90號(hào)電池，因?yàn)檫@些電池溫度數(shù)據(jù)采集過(guò)程中熱電偶兩兩切換，所獲取到的溫度數(shù)據(jù)與電池并不匹配。
1.2 數(shù)據(jù)分析和特征提取
在充電過(guò)程的數(shù)據(jù)中，電池實(shí)際的不同充電策略會(huì)影響電池的電流、電壓與溫度等數(shù)據(jù)，因此在本工作將從放電過(guò)程數(shù)據(jù)中提取特征，以提高實(shí)用性。此外，在特征提取過(guò)程中，采用了在特定電壓范圍內(nèi)均勻采樣的做法。這是因?yàn)樵趯?shí)際工作條件下，電池有效容量并非恒定，若以時(shí)間作為采樣點(diǎn)則會(huì)使得不同周期間所提取的數(shù)據(jù)長(zhǎng)度不一致，以電壓為采樣點(diǎn)則能夠很好地保持?jǐn)?shù)據(jù)的規(guī)整，方便后續(xù)模型對(duì)數(shù)據(jù)的利用。本工作所提取的特征包括容量圖形特征、能量圖形特征和溫度圖形特征。
1.2.1 容量圖形特征
經(jīng)典的容量計(jì)算算法采用安時(shí)積分法，即通過(guò)電池在放電過(guò)程中的電流在一個(gè)循環(huán)時(shí)間段上的積分獲取電池在該循環(huán)的容量數(shù)據(jù)，如式(1)所示：
圖3(a)為電池在其整個(gè)壽命內(nèi)的每一個(gè)周期的放電容量-電壓曲線。而后通過(guò)樣條插值法在特定電壓區(qū)間設(shè)置等距的電壓采樣點(diǎn)獲取對(duì)應(yīng)的電池放電容量數(shù)據(jù)。在電池前100個(gè)周期放電過(guò)程中電壓區(qū)間[2.2 V, 3.4 V]內(nèi)設(shè)置100個(gè)采樣點(diǎn)，得到放電容量-電壓張量特征，如圖3(b)所示，后文簡(jiǎn)稱F1。
圖3 (a) 電池在其全壽命周期內(nèi)的放電容量-電壓曲線；(b) 放電容量-電壓二維特征
1.2.2 能量圖形特征
從圖3(a)中可以看出，隨著充放電周期的遞增，如果電池從初始電壓放電至同一電壓，電池實(shí)際可放出的容量是降低的，即曲線表現(xiàn)出整體向下偏移的現(xiàn)象，因此該曲線與電壓橫軸所圍成的面積也會(huì)逐漸減少，反映了電池實(shí)際可放出能量隨著充放電周期遞增而不斷減少。因此，用能量定義來(lái)描述該區(qū)域面積，如式(2)所示，積分時(shí)間從初始時(shí)刻到電池截止放電時(shí)間內(nèi)依次取值，獲取到與時(shí)間對(duì)應(yīng)的能量序列數(shù)據(jù)，如圖4(a)所示。在實(shí)際應(yīng)用中，能量相較于容量來(lái)說(shuō)是一個(gè)更加全面的物理量，它能夠考慮電池在放電過(guò)程中的電壓變化，在不同放電速率下也可以反映電池能夠提供的功率。
圖4 (a) 電池在其全壽命周期內(nèi)的能量-電壓曲線；(b) 能量-電壓二維特征
通過(guò)樣條插值法在同樣的電壓區(qū)間設(shè)置等距的電壓采樣點(diǎn)獲取對(duì)應(yīng)的能量數(shù)據(jù)，如圖4(b)所示，后文簡(jiǎn)稱F2。
1.2.3 溫度圖形特征
溫度是反映電池放熱效應(yīng)和電池退化的一個(gè)有效觀測(cè)參數(shù)。圖5描述了在電壓維度上，放電溫度曲線在整個(gè)壽命周期內(nèi)的演變趨勢(shì)。從單個(gè)周期上看，隨著放電電壓升高，溫度先緩慢下降，在3.0 V左右加速下降，隨后在3.2 V左右下降速度減慢。從周期演變上看，整體溫度曲線先上移后下移。
圖5 放電溫度曲線在整個(gè)壽命周期內(nèi)的演變趨勢(shì)
通常情況下，一個(gè)信號(hào)的強(qiáng)弱可以通過(guò)該信號(hào)的平方在時(shí)間上的累積得到，該信號(hào)的強(qiáng)度本質(zhì)上可定義為信號(hào)的能量，可以用式(3)表示：
圖6(a)展示了電池在其全壽命周期內(nèi)的溫度信號(hào)能量曲線。通過(guò)樣條插值法在同樣的電壓區(qū)間設(shè)置等距的電壓采樣點(diǎn)獲取對(duì)應(yīng)的能量數(shù)據(jù)，如圖6(b)所示，后文簡(jiǎn)稱F3。
圖6 (a) 電池在其全壽命周期內(nèi)的溫度信號(hào)能量-電壓曲線；(b) 溫度信號(hào)能量-電壓二維特征
2 基于卷積神經(jīng)網(wǎng)絡(luò)和注意力機(jī)制的混合預(yù)測(cè)模型
2.1 卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)
卷積神經(jīng)網(wǎng)絡(luò)是一種通過(guò)在深度方向上堆疊不同網(wǎng)絡(luò)層來(lái)實(shí)現(xiàn)特征自動(dòng)提取和特征映射的深度前饋式網(wǎng)絡(luò)，具有卷積層稀疏連接、卷積核權(quán)重共享以及下采樣的特性。一般來(lái)說(shuō)，卷積神經(jīng)網(wǎng)絡(luò)最重要的核心層有卷積層、池化下采樣層以及全連接層，這些不同層在架構(gòu)中承擔(dān)獨(dú)特的功能職責(zé)。
首先，卷積層是最為重要的基本單元，用以實(shí)現(xiàn)對(duì)特征的提取。卷積核是在卷積層中執(zhí)行卷積操作的基本結(jié)構(gòu)，也是卷積層的參數(shù)，不同卷積核中的參數(shù)是不同的，用以捕捉不同表征信息。卷積操作如圖7(a)和式(5)所示：
圖7 (a) 卷積操作；(b) 平均池化
卷積核在特征圖上規(guī)律性滑動(dòng)對(duì)輸入數(shù)據(jù)進(jìn)行卷積計(jì)算，這種共享卷積核的方式稱為權(quán)重共享，這種權(quán)重共享方法能夠顯著減少參數(shù)大小，提升模型的運(yùn)行效率。在卷積層之后，通常會(huì)連接到一個(gè)激活層來(lái)增強(qiáng)網(wǎng)絡(luò)的非線性表達(dá)。常見(jiàn)的激活函數(shù)有飽和激活函數(shù)Sigmoid和非飽和激活函數(shù)ReLU，分別如式(6)和(7)所示：
2.2 注意力機(jī)制
注意力機(jī)制是一種允許神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過(guò)程中自適應(yīng)地關(guān)注輸入及特征圖中具有重要信息的區(qū)域，抑制無(wú)效特征信息向深層網(wǎng)絡(luò)傳遞的模塊，能夠增強(qiáng)模型對(duì)有效特征信息的捕獲能力和效果。本工作選擇了具有雙重注意力，自適應(yīng)能力較強(qiáng)的輕量化CBAM為特征配置權(quán)重。
CBAM的主要組成部分和重要結(jié)構(gòu)在圖8中進(jìn)行細(xì)致展示。兩種注意力機(jī)制均是通過(guò)輸入和各自網(wǎng)絡(luò)模塊計(jì)算得到注意力權(quán)重，如式(9)和(10)所示。
圖8 (a) 通道注意力機(jī)制；(b) 空間注意力機(jī)制
2.3 混合模型架構(gòu)
本工作應(yīng)用的基礎(chǔ)網(wǎng)絡(luò)模型為AlexNet，為了延后特征融合階段，將輸入的三通道拆分，分別對(duì)三組輸入進(jìn)行并行特征提取。三個(gè)通道的所有特征圖在深度方向上堆疊實(shí)現(xiàn)特征融合，隨后合并后的特征圖依次經(jīng)過(guò)通道注意力模塊和空間注意力模型進(jìn)行權(quán)重賦值，而后經(jīng)過(guò)2個(gè)卷積層進(jìn)一步提取特征，最后接入4個(gè)全連接層，將所提取出的抽象特征表達(dá)到標(biāo)簽空間。圖9展示了本工作所提出的基于混合模型的電池早期壽命預(yù)測(cè)架構(gòu)。
圖9 本工作所提出的混合模型的網(wǎng)絡(luò)架構(gòu)
2.4 實(shí)驗(yàn)設(shè)計(jì)
圖10描述了本工作總體的實(shí)驗(yàn)流程。首先從MIT鋰離子電池?cái)?shù)據(jù)集中提取電池在放電過(guò)程中的放電電流、電壓和溫度數(shù)據(jù)，計(jì)算并構(gòu)造與容量、能量和溫度相關(guān)的特征。而后在特定電壓區(qū)間內(nèi)設(shè)置等距電壓采樣點(diǎn)進(jìn)行樣條插值，獲取各特征基于電壓的特征數(shù)據(jù)。隨后將電池前100個(gè)充放電周期的特征數(shù)據(jù)并聯(lián)構(gòu)建二維張量數(shù)據(jù)。最后將單個(gè)或多個(gè)特征在深度上堆疊構(gòu)造三維張量數(shù)據(jù)作為模型的輸入進(jìn)行訓(xùn)練和測(cè)試。
圖10 實(shí)驗(yàn)流程圖
本工作將111個(gè)電池樣本隨機(jī)劃分訓(xùn)練集和測(cè)試集，訓(xùn)練集包含了80個(gè)電池，而余下的31個(gè)電池則歸于測(cè)試集中。重復(fù)數(shù)據(jù)集劃分操作三次，分別進(jìn)行實(shí)驗(yàn)，目的是降低偶然誤差和數(shù)據(jù)分布不均導(dǎo)致對(duì)實(shí)驗(yàn)結(jié)果和最終結(jié)論的影響。最后，模型預(yù)測(cè)性能的定量表示為三次隨機(jī)重復(fù)實(shí)驗(yàn)結(jié)果的平均值。本研究實(shí)驗(yàn)使用均方根誤差(root mean square error, RMSE)和相關(guān)系數(shù)(圖片)兩個(gè)指標(biāo)來(lái)評(píng)估模型的預(yù)測(cè)壽命與電池的實(shí)際壽命之間的數(shù)值差異，從而反映模型性能。
3 實(shí)驗(yàn)結(jié)果與分析
3.1 混合模型的實(shí)驗(yàn)結(jié)果對(duì)比
混合模型選擇容量圖形特征(F1)、能量圖形特征(F2)和溫度圖形特征(F3)分別作為三條并行通道的單特征輸入，在各自經(jīng)過(guò)三個(gè)卷積層進(jìn)行特征初步提取后進(jìn)行特征融合。而原始AlexNet網(wǎng)絡(luò)的輸入則是所提取的3組特征在深度方向上堆疊得到的三維張量特征數(shù)據(jù)，并在網(wǎng)絡(luò)的首個(gè)卷積層進(jìn)行特征融合。記錄混合模型和AlexNet網(wǎng)絡(luò)在測(cè)試集上的預(yù)測(cè)結(jié)果并計(jì)算均值如表1所示。原始網(wǎng)絡(luò)模型與集成注意力機(jī)制的混合模型的平均RMSE分別為98.73和97.43。從實(shí)驗(yàn)結(jié)果上看，對(duì)比未添加注意力機(jī)制的原網(wǎng)絡(luò)模型，集成了注意力機(jī)制的混合模型取得了更優(yōu)的早期壽命預(yù)測(cè)性能，能夠充分利用多組特征的數(shù)據(jù)，更好地捕獲電池壽命信息。圖11展示了兩個(gè)模型在第一組實(shí)驗(yàn)中所有電池的預(yù)測(cè)壽命和真實(shí)觀測(cè)壽命對(duì)比。
表1 AlexNet和AlexNet+CBAM混合模型的預(yù)測(cè)結(jié)果
圖11 AlexNet和AlexNet+CBAM混合模型的預(yù)測(cè)性能對(duì)比
3.2 不同特征的性能對(duì)比
在本節(jié)特征性能對(duì)比中，AlexNet作為壽命預(yù)測(cè)模型進(jìn)行實(shí)驗(yàn)，通過(guò)對(duì)比實(shí)驗(yàn)來(lái)研究各特征的性能差異。同時(shí)，為了綜合利用多組特征所具備的信息，本節(jié)還將所提取的3組特征在深度方向上堆疊得到三維張量特征數(shù)據(jù)，并在網(wǎng)絡(luò)的首個(gè)卷積層進(jìn)行特征融合?；?組特征設(shè)計(jì)了四組不同特征輸入的實(shí)驗(yàn)，特征輸入分別為：①F1+F1+F1；②F2+F2+F2；③F3+F3+F3；④F1+F2+F3，其中①～③為單一特征復(fù)制2次并在深度方向上堆疊構(gòu)建三維張量數(shù)據(jù)，④為多特征輸入。實(shí)驗(yàn)結(jié)果如表2所示，單獨(dú)使用F1效果最優(yōu)，平均RMSE為113.64，圖片達(dá)到了0.8954，這是因?yàn)殡姵赝嘶^(guò)程中表現(xiàn)最明顯的就是電池容量的衰減。此外特征F3也表現(xiàn)出不錯(cuò)的性能，平均RMSE為116.07，圖片為0.8858，與電池的容量衰減表現(xiàn)出較強(qiáng)的相關(guān)性，可能原因是電池在正常的充放電過(guò)程中會(huì)發(fā)熱，溫度會(huì)隨著電池內(nèi)部匯集的熱量而升高，而電池能夠釋放的熱量與電池的實(shí)際可用容量息息相關(guān)，因此電池溫度數(shù)據(jù)能夠很好地反映電池的退化信息，可以將其視為電池早期壽命預(yù)測(cè)的關(guān)鍵有效特征。與單獨(dú)使用任意一種特征相比，三組特征同時(shí)作為輸入能夠有效地提高模型的預(yù)測(cè)能力，平均RMSE降低至98.73，而圖片則達(dá)到了0.9213，這說(shuō)明了多特征融合使得模型能夠從容量、能量和溫度數(shù)據(jù)中有效捕獲并綜合更多特征信息。圖12則展示了在重復(fù)實(shí)驗(yàn)組1中分別利用單一特征和多特征進(jìn)行訓(xùn)練的網(wǎng)絡(luò)模型在測(cè)試集上的電池壽命預(yù)測(cè)結(jié)果對(duì)比。
表2 不同特征輸入的性能結(jié)果
圖12 以不同特征 (a) F1+F1+F1；(b) F2+F2+F2；(c) F3+F3+F3；(d) F1+F2+F3訓(xùn)練的電池早期壽命預(yù)測(cè)模型在第一組測(cè)試集上的預(yù)測(cè)情況
3.3 基于更少周期數(shù)據(jù)的電池早期壽命預(yù)測(cè)
一個(gè)能夠基于少量周期數(shù)據(jù)即可實(shí)現(xiàn)對(duì)電池壽命進(jìn)行預(yù)測(cè)的模型能夠使得電池在老化的前期得到更好的規(guī)劃與利用。因此本節(jié)實(shí)驗(yàn)中，嘗試通過(guò)減少網(wǎng)絡(luò)所需的周期數(shù)據(jù)來(lái)探索提高模型適用性的可能性。分別基于電池前100，90，80，70，60周期的數(shù)據(jù)展開(kāi)實(shí)驗(yàn)。記錄實(shí)驗(yàn)數(shù)據(jù)如表3所示。圖13將各組實(shí)驗(yàn)結(jié)果進(jìn)行了可視化對(duì)比。從各組實(shí)驗(yàn)的平均RMSE和圖片上看，周期數(shù)據(jù)的減少導(dǎo)致模型預(yù)測(cè)性能和精度逐步降低，這表明了電池?cái)?shù)據(jù)所提供的有效信息會(huì)隨著周期的減少而減少。當(dāng)所使用的周期數(shù)據(jù)不小于70時(shí)，平均RMSE小于150，平均圖片大于0.8，模型的預(yù)測(cè)性能保持在能夠接受的預(yù)測(cè)精度內(nèi)。而當(dāng)繼續(xù)縮減周期數(shù)據(jù)至60個(gè)周期時(shí)，模型的性能發(fā)生了嚴(yán)重下滑。因此為了確保預(yù)測(cè)模型的可靠性，在利用本研究所選用特征的前提下，應(yīng)考慮使用不少于70個(gè)周期的數(shù)據(jù)。
表3 基于不同周期數(shù)量的特征的性能結(jié)果
圖13 基于不同周期數(shù)量的模型性能對(duì)比
3.4 注意力機(jī)制超參數(shù)研究
在空間注意力模塊中，兩類池化操作分別得到了空間注意力圖，后續(xù)接入了一個(gè)僅包含一個(gè)卷積核的降維卷積層，該卷積層的作用是在保持輸入的長(zhǎng)度和高度一致的前提下將通道數(shù)降為1，同時(shí)利用卷積核的卷積操作融合相鄰區(qū)域的特征信息，更好地提取區(qū)域信息，因此該卷積層中的卷積核尺寸參數(shù)值得研究。通過(guò)實(shí)驗(yàn)對(duì)比采用不同卷積核尺寸的卷積層對(duì)實(shí)驗(yàn)結(jié)果的影響，本次實(shí)驗(yàn)不考慮使用1×1的卷積核，因?yàn)樵摮叽绲木矸e核本質(zhì)上就是通道維度上的加權(quán)，沒(méi)有考慮到從特征權(quán)重圖內(nèi)相鄰像素的聯(lián)系，因此對(duì)比實(shí)驗(yàn)的卷積核尺寸分別設(shè)置為：3×3、5×5和7×7。同樣以三組特征分布作為混合模型的并行輸入，在混合模型中進(jìn)行訓(xùn)練和測(cè)試，具體對(duì)比實(shí)驗(yàn)結(jié)果如圖14所示，從三種情況下的對(duì)比實(shí)驗(yàn)結(jié)果可以看出，選用較小尺寸的卷積核能夠?qū)崿F(xiàn)更好的預(yù)測(cè)結(jié)果，這意味著需要一個(gè)較小的感受野來(lái)捕獲特征中更加重要的細(xì)節(jié)區(qū)域。因此在空間注意力模塊中最終采用小核尺寸的卷積層計(jì)算權(quán)重。
圖14 帶有不同大小卷積核的空間注意力的實(shí)驗(yàn)對(duì)比
4 結(jié) 論
本工作研究了基于鋰離子電池健康特征與深度學(xué)習(xí)的早期壽命預(yù)測(cè)方法，利用電池前100甚至更少周期的數(shù)據(jù)來(lái)達(dá)到在電池退化的早期就能夠準(zhǔn)確預(yù)測(cè)電池的壽命周期，所需的周期數(shù)據(jù)僅占電池全壽命周期的10%左右。首先針對(duì)當(dāng)前對(duì)電池溫度特征研究不足以及未考慮深度學(xué)習(xí)提取特征的重要性的問(wèn)題，本工作基于電池放電過(guò)程中的電壓、電流和溫度數(shù)據(jù)，拓展研究了與電池能量與溫度相關(guān)的特性，并以此提取了基于容量、能量和溫度的二維圖形特征，通過(guò)實(shí)驗(yàn)驗(yàn)證了所提出特征的有效性。同時(shí)通過(guò)在特征提取層間引入注意力機(jī)制對(duì)模型進(jìn)行優(yōu)化，提高了電池早期壽命預(yù)測(cè)的準(zhǔn)確度。
對(duì)三組特征分析表明，單獨(dú)利用處理后溫度數(shù)據(jù)進(jìn)行電池早期壽命預(yù)測(cè)也能較為準(zhǔn)確。溫度數(shù)據(jù)反映了電池在充放電過(guò)程中的放熱量，而電池的實(shí)際可用容量決定了電池可釋放的熱量，因此，挖掘電池溫度數(shù)據(jù)的特性有助于推動(dòng)溫度相關(guān)特征為電池壽命預(yù)測(cè)提供寶貴特征信息。此外通過(guò)特征融合技術(shù)將三組特征進(jìn)行融合，實(shí)驗(yàn)結(jié)果表明充分利用多組特征有助于提高模型整體的預(yù)測(cè)性能。能夠利用的特征輸入越多，模型就能夠從電池的放電數(shù)據(jù)中捕捉越多有效的壽命信息，預(yù)測(cè)性能就會(huì)越優(yōu)異。添加的注意力機(jī)制的混合模型對(duì)比實(shí)驗(yàn)說(shuō)明注意力模塊能夠根據(jù)輸入特征圖對(duì)模型的有效性為不同特征提供不同的權(quán)重系數(shù)，使得模型能夠篩選學(xué)習(xí)對(duì)模型有益的特征信息，同時(shí)抑制無(wú)效信息的傳遞，從而提高模型的預(yù)測(cè)能力。此外本工作還進(jìn)一步研究了基于更少周期的電池?cái)?shù)據(jù)實(shí)現(xiàn)早期壽命預(yù)測(cè)以及探索了空間注意力模塊中降維卷積層的卷積核尺寸大小對(duì)該模塊特征權(quán)重分配及最終模型壽命預(yù)測(cè)的影
