人機對話(huà)一直是自然語(yǔ)言處理L域內的重要研究方向之一，近年來(lái)隨著(zhù)人機交互技術(shù)的進(jìn)步，對話(huà)系統正逐漸走向實(shí)際應用。其中，智能客服系統受到了很多企業(yè)尤其是中大型企業(yè)的廣泛關(guān)注。智能客服系統旨在解決傳統客服模式需要大量人力的狀況，在節約人力的同時(shí)，使得人工客服在針對特別問(wèn)題或者特別用戶(hù)時(shí)能夠提供更G質(zhì)量的服務(wù)，從而實(shí)現“智能客服 + 人工客服”在服務(wù)效率和服務(wù)質(zhì)量?jì)蓚�(gè)維度上的整體提升。近年來(lái)，許多中大型公司都已經(jīng)構建了自己的智能客服體系，例如富士通的 FRAP、京東的 JIMI 和阿里巴巴的 AliMe 等。

智能客服系統的構建需要依托于行業(yè)數據背景，并基于海量知識處理和自然語(yǔ)言理解等相關(guān)技術(shù)。初代智能客服系統主要面對業(yè)務(wù)內容，針對G頻的業(yè)務(wù)問(wèn)題進(jìn)行回復解決，此過(guò)程依賴(lài)于業(yè)務(wù)專(zhuān)家對G頻業(yè)務(wù)問(wèn)題答案的準確整理，主要的技術(shù)點(diǎn)在于準確的用戶(hù)問(wèn)題和知識點(diǎn)之間的文本匹配能力。新型的智能客服系統將服務(wù)范圍定義為泛業(yè)務(wù)場(chǎng)景，除了解決處理核心的G頻業(yè)務(wù)問(wèn)題，智能導購能力、障礙預測能力、智能語(yǔ)聊能力、生活助理功能以及生活娛樂(lè )交互等方面的需求也同樣被重視和涵蓋。其中，情感能力做為類(lèi)人能力的重要體現，已經(jīng)在智能客服系統的各個(gè)維度的場(chǎng)景中被實(shí)際應用，并且對系統類(lèi)人能力的提升起到了至關(guān)重要的作用。

一  智能客服系統中情感分析技術(shù)架構

圖 1：智能客服系統中的情感分析技術(shù)架構

圖 1 給出了經(jīng)典的人機結合的智能客服模式，用戶(hù)能夠通過(guò)對話(huà)的方式，接受來(lái)自機器人或者人工客服的服務(wù)，并且在接受機器人服務(wù)的過(guò)程中，能夠利用指令的方式或者機器人自動(dòng)識別的方式跳轉到人工客服。在上述的完整客服模式中，情感分析技術(shù)已經(jīng)被實(shí)際應用在多個(gè)維度的能力之上。

二  用戶(hù)情感檢測 

1  用戶(hù)情感檢測模型介紹

用戶(hù)情感檢測是很多情感相關(guān)應用的基礎和核心。在本文中，我們提出一種集成詞語(yǔ)義特征、多元詞組語(yǔ)義特征和句子J語(yǔ)義特征的情感分類(lèi)模型，用于識別智能客服系統用戶(hù)對話(huà)中包含的“著(zhù)急”、“氣憤”和“感謝”等情感。關(guān)于不同層次語(yǔ)義特征的抽取技術(shù)，相關(guān)工作中已經(jīng)多有提及，我們將不同層次的語(yǔ)義特征結合到一起，能夠有效提升終的情緒識別效果。圖 2 給出了該情感分類(lèi)模型的架構圖。

  圖 2：智能客服系統中的用戶(hù)情感檢測模型

2  句子J語(yǔ)義特征抽取

Shen 等人[3]提出 SWEM 模型，該模型將簡(jiǎn)單的池化策略應用于詞嵌入向量，實(shí)現句子J別的語(yǔ)義特征抽取，并且基于此類(lèi)特征進(jìn)行訓練得到的分類(lèi)模型和文本匹配模型能夠得到與經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò )類(lèi)模型和循環(huán)神經(jīng)網(wǎng)絡(luò )類(lèi)模型幾乎持平的實(shí)驗效果。

在我們的模型中，我們利用 SWEM 模型的特征抽取能力，獲取用戶(hù)問(wèn)題的句子J別語(yǔ)義特征，并將其用于對用戶(hù)問(wèn)題的情感分類(lèi)模型中。

3  多元詞組語(yǔ)義特征抽取

傳統的 CNN 模型在很多情況下被用于抽取 n 元詞組語(yǔ)義特征，其中 n 是一個(gè)變量，表示卷積窗口大小。在本文中，我們根據經(jīng)驗將 n 分別設置為 2、3 和 4，并且針對每一種窗口大小，我們分別設置 16個(gè) 卷積核，以用于從原始的詞向量矩陣中抽取豐富的 n 元詞組語(yǔ)義信息。

4  詞J別語(yǔ)義特征抽取

我們利用 LEAM 模型 [1] 抽取詞J別的語(yǔ)義特征。LEAM 模型同時(shí)將詞語(yǔ)和類(lèi)別標簽進(jìn)行同維度語(yǔ)義空間的嵌入式表示，并且基于該表示進(jìn)行文本分類(lèi)任務(wù)的實(shí)現。LEAM 利用類(lèi)別標簽的表示，增加了詞語(yǔ)和標簽之間的語(yǔ)義交互，以此達到對詞J別語(yǔ)義信息更深層次的考慮。圖 3（2）中給出了類(lèi)別標簽和詞語(yǔ)之間的語(yǔ)義交互的圖示，并且給出了 LEAM 模型與傳統模型之間的對比。

圖 3：LEAM模型中詞語(yǔ)和類(lèi)別標簽之間的語(yǔ)義交互（傳統方法和LEAM模型的對比）

后，不同J別的語(yǔ)義特征會(huì )在被合并在一起之后，輸入到整個(gè)模型的后一層，由邏輯回歸模型進(jìn)行終的分類(lèi)訓練。

表 1 中給出了我們提出的集成式模型和三個(gè)只考慮單個(gè)層次特征的對比模型之間的線(xiàn)上真實(shí)評測效果對比結果。

 表 1：集成模型和三種 baseline 模型的效果對比

三  用戶(hù)情感安撫

1  用戶(hù)情緒安撫整體框架介紹

本文中提出的用戶(hù)情緒安撫框架包括離線(xiàn)部分和在線(xiàn)部分，如圖 4 所示。

圖 4：用戶(hù)情緒安撫整體框架

離線(xiàn)部分

先需要對用戶(hù)的情緒進(jìn)行識別。此處我們選取了需要安撫的用戶(hù)常見(jiàn)的七種情緒進(jìn)行識別，它們是害怕、辱罵、失望、委屈、著(zhù)急、氣憤和感謝。

其次，我們對用戶(hù)問(wèn)題中包含的主題內容進(jìn)行識別，此處由專(zhuān)門(mén)的業(yè)務(wù)專(zhuān)家總結了用戶(hù)常見(jiàn)的 35 種主題表達內容，包括“抱怨服務(wù)質(zhì)量”和“反饋物流太慢”等。主題識別模型，我們使用與情緒識別同樣的分類(lèi)模型設計。

知識構建是針對一些用戶(hù)表達內容更具體的情況，整理其中G頻出現的并且需要進(jìn)行安撫的用戶(hù)問(wèn)題。這些具體的用戶(hù)問(wèn)題之所以沒(méi)有合并到上述的主題維度進(jìn)行統一處理，是因為主題維度的處理還是相對粗粒度一些，我們希望針對這些G頻的更聚焦的問(wèn)題，同樣進(jìn)行更聚焦的安撫回復，實(shí)現更好的回復效果。

針對情緒維度、“情緒 + 主題”維度和G頻用戶(hù)問(wèn)題維度，業(yè)務(wù)專(zhuān)家分別整理了不同粒度的安撫回復話(huà)術(shù)。特別地，在G頻用戶(hù)問(wèn)題維度，我們將每一個(gè)“問(wèn)題 - 回復”搭配稱(chēng)為一條知識。

在線(xiàn)部分

基于知識的安撫是針對帶有具體情緒內容表達的用戶(hù)進(jìn)行安撫，在此我們使用了一種文本匹配模型來(lái)評價(jià)用戶(hù)問(wèn)題與我們整理好的知識中的問(wèn)題的匹配度。如果在我們整理好的知識中存在與當前用戶(hù)輸入問(wèn)題意思非常相近的問(wèn)題，則對應的回復直接返回給用戶(hù)。

基于情緒和主題的情感回復，是指同時(shí)考慮用戶(hù)表達內容中包含的情緒和主題信息，給予用戶(hù)合適的情感回復。相比于基于知識的安撫，此種方式的回復會(huì )更加的泛化一些。

基于情緒類(lèi)別的情感回復，是只考慮用戶(hù)表達內容中的情緒因素而對用戶(hù)進(jìn)行相應的安撫回復。此回復方式是上述兩種回復方式的補充和兜底，同時(shí)回復的內容也會(huì )更加的通用。

圖 5：用戶(hù)情緒安撫示例

圖 5 給出了在線(xiàn)情感安撫的三個(gè)示例，分別對應上述的三種不同層面的回復機制。 表 2：需要安撫的情感分類(lèi)效果對比

表 2 給出了針對需要安撫情感的分類(lèi)模型效果對比，包括每種情感類(lèi)別的單d效果以及終的整體效果。表 3 給出了針對主題的分類(lèi)模型效果對比。表4給出了針對幾種負面情感，增加了情緒安撫之后，用戶(hù)滿(mǎn)意度的提升效果。表 5 給出了針對感激這種情感，增加了情緒安撫之后，用戶(hù)滿(mǎn)意度的提升效果。 表 3：主題分類(lèi)效果對比 表 4：負面情緒安撫對用戶(hù)滿(mǎn)意度的效果對比 表 5：感激情感安撫對用戶(hù)滿(mǎn)意度的效果對比

四  情感生成式語(yǔ)聊

1  情感生成式語(yǔ)聊模型

圖 6 中給出了智能客服系統中的情感生成式語(yǔ)聊的模型圖。圖中，source RNN 起到了編碼器的作用，將源序列s映射為一個(gè)中間語(yǔ)義向量 C，而 target RNN 作為解碼器，則能夠根據語(yǔ)義編碼 C 以及我們設定的情緒表示 E 和主題表示 T，解碼得到目標序列 y。此處的 s 和 y，分別對應圖中由詞語(yǔ)序列組成的“今天心情很好”和“好開(kāi)心呀！”兩個(gè)句子。

通常，為了使解碼器能夠保留來(lái)自編碼器的信息，編碼器的后一個(gè)狀態(tài)將作為初始狀態(tài)傳遞給解碼器。同時(shí)，編碼器和解碼器往往使用不同的 RNN 網(wǎng)絡(luò )用以捕獲問(wèn)句和回復句不同的表達模式。具體的計算公式如下：

雖然基于 Seq2Seq 的對話(huà)生成模型取得了不錯的效果，但是在實(shí)際應用中模型很容易生成安全但是無(wú)意義的回復。原因在于該模型中的解碼器僅僅接收到編碼器后的一個(gè)狀態(tài)輸出 C，這種機制對處理長(cháng)期依賴(lài)效果不佳，因為解碼器的狀態(tài)記憶隨著(zhù)新詞的不斷生成會(huì )逐漸減弱甚至丟失源序列的信息。緩解這個(gè)問(wèn)題的一個(gè)有效方式是引入注意力機制[2]。

圖 6：智能客服系統中的情感生成式語(yǔ)聊模型

2  情感生成式語(yǔ)聊模型結果

模型訓練完成之后，在真實(shí)的用戶(hù)問(wèn)題上進(jìn)行測試，結果由業(yè)務(wù)專(zhuān)家進(jìn)行檢查，終的答案合格率約為 72%。另外，回復文本的平均長(cháng)度為 8.8 個(gè)字，非常符合阿里小蜜語(yǔ)聊場(chǎng)景中對回復長(cháng)度的需求。表 6 中給出了本文模型 AET（Attention-based emotional & topical Seq2Seq model）與傳統 Seq2Seq 模型的效果對比。對比主要集中在內容合格率以及回復長(cháng)度兩個(gè)方面。添加了情緒信息之后，回復內容較之傳統 seq2seq 模型會(huì )更為豐富，而符合用研分析的“5 - 20字”佳機器人語(yǔ)聊回復長(cháng)度的內容占比也會(huì )大幅增加，終使得整體的回復合格率提升明顯。 

圖 7 中給出了阿里小蜜情緒生成式語(yǔ)聊模型在小蜜空間中的應用示例。圖中兩個(gè)答案均由情緒生成式模型給出，并且，對于用戶(hù)辱罵機器人太傻的用戶(hù)輸入，我們的模型可以根據設置的對應合理的話(huà)題和情緒，產(chǎn)生不同的答案，豐富了答案的多樣性，圖中兩個(gè)答案，則是由‘委屈’和‘抱歉’兩個(gè)情緒產(chǎn)生。 圖 7：小蜜空間中的情緒生成式語(yǔ)聊應用實(shí)例

五  客服服務(wù)質(zhì)檢

1  客服服務(wù)質(zhì)量問(wèn)題定義

本文所說(shuō)的客服服務(wù)質(zhì)檢是針對人工客服在和客戶(hù)對話(huà)的過(guò)程中可能出現的存在問(wèn)題的服務(wù)內容進(jìn)行檢測，從而更好地發(fā)現客服人員在服務(wù)過(guò)程中存在的問(wèn)題并協(xié)助客服人員進(jìn)行改進(jìn)，達到提G客服服務(wù)質(zhì)量，終提G客戶(hù)滿(mǎn)意度效果。據作者所知，目前還沒(méi)有公開(kāi)實(shí)現的針對客服系統中客服服務(wù)質(zhì)量檢測的人工智能相關(guān)算法模型。

與人機對話(huà)不同，人工客服和客戶(hù)的對話(huà)并不是一問(wèn)一答形式，而是客戶(hù)和客服分別能夠連續輸入多句文本。我們的目標是檢測每一句客服的話(huà)術(shù)內容是否包含“消J”或者“態(tài)度差”兩種服務(wù)質(zhì)量問(wèn)題。

2  客服服務(wù)質(zhì)檢模型

為了檢測一句客戶(hù)話(huà)術(shù)的服務(wù)質(zhì)量，我們需要考慮其上下文內容，包括用戶(hù)問(wèn)題和客服話(huà)術(shù)。我們考慮的特征包括文本長(cháng)度、說(shuō)話(huà)人角色和文本內容。其中，針對文本內容，除了利用 SWEM 模型對待檢測的當前客服話(huà)術(shù)進(jìn)行特征抽取，我們還對上下文中的每輪話(huà)術(shù)進(jìn)行情緒檢測，發(fā)現用戶(hù)情緒類(lèi)別和客服情緒類(lèi)別作為模型特征，而此處使用的情緒識別模型也如第 2 章中所述一致，亦不再贅述。此外，我們還考慮了兩種結構（圖 8 中模型 1 和圖 9 中模型 2）對基于上下文內容的文本序列語(yǔ)義特征進(jìn)行抽取。

其中，模型 1 在對當前客服話(huà)術(shù)及其上下文每句文本進(jìn)行基于 GRU 或 LSTM 的編碼之后，針對編碼結果，考慮利用正向和反向 GRU 或者 LSTM 分別對當前待檢測客服話(huà)術(shù)的上文和下文的編碼結果進(jìn)行再次的序列化編碼，如此得到的兩個(gè)序列化編碼結果均是以當前話(huà)術(shù)為尾句，能夠更好的體現當前話(huà)術(shù)的語(yǔ)義信息。模型結構如圖 8 所示。

另外，模型 2 將當前客服話(huà)術(shù)及其上下文的編碼結果，再次按照前后順序進(jìn)行整體的正向 GRU 或 LSTM 編碼作為終的語(yǔ)義特征。模型結構的部分展示如圖 9 所示。模型 1 與模型 2 相比，模型1會(huì )更加凸顯當前待檢測話(huà)術(shù)的語(yǔ)義信息，而模型 2 則更加多得體現整體上下文的序列化語(yǔ)義信息。

我們比較兩種上下文語(yǔ)義信息抽取模型的效果，表7中給出了對比結果，結果顯示模型 1 的效果要優(yōu)于模型 2，可見(jiàn)對于當前待檢測話(huà)術(shù)的語(yǔ)義信息確實(shí)需要給予更多的權重，而上下文的語(yǔ)義信息可以起到輔助識別的作用。此外，之前提到的 GRU 或者 LSTM 兩種方法在實(shí)際的模型訓練過(guò)程中，效果差別不大，但是 GRU 方法要比 LSTM 方法在速度上更快一些，因此所有的模型實(shí)驗過(guò)程中均使用了 GRU 方法。

此外，區別于模型層面的指標分析，我們針對模型在實(shí)際的系統層面的指標也進(jìn)行了相應的分析，包括了質(zhì)檢效率以及召回率兩個(gè)維度。這兩個(gè)指標，我們是以模型的結果與之前純人工質(zhì)檢的結果進(jìn)行對比得到。如表 8 中所示，不管是質(zhì)檢效率還是質(zhì)檢的召回率都得到了非常大的提升。其中，人工質(zhì)檢的召回率比較低的原因，是因為人工不可能檢測所有的客服服務(wù)記錄。 表 8：實(shí)際系統層面的模型指標評價(jià)結果

六  會(huì )話(huà)滿(mǎn)意度預估

1  會(huì )話(huà)滿(mǎn)意度

目前在智能客服系統的性能評估指標中，有一項為重要的指標為用戶(hù)會(huì )話(huà)滿(mǎn)意度。而針對智能客服系統中的用戶(hù)會(huì )話(huà)滿(mǎn)意度自動(dòng)預估的工作，據作者所知還沒(méi)有相關(guān)的研究成果。

針對智能客服系統中的會(huì )話(huà)滿(mǎn)意度預估場(chǎng)景，我們提出了會(huì )話(huà)滿(mǎn)意度分析模型，可以更好的反應當前用戶(hù)對智能客服的滿(mǎn)意度程度。由于不同用戶(hù)存在評價(jià)標準差異，會(huì )存在大量會(huì )話(huà)內容、會(huì )話(huà)答案來(lái)源、會(huì )話(huà)情緒信息完全相同的情況下情緒類(lèi)別不一致的情況。因此我們采用了兩種模型訓練方式：種是訓練模型擬合情緒類(lèi)別（滿(mǎn)意、一般、不滿(mǎn)意）的分類(lèi)模型，另一種是訓練模型擬合會(huì )話(huà)情緒分布的回歸模型，后對兩種方式效果做了對比。

2  會(huì )話(huà)滿(mǎn)意度特征選取

會(huì )話(huà)滿(mǎn)意度模型考慮了各種維度信息：語(yǔ)義信息（用戶(hù)話(huà)術(shù)）、情緒信息（通過(guò)情感檢測模型獲�。�、答案來(lái)源信息（回復當前話(huà)術(shù)的答案來(lái)源）。

語(yǔ)義信息是用戶(hù)與智能客服交流過(guò)程中所表達的內容信息，它可以從用戶(hù)話(huà)術(shù)中較好反應用戶(hù)當前滿(mǎn)意狀況。我們在模型中使用的語(yǔ)義信息是指會(huì )話(huà)中的多輪話(huà)術(shù)信息，在模型處理過(guò)程中，為了保證每次模型能夠處理相同輪次的話(huà)術(shù)，我們實(shí)驗中只使用會(huì )話(huà)中后4句用戶(hù)話(huà)術(shù)，選擇此種方式的原因是通過(guò)會(huì )話(huà)數據分析，用戶(hù)在會(huì )話(huà)即將結束時(shí)的語(yǔ)義信息與整體會(huì )話(huà)滿(mǎn)意程度更為相關(guān)。比如，用戶(hù)在會(huì )話(huà)結尾時(shí)表達感激之類(lèi)的話(huà)術(shù)基本表示滿(mǎn)意，而表達批評之類(lèi)的話(huà)術(shù)則很可能表示了對服務(wù)的不滿(mǎn)。

情緒信息一般在用戶(hù)滿(mǎn)意度方面起著(zhù)非常大的參考作用，當用戶(hù)出現憤怒、辱罵等J端情緒時(shí)，用戶(hù)反饋不滿(mǎn)意的概率會(huì )J大。此處的情緒信息與語(yǔ)義信息中的話(huà)術(shù)一一對應，對選取的幾輪話(huà)術(shù)分別進(jìn)行情緒識別，獲取對應的情緒類(lèi)別信息。

答案來(lái)源信息可以很好的反應用戶(hù)遇到何種問(wèn)題，由于不同的答案來(lái)源代表著(zhù)不同業(yè)務(wù)場(chǎng)景，不同場(chǎng)景問(wèn)題產(chǎn)生的用戶(hù)滿(mǎn)意度狀況差異性比較明顯。比如，投訴、維權類(lèi)會(huì )比咨詢(xún)類(lèi)更容易導致用戶(hù)不滿(mǎn)意。

3  會(huì )話(huà)滿(mǎn)意度模型

在本文中，我們提出了結合語(yǔ)義信息特征、情緒信息特征和答案來(lái)源信息特征的會(huì )話(huà)滿(mǎn)意度預估模型。模型充分考慮了會(huì )話(huà)中的語(yǔ)義信息，并且使用了數據壓縮的方式將情緒信息和答案來(lái)源信息進(jìn)行了充分表達。模型結構如圖 10 所示。

語(yǔ)義特征抽取。語(yǔ)義信息抽取方式使用層次 GRU/LSTM，層獲取每句話(huà)的句子表示（圖 10 中 first layer GRU/LSTM 部分），第二層根據層句子表示結果獲得多輪用戶(hù)話(huà)術(shù)的G階表示。

圖 10：智能客服系統中的用戶(hù)會(huì )話(huà)滿(mǎn)意度預估模型

（圖 10 中 second layer GRU/LSTM 部分），此處充分利用了用戶(hù)話(huà)術(shù)的序列信息。除此之外，還將獲取后一句話(huà)的 SWEM 句子特征，以增強后一句話(huà)術(shù)語(yǔ)義特征的影響。

情緒特征抽�。河捎讷@取的情緒特征是 one-hot 類(lèi)型，而 one-hot 缺點(diǎn)比較明顯，數據稀疏且無(wú)法表示情緒間直接關(guān)系。此處我們學(xué)習一個(gè)情緒 embedding，來(lái)更好的表達情緒特征。

答案來(lái)源特征抽�。撼跏即鸢竵�(lái)源特征同樣為 one-hot 特征，但由于答案的來(lái)源有 50多種，導致數據非常稀疏，因此需要進(jìn)行特征壓縮，此處同樣使用了 embedding 學(xué)習方式，來(lái)表示答案來(lái)源特征。

模型預測層：分別嘗試了滿(mǎn)意度類(lèi)別預測和滿(mǎn)意度分布預測，前者預測屬于分類(lèi)模型，后者屬于回歸模型。

4  會(huì )話(huà)滿(mǎn)意度預估實(shí)驗結果 圖 11：用戶(hù)會(huì )話(huà)滿(mǎn)意度預估結果比較

實(shí)驗結果如圖 11 中所示。從實(shí)驗結果來(lái)看分類(lèi)模型滿(mǎn)意度預估效果較差，平均比實(shí)際用戶(hù)反饋G了 4 個(gè)百分點(diǎn)以上，回歸模型可以很好的擬合用戶(hù)反饋結果，而且減小了小樣本結果的震蕩，符合預期。如表 9 中所示，回歸模型的均值與用戶(hù)真實(shí)反饋的結果的差值僅為 0.007，而方差則比之前減小了三分之一，證明了回歸模型的有效性。 表 9：用戶(hù)會(huì )話(huà)滿(mǎn)意度預估結果比較

七  總結

本文總結了目前智能客服系統中情感分析能力的一些實(shí)際應用場(chǎng)景以及相應的模型介紹和效果展示。雖然情感分析能力已經(jīng)滲透到了智能客服系統人機對話(huà)過(guò)程的各個(gè)環(huán)節中，但是目前也只能算是一個(gè)良好嘗試的開(kāi)始，其在智能客服系統的類(lèi)人能力構建進(jìn)程中還需要發(fā)揮更大的作用。