AI導(dǎo)購(gòu)機(jī)器人的最佳實(shí)踐

1、技術(shù)創(chuàng)新，變革未來(lái)AI導(dǎo)購(gòu)機(jī)器人的最佳實(shí)踐目錄幫幫商家版介紹對(duì)話機(jī)器人整體架構(gòu)自動(dòng)問(wèn)答算法原理商機(jī)槽位識(shí)別原理商機(jī)引導(dǎo)原理未來(lái)展望58同城業(yè)務(wù)背景C端 用戶B端 商家人人信賴的生活服務(wù)平臺(tái)瀏覽帖子發(fā)帖子58同城業(yè)務(wù)背景先從生活中的一個(gè)場(chǎng)景開始：我們需要找一個(gè)保潔服務(wù)幫幫商家版的思考58商家使用微聊與用戶溝通時(shí)會(huì)遇到哪些問(wèn)題？AI對(duì)話機(jī)器人AI知識(shí)挖掘管理坐席分配管理店鋪會(huì)話商家回復(fù)時(shí)間不固定，用戶失聯(lián)，商 機(jī)流失商家平均回復(fù)時(shí)間20分鐘用戶在58停留時(shí)間10分鐘服務(wù)成本高，話術(shù)難標(biāo)準(zhǔn)人工難以24小時(shí)支持，尤其對(duì)中小商家而言培訓(xùn)坐席成本：培訓(xùn)標(biāo)準(zhǔn)話術(shù)，商品信息多人工客服會(huì)帶有情緒商家對(duì)商品&人員

2、管理難賬號(hào)多：咨詢過(guò)多，多個(gè)賬號(hào)信息不統(tǒng)一人員離職：可能造成歷史客戶丟失幫幫商家版溝通模式微聊微聊幫幫商家版功能豐富商家管理后臺(tái)PC、H5開放平臺(tái)坐席工作臺(tái)店鋪列表會(huì)話列表發(fā)送區(qū)智能輔助聊天詳情商家管理后 臺(tái)入口業(yè)務(wù)線自定義區(qū)幫幫商家版功能58同城對(duì)話機(jī)器人智能問(wèn)答多輪對(duì)話商機(jī)挖掘智能輔助智能客服商家版“幫幫商家版”商家助手（本地服務(wù)）經(jīng)紀(jì)人助手（房產(chǎn)）企業(yè)助手（招聘）車商助手（車）幫幫典型場(chǎng)景 黃頁(yè)微聊代運(yùn)營(yíng)C端用戶B端商家人工坐席核心目標(biāo)：獲取商機(jī)58對(duì)話機(jī)器人微聊商機(jī)中心電話連接，促進(jìn)成單目錄幫幫商家版介紹對(duì)話機(jī)器人整體架構(gòu)自動(dòng)問(wèn)答算法原理商機(jī)槽位識(shí)別原理商機(jī)引導(dǎo)原理未來(lái)展望13幫幫商家

3、版對(duì)話機(jī)器人問(wèn)答管理ABTest實(shí)驗(yàn) 平臺(tái)WPAI人工智 能平臺(tái)QABot接入層算法層TaskBo tChatBo t第三方服務(wù)業(yè)務(wù)邏輯開發(fā)者平臺(tái)/商家管理后臺(tái)數(shù)據(jù)層知識(shí)庫(kù)問(wèn)答庫(kù)標(biāo)注庫(kù)IMSCFWFWMB標(biāo)注系統(tǒng)58基礎(chǔ)框架58對(duì)話機(jī)器人轉(zhuǎn)人工等 邏輯控制核心能力自動(dòng)問(wèn)答 提供業(yè)務(wù)咨詢能力槽位識(shí)別 商機(jī)識(shí)別，智能提效商機(jī)引導(dǎo) 提供商機(jī)引導(dǎo)能力商機(jī)識(shí)別目錄幫幫商家版介紹對(duì)話機(jī)器人整體架構(gòu)自動(dòng)問(wèn)答算法原理商機(jī)槽位識(shí)別原理商機(jī)引導(dǎo)原理未來(lái)展望QABot示例智能問(wèn)答多輪引導(dǎo)QABot技術(shù)方案基于問(wèn)題分類的QA基于上下文檢索的QA自動(dòng)問(wèn)答 基于問(wèn)題分類的QA解決的問(wèn)題機(jī)器人能回答哪些用戶提問(wèn)如何回答更多

4、的問(wèn)題并準(zhǔn)確回答機(jī)器人能回答哪些用戶提問(wèn)標(biāo)準(zhǔn)問(wèn)題擴(kuò)展問(wèn)法業(yè)務(wù)線知識(shí)庫(kù)微聊場(chǎng)景問(wèn)題挖掘問(wèn)題id問(wèn)題文本問(wèn)題類型1當(dāng)前房子還在嗎標(biāo)準(zhǔn)問(wèn)題1上面的房子還有嗎擴(kuò)展問(wèn)法1你們這個(gè)房源還在嗎擴(kuò)展問(wèn)法2當(dāng)前房子的租金是多 少標(biāo)準(zhǔn)問(wèn)題2房租怎么說(shuō)擴(kuò)展問(wèn)法2多少一個(gè)月擴(kuò)展問(wèn)法如何回答更多的問(wèn)題并準(zhǔn)確回答用戶Query你好問(wèn)一下房子 每個(gè)月租金多少錢問(wèn)答模型預(yù)測(cè)當(dāng)前房子的租金 是多少知識(shí)庫(kù)答案庫(kù)問(wèn)題id答案1房源狀態(tài)?你好,房子還在的:你好,房子已租2您好，該房源的租金是租金您好，該房源的租金 是1000元QABot回復(fù)準(zhǔn)確率 召回率QABot結(jié)合線上效果數(shù)據(jù)多次模型迭代，達(dá)到數(shù)據(jù)閉環(huán)模型迭代標(biāo)準(zhǔn)問(wèn)挖掘微聊 數(shù)據(jù)

5、冷啟動(dòng)數(shù) 據(jù)標(biāo)注離線訓(xùn)練 問(wèn)答模型問(wèn)答模型 上線部署線上效果 測(cè)評(píng)模型迭代迭代目標(biāo) 線上效果評(píng) 測(cè)自動(dòng)問(wèn)答模型迭代FastTextDSSMDSSM+nGram前期，采用淺層網(wǎng)絡(luò)，特征優(yōu)化等BERT模型關(guān)鍵點(diǎn) 隨機(jī)掩碼15% 的token 通過(guò)預(yù)測(cè)掩碼 的token達(dá)到 Pretrain LM 多頭自注意力 殘差學(xué)習(xí) 位置編碼Transformer BlockBERT：預(yù)訓(xùn)練+微調(diào)微聊場(chǎng)景：無(wú)監(jiān)督數(shù)據(jù)多輕量級(jí)預(yù)訓(xùn)練語(yǔ)言模型SPTMSPTM（Simple Pre-trained Model）：開源項(xiàng)目地址：/wuba/qa_match19年4月誕生，在18年10月底誕生的BERT基礎(chǔ)上改動(dòng)去掉NS

6、P輕量級(jí)預(yù)訓(xùn)練語(yǔ)言模型SPTM支持Bi-LSTM/Transformer兩種Block使用Transformer Block時(shí)與 原生BERT的主要區(qū)別： 去除了NSP 所有encoder共享參數(shù)基于Bi-LSTM基于Transformer輕量級(jí)預(yù)訓(xùn)練語(yǔ)言模型SPTM 隨機(jī)掩碼15% 的token以Bi-LSTM block為例具體說(shuō)明 通過(guò)預(yù)測(cè)掩碼 的token達(dá)到 Pretrain LM 殘差學(xué)習(xí)優(yōu)點(diǎn)預(yù)訓(xùn)練 / 推理 速度快缺點(diǎn)表達(dá)能力略有下降單模型支撐多垂直場(chǎng)景模型A結(jié)果場(chǎng)景A場(chǎng)景B場(chǎng)景C不同垂直場(chǎng)景模型獨(dú)立，維護(hù)困難模型A分類結(jié)果場(chǎng)景C業(yè)務(wù)線模型總體F1商務(wù)服務(wù)等7個(gè)業(yè)務(wù)線SPTM83

7、.76%場(chǎng)景A答 案模型B結(jié)果模型C結(jié)果答案答案答案場(chǎng)景B答 案場(chǎng)景C答 案同一分類結(jié)果在不同場(chǎng)景答案不同單模型支撐多個(gè)業(yè)務(wù)場(chǎng)景合并不同場(chǎng)景的相似問(wèn)題保留不同領(lǐng)域的個(gè)性問(wèn)題場(chǎng)景A場(chǎng)景A改進(jìn)模型效果數(shù)據(jù)模型F1推理耗時(shí)FastText0.75042.10msLSTM+DSSM0.77316.44msNgram+LSTM+DSSM0.79906.44msSPTM0.812011.75ms兼顧預(yù)測(cè)效果與效率之后，最終線上選用了預(yù)訓(xùn)練LSTM(一層+有預(yù)訓(xùn)練)模型自動(dòng)問(wèn)答 基于上下文檢索的QA有月嫂的哦，您這邊預(yù)產(chǎn)期什么時(shí) 候呢？您好，我公司承接各類保姆/月 嫂服務(wù)。檢索歷史消息能夠靈活回復(fù)分類模型答

8、案固定構(gòu)建人工客服歷史問(wèn)答數(shù)據(jù)檢索歷史問(wèn)答人工消息回復(fù)用戶月嫂有嗎檢索模型-提高有結(jié)果率有的親，請(qǐng)問(wèn)家里有老人或者小孩 需要照顧嗎？無(wú)回復(fù)檢索歷史消息能夠靈活回復(fù)分類模型拒識(shí)無(wú)回復(fù)構(gòu)建人工客服歷史問(wèn)答數(shù)據(jù)檢索歷史問(wèn)答人工消息回復(fù)用戶您好您好，在的哦白班保姆檢索模型-提高問(wèn)答有結(jié)果率用戶消息EmbeddingAdd &NormEncoder1.Encoder 4Multi-HeadAttentionFeed ForwardAdd&NormALBert tiny獲取 用戶單輪表征召回相似表征（歐氏距離）多輪表征向量相似表征Faiss召回表征id736256371745123377362閾值判斷閾值

9、判斷 距離精排Redis客服回復(fù)Redis取回復(fù)678.多個(gè)單輪表征橫向拼接檢索模型-提高問(wèn)答有結(jié)果率近6個(gè)月線 上消息過(guò)濾帶用戶信息/不恰當(dāng)回復(fù)生成句向量IDCNN實(shí)體識(shí)別/ 人工審核ALBert多輪會(huì)話表征用戶消息Faiss檢索召回 &規(guī)則精排拼接離線數(shù)據(jù)構(gòu)建線上預(yù)測(cè)流程分類模型 結(jié)果是否存在 檢索結(jié)果否是回復(fù)檢索結(jié)果表征向量檢索模型-提高問(wèn)答有結(jié)果率模型有結(jié)果率分類模型32.32%檢索模型40.00%分類模型+檢索模型58.53%優(yōu)點(diǎn)：回答方式豐富，提高有結(jié)果率目錄幫幫商家版介紹對(duì)話機(jī)器人整體架構(gòu)自動(dòng)問(wèn)答算法原理商機(jī)槽位識(shí)別原理商機(jī)引導(dǎo)原理未來(lái)展望智能客服商家版中的人機(jī)協(xié)作C端用戶AC端

10、用戶B機(jī)器人 自動(dòng)問(wèn)答坐席分流商家知識(shí)庫(kù)人工客服A人工客服B微聊機(jī)器人 智能輔助商家知識(shí)庫(kù)轉(zhuǎn)人工人機(jī)協(xié)作模式:機(jī)器人接待用戶，機(jī)器人回答不了轉(zhuǎn)人工客服機(jī)器人和人工客服各自接待一部分用戶機(jī)器人全部接待，無(wú)人工客服參與人工客服需要槽位識(shí)別在呢在呢，請(qǐng)問(wèn)你需要什么服務(wù)？咱這里蔬菜和水果都可以配送的對(duì)話機(jī)器人需要槽位識(shí)別商機(jī)電話微信地址時(shí)間槽位識(shí)別難點(diǎn)商機(jī)表達(dá)不連續(xù)，“我想租北京的房子，將臺(tái)地 鐵站附近的”微信本身沒(méi)有實(shí)體范式，品牌型號(hào)如A4L2019 、 vivox5，誤召回地址和時(shí)間表達(dá)豐富，我下周三的時(shí)候需要保潔 服務(wù)，最好是在早上8點(diǎn)鐘到11點(diǎn)的時(shí)候來(lái)商機(jī)槽位類型商機(jī)槽位，總共構(gòu)建了51個(gè)實(shí)體

11、電話商機(jī)-（手機(jī)/座機(jī)/分機(jī)）3個(gè)實(shí)體槽位微信商機(jī)-（微信，QQ號(hào)）2個(gè)實(shí)體槽位地址商機(jī)-（省/市/區(qū)縣等）16個(gè)實(shí)體槽位時(shí)間商機(jī)-（具體某月上限、具體某天、具體某天下 限）30個(gè)實(shí)體槽位槽位識(shí)別結(jié)構(gòu)正則+模型支持電話、微信 QQ正則模型支持電話、 地址、時(shí)間識(shí)別支持引入上下文信息槽位識(shí)別模型結(jié)構(gòu)模型結(jié)構(gòu)詞槽:city詞槽:whatDayEmbeddingIDCNN層.CRF層FF層.RepeatStackedDilation=1=2DilationDilation=1槽位識(shí)別效果總結(jié)識(shí)別效果模型采用IDCNN+CRF融合規(guī)則+模型結(jié)果線上效果如下：準(zhǔn)確率召回率F1值96%91%93%商機(jī)如何

12、使用目錄幫幫商家版介紹對(duì)話機(jī)器人整體架構(gòu)自動(dòng)問(wèn)答算法原理商機(jī)槽位識(shí)別原理商機(jī)引導(dǎo)原理未來(lái)展望商機(jī)引導(dǎo)的核心目標(biāo)服務(wù)C端用戶，獲取服務(wù)服務(wù)B端商家，獲取商機(jī)促成交易多輪商機(jī)引導(dǎo)TaskBot：為用戶完成特定任務(wù)的多輪對(duì)話系統(tǒng)本場(chǎng)景Task：引導(dǎo)用戶提供指定的商機(jī)人工客服 商機(jī)引導(dǎo)TaskBot 商機(jī)引導(dǎo)背景介紹業(yè)務(wù)特點(diǎn)：100+類目，不同類目引導(dǎo)的流程有區(qū)別不同類目對(duì)完整 “商機(jī)”的定義存在差別QABot和TaskBot的配合方式將QABot（一問(wèn)一答）與TaskBot（任務(wù)型多輪對(duì)話）融合，打通用 戶與商家的雙向連接先回復(fù) QABot回答 (支持配置多個(gè)，隨機(jī)回答)如果問(wèn)題“觸發(fā)” TaskB

13、ot，則TaskBot 之后會(huì)拼接QABot回復(fù)識(shí)別出電話商 機(jī)TaskBot會(huì)依次反問(wèn) 配置的“商機(jī)詞槽”， 直到拿到完整的商機(jī)。問(wèn)題id問(wèn)題文本問(wèn)題類型1搬家如何收費(fèi)？標(biāo)準(zhǔn)問(wèn)題1搬一次家多少錢？擴(kuò)展問(wèn)法TaskBot技術(shù)框架TaskBot通常由NLU、DM和NLG模塊組成NLU對(duì)應(yīng)于已有的QABot和槽位識(shí)別模塊商機(jī)引導(dǎo)功能主要依賴DM模塊的實(shí)現(xiàn)對(duì)話管理對(duì)話流程控制：依次遍歷有向圖，如遇到回復(fù)節(jié)點(diǎn)則結(jié)束用戶信息場(chǎng)景RedisMongoDB對(duì)話歷史 節(jié)點(diǎn)id用戶上下文QABot結(jié)果StartN ode開始節(jié)點(diǎn)有向圖1有向圖n回復(fù)槽位識(shí)別 結(jié)果SlotNode已填充的 槽位節(jié)點(diǎn)狀態(tài)信息Response Node kRedis算法探索使用SlotNode存在問(wèn)題：?jiǎn)?/p>