基于知識(shí)圖譜的復(fù)雜問(wèn)題推理問(wèn)答

|基于知識(shí)圖譜的復(fù)雜問(wèn)題推理問(wèn)答史佳欣華為云高級(jí)研究員目錄CONTENT背景介紹跨領(lǐng)域遷移構(gòu)造推理過(guò)程數(shù)據(jù)隱式學(xué)習(xí)推理過(guò)程||背景介紹答案:1984年12月30日|復(fù)雜問(wèn)題：|實(shí)體鏈接實(shí)體鏈接關(guān)系分類(lèi)關(guān)系分類(lèi)mention：中國(guó)predicate：首都屬于國(guó)籍長(zhǎng)城首都 國(guó)寶?！鹦茇垖儆趪?guó)籍長(zhǎng)城首都中國(guó)姚明北京|語(yǔ)義解析法信息檢索法問(wèn)題AddressingValueAddressingValueAggregateAggregateA>ADong,etal.LanguagetoLogicalFormwithNeuralAttentMiller,etal.Key-ValueMemoryNetworksforDirectlyReadingSun,etal.PullNet:OpenDomainQuestion語(yǔ)義解析法優(yōu)勢(shì):?各種問(wèn)題都能處理?可解釋的推理過(guò)程劣勢(shì):?需要推理過(guò)程的標(biāo)注數(shù)據(jù)來(lái)訓(xùn)練解析器信息檢索法?只需要(問(wèn)題-答案)標(biāo)注數(shù)據(jù)就可以訓(xùn)練模型?端到端預(yù)測(cè)結(jié)果劣勢(shì)?解決問(wèn)題的能力有限?中間過(guò)程不可解釋?zhuān)y以控制|針對(duì)語(yǔ)義解析類(lèi)方法，我們主要探討3個(gè)問(wèn)題：||構(gòu)造推理過(guò)程數(shù)據(jù)SelectSelect|?強(qiáng)類(lèi)型語(yǔ)言，包含7種知識(shí)類(lèi)型?14個(gè)知識(shí)圖譜元素操作+13個(gè)查詢(xún)操作|?強(qiáng)類(lèi)型語(yǔ)言，包含7種知識(shí)類(lèi)型?14個(gè)知識(shí)圖譜元素操作+13個(gè)查詢(xún)操作|?注重過(guò)程，透明的中間結(jié)果?符合人類(lèi)思維，容易理解，方便人機(jī)交互?操作具有良好的可組合性?可以面向多種知識(shí)來(lái)源|?????????||轉(zhuǎn)寫(xiě)一：最終規(guī)模：約12萬(wàn)條數(shù)據(jù)（五元組）首個(gè)包含自然語(yǔ)言、全知識(shí)類(lèi)型、多種邏輯形式的大規(guī)模數(shù)據(jù)集|||跨領(lǐng)域遷移所屬行業(yè)公司AI行業(yè)所屬行業(yè)公司AI行業(yè)AI行業(yè)所屬行業(yè)公司2021年融資最多2021年融資最多|AI行業(yè)所屬行業(yè)公司2021年融資最多知識(shí)圖譜一：AI行業(yè)哪家公司2021年融資最多？|跨領(lǐng)域遷移——骨架解析器|相似度計(jì)算相似度計(jì)算KG概念集合A股股票行業(yè)|階段一領(lǐng)域一進(jìn)行有監(jiān)督學(xué)習(xí)骨架解析器骨架解析器參數(shù)解析器階段二領(lǐng)域二進(jìn)行強(qiáng)化學(xué)習(xí)xx醫(yī)院正確à正向激勵(lì)采樣執(zhí)行錯(cuò)誤à負(fù)向激勵(lì)|領(lǐng)域一?KG：Wikidata子集領(lǐng)域二?KG：Freebase|階段一+階段二：|?可以直接學(xué)出嗎推理過(guò)程||隱式學(xué)習(xí)推理過(guò)程考慮多跳類(lèi)問(wèn)題：xx公司的董事長(zhǎng)投資了哪家公司|激活向量：每一步關(guān)注的實(shí)體激活矩陣：每一步關(guān)注的關(guān)系以向量矩陣乘法建模實(shí)體轉(zhuǎn)移at=at-1wta=a-1xwijACCBBat-1=100ACCBBwt=ACB->C|以鏈?zhǔn)匠朔ń６嗵D(zhuǎn)移每一步以注意力機(jī)制關(guān)注問(wèn)題a1=aow1a2=a1w2a3=a2w3|僅需對(duì)最終預(yù)測(cè)的實(shí)體施加loss，即可自動(dòng)學(xué)出整個(gè)推理過(guò)程首次在MetaQA數(shù)據(jù)集上實(shí)現(xiàn)上100%準(zhǔn)確率?遷移骨架解析器和參數(shù)解析器，第一階段有監(jiān)督學(xué)習(xí)，第|ProgramsforComplexQuestionAnsweringoverKnowledgeBase.ACL2022.overKnowledgeBases.AC