《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 其他 > 設(shè)計應(yīng)用 > 基于句粒度提示的大語言模型時序知識問答方法
基于句粒度提示的大語言模型時序知識問答方法
網(wǎng)絡(luò)安全與數(shù)據(jù)治理
李志東,羅琪彬,喬思龍
華北計算技術(shù)研究所大數(shù)據(jù)研發(fā)中心,北京100083
摘要: 知識問答是自然語言處理領(lǐng)域的研究熱點(diǎn)之一,而時序知識問答還需考慮知識的時序關(guān)系,更是研究難點(diǎn)所在。當(dāng)前時序知識問答方法通常將知識和問題的詞向量相似度作為回答的重要依據(jù),忽略了知識所蘊(yùn)含的句粒度語義信息。對此,提出了一種基于句粒度提示的大語言模型時序知識問答方法,首先通過對句粒度提示的改進(jìn),讓大語言模型高效學(xué)習(xí)句粒度語義信息,同時驗證大語言模型在Zeroshot、Fewshot及弱監(jiān)督微調(diào)下時序知識問答能力。在ICEWS0515數(shù)據(jù)集上進(jìn)行實驗,所提方法回答正確準(zhǔn)確率得到可觀提升,體現(xiàn)了基于句粒度提示的大語言模型時序知識問答方法的有效性。
中圖分類號:TP391.1
文獻(xiàn)標(biāo)識碼:ADOI:10.19358/j.issn.2097-1788.2023.12.002
引用格式:李志東,羅琪彬,喬思龍.基于句粒度提示的大語言模型時序知識問答方法[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理,2023,42(12):7-13.
Large language model based on sentence granularity prompts for temporal knowledge Q&A approach
Li Zhidong,Luo Qibin,Qiao Silong
Big Data R&D Center, North China Institute of Computing Technology, Beijing 100083, China
Abstract: Knowledge Q&A is one of the hot research topics in the field of natural language processing, and temporal knowledge Q&A is a difficult area of Q&A reasoning because it also needs to consider the temporal relationship of knowledge. Today′s research usually focuses on the word vector similarity between knowledge and questions as an important basis for answering, while ignoring the sentence granularity semantic information embedded in the knowledge. In this paper, we propose a method of temporal knowledge Q&A for large language models based on sentence granularity prompts. Firstly, by improving the sentence granularity prompts, the large language models can learn the sentence granularity semantic information efficiently, and then the temporal knowledge Q&A ability of large language models under Zeroshot, Fewshot and weaklysupervised finetuning is verified. The experiments are conducted on the ICEWS0515 dataset , and the accuracy of answers is significantly improved, which demonstrates the effectiveness of the temporal knowledge Q&A method for large language models based on sentence granularity prompts.
Key words : temporal knowledge graph questionanswering; large language models; prompt learning;natural language processing

引言

業(yè)務(wù)系統(tǒng)中具有多種不同時間序列的數(shù)據(jù)信息,將這些數(shù)據(jù)通過相關(guān)性和因果關(guān)系相聯(lián)系形成知識圖譜有助于快速深入地掌握時序信息。此外,數(shù)據(jù)信息在時間維度上的語義表達(dá)不同,包括年、月、日等不同粒度,跨時間粒度的語義表達(dá)會對問答結(jié)果產(chǎn)生影響。由此,時序知識圖譜(Temporal Knowledge Graph,TKG)的產(chǎn)生可以對不同的時間序列數(shù)據(jù)生成一個多層的、多粒度的知識圖譜,使得時序之間的關(guān)系得以清晰描述。基于知識圖譜的問答系統(tǒng)(Question Answering System based on Knowledge Graphs, KGQA)最早被用于提高企業(yè)的核心競爭力,由于企業(yè)經(jīng)營過程中沉淀了許多知識但并不能得到很好的利用,KGQA的出現(xiàn)使得知識的完全利用成為了可能。而TKG是在傳統(tǒng)的知識圖譜上對時間進(jìn)行延伸,在三元組中加入時間維度,格式為“[頭實體 關(guān)系 尾實體 時間]”。


作者信息

李志東,羅琪彬,喬思龍

(華北計算技術(shù)研究所大數(shù)據(jù)研發(fā)中心,北京100083)


文章下載地址:http://www.viuna.cn/resource/share/2000005870


weidian.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。
主站蜘蛛池模板: 天天干天天干天天干天天 | 涩涩网站在线看 | 亚洲第一成年网 | 日本三级免费片 | 视频区小说区图片区激情 | 免费黄色片网站 | 精品色视频| 加勒比精品久久一区二区三区 | 国产成人啪精品视频免费网 | 日韩 国产 欧美 | 成人国产网站v片免费观看 成人国产一区二区三区 | 中文字幕22页 | 黄色免费毛片 | 国产在线视频www片 国产在线日韩在线 | 成人男女网18免费看 | 国产日产高清欧美一区二区三区 | 男女免费爽爽爽在线视频 | aaaa一级片| 日韩伦理视频 | 黄网站免费看 | 免费一级特黄 | 毛片a级毛片免费播放100 | 性生交大片免费一级 | 精品欧美一区二区三区精品久久 | 色片免费在线观看 | 一级免费大片 | 欧美午夜不卡 | 亚洲欧美日韩中文字幕网址 | 日韩伦理在线播放 | 日韩午夜网站 | 三级三级三级a级全黄公司的 | 亚洲欧美日韩成人一区在线 | 国产欧美日韩另类一区乌克兰 | 色综合天天综合高清网国产 | 中国黄色一级视频 | 羞羞视频免费在线观看 | 亚洲色欧美 | 波多野结衣在线视频播放 | 国产成人亚洲精品影院 | 深夜福利动态 | 26uuu另类欧美亚洲曰本 |