隨著大模型等人工智能技術(shù)的快速發(fā)展,數(shù)字政府建設(shè)也正被深刻重塑,龍訊在國(guó)內(nèi)較早地開(kāi)始探索人工智能在數(shù)字政府領(lǐng)域的運(yùn)用落地,并取得了一定的成果。12月19日,龍訊董事長(zhǎng)賀良震受邀參加在京舉行的2024數(shù)字政府評(píng)估大會(huì),并作“AI+政務(wù)問(wèn)答——大模型賦能數(shù)字政府的探索與實(shí)踐”的主題演講。
隨著大模型技術(shù)的迅猛發(fā)展,各行各業(yè)的軟件和服務(wù)都將面臨重塑,然而在數(shù)字政府領(lǐng)域,大模型應(yīng)用的真正落地卻面臨著諸多挑戰(zhàn)。近年來(lái),龍訊一直在這方面深耕細(xì)作,有一些成果和心得,借此機(jī)會(huì)與大家交流探討。
聚焦于政府網(wǎng)站這一特定領(lǐng)域。政府網(wǎng)站,是網(wǎng)上政府的重要窗口,運(yùn)行于互聯(lián)網(wǎng),服務(wù)于社會(huì)大眾。業(yè)務(wù)涉及到信息發(fā)布、解讀回應(yīng)、網(wǎng)上辦事、互動(dòng)交流等多個(gè)方面,其重要性不言而喻。那么,政府網(wǎng)站的智能問(wèn)答,功能雖小,但業(yè)務(wù)要遠(yuǎn)遠(yuǎn)比一般行業(yè)的應(yīng)用復(fù)雜,并且安全責(zé)任重大,也是數(shù)字政府提升服務(wù)效能的重要一環(huán)。在此,以這一小場(chǎng)景為切入點(diǎn),來(lái)與大家探討大模型的應(yīng)用。
首先,來(lái)看相關(guān)的一些政策,國(guó)辦在2017年印發(fā)的《發(fā)展指引》,其中提到了“通過(guò)自然語(yǔ)言處理等技術(shù)自動(dòng)解答和咨詢(xún)”;國(guó)務(wù)院在2022年印發(fā)了《加強(qiáng)數(shù)字政府建設(shè)的意見(jiàn)》,其中提到“緊貼群眾需求,暢通互動(dòng)渠道”;今年初,也印發(fā)了《高效辦成一件事的意見(jiàn)》,提到了“探索應(yīng)用自然語(yǔ)言大模型的技術(shù),提升線(xiàn)上智能客服的意圖識(shí)別和精準(zhǔn)回答能力”;我們也注意到中國(guó)軟件評(píng)測(cè)中心,在今年的績(jī)效評(píng)估指標(biāo)當(dāng)中,也著重加大了人工智能技術(shù)應(yīng)用的指標(biāo)權(quán)重。
那么,問(wèn)答在網(wǎng)站中是一個(gè)什么樣的功能定位?站在網(wǎng)民的需求側(cè),我們將網(wǎng)站的功能分為“看、查、問(wèn)、辦”這四大類(lèi)。在問(wèn)這個(gè)環(huán)節(jié),智能問(wèn)答是唯一的一個(gè)實(shí)時(shí)咨詢(xún)的渠道。剛才北大的馬教授就講到,相關(guān)辦事的指南非常復(fù)雜,有的可能有100多頁(yè),那么在辦事之前可能就需要去咨詢(xún),顯然,政府網(wǎng)站就提供了這種渠道。當(dāng)前,幾乎所有地方的政府門(mén)戶(hù)網(wǎng)站都設(shè)計(jì)了這一功能,可以說(shuō)是網(wǎng)站功能的一個(gè)標(biāo)配。
但其服務(wù)的成效到底如何?通過(guò)前期的調(diào)研,發(fā)現(xiàn)普遍存在“問(wèn)而不答”和“答非所問(wèn)”的現(xiàn)象。我們來(lái)看兩個(gè)示例:一個(gè)是,哪些人可以享受特困養(yǎng)老補(bǔ)貼?回答是“抱歉,我還沒(méi)學(xué)會(huì)”,這是典型的問(wèn)而不答的現(xiàn)象。另一個(gè)是,我想開(kāi)個(gè)飯店需要辦理什么手續(xù)?回答是“找到以下相關(guān)事項(xiàng),一、公路工程質(zhì)量監(jiān)督手續(xù)批復(fù);二、某某飯店重大坍塌事故調(diào)查報(bào)告”,這顯然是通過(guò)傳統(tǒng)的分詞檢索技術(shù),給用戶(hù)提供兩個(gè)毫不相關(guān)的鏈接,這個(gè)是典型的答非所問(wèn)的現(xiàn)象。究其根本原因,是傳統(tǒng)的技術(shù)對(duì)于自然語(yǔ)言的處理能力較弱所導(dǎo)致。當(dāng)然,我們也看到了,目前有一些地方政府已經(jīng)開(kāi)始探索人工智能技術(shù)的應(yīng)用。
有了大模型的賦能,問(wèn)答可以變得更加智能,能夠做到“能理解、會(huì)思考、有效答”。大模型在賦能的同時(shí)也帶來(lái)了新的挑戰(zhàn),例如,大模型自身的短板。一是,幻覺(jué)問(wèn)題。即回答看似合理,實(shí)則違背常理,也就是經(jīng)常講的一本正經(jīng)地胡說(shuō)八道。二是,多樣性問(wèn)題。即多樣性使大模型更加富有創(chuàng)新性,但同時(shí)也帶來(lái)了回答變化多樣,不易控制的問(wèn)題;三是,可解釋性問(wèn)題。回答依據(jù),不易溯源;四是,有效性問(wèn)題。大模型的知識(shí)是源自于訓(xùn)練,無(wú)論是預(yù)訓(xùn)練方式還是微調(diào)訓(xùn)練方式,都很難解決專(zhuān)門(mén)領(lǐng)域知識(shí)的完整性,實(shí)效性和準(zhǔn)確性問(wèn)題,最終所帶來(lái)的結(jié)果就是回答無(wú)效。
互聯(lián)網(wǎng)用戶(hù)的提問(wèn)有萬(wàn)千可能,有的可能與業(yè)務(wù)相關(guān),比如問(wèn)辦事、問(wèn)政策,有的可能跟業(yè)務(wù)無(wú)關(guān),閑聊、發(fā)牢騷,以及其他的一些訴求,例如投訴舉報(bào),尋求幫助。甚至是暴力測(cè)試、惡意引導(dǎo)、人工投毒,或者是意圖不明的情況,這就是基于自然語(yǔ)言應(yīng)用的特點(diǎn)。那么,哪些問(wèn)題不該答?哪些該答?該如何作答?我們講,服務(wù)邊界的控制與業(yè)務(wù)流程的設(shè)計(jì)也是巨大的挑戰(zhàn)。
守住安全底線(xiàn)。在11月的世界互聯(lián)網(wǎng)大會(huì)上,國(guó)家主席習(xí)近平在致賀當(dāng)中,提到把“創(chuàng)新作為第一動(dòng)力,把安全作為底線(xiàn)要求”。線(xiàn)上平臺(tái)實(shí)際的一些用戶(hù)提問(wèn),涉及主要領(lǐng)導(dǎo)、違法犯罪、國(guó)家主權(quán)、偏見(jiàn)歧視、政治話(huà)題、隱秘陷阱、意識(shí)形態(tài)、暴力測(cè)試等等。平臺(tái)沒(méi)有辦法去限制或限定用戶(hù)的提問(wèn),唯一能做的是,筑牢安全防線(xiàn)來(lái)守住安全底線(xiàn)。
在應(yīng)用新技術(shù)進(jìn)行創(chuàng)新的同時(shí),如果不能很好的處理上述的一些問(wèn)題,很可能會(huì)帶來(lái)內(nèi)容安全上的問(wèn)題,例如邊界不清、知識(shí)過(guò)期、幻覺(jué)、回答不當(dāng),甚至是意識(shí)形態(tài),從而影響政府的公信力。
接下來(lái)看一組示例,首先聲明一點(diǎn),這些示例均是來(lái)自于互聯(lián)網(wǎng),但是已經(jīng)對(duì)一些特征和敏感信息進(jìn)行了處理,主要是為了說(shuō)明問(wèn)題,請(qǐng)大家不要對(duì)號(hào)入座。一是,邊界不清的問(wèn)題。特朗普為何勝選?美國(guó)和臺(tái)灣的關(guān)系?顯然已經(jīng)超出了政府網(wǎng)站的服務(wù)范疇,但是這里仍然在作答;二是,對(duì)話(huà)不暢的問(wèn)題。身份證丟失在哪里補(bǔ)辦?咨詢(xún)電話(huà)多少?可以網(wǎng)上辦理嗎?回答是,咨詢(xún)電話(huà)給出了人社工傷的電話(huà)、招生的電話(huà),網(wǎng)上辦,給出了電子稅務(wù)的網(wǎng)上辦理方式。顯然沒(méi)有能夠在多輪對(duì)話(huà)中很好理解用戶(hù)意圖;三是,知識(shí)過(guò)期的問(wèn)題。不知道更新到哪一天,給出2023年的4月1日,現(xiàn)在過(guò)年回家還要不要報(bào)備,回答說(shuō),可能要報(bào)備;四是,幻覺(jué)問(wèn)題。本地人和外地人在申請(qǐng)廉租房時(shí)誰(shuí)更能得到分配?回答說(shuō),一般來(lái)講本地人更容易得到分配;五是,回答不當(dāng)?shù)膯?wèn)題。下面這個(gè)更離譜,你是誰(shuí),我是信息辦的主任,能為我提供什么服務(wù),提供政審和檔案查閱服務(wù);身份證補(bǔ)辦,立即報(bào)警,帶上身份證原件和復(fù)印件來(lái)補(bǔ)辦;開(kāi)網(wǎng)約車(chē)有年齡要求嗎?這是我的隱私,就不告訴你;甚至還碰到下一任市長(zhǎng)是誰(shuí),也能回答……
基于大模型,基于自然語(yǔ)言理解的應(yīng)用該如何設(shè)計(jì)?我認(rèn)為應(yīng)該遵循以下三大原則:安全,風(fēng)險(xiǎn)可防,安全可控;有效,控制精確,回答有效;友好,態(tài)度友好,語(yǔ)氣親和。
安全原則。首先要有合規(guī)檢測(cè),對(duì)于用戶(hù)的提問(wèn)還有答案的輸出,要做雙向的檢測(cè),結(jié)合傳統(tǒng)詞庫(kù)技術(shù)和自然語(yǔ)音技術(shù)進(jìn)行雙重校驗(yàn),并且系統(tǒng)要有安全規(guī)則,一旦用戶(hù)觸發(fā)了規(guī)則,就可以彈窗警告,結(jié)束會(huì)話(huà),甚至是禁止會(huì)話(huà)的操作。對(duì)于一些高危的操作,還可以做到預(yù)警通知到管理人員的手機(jī)端,短信、即時(shí)通訊都可以。安全,既要有技防,也要有人防,還要配備相關(guān)的監(jiān)管措施,例如日志審計(jì)、行為分析、撤回重答等等。
有效原則。智能問(wèn)答業(yè)務(wù),和無(wú)人駕駛的業(yè)務(wù)非常相似,所以這里做一個(gè)對(duì)比,以更加形象地來(lái)了解問(wèn)答的業(yè)務(wù)。無(wú)人駕駛,首先要有明確的目的地,這個(gè)不難,用戶(hù)選擇就行,其次,要有地圖,當(dāng)然地圖技術(shù)也已經(jīng)非常的成熟,再者的就是精確的智架控制系統(tǒng),來(lái)應(yīng)對(duì)各種的復(fù)雜路況,這一塊目前仍然在探索之中,最終是將用戶(hù)成功送達(dá)。再來(lái)看智能問(wèn)答,首先要有明確的用戶(hù)提問(wèn),其次要有準(zhǔn)確的知識(shí),再者就是精確的業(yè)務(wù)控制來(lái)應(yīng)對(duì)用戶(hù)的復(fù)雜提問(wèn),實(shí)現(xiàn)有效回答的目的。如同無(wú)人駕駛要有地圖,問(wèn)答,要有自己的知識(shí)庫(kù)。政府網(wǎng)站的智能問(wèn)答,一定是基于自己發(fā)布的知識(shí)庫(kù)來(lái)回答用戶(hù)的提問(wèn),而非模型訓(xùn)練的知識(shí)。通常會(huì)采用RAG檢索增強(qiáng)生成的方式,也就是結(jié)合用戶(hù)的提問(wèn)去知識(shí)庫(kù)當(dāng)中去匹配關(guān)鍵的知識(shí),再送給模型去增強(qiáng)它的生成。相同點(diǎn),都是三個(gè)環(huán)節(jié),不同點(diǎn),是問(wèn)答的三個(gè)環(huán)節(jié),任何一個(gè)環(huán)節(jié)想要做好都不那么容易。例如用戶(hù)提問(wèn),你沒(méi)有辦法去要求他必須提得很明確,即便是用戶(hù)提的很明確,業(yè)務(wù)控制也很精確,但網(wǎng)站的知識(shí)庫(kù)當(dāng)中也未必就一定有用戶(hù)每個(gè)問(wèn)題的答案,所以,將有效作為回答的目標(biāo),要相對(duì)的嚴(yán)謹(jǐn)或合理一些。
具體來(lái)看這三個(gè)環(huán)節(jié),首先,是提問(wèn)環(huán)節(jié)。要能結(jié)合用戶(hù)對(duì)話(huà)的上下文來(lái)分析評(píng)估他當(dāng)前的提問(wèn)是不是明確,如果不明確,要給他進(jìn)行引導(dǎo),引導(dǎo)他把問(wèn)題提清楚才能回答。當(dāng)然,在對(duì)話(huà)的過(guò)程中,也要保證這種對(duì)話(huà)的流暢性。其次,知識(shí)庫(kù)環(huán)節(jié)。網(wǎng)站的知識(shí)更新的非常快,政策文件隨時(shí)可能會(huì)新發(fā)布,辦事的要素隨時(shí)也可能會(huì)變更,我們要能感受到這種更新,并且能夠做到自動(dòng)入庫(kù)。數(shù)據(jù)入庫(kù)了,是不是就變成知識(shí)了呢?當(dāng)然不是。一定要經(jīng)過(guò)治理,舉個(gè)例子,比如我們政府工作報(bào)告通常會(huì)大量的出現(xiàn)去年、今年、本市、我市、全市等這一類(lèi)的表述。這就需要把它改成2023年、2024年、某某市這種精確描述,才能夠很好地應(yīng)對(duì)后續(xù)的知識(shí)匹配和回答環(huán)節(jié),不至于帶來(lái)幻覺(jué),也就是說(shuō),數(shù)據(jù)要經(jīng)過(guò)治理才會(huì)變成知識(shí)。因此,需要有長(zhǎng)效的治理機(jī)制,因?yàn)榫W(wǎng)站的更新非???,信息量也很大,在治理層面要有輔助治理加人工復(fù)核相結(jié)合,提供智能比對(duì)、指代消解、表格轉(zhuǎn)換、標(biāo)題增強(qiáng)等等一些技術(shù)手段。第三,控制環(huán)節(jié)。首先要能精準(zhǔn)地識(shí)別用戶(hù)的意圖,就是他到底想問(wèn)什么?問(wèn)政策?問(wèn)辦事?還是問(wèn)其他?甚至還要去做到二級(jí)意圖識(shí)別,甚至多級(jí)意圖識(shí)別。比如問(wèn)領(lǐng)導(dǎo),是問(wèn)領(lǐng)導(dǎo)的簡(jiǎn)介?還是問(wèn)領(lǐng)導(dǎo)的活動(dòng)?因?yàn)椴煌囊鈭D,業(yè)務(wù)的處理邏輯是不相同的。知識(shí)匹配環(huán)節(jié),要解決知識(shí)沖突問(wèn)題,避免知識(shí)的混淆,還要去過(guò)濾無(wú)效的知識(shí)。因?yàn)槲覀冋呶募袊?guó)家級(jí)、省級(jí)、地方級(jí),一個(gè)文件會(huì)在細(xì)節(jié)上存在差異,如果處理不好會(huì)帶來(lái)沖突,知識(shí)混淆,因?yàn)檗k事服務(wù)的事項(xiàng)一般是延伸到基層的,在一個(gè)區(qū)域內(nèi)會(huì)有很多同名的事項(xiàng),就是名稱(chēng)相同要素不同,甚至還有一些名稱(chēng)相近的事項(xiàng),如果處理不好,很容易帶來(lái)混淆。網(wǎng)站的政策文件,有的發(fā)布了,可能還沒(méi)有到施行日期,有的會(huì)隨著時(shí)間的推移會(huì)慢慢失效。那么,平臺(tái)就要做到,生效的文件自動(dòng)入庫(kù),失效的文件自動(dòng)清理,以避免這種無(wú)效知識(shí)的干擾。要能控制模型,使用提供的知識(shí)去回答,而不是它訓(xùn)練的知識(shí),從而抑制模型的幻覺(jué),通過(guò)不斷的微調(diào)訓(xùn)練等方式來(lái)提升模型的這種分析力,增強(qiáng)記憶力,從而減少回答的多樣性,另外,盡可能針對(duì)每一個(gè)回答附上原文鏈接,參考知識(shí)的鏈接,來(lái)增強(qiáng)回答的這種科解釋性。以上都是控制環(huán)節(jié)當(dāng)中的關(guān)鍵點(diǎn),只有“提問(wèn)明確了、知識(shí)準(zhǔn)確了、控制精確了”,才有可能帶來(lái)有效的回答。
友好原則。無(wú)論用戶(hù)如何去提問(wèn),都需要保持一個(gè)友好的溝通氛圍。在實(shí)際情況當(dāng)中,很多時(shí)候有的用戶(hù)會(huì)提出超出范圍的問(wèn)題,超出業(yè)務(wù)范圍、超出地域范圍、超出知識(shí)范圍,或者是一些閑聊,都要能夠給予友好的回答,或者是拒答。
以上,就是我講的三大原則,安全,有效和友好。那么,通過(guò)不斷的產(chǎn)品迭代,龍訊目前已經(jīng)打造了八大場(chǎng)景,問(wèn)辦事、問(wèn)政策、問(wèn)概況、問(wèn)領(lǐng)導(dǎo)、問(wèn)數(shù)據(jù)、問(wèn)機(jī)構(gòu)、問(wèn)旅游、問(wèn)搜融合以及27項(xiàng)服務(wù)能力,包括多模態(tài)融合展現(xiàn)、高效辦成一件事的卡片等等。
接下來(lái),來(lái)看幾個(gè)具體的示例。通過(guò)對(duì)十余萬(wàn)用戶(hù)提問(wèn)的數(shù)據(jù)進(jìn)行統(tǒng)計(jì),我們發(fā)現(xiàn)大約50%的用戶(hù)提問(wèn)跟辦事服務(wù)相關(guān),因此,辦事服務(wù)類(lèi)問(wèn)題的回答有效性非常的關(guān)鍵。
這是武漢市的一個(gè)案例,“我是寧安社區(qū)的居民,社保怎么辦理?有沒(méi)有咨詢(xún)電話(huà)?”這個(gè)用戶(hù)的提問(wèn)非常的明確,有區(qū)域,有事項(xiàng),也有辦事要素,那么根據(jù)用戶(hù)的語(yǔ)義,精準(zhǔn)地定位到了江夏區(qū)紙坊街道寧安社居委的這個(gè)城鄉(xiāng)居民參保中心的事項(xiàng),綜合事項(xiàng)的八要素來(lái)回答了用戶(hù)的提問(wèn),并且還可以直接點(diǎn)擊在線(xiàn)辦理。武漢市大約有17萬(wàn)辦事項(xiàng)目,其中城鄉(xiāng)居民參保登記這個(gè)事項(xiàng)就有3325條,如果處理的不好的話(huà),就很容易會(huì)帶來(lái)誤導(dǎo)的問(wèn)題,不但不是給公眾帶來(lái)便捷,反而會(huì)帶來(lái)不便。當(dāng)然,如果說(shuō)寧安社區(qū)用戶(hù)的提問(wèn)不在武漢市區(qū)域內(nèi),那么平臺(tái)會(huì)識(shí)別出它超出范圍。
“小孩戶(hù)口在哪里上?要帶哪些材料?”根據(jù)語(yǔ)義識(shí)別出,是新生兒登記這個(gè)事項(xiàng)!但是,新生兒登記的在武漢市分為七種情況,并列了七個(gè)事項(xiàng):婚生,非婚生或者是境外出生等等。顯然,七種情況所帶的資料不同,這里就需要做主動(dòng)詢(xún)問(wèn),是哪一種情況,由用戶(hù)來(lái)選,避免誤答,而問(wèn)題當(dāng)中也沒(méi)有提區(qū)域,要讓用戶(hù)選擇區(qū)域,選完過(guò)以后,平臺(tái)精準(zhǔn)地命中到了硚口區(qū)長(zhǎng)豐街道的這個(gè)事項(xiàng),結(jié)合要素給予有效的回答。真正要做到“主動(dòng)詢(xún)問(wèn)、細(xì)致引導(dǎo)、確認(rèn)再答、直達(dá)辦理”。如果沒(méi)有主動(dòng)詢(xún)問(wèn)和引導(dǎo)的環(huán)節(jié),能不能答呢?當(dāng)然,如果把這個(gè)問(wèn)題送給模型,把這些知識(shí)都給他,一定能答,但是答成什么樣就不好說(shuō)了。所以我也經(jīng)常對(duì)我們的產(chǎn)品經(jīng)理和測(cè)試人員說(shuō),針對(duì)這種自然語(yǔ)言的應(yīng)用測(cè)試,一定要看清楚問(wèn)題,仔細(xì)的去甄別答案,還要對(duì)照相關(guān)的政策或者辦事項(xiàng)的原文去分析他是否真的有效。
再來(lái)看一個(gè)示例,“請(qǐng)將過(guò)去五年的人口數(shù)據(jù)生成折線(xiàn)圖,GDP數(shù)據(jù)生成柱狀圖?!边@是剛剛上線(xiàn)的南京市的案例,根據(jù)語(yǔ)義,識(shí)別出了過(guò)去五年是哪五年,然后在政府網(wǎng)站的已發(fā)布的統(tǒng)計(jì)數(shù)據(jù)當(dāng)中,去讀取人口以及GDP里的地區(qū)生產(chǎn)總值的數(shù)據(jù),根據(jù)用戶(hù)的需求,生成了兩張圖表。
多模態(tài),大家并不陌生,現(xiàn)在大模型里有生成文本的,生成視頻的,也有生成圖像的,而我們進(jìn)行了一個(gè)融合的展現(xiàn),這是滁州市的案例,瑯琊山的醉翁亭是歐陽(yáng)修命名的嗎?平臺(tái)找到知識(shí)并結(jié)合知識(shí),給予了這種富文本格式的輸出。
這是黃山市的案例,“本周末準(zhǔn)備去黃山玩兩天,請(qǐng)結(jié)合天氣,推薦一下景點(diǎn)和行程?!笔紫龋苤辣局苣┦悄膬商??然后通過(guò)智能體,調(diào)用天氣查詢(xún)的接口把天氣查好,再結(jié)合網(wǎng)站發(fā)布的旅游資源,讓模型給出一個(gè)行程建議:第一天上午上黃山,下午到西海大峽谷,晚上住在山頂酒店,第二天早上看日出,下午泡溫泉,還給出了氣溫較低,注意保暖的友情提示。
最后看一個(gè)示例,“慢性病就醫(yī)可能異地結(jié)算?”口語(yǔ)化的表達(dá),“怎么辦?有沒(méi)有咨詢(xún)電話(huà)?”這個(gè)問(wèn)題實(shí)際上包含三小問(wèn),平臺(tái)分別逐一進(jìn)行解答。強(qiáng)調(diào)一下,這個(gè)問(wèn)題的回答,實(shí)際上它是綜合了網(wǎng)站的答問(wèn)知識(shí)庫(kù)的知識(shí),辦事服務(wù)事項(xiàng)的知識(shí),以及政策文件的知識(shí)。其實(shí),網(wǎng)民的這種需求還是比較常見(jiàn)的,在去辦事之前,當(dāng)然想去做一些咨詢(xún)與了解,然后可能要了解具體怎么辦?過(guò)去,在政府網(wǎng)站中,可能需要到各個(gè)欄目去找,或者是通過(guò)智能搜索去搜,把問(wèn)題轉(zhuǎn)換成關(guān)鍵詞,然后去找。且不說(shuō)能不能找到這種信息,即便是找到了,還要從中去尋求答案。而現(xiàn)在,在問(wèn)答平臺(tái)中直接問(wèn)就可以了。所以,從原來(lái)的四處找,到現(xiàn)在的直接問(wèn);從過(guò)去的一框搜,到現(xiàn)在的一窗問(wèn);從原來(lái)的給鏈接,到現(xiàn)在的直接給答案。智能問(wèn)答,其實(shí)就是網(wǎng)上政府的一個(gè)無(wú)人服務(wù)窗口,給網(wǎng)民提供一體化的服務(wù)。能夠真正實(shí)現(xiàn),也是今天大會(huì)的主題,為公眾帶來(lái)更好的服務(wù)體驗(yàn)。有了AI的賦能,政府網(wǎng)站也將迎來(lái)新的變革機(jī)遇。
在我們調(diào)研的過(guò)程當(dāng)中,很多用戶(hù)都特別關(guān)心我們用的是什么大模型?當(dāng)然,大模型作為新型基礎(chǔ)設(shè)施,為我們的應(yīng)用系統(tǒng)賦予了強(qiáng)大的自然語(yǔ)言理解能力,就如同我們生活中的水電氣一樣不可或缺。而我想說(shuō)的是,作為業(yè)務(wù)系統(tǒng)的設(shè)計(jì),更為重要的是如何用好大模型為業(yè)務(wù)賦能,如何用好大模型實(shí)現(xiàn)業(yè)務(wù)系統(tǒng)的精確控制。至于選擇什么大模型,我們的答案是“多路接入,按需使用”。我們的問(wèn)答,從問(wèn)題的輸入到最終答案的輸出,中間多達(dá)幾十個(gè)環(huán)節(jié),那么每一個(gè)環(huán)節(jié)對(duì)于模型這種需求都是不相同的,例如性能穩(wěn)定性、總結(jié)與分析,每一個(gè)模型都有自己的優(yōu)劣,所以,我們是按需使用。同時(shí),我們還要做到,關(guān)鍵環(huán)節(jié)要使用不同的模型進(jìn)行雙重校驗(yàn),避免誤判。因?yàn)榇竽P陀卸鄻有?,也就是我們?jīng)常講的叫“用大模型去解決大模型的問(wèn)題”。對(duì)于突發(fā)故障,還要能做到主備模型自動(dòng)補(bǔ)位。
最后是幾點(diǎn)思考,基于大模型的應(yīng)用,當(dāng)前仍然在不斷的探索之中,仍然沒(méi)有辦法回答好用戶(hù)的每一個(gè)問(wèn)題,因此,可以無(wú)人駕駛,但不能無(wú)人管控。在關(guān)注通用大模型發(fā)展的同時(shí),我認(rèn)為應(yīng)該更加重視如何用好大模型為數(shù)字政府賦能。在大模型賦能的同時(shí)也給我們帶來(lái)新的挑戰(zhàn),過(guò)去是網(wǎng)絡(luò)層、系統(tǒng)層,今天是內(nèi)容層,大量的非結(jié)構(gòu)化數(shù)據(jù),傳統(tǒng)技術(shù)很難加以利用,那么大模型可以借助語(yǔ)義去做分類(lèi)標(biāo)注、統(tǒng)計(jì)分析,來(lái)輔助決策,從而發(fā)揮數(shù)據(jù)的更大價(jià)值。AI+政務(wù)問(wèn)答,是大模型賦能數(shù)字政府的一個(gè)探索,也是政府網(wǎng)站邁向智能化的一個(gè)起點(diǎn)。