元宇宙科技

AI的最後一個拼圖? 永遠沒有健忘症的聊天機器人技術

文/金洪基

【照片為聊天機器人測試畫面,與正文沒有直接關系、 圖=蘋果經濟】

超越短期輸入記憶,儲存對對方的長期記憶,深度對話Meta Blenderbot2.0、Talkie的 Bonds、NAVER Clova Care Call等由於建模的負擔,仍處於初級水平,但它將成為未來至關重要的技術。隨著對話功能的聊天機器人技術日益發展,聊天機器人正在成爲日常的另一個合作夥伴。 但大部分都是透過一問一答式的提詞器進行片面的對話。最近,韓國最大的開發者大會「DEVIEW 2023」上發表了有趣的內容。 聊天機器人最大的問題是長期記憶問題。

目前使用 LLM 的聊天機器人可以理解多種模式的上下文。 這是因為前面的句子包含在輸入中。 然而,儘管短期記憶是可能的,但聊天機器人往往會忘記時間過長的事情。最近,以對話對象的前後情況和之前進行的對話爲基礎,可以談論未來事情的所謂長期記憶聊天機器人技術日益發達,因此備受關注。Meta已經通過Blenderbot2.0實現了這一點,最近作爲日常對話AI應用程序人氣很高的Talkie也通過另外的Bonds功能儲存了對對方的長久記憶,並將其用於對話。 在國內,Naver Clova Care Call作爲不亞於他們的長期記憶聊天機器人也大受歡迎。

可以進行人生諮詢程度的深度對話

不是簡單地詢問老人昨晚怎麼樣,而是詢問他們的健康狀況,例如「您已經服用○○藥很長時間了,這些天感覺怎麼樣?」這幾乎就像是專門諮詢。 它確實可以說是比大多數親戚或孩子更親切的機器。當然,有人指出,現有的ChatGPT和Bard等正在努力長時間儲存先前與對話者共享的文本,但未能達到這一水平。Naver的Clova Care Call是打電話給老人家並監測異常徵兆的服務。 首先把對話內容進行簡要的保存。 然後下次對話中利用已儲存的內容進行對話。 比如說,上次你好像得了感冒, 現在感冒好了沒有。

Talkie的Bonds具有克服這些限制的長期記憶功能。 每次進行對話時,不斷地產生概括單詞和上下文的文章,從中選擇想記住的。 但是,目前最多只能有4個句子。專家指出,實際上,以目前的技術不可能將長期記憶的文章全部輸入到提示器中。 結合Chat GPT和RPA技術的企業Worktronics的一位相關人士表示:模型的最大輸入規模有限,費用也太大了,目前,只有類似於實時提問的記憶會儲存相對較長的時間,然後在搜尋提示下一起使用。

【圖=Naver】

Naver Clova Carecall 是最領先

與此相比,Naver Clova Carecall展示了進一步發展的技術。 正在推出向老人們問候並監測異常徵兆的AI服務。 這是使用Naver的超大型AIHyperClova的結果。Clova Carecall還把長期記憶的文章作爲提示一起放入其中,生成提問文章。 由於該技術尚未公開,對於選擇特定句子僅將其輸入長期記憶,還是一次性輸入所有長期記憶,專家們意見不一。但是很多人認爲:這也是以Hyper Clova爲基礎,選擇適合目前對話脈絡的長期記憶的過程,似乎也是Hyper Clova。 

Meta Blenderbot2.0, 受嵌入方式限制

由Meta創建的 Blenderbot 2.0 也使用長期記憶。 這裡採用的方法是將匯總的內容作爲嵌入式儲存,直接適用於模型運算的方式。 這與儲存文章本身,一次性輸入提示器的Naver Clova形成了鮮明的對比。專家們預測,今後隨著具備這種長期記憶能力的聊天機器人技術的進一步發展,這種能力將變得至關重要。 為了實現這一目標,別無選擇,只能以LLM為基礎。如果模型規模小,就要像Meta的Blenderbot一樣,以嵌入方式儲存記憶,但是就像現在的Blenderbot一樣,這種方法的靈活性差,學習也很難。 因此很多專家認為「把一切交給超級人工智慧會更方便」。 

要做好使用大模型和高成本負擔的心理準備才能實現

開發人工智慧聊天機器人服務的Mayfarm組長權某(音)表示:日常化AI的長期記憶比功能型AI更重要。因爲如果不記得我的話,就無法形成關系。這意味著該公司也在長期考慮這種技術。 他說: 「但從國內角度來看,有技術和經濟問題,首先模型性能一定要好。 」他也表示:爲了很好地整合儲存的文章和現在的文脈,大模型比較有利,概括記錄文章時,還需要重復、不一致、整合、刪除等過程,究竟會帶來多少類似於現在 對話的記憶,也會對性能產生很大的影響但是,隨著提示的增加,費用也會隨之增加。 盡管如此,長期記憶才是日常對話AI的最後一個拼圖,明年支持這一拼圖的服務將會更多!

延伸閱讀

Back to top button