用“復合AI系統(tǒng)”設計AI應用
百模大戰(zhàn)之后，大伙兒或許有個共識：
現(xiàn)在不缺大模型，缺的是怎么更好地把大模型用起來的方法。
有個現(xiàn)成的例子是，印象筆記一直被很多知識工作者當成自己的“第二大腦”來用，在AIGC時代，用戶看到了它更智能的改變。
其實早在2018年，印象筆記就在AIGC的領域里開啟了自己的摸爬滾打，幾年下來，積累了不少經驗和思考。
在本次中國AIGC產業(yè)峰會上，印象筆記董事長兼CEO唐毅從知識管理的角度，分享了印象筆記在AIGC領域，從技術到應用和產品的所見所聞、所思所感。
為了完整體現(xiàn)唐毅的思考，在不改變原意的基礎上，量子位對演講內容進行了編輯整理，希望能給你帶來更多啟發(fā)。
中國AIGC產業(yè)峰會是由量子位主辦的行業(yè)峰會，20位產業(yè)代表與會討論。線下參會觀眾近千人，線上直播觀眾300萬，獲得了主流媒體的廣泛關注與報道。
話題要點
- 模型算法進展緩慢，算力投入與收益不成比例；
- 公域數據窮盡，合成數據使用導致模型輸出效果下降；
- 小型化、垂直化的模型可以更高效地處理問題；
- 強調了AI交付和模型之間的中間層——復合AI系統(tǒng)的重要性；
- AIGC產品的交互不是絕對的LUI（語言用戶界面）或者CUI（對話式用戶界面）；
……
以下為唐毅演講全文：
大量使用合成數據導致模型輸出效果下降
大家下午好，我是印象筆記唐毅，我今天演講的題目是《用AI驅動的第二大腦實現(xiàn)增強人生》。
針對AIGC技術，我認為從技術到模型、算法、實踐和應用的一系列垂直和落地的思考是非常重要的。所以，今天我從知識管理的角度，分享一下印象筆記從技術到應用和產品的一些想法。
首先簡單介紹一下印象筆記，它源于硅谷的一款叫Evernote的產品。
一直以來，印象筆記的愿景就是成為知識人群的第二大腦。這使得我們的思考一直圍繞著“知識場景”和“大腦的關鍵功能”。
今天我會從AI驅動印象筆記系列產品，在內容理解、智慧提煉、個人知識積累和公域知識獲取等知識管理的場景中的實踐經驗，來做分享。
印象筆記對AIGC的研發(fā)和實踐早在2018年完成國內公司獨立重組時就開始了。正式獨立之后，我們首先更多地用了supervise learning的方式來做NLP，同時也開始啟動了自己的小規(guī)模模型訓練。
早在2023年3月，我們就已經開始利用自己的垂直專有模型驅動自己的AI產品，并將功能落地在旗下的軟件和智能硬件產品。
由于印象筆記在國內市場較早地啟動了AIGC的全面實踐，我們也積累了更多的經驗和更深入的思考。
在我們看來，AIGC的發(fā)現(xiàn)還處在比較早期的階段，對人類社會的影響也才剛剛開始，但現(xiàn)階段，關于大趨勢和方向性的思考更是必不可少的。
首先，相比算力的發(fā)展和模型規(guī)模的擴大發(fā)展，模型算法的進展卻是相對緩慢的。
同時，到現(xiàn)在為止，算力的投入和收益是不成比例的，我相信真正對產業(yè)經濟產生深遠影響的技術，最終總的回報ROI要達到正向才可以。
另一個對于基座模型的挑戰(zhàn)是，在基座模型訓練中，或許不一定每位在座的朋友都同意。
我們看到一個現(xiàn)象，在模型訓練中，隨著公域數據的逐漸窮盡，合成數據被大量加入使用，這也會直接導致模型輸出效果下降。
有挑戰(zhàn)也有機遇，我們看到，特定數據的優(yōu)化在模型能力提升中的作用、模型的小型化趨勢、小規(guī)模模型能力的持續(xù)提升在AI產品交付效果的提升中都起著越來越關鍵的作用。
強調“復合AI系統(tǒng)”概念
談到AI交付，印象筆記是既做工具又做模型的廠商，在垂直整合的過程中，我們發(fā)現(xiàn)，由于我們采用印象專有大模型直接服務用戶，用戶可以對模型的效果和性能有著迅速和直觀的感受，從而對背后的訓練和調優(yōu)過程給予直接有效的反饋。
而另一方面，AI產品的交付又遠遠不是僅僅將模型能力簡單直接地交付到用戶面前。
另一個顯著的趨勢是，小型化、垂直化的模型可以更高效地處理問題。在行業(yè)日益追求模型效率化的過程中，數據對模型質量和交付質量的影響在提升，對算力的需求反而在下降。
基于這些趨勢和我們的實踐經驗，我想強調“復合AI系統(tǒng)”的概念，這是在AI產品交付和大模型本身之間的一個非常關鍵的應用思考點和架構設計點。
從不同的論文中我們也可以看到相似觀點——系統(tǒng)性思維下的模型訓練、調優(yōu)，以及與整個AI系統(tǒng)其它組成部分的有機組合，是現(xiàn)在AIGC應用的一個重要思考角度。
不同AI系統(tǒng)需要不同角度的思考，印象筆記關于“復合AI系統(tǒng)”的思考主要有以下幾點：
第一，我們的模型采用混合部署策略，以專有模型驅動主要用戶服務和交互場景，模型本身具有路由和任務判斷能力，同時也具備質量判斷和云端一體的路由判斷能力。
第二，我們對公域和私域數據的區(qū)分處理和保護管理有獨特的系統(tǒng)和嚴密的規(guī)則。
第三，智能代理本身的功能是陣列式的，在關鍵節(jié)點分析用戶的意圖、做任務的拆解，最后還要系統(tǒng)化地接收用戶反饋的過程。
- 模型：印象大模型是高效率、輕量化的專有模型，在知識場景中有著獨特的和優(yōu)異的性能表現(xiàn)。印象大模型端、云部署一體化，并具備一個重要的性能——能夠根據意圖判斷和選擇哪一個混合部署中的模型會有更好的處理的效果，也能判斷和分析任務本身并在云或端模型中進行選擇。
- 數據：嚴格區(qū)分管理公、私域數據，確保模型訓練和AI產品交付中的用戶數據隱私保護。
- Agent：在混合部署策略下，模塊化的Agent陣列能夠真正有效地判斷用戶意圖并根據拆解的任務步驟分步執(zhí)行任務。
“復合AI系統(tǒng)”超越AIGC應用單一模型驅動的思考方式，而在此系統(tǒng)下設計一款成功的AI應用也需要考慮不同的因素，這也是印象筆記在AI產品的打造中比較獨特的體會。
首先，我們需要非常明確地分析和判斷出這款應用的準確使用場景。
同時，你的AI復合系統(tǒng)如何驅動這個產品給用戶進行交付也十分關鍵。
對此，也有兩個重要思考點。
一個是最合適的AI應用載體在哪——是在云端？在移動端？在某一個第三方平臺？還是GPTs或插件？不用的載體在不同的場景和工作流中有著不同的作用。
另一個是何為最適合的交互——自然語言交互還是傳統(tǒng)GUI交互？
提倡用直覺性的方式進行交互設計
我們提倡用符合用戶直覺性的方式進行交互設計，使用戶用到AI功能和AI產品的時候是一種最自然的選擇和體驗。
因此產品的交互不是絕對的LUI或者CUI——例如在純粹LUI或CUI的交互中，它雖然更自由、更開放，但完全開放的對話窗口也會增加用戶的焦慮感 ——用戶會停在那里不知道該做什么。
所以產品中既應該有完全開放的交互窗口，也應該有開放交互和傳統(tǒng)的GUI相輔相成的Copilot性質的交互設計，同時也應該有降低用戶焦慮感的傳統(tǒng)限制性菜單處理交互式設計。
因此，在一個“復合AI系統(tǒng)”下打造AI超級應用時，我們認為除了AI系統(tǒng)思維之外，數據、用戶、場景、載體、交互等關鍵的要素是需要非常慎重考慮的關鍵點。
回到印象筆記的實踐，我們通過自有模型的混合部署，比較早地進行了全面的布局和落地，推出了多種方向的功能：
內容生成與搜索、語義性搜索、大文件理解、多文件理解、與上萬篇筆記的私人對話等等。
通過逐步實踐，我們總結出了一些令我們感到興奮的方法和獲得了一些較為滿意的結果。
“印象AI”的推出，對新用戶的增長、用戶留存和商業(yè)化轉化的驅動效果都非常顯著。
呼應我在今天演講開始提到的觀點——作為AI從業(yè)者，對于核心技術、產品策略、市場投入等方面的實踐的檢驗，最終總要能夠回到對ROI的結果的衡量上來。
目前，印象筆記旗下全系列的軟件和智能硬件產品都已經在印象大模型的驅動下，完成了AI功能和產品的落地交付。
最后，我想說的是，在AI能力的加持下，印象筆記希望能夠幫助用戶智能匯聚信息、高效閱讀內容并吸收知識、輔助靈感記錄與創(chuàng)作、自動完成知識整理與提煉，讓印象筆記和印象AI為您增強人生，成為您真正的“第二大腦”。
謝謝大家！
本文鏈接：印象筆記唐毅：AI如何升級你的“第二大腦”｜中國AIGC產業(yè)峰會http://m.sq15.cn/show-2-5257-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯(lián)網博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯(lián)系，我們將在第一時間刪除處理。