根據(jù) Gartner 的最新預(yù)測，到2028年，80% 的生成 AI 商業(yè)應(yīng)用將會在現(xiàn)有的數(shù)據(jù)管理平臺上開發(fā)。這一轉(zhuǎn)變有望降低開發(fā)復(fù)雜性，并將交付時間縮短50%。

　　目前，生成 AI 商業(yè)應(yīng)用的開發(fā)主要依賴于將大型語言模型(LLMs)與企業(yè)內(nèi)部數(shù)據(jù)相結(jié)合，以及不斷發(fā)展的技術(shù)，如向量搜索、元數(shù)據(jù)管理、提示設(shè)計和嵌入技術(shù)。然而，若沒有統(tǒng)一的管理方法，企業(yè)可能會采用 “分散技術(shù)”，導(dǎo)致交付時間延長和成本增加。

　　Gartner 在最近舉行的印度孟買數(shù)據(jù)與分析峰會上強(qiáng)調(diào)了檢索增強(qiáng)生成(RAG)在開發(fā)生成 AI 應(yīng)用中的重要性。RAG 是一種提升生成 AI 模型準(zhǔn)確性和可靠性的框架，正在成為部署生成 AI 應(yīng)用的基礎(chǔ)。Gartner 指出，RAG 能夠提供 “靈活的實(shí)施方式、增強(qiáng)的可解釋性以及與 LLMs 的組合能力”。

　　Gartner 高級分析師 Prasad Pore 表示，RAG 在多個業(yè)務(wù)職能中(如銷售、人力資源、IT 和數(shù)據(jù)管理)有助于流程改進(jìn)和任務(wù)自動化。目前，數(shù)據(jù)工程師和數(shù)據(jù)專業(yè)人員在開發(fā)、測試、部署和維護(hù)復(fù)雜數(shù)據(jù)管道和應(yīng)用程序時面臨諸多挑戰(zhàn)。Pore 指出，傳統(tǒng)的數(shù)據(jù)管理過程耗時且需要大量人工，而 RAG 的應(yīng)用可以大大提高生產(chǎn)力，簡化數(shù)據(jù)治理過程。

　　此外，Pore 還提到，生成模型如 LLMs 本身是靜態(tài)的，僅基于其訓(xùn)練的數(shù)據(jù)進(jìn)行工作，缺乏最新信息。通過 RAG，企業(yè)可以將最新的商業(yè)或組織特定的數(shù)據(jù)納入模型中，以提高生成 AI 應(yīng)用在回答問題、分析日志和做出決策方面的有效性。

　　在談到生成 AI 商業(yè)應(yīng)用的類型時，Pore 表示，可以將其分為三個主要類別:流程改進(jìn)與自動化(如企業(yè)知識管理和文檔處理自動化)、用戶體驗(如客戶支持自動化和個性化購物體驗)以及洞察與預(yù)測(如對話式商業(yè)智能和數(shù)據(jù)發(fā)現(xiàn))。

　　在構(gòu)建和部署生成 AI 應(yīng)用時，Gartner 建議企業(yè)考慮以下幾點(diǎn):首先，評估現(xiàn)有數(shù)據(jù)管理平臺是否可以轉(zhuǎn)變?yōu)?RAG 即服務(wù)的平臺;其次，將 RAG 作為優(yōu)先事項，整合來自現(xiàn)有數(shù)據(jù)管理系統(tǒng)的向量搜索、圖形和分塊等技術(shù);最后，利用元數(shù)據(jù)和操作數(shù)據(jù)以保護(hù)知識產(chǎn)權(quán)、解決隱私問題，并防范惡意使用。