在VB Transform 2025大會的第二天，行業(yè)領(lǐng)袖們分享了大規(guī)模部署智能體的寶貴經(jīng)驗。本次小組討論由Foundation Capital的普通合伙人Joanne Chen主持，參與討論的嘉賓包括：Rocket Companies的首席技術(shù)官Shawn Malhotra，該公司在家居所有權(quán)旅程中，從抵押貸款審批到客戶聊天，都廣泛使用了智能體，Sendbird的產(chǎn)品負責(zé)人Shailesh Nalawadi，該公司為多個垂直行業(yè)的公司構(gòu)建了自主式客戶服務(wù)體驗，以及Cognigy的AI轉(zhuǎn)型高級副總裁Thys Waanders，其平臺為大型企業(yè)聯(lián)絡(luò)中心自動化客戶體驗。
他們共同的發(fā)現(xiàn)是：那些首先構(gòu)建評估和編排基礎(chǔ)設(shè)施的公司會取得成功，而那些急于用強大的模型投入生產(chǎn)的公司則會在大規(guī)模部署時失敗。
投資回報率(ROI)的現(xiàn)實：超越簡單的成本削減
成功打造智能體的一個關(guān)鍵部分是理解投資回報率，早期的智能體部署主要集中在降低成本上，雖然這仍然是關(guān)鍵因素之一，但企業(yè)領(lǐng)導(dǎo)者現(xiàn)在報告了更復(fù)雜的ROI模式，這需要不同的技術(shù)架構(gòu)。
成本削減的成效
Malhotra分享了Rocket Companies最顯著的成本節(jié)約案例。“我們有一位工程師，在大約兩天的工作時間內(nèi)，就構(gòu)建了一個簡單的智能體來處理抵押貸款審批過程中一個非常專業(yè)的問題——‘過戶稅計算’，這兩天的努力，每年為我們節(jié)省了100萬美元的費用。”他說。
對于Cognigy而言，Waanders指出，每次通話的成本是一個關(guān)鍵指標。他說，如果使用智能體來自動化部分通話，就有可能減少每次通話的平均處理時間。
增加收入的方法
節(jié)約是一回事，增加收入則是另一回事。Malhotra報告說，他的團隊已經(jīng)看到了轉(zhuǎn)化率的提升：隨著客戶更快地得到問題的答案，并獲得了良好的體驗，他們的轉(zhuǎn)化率更高了。
主動收入機會
Nalawadi強調(diào)了通過主動接觸客戶所帶來的全新收入能力。他的團隊實現(xiàn)了主動客戶服務(wù)，在客戶甚至意識到問題之前就主動聯(lián)系他們。
一個食品配送的例子完美地說明了這一點。“他們已經(jīng)知道訂單何時會延遲，而不是等待客戶生氣并打電話給他們，他們意識到這是一個提前解決問題的機會。”他說。
智能體在生產(chǎn)中失敗的原因
盡管部署代理式AI的企業(yè)有堅實的ROI機會，但在生產(chǎn)部署中也面臨一些挑戰(zhàn)。
Nalawadi指出了核心的技術(shù)失敗原因：公司在沒有評估基礎(chǔ)設(shè)施的情況下就構(gòu)建了智能體。
“在開始構(gòu)建之前，你就應(yīng)該有一個評估基礎(chǔ)設(shè)施，”Nalawadi說，“我們所有人都曾經(jīng)是軟件工程師，沒有人會在不運行單元測試的情況下部署到生產(chǎn)環(huán)境。我認為，評估可以看作是你智能體系統(tǒng)的單元測試。”
傳統(tǒng)的軟件測試方法不適用于智能體。他指出，不可能預(yù)測每一個可能的輸入，也不可能為自然語言交互編寫全面的測試用例。Nalawadi的團隊在零售、食品配送和金融服務(wù)領(lǐng)域的客戶服務(wù)部署中吸取了這一教訓(xùn)。標準的質(zhì)量保證方法遺漏了生產(chǎn)環(huán)境中出現(xiàn)的邊緣情況。
AI測試AI：新的質(zhì)量保證范式
鑒于AI測試的復(fù)雜性，組織應(yīng)該怎么做呢?Waanders通過模擬解決了測試問題。
“我們即將發(fā)布的一個功能是關(guān)于模擬潛在對話的，”Waanders解釋說，“所以本質(zhì)上就是智能體測試智能體。”
這種測試不僅僅是對話質(zhì)量測試，而是大規(guī)模的行為分析，它能幫助理解智能體如何應(yīng)對憤怒的客戶?如何處理多種語言?當(dāng)客戶使用俚語時會發(fā)生什么?
“最大的挑戰(zhàn)是你不知道你不知道什么，”Waanders說，“它如何應(yīng)對任何人可能提出的任何問題?你只能通過模擬對話，通過在數(shù)千種不同場景下測試它來發(fā)現(xiàn)。”
這種方法測試了人口統(tǒng)計學(xué)的變化、情緒狀態(tài)和邊緣情況，這些是人類QA團隊無法全面覆蓋的。
即將到來的復(fù)雜性爆炸
當(dāng)前的智能體獨立處理單個任務(wù)。企業(yè)領(lǐng)導(dǎo)者需要為不同的現(xiàn)實做好準備：每個組織中有數(shù)百個智能體相互學(xué)習(xí)。
基礎(chǔ)設(shè)施的影響是巨大的，當(dāng)智能體共享數(shù)據(jù)并協(xié)作時，故障模式會呈指數(shù)級增長，傳統(tǒng)的監(jiān)控系統(tǒng)無法跟蹤這些交互。
公司現(xiàn)在必須為這種復(fù)雜性構(gòu)建架構(gòu)，事后為多智能體系統(tǒng)補建基礎(chǔ)設(shè)施的成本遠高于一開始就正確構(gòu)建的成本。
“如果你向前展望理論上可能發(fā)生的情況，一個組織中可能會有數(shù)百個智能體，也許它們還會相互學(xué)習(xí)，”Chen說，“可能發(fā)生的事情數(shù)量會爆炸式增長，復(fù)雜性也會爆炸式增長。”
企業(yè)網(wǎng)D1net(m.hfnxjk.com)：
國內(nèi)頭部to B IT門戶，旗下運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。旗下運營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號