芯耀
307
在當(dāng)今數(shù)字化浪潮席卷全球的時代，AI 正以前所未有的速度重塑各個行業(yè)。在這場變革中，代理式 AI (Agentic AI)?作為前沿技術(shù)的代表，正逐漸成為企業(yè)提升效率、優(yōu)化決策的關(guān)鍵工具。正如 NVIDIA CEO 黃仁勛在 GTC 2025 的演講中提到，我們正在邁向一個 Agentic AI 的新時代。
在 AI 智能體火熱的當(dāng)下，NVIDIA 不僅支持客戶構(gòu)建智能體，內(nèi)部的許多團隊也一直在積極實踐，通過 Agentic AI 簡化工作流，解決業(yè)務(wù)挑戰(zhàn)。因此，我們特別推出 NVIDIA Agentic AI 實踐月系列內(nèi)容，帶您了解代理式 AI 在 NVIDIA 內(nèi)部的各個實踐，分享 NVIDIA 內(nèi)部團隊的解決方案和重要經(jīng)驗，供您參考和借鑒。
本次分享的實踐內(nèi)容包括：
微調(diào)小型語言模型以提高代碼審查準(zhǔn)確性
構(gòu)建 AI 智能體以自動創(chuàng)建軟件測試案例
構(gòu)建 AI 銷售助理的經(jīng)驗與挑戰(zhàn)
使用?NVIDIA NIM?和 LangChain 創(chuàng)建自定義 Slackbot LLM 智能體
微調(diào)小型語言模型，以提高代碼審查準(zhǔn)確性
微調(diào)小語言模型 (SLM) 通常利用知識蒸餾等技術(shù)，相較于采用大型基礎(chǔ)模型，可提供接近更大模型的性能，并且速度更快、成本效益更高。此外，SLM 可以部署在本地或虛擬私有云 (VPC) 中，使企業(yè)能夠確保敏感數(shù)據(jù)的安全。然而，微調(diào)較小的模型需要高質(zhì)量的標(biāo)記數(shù)據(jù)，而創(chuàng)建這些數(shù)據(jù)既耗時又昂貴。
基于此，NVIDIA 團隊使用了一種自動微調(diào)方法，該方法通過使用數(shù)據(jù)飛輪策略來應(yīng)對這些挑戰(zhàn)。數(shù)據(jù)飛輪策略是一種反饋驅(qū)動機制，可迭代地提高模型性能。通過使用大型“教師”模型生成和結(jié)構(gòu)化合成訓(xùn)練數(shù)據(jù)，此方法可優(yōu)化微調(diào)過程，使較小的模型能夠更有效地處理復(fù)雜任務(wù)，同時盡可能減少人工干預(yù)。
微調(diào) SLM 可幫助企業(yè)在解決成本、延遲和可擴展性相關(guān)挑戰(zhàn)的同時，實現(xiàn)具有競爭力的準(zhǔn)確性。雖然這里的重點是代碼輔助，但該方法適用于各種企業(yè)用例。
構(gòu)建 AI 智能體，以自動創(chuàng)建軟件測試案例
在軟件開發(fā)中，測試對于確保最終產(chǎn)品的質(zhì)量和可靠性至關(guān)重要。然而，創(chuàng)建測試計劃和規(guī)范可能耗時且需要大量人力，尤其是在復(fù)雜系統(tǒng)中管理多種需求和不同測試類型時。許多此類任務(wù)通常由測試工程師手動執(zhí)行。
為了簡化這一過程，NVIDIA 的 DriveOS 團隊開發(fā)了 Hephaestus (HEPH)，這是一個用于自動測試生成的內(nèi)部生成式 AI 框架。HEPH 可自動執(zhí)行各種測試的設(shè)計和實施，包括集成測試和單元測試。它使用大語言模型 (LLM) 進(jìn)行輸入分析和代碼生成，顯著減少了創(chuàng)建測試用例所花費的時間。通過根據(jù)輸入文檔、代碼樣本和反饋循環(huán)生成上下文感知測試，HEPH 使測試更快、更高效。
構(gòu)建 AI 銷售助理的經(jīng)驗與挑戰(zhàn)
在 NVIDIA，銷售團隊依賴于內(nèi)部和外部文檔將先進(jìn)的硬件和軟件推向市場，而尋找這些文檔通常會瀏覽多個存儲庫來查找信息。為其打造 AI 銷售助理則是一項有意義的技術(shù)挑戰(zhàn)，可為設(shè)計可擴展的 AI 驅(qū)動型解決方案提供寶貴見解。
借助基于 RAG 的架構(gòu)，我們集成了各種知識來源，優(yōu)化了查詢處理，并確保了高性能和準(zhǔn)確性，從而滿足動態(tài)數(shù)據(jù)密集型環(huán)境的需求。
通過將先進(jìn)的 LLM、結(jié)構(gòu)化工作流程和實時數(shù)據(jù)檢索相結(jié)合，AI 銷售助理可為銷售團隊提供即時的定制見解，同時顯著提高工作流程效率和用戶參與度。
該項目為開發(fā)者在快節(jié)奏領(lǐng)域處理復(fù)雜的決策支持系統(tǒng)提供了藍(lán)圖。
使用 NVIDIA NIM 和 LangChain，創(chuàng)建自定義 Slackbot LLM 智能體
在企業(yè)運營的其他方面，如日常辦公協(xié)作中，同樣可以通過技術(shù)提升效率。通過利用?NVIDIA NIM?微服務(wù)的強大功能，企業(yè)可以利用 API 目錄中的模型，快速構(gòu)建超越簡單自動化的智能 Slackbot。這表明 API 目錄可用于生產(chǎn)部署。
這些 Slackbot 成為寶貴的虛擬助手，能夠處理各種任務(wù)——從回答基本查詢到解決復(fù)雜問題，甚至生成創(chuàng)意內(nèi)容。這不僅可以節(jié)省時間和資源，還可以打造更具協(xié)作性和高效的工作環(huán)境。
使用 NVIDIA NIM 和 LangChain 針對特定用例創(chuàng)建自定義 Slackbot 智能體的逐步指導(dǎo)可參考博客全文。
通過這些前沿實踐，NVIDIA 不斷突破技術(shù)創(chuàng)新的邊界，積極加速代理式 AI 的落地應(yīng)用，為開發(fā)者和企業(yè)打造了一系列極具價值的參考范例與強大工具，助力他們在各自的專業(yè)領(lǐng)域中實現(xiàn)突破性創(chuàng)新，提升效率與競爭力。
Agentic AI 的時代剛剛開始，未來還會有更多應(yīng)用場景，NVIDIA 也將繼續(xù)創(chuàng)新和實踐，為您帶來更多可借鑒的經(jīng)驗和總結(jié)。
