智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影

智東西7月24日報道,在生成式AI火熱發展的當下,如何讓agent從demo走向生產,成為擺在開發者和企業面前的關鍵問題。在剛剛落幕的亞馬遜云科技紐約峰會上,亞馬遜云科技發布Amazon Bedrock AgentCore,一次性推出七大功能模塊,直指agents落地的痛點——安全、可觀測、身份識別、長期記憶、工具連接等等,幾乎覆蓋了工程化agent的全鏈路能力。

亞馬遜云科技最新推出的這套“全家桶”,能為agent開發帶來哪些便利?在峰會期間,智東西與亞馬遜云科技軟件開發部門負責人 Preethi CN進行了深入交流。她當前負責亞馬遜云科技Agentic AI的開發工作,并對整個Agentic AI部門提供戰略指導。

Preethi CN告訴智東西,Amazon Bedrock AgentCore的發布,對于開發者來說是一個顛覆性的轉折點,七大功能模塊都是靈活的,客戶既可以全盤采用,又可以根據自身業務目標只選擇其中的一項,而且它們都能與任何模型或框架兼容。開發者只需幾行代碼,就能將AgentCore集成到應用程序,并直接通過托管服務獲得這些能力。這些構建模塊是以插件和疊加方式作用于agent代碼,為其提供可擴展能力,因此不會約束開發者采用的編排方式。

“我們的功能設計與問題思考完全以客戶問題為出發點。”她強調說。

談到面向Agentic AI的IDE Kiro,Preethi CN總結道,Kiro就像一位開發者身邊的初級工程師,能協助編程并達成目標,它引入了一個全新概念——基于規格驅動的開發,比如用戶只需說一句“在我的應用中添加社交登錄”,再配上需求說明或架構圖,它就可以自動生成結構清晰、高質量、可直接部署到生產環境的代碼。

Kiro的另一個出色功能是agentic hooks(agent鉤子機制)。用戶可以將自己的鉤子邏輯交給agent處理,比如說:“當我保存這個文件時,請自動生成單元測試”、“請為這段代碼添加性能指標埋點”或“請對這段代碼進行整體優化”。把這些作為鉤子添加進來,它們就會在用戶進行其他開發工作時在后臺自動運行。

一、7個模塊助攻Agent開發進化,從“做得出來”到“跑得起來”

過去,agents的構建往往依賴LangChain、Haystack、Strands等開源框架,做個demo不難,但要讓它穩定落地、與業務系統打通并保障安全合規,往往需要耗時幾個月。

AgentCore的7項新功能,正是為解決這個“demo與生產之間的鴻溝”而生,開發者可根據業務需要靈活選配,將自己構建的agent推向生產環境,同時獲得企業級的安全性、可靠性、卓越運營和運維便利性。

(1)AgentCore Runtime:構建一個安全、彈性、能應對多變任務負載的agent運行環境,支持低延遲交互體驗,可處理長達8小時的復雜異步工作負載,是目前唯一支持跨各類開源和商業框架使用并實現完整會話隔離的運行環境。

(2)AgentCore Memory:讓agent增強“記性”,提供業界領先的短期和長期記憶精度,提升agent上下文感知能力。

(3)AgentCore Identity:提供無縫、安全的agent身份驗證能力,可與Amazon Cognito、Microsoft Entra ID、Okta等身份服務集成。

(4)AgentCore Gateway:為agent提供安全路徑以發現與調用各類工具,并可輕松將API、Lambda函數及現有服務便捷轉換為agent可兼容工具。

(5)AgentCore Code Interpreter:支持開發者根據安全要求,自定義執行環境的實例類型與會話參數。agents在執行復雜計算、驗證推理、處理數據或生成可視化內容時,需要在安全的沙箱環境中編寫并執行代碼。

(6)AgentCore Browser Tool:一款不依賴具體模型的、快速且安全的云端瀏覽器工具,讓AI agents大規模的與網站進行交互,可用于填寫表單、網頁導航等任務。

(7)AgentCore Observability:基于Amazon CloudWatch構建,通過內置儀表板和telemetry提供重要指標,并可與現有可觀測性系統集成,讓開發者能實時追蹤Agent行為鏈路,從而持續審查agent表現,提升系統迭代效率。

AgentCore能與開發者想用的任何框架集成,亞馬遜云科技相信靈活性才是關鍵。

二、初創公司上手定制agent,無需啃底層技術硬骨頭

對于初創公司如何開始構建agent,Preethi CN給了一些實用建議。

例如,你想做一個旅行助手Agent,它能幫用戶預訂喜歡的目的地、安排行程、完成預訂。你可以從使用模型驅動方式的Strands Agent開始,只需提供想構建的Agent的業務目標,選擇模型,就可以自動生成所需代碼。

有了這段代碼,再加幾行代碼,就可以集成AgentCore Memory,讓agent自動從終端用戶對話中提取用戶偏好、語義記憶、摘要,并將其作為長期記憶存儲,從而可以在未來的對話中進行檢索和應用。

如果你想要連接航班并完成預訂,你還需要一個安全的瀏覽器,同樣只需幾行代碼即可集成AgentCore Browser Tool,讓它能幫助agent瀏覽網頁,還可以進行身份認證和授權,從而代表你執行操作。

假如你想讓agent訪問企業數據,你可以使用AgentCore Gateway。構建了這樣的agents,就可以將它們部署到AgentCore Runtime,然后用AgentCore Observability來監控運行表現,找出改進agent的策略。

這一整套流程下來,不需要“啃底層”,按需組合模塊即可上線。

Preethi CN強調,亞馬遜云科技始終堅持為客戶創新,幫他們擺脫繁重的技術難題與底層的復雜工作。

構建可靠Agentic AI系統的工程挑戰從底層創新開始。亞馬遜云科技已經在大規模實現虛擬機隔離方面進行創新,同時還讓客戶能夠按實際使用的CPU和內存按需付費,只需為自己所使用的資源付費。

亞馬遜云科技在核心技術領域不斷夯實差異化能力。比如,自動推理就是一個獨特能力。面對模型“幻覺”問題,亞馬遜云科技提出用邏輯推演、數學驗證等方式判斷輸出是否真實可信。這種機制適用于高風險行業如醫療、金融等,對模型輸出的可靠性提出了更高保障。

除了AgentCore外,亞馬遜云科技還提供多個對構建模型和部署生成式AI應用很有幫助的關鍵產品。

模型托管平臺Amazon Bedrock,為用戶提供了豐富的基礎模型選擇,能滿足不同業務需求,亞馬遜云科技則負責可觀測性和擴展性。該平臺引入AgentCore后,幫助進一步加速agent構建和部署的流程。

Amazon SageMaker則側重于幫助開發者和科學家訓練模型。Amazon Q主要服務希望構建業務流程來支持特定場景需求的企業用戶,主打業務流程自動化。

結語:AI agents下一站,從人類輔助走向自主決策

Agentic AI的競爭正從“做得出”走向“用得穩”。亞馬遜云科技最新推出的AgentCore,為構建agent之旅的提供了“積木式”基礎設施,用模塊化、可觀測、可插拔的方式,降低Agent進入生產的門檻,構建真正穩定可控的agent系統。

Preethi CN認為,當前agent在生產中依然需要部分人工輔助做決策,但隨著模型能力提升,未來它們將發展成完全自主的agent,在無需人為干預的情況下做出復雜決策。從醫療、金融、市場營銷到制造業,各行各業都將在Agentic AI的演進中迎來轉型。而亞馬遜云科技提供的這些構建模塊,能夠幫助客戶與開發者加速邁向Agentic AI之路。

談到通用型Agent及垂直型Agent短期的發展前景,Preethi CN預判兩類均存在需求,通用型Agent適合處理與許多用戶相關的大量標準化任務,而醫療健康、生命科學等垂直行業需要更具領域特性的能力,未來必定是兩者結合。

“對我們而言,一切都圍繞為客戶創新這一原則。我對我們今天所發布的內容感到非常興奮,也很期待接下來這一階段的發展。這將是一個非常令人振奮的時期。”Preethi CN總結道。