智東西（公眾號：zhidxcom）
作者 | ?ZeR0
編輯 | ?漠影
幫云客戶快速構建生成式AI應用這件事，正被全球最大云計算巨頭亞馬遜云科技做得越來越完善。
在7月11日舉行的亞馬遜云科技紐約峰會上，亞馬遜云科技大曬生成式AI成績單：96%的AI/ML獨角獸將其業務跑在亞馬遜云科技上， 2024福布斯AI 50榜單中有90%的企業使用了亞馬遜云科技。
亞馬遜云科技AI產品副總裁Matt Wood博士闡述了企業如何通過亞馬遜云科技高效、大規模地整合過去十年的重大技術突破。據他分享，過去18個月，亞馬遜云科技已發布326項生成式AI功能，所提供的正式可用的機器學習和生成式AI的產品功能數量是其他主要云服務提供商總和的兩倍之多。
在此基礎上，亞馬遜云科技發布了一系列生成式AI技術棧的更新，進一步降低根據個性化需求定制生成式AI的門檻，讓人人都能輕松構建企業級生成式AI應用。
▲亞馬遜云科技生成式AI三層技術棧
新發布包括Amazon Bedrock及Amazon Q的多項更新。其中，Amazon Bedrock更新了微調Anthropic Claude 3 Haiku、Guardrails（安全防護）和Agents（智能體）等功能；Amazon Q Apps讓人人都能用自然語言指令在幾秒鐘內創建生成式AI應用；Amazon Q Developer集成到Amazon SageMaker Studio中并正式可用，使得機器學習模型的開發過程更加便捷。
這些更新將提供更高的生成結果準確性、更好的記憶功能、更方便的模型評估和治理、更全面的應用安全和隱私保護機制，幫助用戶更加快速、安全、輕松地構建和部署生成式AI應用。
此外，亞馬遜云科技還推出了一項生成式AI驅動的企業級應用Amazon App Studio的預覽版，讓IT項目經理、數據工程師和企業架構師等專業開發人員使用自然語言在整個組織內創建、部署和管理企業應用程序。
一、直擊生成式AI應用多重痛點，構建更安全的防護措施
Amazon Bedrock是亞馬遜云科技生成式AI技術棧的中間層，就像一個大模型貨架般，提供了廣泛的大語言模型及其他基礎模型選擇以及各種好用工具，使構建、部署和擴展生成式AI應用變得輕松快捷。
它已成為亞馬遜云科技過去十年中增長最快的服務之一，被數萬客戶所使用。
針對生成式AI長期被詬病的無法獲取專屬知識、胡說八道的幻覺、缺乏長期記憶等應用痛點，Amazon Bedrock推出多項功能更新，以提升用戶使用生成式AI應用的體驗，具體包括：
1、知識庫功能增強Amazon Bedrock的數據連據器范圍，加入了對廣泛使用的第三方Web域數據源的連接，包括Confluence、Salesforce、SharePoint上的數據都可以輕松接入到Amazon Bedrock中，使得在這些Web域中存儲日常數據的用戶能夠更方便地將生成式AI帶入日常應用場景中。
2、在Guardrails中推出基于上下文基礎檢查的幻覺檢測功能。用戶可在Guardrails中設置針對生成結果準確性的關聯值，低于這一設定閾值的生成結果就會被Guardrails判定為不相關的幻覺結果并不予顯示。這項功能通過對上下文的基礎性檢查來提供，以更好避免基礎模型產生的幻覺問題。
3、推出新API服務ApplyGuardrail，用于評估所有基礎模型的輸入提示和響應，使得用戶能夠在任何基礎模型上使用Guardrails，即使是那些不受Amazon Bedrock支持的基礎模型。構建者都可以配置一套標準化的防護措施，以確保其應用中的模型輸入提示和模型響應擁有更加一致的表現。
4、Agent功能推出跨多個交互的記憶保留特性，解決生成式AI“記不住”的問題，可記錄用戶之前的歷史交互信息，并基于此提供更為精準的個性化服務推薦。基于該功能構建的Agent，能夠隨時間推移學習并適應每個用戶的獨特需求和偏好，同時多個記憶之間完全分離，每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下，有助于提升復雜任務代理下的用戶體驗。
5、Agent功能上線代碼解釋，支持Agent在安全的沙箱環境中動態生成和運行代碼片段，從而顯著提升其處理復雜任務的能力，包括數據分析、可視化、文本處理、方程求解和優化問題等，并支持多種數據類型和格式，同時在需要時由大語言模型決定是否調用該功能，以確保靈活性和安全性。
6、推出微調Anthropic Claude 3 Haiku功能的預覽版，至此Amazon Bedrock成為唯一一款可以對Anthropic Claude系列模型進行微調的全托管服務，支持開發者利用自有數據定制應用程序，或在確保私有訓練數據安全的前提下，訓練模型的專屬副本。
與此同時，Amazon MemoryDB的向量搜索功能已正式可用。Amazon MemoryDB以最高的召回率提供最快的向量搜索性能，非常適合需要個位數毫秒延遲的使用案例。此前亞馬遜云科技已在一些最受歡迎的數據服務中推出了向量搜索功能。
二、Amazon Q全面出擊，讓生成式AI觸手可及
位于亞馬遜云科技生成式AI技術棧頂端的Amazon Q，定位是一個全面的生成式AI助手，能生成精準的代碼建議，還能自動執行升級Java應用程序、生成并實施新功能等復雜任務。
Amazon Q包括面向開發者的Amazon Q Developer和面向企業應用的Amazon Q Business。它可以幫助員工充分利用公司文檔、系統和應用程序中的海量數據和信息，通過回答問題、提供總結、生成商業智能（BI）儀表板和報告，乃至生成自動化關鍵任務的應用程序。
先來看下已經集成到Amazon SageMaker Studio中的Amazon Q Developer，通過簡單的聊天式交互，就能為構建機器學習模型推薦最佳工具、提供分步指導、生成入門代碼、日常答疑解惑，并在遇到錯誤時提供故障排除幫助。它還能為開發者量身定制針對機器學習開發生命周期的詳細執行計劃。
機器學習模型開發過程很復雜，數據科學家往往要花費大量時間來尋找合適的工具、文檔或方法。而現在借助這項服務，數據科學家有望節省數周甚至數月的工作時間。
Amazon Q Developer已經擴展到在用戶自己的集成開發環境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發者私有代碼庫生成的代碼建議，使開發者能夠更好地打造其專屬的代碼助手。
開發人員可在Amazon Management Console以及IntelliJ IDEA、Visual Studio、VS Code和Amazon SageMaker Studio等主流的集成開發環境中使用Amazon Q Developer，可使用內部代碼庫安全定制Amazon Q Developer，從而獲得更相關、更有用的內聯編碼建議，大幅節省時間。
為了讓每位員工都能輕松創建自己的生成式AI應用程序，實現任務自動化，Amazon Q Business中的Amazon Q Apps功能也正式可用。
Amazon Q Business支持軟件開發、數據分析洞察和內容創作等多種生成式AI任務，Amazon Q Apps則更進一步強化這項服務的能力，使得不具備技術背景的用戶也能在幾秒鐘內構建基于企業數據的生成式AI應用。
操作非常簡便，只需用自然語言簡單描述所需應用程序的功能，例如，用戶提出“請從會議記錄中提取行動要點”或“我需要協助撰寫公司文件”，Amazon Q就能快速生成應用程序自動完成這些任務，并持續提供高效服務。
Amazon Q提供了一鍵生成應用程序的功能，讓員工能夠從現有對話中快速創建應用程序，并支持安全地將其發布到企業內部的應用程序庫Amazon Q Apps Library中，并添加多個應用類型標簽，從方便企業內的使用者快速查找其所需的Q Apps應用。
亞馬遜云科技還推出了一款生成式AI服務Amazon App Studio的預覽版，將開發企業級應用的能力擴展到開發人員之外，以便IT項目經理、數據工程師和企業架構師等專業開發人員使用自然語言在整個組織內創建、部署和管理企業應用程序。
同樣，用戶可以通過自然語言描述其特性和功能需求以及需要整合的數據源，App Studio便能在幾分鐘內構建出一個類似的應用程序，還能夠通過點選式界面進行修改。相比之下，傳統上專業開發人員從頭開始構建，可能要花費幾天。
App Studio的生成式AI助手消除了傳統低代碼工具的學習曲線，加速了應用程序的創建過程，并簡化了設計UI、構建工作流程和測試應用程序等常見任務。每個應用程序都可以迅速擴展至數千名用戶，同時由亞馬遜云科技提供全面的安全管理，無需任何運營專業知識。
結語：全面加速生成式AI落地，亞馬遜云科技給出參考樣本
生成式AI提供了前所未有的生產力提升工具，但怎么讓不具備技術背景的企業也能更快享受到生成式AI帶來的便利，對云服務供應商提出不小的考驗。已經穩坐全球最大云計算巨頭的亞馬遜云科技，同樣希望成為企業構建和應用生成式AI的首選，其遍布生成式AI各技術棧的更新則正在進一步加速這一愿景的實現。
亞馬遜云科技認為要讓企業的所有員工能用生成式AI提升工作效率，不僅需要強大的基礎模型，而且需要具備全方位的能力來構建和擴展定制化的生成式AI應用，包括內嵌生成式AI的應用程序、快速實驗和構建自有生成式AI應用程序的工具、高性價比且高效的基礎設施，以及嚴密的安全控制和防護措施。
對此，亞馬遜云科技正通過構建全面的生成式AI技術棧，包攬從構建到部署過程中的常見“煩心事”，降低技術認知和實操門檻，將生成式AI落地的成本打下來，將簡單留給用戶。這為云計算企業如何更好服務于生成式AI落地提供了參考樣本。
除了不斷完善技術棧外，亞馬遜云科技也通過積極拓寬合作伙伴版圖，來推動對生成式AI生態的擴張。
繼今年3月推出業內首個生成式AI能力認證后，亞馬遜云科技在紐約峰會上宣布了全球第二批獲得該能力認證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數據、八斗智能、墨奇科技、神州數碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨海科技和華訊網絡。
獲得認證的企業在利用亞馬遜云科技生成式AI技術方面擁有專業知識、實踐經驗和成功案例方面已經得到驗證與認可。截至目前，全球有60余家合作伙伴獲得了該認證。亞馬遜云科技生成式AI與機器學習市場推廣全球副總裁Rahul Pathak分享說，這些合作伙伴已經在全球范圍內幫助客戶構建和部署了許多生成式AI工作負載，取得了顯著成就和積極影響。
