作者 | 北方
北京時間 11 月 28 日淩晨,亞馬遜雲科技的 re: Invent 2023 大會在拉斯維加斯召開。
這個被稱爲「雲計算春晚」的盛會,今年很不一樣。不一樣的原因,當然近來生成式 AI 的爆火——從 ChatGPT 問世到現在,已經整整一年;以 ChatGPT、Stable Diffusion、Runway 等等爲代表的生成式 AI 應用掀起狂潮,裹挾世界進入新時代。我們都已經看到了生成式 AI 的巨大潛力,它将會重塑人們的一切行爲方式,無論是信息獲取,還是生産内容和産品。
對企業中如何應用生成式 AI,亞馬遜雲科技做了一些研究。研究結果表明,有 75% 的應用集中在四個方面:市場,客戶,軟件工程和研發。而那些嘗試把生成式 AI 引入工作場景的企業,往往發現效果并不盡如人意。現有的生成式 AI 産品面向個人用戶,基于大量來自互聯網、書籍數據庫和維基百科的數據訓練而成,無法對于企業的特定業務問題給出有針對性的建議;而若是給這些 AI 工具提供企業内部知識,又可能會導緻隐私和數據安全問題。
具體而言,這些通用的生成式 AI 應用不了解企業的業務、數據、客戶、運營或者員工;它不知道使用者的具體工作,不知道當前任務的信息環境,不知道可用的數據源。這大大限制了生成式 AI 應用的能力。而且,目前這些面向個人用戶的産品也沒有配備企業所需的安全和隐私功能,無法保障員工在日常工作中的數據和信息安全。最近這類信息洩露事件層出不窮,不少企業都禁止員工在工作中使用 ChatGPT ——包括 OpenAI 的最大投資方之一的微軟公司在内。
而要是企業開發屬于自己的 AI 應用,則不僅需要大量時間和投入,還難以随着業務進展持續更新。企業的 AI 應用,應該和企業的信息資源管理一樣分級分層、設置權限;應該能夠和其他工具配合,融入企業工作流中;應該能根據公司的信息政策和可信信息源審查,以及應該能夠保證隐私和數據安全。
顯然,這并不容易。這個困境和雲服務出現之前的 IT 基礎設施建設困境,在本質上有些相似之處。而解法,也許異曲同工。
亞馬遜雲科技 CEO Adam Selipsky 在今年的主題演講中說:「圍繞生成式 AI 的創新是爆炸性的。我們相信,生成式 AI 應該幫助工作中的每個人。」
這就是亞馬遜雲科技發布 Amazon Q 的原因:一個面向企業的、爲工作而設計的生成式 AI 助手。它可以利用企業私有知識完成任務,也可以和亞馬遜雲科技的諸多産品配合使用,幫助企業提升運營與開發效率。它是一個通用性産品,客戶可以根據自身情況靈活配置,從而讓客戶企業的每位員工都能充分發揮生成式 AI 的優勢——自然語言理解、信息提取、生成内容,這些都是生成式 AI 的長項。
「擁有最廣泛和最深入的能力很重要,」Selipsky 說。「我們開始利用亞馬遜雲科技提供的服務徹底重新思考 IT 基礎設施。」
這可能是今年亞馬遜雲科技最重要的發布。在面向企業的生成式 AI 應用上,亞馬遜雲科技率先交出了答卷。畢竟,面向個人和面向企業的生成式 AI 區别巨大,企業若想借助 AI 提升效率,還得靠擅長服務企業的資深專家。
那麽,Amazon Q 是什麽?
01 Q 來自問題
Amazon Q 這個名字結合最近的火熱新聞,給人們留下了不少猜測空間。其中最主流的,是認爲「Q」來自問題。
這很合理。畢竟無論是企業還是企業的員工,都是通過解決問題來創造價值。面向企業用戶的生成式 AI 應用,應該能解決哪些問題?
在企業語境下的生成式 AI 應該擅長準确回答與企業内部知識有關的問題;能夠從大量文檔和數據源中提取高價值信息,輔助做出決策;可以從多個數據源獲取數據産生内容,無論是撰寫營銷文案還是編寫業務代碼。
如果打開配置好的 Amazon Q,會發現它的界面和市面上的其它生成式 AI 聊天應用區别不大。如果讓它「寫一篇關于專業人士如何在時間管理方面出類拔萃的引人注目的文章,并将文章字數控制在 500 字以内」,或者「爲這份可持續設計辦公空間的報告創建一份格式精美的摘要」,它也都能完成相應任務。
但是,最重要的地方是看不見的:它的數據和信息來源,是用戶自己企業的私有知識,而這些知識是安全的。
容易看出,這樣的提示詞和使用 ChatGPT 等生成式 AI 應用時幾乎沒有區别;如果說有的話,就是缺少了在使用其他個人生成式 AI 時的「角色扮演」步驟。這是因爲 Amazon Q 知道用戶所定義的角色,理解角色的工作範圍,明白角色的工作目标。角色設定早已存在于企業的組織架構和職位安排中,這些企業知識可以成爲 Amazon Q 的内隐知識。
接下來,在某處的數據中心裏,Amazon Q 搜索它有權限訪問的、已經做好索引的數據源,以生成式 AI 的能力生成内容,提供數據來源,方便使用者審查。
亞馬遜雲科技 CEO Adam Selipsky 在主題演講中說:「你可以輕松地與 Amazon Q 進行聊天、生成内容、采取行動。這一切都基于你對你的系統、數據存儲庫和運營的理解。」
而除了這些生成式 AI 的能力之外,考慮企業的使用環境,Amazon Q 還有其他特别之處。
第一,是基于用戶權限的訪問控制:Amazon Q 可以理解用戶的身份、角色和權限。如果用戶在沒有 Amazon Q 的情況下沒有權限訪問某些數據,那麽使用 Amazon Q 也無法訪問這些數據。當然,管理員可以設置,允許将特定的回應僅限制給特定的員工或數據源。
第二,是能夠與其他常用企業應用協同。Amazon Q 可以連接 40 多個流行的企業應用程序和文檔庫:包括 S3、Salesforce、Google Drive、Microsoft 365、ServiceNow、Gmail、Slack、Atlassian 和 Zendesk 等等,可以從這些應用中獲取數據,也能将它們連接成工作流。
第三,是避免生成與企業政策不符的内容。Amazon Q 擁有管理控制功能,可以阻止整個主題,也可以使用關鍵字過濾問題和最終答案。管理員還可以做出限制,讓回複隻來自企業數據的信息,而不是底層大模型的世界知識,避免産生那個臭名昭著的、已經被《劍橋詞典》列入年度詞彙的「幻覺」現象。
第四,則是最重要的數據和信息安全。驅動 Amazon Q 的模型是來自亞馬遜雲科技提供的底層模型,其中包括亞馬遜雲科技的 Titan 系列。這些模型不會使用客戶數據訓練。在構建 Amazon Q 時就已經充分考慮了安全性和隐私問題,以幫助客戶滿足最嚴格的企業需求。
這就是面向企業用戶的生成式 AI 應用,是适合客戶企業的業務專家。不過,Selipsky 說,這隻是「我們将繼續重新定義未來工作方式的開端。」
02 Q 來自《星際迷航》
還有些人認爲,Q 這個名字,來源于《星際迷航》。衆所周知,亞馬遜的創始人 Jeff Bezos 是《星際迷航》迷,公司裏的同好者也不少。
在這套長壽劇集中,有一個外星種族叫 Q。他們基本上無所不能,還會視乎情況,化作最合适的形象和人類交流。
這個觀點聽起來好像……的确有一些道理。Amazon Q 是個通用的生成式 AI 助手,但它也可以與特定的業務結合;比方說商業智能分析工具 Amazon QuickSight,比方說客戶聯系工具 Amazon Connect,比方說企業供應鏈服務 Amazon Supply Chain。
Amazon QuickSight 是爲雲構建的商業智能服務,過去就提供了自然語言查詢功能。而在 Amazon Q 的加持下,能力進一步提升。除了更容易地生成可視化圖表以外,客戶還可以生成數據故事、概要總結,以及和 Amazon Q 讨論開放性問題。
統計學家漢斯 · 羅斯林說,數字很無聊,但人很有趣。想要數據給人留下深刻印象,來增強說服力或者推動決策,需要把它包裝成數據故事。用戶可以提出諸如 " 描述上個月業務發生的變化,用于向領導層彙報。」或者「爲我構建一個關于整體銷售業績趨勢的故事。按産品和地區拆分數據。」之類的要求,Amazon Q 就會審視數據對業務可能意味着什麽,然後在幾秒鍾内根據 Amazon QuickSight 中的數據,提出好問題,形象化呈現,來爲用戶提供工作基礎。
Amazon Q 可以快速創建摘要,突出顯示儀表闆中需要注意的重要内容,幫助用戶了解數據中的亮點。Amazon QuickSight 會确定有價值的事實和統計數據,然後使用生成式 AI 來描述值得關注的趨勢。這些關鍵見解會使用自然語言描述,幫助用戶節省查看詳細數據儀表闆的時間。
用戶還可以和 Amazon Q 讨論開放性問題,例如「爲什麽上個月的訂單數量增加了?」或者「我該如何應對銷量下滑?」;Amazon Q 會動态創建數據儀表,總結詳細信息,還能提供相應的視覺效果。這樣的問題,以前即使使用 SQL 這樣的查詢語言也無法獲取答案,而 Amazon Q 則能幫助用戶獲取洞察。
現在,寶馬公司正在使用 Amazon QuickSight 中的 Amazon Q 來優化庫存管理,幫助分析師在幾個小時裏構建數據儀表闆,而以前需要幾天時間。
Amazon Connect 是雲聯絡中心,爲企業的客戶體驗服務。在 Amazon Q 的幫助下,企業員工能迅速成爲優秀客服,能快速、準确響應客戶需求。Amazon Q 能根據客戶與客服之間的實時對話檢測客戶問題,然後自動回複、提出建議,列出相關資料。這樣的應用提高了客戶滿意度,同時降低了培訓客服人員和解決問題的成本。它會自動推薦座席人員應說的話和應采取的行動,來爲客戶提供更高質量的的服務。它還能在通話後生成電話後總結,方便客戶體驗主管跟蹤後續步驟。
亞馬遜雲科技 Amazon Supply Chain 中的 Amazon Q,能讓供應鏈管理者、供需計劃人員随時了解供應鏈的狀況,還能探索原因和生成解決方案。" 是什麽?"、" 爲什麽?" 和 " 如果……會怎樣?」的問題都可以交給 Amazon Q,無論是「我的貨物延遲的原因是什麽?」還是」如果我換一家物流企業會怎樣?」,Amazon Q 都會将複雜場景的結果可視化,還可以追問問題,來對比分析不同決定的優劣。
這樣聽起來,Amazon Q 好像和《星際迷航》中的 Q 真的有點像。
03 Q 來自「007」
還有一小部分人認爲,Q 這個名字來自「007」系列。Q 是這個系列裏的一位技術專家,也是這位最著名的皇家特工的好幫手,總是能拿出些新奇有用的道具,幫助 007 屢屢化險爲夷,順便大殺四方。
這個說法可能也有道理,就像 Claude 這個名字來自信息論的創始人 Claude Shannon,Mac 上著名的效率工具 Alfred 的名字則來自蝙蝠俠那位無所不能的老管家。
Amazon Q 的确也是一位技術專家。它由亞馬遜雲科技 17 年來積累的知識和經驗訓練而成,是亞馬遜雲科技服務的絕對專家。用戶可以詢問亞馬遜雲科技産品的相關問題,可以檢索亞馬遜雲科技服務的運行方式,可以探尋架構解決方案的最佳實踐,可以獲取故障産生的原因和解決辦法,或者請 Amazon Q 幫忙,挑選出滿足特定需求的最佳雲服務産品。
對于以上所有類型的問題,Amazon Q 都會給出明确答案,并且在浩如煙海的文檔和記錄中,列出引用出處。在過去,這些檢索和判斷都是繁重的工作,往往也是艱巨的挑戰。而現在,用戶可以任意追問,來獲取更加詳盡的答案,而 Amazon Q 不厭其煩。
不僅如此。在今年 4 月份,亞馬遜雲科技發布了 AI 編程助手 Amazon CodeWhisperer。這是個強調安全的 AI 編程助手,使用亞馬遜雲科技自己的代碼訓練,而不像 Github Copilot 那樣使用了大量的開源代碼。現在,Amazon Q 也和 Amazon CodeWhisperer 結合在一起,将構建軟件的專業知識與對客戶代碼的理解結合起來。軟件工程師們可以和 Amazon Q 聊天來理解程序邏輯,這讓維護舊代碼的工作變得不再那麽令人生畏;他們也可以在 Amazon Q 的幫助下調試代碼、撰寫測試和優化代碼,來加速開發過程。
現在,在 Amazon CodeCatalyst 和 VS Code 這樣的代碼編輯工具中,已經可以使用這些新功能。開發者爲 Amazon Q 分配任務,Amazon Q 會起草分步計劃、編寫代碼;開發者隻需要查看 Amazon Q 提出的建議、做一點改動、然後批準即可。Amazon Q 還可以自動生成測試,以及評估代碼質量。現在著名的咨詢公司埃森哲已經開始使用 Amazon Q 來幫助發展自己的業務,他們希望利用 Amazon CodeWhisperer 和 Amazon Q 爲 5 萬名軟件開發者和 IT 人員提供支持。
另外,Amazon Q 還能做一件開發者們避之唯恐不及的工作:爲應用程序維護和升級。最近,由 5 名亞馬遜雲科技開發者組成的小團隊使用 Amazon Q 代碼轉換,在兩天内将 1000 個應用程序從 Java 8 升級到 Java17 ——每個程序升級的平均時間不到 10 分鍾。而在以前,手工升級一個程序大概也需要兩天時間。
「我真的相信,Amazon Q 是革命性的。」Adam Selipsky 說,「我們希望,從事不同類型工作的人,都能從 Amazon Q 中獲益。」
亞馬遜雲科技的初衷是降低客戶的技術應用門檻,對于 Amazon Q 也是一樣。配置隻需要敲擊幾下、點擊幾次:首先,提供一個應用程序名稱,并設置一個新的身份來讓 Amazon Q 扮演;其次,選擇一個從索引中提取數據的檢索器;最後,連接數據源,等待索引完成。
然後,就可以在雲服務的控制台中,随時喚起這個 AI 助手了。
當然,像在「007」系列中 Q 一樣,Amazon Q 也需要整個團隊的支持。對于 Amazon Q 來說,它的支持是所使用的基礎大模型、企業用戶自己的知識,還有強大的計算和存儲能力。
在今年的 re: Invent 大會上,亞馬遜雲科技發布的 AI 棧,包括了從自研 AI 訓練芯片 Trainium 2、大模型管理和訓練平台 Amazon Bedrock 到 Amazon Q 的諸多産品和服務。Amazon Q 的能力,是在這些技術基礎上實現的。在這些基礎之上,用戶既可以直接連接自己的數據源來使用 Amazon Q,也可以将自己的知識數據庫通過 Zero-ETL 功能轉換成向量數據庫,通過 Amazon BedRock 提供的功能選擇合适的大模型,加以微調或持續預訓練,來滿足自己企業定制生成式 AI 的需求。
畢竟現在和去年不同,AI 已經成了可以看得到的趨勢,實驗室中的風扇狂轉已經轉化成了真實世界中的生産力收益;而亞馬遜雲科技認爲,解鎖 AI 潛力的關鍵,在于使用自己的獨特業務數據來定制。
04 Amazon Q 是商業生成式 AI 的起點
面向個人的生成式 AI 已經火爆了一年,而面向商業的生成式 AI,争奪也已經展開。無論是微軟的 Colipot,還是谷歌的 Duet AI,都已經滲入雲服務中,希望成爲企業用戶的好幫手。
而不同的是,亞馬遜雲科技在發揮其基礎設施和全棧優勢,利用 Amazon Q 來連接從硬件到軟件、從産品到服務的諸多關鍵點。
Constellation Research 的分析師 Holger Mueller 說:「亞馬遜雲科技已經構建了一系列跨服務能力,而 Amazon Q 是下一個發展階段。」Amazon Q 在嘗試爲所有亞馬遜雲科技提供的服務增添一個統一助手,減少這家市場占有率最高的雲服務企業所面對的複雜性挑戰。
而複雜性,正是這個飛速變化的時代最不缺的東西。生成式 AI 的興起爲雲服務商開辟了新藍海,也在加速雲服務商的變革。在快速變化的時代,我們能夠依賴的隻是創新和适應能力;正如 Selipsky 所說,「适應能力,是你可以擁有的最有價值的能力。」