圖片來源@視覺中國
文｜王吉偉
七張圖，深度了解全球AI Agent行業
五個闆塊七張圖片，帶你深度認知全球AI Agent行業
AI智能體市場規模有多大？目前市場格局是怎樣的？一篇文章看明白
AI Agent市場格局如何？未來市場前景怎麽樣？一篇文章看明白
了解AI Agent市場格局、技術路徑與未來市場，看這一篇就夠了
詳解AI Agent市場格局、技術路徑與未來市場，智能體創業一定不要錯過
雖然GPTs推出後暴露了很多問題，時不時就會有安全組織現身說法，卻無法阻擋人們創建專屬CahtGPT的熱情。
因爲宮鬥，OpenAI不得不将GPT Store的上線推遲到2024年，這就讓一些第三方GPT Store的聲望更強,GPTs Hunter數據顯示目前的GPTs數量已經達到3.3W+。
按照這個發展速度，就是OpenAI官方GPT Store在明年1月1日上線，GPTs的數量最少也能超過10W+。如果算上企業用戶借助微軟OpenAI服務開發的GPTs,這個數量可能要翻倍。
微軟屬于近水樓台，緊跟着OpenAI推出的Copilot Studio功能更強且應用更廣，已經支持自定義ChatGPT助手無縫集成在CRM、ERP、OA等日常辦公系統中，安全性能也更強。
這還隻是OpenAI一家廠商的GPTs産品，其他廠商的同類産品已經在路上或者發布。
比如國内大語言模型（LLM，Large Language Models）廠商昆侖萬維發布的天工SkyAgents平台，可以讓用戶通過自然語言構建私人助理。字節跳動的豆包平台，也悄悄上線了創建AI智能體功能。在這個兩個平台，都能構建類GPTs産品，當然也能深度集成各自生态内的辦公等産品。
開源廠商也不例外。比如LangChain推出的開源項目OpenGPTs，能讓用戶構建類GPTs産品。
"準Agent"GPTs作爲AI智能體的早期産品，它的大量出現必然會帶來LLM在更多場景的大量應用，也爲真正AI智能體的應用做了鋪墊，先一步引領了用戶體驗并教育了整個市場。
用比爾蓋茨的話來說，Agent将能夠幫助人們處理幾乎所有活動和生活各個領域的事務，對軟件業和整個社會都将産生深遠影響。
GPTs是AI智能體時代的前夜，它的大量應用意味着自主智能體時代即将到來。
未來AI智能體的普及應用，将會造就一個極其龐大的市場。大模型廠商、技術供應商、企業服務軟件廠商、初創企業以及各領域的大型企業，都将參與到這場AI智能體的饕餮盛宴。
那麽，未來的AI智能市場規模會有多大？市場格局又是怎樣的？目前都有哪些具有代表性的Agent産品及項目？
本文，王吉偉頻道通過七張圖來爲大家揭開這些謎題。如果你是AI Agent創業者，這篇文章将非常适合你。
AI Agent市場前景
先來看一下AI Agent的市場前景。
單從自主智能體（Autonomous Agent）市場規模來看，marketsandmarkets數據顯示2019年全球自主智能體市場規模爲3.45億美元，預計到2024年将達到29.92億美元，2019-2024期間的年複合增長率将達到54%。
其中，自動化和敏捷性的提高、交付增強客戶體驗的需求、成本節約和投資回報的增加是自主智能體行業的一些主要增長因素
同時該機構預計，2023年全球自主人工智能和自主智能體（Autonomous Agent）市場的收入規模超過48億美元，到2028年有望達到285億美元左右，預計2023-2028年的年複合增長率爲43.0%。
自主人工智能和智能體的擴張受到多重因素的推動，包括人工智能應用的日益普及、并行計算資源的可訪問性的提高，以及自動駕駛和醫療保健的進步。
grandviewresearch預測數據與此相當。其數據顯示，2022年，全球自主人工智能和自主智能體市場規模爲39.3億美元，預計從2023年到2030年将以42.8%的複合年增長率(CAGR)增長，其中亞太地區的複合年增長率将高達46.2%。
"自主（autonomous）"或"自動駕駛（self-driving）"術語用于描述無需人工幹預即可獨立操作和做出決策的人工智能系統。自主智能體産品形态主要體現于虛拟助手，包括亞馬遜的Alexa、蘋果的Siri和谷歌的Assistant等。
這意味着，大量Agent将會以軟件助手的形态出現，同時原有軟件形态的助手類産品也會升級叠代爲自主智能體。
該機構特别提到，軟件市場在2022年已經以超過42.0%的收入份額領先市場。由于系統随着時間的推移而發展，适應環境并從中學習，軟件市場正在迅速增長。
需要說明的是，這幾組數據主要預測的是自主智能體的市場。雖然未來的AI智能體市場會以自主智能體爲主，但不同企業往往會因爲業務屬性與市場目标的不同，在具體需求上不一定都是自主智能體，還會涉及到非自主智能體以及生成式智能體等多種形式。
再就是某些引入Agent架構的傳統軟件産品，不一定會以智能體的形式出現。
因此，AI Agent的未來的市場空間實際要大得多。
自主智能體是一種軟件或程序，不需要人工幹預就能爲用戶或系統做事情或做出決策。自主智能體的設計目的，是在與環境或其他自主智能體交互的同時完成特定的任務或目标。
例如，聊天機器人是自助服務智能體，可以通過文本或語音與用戶交流，響應查詢，提供數據，甚至完成諸如安排約會或訂購産品之類的任務。
另一個例子是，2023年3月美國軟件公司Adept籌集了3.5億美元，用于開發數字助理，這是一個能夠将文本命令轉換爲一系列動作的人工智能模型。
對于AI Agent的未來，Octane AI 聯合創始人Ben Parr認爲，Agent不僅在科技領域更是整個商業領域的浪潮，他預測10年内，将有多家價值數十億美元的公司的運營完全交給自主智能體。
事實上，從現在出現的少數人力資源+AI Agent的公司，已經能看到AI智能體往這個方向的發展苗頭。這個話題不是本文的重點，王吉偉頻道會在另一篇文章中與大家探讨。
AI智能體市場格局
對于自主智能體這個新興領域，資本市場已經用其獨到的投資眼光将AI智能體産業劃分爲三層架構。
大家可以看下面這張來自風險投資公司Aura Ventures的《自主人工智能體新興市場格局》圖（成圖于7月之前），它将整個Agent産業自下而上劃分三層，最下面爲用于智能體運營（AgentOps）的模塊插件層，中間爲程序應用層（APPlications），最上面爲服務層（services）。
可以明顯感受到，智能體運營層借鑒了OpenAI官方給出的AI Agent架構，該架構也是當前最爲流行的Agent架構之一。
智能體運營層
智能體運營層主要分爲七個部分，分别爲智能（Intelligence）、記憶内存（Memory）、工具和插件（Tools and plugins）、多智能體遊樂場和協議（Multi-agent playgrounds and protocols）、多智能體通信模式（Multi-agent communication schemas）以及多智能體通信模式、監控、安全和預算（Monitoring,security and budgetary）及智能體運營市場（AgentOps marketplace）。
智能（Intelligence）：智能體的"大腦"，由負責任務創建、規劃和上下文的 LLM 提供支持。它們理解并産生自然語言，擁有廣闊的世界知識，并且能夠學習，LLM一般通過 API或開源被使用。
OpenAI的GPT、Claude等LLM都在這個部分，更先進的例子包括 HuggingGPT及Falcon 等。其中也包括特定領域的LLM和DAAS，比如爲心理健康數據提供API的Sahha 。
分銷優勢、成本、社區護城河和模型質量，将是這個部分的制勝關鍵。
記憶内存（Memory）：獲取、存儲、保留和檢索數據。分爲短期記憶、長期記憶和感覺記憶。向量數據庫和嵌入框架的激增是其中的關鍵。參與者包括 Pinecone 和 Chroma以及像Perplexity AI一樣具有集成優勢的Text to SQL 初創公司，
工具和插件（Tools and plugins）：能夠提供工具與插件的市場、API和技能庫，用于創建、修改和利用外部對象來執行超出LLM 限制的事情。外部工具可以顯著擴展模型功能，例如浏覽器掃描和桌面支持等。目前，這些實用程序主要存在于提示和技能庫中。
典型的産品，如Openai插件、replit及toolformer等。其他如SLAPA是一個自學習的API 系統，是早期産品化應用案例。Relevance AI也是該領域另一個快速發展的參與者，它在 UX 和"用低代碼輕松創建智能體鏈"的能力方面頗具優勢。
多智能體遊樂場和協議（Multi-agent playgrounds and protocols）：智能體網絡之間應該應用什麽通信協議，該問題将在這部分得到解答。PumaMart和SIM Gen Agents一直在做這方面的攻關，E2B是這個領域的新興參與者。E2B已與OpenAI等LLM廠商建立合作，其Playgrounds沙盒環境可以讓用戶構建各種基于LLM的智能體及相關應用。
多智能體通信模式（Multi-agent communication schemas）：由AgentOps的混合組成的Agent，将需要能夠使它們以盡可能最佳的方式進行交互的服務。多智能體通信協議，更有益于多智能體學習、反思和解釋的概念。
目前這些主要作爲提示技術存在，更多是在論文中提及，比如Chain of Thoughts prompting Wei et al （2022） 和 Reflexion （Shinn & Labash 2023）（回複 格局 ，獲取本文所用所有大圖資料）。
這一部分，主要提供思維鏈、自我詢問，cmol調試器子目标以及分解相關。這個細分市場，也會在接下來迎來一些玩家。
監控、安全和預算（Monitoring,security and budgetary）：在智能、内存、工具和插件、通信和協議、安全和安保方面，Agent都應受到監管。目前而言，對于工具級别或智能體級别的AI進行監控，仍然是一個懸而未決的問題。
這是Agent商業落地最重要的部分，能夠通過跨多個平台的監控（錯誤的數據沿襲）、安全性和預算來優化智能體的玩家将會勝出，也會催生很多智能體安全相關的初創項目。
智能體運營市場：被定義爲智能體框架産品發布平台，如FinGPT,BabyAGI,AutoAGI,CAMEL等都在這一層。HuggingFace和Github也被放在這一層，主要因爲這兩個平台提供并托管了大量的模型和相關項目。
HuggingFace是模型分發的主要參與者，有機會爲Agent創建一個類似市場的産品，就像Smol-ai Developer所做的，AI工程師可以輕松地爲任務選擇最佳的Agent基礎設施。
Agent應用程序層
Agent應用程序層主要包括通用應用（General purpose）和行業應用（Business industry）兩部分。
通用應用（General purpose）：這些Agent提供了前所未有的數據驅動智能水平，并爲個人用戶實現智能應用的民主化。這些将圍繞"待完成的工作"框架展開。病毒式傳播、建立分銷優勢的能力，以及利用更多可抵禦大型科技公司的"利基"用例将是獲勝的關鍵。
目前主要案例是個人編程類工具，如 GitWit、GPT-Engineer等， Embra AI（MAC個人助理）、Dust（生産力助手）等個人生産力領域的項目數量也在不斷增長。
行業應用（Business industry）：垂直領域的Agent，比如用于編程、營銷、輔導及研究人員等的智能體，使用特定于上下文的業務規則或數據進行微調，可以有效降低成本和提高績效。
預計進入AgentOps的行業下遊參與者将在這個市場中占據優勢，其技術堆棧更具防禦性。當然，敏捷構建的現有企業也有可能獲勝。
關于應用層的其他Agent産品，大家可以按圖索骥，這裏不再贅述。
services服務層
services服務層包括用戶構建自己的智能體（Build your own-deployment）、智能體市場（Agent marketplace）和多智能體監控（Multi-Agent monitoring）三部分。
構建專屬個性化智能體（Build your own-deployment）：大量廠商正在湧入這個領域，目前主要是低代碼或無代碼平台包括RPA等超自動化平台。這些廠商在原有産品基礎上構建的基于LLM的平台，可以使任何企業或消費者用戶都能夠輕松創建和部署智能體。
爲實現差異化、用戶體驗、客戶支持以及針對特定領域的（例如，B2B、B2C、行業）定制可用性能力，将是廠商們獲勝的關鍵。
值得一提的是，這些平台的一個關鍵銷售參數是客戶保留，而集成和用戶體驗（例如支持）将是提高用戶粘性的關鍵。這部分的參與者包括 Relevance AI、XpressAI、SuperAgentAI 和 AgentRunnerAI等。
智能體市場（Agent marketplace）：随着市場形勢的爆炸式增長，應用程序将在市場上上市進行推廣，将會出現更多爲特定任務"雇傭"預先訓練的應用程序的平台，不管是在B2C領域還是B2B領域。
現有的此類産品中，如GitHub和Fiverr開始扮演這個角色。NexusGPT 正在通過自由智能體市場和MindOS 來颠覆這一點，已經具備廣泛關注度。未來，我們可能會看到特定行業或功能領域的"捆綁"或大批人工智能工人作爲産品出售。
多智能體監控（Multi-Agent monitoring）：多智能體的控制室引擎是一個即将被颠覆的新興開放類别，企業和個人級别都有用例。這個領域的企業，采用更簡單的方式構建集成和API的能力将是其獲勝的關鍵。
目前該領域尚處于萌芽階段，但也有适用于企業和個人的項目，如 Alphakit.AI 是這一領域的先行者，已經實現通過手機監控個人Agent。
需要說明的是，這張圖繪制于7月份之前，所以大家要注意并不是現在隻有這些Agent相關産品及架構。最近4個多月裏又出現了大量的Agent,并且有了OpenAI的Assistant API這樣的工具，傳統AI廠商想要構建Agent應用也是相當簡單。
包括國内也出現了很多Agent項目，前段時間奇迹論壇的一場路演據說有30+Agent項目，這預示着AI Agent即将進入井噴期。
所以這張Agents市場格局圖并不是用來看有哪些産品的，主要是爲了讓大家熟悉Agent産業結構。這樣要創業的話就能找到自己的位置，清楚自己的項目處于哪個層次，并能夠了解國外有哪些對标産品。
AI Agent SDK、框架與庫
前面提到現在已發展出很多Agent架構，下面我們也通過一張圖來了解。
目前在智能體的構建上，開發人員爲解決可靠性、标準化、數據安全等問題而選擇的範式各不相同。
目前的智能體要麽建立在現有工具之上，要麽創建自己的内部解決方案，要麽采用一些專門爲智能體構建的産品，其中許多仍處于早期階段或 alpha/beta 版本。
一些開發人員，爲傳統軟件中智能體問題的等效問題提供了解決方案，比如：
用于智能體編排和調試的Inngest；
用于可觀測性的Sentry；
用于數據集成的LlamaIndex。
傳統的軟件解決方案仍然無法應對LLM性質所帶來的特定于智能體的挑戰。一個例子是調試智能體，它本質上是在處理提示，并且缺少與實時調試等效的智能體。
更多開發人員在構建智能體時，會使用新的框架和SDK來重新發明輪子，而不是在現有技術之上進行構建。
所以，現在的一些廠商完全摒棄傳統軟件構建智能替代邏輯，有的正在構建完全自定義的基礎設施，有的則使用現有技術至少以某種方式适合他們的智能體案例。
其中一種理念是多智能體系統的基礎設施補充，應該是面向智能體的智能體專有雲，如E2B 爲智能體或 AI 應用程序構建的AI playground、沙盒雲環境，這些環境對于智能體的編碼案例很有用。
還有更多爲AI 智能體或 LLM 應用程序量身定制的項目，最常見的是用于構建、監控和分析的框架。這些構建AI Agent産品所需要的特定SDK和框架，見下圖。
這張圖展示了目前已有的用于創建、監控、調試和部署AI Agent産品的SDK、框架、庫和工具的數據庫。
按照不同作用及功能，将這些框架及工具分爲九個部分：監控、可觀察性及分析（Monitoring、Observability、Analytics），前端（Frontend），大語言模型運行時（Runtime for LLMs），構建框架和平台（Building Frameworks platforms），數據集成與内存管理（Data integration,Memory management），大語言模型API和路由器（API and routers for LLMs），人工智能産品構建庫（Libraries for building Al products），編排（Orchestration），構建和部署LLM（Building&deploying LLMs）。
其中在構建框架和平台中，我們看到了OpenAI的Assistants API、Langchain、AutoGen、OpenGPTs、Hugging Face Agents等知名Agent構建框架。
有意思的是，GPTs與Assistants API推出後，被網友認爲已死的Langchain及其推出的全新框架OpenGPTs都在其中，這也間接證明了Langchain的生命周期并沒有傳言那麽慘。
對于創業者而言，這張圖算是點明了Agent技術發展路線。想要打造AI Agent的團隊，可以根據該圖來選擇其産品需要的框架及相關組件，或者尋找相應的替代品，不用再去爲選擇什麽框架與技術而大費周章。
開源Agent和閉源Agent
E2B出品的這份AI Agent行業全景圖，所涉及的項目不算是最全的，卻是比較完整的，目前所涉及的行業及領域都有相應的代表性産品。
該圖把目前的Agent産品分爲開源和閉源兩個部分，并将按照項目屬性及面向用戶群體将這些産品放到了不同領域及行業,其中還涉及到了Agent構建架構及運營支持的部門。
它被E2B放在名爲awesome-ai-agents的GitHub項目上，此項目是開放性的，創業者可以在GitHub頁面提交相關項目。
這張圖一直在持續更新，目前已經更新11月的2.2版本。新版本與上一個版本的最大區别是，加入了「智能體運行時」單元。
可能是登上這張圖的項目過濾标準較高，也可能是叠代速度跟不上項目提交速度。目前圖片上的智能體相關項目（包括智能體構建框架及運行支持，雲平台除外）爲98個，但項目頁面提交的項目展示數量已經超過130個。
從圖片來看，編程類Agent項目最多，整體數量已經達到38個，其中開源項目18個。
Agent構建框架類項目數量僅次于編碼類的Agent，總數量爲19，開源項目爲16個，閉源項目3個，其中包括OpenAI Assistans API。
生産力類Agent以閉源項目居多，數量爲13，開源項目3個。
通用型Agent數量爲12個，其中開源項目要多一些，數量爲8。
數據分析類的Agent總共6個，其中閉源項目4個。
而3個商業智能類Agent，都是閉源項目。
科學、研究、設計、市場營銷類的Agent的數量各爲1個，其中隻有科學類和研究類Agent爲開源項目。從中可以看出，垂直領域類的Agent目前數量很少，也就意味着比較廣闊的市場，創業的話可以往相關的方向走。
當然，還有很多Agent項目這裏并沒有放上，另外各領域的傳統企業管理軟件也正在發力Agent，AI智能體的列表必然會越來越長。
後記：個人智能體時代即将到來
下面這張圖，來自風險投資機構madrona在6月份發布的一篇關于AI Agnet的博文。
這張圖很簡單，羅列了當時比較具有代表性的生成式AI應用。其實用現在的眼光來看，這些應用當時正在向Agent模式過渡。尤其是智能助手類工具，幾乎都在謀求向Agent的轉型。
最近比爾蓋茨關于AI Agent的文章《AI is about to completely change how you use computers》刷了屏，詳細闡述了Agent将如何在未來幾年颠覆軟件行業。
其實在4月份高盛（Goldman Sachs）和SV Angel舉辦的關于人工智能的活動中他就提到過，未來的人工智能頂級公司可能會創建一個個人數字智能體，可以爲人們執行某些任務。
或許正是受此啓發，madrona這篇博文名爲《A Wave of Personal Agents is Coming》，談的是正在到來的個人智能體時代。
該圖按照個人應用工作流，将相關的工具與應用分爲增強（ENHANCED）和原生（NATIVE）兩個闆塊。增強闆塊列舉了當時非常接近于Agent的應用，主體部分原生闆塊分爲内容創作及個人智能體&聊天助手兩部分。
在内容創作部分，紅杉将其分爲視頻/圖片、市場營銷圖片、寫作、幻燈片、額外内容創建及3D遊戲開發幾個子版塊，每個版塊都列舉了相應的應用。
個人智能體&聊天助手部分是按照行業應用劃分的，分爲購物、外賣/即時訂餐、家居、房地産、餐廳訂位、橫向聊天助手、個人生産力、旅行、人工智能朋友/夥伴、健康和教練及教育等行業。
其中前六個都标注了開放機會，并且第六個用T.B.D.标注，意味着在更多行業及領域都會有更多的相關的産品走出來。
這張圖會繪制于6月份，所列舉的應用還是生成式AI應用或者可以用"準Agent"來表達，現在看來有些産品甚至可以被OpenAI的GPTs替代掉。
圖片左邊的被紅杉稱作增強型應用的産品，在當時已經很接近智能體功能，但還不具備自主采取行動的能力。比如Expedia在其移動應用程序中實施了AI聊天搜索用于發現行程，Kayak、Instacart和Klarna等公司在ChatGPT 中都有插件。
現在，随着OpenAI推出Assitant API以及更多Agent架構的出現，這些産品應該正在或者已經快速向Agent對齊。當時madrona調研的一些創業團隊，已經從特定領域的方法開始構建Agent，還有些團隊采用橫向方法來創建個人智能體。
這張圖片上列舉的産品不是現在意義上的AI Agent，主要還是用于展示未來個人Agent的豐富應用場景，這也應該是其認爲"一波個人智能體應用潮即将襲來"的主要緣由。
總體而言，這張圖對未來Agent的産品分類和應用領域還是做了不錯的梳理。同時這些産品都有機會用現在的新架構及新技術叠代升級成爲Agent，擁有一定的參考與借鑒意義的。
也希望你的項目，能夠早日進入類似的名單。
