36 氪獲悉，AI 應用開發者平台「BentoML」已于日前完成 900 萬美元種子輪融資，本輪融資由 DCM 領投，Bow Capital 參投，融資金額将用于擴充産品體系和提升産品水平。
「BentoML」是一家專注于 AI 應用的開發者平台，成立于 2019 年，總部位于舊金山。核心團隊主要由具有矽谷技術創業經曆的工程師組成。「BentoML」緻力于爲開發者和企業客戶提供構建、部署和擴展 AI 應用程序的能力，其開源産品已經支持全球範圍内數千個企業及組織的核心 AI 應用，并受到了全球 AI 應用開發者的青睐。「BentoML」于近日發布其 Serverless 雲平台 BentoCloud，将更好的服務于全球 AI 開發者，進一步滿足縮減開發時間和成本的剛性需求。
" 友好的開發者體驗，能讓更多的開發者将 AI 融入到他們的産品中去。"
「BentoML」創始人、CEO 楊超予曾是 Databricks 早期員工，他告訴 36 氪，" 未來一段時間内，縮短開發周期、降低開發門檻，将會成爲開發者和企業通過 AI 來獲得競争優勢的重要因素。"
值得一提的是，「BentoML」自研的 LLM（大語言模型）開放平台「OpenLLM」，在全球最大開源項目社區 GitHub 上，僅上線一周就成爲了 " 趨勢項目 "。
GitHub - Trending
從模型部署切入，讓 AI 開發 " 開箱即用 "
通過把所需的基礎設施進行模塊化處理，和對于常見機器學習框架及推理引擎的支持，「BentoML」發布了其自研 Serverless 雲平台「BentoCloud」，提供了一套簡單易用的 API 和靈活的架構，使得開發者可以更容易地選用若幹預訓練好的模型去開發不同類型的 AI 應用。目前，「BentoML」主要優勢有三：
首先，「BentoML」允許開發者使用一套編程接口部署任何策略，這也是其作爲新一代開發者平台有别于其他框架的特點之一。從低延時的 API 接口、針對長推理任務的近線計算，到分布式的批處理和流處理等，開發者隻需要寫一次代碼去描述 AI 應用的邏輯。
其次，「BentoML」對主流模型進行了開箱即用的封裝和優化，目前支持包括大語言模型（LLM）、生成式 AI、計算機視覺、自然語言處理（NLP）等在内的大部分細分領域 AI 應用開發。
第三，基于 BentoML 開源框架的多年積累，「BentoCloud」的計費方式是在業務高峰期自動擴容，在高峰過後縮容爲零，确保開發者隻爲使用的算力付費，比起租用 GPU 來說大幅降低了研發與業務成本。
圖源：BentoML
成立之初，「BentoML」從模型部署切入，主要面向專業的 AI 開發者。如今，随着更多商業機會的出現，「BentoML」也正在向着更廣泛的 AI 應用場景進發。
比如，生成式 AI 的爆發，導緻從去年開始整個 AI 領域湧入了一大批 AI 應用開發者，其中很多人的經驗和技術背景主要來自于産品開發、移動應用開發等。爲了調用 AI 的能力，他們需要在自己不擅長的領域進行大量的學習和實踐。
" 這群新用戶是今天市場的發展讓我們看到的最大的改變。"
楊超予坦言，将 AI 開發的門檻降低到普通開發者的手中，" 這個想法早就有了 "。去年夏天，「BentoML」團隊還在預言，未來會出現一個 AI 應用開發工程師的職位。直到今年 2 月，新聞開始每天沖擊着整個科技圈的視野，随之而來的是周圍做軟件開發的人開始詢問：如果我想做一個怎樣的模型，一個怎樣的應用，我應該怎麽做？
在越來越多的聲音中，楊超予感受到，變革真的在發生。
對于市場驅動下的新用戶來說，「BentoML」發布了專屬的框架幫助用戶自己去探索或組合 AI 開發中的各種解決方案。比如聊天機器人、OCR、圖像檢索、文本内容搜索等常用 AI 場景。
簡化産品路徑，建立 MLOps 标準
除了以 AI 爲核心體驗的産品服務之外，目前，開發基于 AI 的産品服務也已經成爲了企業創新和提高生産效率的首要任務。
" 企業對人工智能應用的需求正在到達一個拐點。"
然而，由于構建 AI 應用的開放标準尚未建立，盡管 AI 的目的是作用于更高效的生産和更好的用戶體驗，但複雜的需求和生産環境仍然讓如今的 AI 開發變得緩慢、昂貴、且門檻極高：盡管目前開源社區中已經存在如 LLaMA、Stable Diffusion、LangChain 等的開發組件和預訓練模型等，但開發者仍然需要花費大量的時間和精力才能達到生産環境所需的穩定性和可擴展性。
" 那麽多企業都在收集數據，我們都知道 AI 是挖掘數據價值的必經之路，目前即使是成熟的科技公司，在内部解決方案上也會面臨巨大的挑戰。"
比如，内部開發，僅是 AI 服務開發階段就要平均寫 3000 行代碼和 10 多個組件。總體來看，「BentoML」能夠将效率提升 15 倍。
事實上，無論是讓模型作用于數據分析，還是面向消費市場的 AI 體驗，MLOps（Machine Learning Operations，機器學習運維）目前需要 " 行業裏最好的工程師 "，而不是每個公司都能招到頂尖人才去完成複雜系統的開發。即使具備了以上條件，AI 基礎設施還是會成爲企業花時間和資源最多的地方。
可以說，以更簡單的方式進行 AI 開發與生産，不僅僅是以開箱即用的解決方案匹配當下風頭正盛的技術方向，也是爲當下每一家還在收集數據、觀望 AI 的公司提前做出一個開源标準。
無論是去年的低代碼、無代碼趨勢，還是時下熱門的 MLOps、LLMOps，人類技術發展的要義就是不斷簡化和降低新興技術的門檻。而對于 AI 和大模型應用開發來說，将差異化和競争壁壘依托于數據本身，模型訓練交給數據科學家，其他的步驟在标準化的工業級生産框架下快速完成，才是最高效的。
" 今年一月，很多人認爲企業要基于自己的數據去做大語言模型，訓練成本需要上百萬美金，很少有公司能負擔起。然而我們相信，随着訓練成本下降，更多的企業将來一定可以去使用自己的大語言模型。沒想到的是，僅三個月後，fine-tune 大模型的成本，可以下降到幾百美元。"
更早的投入，意味着每天都在見證嶄新的未來，也意味着一個更紮實的開源社區基石。如今，「BentoML」在社區内擁有上千名開發者用戶，支撐着埃森哲、Riot Games、SoundHound、LINE 等不同領域一線企業的 AI 應用及服務。市場方面，「BentoML」目前的市場活躍度優先分布于北美、東亞、歐洲市場，已經得到了來自企業和開發者的廣泛響應。
置身 AIGC 的浪花中，AI 技術革命所帶來的創造與體驗價值，已經成爲了一個長期命題。當市場回歸理性，AI 應用與服務會從如今的新奇體驗變爲各行各業不可或缺的副駕駛。屆時，平靜海面的下方，将會是一個豐富而有條不紊的開發生态系統。
而随着越來越多的開發者投身 AI，像「BentoML」一樣深耕于 MLOps 基礎設施的 " 開拓者 "，也将進一步思考，如何服務于不同需求、不同場景、不同技術背景下的開發者，爲 AI 開發的成本和效率之戰給出更好的回答。
-----------------------
"随着 GPT4 等大型語言模型（LLM）的蓬勃興起，軟件工程師正在以前所未有的速度和規模借助各類開源基礎模型創建 AI 原生應用程序。 DCM 對「BentoML」爲幫助 AI/ML 開發者創建和運營 AI 服務所做的工作感到興奮，"DCM 中國創始合夥人、董事合夥人林欣禾（Hurst Lin）表示，" 借助全新推出的 BentoCloud 産品，「BentoML」将以最大的可靠性和可擴展性交付 AI 産品，成爲所有軟件開發者的首選 MLOps/LLMOps 平台。"
