如何把大模型能力和家電場景更好結合，是模型落地面臨的第一重挑戰。
文｜徐鑫
編｜任曉漁
大模型的浪潮正在向家電和消費電子終端蔓延。3 月 14 日開幕的中國家電及消費電子博覽會 AWE 2024 成了觀察這股趨勢的窗口。
過去一年來，各個行業都在探索和大模型結合的可能性。
家電廠商們也加入了行列。在 AWE2024，海信、三星、長虹等不少參展的品牌都已意識并參與到了這股浪潮裏，展出了與大模型集合的産品；一些解決方案商如聆思科技、思必馳等也有将大模型接入終端的軟硬一體解決方案。在這些落地探索中，明顯能看到，如何把大模型能力和家電場景更好結合起來，找到更合适的場景，仍然是當下家電企業最大的挑戰。
數智前線也觀察到，大模型要真正落地端側仍然有很長的路要走。參展的行業人士認爲，端側智能會帶來模型研發和算力支撐兩方面的成本，隻有産生相應的價值，才能真正實現在家電場景的落地。
01
新的試驗場
今年的 AWE，有不少企業從企業戰略角度提到了 AI，展台上也推出了不少 AI 産品。
比如發布了電視行業大模型的海信。3 月 15 日上午，海信視像正式發布自研星海大模型。海信視像總裁李炜在發布會上稱，" 所有大屏的體驗，都值得用 AI 重塑一遍 "。
此前，電視廠商通過 AI 能力提升畫質和音頻效果達到體驗提升的案例并不少。
比如利用 AI 芯片驅動算法，通過調整亮度、對比度、顯色等，提升電視的畫質。在運動畫面的表現上，運動物品的殘像殘影可以通過 AI 算法去快速消除，還有電壓不穩定時，通過算法在色階切換時馬上改變它的電壓，來保證畫面的流暢性。數智前線在海信和三星等多個廠商的展台上都看到了相應的産品。
而電視如何與大模型結合？海信視像相關人士告訴數智前線，目前他們在海信的 8k 屏幕發聲激光電視上已經在生成式生活服務建議、語音驅動的模糊内容檢索、實時英語對話和遊戲助理四個場景裏嵌入了大模型的能力。
而遊戲助理功能，則是基于大模型的任務編排和執行的能力，自動識别用戶的設備進入遊戲，免去了設備的參數設置流程。它還能監測到用戶玩的遊戲類型，比如射擊類遊戲，它會調整相應的畫質和音質，自動顯示準星輔助，方便用戶瞄準。
另一家參展商三星也從戰略層面重視 AI，打出了 "AI for All" 的 Slogan。
在三星的展台上，電視、手機、冰箱和洗衣機等産品都強調設備具備 AI 能力，以三星的一款電視爲例，在畫面影像增強上，4k 信号進來，通過 AI 芯片和卷積神經網絡的處理，提升成 8k 的畫質。另外在球類運動的轉播時，由于視頻商爲了減少帶寬壓力，上傳後信号會壓縮，比如從 50 赫茲到 25 赫茲，導緻畫面上就看不清球，而 AI 可以增強顯示效果。
另外，三星手機的一些應用已經接入大模型的能力。據悉，這是與文心一言的合作，實現手機實時轉錄和翻譯功能，在端側直接完成轉寫和翻譯。
大模型落地電視，長虹也有動作。長虹旗下的雲帆 AI 平台電視打出的标簽是 " 全球首個基于大模型的智能家電 AI 平台 "。它有 AI 對話、AI 壁畫和口語陪練三個功能。
現場的産品經理介紹，AI 對話主要是文生文的功能，比如對着電視提問上海的美食，它能生成一些關于上海美食的介紹。而 AI 壁畫可以把用戶描述的内容生成圖像，并設置爲電視壁紙。口語陪練是家庭場景裏孩子可以跟電視進行英文對話，提高英語口語能力。
除了家電廠商的産品，解決方案商也有動作。青島國創智能家電研究院的工程師介紹，他們針對家庭健康的場景，研發出了一個健康食譜類的大模型，家裏有牛肉和土豆，大模型就能推薦幾個菜并且列出菜譜。如果冰箱可以識别出食材，這些食譜在屏幕上就能展示。這個方案目前正在和海爾做整體方案。這也是大模型與家電結合的一個嘗試。
有科大訊飛背景的聆思科技在展台上也展出了大模型對全屋控制體驗的改善和升級。
該公司工程師告訴數智前線，他們從去年就開始在嘗試把大模型接入空調等家庭場景，目前已經與一些頭部家電企業合作，這些企業的産品尚在研發中，但很快就會上市。
在實現方式上，他們的視覺語音大模型 AI 開發套件是一個軟硬件一體的解決方案，包含一個端側的芯片開發闆，裏面有 NPU 接入訊飛星火的大模型。大模型本身跑雲上，用戶用語音下指令。一些原來空調很難識别的指令，比如 " 回南天 " 這個詞，在有了大模型的理解能力後，空調就能聽懂，會變得更加聰明。
本屆 AWE 上，不少家電産品上能看到 AI 的身影，大模型的字樣已經零星出現在一些展台，家電和消費電子産品正在成爲大模型落地的新試驗場。
02
" 你要用大模型做什麽？"
當問及某款 AI 功能的空調産品是否應用了大模型的能力時，一個空調展台的人士反問，" 你用大模型做什麽？除非是用戶有新的需求，必須要通過它進行實現，作爲廠家才有可能進行系統的升級。否則，我們不會花那麽大的人工成本和精力去開發這個東西。"
這個回應可能代表了當下家電行業裏不少人士的看法。它折射出的潛台詞是，如何找到家電産品與大模型結合的剛需場景。很多行業當下應用大模型遭遇了找場景問題，這也是大模型落地家電的第一重挑戰。
一些家電行業人士認爲，應用大模型，并不是去創造一些新的概念，而是要構建一個吸引用戶的場景，大模型能在裏面不突兀地能夠解決問題。
" 用戶在洗衣服，在平時日常的吹空調的過程中，它的痛點很明顯的，我們通過 AI 的技術來幫助用戶能夠更簡便操作設備。圍繞着用戶日常使用習慣和平時的痛點，要用 AI 的技術幫助用戶來解決實際問題。" 海信愛家展台上一位解決方案工程師認爲，不能爲了大模型而大模型。
業界普遍認爲大模型的優勢在它的泛化特性，如何用好這種泛化特性，可能是尋找到合适場景的關鍵。
聆思科技的工程師介紹，他們在空調裏加入大模型後，用戶可以更自由與設備對話。針對空調場景專門訓練的模型了解空調設備的故障和使用方式，一旦空調滴水，用戶提問，大模型能夠理解意思，它可以去說明書裏調用相關的知識來引導操作。這個體驗就比之前的智能語音的能力有了大幅提升。
雲米智能家居 GTM 林石列也看到，大模型幫助定位用戶使用過程中的問題和疑惑并幫助用戶解答場景的價值，" 比如開關或者插座能支持多大功率的電器，我可能不知道。我随口問一下我們雲米小微，你的插座能用多大的功率？它就能解答。"
另外，在推薦場景裏，他認爲，大模型可以基于用戶所處的環境，通過各類傳感數據，針對地區的日落時間和紫外線情況，去推薦一個光照的個性化解決方案。" 大模型并不是要用來做多複雜的事，而是通過它的計算能力，讓産品學習用戶的需求更快一點。"
長虹智能家居闆塊的工程師告訴數智前線，他們看到未來智能家居闆塊與大模型結合的場景可能是，人不再主動發出指令，設備可以主動服務人。" 根據用戶的使用習慣，去學習和判斷用戶的需求。各類家電設備和系統能主動提供服務，這是機器去學習的過程。大模型能否在這個過程發揮作用，可能是行業拭目以待的。"
長虹雲帆 AI 平台電視産品人士則介紹，目前他們推出的三個場景都是特意挑選，也是比較适合展示在大屏上展示的功能。
在手機上，一些人士看到大模型落地可能會使得用戶使用手機的習慣發生改變，可能不再有 App，去 APP 化，而在家電和家庭場景裏，前些年許多廠商都希望把電視作爲家庭設備的入口，大模型到來後，電視作爲家庭中控入口被重新提及。
該人士認爲電視要作爲入口，需要開發專門的 Agent 框架。" 現在都在提 Agent 框架，要做到去 App 化，就要搭建這樣的框架。這也是我們今年的研究方向之一，希望能做到今年上線。" 上述人士說。
在一些更小型的設備例如攝像頭等産品上，一些工程師們就認爲沒有看到太好的場景要在端側去接入大模型。創維智能攝像頭展台，一位工程師告訴數智前線，比如智慧屏，其實本身就有類似于備忘的功能，而大模型的強項在自然語言溝通，老人或小孩用這個東西，可能未來就變成類似于機器人的角色了。
在展會上，一些行業上下遊人士已經對大模型嵌入設備表露出了濃厚的興趣。在聆思科技的展台，一個家電行業的制造端口人士已經在詢問除了軟硬件一體的模組的成本，後續用戶調用大模型能力時如何付費的問題。
03
端側落地大模型還有多遠？
數據前線觀察，目前家電和各類消費電子産品接入大模型能力的産品主要還是從雲端調用大模型的能力。
業界普遍反饋，目前家電産品要在端側實現大模型落地，從模型能力和端側的算力能力條件都不太具備。
首先是模型方面，目前國内的大模型廠商們尚未發布能在端側運行的模型。在海外，去年 5 月谷歌在年度開發者大會上發布了 PaLM2，四種尺寸的模型裏最小的 Gecko 可以在移動設備上運行，各方反饋稱速度足夠快，即使離線狀态也可以進行交互應用。當時業界認爲端側運行大模型有了可能。不過根據官方文檔顯示，這個模型并不支持文本生成及對話的能力。
一位國内大模型廠商方資深人士告訴數智前線，目前端側的算力大小可能有不同，但整體看他預估模型的參數規模要小于 5B 才更适合到端側運行；另一位家電行業人士則給出了 7B 大小的概念。這和目前運行在雲端集群上的模型不是一個量級。
而單靠家電廠商們自己去開發端側可運行模型，是一筆巨大的投入，多數企業不具備這個能力。長虹雲帆 AI 平台電視人士告訴數智前線，他們不打算自己投入研發底層模型，投入太大。此前一位電腦配件企業的創始人嘗試将大模型和設備結合時也發現，研發上的投入成本驚人，對他們是巨大的壓力。
三星展台上一位資深行業人士認爲，手機設備的利潤率明顯高于家電産品，因此手機廠商們有實力去投入大模型的研發，而家電企業多數在資金能力上不具備模型研發和投入的條件。三星目前手機端已有端側大模型的能力，未來在家電場景裏，同一個模型經過剪裁和調整可以用到家電設備上。
其次是，目前邊緣算力層面，還不足以支持大模型部署到邊緣。即使是非常輕量級的模型，到設備上也需要非常大的算力支撐，會帶來巨大的成本提升。家電市場競争激烈，價格提升後産品的市場空間可能變小，" 我們要提供的是具有質價比的産品，不能把産品售價定得高高的，用戶說，我隻是使用了它的 1% 、2% 的這種能力，這樣就很多冗餘在裏面。" 海信愛家闆塊的智能解決方案人士說。
一位芯片行業相關人士提到，目前業界通常認爲，存儲和計算需求在 5GB 以下，才視作可以進入到端側運行。而對存儲和計算的能力要求在 5GB 到 20GB 之間，通常認爲适合部署在邊側，更大的則适合在雲上。
同時，還有多位受訪人士認爲，家庭場景裏很多時候并不太需要把大模型放到端側。" 家電設備現在很容易連網。從便捷性、安全性，還是穩定性角度，目前連接雲端效率都非常高的。有現成網絡資源的話，就應該用這個資源，而不是說專門去搞一個硬件跑，不劃算。" 聆思科技展台的技術人士告訴數智前線。
該人士提到，他們的模組裏大模型是跑在雲上。把大模型放到雲端跑，反映到産品端，成本的上升幅度非常小，甚至還有可能出現下降。" 現在放在邊緣端側的，隻需要一個聽指令的收音工具，它隻是加了一個 WiFi 模組芯片，其實并沒有增加多少成本，甚至此前離線的一些命令詞都可以去掉，一些在本地的 GPU 算力也可以閹割掉，成本還有可能降低。"
哪些大模型的場景一定要在端側去完成呢？百度資深人士告訴數智前線，端側沒有時延，或者時延非常短。那些對時延要求特别高的場景在端側完成體驗肯定會更好。
三星智能家居展台解決方案人士則介紹，家庭場景裏，雲上和端側會有分工。家庭場景裏一旦錄入了用戶的使用習慣，形成了策略，就可以下放到本地執行。策略不需要每天更新，本地算力不夠，要運算的放到雲端。
青島國創智能研究院的工程師也在探索和嘗試往端側部署模型，他們認爲随着模型不斷優化和端側算力的不斷提升，會有一些模型直接運行在家電邊緣端。
另外，除了直接部署到端側，業界認爲，家庭場景裏，在雲之下，端之上，有一個邊側的計算和智能中樞也是一種解決方案。
雲米智能家居 GTM 林石列提到，他們正在開發一個類似中樞網關的産品，現在它的計算能力還有待加強。未來推出一個性能更好的主機，可以直接來負責整個家庭的計算，一些大模型可以部署到這個網關或者主機上。
" 快速高效的決策放到端側，端側很便捷去交互，這是大的發展趨勢，但仍然有一個長期發展的過程。" 一位行業觀察人士稱。
© 本文爲數智前線（szqx1991）原創内容
進群、轉載或商務合作聯系後台
文章精選
