消除激活值 ( outliers ) ,大語言模型低比特量化有新招了——自動化所、清華、港城大團隊最近有一篇論文入選了NeurIPS 2024(Oral Presentation),他們針對 LLM 權重激活量化提出了兩種正交變換,有效降低了 outliers 現象,達到了 4-bit 的新 SOT…
消除激活值 ( outliers ) ,大語言模型低比特量化有新招了——自動化所、清華、港城大團隊最近有一篇論文入選了NeurIPS 2024(Oral Presentation),他們針對 LLM 權重激活量化提出了兩種正交變換,有效降低了 outliers 現象,達到了 4-bit 的新 SOT…
The following article is from 淘天集團算法技術 Author 钰灏編者按:提到 " 程序猿 ",大家腦海中是不是立刻浮現出格子衫、不修邊幅、呆滞的畫面形象?這些刻闆印象已經 out 啦,其實程序員們都是敬業又聰明的熱血少年!他們不僅善于思考和洞察,還特别擅長發現和解決問…
完整版 o1" 被洩露 ",成了上周 AI 界的大新聞。9 月 13 日,OpenAI 發布了傳說中代号 " 草莓 " 的全新模型系列的預覽版 o1 preview,随後又上線了 o1 mini。o1 模型系列,能夠模仿人類思維過程 " 慢思考 ",提升了 AI 的邏輯推理能力,成爲 AI 模型領域…
現在,視頻生成模型無需訓練即可加速了?!Meta 提出了一種新方法 AdaCache,能夠加速 DiT 模型,而且是無需額外訓練的那種(即插即用)。話不多說,先來感受一波加速 feel(最右):可以看到,與其他方法相比,AdaCache 生成的視頻質量幾乎無異,而生成速度卻提升了2.61 倍。據了解…
生命科學領域,已經率先進入到基礎模型時代!今年,化學諾貝爾獎授予了 AlphaFold,AI+Science 受到空前的關注。人們驚歎于,僅僅是一個蛋白質結構預測模型,就能釋放出如此巨大的行業潛力。就在當下,在第三屆中國生物計算大會上,全球規模最大的生命科學基礎模型橫空出世——xTrimo V3,參…
近日,# 廣東 7 天新增 1785 例登革病例 # 的新聞沖上熱搜,引發廣泛關注。多個省份的疾控中心發出警報,提示大家警惕輸入性病例的風險,需要額外注意,深圳疾控更是緊急提醒「吃布洛芬會更嚴重」。圖源:微博截圖那麽,登革熱到底是一種什麽病?爲什麽吃布洛芬會更嚴重?登革熱是什麽?登革熱是一種流行性疾…
我們經常看到武俠片裏高手開打之前都要把手指捏得咔咔響,表示自己的拳頭很 " 硬 ",日常生活中也有些人喜歡掰自己的手指關節,尤其是那些幹活多或者經常敲鍵盤、寫字的人,手指會很酸,那放松的方法自然就是掰一掰。但是,也有長輩說:" 經常掰手指,以後會得關節炎的!" 那麽,這樣做對手指究竟有沒有危害?掰手…
徐州這座城市,有着絕無僅有的兼容并包之氣。它冬天要開暖氣,夏天要開空調,既有着江浙滬的細膩靈動,也有着華北平原的豪爽雄邁,既有着重工業化的現代之風,也有着湖山一體的古典之韻。它在中國之中,是兩漢之都,五省通衢。曆史上,這裏一次次成爲開啓了變革之先河。而在今天數智化的浪潮裏,我們也希望能在以徐州爲代表…
toC 先走海外,國内聚焦 toB。這是大模型初創六小強之一零一萬物最近宣布的戰略轉向。就在今天,零一萬物舉行了一場 toB 戰略發布會,會上表示,零一萬物堅決走讓用戶産生價值的路線。李開複博士表示:" 今天不多談對 AI 2.0 時代的認知,更多的要看到它的商機在哪裏。"該公司宣布了在 toB 層…
今天,達摩院發布名爲 " 八觀 " 的氣象大模型,預測時空精度最高可達1 公裏 × 1 公裏 × 1 小時。什麽概念?俗話說 " 十裏不同天 ",換算下也要 5 公裏。預測範圍精準到每平方公裏,大概也就是一個大型小區、大學校園的占地面積。露天演唱會被突如其來的大雨殺個措手不及?觀衆毫無準備變成落湯雞…
如今,學校裏的學生遊戲越來越花哨,但其中一些卻具有很高的危險性。最近,湖南益陽的家長們十分焦慮,因爲一款名爲 " 夢回大唐 " 或 " 死亡三秒 " 的 " 極限挑戰 " 遊戲悄然流行。△視頻截圖來源 / 長城新媒體有家長反映,孩子玩完後直接暈倒,伴随尖叫和冷汗,第二天出現頭痛和頭暈,吓壞了家長。這…
自從年紀越來越大,我發現原來命運饋贈的禮物早已在暗中标好了價格。松垮、皺紋、幹燥,一個都不落地組團找上門來。想說去機構做點變美動作吧,銀行卡單方面表示吃不消……其實說難也難,說簡單呢,其實你需要的隻是找到:√成分靠譜√協同作用(非單一功效成分)√濃度到位(不标濃度的基本都超少)的安瓶精華!這款外号…
( ⊙ _ ⊙ ) 每天一篇全球人文與地理微信公衆号:地球知識局山東地下小金庫文字:林間草木聲 制圖:闆栗 / 校稿:辜漢膺 / 編輯:闆栗這兩年,山東在文旅界可謂大出風頭。淄博燒烤、宇宙中心曹縣、濟南超然樓、菏澤輪番走紅,各地遊人紛紛前去打卡。好客山東歡迎您(圖:圖蟲創意)▼其實幾千年來,山東一…
金色的秋天,有一種 " 蔬菜中的黃金 " 正在上市,它就是南瓜。老南瓜味道甜潤、水分足,貝貝南瓜綿密軟糯,一口咬下去,秋日的氣氛感滿滿~不過,相比于其他葉菜,南瓜在 " 蔬菜界 " 的 " 短闆 " 還是比較明顯,碳水化合物含量高、熱量高,吃多了容易熱量超标。如果做成奶油南瓜濃湯、鹹蛋黃焗南瓜等,那…
在生活中,你是否曾聽過這樣的說法:" 都抽了這麽多年煙,現在戒還有意義嗎?"其實,無論多少歲,戒煙這件事永遠不會晚。無論是年輕人、中年人,還是老年人,戒煙都能給身體帶來明顯的健康改善。圖庫版權圖片,轉載使用可能引發版權糾紛到底多少歲戒煙最好?其實,無論在哪個年齡戒煙,都能讓你的身體受益。年輕時戒煙可…
"銀泥燒出象牙白,凍玉凝脂總不如"說的就是德化白瓷。@果殼市集實拍它的花瓣像蟬翼一般薄,細微之處透着微光卻嚴絲合縫,一點縫隙都沒有。@果殼市集實拍從色澤到形态,裏裏外外都透着一個真,片片花瓣自然伸展,好似桌上擺了一朵真的花。"雙花置于手,安能辨我是瓷花"@果殼市集實拍2006年,德化白瓷燒制技藝列入…
不知道從什麽時候起,吃播開始流行吃一個很多人從沒見過的玩意兒——蝦怪。稀奇古怪的殼,配上一對大鉗子和一個肥嘟嘟的尾巴,主播們一口一個" 蟹黃味,賊拉鮮 "。能看出是海鮮,但從來沒吃過。這蝦怪到底是啥啊?網上很多人嘗試蝦怪 | 截圖來自小紅書蝦怪是啥 長得又像蝦又像蟹的蝦怪,實際上是一種大寄居蟹…
總覺得同事在暗諷自己,卻苦于找不到證據。總覺得伴侶話裏有話,對方卻死不承認。總覺得朋友在内涵我,但卻又會懷疑自己是過度敏感。……相信不少人有過這樣的經曆,别人随口一句簡單的話,就能在你的腦海裏掀起千層浪,自動把自己和對方代入宮鬥劇或宅鬥劇的情景腳本,上演一出接着一出的内心大戲。隻要交流,就仿佛置身于…
最近一段時間,AI 領域被談及最多的關鍵詞是 " 推理大模型 "。今年 9 月,OpenAI 發布了 o1 大模型,這種具有 " 慢思考 " 能力的大模型最大特點是能夠推理複雜的任務,可以解決科學、編程、數學等領域更爲複雜的問題。它的出現,讓推理大模型成爲 AI 發展進程中的全新可能性,業界普遍好奇…
視覺語言模型(如 GPT-4o、DALL-E 3)通常擁有數十億參數,且模型權重不公開,使得傳統的白盒優化方法(如反向傳播)難以實施。那麽,有沒有更輕松的優化方法呢?就在最近,卡内基梅隆大學(CMU)的研究團隊對于這個問題提出了一種創新的" 黑盒優化 " 策略——通過大語言模型自動調整自然語言提示詞…
ControlNet作者 " 敏神 "(張呂敏),剛剛上新了一個新項目——名叫IC-Light V2,可以說是把AI 打光這事兒玩得溜溜的。IC-Light 是此前張呂敏開發的圖像處理工具,可以通過 AI 技術精确控制圖像中的光照效果。而此次的 V2 版本則是一系列基于FLUX的 IC-Light…
" 我買問界的理由,是因爲孩子坐上去之後就不想下來了。" 成年人還要權衡利弊,小孩子隻在乎體驗好壞。在汽車産業 " 新四化 " 不斷深入發展的今天,座艙的智能化程度和差異化,不僅是主機廠競争的新賣點,也是消費者購車的重要決策因素。而鴻蒙座艙,出道就是智能座艙的體驗 " 天花闆 ",已經成了智能汽車市…
一方面,各家都在想盡辦法講好 AI 故事。一位 CEO 在發布會後采訪時就特别煩惱,"AI 要講場景,不講場景用戶沒感覺,明年我們還要上很多新功能,發布會的兩個小時根本講不完 "。這是手機 AI 越來越完善的一面。但同時我們也發現,大家手裏的牌其實都差不多,很少有哪家能靠一個或某個 AI 功能,就形…