OpenAI 用 o1 開啓推理算力 Scaling Law,能走多遠?數學證明來了:沒有上限。斯隆獎得主馬騰宇以及 Google Brain 推理團隊創建者 Denny Zhou 聯手證明,隻要思維鏈足夠長,Transformer 就可以解決任何問題!通過數學方法,他們證明了 Transforme…
OpenAI 用 o1 開啓推理算力 Scaling Law,能走多遠?數學證明來了:沒有上限。斯隆獎得主馬騰宇以及 Google Brain 推理團隊創建者 Denny Zhou 聯手證明,隻要思維鏈足夠長,Transformer 就可以解決任何問題!通過數學方法,他們證明了 Transforme…
新型圖基礎模型來了——AnyGraph,基于圖混合專家(MoE)架構,專門爲實現圖模型跨場景泛化而生。通過 MoE 架構、路由算法、SVD 方法和 MLP 網絡等,AnyGraph 解決了跨域和域内圖異構性問題,并進行了高效跨域模型訓練。能夠精準建模多樣化的結構模式和特征空間。在38 個不同領域數據…
© Brad Wilson利維坦按:去年年初,由于乳腺上的腫瘤手術後擴散,我家的一隻老貓離世。早在死前的幾周内,她就基本很少進食了,常常縮在一個角落裏睡覺。那天我起得很早,發現她呆坐在牆邊,身體微微發抖。大概幾十分鍾後,她忽然蹒跚着起身朝陽台走去,我覺得有些不對勁,就跟了過去,随即看到了終生難忘的…
南方的油皮和痘肌女孩,你們還好嗎?北京今年雨水多的啊,熱乎乎,潮乎乎,渾身黏糊糊,讓我體驗了一把南方小夥伴們蒸桑拿的濕熱,我這個大油皮也進入了困難模式。高溫刺激着油脂瘋狂分泌,早上出門沒一會兒就油光滿面,一到下午就撞臉豬剛鬣,睡前剛洗的頭,早起劉海就打了绺 ......來不及代謝的油脂、廢舊角質堆積…
大家好,這裏是環境小喇叭欄目的第 18 期。這一期,我們爲大家搜羅了以下值得一看的環境研究和新聞:1)希臘幹旱,水下村莊重出水面2)把湖染成粉色!竟然是爲了科學……3)中秋月餅,用空氣做的?4)鐵打的泰坦尼克号,快要消失了5)汽車也要無線充電?充電樁:我自由啦!希臘幹旱,水下村莊重出水面前有龐貝古城…
北大校友打造的 1000 個智能體「我的世界」,火爆 AI 圈!随便一條推文,都能引來幾十萬網友圍觀:在這裏,有着真正意義上的虛拟社會,包括文化、經濟、宗教……每個智能體在GPT-4加持下,都是社會中獨立自主的個體。比如這位名叫Olivia的農民,受探險故事啓發,曾中途決定撂下鋤頭去闖蕩江湖…它們以…
在2000年出版的《劍橋世界食物史》(The Cambridge World History of Food)中,記載了一則轶事:1728年,意大利學者雅可布·貝卡利(Jacopo Beccari)宣布,發現白面粉中存在具有"動物物質"全部特性的東西。他的處理方式,是将和好的生面團在水中揉搓清洗,除…
近日,中國石油天然氣集團有限公司官網報道,截至 2024 年 9 月,位于鄂爾多斯盆地的長慶油田,累計産出油氣量突破 10 億噸,如果将這 10 億噸的油氣當量轉化爲原油,相當于 80 個西湖的容量。長慶油田 95% 以上的儲層屬于世界級低滲透油氣藏," 低滲透 " 是指油氣在地下的滲流能力非常差,…
比LoRA更高效的模型微調方法來了——以常識推理爲例,在參數量減少 8~16 倍的情況下,兩種方法能達到相同效果。新方法名叫LoRA-Dash,由來自上海交通大學和哈佛大學的研究人員提出,主要針對特定任務微調模型往往需要大量計算資源這一痛點。研究完成的主要工作是:對高效微調過程中的 TSD(Task…
自從Ilya Sutskever的名字出現在 OpenAI o1 背後團隊名單中,他在 o1 中發揮了哪些作用,一時間成爲不少網友的關注焦點。這不,機器學習工程師 Rohan Paul 剛剛發帖表示,去年 5 月份 Ilya 合著的一篇論文不能錯過。論文題爲 "Let ’ s Verify Step…
提及無人機,我們腦海中往往浮現出它們在廣闊天空中自由翺翔的畫面。然而,有一個特殊的領域正等待着無人機去探索,那就是深邃而神秘的隧道。在隧道中,衛星信号被屏蔽,傳統的導航方式失去了作用,這就如同讓無人機在黑暗中迷失了方向。但科技的力量是強大的,隧道無人機的無衛星信号自主導航技術,如同爲無人機裝上了一雙…
每逢中秋,賞月都是必不可少的環節。月亮不僅在中國傳統文化中有着團圓、思鄉、美麗、純潔等美好的意象,在科研人員的眼中,它同樣有着巨大的吸引力。作爲地球的天然衛星,人類空間探測的第一站,我們渴望解開它的誕生、它的地質演化過程等謎題。想了解遠在三四十萬千米之外的月球,實非易事。過去,人類對月球的認識和了解…
( ⊙ _ ⊙ ) 每天一篇全球人文與地理微信公衆号:地球知識局NO.2676- 中國人湧入土耳其文字:那日蘇 制圖:闆栗 / 校稿:辜漢膺 / 編輯:闆栗今年,外國人來中國旅遊的 China Travel 非常火爆,144 小時過境免簽的政策吸引了大量來華的外國遊客。那麽,中國遊客現在出國喜歡去…
字節和浙大聯合研發的項目Loopy火了!隻需一幀圖像,一段音頻,就能生成一段非常自然的視頻!研究團隊還放出了 Loopy 和同類應用的對比視頻:網友下場齊誇誇:Loopy 背後的技術有點牛哦!感覺互動媒體有新未來了!前途無量奧!真這麽牛?咱們一起來看一下!Loopy 的生成效果研究團隊放出了一些 D…
( ⊙ _ ⊙ ) 每天一篇全球人文與地理微信公衆号:地球知識局大西南 小三亞文字:绯紅之豬 制圖:闆栗 / 校稿:辜漢膺 / 編輯:闆栗" 艱苦創業、無私奉獻、團結協作、勇于創新 ",這是上世紀六七十年代一句非常流行的口号,在這句口号的感召下,無數人奮戰在西南内陸的深山峽谷中,一座重工業城市拔地…
很多曬成炭的姐妹們問,怎樣才能快速得白回來? 大多數人都覺得面子比較重要,于是臉上花了大價錢去保養," 臉面 " 倒是保住了,但身體和臉的色差,漸漸變成了兩個圖層……一塊白的,一塊黑的,怎麽看怎麽割裂。經過一個大夏天的紫外線,相信很多隻注意臉部防曬的朋友,都出現分隔色了。對我們這種常年戴手表人士來說…
設想一下:時間快進到本世紀末,人類對環境的忽視和破壞讓全球升溫突破 3 ℃。洪澇、幹旱、風暴和不斷上升的海平面,一場氣候大災變最終徹底改變了世界。崩潰的生态系統,讓我們被迫重新适應後氣候變化時代,當人類不得不置身于新的地球生态系統中,許多新職業也應運而生……這是「災變紀元——升溫 3 ℃的生存法則」…
如今,中國沙塵暴近一半的沙源都來自蒙古國但受害最深的,還是蒙古國自身沙塵暴破壞草場、擴張沙漠實際上變成了 " 可持續的惡性循環 "這麽大的鍋,找誰來背呢?首先,可以賴天災賴幹旱燥熱的蒙古高原和全球變暖但自然條件差隻能背一部分鍋實際上,蒙古國的環境是在近四十年内才逐漸走向崩潰的與之同步的,是農牧業的竭…
2019 年,一頭疑似俄羅斯間諜的白鲸吸引了全世界的目光:它身上不僅有着疑似軍方裝備的背帶,還十分親人,行爲和習性與正常白鲸不太一樣。然而,就在 8 月 31 日,這頭備受關注的 " 間諜鲸 " 突然離世了 ......被昵稱爲 Hvaldimir 的白鲸,于 8 月 31 日被發現死亡| Jorg…
Mistral 的多模态大模型來了!Pixtral 12B正式發布,同時具備語言和視覺處理能力。它建立在文本模型Nemo 12B基礎上,包含一個專門的視覺編碼器。大概 24GB,原生支持任意數量和尺寸的圖像,大約有 40 層神經網絡、14,336 個隐藏維度大小和 32 個注意力頭,以及一個專用的視…
想象一下當你躺在沙發上,隻需要不假思索地說出指令,機器人就能幫你幹活,是不是聽起來就十分惬意?如今這種科幻電影中的場景正在變爲現實,來自北京大學的助理教授、博士生導師董豪團隊近日提出首個通用指令導航大模型系統 InstructNav。不論是尋找物體,走到指定位置,還是滿足抽象的人類需求,隻要你說出指…
在 2021 年世界互聯網大會烏鎮峰會 " 世界互聯網領先科技成果發布活動 " 上,記者就 5G、6G 相關技術發展現狀及進展情況,專訪了中國工程院院士、北京郵電大學教授張平。作爲無線移動通信專家,張平院士長期緻力于移動通信理論研究和技術創新,他曾提出适應于高速寬帶的移動通信傳輸及組網技術,研制出首…