新智元報道
編輯：編輯部
【新智元導讀】兩年内全球科技行業 40 萬人被裁，2023 大廠求職繼續爆冷。然而這位 UC 伯克利博士卻祭出求職經，LLM 博士年薪 620 萬起步。
國外的科技行業工作者，日子也并不好過。
在 2022 和 2023 年，全球的科技公司總共裁掉了超過 40 萬人。
裁員的公司幾乎囊括了科技行業中的各個賽道。
剩下的工作崗位，競争越來越激烈。找一份技術工作，仍然是一場噩夢。
科技行業求職：一團糟
花費數小時修改簡曆，再奔赴幾十場面試，招聘會成爲了一場饑餓遊戲。
如今在科技行業找工作，真心沒那麽容易。
在過去的一年裏，這個曾經永不沉沒的行業，迎來了一次大清算。
根據追蹤科技行業裁員情況的網站 Layoffs.fyi 報道，2022 年和 2023 年，全球科技公司裁員已經超過 40 萬。
在裁員一年後，很多求職者仍然面臨着嚴峻的就業形式。在這個曾經意味着高薪、豐厚福利的有保障的行業裏，他們必須奮力厮殺，去争奪變得更少的崗位。
在線就業市場 ZipRecruiter 的首席經濟學家 Julia Pollak 表示，科技就業市場目前還沒有顯出任何好轉的迹象。
在新冠疫情發生以前，以及疫情期間，信息行業一直都在保持增速。
然而，在過去一年裏，整個行業的工作崗位卻減少了 2.5%。
這也就意味着，更多的人會在同樣的崗位上待更長的時間，晉升的機會也被扼殺了。
當然，在傳統科技行業之外，政府和醫療保健領域仍然需要技術人員，隻不過，這裏的薪水不會太高。
Meta 谷歌亞馬遜，裁員數萬
最近幾個月，Meta、谷歌和亞馬遜等大型科技公司，裁掉了數萬人。許多公司也随之凍結了招聘。
谷歌，Meta，X（Twitter）3 家公司從去年底到今年裁員就接近 4 萬人
Meta 最近重新雇用了數十名去年 11 月裁掉的員工，然而，與去年秋天裁掉的 1.1 萬人相比，這隻不過是杯水車薪。
而且重新招聘回去的人員，也要接受不同程度的調崗調薪。
今年，Meta 又在專注于元宇宙的 Reality Labs 部門裁掉了 1.2 萬人。
在疫情嚴重的 2020 年，Meta 曾經大肆招人，以至于招聘的人數遠遠超過了所能承受的範圍，而 Meta 的員工們正在爲此付出代價。
高通再啓大裁員，超 1200 人被裁
而且，裁員大潮依然還在科技行業全行業内持續。
就在 10 月 12 日，芯片巨頭高通宣布計劃裁員 1258 人。高通在 9 月時共有約 51000 名員工，這次裁員的比例約爲 2.5%。
在這之中，高通的工程團隊将裁員 750 多人，影響範圍包括從高管到技術人員等多個級别。
與 2022 年的支出相比，高通在今年已将成本基礎削減了約 5%。而裁員，便是行之有效的措施。
每年，高通都會有數十億美元的營收。考慮到全球智能手機銷量的下降，業内預計高通今年的營收可能會縮減約 19%。
「男性」求職者，蜂擁到「女性」招聘會
科技市場的長期低迷，正在滋長着一股焦慮。
9 月的 Grace Hopper 大會，原本是爲女性和 non-binary 的科技工作者舉辦的年度會議及職業招聘會，卻有一群看起來是男性的求職者蜂擁而至。
可見計算機科學專業的學生在完成學業、準備找工作時，是有多麽焦慮。
Kari Groszewska 是範德比爾特大學計算機科學和經濟學專業的大四學生，她也參加了這次 Hopper 會議。
當她提前 15 分鍾到達博覽會大廳，卻發現與等着和公司交談的求職隊伍已經排了幾個小時。
跟前一年相比，今年的形勢明顯非常嚴峻。這讓 Groszewska 感到非常沮喪，因爲她明年畢業，但現在還沒找到工作。
爲了求職，Groszewska 在學習計算機專業期間，做了一切「正确的事情」，包括自己做項目、争取實習、參加俱樂部。
然而，即将進入的就業市場，卻顯出了無比殘酷的一面。
失業者壓力重重
而其他失業和無業者，都已感受到了巨大的壓力。
Nia McSwain 學的是酒店專業，但她想轉行進入科技行業，成爲項目經曆。
在過去一個月裏，她從早到晚地投遞簡曆，大概每天要申請 40 個崗位。
全棧工程師 Philip John Basile 在 5 月離職了，從 8 月開始，他一直在找新工作。
過去一個月裏，他平均每天都有 3 場面試，似乎有幾次已經接近被錄取，卻始終沒有收到 offer。
Basile 主要通過 LinkedIn 和 Discord 來建立關系網。他從前認識的許多 HR 都失業了，所以他不得不努力建立新的關系。
Basile 還在利用空閑時間，研究現在那些火爆的 AI 工具，不斷調整自己的簡曆——從 10 頁減到 2 頁，然後又增到 24 頁。
現在工作機會，然而找工作的人更多。所以，Basile 希望盡量做到獨一無二。
用他的話說，就是「如果要和一千個人競争，你就必須在這一千個人中脫穎而出。」
裁員給在美國的外國務工者也帶來了很大壓力，在失去工作後，他們需要盡快找到下一份工作，才能留在美國。不過數據顯示，許多人都能在下崗後找到新工作。
而在緊缺的市場中，勞動力的供應是充足的——截至 7 月 31 日，今年美國的 H-1B 簽證申請已經提交了約 78 萬份。
這一數字比前一年增長了 60% 以上，以至于讓相關機構不得不懷疑是不是有人在重複提交申請。
要知道，每年 H-1B 的發放上限，是 85000 個。
薪資中位數 7.9 萬刀，但小白免談
而職場小白想找到工作，也變得更難了。
勞動力市場分析公司 Lightcast 的高級經濟學家 Rachel Sederberg 發現，招聘入門級員工的職位明顯減少，現在各大公司都傾向于招有經驗的員工。
這也導緻了美國科技行業招聘崗位的薪資中位數從一年前的 6.1 萬美元，躍升至今年秋季的 7.9 萬美元。
Sederberg 表示，很多公司在調整戰略，重組規模，然後重新招聘。現在，很多公司在招不同背景的人才。
有趣的是，ChatGPT 也起到了一些作用：求職者在用類似的聊天機器人寫簡曆和求職信，這樣就能在更短時間内申請更多的工作。
然而，這也給招聘人員帶來了一些困擾，他們需要更仔細地篩選。
産品經理 Kimi Kaneshina 失業後，現在每天朝九晚五的時間都花在了求職上，之後還會上傳記錄自己求職過程的 TikTok 視頻。
她從 7 月就開始求職，在 9 月份投遞了更多的簡曆，然而三個月過去了，她還是沒能找到新工作。
盡管如此，這種轉變也給科技界帶來了積極的變化。
人們開始在 LinkedIn 和 TikTok 上公開發布自己被裁員的消息，相互建立聯系，包括去聯系理想公司的員工。
由于被裁的人實在太多，談論裁員也變得更容易接受了。
Kaneshina 說：有 HR 告訴我，自己面試的求職者中，有一半都被裁員了。
現在，即使說出這種話，也可以不帶任何恥辱感了。
AI 研究工作市場，博士年薪 620 萬
雖然就業市場哀鴻遍野，但有技術的大牛依然不愁高薪的工作，甚至還能在各大廠和巨型獨角獸之間「挑挑揀揀」。
最近，一名 UC 伯克利的博士生 Nathan Lambert，也分享了現在 AI 就業市場的亂象，以及自己找工作的經驗。
市場上有很多工作，但是找到一個讓人快樂的公司和以前一樣難。
Nathan Lambert 最近剛剛離職 Huggingface，并組建了 RLHF 團隊。
他表示，人工智能就業市場不穩定最主要的「催化劑」，就是對生成式 AI 的投資。
其實，生成式 AI 和大模型領域的工作機會非常多。許多想要招聘的人都在爲，如何招到自己想要的人而倍感壓力。
很多大公司想要招在 LLM 領域的人，但市場卻沒有足夠的技術人才。
研究人員一舉一動都在無聲地向我們證實，AI 公司需要研究人員來完成從概念到實驗，再到産品的轉變。
正是這些人，才得以讓模型訓練、産品決策與公司發展策略保持一緻。
接下來，就要談談研究人員獲得的報酬了。
大多數人，即除了站在學術頂端之外的所有人（他們的報酬仍然很高，隻是沒有那麽高），都在可預見的未來獲得大部分有保障的巨額報酬的機會，與「即使我的初創公司失敗了，我也至少能賺幾百萬」的想法中做出權衡。
在這個人工智能主導市場中，每個人都希望賺大錢。
這種「追求淘金熱」的想法，導緻人們意向的工作機構發生了很大的變化。許多公司的人員流動率，以及自然減員率都很高，以至于每個人都感到不安。
這樣情況已經不足爲奇，大型科技公司裁員潮最爲明顯，但也不局限在這樣的公司。
Nathan Lambert 稱，自己見過頂尖研究人員加入不同的公司，但在 6 個月内就離職了。
優秀博士能拿 85 萬刀（約合 620 萬人民币）
我們剛剛談論的薪酬數字，是指 OpenAI 支付給頂級研究人員 100 萬美元。
在 ChatGPT 發布之前，剛畢業的博士生最高能拿到 50-60 萬美元的薪水。
而現在，最優秀的博士生能拿到 85 萬美元（這是今年早些時候的一些數據）。隻要在求職中願意表達對生成式 AI 較爲模糊的興趣，其他人都能以這個薪資起步。
谷歌的招聘是該領域的一個很好的指标。
衆所周知，谷歌 DeepMind 将所有項目分爲三類：Gemini（即将要發布的大模型）、與 Gemini 相關的應用研究（6-12 個月）、基礎研究（超過 12 個月）
谷歌 DeepMind 的所有員工都負責前兩類，其中大部分屬于第一類。
在大廠 Meta 中，也有了另一種劃分優先級的方式。
借用 Llama 團隊中某人的話說，Meta GenAI 團隊中的每個人，都應該把大約 70% 的時間用在增量模型改進上，30% 的時間花在長期基礎工作上。
恰恰，這與作者的想法比較一緻，但我們很可能會知道 Meta 正在哪些支柱領域（LLM、文本到圖像、音頻等）開展工作，而且他們會快速推動這些模型。
從結構上看，以「開放研究和科學」爲優先級的公司極爲罕見。即使有人以學術型研究科學家的身份加入，現實總是會将人們拉入商業需求中（尤其是在初創公司）。
在所有生成式 AI 投資中，最讓作者感到興奮的是，Transformer 架構将比過去的大多數想法走得更遠。
将一群興趣相投、背景各異的頂尖人才聚集在一起，是确保我們挖掘 Transformer 最大潛力的絕佳方式。
學術界仍然舉足輕重
在 GenAI 革命中，學術界仍将發揮重要作用。
比如，由 UC 伯克利、UCSD、CMU 和 MBZUAI 等機構共建立的 LMSYS，不僅訓練出了紅極一時的 Vicuna 模型，而且還制作了相關的推理和訓練庫，收集了大量模型比較數據，并設計了一個後來被廣泛使用的基準測試等等。
所有這些工作本身都很有影響力，即便其中隻有一部分發表了論文。
與此同時，像 EluetherAI 和 LAION 這樣的研究組織也取得了相當可觀的進展。
如果以 arXiv 論文的數量來衡量，RLHF 研究的速度自 8 月份以來，已經有了明顯的提高。
求職經曆
在職 1 年半，作者剛剛結束了在 HuggingFace 的工作。
他發現，在這裏爲自己的工作獲得知名度，比做好工作更難。
以下是他本人在工作中總結的重要經驗：
- 如果你不主動宣傳和交流自己的研究，别人也不會這樣做。然而人們不喜歡這樣的現實。
- 開源發展非常快，因此需要聰明的領導者，以最大限度地發揮集體的力量。
- 開源 ML 還處于早期階段。我們正在弄清楚做開源 ML 意味着什麽，OSS 将永遠改變。
- 開源在多樣性方面取得了成功。僅僅因爲有人在嘗試類似的東西并不意味着你應該停止。
- RLHF 還未被充分開發。
對于 HuggingFace 這樣的初創公司的對外媒體策略，他也是又愛又恨。這樣的公司知道，如何幫助自己在公衆輿論中成長，這一點是很重要。
Nathan Lambert 知道這次工作變動即将來臨，所以需要了解工作市場。他在博士畢業時寫過一篇關于求職的文章，也頗受歡迎。
其中，關于建立人際關系網、主動出擊、提高知名度和積極進取的價值觀都适用。
這作者着所做的具體工作，主要圍繞一個高度專業化和需求旺盛的 AI 領域，但目标更加明确——找到一個能讓自己繼續學習 RLHF（科學和工程系統）的地方，而且這個地方足夠開放，并可以繼續進行播客。
他表示，自己不想成爲任何創始人、創始工程師、大公司的齒輪等等。
在篩選公司名單時，作者 pass 掉了蘋果、波士頓動力人工智能研究所、以及與許多初創公司等。
作者認爲，即使是那些覺得與自己很有共鳴的公司，他也發現這些人都很難清楚地表達「我到底要做什麽」。
今年上半年，作者剛剛爲建立 RLHF pipeline 付出了巨大的努力，現在即将要重新開始，這并不令人興奮。
不管怎麽說，事實上，大多數人都不知道「你現在要做什麽」，你仍然無法百分之百地選擇自己的方向。
這樣一來，選擇其實就不多了（根據學術性從高到低排序）：
Cohere for AI（現場面試後被拒絕）
入職後，他會加入一個小團隊，負責強化學習方向。
公司特意組建了一個小團隊，爲想發表論文的 Cohere 工程師提供機會。團隊中的每個人都很優秀，作爲遠程工作來說非常不錯。
不過，考慮到在 Hugging Face 的經曆，作者很難加入這樣一個對公司的産品和發展不重要的團隊。
艾倫人工智能研究所（AI2）（offer）
能拿到 Offer，是作者沒想到的。
艾倫 AI 研究所曾是介于谷歌大腦和學術研究小組之間的一個組織，現在則轉向了工程學方向，發展大語言模型。
他們在咨詢、工程、自主研究等方面表現得有些含糊，但對于發展 NLP，則有着堅定的承諾。
後來作者意識到，他們需要有人來幫助理解 RLHF。
Scale AI（口頭 offer）
這家公司正轉向 RLHF 和訓練後的研究領域，作爲 LLM 訓練公司的專業數據提供商，他們的業務正在大幅增長。
入職後，你可以做一些研究，在從事 RLHF 研究的人中可以獲得最多的數據。有時，也可以幫客戶做些集成，并建立實驗室。
理論上，這是作者面試過的最令人興奮的地方。但因爲某種原因，他覺得與自己交談過的人中，并沒有誰引起自己的強烈共鳴。
有時候就是這樣，并不是所有優秀的人都能在一個團隊中共事。
Mosaic，現在的 Databricks（offer）
就像每家初創公司一樣，Mosaic 希望讓 RLHF 簡單易用，發揮影響力。
這裏團隊輸出非常穩定，并繼續向公衆發布一些模型，或者論文。
然而，作者擔憂到，由于公司剛被收購，未來在開源上的動力可能不足。
Meta，Llama 團隊（現場面試後被拒）
在最先進的開源模型公司工作一段時間，大家都有這樣的想法。
不過讓 Lambert 爲難的是，他不願意加入大公司、大團隊。
但如果關心開源技術，顯然去 Meta 是一個很好的選擇。
谷歌 DeepMind（已撤回）
谷歌正在到處招聘 RLHF 的人。這裏的資源和基礎設施都無與倫比，但谷歌是 Lambert 接觸過的最封閉的公司，你得費很大勁才能了解自己進去要做什麽。
幾個團隊大多有自己的專長領域，正在研究如何改進該領域的工具。
作者接觸過的兩個團隊，分别做的是多模态 RLHF 和 LLM Agent。
但在他看來，這種模糊性會讓谷歌的 offer 遠不如像 Llama 團隊那樣吸引人。
Contextual AI（口頭 offer）
在 Lambert 接觸過的許多初創工中，他們做事的方式都很合理、很親民。
但在作者看來，建立一個有生命的企業，不僅僅是投擲收購的篩子，也需要推遲建立以客戶爲中心的企業文化。
Contextual 爲作者提供了一個不錯的技術人員 + 科學傳播者職位。
如果辦公地在舊金山，通勤時間不長，倒是有可能會接受 offer。
另外，作者從最初就沒考慮過面試 OpenAI，因爲他們不缺 RLHF 專家。
輕量級面經
Nathan Lambert 表示，自己經曆的面試都非常輕松，更多的是研究聊天，一些編碼測試。
如果想找一份 LLM 方面的工作，大部分問題都會與各種内部組件的功能相關。比如：
- 注意力在實現層面是如何工作的。（可以參考 nanoGPT 等資料）
- 多 GPU 訓練的基礎知識，估算 VRAM 使用量，通過超參數來減小模型的占用空間（例如量化）。
- 正則化工具，如批量歸一化、權重衰減等。
除了技術之外，還需要根據公司的具體情況，闡述自己在加入之後能貢獻些什麽。
此外，很多公司都會查看簡曆上列出的 GitHub 倉庫和 HuggingFace 工具，這可能比複雜的研究項目更容易談論。
參考資料：
https://www.wired.com/story/tech-jobs-layoffs-hiring/
https://www.interconnects.ai/p/ai-research-job-market
https://siliconangle.com/2023/10/12/qualcomm-says-will-lay-off-1200-staff-california/
