作者| Z Financec
來源 | 管理智慧
咨詢合作| 13699120588
文章僅代表作者本人觀點，圖片來源于pixabay
圖片來源：YouTube/Aspen Ideas Festival
1.AI 時代的到來與挑戰：微軟 AI CEO Mustafa Suleyman讨論了人工智能的快速發展和它所帶來的挑戰，包括技術進步速度超出人們預期，以及 AI 系統在日常生活中的日益普及。
2.監管的必要性與誤區：Mustafa 強調了 AI 監管的重要性，反駁了監管即束縛的觀點，并通過曆史案例展示了監管如何促進技術發展和社會進步。
3.AI 與知識産權的複雜關系：采訪探讨了 AI 訓練數據來源的合法性問題，包括使用網絡内容作爲訓練材料時可能涉及的知識産權争議。
4.AI 的倫理與社會責任：Mustafa 讨論了 AI 在教育、社交媒體以及社會治理中的角色，強調了在設計和部署 AI 系統時需要考慮的倫理和社會影響。
5.AI 技術的未來發展與人類價值觀：文章最後探讨了 AI 技術如何塑造我們的未來，包括對民主、隐私、反壟斷法規的影響，以及 AI 在教育和國際關系中的潛在作用。
在這場 AI 時代變革中，我們身處哪裏？
主持人：大家早上好，很榮幸能在這裏讨論 AI，未來的發展，現狀，挑戰，安全等諸多話題。我們今天的嘉賓，是 AI 領域的 OG 之一，Mustafa Suleyman，他是微軟 AI 的 CEO。他在這個行業前沿工作了十多年，在過去幾年我們才真正感受到 AI 的存在。他在 2010 年共同創辦了 DeepMind，後來在 2022 年被谷歌收購。他與 Reid Hoffman 共同創辦了 Inflection，并且最近将該公司并入微軟，目前負責微軟的 AI 項目。順便提一下，他的父親是一位出租車司機，母親是一名護士，現在來看他的成就，确實令人驚歎。非常感謝你來到這裏，這真的非常特别。讓我們從基本的問題開始。如果把 AI 比作一場棒球比賽，現在我們處在第幾局？我們在哪裏？因爲我想我們很多人都玩過 ChatGPT 和其他 AI 産品，我們都覺得自己了解它一點點。我們不斷談論 AI 未來對我們生活的影響，我們究竟處在哪個階段？
Mustafa：我認爲挑戰在于，我們人類充滿了各種偏見。回顧過去，一切顯得漸進而行，但實際上，當下的變化遠比人們意識到的要快得多。兩年前，沒有人談論"Agent"，也就是可以在你的世界中采取行動的 AI 系統。而今天，大家都很興奮，認爲在未來幾年 Agent 将無處不在，幫我們處理事情，組織我們的生活，優先考慮和計劃。四年前，沒有人真正讨論 LLM，而今天，人人都在談論 LLM。所以，這真的是一種非常超現實的體驗，在剛開始似乎不可能實現的技術，幾年後就成爲現實。如果你想一想，現在我們可以問這些聊天機器人任何你能想象到的問題，并得到的回答幾乎和我們在這個房間裏的任何一個人都不相上下。這很容易被視爲理所當然，但這是經過多年的逐步增強的能力、研究、實驗和測試的結果，總之，我認爲這創造了一種相當神奇的體驗。所以如果我展望未來十年，我感覺我們正處在這一時刻的開端。
圖片來源：ENTERPRISEDNA
主持人：我們都玩過 ChatGPT，但另一些人談到了 AGI，一個完全可以做任何事情和一切事情的AGI世界。這既是巨大的機遇，也是在很多方面人們擔心的事物。這在你的十年規劃中嗎？
Mustafa：我不認爲這樣框定問題是有幫助的。我們傾向于專注于超級智能，那種 AI 能夠做所有人類能做的每一項任務，并且做得更好。如果你真的要問我，我得說理論上這是可能的，我們也應該非常認真地對待與之相關的安全風險。我已經倡導 AGI 的安全和倫理近 15 年了，我真的非常關心這個問題。但人們往往把它看作是，首先它是不可避免的，其次是令人向往的，第三，明天就會到來。我認爲這些觀點都不正确。這是一項前所未有的技術，作爲一個物種，我們将不得不找到一套新的全球治理機制，以确保技術始終爲我們服務，使我們更健康更快樂，提高效率并爲世界增值。有一種風險是，本世紀我們開發的技術可能真的會造成更多的壞影響。這是進步的詛咒，我們必須面對這種現實。這些技術将廣泛傳播，每個人将有能力以以前無法想象的規模影響他人，這确實是一個治理的問題。
AI 監管是企業自我防禦的方式？
主持人：那麽關于這個問題，行業領袖，包括你和 Sam Altman 以及許多其他人主動自發地說過，我們需要監管，這項技術可能存在很多問題。這是獨特的，因爲很少行業有 CEO 會去找監管者說："請監管我們"。這是出于真誠自發的努力，還是出于一種保護性的努力？我們告訴過監管部門可能會有問題，我們知道你永遠不會監管我們，比如社交媒體的現狀。
Mustafa：我認爲這是一個錯誤的框架：這是否是一個真誠的努力還是關于監管俘獲的問題。
主持人：因爲如果真的有監管，我們會讨論那些被監管的部分以及如何監管，會突然出現很多反對的聲音。
圖片來源：PYMNTS
Mustafa：也許是因爲我是一個英國人，我不像大家那樣害怕監管。大家默認認爲監管是邪惡的。我認爲曆史上沒有一項技術沒有被成功監管過。看看汽車，我們自 20 世紀 20 年代以來就一直在對汽車進行監管，這一規律性不斷使汽車變得更好。這不僅僅是汽車本身，而是街燈、交通信号燈、斑馬線以及圍繞開發和駕駛汽車的安全文化。因此，這是一個健康的對話，我們需要鼓勵并停止将其簡單化爲一種"黑白分明"的問題。我認爲，技術人員、企業家以及像我和我非常喜愛的 Sam 這樣的公司 CEO，他們不是虛僞的，他們是真誠的。他們确實真心相信這點。這是非常棒的事情，我們應該擁抱這一點。當然，這會有一些負面影響，我不會否認，糟糕的監管可能會拖慢我們，讓我們失去競争力，給我們與國際對手的互動帶來挑戰，這當然不應該拖慢開源社區或初創公司。
主持人：讓我問一個更複雜的問題。微軟與 OpenAI 有很深的關系，這是微軟目前追求其 AI 野心的方式。我知道微軟在其他方面也有許多努力，我們稍後會談到這些。但你提到了 Sam Altman，他明天會在這裏演講。最近有很多頭條新聞提到，OpenAI 内部有一些安全團隊的成員不僅離開了公司，還公開反對公司采取的方針。我想讀一段其中一個離開安全團隊成員的話："這些問題相當難以正确解決，我擔心我們沒有走在正确的軌道上。"看到員工離開并公開談論公司内部情況是很不尋常的，你認爲發生了什麽？
Mustafa：我爲我們生活在一個鼓勵和支持舉報者的國家和科技生态系統而感到自豪。如果那些人覺得這是他們需要發聲的時刻，我贊成并支持他們。我個人對 OpenAI 取得的一切成就懷有極大的敬意。我認爲他們将成爲曆史上定義性科技公司之一，我真的認爲他們在真誠地應對快速推進技術和将安全置于首位的挑戰。他們一直在領導安全研究議程。明确一點，他們在發布論文、提交學術檔案、參加會議、提升這些問題的意識、開源安全工具和基礎設施方面一直走在前列。
主持人：當人們在讨論這一問題時，争論的焦點是什麽？是關于資源嗎？是關于投入安全問題的資金嗎？還是關于如何快速推進技術的心理和哲學問題？微軟在這場讨論中處于什麽位置？
Mustafa：我認爲聰明的人可以對同樣的觀察結果有誠摯的不同意見。例如，有些人看到我們目前的指數增長軌迹，他們會說，過去六年中我們每年在同一方法上使用了十倍的計算能力和數據，事實上，在過去的十年裏，每增加十倍的計算能力和數據，功能都會有非常可觀的提升。模型産生的幻覺更少，它們可以吸收更多信息，更多事實信息，它們可以整合實時信息，并且更易于風格控制，所以你可以從産品角度和模型的性格角度調整它們的行爲。那些最擔心這點的人認爲，在未來三到五個數量級的時間裏，可能是五年、八年，這種能力的提升軌迹不會減速，實際上隻會越來越好。反對的觀點是，我們實際上正在用盡數據。我們需要找到新的信息來源來學習，我們不知道它是否會一直變得更好。我們在科技曆史中多次見證過這種情形。所以，我認爲這是一場健康的辯論。
知識生産成本将趨近于零
主持人：你提到了"幻覺"一詞，任何玩過這些産品的人可能都經曆過機器産生幻覺的時刻。行業内的人常說，我們不能真正解釋爲什麽機器會産生幻覺，我們也不能真正解釋内部發生了什麽。你能解釋嗎？
Mustafa：我認爲我無法以一種讓你滿意的方式解釋。正如我也無法解釋你今天早上爲什麽選擇穿藍色襯衫。我能解釋的關于你或我的事情很少。對解釋的需求，我認爲，又是一種人類的偏見。當我問你爲什麽今天早上吃煎蛋，你可能會創造性地想出一個事後的解釋，而根據你的心情、情境和解釋的其他相關信息，你可能會稍稍不同地叙述。而且，這并不完全是因果關系。這在現實中有一定的依據，但這種一對一的映射是一種超理性的強加方式。而實際上我們不真的是那樣運作的。我們更是通過聯想做事。
主持人：我們應該擔心這一點嗎？我們自己都不能完全理解是一回事，但不能理解計算機的原理又是另一回事。大多數人認爲這一切都是一個大的數學問題，對吧？兩加二總是應該等于四。如果不等于四，我們需要搞清楚計算機哪裏出了問題，對嗎？
Mustafa：那不是人類推理和文化實際運作的方式。我的意見是，人類推理是行爲觀察的結果。當你持續做同樣的事情，我會信任你，你變得更可靠。當你告訴我你對某事不确定，然後我回頭看發現你的不确定判斷是正确的，這種不确定感給了我安慰，所以我通過觀察學習信任你并跟你互動，我認爲這是我們生産文化和社會的方式，也将是我們對待這些模型的方式。你知道，三個月前有一次放射科醫生的競賽。在現場環境中，幾十位最優秀的顧問與機器展開對決，顯然有很多懷疑，爲什麽機器能得出正确的癌症診斷？爲什麽它能正确地進行眼科檢查并識别出青光眼？我們可以提到一些它訓練所用的數據，但事實上，它做得比人類更準确、更可靠。我認爲我們應該依靠這些事實的實證觀察來信任這些系統。
主持人：你剛才提到的一件事是人工智能機器的訓練數據即将告罄，我們要讨論的是合成數據的概念，即幾乎是從不存在的數據中重新生成的數字數據。但我想先問一下關于現有數據的問題。顯然，長期以來的許多訓練數據都來自網絡，其中一些是開放網絡，一些不是。我們聽說 OpenAI 将 YouTube 視頻轉換爲文字記錄，然後用這些記錄進行訓練。知識産權應該歸誰所有，誰應從中獲取價值？從某種角度來說，人工智能公司是否實際上偷竊了世界的知識産權？
Mustafa：這是一個很公平的論點。我認爲對于已經在開放網絡上的内容，自 90 年代以來，這些内容的社會契約就是可以自由使用。任何人都可以複制、再創造和再生産。這已經成爲免費軟件的理解。還有另一類情況，即某個網站或出版商或新聞機構明确表示，除了爲索引用途以外，不要抓取或爬取其内容。這是一個灰色地帶，我認爲這将通過法律解決。
主持人：當你說這是一個灰色地帶時，這意味着什麽？
Mustafa：到目前爲止，有些人已經采取了這些信息，我不知道誰沒有，但這将通過訴訟解決，我認爲這是應當的。
主持人：你認爲知識産權法應當改變嗎？作爲一名作家，我可以去寫一本書，在寫書的過程中，我可以去圖書館或在亞馬遜上買 40 本其他書籍。我可以閱讀這些書籍，把它們列在我的參考文獻中，然後希望能寫出一本書，我隻需支付購買這些書的費用。也許圖書館已經買過這些書了。沒有人會想到我能每十秒鍾就生産一百萬本書。那麽這樣做的經濟學基礎是什麽？
圖片來源：emorybusiness
Mustafa：你知道，信息經濟學即将發生根本性的變化，因爲我們即将把知識生産的成本降到幾乎爲零。而這是人們很難直觀理解的事情。但在 15 到 20 年内，我們将以幾乎零邊際成本生産新的科學文化知識。這些知識将被廣泛開放源代碼，供所有人使用。我認爲這将是我們物種曆史上的一個真正的轉折點，因爲我們作爲一個人類共同體，本質上是一個知識生産引擎。我們的科學讓我們變得更好。因此，我認爲我們真正需要的是能夠加速發現和發明的新引擎。
主持人：好，現在讓我們來點哲學問題。因爲我認爲你提到了一個根本性的問題，那就是我們是誰以及我們是什麽？如果這項技術如你所願地成功，我們的價值是什麽？我有孩子正在上高中或初中，我們試圖弄清楚他們應該學什麽。他們應該怎麽寫論文？他們還需要學會寫論文嗎？
Mustafa：當人們問我孩子應該學什麽時，我會說要更多地利用數字化手段，盡快從其他人那裏學習，因爲傳統的教科書式學習仍然有價值，顯然也很重要，你能夠專注閱讀兩個小時，然後寫兩個小時的文章，這當然有價值。但我認爲，能講多種社交語言、能快速适應的通用技能将是最有價值的技能，對未來技術的開放态度以及不帶偏見或恐懼地擁抱技術也很重要。
主持人：順便問一下，你有孩子嗎？
Mustafa：還沒有。
主持人：我的問題是，對于在場的家長們，因爲你說我們應該擁抱這些東西，我擔心的一件事是，你是否認爲應該由政策來控制，比如微軟或蘋果，蘋果剛在他們的新手機上加入了 Apple Intelligence 功能，這些手機可以爲孩子們寫論文。孩子們會去學校，他們需要寫論文。他們真的會寫嗎？他們會不寫嗎？你認爲應該爲學生，更不用說成年人了，設置哪些工具或限制措施？
Mustafa：我們必須擔心每種工具的負面影響。就像計算器問世時，人們本能地反應是，"哦，不，所有人都會立即解所有方程，這會讓我們變得更愚蠢，因爲我們無法進行心算了。"部分是真的。自從我有了手機後，我的記電話号碼能力變差了。小時候，我能記住大概四五十個号碼。我的導航技能也可能不如過去，因爲我直接打開 Google Maps 或 Apple Maps。不過，盡管我們會有些改變，但總的來說，如果我們真正擁抱這項技術，并以敏捷的方式進行管理，這将非常重要。顯然，我們的一些孩子手機成瘾，他們花太多時間在社交媒體上，這讓他們感到焦慮和沮喪。所以我們必須确保我們在技術發展速度上以同樣快的速度做出幹預和治理。
大企業合作會壟斷市場？
主持人：現場有一些企業家，有些是從事數字領域的，有些是嘗試進入 AI 領域的，還有一些是正在考慮的。你會如何建議他們去哪裏，做什麽，在哪些行業或地方會有機會呢？在一個 AI 能夠随時爲我編寫所有這些應用程序和其他程序的世界裏，如果沒有防禦護城河來圍繞商業進行保護，AI 可以直接爲你做這些，人們還會投資什麽呢？
Mustafa：我認爲會産生一種分化現象。最大規模的企業擁有最強大的資本基礎，我們将生産出令人瞠目結舌的模型。同時，知識傳播速度比人類曆史上任何時候都要快。因此，開源模型在 18 個月内的質量和性能已經接近私有空間中的同類模型。這是一件非常重要的事情，我認爲這種趨勢會繼續。GPT-3 耗費了數千萬美元進行訓練，現在已經免費開放且開源。你可以在一台手機上操作，當然用筆記本也是可以的。GPT-4 也是如此。我認爲，這将使創意和創業所需的原材料比以往任何時候都更加便宜和更加可獲得。
主持人：我知道你在科技巨頭公司工作。讓我問你這個問題。你對科技力量的集中，尤其是與 AI 相關的，怎麽看？在這些大型 LLM 中，AI 需要巨大的計算資源，這意味着需要大量資金。因此，真正的力量實際上回到了微軟。你最終回到了微軟。還有谷歌。亞馬遜也在嘗試構建 AI。連原本獨立運作的 OpenAI，最終也選擇與微軟合作。這是好事還是壞事？Lina Khan 等人已經對此進行過審視。雖然沒有普遍的并購，但你如何看待這些合作本身呢？
圖片來源：Analytics India Magazine
Mustafa：是的，這讓我非常焦慮。事實上，到處都能看到迅速集中的現象，無論是在新聞媒體上，比如《The New York Times》、《The Financial Times》、《The Economist》這些大新聞機構，還是在城市中，權力集中在幾個大都市精英城市，還是在科技公司中。從實際情況來看，随着時間的推移，權力會持續累積。權力有吸引更多權力的傾向，因爲它能夠産生智力資源和金融資源，在開放市場中取得成功，擊敗競争對手。所以，一方面看似微軟、Meta、谷歌等公司之間競争非常激烈，但同時也确實是我們能夠進行史無前例的企業投資。
主持人：你能談談與 OpenAI 的合作情況嗎？這可以是一個友好的合作關系，也可能變成一種"友敵"關系。現在你們有合作關系，但你們也在開發自己的技術和 AI，實際上他們幫助你取得了領先。我要讀一段非常有趣的類比：随着環法自行車賽的臨近，OpenAI 和微軟是一個兩人分離小組，遠遠領先于主車群。現在合作一同努力，他們可能會保持領先。如果其中一方單獨行事，他們可能會雙雙落後。兩家公司都必須考慮自己的終點線策略，屆時他們将不得不抛棄對方。你就在這輛自行車上。
Mustafa：我不認同這種有終點線的比喻。這是一種錯誤的框架。在我們與中國的競賽中也是如此。我們正面對面競争，這是零和博弈。終點線存在，當我們跨過它時，如果我們比他們早三年獲得 AGI，我們就能削弱他們。這種想法必須停止。我們必須停止将一切都框定爲一種對抗性的競賽。雖然我們确實與他們有激烈的競争，他們是獨立公司，我們不擁有或控制他們，沒有任何董事會成員。他們完全可以自行運作，但是我們有深厚的合作關系。我與 Sam 關系很好，對他們所做的一切充滿敬意和信任，這種關系将持續很多年。
主持人：你提到了中國。說說你的看法。即我們現在與他們相比處于什麽位置？
Mustafa: 如果我們以對抗心态來看待這個問題。他們擔心我們會采取對抗立場，所以他們也必須采取對抗立場，這隻會升級并最終導緻災難。因此，我們必須找到合作的方法，尊重他們，同時也要承認我們有不同的價值觀。坦率地說，當我展望下個世紀時，我認爲和平将取決于我們，特别是美國，能否優雅地退居二線，因爲這是一個具有不同價值觀的急速崛起的力量。因此，我們必須找到共存的方法，而不是輕率地做出判斷，因爲我認爲那對我們雙方都是非常糟糕的。
主持人：有一個關于開放源代碼與封閉源代碼 AI 的争論，不管你喜歡與否。一方面，封閉源代碼是 OpenAI 和你在微軟所做的很多事情。開放源代碼是公開的，你可以看到它的内部運作，目前你可能會認爲 Meta，Facebook 的所有者，是該領域的領導者，擁有其 Llama 産品。關于這兩種模式有很多問題。Elon Musk 認爲所有的東西都應該是開放源代碼的，我知道有很多人擔心，如果你将開放源代碼的内容公之于衆，它可能會被濫用，因此有很多人支持封閉源代碼。
Mustafa: 我顯然不同意這種描述。在我進入微軟的第四周，我們就開放了當時最強大的模型，這個模型至今仍然是重量級中的佼佼者。你可以在手機和桌面上使用它，這是最好的開放源代碼模型。我們完全相信開放源代碼。同樣，這種描述是錯誤的，但我們也相信創建非常強大、非常昂貴的模型，這些模型我們可能會在一段時間内開放源代碼。所以我們并不反對開放源代碼，隻是認爲需要混合的方式。
高算力和可持續性發展間的矛盾
主持人：所有這些大型 LLM，我知道也有一些較小的模型，但特别是大型 LLM，如我在開始時提到的，需要大量的算力，這也意味着它們需要大量的能源。我們有很多關于能源使用和氣候等問題的讨論。我想知道你對這一點的看法，考慮到科技公司僅僅在兩三四年前就做出了許多關于氣候和 2030 年實現零排放的承諾，顯然在這一軌道上，所有這些承諾都會被抛諸腦後。
圖片來源：iStockPhoto.com
Mustafa: 不，微軟到今年年底将實現 100%可再生能源。到 2030 年将完全實現淨零排放。今年年底之前，我們在水資源方面也将實現 100%可持續性。我們非常緻力于保持這一目标，而新的需求帶來了新的機會來加強可持續性，而舊的供應更難以轉變。所以我認爲我們在這方面實際上處于一個非常好的位置。的确，這将對電網造成前所未有的壓力，因爲規模上，我們确實消耗了比電網以前管理的更多的能源，但電網早就應該進行一次徹底的升級了。這是我們西方國家爲我們社會的未來必須進行的基礎設施投資，少花點錢在戰争上，多花數百億美元來升級我們的電網，以便能管理來自本地發電、家庭、小企業和汽車的所有備用電池容量。
主持人：你在華盛頓待了很多時間。你認爲華盛頓的人們，面對 AI 的影響以及能源的影響等等，能理解這些問題嗎？我認爲他們甚至對社交媒體的理解都很困難。
Mustafa: 是的，我認爲這種對話現在正在轉向可再生能源問題。我認爲人們意識到我們在消耗大量能源，這需要轉變。但這并不會因爲微軟購買了 100%的可再生能源而自動轉變，谷歌當然也在這樣做，其他公司也在朝這個方向前進。因此，我認爲我們設定了一個标準應該受到贊揚，但這需要國家的基礎設施來支持這個轉型。
主持人：你怎麽看待與其他公司的競争，以及這些大型 LLM 可能會被商品化的問題，也就是說，大家都有一個模型時，它還有多大價值呢？谷歌有一個，蘋果現在與 OpenAI 合作，但他們顯然會與很多其他人合作。Amazon 擁有 Anthropic 的一部分，你可以認爲它也在建設自己的模型。
Mustafa: 随着知識的傳播，一切本質上都會被商品化。應用程序開發曾經是一組非常獨特、高度專業化的技能，現在每個人都可以瞬間推出應用程序。網頁開發，你還記得那曾經有多重要嗎？現在你隻需拖動按鈕，無需任何技術技能，隻要能用鼠标就能建立一個相當不錯的網站。因此，随着知識和能力的傳播，它确實會被商品化。
主持人：你怎麽看待 AI 的全面整合，這涉及到隐私問題，也涉及到反壟斷問題，你認爲這些産品需要多麽緊密地連接在一起，才能正常工作？歐盟指責微軟違反了反壟斷規則。你應該知道，蘋果因爲監管環境推遲在歐盟引入自己的 AI 功能。
Mustafa: 是的，我認爲這是一個很好的問題。阻力将是我們的朋友，這與我們過去的經曆不同，以前我們總是認爲每多一秒鍾就能将技術推向世界，都會帶來淨收益。我隻是認爲這些技術變得太強大，它們将非常親密、無處不在，所以這是一個反思的時刻。如果需要更長的時間，那也是值得的。
誰來定義 AI 的"對"和"錯"？
主持人：在我們開始提問之前，我想談談情商和 AI 的想法。這是你在從事 Inflection 項目時花了很多時間思考和工作的事情。Inflection 的 AI 項目在情商方面有一個了不起的部分。有些調查顯示，人們在與它對話時，覺得比與真人對話還好。也許這回到了我們之前讨論的哲學問題，但我們大多數人都看過電影《她》。這現實嗎？
Mustafa：我覺得在矽谷和技術界，我們長期以來一直癡迷于功能主義和實用主義。你希望有人高效地進入一個應用程序，解決他們的問題，幫助他們購買東西、預訂東西、學習東西，然後讓他們退出。現在我們有了一種新的設計材料，一種新的"粘土"，可以稱之爲創意粘土，能夠創造讓我們大腦另一側動情的體驗。這是一個極好的機會，可以用真實的意圖進行設計，做到仁慈、尊重和公正。你說得對，在很多研究中，人們發現我之前構建的 AI Pi 非常友善和關懷。它會問你問題，傾聽并熱情地回應。它是支持性的，偶爾會挑戰你，但始終是公平的、非評判性的。即使你帶着所謂的偏見或種族歧視觀點來，例如你害怕新移民來到你的區域搶奪你的工作，或者害怕你的孩子與黑人結婚，它不會直接駁斥你說那樣的話是錯誤的，不會把更多無益的讨論添加到談話中。實際上，它會與你交流，幫助你探索自己的感受，同時還能夠提供實時的網絡信息。因此，我認爲這是一個證明點，表明有意圖設計的技術确實能帶來改變，并且在這個新的大 LLM 時代是可能的。
主持人：雖然如此，還存在一個有趣的問題，因爲我們最終可能都需要和 AI 機器人讨論一些有争議的話題，那麽誰是那個"上帝"來告訴我們什麽是對的，什麽是錯的呢？這是我們從 Elon Musk 那裏聽到的一種觀點，他認爲應該有多個 AI 機器人，例如，如果你想要一個種族主義 AI 機器人，從言論自由的角度來看，那應該是可行的。我不知道你是否認爲這是正确的。
Mustafa：是的，這是一個非常好的問題。至少我認爲默認立場應該是它能夠以非評判性的方式促進你的思考和探索。現在這會有一些界限存在，因爲如果你想要促進更極端的體驗，那麽我不會構建一個平台或産品來支持那些可能對社會造成潛在傷害的觀點。問題是誰來定義那個界限？我認爲 Elon 提出了一個好觀點。我們都在思考這個問題。在社交媒體上，真的沒有一個獨立的聲音來決定，哪種陰謀論是合法的作爲公共積極探讨和讨論的來源，而哪種陰謀論應該被移除。我認爲我們有 10 到 15 年的社交媒體經驗，但我們仍然沒有一個好的提案來決定社會更廣泛的層面，而不僅僅是政客、記者或精英，共同影響審查的界限在哪裏。我們即将看到這些界限與這些模型一起更加激烈和動态的争論，所以我認爲這是比何時發生奇點更重要的問題。
主持人：好的，這是我最後一個問題，然後我們會開放問題。我知道現場有一些話筒。有很多人會在周四晚上一起觀看辯論。我們還沒有真正讨論過這次選舉中的政治問題。請爲我們描繪一下 AI 在 2024 年選舉中的角色，然後是AI 在2028 年選舉中的角色。
Mustafa：我們在微軟 Copilot 方面采取的觀點是，AI 不應該參與競選活動，即使它能夠成功提供事實信息。這是一個觀點，人們可以不同意，但我們采取了非常嚴格的立場，因爲我們知道目前的技術不足以實時界定真僞。對于我們來說，這太敏感了，所以我們不參與。這會有一些負面影響，因爲 AI 大部分時間也提供相對平衡和事實的信息，但有時會出現災難性的錯誤。因此，我一直主張 AI 不應該參與選舉，民主是神聖不可侵犯的。盡管它有其缺陷和優點，這是人類參與的事情，不是 AI 應參與的。在 2030 年或 2035 年，我們将不得不面對一些人感到與其個人 AI 關聯如此緊密，以至于他們會主張給予其人格權，就像一些人主張給動物人權一樣，例如，在比較極端的動物權利案例中。這是一個個人觀點，但這是我們都必須讨論的事情。我認爲我們應該在這方面采取硬線立場，無論有多少缺陷，民主是屬于人類的，其他生命形式不應參與。
觀衆：感謝你們今天的到來。我是 Monica Mayotte，曾任佛羅裏達州博卡拉頓市的副市長，同時也是一位老派的技術人員。我曾是 IBM 的 COBOL 程序員，所以我目睹了過去 30 到 40 年的技術發展。我理解 AI 的意義、影響和應用，但在過去幾年裏，加密貨币是個熱門詞，直到幾個月前 SBF 的詐騙案被定罪，我感覺現在 AI 成了新的熱門詞。你認爲 AI 會像加密貨币一樣火一陣然後冷卻嗎？
Mustafa：不，我不這麽認爲。我聽到過這樣的比較，我覺得加密貨币在我看來，即使在當時也沒有真正提供價值。而這些模型已經展示出的價值是顯而易見的。
觀衆：我是 Linda Resnick。我們教育了 5000 名需要服務的孩子。我困惑的是，我們過去 10 年一直強推 STEM 教育，現在我開始覺得我們需要更多地教授人文學科。我想知道你對此有何看法，因爲這樣可以讓孩子們做出選擇，并了解我們的偉大學者們所教導的内容。
Mustafa：好問題，我非常認同你的觀點。如果你回顧曆史，最偉大的學者一直都是跨學科的學者。在過去，STEM 和人文學科之間并沒有如此尖銳的界限，這是一個相對簡單的對立分法。我非常相信兩者兼備，我認爲跨學科技能将是未來的本質。
觀衆：我是 Miriam Shapiro，CSIS 的非駐地高級顧問。我想具體問問關于錯誤信息和虛假信息，你認爲應該怎麽處理這些問題？
Mustafa：是的，我認爲在虛假信息方面，有一些不良行爲者多年來一直在積極污染信息生态系統。我認爲我們的科技巨頭平台可以更積極地清除這些内容。同時，我們也在努力保持不損害我們所珍視的言論自由。所以這将是一個不斷出現新問題的遊戲，特别是當虛假信息的生産成本降低，生産這些内容所需技術門檻降低時，同時我也對人類抱有信心，我們具有非常高的适應性。正如在印度選舉中看到的虛假信息和深度僞造的傳播，人們很快就能适應并分辨真假，讓我們變得更具疑問和參與性，如果這讓我們更具探究和參與的熱情，我認爲這是件好事。
觀衆：回到中國，顯然是國家安全在推動我們的技術政策，似乎有可能走到無法回頭的地步。會不會導緻兩套不同的技術标準的發展？你對此有何看法？
圖片來源：Nikkei Asia
Mustafa：我認爲，盡管我談到了合作，我也非常務實地看待已經發生的"巴爾幹化"現象。現在我們的出口管制實際上迫使中國發展自己的芯片，而他們本來并不一定要走這條路。聰明的人可以對相同的事實有不同的觀點。我們認爲，華盛頓認爲我們必須分離，這就是我們現在正在走的路，他們正在建立自己的技術生态系統并将其傳播到世界各地。我們應該密切注意這些問題，就像我們癡迷于中東問題一樣，這雖然是一個重要問題，但不要忽視數字化在非洲價值觀塑造中的新形式，以及衛星通信和操作系統的提供将在未來幾十年以比地面部隊更深遠的方式塑造世界。
觀衆：我是 Sundas，在新澤西當了八年教師。這是我的學生，來自我的班級。我一直在與很多老教師争論使用 AI，因爲我是 AI 的大力倡導者。你會對那些特定的教師說些什麽？你認爲教師如何利用 AI？我知道你簡要談到了學生，但我想了解教育者的觀點。
Mustafa：好問題。我覺得讓 AI 來制作課程計劃是入門的第一個步驟，但與 AI 一起現場表演則是一個有趣的新方向。一個優秀的教師或教育者與 AI 進行深刻對話，并在其學生面前實時演示，然後偶爾讓學生參與，這将是什麽樣的體驗？實際上，到今年年底，我們将有實時語音接口，能夠進行完全動态的交流，就像我現在與 Andrew 交談一樣。這是一種完全不同的體驗。我認爲，傾注于這種體驗，展示它的美麗，并以此創造，是未來的發展方向。
主持人：各位，我需要感謝你們，但也要抱歉，因爲我們的時間到了。感謝你們提出的精彩問題，也請大家一起感謝 Mustafa 帶來的精彩對話。
原視頻：CEO of Microsoft AI speaks about the future of artificial intelligence at Aspen Ideas Festival
https://www.youtube.com/watch?v=lPvqvt55l3A
END
點擊下方卡片，關注預約直播
喜歡這篇文章
請爲我點贊和在看
>
