內容來自MoPaaS

編者按：

ChatGPT產生的影響還在繼續，ChatGPT 以及其創造者 OpenAI 背后的故事卻鮮為人知。OpenAI 是怎樣偏離其初心堅持商業化？憑什么 Altman可以讓微軟早期押注他們? OpenAI原來的安全團隊為什么分家與他們分庭抗爭？ChatGPT的編程能力是怎樣被發現的？ChatGPT 為什么差點被扼殺掉？ChatGPT是怎樣歪打正著成為爆款？Altman 為什么時而理想主義狂熱時而又回到反烏托邦？OpenAI 今年還可能會有哪些驚喜？...“The inside story of ChatGPT”（“ChatGPT 的內幕故事”）將為你解密這一切。該文由《財富》雜志資深作者JEREMY KAHN采訪研究完成，并將以標題“ChatGPT creates an A.I. frenzy”（“ChatGPT創造了AI狂潮”）在美國《財富》雜志2023年2月/3月號上發表。我們特編譯出來和各位客戶、合作伙伴朋友分享。

在一代人的時間中總有一種產品的出現，它將從工程系昏暗的地下室、書呆子們臭氣熏天的青少年臥室和愛好者們孤獨的洞穴中彈射出來，變成了你的祖母Edna都知道如何使用的東西。早在 1990 年就有網絡瀏覽器，但直到 1994 年Netscape Navigator的出現，大多數人才發現了互聯網。2001 年 iPod 問世之前就已經有了 MP3 播放器，但它們并沒有引發數字音樂革命。在2007 年蘋果推出iPhone之前，也有智能手機，但在 iPhone 之前，沒有智能手機的應用程序。

2022 年 11 月 30 日，人工智能迎來了 Netscape Navigator 時刻。這一時刻是由OpenAI 的首席執行官Sam Altman 開啟的，OpenAI 是一家總部位于舊金山的人工智能公司，成立于 2015 年，得到了包括Elon Musk 、Peter Thiel 和PayPal校友、LinkedIn聯合創始人Reid Hoffman 等多位硅谷重量級人物的資金支持。11 月 30 日，也是公司成立大約七年后，Altman 在推特上寫道：“今天我們推出了 ChatGPT，嘗試在這里與它交談”，然后是一個鏈接，任何人都可以注冊一個帳戶，開始免費與 OpenAI 的新聊天機器人交談。任何人都可以，而且不僅僅只是聊聊天氣。軟件 CEO 兼工程師 Amjad Masad 要求它調試他的代碼，它做到了。美食博主兼網紅Gina Homolka用它寫了一份健康巧克力曲奇的食譜。Scale AI 的工程師 Riley Goodside 要求它為Seinfeld劇集編寫劇本。Guy Parsons 是一名營銷人員，他還經營著一家致力于 AI 藝術的在線畫廊，他讓它為他編寫提示，以輸入另一個 AI 系統Midjourney, 從文本描述創建圖像。斯坦福大學醫學院的皮膚科醫生 Roxana Daneshjou也研究 AI 在醫學上的應用，她向它提出了醫學問題，許多學生用它來做作業。而這還只是在聊天機器人發布后的 24 小時內出現的。以前也出現過聊天機器人，但都不是這樣的。ChatGPT 可以進行長時間、流暢的對話，回答問題，并撰寫人們要求的幾乎任何類型的書面材料，包括商業計劃、廣告活動、詩歌、笑話、計算機代碼和電影劇本。它遠非完美：結果并不總是準確的；它不能引用其信息來源；它幾乎不知道 2021 年之后發生的任何事情。

它所提供的內容雖然通常流暢到足以通過高中課程甚至大學課程的考試，卻很少像人類專家那樣完美。另一方面，ChatGPT 會在一秒內生成這些內容，用戶幾乎沒有等待，而且它吐出的很多內容都還不錯。在ChatGPT發布后的五天內，就有超過100萬的玩家，這是Facebook花了 10 個月才達到的里程碑。 在過去的十年中，人工智能技術穩步進入商業領域，并悄悄改進了我們每天使用的許多軟件，但并未引起非技術人員的太大興趣。ChatGPT 改變了這一點。突然之間，每個人都在談論人工智能如何顛覆他們的工作、公司、學校和生活。ChatGPT 是相關人工智能技術浪潮的一部分，這些技術統稱為“生成式人工智能”——其中還包括熱門的藝術生成器，如 Midjourney 和 Lensa。OpenAI處于科技行業下一件大事件的最前沿，具有初創公司史詩般的標志，包括全明星陣容和狂熱的投資者，據報道，該公司的估值達到 290 億美元。

但是，盡管其最近的激增引發了嫉妒、驚奇和恐懼——據報道，其利潤豐厚的搜索帝國可能會受到攻擊，谷歌宣布了內部“紅色代碼”，以回應 ChatGPT—OpenAI 不太可能成為技術超級大國俱樂部的成員。直到幾年前，它還根本不是一家公司，而是一家致力于學術研究的小型非營利性實驗室。崇高的創始原則仍然存在，例如保護人類免受不受限制的人工智能的威脅。與此同時，OpenAI 也經歷了內部轉型，將其原來的員工分開，并更加關注商業項目而不是純科學項目上。（一些批評家認為，將 ChatGPT 推向市場本身就很危險，這也標志著 OpenAI 的方法發生了深刻的轉變。）

“我認為 [對于 AI] 的好案例是如此令人難以置信的好，以至于你談論它聽起來像個瘋子。我認為最壞的情況是我們所有人都熄燈了。”★OPENAI聯合創始人兼首席執行官 SAM ALTMAN 于 1 月 12 日在舊金山舉行的以風險投資為重點的活動上發表講話本周，微軟宣布擴大與OpenAI的合作伙伴關系，其中包括高達 100 億美元的新資本，這可能會使這家軟件巨頭在未來幾年占據 OpenAI 利潤的最大份額。這筆交易可能會加深人們的看法，即曾經理想主義的努力現在主要關心的是賺錢。盡管如此，《財富》雜志看到的文件顯示，OpenAI 的業務目前是多么無利可圖。37 歲的聯合創始人兼首席執行官Altman體現了 OpenAI 令人費解的本質。Altman 是一位連續創業的科技企業家，他更以商業頭腦而非工程壯舉而聞名，他既是 OpenAI估值飆升的設計師，也是該公司的首席執行官，他曾公開表示 ChatGPT 離真正可靠還有多遠。與此同時，他認為這項技術是朝著開發一種被稱為人工通用智能（AGI）的計算機超級智能的宏大而不切實際的企業使命向前邁出的一步。“AGI 可能是人類生存所必需的，” Altman在 7 月份發推文說。“如果沒有更好的工具，我們的問題似乎太大，我們無法解決。”對于一家賺錢的企業來說，這是一種不同尋常的指導理念，尤其是考慮到一些計算機科學家認為Altman的癡迷只是一種幻想。“AGI 很愚蠢，”加州大學伯克利分校的計算機科學家 Ben Recht 說。“我的意思是，這不是一回事。”

然而，借助 ChatGPT，Altman 已將 OpenAI 以及更廣泛的 AI 使命轉變為吸引科技界的東西。問題在于，他與微軟建立的合作伙伴關系是否可以修復 ChatGPT 的缺陷并利用其早期領先優勢來改變科技行業。谷歌和其他巨頭正在努力開發自己的人工智能平臺；未來，更完善的軟件會讓 ChatGPT 看起來像小孩子在玩游戲。OpenAI 可能有一天會發現，就像 Netscape 短暫的瀏覽器統治一樣，它的突破打開了一扇通往未來的門，而這扇門并不屬于它。

1 月中旬的一個星期四晚上，Altman罕見地在舊金山公開露面。這位 CEO 穿著灰色毛衣、藍色牛仔褲和一雙顏色鮮艷的時髦扎染運動鞋，走進了一個滿是投資者、技術人員和記者的房間，他們聚集在一起收集關于 ChatGPT 或即將到來的融資輪的任何信息。當Altman的采訪者、專注于風險投資的媒體公司 StrictlyVC 的創始人 Connie Loizos 向他詢問媒體的狂熱時，Altman回答說：“我不看新聞，我也不太會做這樣的事情”。

該活動在Salesforce 大樓的 46 層舉行，現場只有站立的空間。在接受采訪前舉行的金融科技小組討論會上，一位發言人甚至告訴聽眾，她知道他們“都在等 Sam Altman”。 但是，盡管議論紛紛，并且流傳著微軟投資的謠言，但Altman似乎還是刻意打消了人們的這種興奮。“這些技術的一個奇怪之處在于，它們令人印象深刻但并不穩健，”他告訴人群。“所以你在第一個演示中使用它們；你會有種令人印象深刻的反應，“哇，這太不可思議了，準備好了”。但你看到它一百次，你就會看到它的弱點。”這種謹慎似乎是 OpenAI 總部的官方模式，該總部位于舊金山 Mission 區的一家舊箱包工廠。事實上，如果 ChatGPT 是 AI 的 Netscape Navigator 時刻，那它幾乎從未發生過，因為 OpenAI 幾個月前幾乎扼殺了這個項目。允許用戶用簡單的英語（和許多其他語言）與 AI 交談的聊天界面最初是由 OpenAI 構想的，作為改進其“大型語言模型” LLM 的一種方式。大多數生成式人工智能系統的核心都是LLM。它們是通過采用非常龐大的神經網絡（一種基于人腦連接的人工智能）并將它們應用于大量人類創建的文本而創建的。從這個庫中，該模型學習了一個復雜的映射，即在任何給定上下文中，任何一組單詞將會出現在另一個單詞旁邊。

這使得 LLM 能夠執行大量的自然語言處理任務，從翻譯到摘要再到寫作。 OpenAI 已經創建了世界上最強大的LLM 之一。它被稱為 GPT-3，擁有超過 1750 億個參數，并在大約三分之二的互聯網、所有維基百科和兩個大型書籍數據集上接受訓練。但是 OpenAI 發現讓 GPT-3 產出用戶想要的東西可能很棘手。一個團隊有使用強化學習的想法，人工智能系統通過反復試驗來學習以最大化獎勵，來完善模型。該團隊認為聊天機器人可能是這種方法的理想候選者，因為以人類對話的形式不斷提供反饋將使人工智能軟件很容易知道它何時做得很好以及需要改進的地方。因此，在 2022 年初，該團隊開始構建 ChatGPT。當ChatGPT準備就緒后，OpenAI 讓 Beta 測試人員使用ChatGPT。但根據 OpenAI 聯合創始人兼現任總裁Greg Brockman 的說法，他們并沒有像 OpenAI 希望的那樣接受它；人們不清楚他們應該與聊天機器人談論什么。有一段時間，OpenAI 改變了策略，試圖構建專家聊天機器人，以幫助特定領域專業人士。但這項努力也遇到了問題，部分原因是 OpenAI 缺乏訓練專家機器人的正確數據。Brockman說，幾乎就像孤注一擲一樣，OpenAI 決定將 ChatGPT 從板凳上拉下來，并將其放在野外供公眾使用。“我承認，我不知道這是否會奏效，” Brockman說。聊天機器人的迅速傳播讓OpenAI 猝不及防，OpenAI 的首席技術官 Mira Murati 說，“這絕對令人驚訝，”。在舊金山 VC 活動上Altman 說，他“本以為一切都會少一個數量級，少一個數量級的炒作。”

ChatGPT 不是 OpenAI 唯一的炒作工具，該公司只有 300 名左右的員工，規模相對較小，但在創建數據（而不僅僅是分析數據）方面，已經突破了人工智能的極限。DALL-E 2 是 OpenAI 的另一項創作，它允許用戶通過輸入幾個詞來創建他們可以想象的任何事物的逼真圖像。該系統現在已被其他公司模仿，包括 Midjourney 和一個名為Stability AI的開源競爭對手. （所有這些圖像生成器都有缺點，最顯著的是它們傾向于放大訓練數據的偏差，生成可能具有種族主義和性別歧視的圖像。）通過在計算機代碼上微調其 GPT LLM，OpenAI 還創建了Codex ，一個可以為程序員編寫代碼的系統，程序員只需用簡單的語言指定他們想要代碼做什么。

更多的創新在等待，OpenAI在 beta 測試中有一個更強大的 LLM，稱為 GPT-4，預計將在今年發布，甚至可能很快發布。Altman 還表示，該公司正在開發一種可以根據文本描述生成視頻的系統。與此同時，在 1 月中旬，OpenAI 表示打算發布ChatGPT 的商業版本，并宣布了一個等待名單，供潛在客戶通過一個界面注冊付費訪問該機器人，從而使他們能夠更輕松地集成它到他們自己的產品和服務中。

憤世嫉俗的人可能會認為，OpenAI正在籌集大量風險投資這一事實可能與 ChatGPT 的發布時間有關。（OpenAI 說這個時間是巧合。）可以肯定的是，ChatGPT 在充滿鯊魚的水域中游弋。這在風險投資公司中掀起了一股搶購狂潮，他們希望在 OpenAI 高管、員工和創始人持有的私募股權中搶購股票。

該收購報價與微軟剛剛宣布的新投資一起發生，這將為該公司注入高達 100 億美元的新資本。微軟于 2016 年開始與 OpenAI 合作，并與這家初創公司建立了戰略合作伙伴關系，于三年前宣布向該公司投資10 億美元。據熟悉新收購報價的消息人士稱，盡管這種不尋常的結構為微軟帶來了巨大的財務優勢，它已被大量超額認購。根據《財富》雜志看到的文件顯示，在新投資完成后，在OpenAI 的第一批投資者收回初始資本后，微軟將有權獲得 OpenAI 75% 的利潤，直到它收回其投資的 130 億美元，這一數字包括之前對 OpenAI 的 20 億美元投資，該投資直到今年1月《財富》雜志才披露。直到這家軟件巨頭賺取 920 億美元的利潤后，微軟的份額將降至 49%。與此同時，其他風險投資者和 OpenAI 的員工也將有權獲得 OpenAI 49% 的利潤，直到他們賺取約 1500 億美元。如果達到這些上限，微軟和投資者的股份將歸還給 OpenAI 的非營利基金會。本質上，OpenAI 是在把公司借給微軟，借多久取決于 OpenAI 賺錢的速度。但要收回投資可能需要相當長的時間，更不用說達到這些上限。《財富》雜志看到的文件顯示，OpenAI迄今為止的收入相對較少，而且虧損嚴重。文件顯示，去年該公司預計將帶來近 3000 萬美元的收入。但該公司預計計算和數據費用支出為 4.1645 億美元，員工費用為 8931 萬美元，其他未指明的運營費用為 3875 萬美元。不包括員工股票期權在內，其 2022 年的凈虧損總額預計為 5.445 億美元。而對于 ChatGPT，這些損失可能會飆升：Altman 在推特上說，在回答 Elon Musk 的問題時表示，OpenAI 在用戶與 ChatGPT 的每次交互中花費的計算成本為“個位數美分”，隨著ChatGPT變得流行，每月的計算成本可能達到數百萬美元。

OpenAI 預計，隨著 ChatGPT 成為吸引誘客戶的警笛，其收入將迅速增加。文件顯示，該公司預計2023年的收入將達到 2 億美元，并預計到 2024 年收入將超過 10 億美元。他們沒有預測 OpenAI 的開支會如何增長以及何時可以盈利。這些公司拒絕對這些數字發表評論，但他們指出了一個明顯的現實：OpenAI 和微軟都認為，這家曾經的非營利性實驗室現在擁有可以出售的東西。

“10億美元”

★《財富》雜志獲得的文件顯示，ChatGPT 2024 年的預期收入高于 2023 年的 2 億美元和 2022 年的 3000萬美元。

微軟已經從合作伙伴關系中獲益。它已經在其 Azure 云中推出了一套 OpenAI 品牌的工具和服務，允許 Azure 客戶訪問 OpenAI 的技術，包括 GPT 和 DALL-E 工具。例如，汽車市場CarMax已經推出了運行在這些 Azure 工具上運行的新服務。
微軟 AI 平臺公司副總裁 Eric Boyd 表示，滿足培訓和運行 OpenAI 的 LLM 的需求推動了創新，使所有 Azure 客戶受益。例如，微軟已經為人工智能構建了它認為是世界上最強大的超級計算集群，并創造了多項軟件創新，以便更容易的在這些機器上訓練和運行大型人工智能模型。微軟正逐漸將 OpenAI 的技術融入其大部分軟件中。它已經在其搜索引擎 Bing 中發布了一個圖像生成器、以及一個新的 Designer 圖形設計工具，兩者均由 DALL-E 提供支持；其 Power Apps 軟件中支持 GPT-3 的工具，以及基于 OpenAI 的 Codex 模型的代碼建議工具 GitHub Copilot。Morningstar高級股票研究分析師Dan Romanoff 表示，即使OpenAI與Azure的合作不會立即對 Azure 的收入產生影響，但它是一種很好的品牌定位和營銷。“這是高調的，”他說。“能夠將 OpenAI 開發的 AI 解決方案放在 Azure 上，稱之為 Azure AI ：這讓他們保持競爭力。”微軟的云計算競爭對手，谷歌、AWS、IBM、甲骨文、Salesforce 和其他公司，都有自己的“認知”服務，但與創建 ChatGPT 的人聯系在一起也無妨。對微軟來說，更大的收獲可能在于搜索業務。科技出版物 The Information 最近報道，微軟計劃將 ChatGPT 集成到 Bing 中，可能允許它返回簡單、簡潔的查詢答案，并讓人們通過與該聊天機器人的對話而不是鏈接列表來更深入地研究。谷歌目前在搜索市場占據主導地位，全球市場份額超過 90%。

Bing 排在第二位，所占份額約為 3%。2022 年前九個月，谷歌的搜索收入為 1200 億美元；總的來說，它約占谷歌收入的 60%左右。ChatGPT 可能為微軟提供了唯一一次真正的機會，它必須將谷歌從神壇上推下來。（微軟拒絕對 The Information 的報道發表評論。）并且按照微軟的標準，這些好處是很便宜的。其 130 億美元的總投資是一筆巨款，但僅占其過去 12 個月 850 億美元稅前利潤的 15%，對于近期控制一項顛覆范式的技術而言，這是一筆相對便宜的投資。就 OpenAI 和 Altman 而言，他們可能會付出不同的代價：微軟的優先級可能會擠占他們自己的優先級，使他們更廣泛的使命面臨風險，并疏遠推動其成功的科學家。2015 年 7 月的一個晚上，時任著名創業孵化器 Y Combinator 負責人的Altman在 Rosewood Sand Hill 舉辦了一場私人晚宴，這是一家豪華的牧場風格酒店，位于門洛帕克硅谷風險投資行業的中心， Elon Musk也在現場，布羅克曼也是如此，當時 26 歲的他從麻省理工學院（MIT）輟學，曾擔任支付處理初創公司Stripe的首席技術官。一些與會者是經驗豐富的人工智能研究人員。有些人幾乎不懂機器學習，但他們都相信 AGI 是可行的。谷歌剛剛收購了一家總部位于倫敦的神經網絡初創公司DeepMind，在Altman、Elon Musk和其他科技業內部人士看來，這是首家最有可能率先開發 AGI 的公司：如果 DeepMind 成功了，谷歌可能會壟斷這項無所不能的技術。

Rosewood 晚宴的目的是討論組建一個競爭實驗室，以確保這種情況不會發生。新實驗室旨在成為DeepMind 和谷歌無法做到的一切。它將作為一個非營利組織運營，明確致力于使先進人工智能的好處民主化。它承諾發布其研究成果，并開源其所有技術，其對透明度的承諾體現在其名稱中：OpenAI。該實驗室獲得了一份令人印象深刻的捐助者名冊：不僅是Elon Musk，還有他在 PayPal 的同事蒂爾和霍夫曼；Altman和布羅克曼；Y Combinator 聯合創始人 Jessica Livingston；YC Research，Altman創立的基金會；印度 IT 外包公司 Infosys；和亞馬遜網頁服務。創始捐助者共同承諾向這個理想主義的新企業捐助 10 億美元（盡管根據稅務記錄，該非營利組織只收到了引人注目的承諾的一小部分）。但訓練巨型神經網絡很快就被證明是昂貴的，計算成本高達數千萬美元。人工智能研究人員的薪水也不便宜，稅務記錄顯示，Ilya Sutskever 是一位出生于俄羅斯的科學家，在谷歌工作后來到 OpenAI成為其首席科學家，據稱，他在實驗室的頭幾年，年薪為 190 萬美元。幾年后，Altman和 OpenAI 的其他人得出結論，為了與谷歌、Meta 和其他科技巨頭競爭，實驗室不能繼續作為非營利組織。Altman在 2019 年對《連線》雜志表示：“我們要成功完成任務所需的資金比我最初想象的要多得多。”OpenAI成立了一個以盈利為目的的分支機構，從而籌集到了風險資本。但 OpenAI 創造了一種不同尋常的結構，將投資者的回報限制在其初始投資的數倍。OpenAI的非營利性董事會由硅谷一線明星組成，將保留對 OpenAI 知識產權的控制權（見邊欄）。一位沒有留下來的一線明星是Elon Musk：2018 年，他離開了董事會，理由是運營SpaceX和更重要的特斯拉。大約在這個時候，微軟首席執行官Satya Nadella急切地想證明，他的公司被認為在人工智能領域落后于其競爭對手，能夠在技術的最前沿發揮作用。該公司曾嘗試聘請一位知名的 AI 科學家，但未能成功。它還在構建一個龐大、昂貴的專用芯片集群，以推進自己在語言模型方面的努力。這正是 OpenAI 需要的那種超級計算能力，而且它當時花費了大筆錢來購買。就OpenAI本身而言，它擅長完成Nadella希望展示微軟 AI 智慧的那種引人注目的 AI 演示。Altman 與Nadella 進行了交易，多次飛往西雅圖向他展示 OpenAI 的 AI 模型。Nadella最終簽署了一項協議，于 2019 年 7 月宣布，使Microsoft OpenAI 成為其技術商業化的“首選合作伙伴”，并向這家人工智能初創公司最初投資10億美元。

雖然Altman從一開始就參與了 OpenAI，但他直到 2019 年5 月才成為 CEO，那是在 OpenAI 轉變為營利性企業后不久。但它從研究實驗室到價值數十億美元的現象的軌跡反映了Altman獨特的籌款能力和以產品為導向的重點，以及這些商業本能和他對科學驅動的大想法的承諾之間的緊張關系。在某種程度上，這位OpenAI的領導者是硅谷的一幅漫畫：年輕、男性、蒼白；堅定不移；精通Geek；癡迷于最大化效率和生產力；一個致力于“改變世界”的工作狂。（在2016年的紐約客簡介中，他說他沒有阿斯伯格綜合癥，但可以理解為什么有人會認為他有。）Altman 從斯坦福大學的計算機科學學位課程中退學，與他人共同創立了 Loopt，這是一家社交媒體公司，其應用程序可以告訴您朋友在哪里。2005年該公司進入Y Combinator的首批創業公司；Loopt 未能起飛，但 Altman 在出售時賺到的錢幫助他進入了風險投資領域。他創辦了自己的小型風險投資公司Hydrazine Capital，籌集了約 2100 萬美元，其中包括來自蒂爾的資金。

然后，Y Combinator 的聯合創始人保羅·格雷厄姆 (Paul Graham) 和利文斯頓 (Livingston) 聘請他作為格雷厄姆的繼任者來管理 YC。Altman是一位企業家，而不是科學家或人工智能研究人員，他以異常擅長籌集風險投資資金而聞名。他深信偉大的事業來自雄心壯志和堅定不移的自信，他曾表示，他渴望通過所謂的深度科技領域創造數萬億美元的經濟價值，比如核聚變和量子計算，這些領域的可能性很小，但潛在回報可能很大。“Sam 相信他在他所承擔的一切方面都是最棒的，”曾在 Loopt 與 Altman 共事的資深技術投資者和創業顧問Mark Jacobstein 表示，“我很確定，他相信自己是辦公室里最好的乒乓球運動員，直到他被證明是錯誤的。”根據幾位現任和前任OpenAI 內部人士的說法，隨著 Altman 上任，這家初創公司的優先事項開始發生變化。曾經廣泛的研究議程縮小到主要關注自然語言處理。Sutskever 和 Altman 為這種轉變辯護說，認為這是在目前看來為 AGI 提供最有前途的道路的研究領域上最大限度地發揮作用。但一些前員工表示，在微軟進行初始投資后，專注于 LLM 的內部壓力大幅增加，部分原因是這些模型具有直接的商業應用。

一些人抱怨說，OpenAI 的成立是為了不受公司影響，但它很快成為一家大型科技公司的工具。一位前員工說：“重點更多的是，我們如何創造產品，而不是試圖回答最有趣的問題，”。與許多接受采訪的人一樣，該員工出于保密協議要求匿名，并避免疏遠與 OpenAI 相關的權勢人物。OpenAI 也變得不那么開放了。由于擔心其技術可能被濫用，它已經開始放棄發布所有研究成果和開源代碼的承諾。但據前員工稱，商業邏輯也發揮了作用。OpenAI的高級模型只能通過 API 提供，從而保護了其知識產權和收入來源。“Altman和Brockman 對‘AI安全’口頭上說了很多，但這通常看起來只是商業問題的遮羞布，而實際的、合法的 AI 安全問題卻被置之不理，” 這位前雇員舉例說，OpenAI在Midjourney和Stability AI推出競爭產品后，由于擔心濫用，迅速撤銷了限制訪問DALL-E 2的決定。（OpenAI 表示，在經過仔細的 Beta 測試后，它才允許更廣泛地使用 DALL-E 2，因為它對自己的安全系統有信心。）據一些前員工透露，這些戰略和文化的轉變，在十幾名OpenAI研究人員和其他員工(其中許多人從事人工智能安全工作)于2021年與公司決裂，成立自己的研究實驗室Anthropic的決定中發揮了作用。OpenAI 表示，與其他人工智能實驗室相比，它繼續發表更多的研究成果，它捍衛其向產品重點的轉變。首席技術官 Murati 說：“你不能只呆在實驗室里就可以構建 AGI。”她說，運輸產品是發現人們想要如何使用和濫用技術的唯一途徑。她說，OpenAI 并不知道 GPT-3 最流行的應用程序之一是編寫軟件代碼，直到他們看到人們用它編寫代碼。同樣，OpenAI 最擔心的是人們會使用 GPT-3 來制造政治虛假信息。

但事實證明，這種擔心是沒有根據的；相反，她說，最普遍的惡意使用是人們制造廣告垃圾郵件。最后，Murati 表示，OpenAI 希望將其技術推向世界，以“最大限度地減少真正強大的技術對社會的沖擊。”她認為，如果不讓人們知道未來可能會發生什么，先進人工智能對社會的破壞將會更嚴重。Sutskever 承認 OpenAI 與微軟的關系創造了一種新的“期望，即我們確實需要用我們的技術制造出某種有用的產品”，但他堅稱 OpenAI 文化的核心沒有改變。他說，訪問 Microsoft 數據中心對 OpenAI 的進步至關重要。布羅克曼還辯稱，這種合作關系讓 OpenAI 能夠產生收入，同時保持商業上的關注度低于它本來必須的。“雇用數千名銷售人員實際上可能會改變這家公司的現狀，而擁有一個已經這樣做過的合作伙伴實際上是非常了不起的，”他說。

Sutskever 斷然否認 OpenAI 不再強調安全性的暗示：“我會說恰恰相反。”在Anthropic 分裂之前，AI的安全“局限于一個團隊”，但現在是每個團隊的責任，Sutskever 說。“安全標準不斷提高，我們正在進行的安全工作量不斷增加。”

“我們正在進行的安全工作量不斷增加。”

★ILYA SUTSKEVER，研究員，OPENAI

然而，批評者說，OpenAI 以產品為導向的高級人工智能方法是不負責任的，相當于給人們上了膛的槍，理由是這是確定他們是否真的會互相射擊的最佳方式。紐約大學認知科學名譽教授Gary Marcus對以深度學習為中心的 AI 方法持懷疑態度，他認為生成式 AI 對“社會結構構成了真實而迫在眉睫的威脅”。他說，通過將制造虛假信息的成本降低到幾乎為零，像 GPT-3 和 ChatGPT 這樣的系統可能會引發一波虛假信息的浪潮。Marcus說我們甚至已經看到了第一批受害者。Stack Overflow 是一個程序員提出和回答編程問題的網站，它已經不得不禁止用戶提交由 ChatGPT 編寫的答案，因為該網站被看似合理但錯誤的答案淹沒了。與此同時，科技新聞網站 CNET 開始使用 ChatGPT 生成新聞文章，但后來發現許多文章由于事實不準確而不得不更正。對于其他人來說，ChatGPT編寫準確的代碼才是真正的風險。網絡安全公司 Check Point 的研究副總裁 Maya Horowitz 表示，她的團隊能夠讓 ChatGPT 編寫網絡攻擊的每個階段，從編寫令人信服的網絡釣魚電子郵件到編寫惡意代碼再到規避常見的網絡安全檢查。ChatGPT 基本上可以讓零編碼技能的人成為網絡罪犯，她警告說：“我擔心會出現越來越多的攻擊。”OpenAI 的 Murati 表示，該公司也有同樣的擔憂，并且正在研究“調整”其 AI 模型的方法，這樣它們就不會編寫惡意軟件——但這并不是一件容易的事情。無數評論家和教育工作者譴責學生可以輕松地使用 ChatGPT 作弊。紐約市、巴爾的摩和洛杉磯的學區都阻止了學校管理的網絡訪問聊天機器人，澳大利亞的一些大學表示他們將恢復只使用監考的筆試考試來評估學生。（OpenAI 正在研究使 AI 生成的文本更易于檢測的方法，包括可能向 ChatGPT 的輸出添加數字“水印”。）

2022 年ChatGPT 最初的組裝方式也存在倫理問題。《時代周刊》的一項調查發現，作為該過程的一部分，OpenAI 聘請了一家數據標記公司，該公司使用肯尼亞的低薪工人來識別涉及有毒語言和圖形性暴力內容的段落，其中一些工人報告說，這導致了心理健康問題。OpenAI 在一份聲明中告訴《時代周刊》，此類數據標記是“最大限度地減少訓練數據中包含的暴力和色情內容的數量以及創建可以檢測有害內容的工具的必要步驟。”

免費提供 ChatGPT 讓 OpenAI 能夠收集大量反饋，以幫助改進未來的版本。倫敦人工智能公司Faculty的創始人兼首席執行官Marc Warner說:“從歷史上看，我們傾向于看到這些非常通用的算法不足以讓一家特定的公司獲得所有的總體回報。”例如，人臉和圖像識別技術最初是由谷歌和英偉達等科技巨頭開發的，但現在已無處不在。

法院和監管機構還可以向生成人工智能所依賴的數據飛輪中設置監管。在加利福尼亞州聯邦法院提起的一項價值 90 億美元的集體訴訟可能對該領域產生深遠影響。該案的原告指責微軟和 OpenAI 未能對使用他們的代碼訓練 GitHub 的編碼助手 Copilot 的編碼人員給予信用或補償，這違反了開放許可條款。微軟和 OpenAI 拒絕就此訴訟發表評論。人工智能專家表示，如果法院支持原告，它可能會破壞生成人工智能的繁榮：大多數生成模型都是在未經許可或無償的情況下從互聯網上收集的材料進行訓練的。代表這些原告的同一家律師事務所最近對 Stability AI 和 Midjourney 提起了類似的訴訟，指控他們未經許可在其訓練數據中使用受版權保護的藝術作品。圖片機構 Getty Images 也對 Stability AI 提起了自己的版權侵權訴訟。正如一些歐盟立法者正在考慮的那樣，如果立法者通過規定，給予創作者選擇不將其內容用于人工智能培訓的權利，則可能會出現另一個問題。與此同時，OpenAI 的競爭對手并沒有停滯不前。據《紐約時報》報道，谷歌的高管們擔心失去在搜索領域的主導地位，因此發布了“紅色警報”。據該報報道，谷歌 CEO 桑達爾·皮查伊 (Sundar Pichai) 已召開會議重新定義公司的 AI 戰略，并計劃在年內發布 20 款支持 AI 的新產品，并展示用于搜索的聊天界面。谷歌擁有自己強大的聊天機器人，稱為 LaMDA，但一直猶豫是否要發布它，因為擔心如果它最終被濫用會損害聲譽。現在，該公司計劃根據ChatGPT“重新調整”其風險偏好，據該報報道，谷歌還在開發文本到圖像生成系統，以與 OpenAI 的 DALL-E 和其他系統競爭。當然，目前還不清楚聊天機器人是否會成為搜索的未來。ChatGPT 經常發明信息，AI 研究人員稱之為“幻覺”的現象。它不能可靠地引用其來源或輕易地顯示鏈接。當前版本無法訪問互聯網，因此無法提供最新信息。一些人，例如 Marcus，認為幻覺和偏見是 LLM 的根本問題，需要從根本上重新考慮他們的設計。“這些系統預測句子中的單詞序列，就像類固醇的自動補全一樣，”他說。“但他們實際上并沒有適當的機制來追蹤他們所說的話的真實性，甚至無法驗證他們所說的話是否與他們自己的訓練數據一致。”

“這些系統預測句子中的單詞序列，就像類固醇的自動補全一樣。但他們實際上并沒有適當的機制來追蹤他們所說的話的真實性。”

★GARY MARCUS，紐約大學認知科學名譽教授

包括 OpenAI 投資者 Hoffman 和 Vinod Khosla在內的其他人則預測，這些問題將在一年內得到解決。穆拉蒂更為謹慎。“到目前為止，我們一直在遵循一些研究方向，以解決事實的準確性和模型的可靠性等問題。我們正在繼續努力，”她說。事實上，OpenAI 已經發布了關于不同版本 GPT 的研究，稱為 WebGPT，它能夠通過查詢搜索引擎回答問題，然后總結它找到的信息，包括相關來源的腳注。盡管如此，WebGPT 并不完美：它傾向于接受用戶問題的前提并尋找確認信息，即使前提是錯誤的。例如，當被問及希望某事是否可以實現時，WebGPT 回答說：“的確，你可以通過思想的力量實現愿望。”

在極少數情況下，Altman會在公共場合暢談人工智能，他自己聽起來就像一個一廂情愿的思想家。在舊金山 VC 活動上被問及關于 AI 的最佳案例時，他滔滔不絕地說道，“我認為最好的案例非常好，以至于難以想象……我認為好的案例好到令人難以置信，以至于你談論它聽起來像個瘋子在說話。”然后，他突然回到 OpenAI 根源上的反烏托邦主題：“我認為最壞的情況是我們所有人都熄燈了。”