反對派：不能停止未來 GPT-5 以及更強模型的訓練

除非政府介入，否則沒有現實的方法來實施暫停令，阻止所有團隊擴大 LLM 的規模。不過，讓政府來暫停他們不了解的新興技術是反競爭的，樹立了一個可怕的先例，是糟糕的創新政策。

不過，Bender 反駁說，"我們在 2020 年底寫了一篇論文（《隨機鸚鵡》，2021年發表），指出這種不考慮風險就一頭扎進越來越大的語言模型的做法是一件壞事。但風險和危害從來都不是關于'太強大的人工智能'本身，相反：它們是關于權力集中在人的手中，關于壓迫制度的再現，關于對信息生態系統的損害，以及關于對自然生態系統的損害（通過對能源資源的暴殄天物）。"

GPT-4 以及后續更強的大模型為何成為眾矢之的？

但是對齊 GPT-4 只是其中一個環節，而不是終點。這已經實現了很大的進步（與早期對 GPT-3 的抱怨相比），但需要進一步擴展到人類甚至無法判斷輸出的問題?！?/span>其實，在 OpenAI 官方博客上，該公司也一直強調，AI 需要對齊，「對齊研究旨在使人工智能（AGI）與人類價值觀保持一致并遵循人類意圖」。不過，OpenAI 的發聲并未獲得一些激進派的認可，而 OpenAI 之所以深陷輿論漩渦，或有兩方面的原因：一是 LLM 技術發展速度超出了很多人的意料，其中相關的法律法規、道德與使用等規范制度還存在很大的缺失。正如早些時候，Deepmind 研究團隊在借鑒了計算機科學、語言學和社會科學的多學科文獻基礎上發布的《語言模型危害的倫理和社會風險》論文中寫道的那樣，LM 會存在歧視、仇恨言論和排斥；信息泄露；虛假信息；惡意使用；人機交互；環境和社會經濟等多重危害。因此，如何降低這些潛在危害，作為行業領頭羊的 OpenAI 必須要弄清楚，因為它的很多動作也是后來者參考的目標。然而，現實來看，這也并不是 OpenAI 公司一家所需要考慮的事情，而是需要 AI 的所有參與者共同來制定。二是 OpenAI 樹大招風，尤其是 GPT-4 不透明性引發了很多人的不滿。自 ChatGPT、GPT-4 發布以來，已經很多人批評過「OpenAI 不再 Open」了。不久前，Nomic AI 信息設計副總裁 Ben Schmidt 在推特上直指，OpenAI 在發布 GPT-4 技術的 98 頁論文中，絲毫沒有提及關于訓練集內容的任何信息。也有網友稱，OpenAI 正在”假裝“開放。不過，對于 LLM 究竟是應該開源還是閉源，又是一個引發爭議的問題。針對這一點，據外媒 The Verge 報道，OpenAI 首席科學家、聯合創始人 Ilya Sutskever 在接受采訪時也曾回應過，「OpenAI 不分享關于 GPT-4 的更多信息的原因是“不言而喻的”——害怕競爭和對安全的擔憂。」Sutskever 表示，“在競爭格局方面--外面的競爭很激烈。GPT-4 的開發并不容易。幾乎 OpenAI 的所有人在一起花了很長時間才做出了這個東西，而且（目前）有很多很多公司都想做同樣的事情。安全方面，我想說，還沒有競爭方面那么突出。但它將會改變，基本上是這樣的。這些模型非常強大，而且會變得越來越強大。在某種程度上，如果有人想的話，很容易用這些模型造成很大的傷害。隨著（模型）能力的增強，你不想透露它們是有道理的?！?/span>雖然從商業的角度，OpenAI 不公開大模型架構（包括模型大小）、硬件、訓練計算、數據集構建、訓練方法等細節合乎情理，但是也有人表示，不公開訓練數據，很難知道該系統可以在哪里安全使用并提出修復方案，不利于大模型的研究。為此，你是否支持暫停更強大模型的訓練？你認為大模型是開源好，還是閉源好？歡迎留言分享你的看法。參考資料：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdfhttps://futureoflife.org/open-letter/pause-giant-ai-experiments/https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-messhttps://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview