來(lái)源：ScienceAI，編輯：白菜葉

自從 20 世紀(jì)最早的人工智能理論將世界置于不可逆轉(zhuǎn)的技術(shù)軌道之后，人工智能以它巨大的前景，引領(lǐng)著社會(huì)變革以及人類進(jìn)步。

隨著所謂的生成 AI 的到來(lái)，例如 ChatGPT，幾十年來(lái) AI 進(jìn)步的緩慢進(jìn)展感覺(jué)更像是一個(gè)巨大的飛躍。這種感知的跳躍讓一些專家擔(dān)心過(guò)快地走向一個(gè)他們所說(shuō)的機(jī)器智能可能成為一種無(wú)所不能的、毀滅人類的力量的世界的后果，就像《終結(jié)者》一樣。

但包括體驗(yàn)人工智能研究所執(zhí)行主任 Usama Fayyad 在內(nèi)的美國(guó)東北大學(xué)（Northeastern University）專家堅(jiān)持認(rèn)為，這些擔(dān)憂并不反映現(xiàn)實(shí)。事實(shí)上，人工智能正在以促進(jìn)和需要人類參與的方式進(jìn)行整合——專家們創(chuàng)造了「人在環(huán)路」。

以下是媒體與 Fayyad 的討論內(nèi)容。Q1

首先，關(guān)于生成式 AI 的討論很多。它是什么，它與其他形式的人工智能有何不同？
A：生成式 AI 是指可以非常簡(jiǎn)單地生成輸出的 AI 類型。這些輸出可以是文本形式，就像你在我們所說(shuō)的大型語(yǔ)言模型中看到的那樣，例如 ChatGPT（大型語(yǔ)言模型之上的聊天機(jī)器人）或圖像等。如果你在文本上訓(xùn)練[人工智能]，文本就是你將從中得到的東西。如果你在圖像上訓(xùn)練它，你會(huì)從中得到圖像或圖像的修改。如果你用聲音或音樂(lè)訓(xùn)練它，你就會(huì)從中得到音樂(lè)。如果你用編程代碼訓(xùn)練它，你就會(huì)得到程序，等等。

它也被稱為生成式 AI，因?yàn)?a target="_blank">算法能夠自行生成示例。這是他們訓(xùn)練的一部分。研究人員會(huì)做一些事情，比如讓算法通過(guò)生成對(duì)抗網(wǎng)絡(luò)挑戰(zhàn)自身，或者生成可能混淆系統(tǒng)的對(duì)抗樣本的算法，從而幫助加強(qiáng)其訓(xùn)練。但自開(kāi)發(fā)以來(lái)，研究人員很快意識(shí)到他們需要人為干預(yù)。因此，這些系統(tǒng)中的大多數(shù)，包括 ChaptGPT，實(shí)際上都在使用并需要人工干預(yù)。作為訓(xùn)練的一部分，人類通過(guò)稱為強(qiáng)化學(xué)習(xí)的東西促進(jìn)了許多這些挑戰(zhàn)，強(qiáng)化學(xué)習(xí)是一種旨在從根本上提高系統(tǒng)性能的機(jī)器學(xué)習(xí)技術(shù)。

Q2

ChatGPT 最近受到了很多媒體的關(guān)注，尤其是在用戶發(fā)布他們與 AI 的個(gè)人互動(dòng)的社交媒體上。這項(xiàng)新技術(shù)有哪些實(shí)際應(yīng)用？A：我們看到它應(yīng)用于教育——尤其是高等教育。高等教育已經(jīng)注意到——包括東北大學(xué)在內(nèi)，在很大程度上——這些技術(shù)已經(jīng)挑戰(zhàn)了我們進(jìn)行標(biāo)準(zhǔn)化測(cè)試的方式。教育工作者已經(jīng)意識(shí)到這只是另一種工具。在東北大學(xué)，我們有很多例子，我們將在即將舉行的課堂上使用它的人們的研討會(huì)中介紹這些例子。在藝術(shù)、媒體和設(shè)計(jì)學(xué)院學(xué)習(xí) [Salvador] Dalí 和 LensaAI 學(xué)習(xí)圖像；或者是在寫作課、英語(yǔ)課或工程學(xué)中。

就像我們從計(jì)算尺過(guò)渡到計(jì)算器，再到計(jì)算機(jī)，然后是手機(jī)上的整個(gè)網(wǎng)絡(luò)——這是另一種工具，訓(xùn)練我們的學(xué)生為新世界做好準(zhǔn)備的正確方法是想辦法利用這種技術(shù)作為一種工具。

現(xiàn)在看到大規(guī)模的現(xiàn)實(shí)世界應(yīng)用還為時(shí)過(guò)早。技術(shù)太新了。但據(jù)估計(jì)，這項(xiàng)技術(shù)可以加速知識(shí)工作者完成的任務(wù)的 50%–80%（我更傾向于 80%）。不是自動(dòng)化的，加速的。如果你是律師并正在起草協(xié)議，你可以非常快速地定制初稿；但隨后你必須進(jìn)入并進(jìn)行編輯或更改。如果你是一名程序員，你可以編寫一個(gè)初始程序。但它通常不會(huì)很好地工作；它會(huì)有錯(cuò)誤；它不是針對(duì)目標(biāo)定制的。同樣，一個(gè)人，只要他們明白自己在做什么，就可以進(jìn)去修改它，并為自己節(jié)省 50%–80% 的工作量。

Q3

你能否詳細(xì)說(shuō)明加速與自動(dòng)化的含義？A：這是加速，而不是自動(dòng)化，因?yàn)槲覀冎兰夹g(shù)實(shí)際上可以以可怕的方式產(chǎn)生幻覺(jué)。它可以彌補(bǔ)東西; 它可以嘗試捍衛(wèi)你要求它捍衛(wèi)的觀點(diǎn)；你可以讓它撒謊，你也可以對(duì)它撒謊，讓它相信你。

他們稱這種特定類別的技術(shù)為隨機(jī)鸚鵡，意思是具有隨機(jī)變化的鸚鵡。我喜歡鸚鵡這個(gè)詞，因?yàn)樗_地描述了他們不明白他們?cè)谡f(shuō)什么的事實(shí)。所以他們說(shuō)了一些東西，這些東西聽(tīng)起來(lái)很有說(shuō)服力，或者流暢。這是我們?cè)噲D提出的重要觀點(diǎn)之一：不知何故，我們?cè)谏鐣?huì)上學(xué)會(huì)了將智慧與口才和流暢聯(lián)系起來(lái)——基本上是說(shuō)話得體的人。但實(shí)際上這些算法遠(yuǎn)非智能；他們基本上是在做自動(dòng)完成；他們?cè)谥貜?fù)他們以前見(jiàn)過(guò)的東西，而且經(jīng)常被錯(cuò)誤地重復(fù)。

為什么我要說(shuō)這一切？因?yàn)檫@意味著你在完成這項(xiàng)工作時(shí)需要一個(gè)人在環(huán)路中，因?yàn)槟阈枰獧z查所有這些工作。你去掉了很多重復(fù)單調(diào)的工作——這太棒了。你可以加速它——這很有效率。你現(xiàn)在可以花時(shí)間增加價(jià)值，而不是重復(fù)枯燥的任務(wù)。我認(rèn)為所有這些都是積極的。

我喜歡用會(huì)計(jì)作為一個(gè)很好的類比。60-70 年前的會(huì)計(jì)是什么樣子的？好吧，你必須處理這些大賬本；你必須有漂亮的筆跡；你必須具備良好的加法技巧；你必須手動(dòng)驗(yàn)證數(shù)字并檢查總和并應(yīng)用比率。你猜怎么了？這些任務(wù)——沒(méi)有，零——都與今天無(wú)關(guān)。現(xiàn)在，我們更換會(huì)計(jì)師是因?yàn)槲覀儸F(xiàn)在用更快、更好、更便宜、可重復(fù)的東西取代了他們過(guò)去所做的一切嗎？不，我們今天的會(huì)計(jì)師實(shí)際上比人類歷史上的還要多。

Q4

最近，人們非常擔(dān)心人工智能的發(fā)展可能會(huì)超越我們的安全控制和協(xié)議所帶來(lái)的威脅。你如何看待這些擔(dān)憂？A：這些擔(dān)憂集中在錯(cuò)誤的事情上。讓我說(shuō)幾件事。我們確實(shí)在 2015 年或 2016 年左右使用這些技術(shù)經(jīng)歷了一些階段性轉(zhuǎn)變。以手寫識(shí)別為例。多年來(lái)它已經(jīng)跳躍，但它花了大約 15 年的時(shí)間才到達(dá)那里，并在此過(guò)程中進(jìn)行了許多修訂。語(yǔ)音識(shí)別：同理。花了很長(zhǎng)時(shí)間，然后開(kāi)始加速；但仍然需要一些時(shí)間。

有了這些大型語(yǔ)言模型，比如閱讀理解和語(yǔ)言編譯，我們看到了在這些大型文學(xué)或文本上訓(xùn)練的大型語(yǔ)言模型的發(fā)展發(fā)生了重大飛躍。順便說(shuō)一句，沒(méi)有太多人談?wù)摰氖?OpenAI 不得不花很多錢來(lái)策劃那篇文章；確保它是平衡的。如果你通過(guò)兩個(gè)不同的結(jié)果在兩個(gè)具有相同內(nèi)容的文檔上訓(xùn)練一個(gè)大型語(yǔ)言模型，該算法如何知道哪個(gè)是正確的？它沒(méi)有。要么必須由人來(lái)告訴它，要么它基本上默認(rèn)說(shuō)：「我經(jīng)常看到的東西一定是對(duì)的。」 這為錯(cuò)誤信息創(chuàng)造了肥沃的土壤。

現(xiàn)在，回答你關(guān)于這個(gè)提議的暫停的問(wèn)題。在我看來(lái)，它的動(dòng)機(jī)有點(diǎn)愚蠢。許多支持者來(lái)自一個(gè)陣營(yíng)，他們認(rèn)為我們正處于人工「通用」智能的風(fēng)險(xiǎn)之中——這與事實(shí)相去甚遠(yuǎn)。我們離那個(gè)很遠(yuǎn)很遠(yuǎn)。同樣，這些算法不知道它們?cè)谧鍪裁础，F(xiàn)在，我們正處于濫用它的危險(xiǎn)地帶。最近有一個(gè)來(lái)自比利時(shí)的例子，有人在與聊天機(jī)器人交談六個(gè)月后自殺，而聊天機(jī)器人最終鼓勵(lì)他這樣做。

因此，我們需要應(yīng)對(duì)很多危險(xiǎn)。我們知道存在問(wèn)題。但是，停止不會(huì)產(chǎn)生任何影響。事實(shí)上，如果人們同意停止，那么只有好演員才會(huì)這樣做；壞演員繼續(xù)。我們需要再次強(qiáng)調(diào)的是，流利、口才不是智慧。這項(xiàng)技術(shù)有局限性；讓我們揭開(kāi)他們的神秘面紗。讓我們好好利用它，這樣我們才能意識(shí)到壞用途是什么。這樣我們就可以了解應(yīng)該如何控制它們。