人工智能研究機(jī)構(gòu)AI Now近期發(fā)布其《2023年度景觀報(bào)告：對抗科技力量》（2023 Landscape: Confronting Tech Power）。報(bào)告認(rèn)為，由于具備數(shù)據(jù)、計(jì)算能力和地緣政治優(yōu)勢，科技行業(yè)的權(quán)力集中成為人工智能政策面臨的一大緊迫挑戰(zhàn)。為此，圍繞ChatGPT、算法問責(zé)制、生物識別監(jiān)控、反壟斷等關(guān)鍵要素，AI Now提出了一系列可行的破解之策。

沒有大科技就沒有人工智能。

在過去的幾十年里，少數(shù)私人參與者積累了與國家相抗衡的權(quán)力和資源，同時(shí)開發(fā)和宣傳人工智能，將其融入關(guān)鍵社會(huì)基礎(chǔ)設(shè)施的建設(shè)當(dāng)中。如今，人工智能遍及求職、醫(yī)療、教育、商品流通、交通秩序等各行各業(yè)，越來越頻繁地影響著社會(huì)的發(fā)展軌跡。

與此同時(shí)，令人擔(dān)憂的問題開始浮出水面：例如技術(shù)并不全都依照規(guī)定方式運(yùn)轉(zhuǎn)，且可能生成高錯(cuò)誤率或歧視性的結(jié)果。人工智能的不透明性問題意味著我們可能無法完全了解和掌控這項(xiàng)技術(shù)。

究其原因，人工智能的核心屬性說明了問題：它從根本上依賴于僅由少數(shù)大型科技公司擁有和控制的資源。

三個(gè)關(guān)鍵維度

大型科技公司在人工智能領(lǐng)域的主導(dǎo)地位體現(xiàn)在三個(gè)關(guān)鍵維度：

1、數(shù)據(jù)優(yōu)勢：那些能夠獲得最廣泛、最深入行為數(shù)據(jù)的公司，在開發(fā)消費(fèi)級人工智能產(chǎn)品方面占據(jù)主導(dǎo)。這反映在科技公司通過收購、合并擴(kuò)大這種數(shù)據(jù)優(yōu)勢。科技公司已經(jīng)積累了巨大的經(jīng)濟(jì)實(shí)力，這使它們能夠?qū)⒆约鹤鳛楹诵幕A(chǔ)設(shè)施嵌入健康、消費(fèi)品、教育、信貸等許多行業(yè)。

2、計(jì)算能力優(yōu)勢：人工智能從根本上說是一個(gè)數(shù)據(jù)驅(qū)動(dòng)的行業(yè)，嚴(yán)重依賴用于訓(xùn)練、調(diào)整和部署模型的計(jì)算能力。算力的高昂造價(jià)和芯片材料的依賴性意味著人工智能需要具備規(guī)模效率和高技能技術(shù)工人等條件，而只有少數(shù)公司才能真正構(gòu)建起人工智能系統(tǒng)的基礎(chǔ)云和計(jì)算資源。這意味著盡管“AI初創(chuàng)公司”比比皆是，但它們只能成為大型科技公司“船體上的藤壺”——因?yàn)榇笮涂萍脊緯?huì)利用其對必要資源的控制來遏制中小企業(yè)發(fā)展。

3、地緣政治優(yōu)勢：當(dāng)前，人工智能系統(tǒng)不僅僅是商業(yè)產(chǎn)品，更是國家的戰(zhàn)略經(jīng)濟(jì)和安全資產(chǎn)，人工智能公司也成為這場地緣政治斗爭中的關(guān)鍵杠桿。

為什么是“大科技”？

本報(bào)告特別關(guān)注針對大型科技公司的政策干預(yù)。“大科技”（Big Tech）一詞起源于2013年，現(xiàn)在通常用于指代Google、Apple、Facebook、Amazon和Microsoft（縮寫為GAFAM），有時(shí)還包括Uber或Twitter等公司。

這些大公司積累了強(qiáng)大的網(wǎng)絡(luò)效應(yīng)、數(shù)據(jù)和基礎(chǔ)設(shè)施資源。其經(jīng)濟(jì)實(shí)力使這些公司能夠在社交媒體、醫(yī)療保健、教育和跨媒體等各個(gè)領(lǐng)域鞏固優(yōu)勢地位。關(guān)注大型科技公司有利于對科技政策干預(yù)進(jìn)行把握，理由包括：

①　便于監(jiān)管機(jī)構(gòu)調(diào)查大型科技企業(yè)的侵入性數(shù)據(jù)監(jiān)視、對用戶自主權(quán)的干涉、壟斷以及歧視等重要問題。

②　大型科技企業(yè)對更廣泛的生態(tài)系統(tǒng)產(chǎn)生了一系列連鎖反應(yīng)，激勵(lì)甚至迫使其他公司加入進(jìn)來。例如，谷歌和Facebook采用行為廣告商業(yè)模式，推動(dòng)商業(yè)監(jiān)控成為互聯(lián)網(wǎng)的商業(yè)模式之一。

③　整個(gè)科技行業(yè)和政府對大型科技公司的依賴與日俱增。這些公司的核心業(yè)務(wù)戰(zhàn)略是讓自己成為基礎(chǔ)設(shè)施，使自己成為技術(shù)生態(tài)系統(tǒng)中許多環(huán)節(jié)（如云計(jì)算、廣告、支付系統(tǒng)）不可或缺的環(huán)節(jié)。如果這些公司在運(yùn)營過程中出現(xiàn)問題，則容易引發(fā)連鎖反應(yīng)。

戰(zhàn)略重點(diǎn)

基于上述背景，以下戰(zhàn)略優(yōu)先事項(xiàng)顯得尤為重要：

1、責(zé)任倒置：在危害發(fā)生時(shí)，應(yīng)當(dāng)讓公司證明他們沒有造成損害，而不是由公眾和監(jiān)管機(jī)構(gòu)在傷害發(fā)生后介入調(diào)查、識別和尋找解決方案。

2、打破政策領(lǐng)域之間的孤島，更好地解決一項(xiàng)政策議程的進(jìn)展對其他政策議程的影響，避免企業(yè)利用政策間的不一致來發(fā)揮自己的優(yōu)勢。

3、確定政策方法是否能夠有效監(jiān)管行業(yè)行為，并及時(shí)地調(diào)整戰(zhàn)略，防止科技企業(yè)逃避政府監(jiān)管。

4、超越對立法和政策的狹隘關(guān)注，接受基礎(chǔ)廣泛的變革理論。例如，可以利用股東提案讓大型科技企業(yè)對侵犯人權(quán)的行為負(fù)責(zé)。

行動(dòng)之窗：AI監(jiān)管格局

圍繞人工智能政策的關(guān)鍵需求，報(bào)告從大規(guī)模AI模型、反競爭行為、算法問責(zé)制、數(shù)據(jù)最小化、科技和金融資本、生物識別監(jiān)控、國際數(shù)字貿(mào)易等方面闡述了未來AI的監(jiān)管策略。要點(diǎn)包括：

1、削弱科技公司的數(shù)據(jù)優(yōu)勢。

數(shù)據(jù)政策就是人工智能政策，為遏制公司的數(shù)據(jù)優(yōu)勢而采取措施是限制科技公司權(quán)力集中的關(guān)鍵。因此，報(bào)告建議：

①　制定公司收集或生成消費(fèi)者數(shù)據(jù)的明確限制規(guī)則（也稱為數(shù)據(jù)最小化規(guī)則）。

②　在人工智能政策的制定過程中將隱私法和競爭法進(jìn)行有效銜接，避免公司利用這些規(guī)則的不適配來為自己謀取利益。

③　優(yōu)化監(jiān)管指南和執(zhí)法措施，對企業(yè)的數(shù)據(jù)優(yōu)勢整合行為進(jìn)行審查，使執(zhí)法者能夠在損害發(fā)生之前進(jìn)行干預(yù)，制止濫用數(shù)據(jù)的行為。

2、改革競爭執(zhí)法手段，降低科技行業(yè)的技術(shù)集中度。

①　遏制大型科技企業(yè)利用數(shù)據(jù)優(yōu)勢兼并其他公司，并在企業(yè)從事反競爭行為時(shí)對其進(jìn)行調(diào)查和處罰。

②　推進(jìn)反壟斷法案的進(jìn)程，為反壟斷執(zhí)法者提供更強(qiáng)大的工具來挑戰(zhàn)科技行業(yè)特有的濫用行為。

③　整合技術(shù)政策領(lǐng)域的競爭分析。確定互聯(lián)網(wǎng)平臺(tái)公司可能利用隱私措施鞏固自身優(yōu)勢的場景，分析云市場的過度集中如何對網(wǎng)絡(luò)安全產(chǎn)生連鎖影響（例如，2017年亞馬遜網(wǎng)絡(luò)服務(wù)公司的云服務(wù)器發(fā)生導(dǎo)流故障，導(dǎo)致多個(gè)醫(yī)療保健和醫(yī)院系統(tǒng)癱瘓）。

3、規(guī)范ChatGPT、BARD等大型模型。

①　從正在出臺(tái)的歐盟人工智能法案中吸取經(jīng)驗(yàn)，防止“通用人工智能”出現(xiàn)監(jiān)管例外。警惕大型語言模型（LLM）和其他類似技術(shù)帶來的系統(tǒng)性風(fēng)險(xiǎn)，傾注更多而不是更少的監(jiān)管審查。

②　強(qiáng)制保留技術(shù)文檔，從而確保這些模型的開發(fā)人員對數(shù)據(jù)和設(shè)計(jì)選擇負(fù)責(zé)。

③　貫徹競爭法，以遏制生成式人工智能的結(jié)構(gòu)依賴性、解決反競爭行為，同時(shí)對人工智能系統(tǒng)建立公共責(zé)任制，防止對消費(fèi)者和正常市場競爭造成損害。

4、反對將審計(jì)作為人工智能的主要政策監(jiān)管方法。

①　越來越多的政策提倡對人工智能系統(tǒng)進(jìn)行審計(jì)。但審計(jì)無法應(yīng)對大型科技公司與公眾之間的權(quán)力失衡，可能進(jìn)一步鞏固科技行業(yè)的內(nèi)部權(quán)力，并且會(huì)分散對結(jié)構(gòu)性風(fēng)險(xiǎn)的關(guān)注。

②　審計(jì)規(guī)則基于流程的性質(zhì)使它很容易被公司內(nèi)部化，淡化更為根本且重要的結(jié)構(gòu)性變革方法，阻礙“利益相關(guān)者提出基本原則問題的能力，并將道德因素（即使系統(tǒng)完美地執(zhí)行了任務(wù)，但是否代表該系統(tǒng)就是公正的？）從更根本的改革中排除出去。

③　因此，報(bào)告建議對有害人工智能施加強(qiáng)有力的結(jié)構(gòu)性改革措施，例如禁令、停業(yè)規(guī)則等。

5、防止生物識別監(jiān)控在智能汽車等新領(lǐng)域的無序擴(kuò)展。

①　實(shí)踐證明，數(shù)據(jù)保護(hù)法在防止生物識別系統(tǒng)危害方面的監(jiān)管并不到位。在這種環(huán)境下，全面明令禁止企業(yè)在某些領(lǐng)域收集和使用數(shù)據(jù)應(yīng)當(dāng)是未來政策干預(yù)的關(guān)鍵。

②　汽車制造商正在與大型科技公司建立合作伙伴關(guān)系，從而實(shí)現(xiàn)與汽車硬件系統(tǒng)的深度集成。然而，當(dāng)下的生物識別實(shí)際應(yīng)用已經(jīng)蔓延到對情感、性格和意圖的推斷上。例如，用于跟蹤送貨司機(jī)的車內(nèi)監(jiān)控系統(tǒng)集成了情緒識別系統(tǒng)，聲稱可以監(jiān)控司機(jī)的“注意力”，并密切關(guān)注潛在的攻擊行為。該行為不僅可能不符合相稱性、公平性和透明度原則，還可能具有歧視性影響。

③　有鑒于此，歐盟人工智能法案已經(jīng)提出要明確禁止情感識別，并將其列為最高級別類別的“不可接受風(fēng)險(xiǎn)”。另外，報(bào)告還建議應(yīng)該更嚴(yán)格地執(zhí)行數(shù)據(jù)最小化條款，以遏制虛擬現(xiàn)實(shí)和汽車等新領(lǐng)域中生物特征數(shù)據(jù)收集的擴(kuò)展。

6、防止數(shù)字貿(mào)易協(xié)定削弱國家對算法問責(zé)制和競爭政策的監(jiān)管。

①　“數(shù)字貿(mào)易”規(guī)則可能會(huì)削弱數(shù)據(jù)隱私、算法問責(zé)制和科技行業(yè)競爭的監(jiān)管效果。貿(mào)易協(xié)定包括具有約束力的國際規(guī)則，這些規(guī)則限制了政府監(jiān)管商業(yè)公司的范圍。由于談判的保密性和相對不受公眾政治壓力的影響，它們已成為科技行業(yè)為爭取優(yōu)惠待遇而進(jìn)行激烈游說的焦點(diǎn)。

②　然而，貿(mào)易協(xié)定中的非歧視禁令規(guī)則不應(yīng)被視作大型科技公司免受國外競爭監(jiān)管的工具。報(bào)告認(rèn)為數(shù)字貿(mào)易協(xié)定樹立了一個(gè)危險(xiǎn)的先例：科技行業(yè)現(xiàn)在把貿(mào)易協(xié)定視為一個(gè)舞臺(tái)，它們可以通過游說確立政策立場，從而形成對它們有利的規(guī)則。

③　另外，貿(mào)易協(xié)議中對源代碼和算法的保密規(guī)則不應(yīng)該被當(dāng)做削弱算法透明度的工具，監(jiān)管當(dāng)局應(yīng)當(dāng)對人工智能系統(tǒng)進(jìn)行更主動(dòng)和持續(xù)的監(jiān)控。

編輯：黃飛

?