精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

做好人工智能發(fā)展的風(fēng)險(xiǎn)防范

AI智勝未來 ? 來源:學(xué)習(xí)時報(bào) ? 2023-10-29 10:47 ? 次閱讀

當(dāng)前,ChatGPT類大模型加速了數(shù)字世界和物理世界的深度融合,引領(lǐng)人工智能進(jìn)入新的發(fā)展階段。與此同時,人工智能固有的不確定性、不透明性、難以解釋、事實(shí)性錯誤等能力局限,對經(jīng)濟(jì)發(fā)展、國際政治和全球治理等方面帶來深遠(yuǎn)影響,引發(fā)了全球?qū)Υ竽P蛷V泛應(yīng)用安全風(fēng)險(xiǎn)的熱議。如何應(yīng)對人工智能風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動,有效保障國家安全,已成為我國國家安全治理的重要議題。

大模型技術(shù)引發(fā)新的安全風(fēng)險(xiǎn)和治理挑戰(zhàn)

隨著技術(shù)的更新迭代,人工智能的應(yīng)用門檻持續(xù)降低,伴隨著誤用濫用情況的增加,經(jīng)濟(jì)社會領(lǐng)域的多重安全風(fēng)險(xiǎn)也在交織疊加。

一是放大隱私信息泄露風(fēng)險(xiǎn)。當(dāng)前,人工智能開發(fā)者和服務(wù)提供者可能利用用戶數(shù)據(jù)進(jìn)行優(yōu)化訓(xùn)練,但相關(guān)服務(wù)條款卻并未對數(shù)據(jù)使用做出解釋說明,可能涉及在用戶不知情情況下收集個人信息、商業(yè)秘密等,安全風(fēng)險(xiǎn)較為突出。為保護(hù)個人信息安全,部分歐洲國家對大模型進(jìn)行了嚴(yán)格監(jiān)管和審查,甚至考慮禁止ChatGPT等人工智能應(yīng)用。

二是輿論引導(dǎo)與文化滲透風(fēng)險(xiǎn)。在輿論和文化領(lǐng)域,人工智能技術(shù)可被用于算法引導(dǎo)、平臺滲透、網(wǎng)絡(luò)監(jiān)控、內(nèi)容生成等信息處理環(huán)節(jié),由大模型驅(qū)動的文本創(chuàng)作工具可能產(chǎn)生頗具影響力或說服力的信息,使得虛假信息不易被識破,負(fù)面輿情傳播速度加快,進(jìn)而導(dǎo)致侵犯他人合法權(quán)益、擾亂經(jīng)濟(jì)秩序和社會秩序,甚至危害國家安全和社會公共利益。

三是情報(bào)軍事領(lǐng)域應(yīng)用的新威脅。人工智能的自動生成代碼功能使黑客技術(shù)的習(xí)得過程更為容易,使網(wǎng)絡(luò)攻防的更新頻率大幅提升。利用ChatGPT類大模型可以幫助機(jī)器學(xué)習(xí)識別更加復(fù)雜的文本及實(shí)體,或?qū)U(kuò)大無人軍用智能無人裝備的應(yīng)用,增大軍事對峙摩擦,對國家安全帶來嚴(yán)峻挑戰(zhàn)。

加快推進(jìn)人工智能安全治理

面對人工智能技術(shù)快速發(fā)展、風(fēng)險(xiǎn)持續(xù)蔓延的形勢,增強(qiáng)人工智能的安全性成為國際組織、各國政府及產(chǎn)業(yè)界等共同關(guān)注的議題。

我國高度重視人工智能安全問題,不斷加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范,建立健全人工智能安全治理體系,對人工智能技術(shù)本身所致的內(nèi)生安全、人工智能應(yīng)用中的衍生安全以及影響和決定人工智能前景的發(fā)展安全問題進(jìn)行系統(tǒng)性治理,確保人工智能安全、可靠、可控。

2017年,國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》,對人工智能治理工作進(jìn)行了專門部署,并要求建立人工智能安全監(jiān)管和評估體系。我國不斷完善數(shù)據(jù)安全、網(wǎng)絡(luò)安全、人工智能等相關(guān)法律制度建設(shè),為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)。研究制定算法推薦、深度合成、生成式人工智能等領(lǐng)域的管理規(guī)定,對人工智能發(fā)展進(jìn)行引導(dǎo)和規(guī)范,保障相關(guān)技術(shù)產(chǎn)品的有序發(fā)展。

先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》,為人工智能技術(shù)的開發(fā)和應(yīng)用設(shè)定道德約束,促使人工智能更好地服務(wù)于人類。此外,我國也積極參與全球人工智能治理,堅(jiān)持倫理先行、和平利用、安全可控等治理原則,呼吁加強(qiáng)對人工智能軍事應(yīng)用的監(jiān)管,以負(fù)責(zé)任的態(tài)度促進(jìn)人工智能安全治理。

推動形成人工智能安全治理的強(qiáng)大合力

盡管已開展一系列治理行動,但人工智能安全治理還面臨諸多全球共性難題。人工智能技術(shù)目前并不具備較強(qiáng)的可解釋性、準(zhǔn)確性和真實(shí)性,難以完全實(shí)現(xiàn)人工智能治理所倡導(dǎo)的透明度、可靠性和安全性。如何在創(chuàng)新發(fā)展和有效監(jiān)管之間取得平衡也是各國普遍面臨的問題。既要避免過度監(jiān)管阻礙技術(shù)發(fā)展,也要防止管理力度不夠而引發(fā)嚴(yán)重問題。

當(dāng)前,人工智能影響下的國際科技、經(jīng)濟(jì)及政治領(lǐng)域發(fā)生沖突的可能性日益增大。我國正處在人工智能技術(shù)快速發(fā)展的階段,必須堅(jiān)持貫徹總體國家安全觀,構(gòu)建多元參與、協(xié)同共治的人工智能治理機(jī)制,調(diào)動各主體參與治理的積極性,促進(jìn)人工智能與經(jīng)濟(jì)社會健康有序融合,以高水平科技安全保障國家總體安全。一是建立健全人工智能安全治理機(jī)制。堅(jiān)持審慎監(jiān)管、開放包容原則,強(qiáng)化風(fēng)險(xiǎn)研判和監(jiān)測預(yù)警,完善科技倫理審查和監(jiān)管制度。

二是增強(qiáng)法治保障能力。加快推進(jìn)人工智能立法,開展生成式人工智能、信息安全利用等法律問題研究,建立追溯和問責(zé)機(jī)制,清晰界定人工智能相關(guān)主體權(quán)利、義務(wù)及責(zé)任邊界,從而保障各類群體的合法權(quán)益。三是增強(qiáng)人工智能技術(shù)治理能力。強(qiáng)化人工智能數(shù)據(jù)安全、隱私保護(hù)等技術(shù)研發(fā),強(qiáng)化對人工智能算法和模型的審計(jì)監(jiān)管和對人工智能系統(tǒng)安全性測試評估,增強(qiáng)抗系統(tǒng)性風(fēng)險(xiǎn)能力。四是增強(qiáng)國際安全合作能力。

倡導(dǎo)以人為本、智能向善理念,在《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》等基礎(chǔ)上,發(fā)揮聯(lián)合國、G20、上合組織等多邊機(jī)制的作用,拓展人工智能安全共識,避免人工智能濫用帶來的安全風(fēng)險(xiǎn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    46896

    瀏覽量

    237672
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1549

    瀏覽量

    7509
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2339

    瀏覽量

    2501

原文標(biāo)題:做好人工智能發(fā)展的風(fēng)險(xiǎn)防范

文章出處:【微信號:AI智勝未來,微信公眾號:AI智勝未來】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    嵌入式和人工智能究竟是什么關(guān)系?

    領(lǐng)域,如工業(yè)控制、智能家居、醫(yī)療設(shè)備等。 人工智能是計(jì)算機(jī)科學(xué)的一個分支,它研究如何使計(jì)算機(jī)具備像人類一樣思考、學(xué)習(xí)、推理和決策的能力。人工智能發(fā)展歷程可以追溯到上世紀(jì)50年代,經(jīng)
    發(fā)表于 11-14 16:39

    發(fā)展人工智能對社會的利與弊?

    人工智能(AI)的發(fā)展對社會的影響是深遠(yuǎn)且復(fù)雜的,它如同一把雙刃劍,既帶來了前所未有的機(jī)遇和利益,也伴隨著一系列挑戰(zhàn)和風(fēng)險(xiǎn)。 一、人工智能發(fā)展
    的頭像 發(fā)表于 10-22 16:47 ?1020次閱讀

    《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    探討了人工智能如何通過技術(shù)創(chuàng)新推動能源科學(xué)的進(jìn)步,為未來的可持續(xù)發(fā)展提供了強(qiáng)大的支持。 首先,書中通過深入淺出的語言,介紹了人工智能在能源領(lǐng)域的基本概念和技術(shù)原理。這使得我對人工智能
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    。 4. 對未來生命科學(xué)發(fā)展的展望 在閱讀這一章后,我對未來生命科學(xué)的發(fā)展充滿了期待。我相信,在人工智能技術(shù)的推動下,生命科學(xué)將取得更加顯著的進(jìn)展。例如,在藥物研發(fā)領(lǐng)域,AI技術(shù)將幫助科學(xué)家們更加
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第一章人工智能驅(qū)動的科學(xué)創(chuàng)新學(xué)習(xí)心得

    的同時,確保其公正性、透明度和可持續(xù)性,是當(dāng)前和未來科學(xué)研究必須面對的重要課題。此外,培養(yǎng)具備AI技能的科研人才,也是推動這一領(lǐng)域發(fā)展的關(guān)鍵。 4. 激發(fā)創(chuàng)新思維 閱讀這一章,我被深深啟發(fā)的是人工智能
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    RISC-V和Arm內(nèi)核及其定制的機(jī)器學(xué)習(xí)和浮點(diǎn)運(yùn)算單元,用于處理復(fù)雜的人工智能圖像處理任務(wù)。 四、未來發(fā)展趨勢 隨著人工智能技術(shù)的不斷發(fā)展和普及,RISC-V在
    發(fā)表于 09-28 11:00

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新

    每個交叉領(lǐng)域,本書通過案例進(jìn)行了詳盡的介紹,梳理了產(chǎn)業(yè)地圖,并給出了相關(guān)政策啟示。 《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》適合所有關(guān)注人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的讀者閱讀,特別適合材料科學(xué)
    發(fā)表于 09-09 13:54

    報(bào)名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    定制化的硬件設(shè)計(jì),提高了硬件的靈活性和適應(yīng)性。 綜上所述,F(xiàn)PGA在人工智能領(lǐng)域的應(yīng)用前景廣闊,不僅可以用于深度學(xué)習(xí)的加速和云計(jì)算的加速,還可以針對特定應(yīng)用場景進(jìn)行定制化計(jì)算,為人工智能技術(shù)的發(fā)展提供有力支持。
    發(fā)表于 07-29 17:05

    歐盟設(shè)立人工智能辦公室,加強(qiáng)監(jiān)管推動可信AI發(fā)展

    歐盟近日宣布成立全新的人工智能辦公室,旨在全面監(jiān)管人工智能領(lǐng)域,確保可信人工智能的健康發(fā)展,并有效防范潛在
    的頭像 發(fā)表于 05-31 10:42 ?501次閱讀

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V2)

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V2) 課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎(chǔ)知識指引 14分50秒 https
    發(fā)表于 05-10 16:46

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V1)

    課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎(chǔ)知識指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:參賽基礎(chǔ)知識指引
    發(fā)表于 04-01 10:40

    嵌入式人工智能的就業(yè)方向有哪些?

    于工業(yè)、農(nóng)業(yè)、醫(yī)療、城市建設(shè)、金融、航天軍工等多個領(lǐng)域。在新時代發(fā)展背景下,嵌入式人工智能已是大勢所趨,成為當(dāng)前最熱門的AI商業(yè)化途徑之一。
    發(fā)表于 02-26 10:17

    如何通過技術(shù)和法律等手段規(guī)避人工智能風(fēng)險(xiǎn)

    近年來,人工智能研究正從以往的學(xué)術(shù)牽引更多轉(zhuǎn)為需求牽引,人工智能發(fā)展目標(biāo)正發(fā)生大的轉(zhuǎn)變。
    的頭像 發(fā)表于 01-31 12:36 ?841次閱讀

    推動人工智能安全發(fā)展

    近年來,國家高度重視人工智能安全發(fā)展,逐步完善相關(guān)政策法規(guī)。國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》提出面向2030年我國新一代人工智能
    的頭像 發(fā)表于 01-04 16:32 ?1122次閱讀