精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

人工智能安全問題分類

司南物聯 ? 來源:FreeBuf ? 2020-08-20 16:11 ? 次閱讀

當前,AI醫療、智慧家庭、自動駕駛智能交易等人工智能的發展不斷顛覆企業的商業模式,也在改變我們的生活方式。但不可否認的是,人工智能在服務和賦能人類生產生活同時,也帶來了難以忽視的安全風險。

當前,AI醫療、智慧家庭、自動駕駛、智能交易等人工智能的發展不斷顛覆企業的商業模式,也在改變我們的生活方式。

中國科學院院士、上海交通大學副校長毛軍發表示,人工智能作為“加速器”已涉及醫療、金融、交通、新聞等各行各業,可以有效解決傳統行業面臨的問題,發揮大量數據的價值,賦能傳統產業發展。

“人工智能發展的本質是通過算法、算力和數據去解決完全信息和結構化環境下的確定性問題。”毛軍發認為,隨著算法、算力和數據的進一步發展,勢必加速萬物智能時代到來,為人工智能賦能各種場景打通重要通道,實現萬物互聯。

但不可否認的是,人工智能在服務和賦能人類生產生活同時,也帶來了難以忽視的安全風險。

人工智能安全問題分類

01

數據風險

1. “數據投毒”

所謂的“數據投毒”指人工智能訓練數據污染導致人工智能決策錯誤。通過在訓練數據里加入偽裝數據、惡意樣本等,破壞數據的完整性,進而導致訓練的算法模型決策出現偏差。

“數據投毒”主要有兩種攻擊方式:

一種是采用模型偏斜方式,攻擊目標是訓練數據樣本,通過污染訓練數據達到改變分類器分類邊界的目的;

另一種則是采用反饋誤導方式,攻擊目標是人工智能的學習模型本身,利用模型的用戶反饋機制發起攻擊,直接向模型“注入”偽裝的數據或信息,誤導人工智能做出錯誤判斷。

“數據投毒”危害性十分巨大,特別是在自動駕駛領域,可導致車輛違反交通規則甚至造成交通事故。

2. 數據泄露

一方面逆向攻擊可導致算法模型內部的數據泄露;另一方面,人工智能技術可加強數據挖掘分析能力,加大隱私泄露風險。

比如各類智能設備(如智能手環、智能音箱)和智能系統(如生物特征識別系統、智能醫療系統),人工智能設備和系統對個人信息采集更加直接與全面。人工智能應用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等,具有很強的個人屬性。這些信息具有唯一性和不變性,一旦泄露或者濫用將產生嚴重后果。

3. 數據異常

運行階段的數據異常可導致智能系統運行錯誤,同時模型竊取攻擊可對算法模型的數據進行逆向還原。此外,開源學習框架存在安全風險,也可導致人工智能系統數據泄露。

02

算法風險

圖像識別、圖像欺騙等會導致算法出問題,比如自動駕駛,谷歌也做了一些研究,如果模型文件被黑客控制惡意修改,并且給它學習,會產生完全不一樣的結果。

算法設計或實施有誤可產生與預期不符甚至傷害性結果;算法潛藏偏見和歧視,導致決策結果可能存在不公;算法黑箱導致人工智能決策不可解釋,引發監督審查困境;含有噪聲或偏差的訓練數據可影響算法模型準確性。

03

網絡風險

人工智能不可避免的會引入網絡連接,網絡本身的安全風險也會將AI帶入風險的深坑;人工智能技術本身也能夠提升網絡攻擊的智能化水平,進而進行數據智能竊取;人工智能可用來自動鎖定目標,進行數據勒索攻擊。人工智能技術通過對特征庫學習自動查找系統漏洞和識別關鍵目標,提高攻擊效率;人工智能可自動生成大量虛假威脅情報,對分析系統實施攻擊。人工智能通過使用機器學習、數據挖掘和自然語言處理等技術處理安全大數據,能自動生產威脅性情報,攻擊者也可利用相關技術生成大量錯誤情報以混淆判斷;人工智能可自動識別圖像驗證碼,竊取系統數據。圖像驗證碼是一種防止機器人賬戶濫用網站或服務的常用驗證措施,但人工智能通過學習可以讓這一驗證措施失效。

04

其他風險

第三方組件問題也會存在問題,包括對文件、網絡協議、各種外部輸入協議的處理都會出問題。被黑客利用,帶來的是災難性的毀滅。

【通俗來講就是:再牛逼的安全驗證,最終也不過是一串數據!】

我們要清楚的認識到,人工智能的時代數據安全也面臨了很多新的挑戰。保護數據安全保護算法安全,對于企業來說變為了重中之重。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1791

    文章

    46896

    瀏覽量

    237670
  • 自動駕駛
    +關注

    關注

    783

    文章

    13694

    瀏覽量

    166168
  • 智慧家庭
    +關注

    關注

    5

    文章

    300

    瀏覽量

    40448

原文標題:AIoT領域的安全風險,你不能不知道!

文章出處:【微信號:scinaniot,微信公眾號:司南物聯】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    嵌入式和人工智能究竟是什么關系?

    理這些數據,提高系統的響應速度和準確性。此外,嵌入式系統還可以為人工智能提供安全和隱私保護,避免數據泄露和攻擊。總之,嵌入式系統和人工智能是相輔相成的,它們在許多領域都有廣闊的應用前景。 嵌入式系統
    發表于 11-14 16:39

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    幸得一好書,特此來分享。感謝平臺,感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅動科學創新》的第6章后,我深刻感受到人工智能在能源科學領域中的巨大潛力和廣泛應用。這一章詳細
    發表于 10-14 09:27

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    周末收到一本新書,非常高興,也非常感謝平臺提供閱讀機會。 這是一本挺好的書,包裝精美,內容詳實,干活滿滿。 《AI for Science:人工智能驅動科學創新》這本書的第一章,作為整個著作的開篇
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    RISC-V在人工智能圖像處理領域的應用前景十分廣闊,這主要得益于其開源性、靈活性和低功耗等特點。以下是對RISC-V在人工智能圖像處理應用前景的詳細分析: 一、RISC-V的基本特點 RISC-V
    發表于 09-28 11:00

    人工智能ai 數電 模電 模擬集成電路原理 電路分析

    人工智能ai 數電 模電 模擬集成電路原理 電路分析 想問下哪些比較容易學 不過好像都是要學的
    發表于 09-26 15:24

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領域應用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本原理和原則,方法進行描訴,有利于總結經驗,擬按照要求準備相關體會材料。看能否有助于入門和提高ss
    發表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    ! 《AI for Science:人工智能驅動科學創新》 這本書便將為讀者徐徐展開AI for Science的美麗圖景,與大家一起去了解: 人工智能究竟幫科學家做了什么? 人工智能將如何改變我們所生
    發表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產業博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領域集產品
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發表于 07-29 17:05

    人工智能安全守護計劃啟動

    近日,中國人工智能產業發展聯盟(AIIA)安全治理委員會在京成功舉辦成果發布會,會上隆重推出了“人工智能安全守護計劃”(簡稱“智安計劃”),標志著我國AI
    的頭像 發表于 07-27 16:28 ?2042次閱讀

    人工智能大模型在工業網絡安全領域的應用

    隨著人工智能技術的飛速發展,人工智能大模型作為一種具有強大數據處理能力和復雜模式識別能力的深度學習模型,已經在多個領域展現了其獨特的優勢和廣闊的應用前景。在工業網絡安全領域,人工智能
    的頭像 發表于 07-10 14:07 ?678次閱讀

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V2)

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V2) 課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎知識指引 14分50秒 https
    發表于 05-10 16:46

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V1)

    課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎知識指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:參賽基礎知識指引
    發表于 04-01 10:40

    嵌入式人工智能的就業方向有哪些?

    嵌入式人工智能的就業方向有哪些? 在新一輪科技革命與產業變革的時代背景下,嵌入式人工智能成為國家新型基礎建設與傳統產業升級的核心驅動力。同時在此背景驅動下,眾多名企也紛紛在嵌入式人工智能領域布局
    發表于 02-26 10:17

    推動人工智能安全發展

    近年來,國家高度重視人工智能安全發展,逐步完善相關政策法規。國務院印發《新一代人工智能發展規劃》提出面向2030年我國新一代人工智能發展的指導思想、戰略目標、重點任務和保障措施,部署構
    的頭像 發表于 01-04 16:32 ?1122次閱讀