一:底層生物學邏輯
生物進化上來說,霍金是對的,不好好控制人工智能,那人類其實沒有優勢,未來的發展方向是人--人機結合--強人工智能,這種存活率更高,而且有飛向太空的可能。
無人駕駛Level 5,其實就是部分的機器人了,只不過運動自由度只有
- x軸前后
- y軸不可
- z軸旋轉
其他方向我們認為是惡性事件,但如果里面坐的是機器人呢?同時飛行汽車。
我們對于SAE Level 5的刻畫不到位,反而是機器人的刻畫會更準確,一個具有多自由度的運動載體,兩種發展方向
1.高度自主化的機器人
2.可多自由度的出行工具,例如cybertruck
3.人開車的不安全性,ODD過于狹小,而真正機器人開車ODD的可行性。ODD的大小,取決于兩方面,一個是機器人道德安全,一個是機器人的能力,一個是機器人高度思維及意識的產生。
4.當前萬物互聯得本質,是機器之間的通訊,而linux等操作系統,更像是構建生物體的過程。
二:安全的定位
功能安全本質討論機器以人或環境為主體,防止受不合理EE的攻擊和風險。
網絡安全本質討論資產受外部攻擊的過程。
隨著人工智能演化:
1.功能安全保護人還是保護環境等資產優先?這是第一個道德風險問題,不過AI安全是以人為保護主體,所以人生命是第一位,這也是網絡安全的第一性,其他網絡安全目標比這個目標次要,因而我們建議21434中的impact rating,本質的框架仍然不足,采用集合進行更好:
if for one attack:decision_set(element1…) = ()
impact rating= (element1,element2,…)*(coupling factor1,…)*(effect1…)
這種方式更可以刻畫線性特征,因而,21434的影響分析要素是弱化版本之后,此處的集合要求封閉且攻擊目的可判定
2.網絡安全本質探討被保護主體即資產本身,如果有一天網絡安全和功能安全的對象相同,則一個外部黑客非物理攻擊和內部故障或weakness造成的問題,一個從內部故障出發造成的影響面,二者的區別及實踐,汽車行業正在進行中,我輩一起努力,此處的結合,會和工業級大不相同,有一天DFA必須分析security的影響,而cyber必須考慮safety的失效率及誤用等因素
3.談談人性。人性不可測,同時人性是善或惡,千百年來已有大量討論。網絡安全假設前提人本惡即故意舉動,功能安全假設前提理性人,且沒有故意害人的舉動,也就代表誤用,漏用。
-故意舉動,對資產沒有影響,無效攻擊,需防御
-故意舉動,對資產有影響,有效攻擊,需按照攻擊強度上防御強度,故藍隊多重防御
-非故意舉動,對資產無影響,不需防御
-非故意舉動,對資產有影響,需防御
-故意舉動,對人生命有傷害,侵犯法律,以及功能安全的要求
-故意舉動,對人生命無直接傷害,但對隱私等間接屬性有上海,則違反法律,以及產品質量要求
-誤用,對人生命有直接傷害,違反法律和功能安全要求
-誤用,對人生命無直接傷害,但對隱私等有傷害,違反法律
-濫用,對人生命有直接傷害,例如毒品或吸煙,酒精因素,超速開車,醉駕,心不在焉開車,非規定狀態開車,違反法律和功能安全要求
-濫用,對人生命無直接傷害,例如抽煙,大麻等,違反法律條款。
以上,同時抽煙等對人壽命影響行為,是可靠性問題,我們在其他主題討論。
-
機器人
+關注
關注
210文章
28212瀏覽量
206554 -
網絡安全
+關注
關注
10文章
3129瀏覽量
59604 -
人工智能
+關注
關注
1791文章
46872瀏覽量
237594 -
無人駕駛
+關注
關注
98文章
4033瀏覽量
120301
發布評論請先 登錄
相關推薦
評論