2017年，洛克威的科普蘭中學(xué)，一名12歲的新澤西女孩在遭受了同學(xué)數(shù)月的網(wǎng)絡(luò)霸凌后結(jié)束了自己的生命。這并不是個(gè)例。根據(jù)bullyingstatistics.org調(diào)查顯示，超過一半的成年人和青少年都曾遭受過網(wǎng)絡(luò)霸凌，超半數(shù)也的人曾參與過網(wǎng)絡(luò)霸凌。

對于那些每天在學(xué)?；蚓W(wǎng)上被欺負(fù)的青少年來說，造成的影響可能是毀滅性的。由于青少年急于尋求身份認(rèn)同，他們通常很容易受到影響。每天持續(xù)遭受欺凌如同在中央情報(bào)局的酷刑室受到精神折磨，可能會導(dǎo)致焦慮、抑郁甚至引發(fā)自殺行為。

網(wǎng)絡(luò)霸凌正波及整個(gè)網(wǎng)絡(luò)

根據(jù)皮尤研究中心，75％的美國成年人身邊曾發(fā)生過網(wǎng)絡(luò)霸凌。其中40％的美國公民親自經(jīng)歷過某種形式的網(wǎng)絡(luò)騷擾。

網(wǎng)絡(luò)霸凌引發(fā)的社會問題

網(wǎng)絡(luò)霸凌不僅僅影響人們的網(wǎng)絡(luò)體驗(yàn)。許多情況下，還會演變?yōu)楝F(xiàn)實(shí)生活中的發(fā)生跟蹤和騷擾事件。佛羅里達(dá)大西洋大學(xué)（Florida Atlantic University）對高中生進(jìn)行的一項(xiàng)研究表明，83％曾遭受網(wǎng)絡(luò)霸凌的人也曾在現(xiàn)實(shí)生活中受到欺凌。學(xué)校通常會對學(xué)區(qū)隱瞞這些事件。除非造成人身傷害，否則警方在幫助逮捕和起訴欺凌者方面往往無能為力。

霸凌者和受害者同樣痛苦

受害者容易患上焦慮和抑郁等精神疾病。但是，霸凌者也容易產(chǎn)生導(dǎo)致人格障礙的反社會行為。如果每次發(fā)生霸凌事件，霸凌者的行為得不到懲戒，最終霸凌者就會感到有“權(quán)利”，由此助長下次霸凌的發(fā)生。正是這種“權(quán)利”導(dǎo)致了網(wǎng)絡(luò)生活和現(xiàn)實(shí)生活中各種細(xì)化的反社會行為。自戀型人格障礙、邊緣性人格障礙都是與反社會行為相關(guān)的精神疾病。近年來，社會中精神疾病的增加并不意外。

網(wǎng)絡(luò)霸凌影響了人們對互聯(lián)網(wǎng)和科技的信任

互聯(lián)網(wǎng)使社會受益匪淺。幾十年來，技術(shù)進(jìn)步使人們的工作愈加高效。網(wǎng)絡(luò)惡性貼文對人們的網(wǎng)絡(luò)體驗(yàn)造成消極影響，還影響人們利用網(wǎng)絡(luò)進(jìn)行高效工作。這些情況讓新一代用戶認(rèn)為這些技術(shù)是不良的工具，打擊人們將技術(shù)融入生活的積極性。

網(wǎng)絡(luò)霸凌難以預(yù)防和阻止

網(wǎng)絡(luò)霸凌與現(xiàn)實(shí)生活中的霸凌不同。網(wǎng)絡(luò)霸凌獨(dú)有的特點(diǎn)使其難以被阻止。

· 網(wǎng)絡(luò)欺凌難以察覺——通常，欺凌者披上幽默的外衣，巧妙地譏諷受害者。

· 屏蔽他人只會助長霸凌——社交媒體群中，想要屏蔽掉霸凌者幾乎是不可能的。特別是當(dāng)對象是學(xué)生時(shí)，在一個(gè)為滿足教育需求創(chuàng)立的學(xué)習(xí)論壇中屏蔽某個(gè)學(xué)生是不可能的，而霸凌者也在其中。

· 網(wǎng)絡(luò)欺凌的受害者很難被發(fā)現(xiàn) - 通常，受害者對他們遭受的霸凌持有疑問。由于欺凌者隱藏在幽默和虛假的網(wǎng)名背后，受害者常常覺得他們應(yīng)該受到指責(zé)，或者他們是那些無中生有的人。

網(wǎng)絡(luò)欺凌為人工智能提供了一個(gè)亟待解決的問題

識別網(wǎng)絡(luò)霸凌異常困難為那些試圖保護(hù)自己的在線社交媒體社區(qū)的公司帶來了獨(dú)特的挑戰(zhàn)。通常這種大海撈針的問題，最適合采用機(jī)器學(xué)習(xí)來解決。AI可以識別語言的細(xì)微差別，在人類無能為力的大數(shù)據(jù)分析領(lǐng)域有效的對語言進(jìn)行分類。 當(dāng)算法了解愈多的欺凌者的網(wǎng)絡(luò)活動時(shí)，還可以調(diào)整和提高識別網(wǎng)絡(luò)欺凌的準(zhǔn)確性。

2016年，Identity Guard與Megan Meier Foundation合作，使用IBM Watson技術(shù)，使自然語言處理（NLP）和自然語言分類器（NLC）可以識別網(wǎng)絡(luò)欺凌或自我傷害。父母會收到在識別案例中生成的警報(bào)。然后，可以采取措施為孩子的網(wǎng)絡(luò)體驗(yàn)把關(guān)。

2016年6月，F(xiàn)acebook推出DeepText作為“基于深度學(xué)習(xí)的文本理解引擎，能夠以近乎真人的精確度理解每秒數(shù)千個(gè)帖子的文本內(nèi)容。不久，Instagram開始使用DeepText消除其平臺上的垃圾郵件。最近，Instagram開始使用技術(shù)來對抗網(wǎng)絡(luò)惡性貼文和騷擾。Facebook擁有一個(gè)內(nèi)容管理團(tuán)隊(duì)，該團(tuán)隊(duì)將與人工智能技術(shù)相結(jié)合，在線識別騷擾，監(jiān)控和刪除虛假賬戶。

Twitter還使用人工智能技術(shù)發(fā)現(xiàn)垃圾郵件并識別負(fù)面互動。Twitter通過在用戶的提要上展示最佳，積極的體驗(yàn)，幫助用戶營造自己的網(wǎng)絡(luò)生活。如果您在Twitter上屏蔽某人，那么來自同一個(gè)人的類似帳戶將不會顯示在您的Twitter Feed上。

谷歌和Jigsaw開發(fā)了人工智能調(diào)節(jié)工具Perspective，根據(jù)與人類評論家歸類為“有害”的評論的相似性對評論進(jìn)行評分。Youtube使用此工具來對抗其平臺上的在線騷擾。

人工智能和機(jī)器學(xué)習(xí)并不完美

與人為干預(yù)相結(jié)合才能將人工智能和機(jī)器學(xué)習(xí)用于鑒別網(wǎng)絡(luò)惡性貼文和騷擾的功能發(fā)揮到極致。無論是AI系統(tǒng)用作訓(xùn)練數(shù)據(jù)的人類數(shù)據(jù)，還是用于驗(yàn)證AI系統(tǒng)提供的結(jié)果準(zhǔn)確性的內(nèi)容審閱者，一些人工干預(yù)都有助于AI系統(tǒng)產(chǎn)生更準(zhǔn)確的結(jié)果。在Instagram上，圖像分類和文本分類呈現(xiàn)出更復(fù)雜的識別在線騷擾的案例。具有特殊語境意義的中性文本的使用也為AI系統(tǒng)鑒別特定類型文本造成阻礙。

大眾必須幫助AI Systems提高效率，保護(hù)在線社區(qū)

技術(shù)和人一樣高效。如今的95后比他們的父母更加了解科技，這意味著我們在網(wǎng)絡(luò)上花費(fèi)的時(shí)間也就越多。作為人，必須更明確地了解自身的在線行為。在現(xiàn)實(shí)生活中，我們的行為準(zhǔn)則通常會被所居住的社區(qū)所強(qiáng)化。在網(wǎng)絡(luò)生活中，也需要有在線社區(qū)成員所執(zhí)行的那種行為準(zhǔn)則。躲在電腦屏幕后面，感覺“有權(quán)”說出自己的感受和行為只會導(dǎo)致網(wǎng)絡(luò)論壇的混亂。相反，我們應(yīng)該對現(xiàn)實(shí)生活中的行為負(fù)責(zé)。

保護(hù)網(wǎng)絡(luò)社區(qū)的措施：

· 一旦看到惡性貼文，立馬舉報(bào)。若對惡性貼文視而不見，那么最終你也會成為惡性貼文的受害者。在任何社交媒體社區(qū)，都可以通過按一個(gè)按鈕來舉報(bào)違規(guī)帳戶。

· 了解孩子的在線活動。與孩子交談，了解他們的在線活動。與他們討論潛在的騷擾和欺凌行為。告訴他們適當(dāng)?shù)木W(wǎng)絡(luò)禮儀，正如你教導(dǎo)他們在生活中要講禮貌一樣。

· 了解工具并使用它們。在每個(gè)社交媒體平臺上，都有舉報(bào)和屏蔽用戶的工具。無需舉報(bào)或屏蔽同一個(gè)用戶的多個(gè)不當(dāng)行為——只需舉報(bào)或屏蔽一次就行。

· 了解并設(shè)置隱私邊界。網(wǎng)絡(luò)活動可以快速設(shè)置為個(gè)人可見。為了保護(hù)自己，設(shè)置個(gè)人網(wǎng)絡(luò)生活的私密程度。不要張貼你知道可能令人尷尬多年的照片。 同時(shí)，請不要向他人索取私人信息，畢竟己所不欲，勿施于人。

· 記錄騷擾行為。通過拍攝證據(jù)來記錄您收到的每一次騷擾。發(fā)帖者或騷擾者可能會刪除帖子，為方便調(diào)查建議保留副本。

· 相信自己的直覺。作為人類，要相信自己的直覺。產(chǎn)生這些感覺是有原因的。我們的體會告訴自己感受如何，反過來警告潛在的危險(xiǎn)。如果你覺得某人的評論是“關(guān)閉”，那可能就是。在你把它歸結(jié)為你的錯(cuò)之前，先和別人談?wù)勔垣@得中立的意見。可能錯(cuò)并不在你。

網(wǎng)絡(luò)霸凌每天發(fā)生，每個(gè)人都有責(zé)任保護(hù)自己的在線體驗(yàn)。人工智能可以在社交媒體幫助我們標(biāo)記和監(jiān)管在線活動。但是，就像現(xiàn)實(shí)生活中的警察一樣，第三方也就只能做到這兒了。

為彌補(bǔ)技術(shù)不足提高準(zhǔn)確性，需要大眾參與

當(dāng)我們通過學(xué)習(xí)，實(shí)施和建模適當(dāng)?shù)木W(wǎng)絡(luò)禮儀參與其中，AI系統(tǒng)將更容易發(fā)現(xiàn)異?，F(xiàn)象。當(dāng)我們屏蔽并舉報(bào)用戶的不當(dāng)網(wǎng)絡(luò)行為時(shí)AI系統(tǒng)可以獲得更準(zhǔn)確數(shù)據(jù)。 當(dāng)我們相信自己的直覺并主動采取行動阻止他人的惡性貼文和騷擾時(shí)，我們就是在表明立場 如果我們聯(lián)合起來對任何形式的欺凌說“不”，那么欺凌者和惡意發(fā)帖者就更難滋長。

請記住，網(wǎng)絡(luò)生活就像現(xiàn)實(shí)生活一樣?；ヂ?lián)網(wǎng)社區(qū)就像現(xiàn)實(shí)社區(qū)一樣。我們正在建設(shè)世界。在這些世界中，擔(dān)負(fù)的責(zé)任與現(xiàn)實(shí)生活中的同樣沉重。