這可能是互聯網歷史上的第一個虛假新聞：1984年，有人在Usenet上發布了蘇聯加入網絡的消息。這是一個完全無害的四月愚人節惡作劇，與如今的虛假信息宣傳活動和旨在快速獲利的不擇手段的制造業相差甚遠。2017年，誤導性和惡意的虛假在線內容是如此豐富多產，以至于人類無法讓自己解脫困境。反而，這越發看來機器將不得不拯救我們。

一家名為AdVerif.ai 的初創公司設計了一種同名法算，可以把我們從黑暗中拯救出來。人工智能軟件的構建是為了檢測虛假的新聞報道、赤裸、惡意軟件和其他類型的問題內容。AdVerif.ai于11月份推出了測試版本，目前與美國和歐洲的內容平臺及廣告網絡合作，他們不希望與虛假或潛在的冒犯性新聞報道有關聯。

根據AdVerif.ai的創始人Or Levi的說法，公司在將焦點放在公司產品，而非普通用戶的事情上面看到了機遇。雖然個別消費者可能不會擔心他們所點擊新聞報道的真實性，但是廣告主和內容平臺會因為集結或宣傳不良內容而損失一些東西。如果他們改變自己的服務，他們可以有效地削減那些靠制造虛假新聞賺錢的人的收入來源。Levi說：“這將是與這類內容作斗爭的一個大的跨越。”

AdVerif.ai 是如何發現假新聞？

AdVerif.ai可以掃描整個內容，發現表明某些地方有問題的標志，比如文章標題與正文內容不對應，或標題中的大寫字母太多。AdVerif.ai還通過有數千個合法虛構新聞的數據庫對每一則新聞進行交叉檢查，這些合法的虛構新聞會每周更新一次。客戶可以看到系統考慮到的每一部分的報告，還有評估分數，評估某些事可能是虛假新聞，或可能攜帶惡意軟件，或可能包含他們要求系統留意的其他東西，比如說赤裸。最后，Levi表示，他計劃增加能找出操縱圖像的能力，并安裝一個瀏覽器插件。

在測試AdVerif.ai的演示版本時，AI將洋蔥識別為諷刺（這在過去曾經愚弄過很多人）。布賴特巴特的新聞故事被分類為“不可靠的，右翼的，政治的，帶有偏見的”，而Cosmopolitan則被認為是“左翼的”。可以看出，當Twitter賬戶使用標識時，而鏈接卻與它所描繪的品牌毫無關系。AdVerif.ai不僅發現Natural News上標題為“有證據表明比特幣成為NSA設計的心理戰行動來全面推廣單一世界數字貨幣”的新聞是來自一個黑名單網站，而且還確定了它是一條虛假新聞，在其他被列入黑名單的網站上也會彈出，而且在合法新聞機構沒有任何參考。

一些可疑的新聞報道仍然可以通過，出現在網站上。在一個名為Action News 3的網站上，有一篇題為“NFL播放器拍攝到在更衣室里燃燒美國國旗！”的帖子，雖然已經證明該帖是捏造的，但是帖子并沒有被攔截。為了幫助系統知道接下來的情況，可以手動逐個更新系統虛假新聞報道的黑名單。

當 AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在為在線公司提供以AI為動力的吐真藥中看到機遇的初創公司。特別是網絡安全公司，已經快速地將發現僵尸和虛假新聞的操作添加到他們的計算機指令系統中，指出很多方法與黑客手段有多么相似。Facebook正在調整其算法，以消除其新聞傳播中的虛假新聞。谷歌與事實檢查網站開展合作，到目前為止，取得的結果還參差不齊。“虛假新聞挑戰賽”于去年年底推出，比賽是由AI團體的志愿者舉辦，旨在鼓勵開發有助于打擊惡意報道的工具。

“虛假新聞挑戰賽”組織者之一，開發機器學習系統的Joostware公司創始人，Delip Rao表示，要發現虛假新聞有很多方面，所以這個挑戰將會分多個步驟完成。第一步是“立場檢測”，或者選取一條新聞，找出其他新聞網站對這個話題的評論。這可以讓人類事實檢驗員依靠新聞來驗證其它的新聞報道，用更短的時間檢查單個作品。

“虛假新聞挑戰賽”發布了數據集供團隊使用，有50個團隊提交了參賽作品。思科公司的網絡安全部門Talos Intelligence利用了一種算法贏得了比賽，這一算法獲得了80％以上的正確率——雖還沒有為黃金時段做好準備，但仍然是一個令人歡心鼓舞的結果。接下來的挑戰可能會出現帶有覆蓋文本的圖像（思考模因，但帶有虛假新聞），這是一種經常在社交媒體上推廣的格式，因為算法很難分解和理解這種文本格式。

Rao表示：“我們主要想為檢驗員建造最好的工具，以便他們能夠快速工作，像檢查類固醇的事實檢驗員一樣。”

即使開發出能夠有效遏制虛假內容趨勢的系統，也不太可能是新聞報道的終結。人工智能系統已經能夠創造虛假的文本了，以及令人難以置信的圖像和視頻。（請參閱“真實或虛假？人工智能令人難以置信”）。也許正因為如此，Gartner最近的一項研究預測，到2022年，發達經濟體中的大多數人會看到比真實信息更多的錯誤虛假信息。同樣的報告發現，甚至在發生這種事情之前，虛假內容將會超過AI檢測它的能力，改變我們相信數字信息的方式。

AdVerif.ai以及其他公司更像開始了一場競賽，而非虛假信息之戰。競賽中，虛假內容創作者開發自己的人工智能系統企圖戰勝 “正義”的人工智能。因此，我們不得不重新審視自己獲取信息的方式。