用AI打擊鍵盤俠和網路噴子，保護被網暴者的生命安全

一個95後女生自殺了，起因只是在網路上發布了這麼一篇部落格文章。

這篇充滿溫情的部落格文章發布後，主角鄭靈華卻遭遇到了大量的謠傳和謾罵。

有人質疑她的身份，造謠說她是“陪酒女”，只是因為她的頭髮是粉紅色的；有人造謠她是“老少戀”、“恰流量” 、「騙子精”，造謠她利用爺爺的病賺錢。

如是總總，不堪入目。儘管許多媒體對謠言進行了闢謠，但是鄭靈華沒有收到道歉，甚至鄭靈華在拿起法律武器維權的時候，依然受到騷擾。

最終，鄭靈華罹患憂鬱症，不久前結束了自己的生命。

這樣的事情在網路上發生過很多次，這種瀰漫在網路世界的「人言可畏」不僅讓人觀感噁心，甚至能奪取人們的生命，這樣的行為也有個專門的名詞──網路暴力，簡稱「網暴」。

那麼在AI已經可以和人類對答如流的今天，AI是否可以在識別網暴行為中發揮作用呢？

突破兩大難點，辨識網暴言論準確率超90%

儘管大部分網路平台都已經上線了一些辨識特別言論的系統，但是這些系統大多只是針對關鍵的字詞進行偵測和刪除，顯然是不夠聰明的，稍加註意就能繞開這些限制。

事實上，準確辨識網暴言論，需要做到兩點：

• 如何聯絡上下文準確辨識網暴言論？
• 如何有效率地辨識網暴言論？

第一點關注的是網暴言論的內容，因為網路上大部分信件和留言都是分段的，往往是在對話中，網暴行為逐漸變得嚴重，最後釀成惡果。

第二點關注的是速度，畢竟網路環境下，要處理的資料太多了，如果偵測需要很久，那麼這個系統將毫無實際價值，也不會得到採用。

英國的一組研究人員開發了一種新的人工智慧模型，稱為BiCapsHate，它克服了這兩個挑戰，研究結果1月19日發表在《IEEE Transactions on Computational Social Systems》上的一篇論文中。

該模型由五層深層神經網路組成，它從一個輸入層開始，處理輸入文本，然後到一個embedding 層，將文字嵌入到一個數字表示中，然後是BiCaps 層學習順序和語言上下文表示，dense層為最終分類準備模型，最後輸出層輸出結果。

BiCaps 層是最重要的組成部分，它透過膠囊網路（capsule networks）有效地取得輸入文字前後方向不同方向的上下文資訊。得益於豐富的手工調試的淺層和深層輔助功能(包括Hatebase詞典)，使模型資訊更加豐富。研究人員在五個基準資料集上進行了廣泛的實驗，以證明所提出的BiCapsHate模型的有效性。整體結果顯示，BiCapsHate優於現有的最先進的方法，包括fBERT, HateBERT和ToxicBERT。

在平衡和非平衡資料集上，BiCapsHate分別達到94%和92% f-score的準確率。

速度快，可以在GPU運行

carique Anwar（Tarique Anwar）是約克大學電腦科學系的講師，他參與了這項研究。他指出，網路上的爭論往往會導致負面的、可恨的和辱罵性的「網暴」評論，而現有的社群媒體平台的內容審查做法無法控制這種情況。

他說：“此外，網路仇恨言論有時會映射現實環境，導致犯罪和暴力行為。”，塔里克· 安瓦爾也表示，網路仇恨言論導致身體暴力和暴亂的例子有好幾次。

為了幫助解決這個問題，塔里克· 安瓦爾的團隊決定開發BiCapsHate，並且取得了非常好的效果。

#

正如安瓦爾指出的那樣，語言在某些情況下可能是模棱兩可的，即一個詞在一種語境中可能是正面的，而在另一種語境中可能是就是負面的。先前的模型在這方面都不夠優秀，如 HateBERT、 toxicBERT 和 fBERT，這些人工智慧能夠在一定程度上捕捉上下文，但是塔里克 · 安瓦爾認為「這些仍然不夠好」。

BiCapsHate 的另一個優點是該模型能夠使用有限的硬體資源執行計算。 「（其他模型）需要像 GPU 這樣的高階硬體資源，以及用於運算的高階系統,」塔里克 · 安瓦爾解釋。 「相反，BiCapsHate…可以在CPU 機器上執行，即使你只有8GB的記憶體。」

值得注意的是，到目前為止，該人工智慧已經被開發和測試，僅用於分析英語言論，因此它將需要被改編為其他語言。與更激烈的仇恨言論相比，它也不太善於發現帶有溫和或微妙的仇恨語氣的攻擊性詞語。

研究人員希望下一步能夠探索評估在線上表達仇恨的使用者的心理健康狀況的方法。如果有人擔心這個人精神不穩定，並且可能對現實世界中的人施加身體暴力，可以考慮早期幹預來降低發生這種情況的可能性。

以上是用AI打擊鍵盤俠和網路噴子，保護被網暴者的生命安全的詳細內容。更多資訊請關注PHP中文網其他相關文章！