與歐洲刑警組織及聯合國區域犯罪與司法研究院共同揭露 AI 威脅及反制建議

香港 - Media OutReach - 2020年11月20日 -  歐洲刑警組織( Europol ) 、聯合國區域犯罪與司法研究院( UNICRI ) 及 趨勢科技 今天發佈一份共同製作的研究報告,揭露歹徒如何利用今日的人工智能技術來犯案,並預測未來的可能發展。 報告點出了今日與未來一些可能運用 AI 技術的網絡攻擊,並提供相關建議給執法人員、政策制定單位以及其他機構,讓他們了解如何降低這類風險。


歐洲刑警組織網絡犯罪中心主任 Edvardas Šileris 表示:「 人工智能 為世界提升了效率、自動化與自主性。然而,隨著大眾對 人工智能被 濫用的疑慮不斷提高,我們有必要公開揭露這些威脅,並探討 人工智能 技術的一些發展潛力。這報告不僅有助我們預測 人工智能 可能會如何被濫用,也可以協助我們主動防範並降低這些威脅,如此才能真正釋放 人工智能 的潛力,讓 人工智能 系統發揮正面影響力。」


報告結論指出, 人工智能 既是網絡犯罪集團的攻擊手法,也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 人工智能 攻擊手法,但我們未來仍然需要新的偵測技術來防範假訊息攻擊與網絡勒索,並防範專門以 人工智能 資料為目標的攻擊。


人工智能 可能 被 歹徒利用的方式包括:

  • 製造難辨真偽的大規模社交工程攻擊。
  • 開發文件內容辨識惡意程式以提升攻擊效率。
  • 躲避影像辨識與語音生物辨識技術。
  • 勒索程式攻擊,利用人工智能來篩選攻擊目標並躲避偵測。
  • 資料污染,發掘偵測規則中的盲點。


UNICRI 人工智能與機器人中心主任 Irakli Beridze 指出:「隨著 人工智能 應用程式開始對現實世界發揮重大影響,它顯然將成為我們未來技術的基礎。然而,如同 人工智能 對人類社會具體而真實的貢獻一樣,其受到歹徒不法濫用的威脅也同樣存在。我們很榮幸能與 Europol 及趨勢科技合作,共同揭露人工智能技術的黑暗面,希望能藉此發揮拋磚引玉效果,激發更多關於這項重大議題的討論。」


此外,報告也警告,歹徒正開發一些 人工智能 系統來提升惡意程式的成效,並干擾惡意程式防護與臉部辨識系統的運作。


趨勢科技香港澳門區顧問總監李浩然表示:「網絡犯罪集團一直都搶先使用最新技術,而 人工智能 技術也不例外。正如報告指出, 人工智能 已經被用於猜測密碼、破解 CAPTCHA 認證、複製人類語音,以及其他眾多開發中的非法技術。我們很榮幸能與 Europol 及 UNICRI 攜手合作,共同提升大眾對這些威脅的認知,為人類打造一個更安全的數碼前景。」


以下是三家機構在結論中提供的幾項建議:


-  發揮人工智能的潛力,讓它成為打擊犯罪的工具,也讓網絡資訊保安產業與執法機關跟上時代洪流。

-  透過不斷研究來激發更多防禦技術的發展。

-  提倡並發展安全的人工智能設計架構。

-  減少政治化,讓人工智能應用於網絡資訊保安用途。

-  透過公私部門合作來建立跨領域專家群組。


參考完整報告: https://www.trendmicro.com/vinfo/hk/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml 。  


Talk to Media OutReach today

Let Media OutReach help you achieve your communication goals. Send an email to [email protected] or click below. You will receive a response within 24 hours.

Contact us now