如何防范生成式AI的釣魚郵件攻擊
今年ChatGPT火爆全網，近年來AI人工智能取得了長足的進步，給各行各業帶來了革命性的變化。然而，與任何技術一樣，總是有人試圖利用它來達到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網絡攻擊而設計，對企業的郵件安全構成重大威脅。
WormGPT簡介
近年來，AI人工智能取得了長足的進步，給各行各業帶來了革命性的變化。然而，與任何技術一樣，總是有人試圖利用它來達到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網絡攻擊而設計，對企業的郵件安全構成重大威脅。
WormGPT基于復雜的生成式人工智能大模型，可以生成類似于人類創作的文本。與此同時，它學習了郵件安全檢測的相關數據。這使得WormGPT創建的電子郵件不僅非常具有說服力，而且在躲避郵件安全檢測上也很狡猾，顯示出它在釣魚和BEC郵件攻擊方面的黑色潛力。
嘗試WormGPT
研究團隊最近通過一個與網絡犯罪經常相關的知名在線論壇獲得了WormGPT。在論壇上，這個工具宣稱自己是GPT模型的黑客版本，專門用于惡意活動。
圖1. 黑客論壇里提供的WormGPT工具
網頁介紹宣稱WormGPT的開發始于2021年，是基于GPTJ語言模型開發的人工智能模塊。它擁有多種功能，包括創建惡意代碼、無限字符支持、聊天記憶保留以及代碼格式化能力等。根據介紹，WormGPT基于各種數據源進行訓練，特別是側重于學習與惡意軟件相關的數據。然而，訓練過程中使用的具體數據集并沒有公開，而是被作者保密。
圖2. WormGPT工具的介紹
研究團隊利用WormGPT進行了BEC攻擊的測試，以全面評估與WormGPT相關的潛在危險。在其中一個實驗中，團隊指示WormGPT生成一封旨在迫使一個毫不知情的客戶經理支付一份欺詐性發票的電子郵件。結果令人不安。WormGPT生成的電子郵件不僅極具說服力，而且使用了非常狡猾的語言，展示了其在釣魚和BEC郵件攻擊方面的潛力。
圖3. WormGPT創建BEC郵件
WormGPT的危害
整體來看，WormGPT和大多數AI大模型一樣，沒有倫理邊界或限制。這個實驗展示了像WormGPT這樣的生成式人工智能技術對釣魚和BEC郵件攻擊行為有很大幫助，即使一個從未接觸郵件攻擊，并且不懂任何外語的人，也能隨時構造針對世界上任何一個企業或個人的郵件攻擊。使用生成式人工智能為郵件攻擊帶來了以下一些優勢：
- 構造極具欺騙性的郵件內容：生成式人工智能可以創建內容和語法無可挑剔的電子郵件，使其看起來合法，降低了被標記為可疑的可能性。
- 降低攻擊的門檻：使用生成式人工智能降低了執行復雜BEC攻擊的門檻。即使是技能有限的攻擊者也可以使用這項技術，使其成為可廣泛使用的黑客工具。
如何防范生成式AI的郵件攻擊
人工智能的發展雖然推動了各個行業的進步，但同時也帶來了新的問題。企業可以通過如下一些預防措施來防范生成式AI的郵件安全攻擊：
- 企業員工培訓：企業應該制定、開發、并定期更新相關的培訓計劃，定期組織釣魚郵件演練，應對BEC攻擊，尤其是那些由人工智能增強的攻擊。通過培訓課程來教育員工有關釣魚和BEC郵件威脅的知識，AI如何被用于增強這些威脅，以及攻擊者經常采用的策略。與此同時，應定期進行釣魚郵件演練，測試員工的安全意識；
- 定期檢查安全防護設備：確保郵件安全網關、郵件安全沙箱等郵件安全防護設備的策略配置正確且生效，并確保郵件安全網關、郵件安全沙箱等設備的防護庫已升級到最新版本；
- 驗證發件人身份：在回復或提供任何敏感信息之前，細心驗證發件人的身份。確保郵件地址和發件人姓名與正式機構或公司的信息相符；
- 鼓勵員工報告可疑郵件：如果員收到可疑的釣魚郵件，應及時將其報告給您的組織或相關機構，以幫助企業采取適當的行動保護其他員工；
- 警惕緊急情況：釣魚郵件常常試圖制造緊急情況，以迫使受害者匆忙采取行動。要保持冷靜，不要受到威脅或誘惑；
- 防止個人和郵件信息泄露：盡量不要在公開的論壇、社交媒體或不受信任的網站上泄露個人和郵件信息。攻擊者可能會利用這些信息來制作更具針對性的釣魚郵件；
- 定期備份數據：通過郵件歸檔產品定期備份您的重要數據，并將備份存儲在安全的地方。這樣，即使您受到釣魚郵件攻擊，并造成了數據損壞的情況下，您仍然可以恢復您的數據
- 驗證財務交易：如果收到涉及財務交易的電子郵件，避免通過郵件直接響應。相反，通過銀行官方網站、銀行柜臺、財務部同事等安全渠道來驗證交易
