よしのん的網站教室

《よしのん的網站教室》是一個以「教學為主、新聞為輔」的網誌,旨在為大家提供各種各樣的 IT 資訊和心得,其中特別聚焦於網站制作、SEO、社交媒體等議題。

主頁> 科技新聞 >Sophos:以小型模型開發高成本效益 AI 網絡安全方案
white caution cone on keyboard

Sophos:以小型模型開發高成本效益 AI 網絡安全方案

留言

人工智能(AI)使不法分子能夠更容易建立詐騙內容取信受害者,面對有關風險,企業亦需運用 AI 改進網絡安全防護。Sophos 指出,網絡安全公司結合使用小型 AI 模型,也能在有限預算下享受 AI 帶來的優勢。

Sophos 稱,大型語言模型(LLM)雖然備受關注,但成本高昂,而 Sophos 透過間歇性利用 LLM 有效地輔助訓練小型模型,背後技術包括:

  • 知識蒸餾:大型模型將其學到的知識傳授給小型模型,提升小型模型的表現,同時避免大規模部署的高成本。這種方法也適用於不可忽視的標籤噪聲且無法人工重新標註的領域。
  • 半監督學習:大型模型可為原本未標註的數據進行標註,從而為小型模型的訓練建立更豐富的數據集。
  • 合成數據生成:大型模型生成新的合成數據樣本,使小型模型的訓練更加穩健。

Sophos 指出,他們訓練的小型模型已開發出一系列運行快速且具商業可行性的 AI 模型,在惡意網站分類等任務上的表現已達到甚至超越 LLM 的水平。