1. Foundation-Sec-8B 整體介紹
Foundation-Sec-8B 是一個專注于網絡安全領域的大型語言模型 (LLM),由思科的基礎人工智能團隊 (Foundation AI) 開發 。它基于 Llama 3.1-8B 架構構建,并通過在一個精心策劃和整理的網絡安全專業語料庫上進行持續預訓練而得到增強 。該模型旨在解決 LLM 在網絡安全領域應用有限的問題,這些問題源于缺乏專業訓練數據和表示復雜網絡安全知識的困難 。Foundation-Sec-8B 的目標是整合核心網絡安全知識,使其成為一個強大的基礎模型,適用于各種下游網絡安全任務,并推動人工智能驅動工具在公共和私營網絡安全領域的進步與應用 。評估結果顯示,在特定的網絡安全任務上,它的性能與 Llama 3.1-70B 和 GPT-40-mini 等更大規模的模型相當 。