近日,在“全球數字經濟大會—云智算安全論壇暨2025第三屆SecGo安全會議”上,中國信息通信研究院正式授牌成立“云上大模型安全推進方陣”,發布“2025年可信安全最新評估結果”。憑借在人工智能安全領域深厚積累與創新實踐,啟明星辰當選方陣副理事長單位;啟明星辰天清MAF大模型應用防火墻首批通過中國信通院“大模型內容安全防護產品能力評估”。
本次評估嚴格依據《大模型內容安全防護產品能力評估辦法》,聚焦用戶關切與實際生產場景中的核心風險與威脅,重點覆蓋高對抗攻防測試、違規內容識別、端到端安全能力閉環、生態集成、防護性能等八類關鍵指標,全面涵蓋內容風險識別、檢測分析、安全防護及安全管理等維度。在此權威評估中,啟明星辰天清MAF大模型應用防火墻表現優異,充分展現了卓越的綜合實力。
為有效應對大模型安全挑戰,啟明星辰聚焦前沿趨勢研究、推動標準體系完善、探索行業最佳實踐、促進產業生態協同,積極了構建全面的大模型安全能力體系。其中,面向DeepSeek等企業級大模型服務商,啟明星辰推出業內首個大模型安全防護產品 —— 天清MAF大模型應用防火墻。
該產品旨在保護使用大模型或由大模型驅動的應用程序免受威脅或降低其風險,為大模型推理服務、智能體及MCP服務提供實時安全防護,在模型安全、數據安全、應用安全、內容安全等領域提供一體化解決方案。
模型安全:全面覆蓋OWASP LLM TOP10大模型相關風險,有效防御提示詞注入攻擊、過度代理、算力拒絕服務攻擊、不當輸出等威脅。
數據安全:對大模型/智能體輸出內容進行全面檢測和過濾,實現敏感個人數據過濾、系統提示詞防護、數據泄露防護。
應用安全: 一站式提供大模型應用層防護,包括組件漏洞防護、Web攻擊防護、BOT流量管理、API安全防護等。
內容安全:覆蓋《生成式人工智能服務安全基本要求》、《生成式人工智能服務管理暫行辦法》等公安、網信合規要求。
針對大模型業務場景的內容級、應用級新型威脅,天清MAF創新性采用“大模型技術”對抗“大模型威脅”路徑,有效解決傳統安全產品難以應對大模型自然語言交互風險場景的痛點;通過大小模型結合的自然語義檢測,融合神經網絡語義理解與智腦對決技術,全面保障大模型服務安全;基于多項算法優化及動態防御矩陣技術,實現毫秒級響應的高性能內容檢測。
隨著生成式人工智能技術在企業級應用的爆發式增長,其帶來的內容安全、數據泄露、模型濫用等新型安全風險日益凸顯。啟明星辰將持續深耕大模型安全領域,全力推動大模型安全應用落地實踐,促進大模型安全產品服務水平提升,為產業健康發展保駕護航。
