本報訊 （記者李喬宇）“2024年，市場對于大模型安全的關(guān)注重點是大模型自身安全，2025年，大模型安全風(fēng)險已經(jīng)升級至智能體自身安全以及大模型應(yīng)用環(huán)境的安全。”4月18日，啟明星辰信息技術(shù)集團股份有限公司（以下簡稱“啟明星辰”）發(fā)布了投資者關(guān)系活動記錄表，在此次投資者關(guān)系活動中，啟明星辰副總經(jīng)理、首席戰(zhàn)略官潘柱廷公開表示。他強調(diào)，AI智能體賦能千行百業(yè)的同時，風(fēng)險也隨之升級。

    在過去一年里，人工智能技術(shù)正以革命性的姿態(tài)推進千行百業(yè)的智能化轉(zhuǎn)型。IDC預(yù)測，到2026年，將有50%的中國500強企業(yè)的數(shù)據(jù)團隊通過使用AI智能體來實現(xiàn)數(shù)據(jù)準備和分析。網(wǎng)絡(luò)安全公司Symantec此前公開表示，該公司研究人員發(fā)現(xiàn)AI智能體可以像人類黑客一樣掃描和鎖定系統(tǒng)漏洞，并且能夠通過自然語言交互騙取用戶信任，竊取敏感數(shù)據(jù)。

    如何讓AI智能體成為提高工作效率的助手，而不是淪為黑客的“幫兇”正在成為啟明星辰等頭部網(wǎng)安企業(yè)正在攻克的難題。記者了解到，目前，啟明星辰等網(wǎng)絡(luò)安全行業(yè)頭部企業(yè)正在積極應(yīng)對新的挑戰(zhàn)。

    網(wǎng)安攻防進入“智能體對抗”新階段

    “我們正在面臨著日益復(fù)雜的網(wǎng)絡(luò)威脅。”在此前的2025中國移動云智算大會上，啟明星辰相關(guān)工作人員告訴《證券日報》記者。

    啟明星辰日前披露的2024年年度報告顯示，生成式AI的規(guī)模化應(yīng)用推動網(wǎng)絡(luò)安全攻防進入“智能體對抗”新階段，網(wǎng)絡(luò)安全廠商正在加速構(gòu)建“以AI對抗AI”的動態(tài)防御體系。2024年，啟明星辰先后發(fā)布了九天·泰合安全大模型以及安星智能體。

    “以AI安全+數(shù)據(jù)為例，啟明星辰深度融合九天、DeepSeek等大模型技術(shù)，推出數(shù)據(jù)安全智能體，通過數(shù)據(jù)庫以及大模型的邏輯推理能力實現(xiàn)風(fēng)險的快速識別以及溯源。”上述啟明星辰工作人員表示，“我們現(xiàn)在可以對IP地址進行風(fēng)險識別，還能夠識別敏感數(shù)據(jù)并檢測敏感數(shù)據(jù)的流轉(zhuǎn)。”通過數(shù)據(jù)安全智能體，對數(shù)據(jù)風(fēng)險的識別準確率能夠從此前的70%提升至當下的90%。

    該工作人員表示，未來，隨著數(shù)據(jù)安全智能體數(shù)據(jù)安全知識庫的持續(xù)迭代，其對數(shù)據(jù)風(fēng)險的識別率能夠進一步提升，推斷的結(jié)果會越來越準確。未來，數(shù)據(jù)安全智能體對于風(fēng)險的管控能力將逐步從事中干預(yù)提早至事前預(yù)防。

    此外，在上述大會的展臺上，工作人員向記者展示了啟明星辰基于九天·泰合安全大模型為核心驅(qū)動引擎，深度整合各類安全工具構(gòu)建的智能體和智能體集群。“我們的智能體以集群化模式實現(xiàn)威脅狩獵、攻擊溯源和安全運營前哨基地的協(xié)同聯(lián)動，發(fā)揮安全智能體的群體智慧”。上述工作人員告訴記者，通過智能體的集群化運營，各個智能體就能夠各司其職，并進行統(tǒng)一整理及分析，用群體的智慧應(yīng)對復(fù)雜的網(wǎng)絡(luò)威脅，更加智能主動防御，為用戶筑起較為全面的網(wǎng)絡(luò)安全防火墻。

    “同時智能體的集群化運營至少能帶來兩類效率的提升。”該工作人員表示，“第一類是研判效率的提升，在日常工作中，運維人員能夠在海量的數(shù)據(jù)中更高效地識別出風(fēng)險數(shù)據(jù)；第二類是安全日志的降噪，集群化運營能夠減少安全日志的誤報，提高告警質(zhì)量，同時優(yōu)化安全運營效率。”

    據(jù)悉，啟明星辰打造的安星智能體已經(jīng)有了商業(yè)化落地。“目前中山市政務(wù)服務(wù)和數(shù)據(jù)管理局通過安星智能體的有效應(yīng)用實現(xiàn)了安全運維效率的大幅度提升。”該工作人員表示。

    與中國移動共建下一代防御體系

    潘柱廷將上述智能體集群稱為“MANUS化的智能體集群”。

    2025年3月初，號稱“全球首款全自主執(zhí)行復(fù)雜任務(wù)的數(shù)字代理人”的Manus一經(jīng)亮相即引起廣泛關(guān)注。這也引發(fā)了啟明星辰對于安全智能體集群的重新定義。

    據(jù)介紹，安全智能體集群的MANUS化路線，要求安全產(chǎn)業(yè)開展全面智能改造，一方面，讓基礎(chǔ)安全能力原子化、工具化、智能體化；另一方面，構(gòu)建一個多智能體、智能體集群的安全體系。安全智能體集群化運營的核心則在于讓智能體具備獨立思考、規(guī)劃與執(zhí)行的能力，將安全運營轉(zhuǎn)化為由智能體主導(dǎo)的自動化、閉環(huán)化、持續(xù)優(yōu)化的業(yè)務(wù)進程。

    為了實現(xiàn)這個目標，啟明星辰通過構(gòu)建覆蓋資產(chǎn)梳理、脆弱性管理、威脅狩獵、事件響應(yīng)等9大核心場景的智能體集群，同時通過分布式?jīng)Q策架構(gòu)、動態(tài)任務(wù)調(diào)度機制以及全局知識共享網(wǎng)絡(luò)形成分工明確且動態(tài)聯(lián)動的“智能體生態(tài)”。

    同時，為了提升AI的自主執(zhí)行能力，啟明星辰將每個智能體內(nèi)嵌可解釋的策略引擎，將企業(yè)安全基線、合規(guī)要求、業(yè)務(wù)優(yōu)先級等抽象規(guī)則轉(zhuǎn)化為具體動作。此外，啟明星辰還促使智能體的決策模型通過持續(xù)吸收運營數(shù)據(jù)、專家反饋、威脅情報進行動態(tài)調(diào)優(yōu)，從而實時反饋的進化能力；借助DeepSeek大模型的多模態(tài)推理能力，提升智能體對零日攻擊、隱蔽APT等新型威脅進行模式解構(gòu)的能力，從而實現(xiàn)面對未知威脅的自適應(yīng)。

    “自2025年2月6日起，啟明星辰以周為單位加速產(chǎn)品迭代，已完成多項技術(shù)升級，成功構(gòu)建完整的大模型應(yīng)用安全產(chǎn)品矩陣，形成了覆蓋全場景的大模型應(yīng)用安全防護體系。”潘柱廷表示。

    近期，中移（蘇州）軟件技術(shù)有限公司（即“中國移動云能力中心”）運行維護部總經(jīng)理王浩碩以《智能躍遷 安全升維-智算領(lǐng)域的下一代防御體系構(gòu)建》為主題發(fā)表演講。他表示，為了應(yīng)對大模型的廣泛應(yīng)用背景下，傳統(tǒng)安全體系難以應(yīng)對的技術(shù)暗面。移動云提出了安全升維的理念，構(gòu)建智能免疫新型的防御范式。其中，防御體系的核心即為中國移動有限公司（簡稱“中國移動”）與啟明星辰聯(lián)合開發(fā)AI安全云腦。

    潘柱廷表示，作為中國移動游戲?qū)Ｘ熅W(wǎng)信安全專業(yè)子公司，啟明星辰將與中國移動持續(xù)深度協(xié)同，重點加大在AI安全治理、算網(wǎng)融合安全等領(lǐng)域的研發(fā)投入，共同構(gòu)建智能時代的安全基座，為數(shù)字中國建設(shè)提供堅實的安全保障。

（編輯 張鈺鵬）