周鴻禕也得靠約定問題反詐，AI時代網絡安全怎麽辦？
發布時間：2025-09-14 來源：詭計多端網作者：瑪珈山的記憶
“我和家人說哪怕是視頻電話打過來要錢，無論畫麵多麽真、聲音多麽像，都不要信，就問他国产AV蜜桃网站約定好的問題，看對方怎麽回答。”360集團創始人、ISC大會主席周鴻禕是人工智能的擁護者，但在網絡安全上還是選擇“留一手”。在ISC.AI 2025上海大模型安全論壇暨大模型安全衛士產品發布會上，他分享了以約定問答作為身份識別的關鍵要素。
這是AI應用普及帶來新型安全需求的縮影——人們在加速擁抱“人工智能+”，但AI本身的安全管控成為了必須應對的核心挑戰。
大模型似乎“無所不能”，技術成熟卻也成了違法者用於詐騙的幫凶。此外，周鴻禕提到，大模型容易出現虛假錯誤，深層敏感信息違規的風險以及由於大模型幻覺導致錯誤判斷。此外，大模型被攻擊的可能性增加，容易成為攻擊載體和入口，威脅政府和企業數據資產的安全。
網絡安全公司要如何應對？
360數字安全集團副總裁餘凱提到，要以自身大規模AI業務場景驗證產品能力。360基於‘以模製模’理念推出四大智能體解決大模型生命周期中各環節的安全問題，並將大模型安全衛士融入安全運營體係，構建“網數模一體化”安全運營平台。
山石網科（688030.SH）則希望從軟件硬件一體化層麵來優化解決方案，通過網絡安全ASIC芯片與AI相結合，指向“係統算力”與“流程效率”的優化。山石網科董事長兼總經理葉海強認為，未來會從人機協同發展到人機共治，將涉及全域的智能安全，這意味著跨平台的治理，以及未來AI 驅動的零信任升級（即對所有用戶、流量和設備通過持續驗證和最小權限原則來實現動態防護）。
一方麵，企業需要對內部AI應用進行集中管控，包括大模型的選擇、數據權限的劃分、風險的動態評估；另一方麵，需要為智能體構建“身份-行為-責任”的閉環體係，確保AI行為可追溯、責任可界定。
“未來成千上萬個智能體協作時，必須有類似二代身份證的數字身份，才能明確‘誰在做事、能做什麽、做錯了誰負責’。”葉海強提到，山石網科正在通過投資探索為每個AI智能體賦予唯一可驗證的數字身份標識，構建“身份-行為-責任”的閉環體係。
Fortinet中國區總經理李宏凱向第一財經記者表示，未來十年，網絡安全最大的機會在於用AI打造“自學習、自修複、自進化”的安全神經中樞；最大的挑戰在於攻擊者也在用同樣的AI重構APT（高級持續性威脅）和供應鏈滲透。“隻有把零信任架構、網絡安全融合理念與可解釋AI三位一體，才能把AI的確定性價值留給產業，把不確定性風險關在籠子裏。”
- 上一篇：{loop type="arclist" row=1 }{$vo.title}