K8金融 ISC.AI 2025胡振泉：360打造四大智能体合力守护AI安全

　　“AI在落地过程中面临的安全挑战已远超网络与数据安全的原有边界，360提出‘以模制模’新范式，以四大智能体筑牢AI安全防线。”在ISC.AI2025未来峰会上，360数字安全集团总裁胡振泉直击AI安全痛点，系统阐释了360在AI安全防护的核心逻辑与实践成果，为智能时代的AI安全防护提供了创新性解决方案。

　　 AI安全进入“高风险期”内忧外患亟待破局

　　随着大模型技术加速落地与智能体的规模化应用，AI已从实验室全面渗透至千行百业。然而，在技术红利持续释放的背后，AI安全风险正进入“集中爆发期”，呈现出“内忧外患”的复杂态势。

　　胡振泉分析到，从内部来看，AI存在与生俱来的“四大基因缺陷”：一切皆可编程、一切皆可模仿、一切皆可生成、一切皆可调度。从外部来看，一方面，针对AI系统的攻击将变成大国博弈的关键；另一方面，黑灰产利用AI批量制造攻击武器，甚至部署“黑客智能体”，传统安全防御体系难以应对。

　　“这些风险交织，使得AI安全的复杂程度远超传统范畴”。胡振泉强调，AI安全既涵盖网络、数据等传统安全问题，也涉及AI内容安全、应用安全及未来场景安全。广大政企机构在AI落地过程中面临的安全挑战，已远远超出网络与数据安全的原有边界，亟需一套系统性的创新解决方案。

　　“以模制模”落地：四大智能体构建AI全链路防护

　　当前，传统安全企业因缺乏对AI技术的深度理解，在应对AI安全问题时往往“盲人摸象”；而大模型企业则因安全技术积累与攻防实践经验不足，难以提出有效的解决方案。

　　作为企业中的数字安全及AI国家队，360凭借“懂AI更懂安全”的跨领域优势，创新提出“以模制模”新范式，利用人工智能技术自身优势对抗AI安全风险，并打磨出360大模型安全卫士，聚焦解决AI的“可靠、可信、向善、可控”四大核心问题。具体而言，360大模型安全卫士通过四大安全智能体形成闭环防护体系：

　　内容安全智能体：作为AI内容“守门人”，通过幻觉抑制、安全风控等专用模型，实时审核输入输出内容，拦截违法违规信息，抑制虚假生成，为党政军企等场景筑牢内容安全防线。

　　 AI Agent安全智能体：聚焦智能体执行安全，通过异常行为识别、权限管控及人工审核，防范数据泄露与越权操作，确保AI“行动能力”可控。

　　软件安全智能体：扫描AI软件漏洞与配置缺陷，排查开源组件风险，从源头保障AI系统供应链安全。

　　安全风险评估智能体：以实战化模拟攻击(如注入攻击、数据窃取)提前暴露系统短板，帮助客户发现多项关键隐患。

　　胡振泉强调，这四大智能体协同发力，形成从内容生成到任务执行、从开发上线到风险评估的全链路防护，真正实现用AI思维解决AI安全问题。

　　“天生优势”奠定技术壁垒360引领AI安全升级

　　胡振泉表示，随着360大模型安全卫士在客户侧的不断落地，愈发清晰地认识到：AI安全是一个门槛极高的技术领域，做好这件事必须具备四大必要条件：

　　一是AI领域的深耕积淀，需深刻理解AI技术特性与发展规律；二是安全行业的实战积累，对传统网络与数据安全有深入实践；三是自身AI业务的安全实践，通过大规模场景“自用自证”持续迭代产品；四是AI安全语料的长期积累，拥有大量高质量的内容安全与网络安全语料，为模型训练提供核心“生产资料”。

　　胡振泉指出，360通过自身大规模AI业务场景验证产品能力，形成“从实践中来，到实践中去”的迭代闭环，同时沉淀了海量安全语料，构建起了难以复制的核心竞争力。

　　最后，胡振泉呼吁，AI安全需要全行业协同发力。360将持续开放“以模制模”的技术框架与实践经验，与产业链各方共建AI安全生态，为智能时代的安全发展保驾护航。

嘉喜网提示：文章来自网络，不代表本站观点。