7月9日,2024(第二十三届)中国互联网大会在北京国际会议中心开幕。360智脑总裁张向征受邀出席,并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。
![](http://image.tech.china.cn//upload/images/2024/0710/182615/221_404657_a95c806500fcddcdd232ac55eac05f44.jpg)
会上,张向征明确指出,大模型不仅是数智化时代的重要基础设施,安全是大模型应用的基石,大模型的发展要遵循的“安全、向善、可信、可控”四大原则。此外,360集团在实践中也提出“以模制模”的理念,用专业知识训练的大模型做大模型的安全识别、评估和管控。
![](http://image.tech.china.cn//upload/images/2024/0710/182615/221_404657_5c5e2c3130c517267c6a8f2422850725.jpg)
具体而言,大模型生态链安全检测系统,可以确保模型环境安全。值得一提的是AISE人工智能系统安全检测平台,作为国内首个支持系统化安全检测、首个支持提示注入风险检测的平台,不仅支持针对多种安全风险测评,更能覆盖图像识别、人脸识别、目标检测、生成式AI等多场景,输出安全评分及分析报告,并提供相应的安全加固方案。智脑风控引擎,为大模型内容安全保驾护航。在使用安全工具的辅助下,大模型风控能力的迭代效率也将提升。基于安全工具增强,360红蓝对抗团队仅需输入风险主题和目标大模型,即可对线上大模型的风险自动巡查。而微调和强化学习技术的引入,也有效提升大模型回复安全。另外,基于幻觉检测Agent,大模型输出可信度也得到进一步的提升。这一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云多种部署或交付方式,满足企业对便捷、成本、安全等多种因素的个性化需求。
在大模型安全解决方案上,360集团从未停歇。从技术创新到举办大模型攻防竞赛,再到参与大模型国家标准的编写,360集团始终致力于为AI大模型的安全发展贡献力量,护航大模型应用,助力数智化转型。
(责任编辑:谭梦桐)