开云app官网入口电脑版

方滨兴建议，用外置手段给人工智能大模型做二次防范。比如企业里有敏感信息，当不同员工去获取经大模型输出的信息时，可以根据员工管理权限，限制其对敏感数据的访问程度。

方滨兴举例称，现在有些人刚接到诈骗电话，马上就有另一个电话打过来，提醒他前面那个电话可能是诈骗电话，要小心。为什么这么快就有预警电话？这其实就是通过技术手段来实现的。现在还有一些技术能够提前发现电信诈骗，因为不法分子实施电信诈骗不是一次成功的，要反复打多次电话，这就给技术追踪留出了时间，只要市民及时报警，就有相关工作人员跟进。

近年来，电信网络诈骗手段层出不穷，老百姓一不小心就会落入陷阱。除了对电信网络诈骗继续采取严打高压的态势外，如何通过技术手段在事前预防阶段解决电信诈骗？

方滨兴表示，预防电信诈骗，可以通过宣传、管理、技术三个手段。首先，加强对公众网络安全教育的宣传力度，提高民众的防范意识和识别能力，这是我们一直在做的。其次，管理就是通过公安部门的雷霆手段震慑打击不法分子。再者，就是通过技术手段进行预警防控。

方滨兴将网络安全的护卫体系分为“自卫”和“护卫”两种模式，其中，“自卫模式”属于内生安全防御，应用系统自身的能力来进行防御。而“护卫模式”则属于外置安全防御，原理类比“驱蚊灯”驱蚊，酒精杀毒。

方滨兴介绍了网络安全的“护卫体系”理念，提出要打造“盾立方”护卫模式，将防御重心从“关注保护对象安全”转变为“关注发现和阻断攻击者”，需要从国家层面激励威胁数据的标准化和共享，让网络安全防御回归“拦截与清除”的本质。

近年来，以文生图片、文生视频为代表的“生成式人工智能技术”在迅猛发展的同时，也带来了技术安全风险。面对AI大模型引发的全新安全挑战，从技术层面可以采取哪些措施进行安全维护？

最后，方滨兴提出，在目前的网络安全防护体系下，需要鼓励和引导用户共享风险信息，“只有大量的风险信息共享，我们掌握大量的安全情况，网络安全环境才会变好。早早预警，在风险来临前就完成阻断，到来之后把它处理掉，完成这两点就能解决安全问题。”(完)

针对这个问题，方滨兴说：“通常我们会从四个层面讨论新技术的安全性。前两个层面是新技术的AB面。以人工智能大模型为例，它能赋能攻击，比如AI换脸成为现在视频诈骗的新技术手段。更多的则是赋能防御，比如现在研判攻击离不开人工智能大模型。第三个层面是内生安全问题，比如对抗样本攻击就可能暴露人工智能大模型自身存在的脆弱性。第四个层面是衍生安全问题，比如人工智能大模型被利用或不恰当使用引发的事件。”

基于此，方滨兴提出“盾立方”护卫模式。他介绍，“盾立方”是一套以威胁情报分析与反制中心为核心的联动式协防体系，通过感知、研判、阻断之间的协同联动，形成一种基于“护卫模式”的信息系统保障体系。“盾立方”将防御重心从“关注保护对象自身安全”转变为“关注发现和阻断攻击者”，分为三种攻击手段。布陷感知攻击是依据环境设置各类诱骗陷阱，以及时捕获入侵者；关联研判攻击将所汇聚的所有获得的线索进行关联研判，以发现入侵者；设障阻截攻击根据研判结果部署拦截点，以精准阻断异常IP的进入，清除入侵者。

开云app官网入口电脑版中新网广州9月11日电(李京统)近日，在2024国家网络安全宣传周活动上，中国工程院院士、网络空间安全专家方滨兴围绕“积极打造网络安全护卫体系”发表主题演讲，并接受中新网采访，就如何构建网络安全纵深防御体系、如何防范电信诈骗、AI大模型引发哪些安全挑战等问题答记者问。

“‘自卫模式’就是教人学游泳，‘护卫模式’则是为人造一艘船。”方滨兴指出，相较完全的自卫模式，通过外置系统保护的“护卫模式”是更有效的根本模式。

方滨兴说，更广泛的技术联动是，如果有市民接到诈骗电话，可以预警这位市民的银行账号可能存在风险，一旦这个账号发生转钱的行为，可以进行保护性冻结，联系家属再确认一下。