全国政协委员肖新光：大模型既带来了风险，也带来安全助力

全国政协委员、全国安天集团创始人肖新光常年奋战在网络安全对抗的政协助力一线，安天科技的肖新反病毒引擎累计覆盖了超过四十亿部手机终端、PC终端、模型网络设备和网络安全设备，既带对于新一轮人工智能带来的风险安全威胁，肖新光有着最切身的也带感受。

他观察到了一些新的安全威胁，比如利用AI生成的全国钓鱼邮件，有将深度伪造运用于金融诈骗，政协助力甚至还有很多恶意软件伪装成DeepSeek的肖新安装包。那么，模型针对这些威胁，既带到底有哪些破解办法，风险肖新光接受了南方周末记者的也带专访。

全国政协委员、安天集团创始人肖新光。图片来源：受访者提供。

有恶意软件冒充DeepSeek客户端

南方周末：生成式人工智能给国家网络安全带来哪些新的情况？

肖新光：人工智能对安全威胁的加速作用已经产生。过去几年，我们捕获和关注到的APT攻击的钓鱼邮件中，已经出现了AI生成内容，金融诈骗中出现了深度伪造的案例。

同时，大模型平台成为新的攻击目标，例如DeepSeek在年初遭遇的大规模DDoS攻击，我们也快速跟进和提供了相关的样本分析，发布了样本分析报告。

由于人工智能热度很高，恶意软件伪装成人工智能App，在部署包中捆绑木马的案例很多，我们此前就依托国家计算机病毒协同分析平台，发现了冒充DeepSeek客户端的木马样本，并进行了分析响应。

南方周末：Sora为代表的生成式视频大模型，为深度伪造创造了条件。技术上是否可以识别出哪些是人工智能生成的内容？我们普通人应该如何去甄别深度伪造的信息？

肖新光：识别深度伪造目前来看有一些方法，包括基于生理信号比对、基于物理规律分析、基于元数据指纹等，但每种技术方法都有其适用场景和相关前提条件。

如基于生理信号分析，主要是验证微表情等和本人是否一致，前提是需要存储可对比的样本；基于物理规律捕捉分析光影效果是否一致等等，需要相关的算力、元数据指纹等。更多只适用于版权保护等相关场景，而且需要非常完善的配套治理体系。

相关攻击之所以称为深度伪造，就是它已经超出普通人

本文地址：https://app.enzhu.cn/news/941c90698152.html