AI技术浪潮下的安全挑战，高效与安全如何同存？

发布日期：2025-02-21 17:13 浏览量：1466

一夜爆红、遥遥领先、深度思考、MOSS在世！这些词汇都不足以形容DeepSeek的热度。2025年1月以来，国产人工智能大模型DeepSeek凭借其开源特性和深度思考服务，迅速占领市场，用户量激增，导致DeepSeek服务器时长宕机，相信大家都见到过“服务器繁忙，请稍后再试”这一熟悉的场景。

然而，其爆火背后却成为网络犯罪分子的新目标。近日国家计算机病毒应急处理中心近期捕获的仿冒DeepSeek安卓客户端木马病毒，通过诱导用户安装“更新包”窃取银行信息、拦截短信，甚至阻止卸载，直接威胁用户财产与隐私。

▲诱导用户权限的假冒”DeepSeek“（图片源自网络）

类似案例并非孤例：AI生成的虚假视频被用于诈骗、伪造新闻扰乱社会秩序等事件频发，例如四川网警查处的10起AI编造谣言案件中，不法分子利用“AI千文”“翠绿笔墨”等工具批量生成虚假信息，造成恶劣社会影响。

这些事件揭示了一个核心矛盾：AI技术提升效率的同时，其滥用风险正以前所未有的速度侵蚀数字信任。

-01- 效率与安全的天平：AI时代的双重需求

效率驱动的AI应用场景

DeepSeek的快速普及印证了市场对高效AI工具的渴求。其开源模型DeepSeek-R1上线仅一个月下载量突破13万次，企业自托管AI模型采用率翻倍，覆盖金融、客服、研发等多个领域。

▲图片源自网络

然而，这种效率导向的扩张往往伴随安全投入的滞后。例如，Wiz安全团队发现DeepSeek的数据库曾因配置错误暴露用户聊天记录与密钥，一个属于DeepSeek的可公开访问的ClickHouse数据库，它暴露了高度敏感的信息，包括用户的聊天记录、密钥和敏感的内部信息，以及超过一百万行的日志流，并允许完全控制数据库操作。此案例凸显了技术迭代中安全管理的重要性。

安全漏洞的巨大代价

据报道，仿冒DeepSeek的木马程序通过伪装官方图标、混入搜索引擎推荐页等方式传播，普通用户难以辨别。网络安全专家指出，此类病毒一旦安装，可在后台快速窃取银行账户信息，且无法卸载，用户只能通过重置设备或专业修复解决。更严峻的是，攻击者可能将恶意代码与真实功能捆绑，使仿冒程序更具迷惑性。

专家表示，攻击者利用技术以极低的成本让仿冒DeepSeek程序出现在搜索引擎推荐页中，每天都能监测到大量带有DeepSeek字样的仿冒网址，极具迷惑性，普通用户稍不注意很容易中招。此外，仿冒病毒也会混入一些小众应用市场。

-02- 新的发展前景与挑战

作为数字经济的重要组成部分，AI技术的发展前景毋庸置疑，但多年来，AI也一直被视为一把“双刃剑”。如对于大数据与算力的强依赖将限制其快速发展，超预期的新应用新模式正引发市场担忧，以及可能带来的网络安全、合规、知识产权等风险也将给数字治理带来新的挑战。

网络攻击
人工智能可用来自动锁定目标，也可自动识别图像验证码进而通过系统的审核认证，而一旦AI智能让验证防护的手段失效，则可能导致系统数据泄露和遭受网络攻击。

网络钓鱼
利用ChatGPT等AI技术生成的钓鱼邮件不会有任何拼写错误或奇怪的格式，而这些通常是区分钓鱼与合法邮件的关键。攻击者可以借助AI创造多种钓鱼邮件，使其可能成为强大的网络钓鱼工具，尤其对英语不流利的攻击者特别有用。
数据投毒
“投毒”是指在人工AI智能训练数据中加入伪装数据、恶意样本等，可导致训练的算法模型决策出现偏差。主要有两种攻击方式：一种是采用模型偏斜方式，攻击训练数据样本。另一种则采用反馈误导方式，攻击人工智能的学习模型本身。
隐私泄露
相对于互联网对上网习惯、消费记录等信息的采集，人工智能应用采集的信息包括了人脸、指纹、声纹、虹膜、心跳、基因等，具有很强的个人属性，一旦泄露或者滥用将产生严重后果。

网络安全是当今全球企业面临的战略挑战，在AI快速发展和全行业数字化的当下，网络攻击面也在不断扩大。在人工智能技术应用层面，企业需要考虑的主要风险包括隐私、对抗性网络安全和第三方风险。

-03- SSL证书，构建可信数字身份基石

作为依法设立的电子认证服务机构与数字信任云服务商，天威诚信长期为企业提供全球可信的全类型SSL证书。以DeepSeek仿冒事件为例，SSL证书可从以下层面提供防护：

验证官方身份，阻断仿冒入口
仿冒程序常通过虚假网站或非官方链接传播。SSL证书通过HTTPS协议与绿色锁标识，确保用户访问的是经CA机构严格验证的DeepSeek官方网站而非钓鱼页面（www.deepseek.com）。例如，DeepSeek官方多次声明仅通过官网与应用商店分发正版程序，SSL证书正是这一声明的技术背书。