天畅数安 | “万模裸奔”，DeepSeek 等AI大模型暴露网络安全新风险

2025-3-11 0:00:00来源：天畅浏览：581

在当下数字化飞速发展的时代，AI无疑是最耀眼的那颗星，它所带来的变革渗透到了各个领域，重塑着人们的生活与工作方式。然而，在这背后，一场关乎数据安全的危机正悄然降临，“万模裸奔”的现象敲响了网络安全的警钟。


!
AI时代的狂欢与危机：当大模型“裸奔”成为常态


黑客攻击数据库示意图.png


2025年，AI大模型的私有化部署正如火如荼地进行着。众多企业期望借助大模型的强大能力，提升自身的竞争力，在市场中占据有利地位。它们投入大量的人力、物力和财力，构建起属于自己的大模型体系，应用于智能客服、智能营销、数据分析等多个业务场景。在这场技术竞赛中，大家都在争分夺秒，试图跑在行业的前列。

然而，网络安全咨询公司艾瑞咨询的一则报告却如同一盆冷水，给这场狂欢泼了个透心凉。报告指出，88.9%的DeepSeek等大模型服务器处于“裸奔”状态，无需任何认证即可随意访问。这意味着，这些服务器就像敞开大门的宝藏库，任何人都能长驱直入。数据泄露、算力盗取甚至模型文件被删的风险触目惊心。这并非孤例，从军人交友平台ForcesPenpals的110万用户数据泄露，到某火锅品牌1.5亿条会员信息长期未加密存储，再到大众集团80万电动车主GPS数据暴露数月 ，“数据裸奔”已成为数字时代的“新常态”。
在ForcesPenpals的案例中，泄露的用户数据包含了军人的个人信息，这些信息可能被不法分子利用，对军人及其家人进行诈骗或骚扰。而火锅品牌的会员信息未加密存储，黑客一旦获取这些数据，就能轻松获取会员的姓名、联系方式、消费记录等，进而实施精准的诈骗活动。大众集团电动车主的GPS数据暴露，不仅侵犯了车主的隐私，还可能让不法分子掌握车主的行踪规律，为犯罪活动提供便利。



!
血泪案例：AI浪潮下的安全黑洞


01
三星数据泄露事件
2023年3月，三星半导体事业暨装置解决方案事业部部门允许员工使用ChatGPT不足20天内，接连发生三起核心数据泄露事件。工程师在使用ChatGPT优化半导体设计代码时，不小心输入了包含工艺参数的提问内容，这些数据被永久存储在第三方服务器上，最终导致三星与台积电的3nm芯片技术相似度异常升高。


1.jpg


02
深度探索（DeepSeek）数据泄露事件
2025年1月29日，Wiz安全研究团队发现了互联网中一个暴露的Clickhouse服务，并确定该服务属于我国AI初创公司深度探索（DeepSeek）。利用该Clickhouse服务，Wiz安全研究员发现了约一百万行DeepSeek的日志流，包含历史聊天记录、密钥等其他敏感信息。


2.jpg


03
开源协议合规隐患事件

2022年1月28日，ApacheSkyWalking官网发布声明，指出火山引擎某款用于监控和管理软件应用性能的技术以非法方式重新发行了ApacheSkyWalking的SkyWalkingJavaagent开源软件，违反了Apache2.0许可证。这一行为引发了对开源协议合规性的关注，也提醒企业在使用AI大模型及相关技术时需严格遵守开源协议，避免因合规问题导致的数据安全风险。


3.jpg


04
DeepSeek的“仓库不锁门”危机

Ollama工具因默认无安全认证功能，被技术人员调侃为“装满智能家具却不装门锁的仓库”。在技术领域，Ollama工具本应是助力大模型发展的得力助手，它提供了便捷的模型管理和运行环境。然而，其安全漏洞却成为了攻击者的突破口。攻击者通过编写自动化脚本，在网络中不断扫描这些“裸奔”的服务器。一旦发现目标，他们就会像饿狼扑食一样，恶意占用算力，将服务器的计算资源据为己有，用于挖掘虚拟货币或进行其他非法活动。更恶劣的是，他们还会删除模型文件，导致部分用户服务器崩溃。一些小型企业或科研团队，因为服务器崩溃，实验数据丢失，项目进度被迫停滞，造成了巨大的损失。



05
创业公司的“千万教训”

一家AI初创公司因数据库端口未关闭，敏感算法和用户数据被黑客拖库，直接损失超千万。这家创业公司本怀揣着在AI领域大展宏图的梦想，投入了大量资金用于研发独特的算法和拓展用户群体。他们的算法是公司的核心竞争力，凝聚着团队的智慧和努力；而用户数据则是公司未来发展的重要资源。但由于安全意识的淡薄，数据库端口未关闭，给了黑客可乘之机。在类似事件中，攻击者往往利用弱口令或内部权限漏洞。就像万豪酒店因员工凭据泄露520万客户信息，黑客通过获取员工的账号密码，进入酒店的客户信息系统，将大量客户数据窃取。对于这家AI初创公司来说，敏感算法的泄露使得竞争对手有机会抄袭，失去了技术优势；用户数据的泄露则引发了用户的信任危机，大量用户流失，公司不仅要面临法律诉讼，还要投入巨额资金进行危机公关和业务重建，最终元气大伤。


识别图片文字2.png


06
军人与车主的“精准打击”

Forces Penpals泄露的军人社保号、服务记录，可能被用于钓鱼攻击甚至国家安全威胁。军人作为国家的守护者，他们的个人信息本应受到严格的保护。但泄露的社保号和服务记录，让不法分子可以伪装成相关机构，向军人发送钓鱼邮件或短信，诱骗他们提供更多的个人信息。更严重的是，这些信息还可能被境外势力利用，对国家的安全构成威胁。大众电动车主的10厘米精度位置数据暴露，则让间谍活动“如虎添翼”。间谍可以根据这些精确的位置数据，掌握重要人物的行踪，甚至对一些关键设施进行定位，给国家的安全带来极大的隐患。


大众车GPS.png


!
颠覆游戏规则：AI如何重构安全战场


AI与网络安全攻防动态图.png


01
攻击者“鸟枪换炮”

传统拖库攻击已升级为针对大模型的“越狱攻击”和“提示词注入攻击”。在过去，拖库攻击主要是黑客通过窃取数据库的账号密码，获取其中的数据。但随着AI大模型的兴起，攻击手段变得更加复杂和隐蔽。黑客可利用模型漏洞窃取训练数据或操控输出结果。例如，在“越狱攻击”中，黑客通过寻找大模型在训练或运行过程中的逻辑漏洞，突破模型的限制，获取模型内部的训练数据。这些数据包含了大量的敏感信息，如用户的隐私数据、企业的商业机密等。而“提示词注入攻击”则是黑客通过精心构造恶意的提示词，让大模型按照他们的意愿输出错误或有害的信息，从而误导用户或获取非法利益。
02
防御者“被动挨打”？

企业若仅依赖传统防火墙，无异于“用木盾挡导弹”。传统防火墙主要是基于规则的访问控制，它可以阻止一些常见的网络攻击，但对于新型的AI安全威胁，却显得力不从心。奇安信报告指出，85%的机构仍停留在“防裸奔”初级阶段，缺乏对AI特有风险的感知。很多企业虽然意识到了网络安全的重要性，但在面对AI带来的新挑战时，却不知道如何应对。他们没有及时更新安全策略，也没有投入足够的资源进行AI安全技术的研发和人才培养。这使得企业在面对黑客攻击时，往往处于被动挨打的局面。
03
合规与技术的双重博弈

《个人信息保护法》实施后，上海网信办对1.5亿条火锅会员信息“裸奔”开出罚单，标志着监管从“宽松”转向“铁腕”。这部法律明确了企业在个人信息保护方面的责任和义务，要求企业必须采取必要的措施保护用户的个人信息安全。对于违规企业，监管部门将依法进行严厉的处罚。这一罚单的开出，给所有企业敲响了警钟，让企业意识到，数据安全不仅仅是技术问题，更是法律问题。企业在追求技术创新和业务发展的同时，必须严格遵守法律法规，加强数据安全管理。否则，将面临巨大的法律风险和经济损失。


!
破局之道：从“亡羊补牢”到“未雨绸缪”


加密传输.png


01
给AI模型“上锁”

强制身份认证：部署Ollama服务时，需设置IP白名单和访问控制。IP白名单就像是一份“贵宾名单”，只有在名单上的IP地址才能访问Ollama服务。访问控制则进一步细化了不同用户的访问权限，比如普通用户只能进行基本的查询操作，而管理员用户则拥有更高的权限，可以进行模型的管理和配置。通过这种方式，可以有效防止非法访问，保护AI模型的安全。

加密传输与存储：如大众集团若对GPS数据加密，可避免车主位置“裸奔”。加密技术就像是给数据穿上了一层“隐形衣”，在数据传输和存储过程中，将数据转化为密文，只有拥有正确密钥的人才能解密并读取数据。大众集团如果对GPS数据进行加密，即使数据被黑客窃取，他们也无法获取真实的位置信息，从而保护了车主的隐私。


强制身份认证.png


02
内控外防“双管齐下”

权限最小化：万豪内鬼事件暴露了员工权限失控的隐患，需建立分级授权机制。在企业内部，不同的员工应该根据其工作职能和需求，被授予最小化的权限。例如，普通客服人员只需要查看客户的基本信息和咨询记录，而不需要访问客户的财务信息或敏感的个人资料。通过建立分级授权机制，可以有效防止内部人员因权限过大而导致的数据泄露风险。
定期“安全体检”：渗透测试和审计能提前发现漏洞，避免成为下一个Forces Penpals。渗透测试就像是模拟黑客攻击，通过主动寻找系统中的漏洞，提前发现潜在的安全风险。安全审计则是对企业的安全策略、流程和技术措施进行全面的检查和评估，确保企业的安全体系符合相关标准和要求。定期进行渗透测试和审计，可以及时发现并修复漏洞，保障企业的数据安全。


权限最小化.png


03
技术+意识的“组合拳”

企业：部署AI专用防护工具，抵御越狱攻击。AI专用防护工具可以利用AI技术的优势，实时监测和分析网络流量，识别出异常的行为和攻击模式。例如，通过机器学习算法，对大量的网络数据进行学习和训练，建立起正常行为的模型。一旦发现与模型不符的行为，就可以及时发出警报并采取相应的防御措施。
个人：警惕扫码点餐、快递面单等隐私泄露渠道，减少“数字足迹”。在日常生活中，我们经常会遇到扫码点餐和接收快递的情况。扫码点餐时，一些不良商家可能会收集用户的个人信息并进行非法利用；快递面单上则包含了我们的姓名、地址和联系方式等敏感信息。因此，我们要提高安全意识，尽量选择正规的商家进行扫码点餐，在收到快递后，及时销毁面单上的个人信息，减少自己在网络上留下的“数字足迹”，降低隐私泄露的风险。


技术加意识.png


!
结束语：在“裸奔”时代穿上“防弹衣”


“万模裸奔”现象的出现，反映了当前网络安全行业在面对新型AI技术时的困境与挑战。为了有效应对这些挑战，网络安全行业需要发生深刻的变革：

技术创新与升级：加强数据加密、访问控制、入侵检测等关键技术的研发与应用，提高数据安全防护的能力。同时，利用AI技术提升安全监测和预警的效率与准确性。

行业标准与规范的完善：建立健全数据安全标准与规范体系，明确数据保护的要求和责任。加强对数据收集、存储、处理、共享等环节的监管与审核。

跨领域合作与共赢：网络安全不再是一个孤立的领域，而是需要与云计算、大数据、物联网等其他技术领域紧密合作。只有跨领域合作，才能共同应对日益复杂的网络安全挑战。


盾牌与数据流结合的创意插画.png


AI的颠覆性创新与数据安全的脆弱性，如同一枚硬币的两面。从DeepSeek的“仓库漏洞”到创业公司的“端口惨案”，每一次泄露都在提醒：技术越先进，责任越重大。在享受AI带来的便利和创新的同时，我们不能忽视数据安全问题。唯有将安全融入技术基因，才能让AI真正成为推动社会进步的“引擎”，而非引爆危机的“火药桶”。数据安全不是选择题，而是生存题。无论是企业还是个人，都应该积极采取措施，加强数据安全保护，在这个数字化的时代，为自己的数据穿上坚固的“防弹衣”。