警惕“裸奔”的开源AI：研究称脱离监管或成黑客劫持温床
发布于AI新闻资讯
发布时间 :2026-1-31 19:03
阅读 :1分钟
近日，网络安全公司 SentinelOne 与 Censys 联合发布的一项深度研究揭示了开源大语言模型面临的严峻安全挑战。 研究指出，当这些模型脱离主流托管平台的“护栏”与安全限制，在外部私有计算机上独立运行时，极易沦为黑客与犯罪分子的攻击目标，产生严重的安全风险。
这项耗时近 300 天的研究发现，目前互联网上存在数千个缺乏保护的开源 AI 运行实例，其中包含大量基于 Meta 的 Llama 和谷歌的 Gemma 等主流模型开发的衍生版本。 尽管部分开源模型原生自带安全防线，但研究人员仍发现了数百起安全护栏被恶意移除的情况。
安全专家将这一现象形容为行业视野外的“冰山”：开源算力在支持合法用途的同时，正被明显用于犯罪活动。 攻击者可以通过劫持这些运行实例，强制模型生成大量垃圾信息、编写精准的钓鱼邮件，甚至发动大规模的虚假信息宣传。
研究团队重点分析了通过 Ollama 工具部署的开源实例。 令人担忧的是，在约 25% 的观察对象中，黑客可以直接读取模型的“系统提示词”——即决定模型行为的核心底层指令。 进一步分析显示，其中 7.5% 的指令已被修改，旨在为有害行为提供技术支持。
这种风险场景波及范围极广，包括但不限于仇恨言论传播、暴力内容生成、个人隐私数据窃取、金融诈骗，甚至是涉及儿童安全的内容。 由于这些模型绕开了大型平台的监控机制，传统的安全防护手段往往难以奏效。
© 版权所有 AI星球岛 2026，
如何用指令句式让豆包生成个性化学生评语库
在教育教学过程中，高效生成个性化评语能节省大量时间和精力。本文将详细介绍如何借助
2026-03-02 21:35
36
如何用 AI工具生成论文选题
在学术研究中，确定好的论文选题至关重要。DeepSeek作为强大的AI工具，能提供丰富选题
2026-03-02 21:23
39
如何用豆包+即梦快速进行海报设计
在数字化宣传时代，精美海报至关重要。豆包与即梦两款工具结合，前者可精准理解需求、
2026-02-14 23:15
66
如何用豆包进行海报设计
在宣传活动、推广产品、传递创意时，吸睛海报至关重要。但传统海报设计需专业技能和软
2026-02-14 23:11
110
如何使用豆包生成图片
如今，AI软件生成图片可用于文章配图、制作素材等。豆包的图片生成功能借助强大AI算法
2026-02-14 23:05
109
