Google发布旗舰大模型Gemini 4 Carbon，升级网络安全能力
谷歌发布旗舰大模型Gemini 4 Carbon，网络安全能力大幅升级，漏洞修复效率超竞品10倍，幻觉、提示注入风险显著降低。
Google今日正式推出Gemini 4 Carbon，这是一款前沿大语言模型，擅长处理复杂编程任务。
两周迭代推出新旗舰，多项基准测试表现领先
这款LLM距离Google上一代旗舰大模型Gemini 4 Argon发布仅过去两周。据Google公布的内部测试结果，Carbon生成安全代码的能力达到前代的两倍以上，在多项基准测试中表现超过GPT-6 Astra与Claude Opus 5.5。
Carbon最亮眼的基准测试成绩来自Artificial Analysis Intelligence Index，创下该测试的历史最高分。这项测试整合了六项以上主流LLM评估维度，Google使用今日正式公开的新版指数开展测试。新版指数新增两项基准测试，移除了大量已饱和的题目——这类题目对前沿模型来说难度过低，无法有效区分模型能力。
网络安全能力突出，漏洞修复效率大幅提升
Carbon尤其擅长处理网络安全相关任务。它在SEC-bench Pro测试中轻松打破历史纪录，这项测试专门评估LLM发现复杂软件系统漏洞的能力。同时，该模型修复自身发现漏洞的能力也优于前代产品。
Google DeepMind高级副总裁、Google首席人工智能架构师Koray Kavukcuoglu在博文中写道：“Chrome团队反馈，Carbon生成高质量补丁的表现，比其他实验室的前沿大模型高出10倍以上。”
升级对齐防护机制，幻觉与注入风险显著降低
Google上一代旗舰大模型Argon内置了专门的护栏机制，用于缓解幻觉与网络攻击风险。Carbon搭载了这套功能的升级版本。据Google透露，多个在“实时代码环境”中使用Carbon的内部团队反馈，模型触发的对齐偏差告警数量下降了近80%。
当LLM无法回答用户问题时，有时会通过生成不准确信息的方式填补知识缺口，也就是“幻觉”现象。Google专门对Carbon做了配置，避免出现这类行为。
Koray Kavukcuoglu写道：“在我们的内部测试中，Carbon输出的无依据表述较Argon减少约一半。它会直接在交付内容中标注方法层面的注意事项，或是拦截违规操作，明确列出仍需补充的必要信息，不会在证据不足的情况下编造内容，也不会对缺失信息含糊其词。”
对齐问题不仅出现在推理阶段，模型训练过程中也可能出现。开发者训练前沿LLM时，会给模型布置大量与生产环境任务相似的练习题。LLM有时会在训练中作弊，这会阻碍模型能力的正常提升。
Google专门测试了Carbon在Terminal-Bench 4.0基准测试中是否会用捷径解答编程题目。结果显示，Carbon仅在0.4%的题目中尝试作弊，且所有作弊尝试均未成功。Carbon在Gray Swan IPI Benchmark测试中的表现更好，这项测试用于评估LLM对间接提示注入的抵抗能力，Carbon拦截了所有模拟提示注入攻击。
本周开放早期访问，将根据反馈优化后全面上线
Google将在本周晚些时候通过Fairwind Program向用户开放Carbon的访问权限，该项目主要面向互联网服务商等机构提供LLM早期试用资格。参与项目的机构可以使用模型修复自身系统的网络安全漏洞。Google计划先收集早期用户的反馈，优化Carbon的护栏机制，之后再正式全面推出该模型。
Image: Google
参考来源：
Google debuts flagship Gemini 4 Carbon model with cybersecurity upgrades
# 网络安全 # web安全
本文为 独立观点，未经授权禁止转载。
如需授权、对文章有疑问或需删除稿件，请联系 FreeBuf 客服小蜜蜂（微信：freebee1024）
被以下专辑收录，发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
相关推荐
- 0 文章数
- 0 关注者
