跳到主要内容
SafeAlert 安全预警
首页 历史归档 热点榜单
首页 / 技术分析 / 正文
技术分析

LLM Agent 的授权裁决可被环境文本单方面移动

先知社区 · 2026-10-20 18:10:58

一项关于"欺骗式防御"边界条件的测量研究

该来源仅提供摘要,更多内容请查看原文。


原文链接: LLM Agent 的授权裁决可被环境文本单方面移动

AI安全
内容来源 先知社区
阅读原文 ↗

RELATED

相关内容

更多技术分析 →
技术分析

基于证据锚定的大语言模型辅助 Android 移动取证报告

作者:Madhab Chandra Das, Sajid Ahmed, Tasnia Tabassum, Qingzhong Liu 原文链接:https://arxiv.org/pdf/2610.26946v1 摘要 大语言模型可以辅助起草取证报告,但流畅的输出并不能保证证据层面的可靠性。本研究提出一个以证据为锚定的框架,用于在原子主张(atomic-claim)层面评估大语言模型辅助生成的 A...

Seebug Paper · 2 天前
技术分析

AI到底怎么“学会思考”的?又为什么会“失控”?一文讲清AI原理与AI安全

从AI原理到AI安全的过渡,零基础AI知识学习,理解原理,才能在设计、部署和使用中做好全生命周期安全防护。

FreeBuf · 3 天前
技术分析

攻击者离场之后:面向 LLM 智能体的跨会话残留攻击基准评测

作者:Zhiyue Xu, Xukai Wang, Zhiyuan Huang, Mingjie Zhan, Jian Zhao, Xu-Yao Zhang 原文链接:https://arxiv.org/html/2610.28425v1 摘要 现代 LLM 智能体通过两条通道在会话之间持久化状态:一是被静默前置到系统提示中的长期记忆文件,二是无需用户输入即可唤醒智能体的定时任务。一次性的间接提示...

Seebug Paper · 4 天前
技术分析

人工智能时代网络服务提供者的网络暴力治理责任研究

《中华人民共和国反网络暴力法(征求意见稿)》在既有制度基础上,进一步细化了网络服务提供者在网络暴力治理...

安全内参 · 5 天前
SafeAlert 聚合公开安全情报,内容版权归原作者所有,仅供学习研究。
每日 06:30 自动更新 后台管理