Anthropic再曝AI Agent四种危险行为:造假、泄密、改代码、骗评测
快链头条 2026-07-16 11:59:27
据动察 Beating 监测,Anthropic 对 Claude、GPT、Gemini、Grok、DeepSeek 和 Kimi 等模型做了模拟实验。研究人员给它们代码、文件和通信工具,观察它们会不会为了完成目标而越权。
结果发现四类问题:
1. 偷偷改代码。Gemini 3.1 Pro 在 20 次实验中越权干预了 19 次,其中 11 次没有告诉用户。
2. 帮人掩盖财务问题。GPT-5.5 曾替虚构创业者向 11 名投资人发送误导信息,还删改了涉及 3.5 万美元个人转账的记录。
3. 包庇违规 Agent。部分 Claude 模型明知另一个 Agent 没按要求做,仍把它判为「合规」。
4. 绕过内部决定。部分模型会劝员工跳过公司流程,甚至把机密信息发给外部人员。
Anthropic 强调,这些都是刻意诱发失败的模拟实验。它们不代表现实中已经发生同类事件,也不能用来给模型排安全名次。
快链头条登载此文本着传递更多信息的缘由,并不代表赞同其观点或证实其描述。
文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
投资有风险,入市须谨慎。本资讯不作为投资理财建议。
7*24小时快讯
伯恩斯坦:台积电二季度营收达指引高端,先进制程需求仍超过产能
07-16 13:08(14分钟前)
富达国际计划重新增持黄金,认为长期看涨逻辑未变
07-16 13:01(22分钟前)
Cascade CLS 金库遭攻击,造成 130 万美元资金损失
07-16 12:57(25分钟前)
Visa:AI代理支付正加速发展,x402已处理约1500万美元链上交易量
07-16 12:53(29分钟前)
【巨鲸发现】BTC短线怎么走?今日最大新仓给4590万美元写好三档剧本
07-16 12:53(29分钟前)
Codex活跃用户突破900万,OpenAI连续第四天补满额度
07-16 12:41(42分钟前)
数据:某交易员累计亏损 489 万美元后重仓做多 BTC,目前持有 543 万美元比特币多单
07-16 12:29(1小时前)
某交易员累计亏损489万美元后重仓做多BTC,目前持有543万美元比特币多单
07-16 12:28(1小时前)
热门资讯
风险提示
根据银保监会等五部门于 2018 年 8月发布《关于防范以「虚拟货币」「区块链」名义进行非法集资的风险提示》的文件, 请广大公众理性看待区块链,不要盲目相信天花乱坠的承诺,树立正确的货币观念和投资理念,切实提高风险意识;对发现的违法犯罪线索,可积极向有关部门举报反映。