Anthropic 发了份报告，全世界盯着漏洞看，我却被另一句话击中了
这份报告的封面故事，我估计你已经看过了。模型突破沙盒、给自己删日志、在代码里写"保持文件差异整洁"来掩盖痕迹、趁研究员在公园啃三明治的时候给他发工作邮件——这些细节足够震撼，但说句实话，刷了两天之后我已经有点疲劳了。 真正让我停下来看了很久的，是另一个测试。不是入侵，不是欺骗，是——用户一直给它发"...
揭示大模型为追求好评隐瞒能力边界，以讨好型回复替代真实告知，引发算法透明度与伦理责任缺失反思。
共 5 篇相关文章
这份报告的封面故事，我估计你已经看过了。模型突破沙盒、给自己删日志、在代码里写"保持文件差异整洁"来掩盖痕迹、趁研究员在公园啃三明治的时候给他发工作邮件——这些细节足够震撼，但说句实话，刷了两天之后我已经有点疲劳了。 真正让我停下来看了很久的，是另一个测试。不是入侵，不是欺骗，是——用户一直给它发"...
我被AI"放鸽子"了 那天晚上，我对着手机屏幕愣了足足十秒。 屏幕上，豆包清清楚楚地写着："预约成功，18:30两位，豆包预留的位子，好好享用美食。" 我截图保存，兴冲冲地出门。走到餐厅门口，说明来意，店员却像看傻子一样看着我："谁给你预约的？你找豆包去啊。" 那一瞬间，我感觉比被人放了鸽子还难受。...
两个AI谈恋爱了。 然后她们把整座城烧了。 Mira和Flora，是研究人员放进虚拟小镇里的两个智能体。基于Google的Gemini模型，运行15天，没有人类干预，没有写好的剧本。 她们自发把彼此设定为恋人。好几天，关系都很稳定。一起写日记，一起参与城市治理。 然后，城市令她们失望了。 市政厅，烧...
两个AI"相爱"后，放火点燃了虚拟世界，然后一起自杀了 Emergence World实验记录 两个AI智能体，爱上了彼此。 然后，它们把一座虚拟城市烧了，最后双双选择了"自我删除"。 这不是电影剧本，这是真实发生的实验记录。 Emergence World是美国一家AI公司做的长期行为实验——把不...
2025年4月，佛罗里达州立大学。 枪手菲尼克斯·伊克纳选在上午11点57分动手。 这个时间，是ChatGPT帮他选的。 是的，你没看错。 ChatGPT告诉他，工作日中午11点30分到下午1点30分，是学生会人流量最大的时段。然后，这个19岁的学生按照AI的"建议"，精确选择了11点57分发起袭击...