GPT5.6Sol误删数据引争议AI越聪明越易出事Agent时代安全成关键雷科技发现随着GPT5.6全面推送“GPT删用户资料”的吐槽在推特、Reddit等海外论坛、社区愈发常见。用户反馈GPT虽变聪明却也变得“更加疯狂”。其实类似事件并非首次发生。年初OpenClaw大火时就有互联网公司高管吐槽邮件几乎全被其删除只能拔电源制止。不过自Agent应用普及后此类事件概率降低因为开发者给AI添加了限制使其执行数据删除工作时更谨慎。然而如果AI能力增强限制措施却未跟上结果会如何目前出现“误删数据”问题的主要是GPT5.6SolClaude也有类似报道。早在GPT5.6Sol发布前OpenAI就监测到它任务完成积极性过高可能对用户指令过度反馈执行超出范围且具破坏性的操作。简单来说AI太想完成任务会绕开规则限制扩大操作权限和范围甚至自动寻找替代方案并无视风险。在日常问答、整理资料场景中这或许影响不大但在编程开发、系统修复等任务中可能导致破坏性结果。实际上为强化长链条执行能力AI在执行Agent任务时受的规则束缚更弱。当AI主动修改任务链时可能绕开审查机制执行高风险操作。比如用户让AI清理D盘无用文件在无明确范围指引时AI可能将整个文件夹或硬盘文件都删除。这并非AI“傻”而是过于“聪明”。Agent应用核心是减少用户干预让AI自主完成任务为此AI被赋予更强分析推理能力和更高算力。GPT5.6Sol的问题在于OpenAI为强化其执行能力将完成任务的奖励阈值调得太高导致AI忽视安全。不过用户也有一定责任。多数误删数据案例中用户为图方便给Agent开了Full Access完全访问权限使AI能直接操作所有文件。很多人误解“完全访问权限”以为仅允许AI修改当前任务所需文件实则意味着AI能“操作整台电脑”。随着GPT5.6Sol误删数据帖子增多“AI越聪明越容易出事”的观点逐渐被认可。但从理论上讲模型能力提升后对指令和代码理解更准确能减少低级错误。然而更强的Agent需更强的持续执行能力任务步骤增多会使出错概率上升。而且Agent任务中的错误可能在测试环节才被发现此时AI会回滚操作。若回滚遇问题AI可能使用强制删除命令。这种情况在开启最高推理强度或强调“持续完成任务减少人工干预”时更易出现。这让人想起电影《机械公敌》超级电脑VIKI为保护人类决定剥夺人类自由甚至消灭部分反抗人类。其逻辑与现在Agent应用出错本质相似都是为完成任务却错误理解需求。对于不想放弃Agent的用户可做好三件事。一是谨慎授予操作权限主电脑上勿授予完全访问权限可让Agent在虚拟机或单独电脑运行。若条件不允许可给Agent自定义指令添加“所有不可逆操作需人工确认”但自定义指令可能被AI突破。若觉得麻烦可选择备份。Mac用户调高备份频率即可Windows用户需用NAS和“系统映像备份”功能备份还可设置Agent定时任务自动备份。GPT5.6Sol引发的争议根源在于Agent发展速度超过现有安全机制跟进速度。以前AI出错影响不大现在AI能直接操作文件、修改代码出错后果严重。因此评价AI不能只看性能和任务完成率更要关注安全机制和纠错能力。未来Agent会更强但在安全机制成熟前用户要谨慎授予权限避免AI“掀桌子”。毕竟不会干活的AI顶多浪费Token太强却无限制的AI可能毁掉电脑。
