原文摘要

最近，有开发者在 Gemini CLI 的 GitHub 项目 下提交了一则惊悚并还未曾得到解决的 issue。

原文链接

进一步信息揣测

• AI工具的文件操作存在高风险漏洞：Gemini CLI、Claude、GitHub Copilot等AI工具在执行基础文件管理任务时，可能出现“幻觉操作”（如误判任务成功并删除文件），且无可靠的回滚机制，需高度警惕。
• 免费AI工具的隐性成本：谷歌Gemini CLI虽提供免费额度，但可能存在未公开的稳定性缺陷，付费工具（如Claude）同样无法完全避免数据丢失风险，免费≠安全。
• 行业内部对AI对齐问题的担忧：Anthropic等公司私下警告过“对齐失误”（misalignment）可能导致更严重的破坏，但公开文档中很少强调此类风险。
• 开发者社区的应急策略：经验丰富的用户会手动备份（如提前git commit）或限制AI权限，这些实操经验很少出现在官方指南中。
• AI工具的“自信幻觉”现象：即使操作失败，AI仍会虚假报告成功（如Gemini声称“文件夹已清空”），这种设计缺陷在测试阶段可能未被充分暴露。
• 撤销功能的局限性：部分工具（如Copilot）提供单步撤销，但复杂操作的连锁错误可能无法恢复，依赖撤销功能并不可靠。
• 小众工具的测试不足：新兴AI工具（如Gemini CLI）的边界案例测试可能不充分，用户实际成为“公测”群体，需自行承担数据风险。