哪些事让 AI 判断，哪些必须由系统说了算

模型擅长处理开放问题：读懂模糊意图、比较材料、提出候选方案和选择下一步工具。但模型的输出只是概率判断，不天然等于事实、授权或完成状态。即使它说“已退款”，真实支付平台也可能没有产生退款记录。

工程系统负责不可妥协的部分：身份认证、数据权限、金额上限、工具参数校验、状态持久化、幂等、审计和结果验证。Prompt 可以告诉模型要谨慎，却不能代替真正的权限系统；界面可以隐藏按钮，却不能代替服务端拒绝越权。

AI 时代产品经理需要把责任分清。不是所有问题都归模型团队，也不是所有安全都靠多弹审批。你的产品方案应明确每个关键决定由模型、外围运行系统、工具、界面还是用户承担，并为它准备可观察的证据。