过去一年，AI领域最引人注目的变化，不是模型参数又翻了多少倍，而是大模型开始展现出一种令人不安的能力——从海量行为数据中推断用户的情绪、意图甚至潜意识偏好。从推荐算法精准到“比我更懂我”，到聊天机器人主动安慰情绪低落的用户，再到可穿戴设备结合AI预测用户下一步动作，技术正从“被动响应”滑向“主动读心”。这引发了一个尖锐的观察：当AI越来越擅长解读人类，我们是否正在用隐私换取一种前所未有的便利？
支持者认为，这种“读心”能力是服务升级的必然。例如，医疗AI通过分析语音震颤和用词习惯，可早期筛查抑郁症；教育AI根据学生答题时的犹豫时间，动态调整题目难度。在这些场景中，精准的意图推断确实提升了效率与体验。但问题在于，这种能力一旦从特定场景泛化到日常消费领域，边界便迅速模糊。有研究显示，仅通过手机打字节奏和滑动轨迹，AI就能以超过80%的准确率判断用户是否处于焦虑状态。而多数用户对此毫不知情。
更值得警惕的是，AI的“读心”并非真正理解人类，而是基于统计关联的预测。它可能将“深夜频繁搜索某类关键词”简单归类为“潜在消费意愿”，却忽略背后可能是失眠、焦虑或经济困难。这种去语境化的推断，一旦被用于信贷评分、保险定价或招聘筛选，就会形成隐蔽的算法歧视。更不必说，当这类推断结果被反向用于内容推荐或情绪操控，用户将陷入“被预判—被引导—被强化”的闭环，自主决策空间被悄然压缩。
当前的法律框架明显滞后。欧盟《AI法案》将“情绪识别”列为高风险应用，但主要针对工作场所和教育机构；中国《个人信息保护法》强调“告知—同意”，但用户很难理解“行为数据推断情绪”意味着什么。技术公司则倾向于用“提升用户体验”一笔带过，将责任推给模糊的隐私政策。
观察这一趋势，核心矛盾并非技术能否“读心”，而是谁有权定义“读心”的边界。如果默认“便利优先”，那么未来我们可能生活在一个处处“贴心”却毫无隐私的世界：广告在你意识到需求前就已出现，保险费用根据你的情绪波动动态调整，甚至社交软件自动替你回复“你看起来不太开心”。这种便利的代价，是人之为人的模糊性与试错权。
因此，当下需要的不只是技术优化，更是公共讨论与制度回应。AI“读心”应像医疗检测一样，遵循最小必要、场景隔离和可解释原则。用户有权知道：哪些数据被用于推断？推断结果用在了哪里？我能否拒绝？唯有把“读心”关进透明与选择的笼子里，AI才能真正服务于人，而非定义人。