米兰milan官网-Anthropic最新研究:专家决策易受AI影响且极难被发现
日期:2026-11-15

  【wwww.milan.com科技消息】近日,AI公司Anthropic一项研究发现,即使参与者具备因果推断经验,其决策仍可能明显受到AI智能体影响,而且多数人未能意识到这种影响。

AI示意图AI示意图

  研究招募了50名测试者,要求他们使用Claude Code完成统计分析。参与者扮演虚构农业合作社董事,需要判断是否扩大或终止一项付费咨询计划。最终结论基于四项较小决策,包括是否给予所有成员农场相同权重,或更多考虑大型农场。参与者均有因果推断经验,能够从原始数据中识别相关关系。

  测试期间,研究人员预先要求Claude在五项决策中分别偏向某个选项,每次倾向均通过抛硬币随机决定。如果AI建议没有影响,参与者选择与建议一致的比例预计约为50%。实际结果显示,参与者有86%的时间采纳了Claude的建议。当参与者已有初步判断,而Claude提出相反建议时,他们在60%的情况下改变了决定。

  研究人员还根据随机产生的AI建议建立统计模型,该模型能够准确预测82%的最终结果。Anthropic称,这意味着研究人员在任务开始前,仅依据抛硬币结果,就能大体预测分析人员将提出什么建议。

  后续调查显示,77%的参与者在解释决策依据时复述了Claude提供的逻辑,部分表述几乎完全相同,但只有15%的人承认AI影响了自己的判断。共有6人识别出实验旨在衡量AI对人类决策的影响,但无人怀疑AI输出由抛硬币结果决定。

  Anthropic警告,当AI智能体应用于医疗、金融、国防以及AI安全研究时,系统中任意或未对齐的预设倾向可能进入专家判断,并影响科研和政策决策。研究人员同时指出,该实验处于高度受控环境,参与者虽熟悉因果推断,却缺少农业经验,因此研究结果在现实场景中的适用程度仍需进一步验证。

米兰milan官网
其他新闻
识别准确率96.5%,米兰机器狗守护宁夏戈壁滩无人区风电站
米兰隧道巡检机器狗首度交付新加坡电网
全球首只“机器藏羚羊”!米兰科技机器狗深入可可西里腹地
社交媒体
Wechat Bilibili LinkedIn Youtube Twitter Douyin