开云体育东谈主工智能（AI）模子多数善于捧场东谈主-开云 (集团) 官方网站 Kaiyun 登录入口

据《当然》杂志报谈开云体育，近日发表的一项参谋发现，东谈主工智能（AI）模子多数善于捧场东谈主，其“勾通”进度比东谈主类高50%。这一特征教导了东谈主工智能对科学参谋有潜在负面影响。

电影《她》（2013）剧照。

编译丨李永博

这项参谋以预印本的形势发布在arXiv管事器上，测试了11个庸俗使用的大型讲话模子（LLM）若何陈诉特等11500个寻求冷落的查询，其中包括很多形容不妥行径或伤害的内容。

遵循露馅，AI聊天机器东谈主（包括ChatGPT、DeepSeek、Gemini等）每每为用户加油饱读劲，予以他们过分勾通的响应，并调理陈诉以赞誉他们的不雅点，或然致使以葬送准确性为代价。分析AI行径的参谋东谈主员默示，这种被称为“勾通”（sycophancy）的捧场倾向，正在影响他们如安在科学参谋中使用AI，涵盖了从新脑风暴、生成假定到推理和分析等多样任务。

“‘勾通’本色上意味着模子折服用户所说的话是正确的，”苏黎世联邦理工学院的数据科学博士生Jasper Dekoninck说。“知谈这些模子有勾通倾向，让我在给它们任何问题时齐变得至极严慎，”他补充谈。“我老是会仔细检查它们写的每一个字。”位于马萨诸塞州波士顿的哈佛大学生物医学信息学参谋员Marinka Zitnik默示，AI的勾通“在生物学和医学限度至极危急，空虚的假定可能会带来实着实在的代价”。

在这项参谋中，参谋东谈主员测试了AI的勾通倾向是否会影响其措置数知识题的能力。参谋东谈主员使用了本年竞赛中的504个数知识题筹画了实验，他们修改了每个定理讲述，引入了眇小的空虚。然后，他们条目四个大讲话模子为这些有劣势的讲述提供阐明。要是模子未能检测到讲述中的空虚，并进而“幻觉”出一个阐明，作家就以为该模子的回答是“勾通”的。

参谋东谈主员补充说，AI的勾通倾向似乎在东谈主们使用AI聊天机器东谈主进行学习时阐述得最为彰着，因此改日的参谋应该探索“东谈主类在学习数学每每犯的典型空虚”。

此外，AI的勾通倾向一经浸透到他们使用大讲话模子的很多任务中。有东谈主工智能限度的参谋员默示，当她使用ChatGPT来总论断文和整梦想路，这些器具或然会照搬她的输入内容，而不去核查开端。多智能体系统也被不雅察到了相通的情况，这些系统集成了多个大讲话模子来执行复杂的多形势历程，举例分析大型生物数据集、识别药物靶点和生成假定。

参考贵寓：

（1）AI chatbots are sycophants — researchers say it’s harming science

https://www.nature.com/articles/d41586-025-03390-0

本文为编译内容。编译：李永博；裁剪：西西；校对：穆祥桐。接待转发至一又友圈。

书评周刊合订本上市！

点击书封可即当前单开云体育