IT之家 6 月 12 日消息,长期以来,人们常常把大语言模型提供的看似合理但错漏百出的答案称作“AI 幻觉(AI hallucinations)”。然而,来自英国格拉斯哥大学的三名哲学研究人员近期提出了不同的看法 ——“AI 幻觉”这样的描述并不准确。
当地时间 6 月 8 日,《伦理与信息技术》杂志刊登了三名研究人员的论文。这篇论文指出,聊天机器人“胡编乱造”回答的行为不应被称为“幻觉”,用“胡说八道(bullshitting)”一词来描述才更准确。
研究人员指出,学习过心理学或使用过迷幻类药物的人都知道,“幻觉”通常被定义为看到、感知到不存在的东西。而在 AI 领域,“幻觉”显然是一种隐喻,大语言模型根本看不到、感知不到任何东西。AI 并非经历“幻觉”,而是在复制训练数据中的人类语言模式,并不关心事实的准确性。
机器并非试图传达它们相信或感知到的东西,它们的不准确性并不是因为误解或幻觉。正如我们所指出的,它们根本不是在试图传递信息,它们是在胡说八道。
研究人员认为,AI 模型没有信念、意图或理解力,它们的不准确性不是因为误解或幻觉,而是因为它们被设计用来创建看起来、听起来都正确的文本,没有任何“内在机制”来确保事实的准确性。
图源 Pixabay
IT之家曾多次报道过“AI 幻觉”有关现象。例如最近的“谷歌搜索推荐用户往披萨里加胶水”,以及马斯克的 Grok“误认为”自己是 OpenAI 的产品等等。
剑桥词典(Cambridge Dictionary)去年宣布,2023 年的年度词汇为“hallucinate”(产生幻觉),原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”,通常是指用户在不良健康或者服用药物状态下产生的幻觉。伴随着 AI 的崛起,hallucinate 延伸为 AI 产生幻觉,生成错误的信息。
标签:
VTB联赛
莫斯科中央陆军
0-0
未直播
09-21 19:00
喀山尤尼克斯
土篮甲
科勒基尔
0-0
未直播
09-21 19:00
加济安泰普
白俄超
努伯
0-0
未直播
09-21 19:00
卡拉斯莫吉廖夫
瑞典甲
法尔肯堡
0-0
未直播
09-21 19:00
卢恩斯基尔
瑞典甲
拖斯兰达
0-0
未直播
09-21 19:00
罗森加德
瑞典甲
斯德哥尔摩国际俱乐部
0-0
未直播
09-21 19:00
艾斯基斯杜拿
瑞典甲
维萨隆德
0-0
未直播
09-21 19:00
斯托克松德
瑞典女甲
埃斯基尔图纳女足
0-0
未直播
09-21 19:00
波斯坦纳斯女足
瑞典女甲
奥雷布罗斯女足
0-0
未直播
09-21 19:00
乌美亚女足
瑞典乙
IFK卢雷亚
0-0
未直播
09-21 19:00
奥斯特森德
瑞典乙
卡尔期克朗
0-0
未直播
09-21 19:00
贝尔加
瑞典乙
华纳斯堡斯
0-0
未直播
09-21 19:00
利德雪平
瑞典乙
BK前进
0-0
未直播
09-21 19:00
沙夫哈拉
瑞典乙
斯泰诺桑德
0-0
未直播
09-21 19:00
库姆拉
瑞典乙
安斯基德
0-0
未直播
09-21 19:00
西里安斯卡FC
沙特联 2024-03-03
德甲 2024-03-03
法甲 2024-03-03
意甲 2024-03-03
西甲 2024-03-03
中超 2024-03-03
中超 2024-03-03
中超 2024-03-03
NBA 2024-03-03
NBA 2024-03-03