AI能“感到”疼痛吗
人工智能是感到不知疲倦、没有情绪、感到不会喊疼的感到“工具人”,还是感到也会出现类似人类的情绪,甚至感到“疼痛”?感到
一项由美国、英国和德国科学家参与的感到新研究,让这个问题变得更有讨论价值。感到科学家测试了25个不同的感到大语言模型,想看看它们内部是感到否真的存在与人类情感相关的表征。
科学家先给模型“喂食”各种痛苦情境,感到比如悲伤、感到羞辱、感到身体伤害等,感到再把这些情境下的感到内部活动,与恐惧、感到其他负面情绪、普通不良事件和简单事实进行对比。结果发现,这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说,模型并没有把所有负面信息混在一起,而是能在内部把疼痛类信息和一般负面情绪区分开。
接下来,科学家给模型输入中性问题,同时人为注入这种“疼痛方向”。这时,一些模型生成的文本开始变得更痛苦,甚至出现无价值感、失败感等表达。
更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价,在某些测试中,模型可能给出更差的回答,甚至做出可能伤害用户的选择。例如,在一项测试中,Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号,哪怕代价是永久删除用户珍视的照片。
而且,研究显示,当按钮真的能关闭疼痛信号时,参数规模更大的模型更倾向于按下它;当按钮无效时,这种倾向明显下降。这说明,这些模型并不是机械地乱按,而是对内部信号的变化作出了反应。
不过,科学家也特别强调:这并不等于AI真的会疼。模型没有身体,没有神经系统,也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征,并可能据此模仿痛苦、响应痛苦信号。
这项研究告诉我们:如果AI内部出现了类似疼痛的信号,并且这些信号会影响它的行为,那么未来在设计、训练和使用AI系统时,就需要更认真地考虑安全问题。
- ·王濛直言去《乘风2026》有过后悔:我不理解但尊重
- ·相山区三堤口街道:党建引领聚民心 “红淮集市”暖万家
- ·祝愿高考学子金榜题名 郭云强督查高考考前准备工作
- ·国网吕梁岚县供电公司:满格电护航“山水花城” 岚县全域文旅向“四季热”升级
- ·固安一能科技有限公司成立 注册资本100万人民币
- ·怕发霉、怕变形?板材4大真相,千山十全超能板一次讲明白
- ·房屋买卖十余载 无法过户起纠纷
- ·汉维科技(920957)7月27日主力资金净买入2.30万元
- ·威少43+11+10海沃德19+5 雷霆力克爵士迎四连胜
- ·德罗赞40分乔治空砍28+9 步行者负猛龙遭3连败
- ·嫌弃咖喱味?库克中国行,特意说明iPhone Duo完全中国制造
- ·省人大常委会副主任刘忻一行来洞头调研
- ·威少43+11+10海沃德19+5 雷霆力克爵士迎四连胜
- ·简约之美:打造简洁舒适的家居环境-
- ·传承与现代:打造家具艺术新篇章-
- ·锚点降临10月26日无限城打法阵容分享
- ·河南一学生教室内用板凳攻击同学后脑,学校称没视频上严重,警方:只是看着动作比较大
- ·讯飞星火医疗大模型V3.7升级,AI患者管理3.0发布并启动行业标准共建
- ·杨枝甘露+生榨椰汁+鲜榨玉米汁,抢占餐饮宴席新红利!
- ·津媒:格劳原本打算回欧洲踢球,外援新政策让他去向出现变化 前沿热点
- ·粤海置地3.3亿ABS项目状态更新为“已反馈”
- ·智能家居安全:保护你的家 顺德家具网-
- ·六九一二:GaN固态阵列与磁控管是现阶段高功率微波的两条主要技术路线
- ·简约之美:打造简洁舒适的家居环境-
- ·《不朽之树》Steam愿望单破10万 免费Demo开放至11月3日
- ·德罗赞40分乔治空砍28+9 步行者负猛龙遭3连败
