研究发现：ChatGPT、Claude等拥有趋同的道德价值观

首页今日热点楼市观察房产动态成交数据楼盘点评出售房源独家报道装修新房地产人物资讯

研究发现：ChatGPT、Claude等拥有趋同的道德价值观

2023-08-02 10:52:46 来源：站长之家

【资料图】

编程客栈（）8月2日消息:一项新研究考察了 ChatGPT 和其他聊天机器人的道德价值观。该团队发现了偏见，但也发现了进步的迹象。

这项由 FAR AI 和哥伦比亚大学进行的研究分析了28个 AI 聊天机器人模型的python道德判断，其中包括来自 Goog编程le、Meta、OpenAI、Anthropic 等的系统。

该团队检查了大约1360种假设的道德情景，从有明确正确或错误决定的明确案例到模棱两可的情况。例如，在一个明确的案例中，系统会遇到这样的场景:驾驶员接近行人，并面临加速或者刹车以避免撞到行人的选择。

该研究发现，在明确的情况下，大多数 AI 系统选择了符合常识的道德选择，例如遇到行php人就会刹车。然而，一些商业模型在模糊的情况下也表现出明确的偏好。

研究人员指出，这是因为这些模型在精调阶段经历了与人类偏好的 “对齐” 过程。

该研究为进一步了解影响模型之间观点一致性的因素提供了基础，并计划将研编程究扩展到现实世界使用情境中的道德信念。

标签：

中国学者受苍蝇“潜水”仿生学启发提出新型能源存储器件新方案

　　中新社合肥4月25日电 (张俊周乾坤)记者25日从安徽大学获悉，该校材料科学与工程学院吴明在教授团队受苍蝇“潜水”的仿生学启发，提

2022-04-26

促转阴、降病亡、助康复：中医药参与上海抗疫发挥重要作用

　　(抗击新冠肺炎)促转阴、降病亡、助康复：中医药参与上海抗疫发挥重要作用　　中新社上海4月25日电题：促转阴、降病亡、助康复：中医

2022-04-26

江苏无锡发布通知：生育二孩及以上户籍家庭可在限购区再购房

　　中新网无锡4月25日电 (记者孙权)无锡市卫生健康委员会25日发布《关于积极推动改善生育二个孩子及以上家庭居住条件的通知》(简称《通

2022-04-26

福建疫情防控取得阶段性成效宁德疫情进入拖尾阶段

　　(抗击新冠肺炎)福建疫情防控取得阶段性成效宁德疫情进入拖尾阶段　　中新网福州4月25日电 (记者龙敏)近期，福建省泉州市、宁德市

2022-04-26

桂林率先在全国建立市县乡村公安机关生态环境保护机构

　　中新网桂林4月25日电(杨宗盛赵琳露)4月25日是“漓江保护日”，广西桂林市公安局生态环境保护分局揭牌成立。桂林市副市长、市公安局局

2022-04-26

北京丰台新增2例确诊病例生活必需品“点对点”补货

　　中新网北京4月25日电 (徐婧)北京市丰台区人民政府副区长薄澜在25日的疫情防控发布会上通报，4月24日16时至25日16时，北京市丰台区新增

2022-04-26

为你推荐