鏁板鍏紡澶勭悊浜哄伐鏅鸿兘涓鏉傜殑閬撳痉鍐崇瓥闂(数学公式处理人工智能中复杂的道德决策)

中国论文网 发表于2022-10-11 21:46:26 归属于学习心得体会 本文已影响571 我要投稿 手机版

       一个跨学科的研究人员团队开发了一个蓝图,用于创建更有效地将道德准则纳入人工智能(AI)决策程序的算法。该项目专门关注人类与人工智能程序交互的技术,例如医疗保健环境中使用的虚拟助手或“护理机器人”。

“像护理机器人这样的技术应该有助于确保医院患者、老年人和其他需要健康监测或身体帮助的人的安全和舒适,”该论文的通讯作者、科学副教授VeljkoDubljević说,北卡罗来纳州立大学的技术与社会项目。“实际上,这意味着这些技术将被置于需要做出道德判断的情况下。”

“例如,假设护理机器人处于两个人需要医疗救助的环境中。一名患者失去知觉但需要紧急护理,而第二名患者的需求不那么紧急但要求护理机器人先治疗他。护理机器人决定首先帮助哪个患者?护理机器人是否应该治疗失去知觉并因此无法同意接受治疗的患者?

Dubljević说:“以前将道德决策纳入AI程序的努力范围有限,并侧重于功利主义推理,而忽略了人类道德决策的复杂性。”“我们的工作解决了这个问题,虽然我以护理机器人为例,但它适用于广泛的人机协作技术。”

功利主义决策侧重于结果和后果。但是,当人类做出道德判断时,他们还会考虑另外两个因素。

第一个因素是给定动作的意图和执行动作的代理的性格。换句话说,谁在执行一个给定的动作,他们想要完成什么?是善意的还是恶毒的?第二个因素是行动本身。例如,人们倾向于将某些行为(例如说谎)视为天生不好的行为。

所有这些因素都相互作用。例如,我们可能同意说谎是不好的,但如果护士向提出令人讨厌的要求的病人撒谎,以便优先治疗第二名更急需的病人,大多数人会认为这在道德上是可以接受的。

为了解决道德决策的复杂性,研究人员开发了一个数学公式和一系列相关的决策树,可以整合到人工智能程序中。这些工具利用了称为代理、行为和后果(ADC)模型的东西,该模型由Dubljević及其同事开发,以反映人们如何在现实世界中做出复杂的道德决策。

Dubljević说:“我们的目标是将ADC模型转化为一种可以融入AI编程的格式。”“我们不只是说这个伦理框架对人工智能很有效,我们用计算机科学环境中可以访问的语言来展示它。

“随着人工智能和机器人技术的兴起,社会需要伦理学家和工程师之间的这种合作努力。我们的未来取决于它。”

返回学习心得体会列表
展开剩余(