算法公平问题及其价值敏感设计的解法 被引量：3

1

作者 严顺 《伦理学研究》 CSSCI 北大核心 2024年第2期101-109,共9页

算法歧视现象给个体生活带来极大困扰,算法的技术设计和法律防治是当前避免算法歧视的有效方法。但此类方法总在追求算法和公平之间的形式关系,试图用形式公平掩盖实质不公平,其根本原因是目前的算法设计对隐性价值不敏感,采用社会中既... 算法歧视现象给个体生活带来极大困扰,算法的技术设计和法律防治是当前避免算法歧视的有效方法。但此类方法总在追求算法和公平之间的形式关系,试图用形式公平掩盖实质不公平,其根本原因是目前的算法设计对隐性价值不敏感,采用社会中既定的价值观作为设计前提,忽略公平、现实与个体的动态因果关系。这对实现算法公平提出了一种超越性要求,即要求算法研究者在算法设计过程中持续性追问公平的伦理价值。价值敏感设计通过不同方式识别和嵌入价值,是实现算法公平的可行路径。该方法通过概念调查、经验调查和技术调查研究算法设计过程中的价值基础,揭示出影响公平的隐性价值,进而引导公平算法的设计路径,避免出现算法歧视现象。 展开更多

关键词 算法公平 价值敏感设计 隐性价值 算法歧视

在线阅读 下载PDF 职称材料

技术设计的创新方法与伦理考量——弗里德曼的价值敏感设计方法论述评 被引量：15

2

作者 刘瑞琳 陈凡 《东北大学学报（社会科学版）》 CSSCI 北大核心 2014年第3期232-237,共6页

价值敏感设计是一种关于技术设计的创新理论方法,它从价值与技术设计相互作用的角度辩证地看待技术设计和社会环境,采用概念、经验和技术调查的三重研究方法,强调技术设计过程中道德价值的输入,致力于在技术设计阶段有效解决技术中的伦... 价值敏感设计是一种关于技术设计的创新理论方法,它从价值与技术设计相互作用的角度辩证地看待技术设计和社会环境,采用概念、经验和技术调查的三重研究方法,强调技术设计过程中道德价值的输入,致力于在技术设计阶段有效解决技术中的伦理问题。价值敏感设计提倡设计师充分考量技术用户及其他利益相关者的道德感受和价值诉求,具有很强的现实意义和一定的先进性,但仍可能面临某些质疑。价值敏感设计的实践应用会受到技术中诸多复杂因素的影响,仍需要不断地完善和发展。 展开更多

关键词 技术设计 价值敏感设计 技术伦理 芭提雅·弗里德曼

在线阅读 下载PDF 职称材料

符合伦理的人工智能应用的价值敏感设计:现状与展望 被引量：17

3

作者 古天龙 马露 +1 位作者 李龙 闫茹 《智能系统学报》 CSCD 北大核心 2022年第1期2-15,共14页

价值敏感设计是一种将伦理嵌入人工智能设计的高效方法,尤其是其独特的三方方法为人工智能应用提供了规避伦理问题和道德风险的手段,因此有着广阔的应用前景。本文系统地介绍了价值敏感设计的内涵、原理和方法;详细描述了价值敏感设计... 价值敏感设计是一种将伦理嵌入人工智能设计的高效方法,尤其是其独特的三方方法为人工智能应用提供了规避伦理问题和道德风险的手段,因此有着广阔的应用前景。本文系统地介绍了价值敏感设计的内涵、原理和方法;详细描述了价值敏感设计在国内外的研究现状,并对典型研究内容进行了对比分析;总结了近年来价值敏感设计在智能机器人、智能运载工具等人工智能领域取得的研究成果,并探讨了已有研究的优缺点;最后对后续研究中亟待解决的问题和挑战进行了分析和讨论,并对未来研究方向进行了展望。 展开更多

关键词 人工智能 人工智能应用 符合伦理设计 价值敏感设计 人类价值 设计方法 利益相关者 三方方法

在线阅读 下载PDF 职称材料

植入性心脏转复除颤器安全设计的伦理审视——价值敏感设计方法论应用研究 被引量：1

4

作者 刘瑞琳 王健 《医学与哲学（A）》 北大核心 2013年第8期51-53,86,共4页

植入性医疗设备安全技术有了长足发展,但仍存在技术设计与患者价值需求相矛盾,技术上可行的设备往往不为患者所接受等问题。植入性医疗设备的安全设计既应具备理想的技术性能,也应充分考虑患者的价值诉求。价值敏感设计是一种关于技术... 植入性医疗设备安全技术有了长足发展,但仍存在技术设计与患者价值需求相矛盾,技术上可行的设备往往不为患者所接受等问题。植入性医疗设备的安全设计既应具备理想的技术性能,也应充分考虑患者的价值诉求。价值敏感设计是一种关于技术设计的理论方法,对患者的价值观和伦理道德心理诉求予以关注,为以植入型心脏转复除颤器为代表的植入性医疗设备的安全性设计提供方法指导和建议,对我国植入性心脏转复除颤器的设计和应用具有重要的借鉴意义。 展开更多

关键词 价值敏感设计 植入性心脏转复除颤器 安全设计 医疗技术伦理

在线阅读 下载PDF 职称材料

人工智能教育应用的价值敏感设计 被引量：7

5

作者 沈苑 汪琼 《电化教育研究》 CSSCI 北大核心 2023年第7期44-50,74,共8页

人工智能教育应用的伦理风险可能成为阻滞其发展的重要影响因素。文章从伦理价值角度出发,分析了人工智能应用于教育中会出现的典型伦理困境以及教育环境中处理伦理问题的特殊性,建议采用价值敏感设计作为突破上述困境的方案。在面临准... 人工智能教育应用的伦理风险可能成为阻滞其发展的重要影响因素。文章从伦理价值角度出发,分析了人工智能应用于教育中会出现的典型伦理困境以及教育环境中处理伦理问题的特殊性,建议采用价值敏感设计作为突破上述困境的方案。在面临准确与透明、隐私与效用、自主与效率、个性与交流等价值冲突造成的伦理困境时,传统的伦理解决方案会在教育环境下面临多重挑战,价值敏感设计作为一种将伦理考量嵌入技术设计的高效方法,坚持人与技术动态交互,要求技术设计彰显利益相关者的价值,采用三方方法论在技术设计前期规避潜在的伦理风险,能够有效推动可信赖的人工智能在教育中的发展。在对人工智能教育应用开展价值敏感设计的过程中,研究者需持中立、开放、敏感的态度,在保持对价值敏感的前提下灵活地选择研究方案,将价值敏感设计扩展到人工智能的全生命周期。 展开更多

关键词 价值敏感设计 人工智能 教育应用 伦理困境 价值冲突

在线阅读 下载PDF 职称材料

护理机器人辅助居家养老的伦理困境研究——基于价值敏感设计理论 被引量：2

6

作者 陈嘉华 丁晓军 喻丰 《中国医学伦理学》 2023年第12期1350-1357,共8页

在人口老龄化问题日益突出的今天,愈加智能化、集成化和拟人化的护理机器人正成为未来居家养老的重要可选项。然而,当长期提供服务的护理机器人作为社会实体参与老年人的社会生活时可能会产生一系列伦理困境。例如人机间低层次互动交流... 在人口老龄化问题日益突出的今天,愈加智能化、集成化和拟人化的护理机器人正成为未来居家养老的重要可选项。然而,当长期提供服务的护理机器人作为社会实体参与老年人的社会生活时可能会产生一系列伦理困境。例如人机间低层次互动交流对人际高层次互动交流的侵占,以及由于道德主体不明所造成的责任界定纠纷。价值敏感设计理论主张将价值纳入技术设计,而基于其概念研究、实证研究和技术研究的三元综合、迭代法可以发现:上述相关伦理困境产生之根本原因在于对人类护理者—老年人—护理机器人的三元护理关系之混淆错位。据此提出应明确老年人和人类护理者的使用者地位,而护理机器人则是作为辅助工具满足老年人的护理需求,保护并增进老年人的福祉。 展开更多

关键词 护理机器人 居家养老 护理实践 价值敏感设计 道德责任

在线阅读 下载PDF 职称材料

价值敏感设计与大数据伦理 被引量：15

7

作者 张贵红 《伦理学研究》 CSSCI 北大核心 2019年第2期114-119,共6页

当前的应用伦理学正在从理论走向实践,信息技术、医学伦理和计算伦理的兴起和发展,使得应用伦理学尤其是信息伦理学正逐渐发生设计转向。这种转向的主要体现就是价值敏感设计理论的兴起,这种观点主要来自伦理学层面的"理论-应用-设... 当前的应用伦理学正在从理论走向实践,信息技术、医学伦理和计算伦理的兴起和发展,使得应用伦理学尤其是信息伦理学正逐渐发生设计转向。这种转向的主要体现就是价值敏感设计理论的兴起,这种观点主要来自伦理学层面的"理论-应用-设计"和信息技术层面的"技术-社会心理背景-道德价值"的理论变化。价值敏感设计建立在概念、经验和技术三个层面相结合的集成方法基础上,同样的分析在大数据领域内同样具有可行性。大数据技术也可以从这三个层面来分析:概念分析层面的数据伦理概念分析、技术分析层面的算法伦理分析,以及经验分析层面的实践分析。价值敏感设计理论的发展能够推动大数据伦理的进步,并且能够为大数据技术提供一定的伦理基础。 展开更多

关键词 价值敏感设计 信息伦理学 价值 大数据伦理

在线阅读 下载PDF 职称材料

嵌入算法价值观:新闻生产算法系统的价值敏感设计研究 被引量：5

8

作者 张超 《南京师大学报（社会科学版）》 CSSCI 北大核心 2023年第2期135-146,共12页

“算法转向”让新闻业面临一个现实问题,即如何将新闻价值观嵌入算法,让算法系统的价值观与媒体的价值观匹配。本文从技术哲学的“经验转向”和批判算法研究出发,探讨算法何以有价值观,并将价值敏感设计与“情境分析-价值观识别-技术转... “算法转向”让新闻业面临一个现实问题,即如何将新闻价值观嵌入算法,让算法系统的价值观与媒体的价值观匹配。本文从技术哲学的“经验转向”和批判算法研究出发,探讨算法何以有价值观,并将价值敏感设计与“情境分析-价值观识别-技术转译-原型设计”的算法设计流程结合,提出将新闻价值观嵌入算法的具体机制,并对价值敏感设计进行省思,指出价值敏感设计嵌入的是有限度的价值观,价值敏感设计成功的关键在于利益相关者的协同参与,并提出透明性、可解释、可审计的价值敏感设计伦理原则。 展开更多

关键词 经验转向 批判算法研究 价值敏感设计 算法审计

在线阅读 下载PDF 职称材料

价值敏感设计:内容推荐算法进阶之路 被引量：2

9

作者 周云倩 张记刚 《中国出版》 CSSCI 北大核心 2022年第10期40-45,共6页

随着“算法权力”应用场景和权力边界的不断扩大,内容推荐算法也经历“赋魅”“祛魅”到规制的历程,防止其技术异化和规避价值困境成为现实课题。把价值敏感设计理念引入内容推荐算法,有效识别并破除其主流价值观偏移、用户隐私侵犯、... 随着“算法权力”应用场景和权力边界的不断扩大,内容推荐算法也经历“赋魅”“祛魅”到规制的历程,防止其技术异化和规避价值困境成为现实课题。把价值敏感设计理念引入内容推荐算法,有效识别并破除其主流价值观偏移、用户隐私侵犯、算法歧视与偏见等价值困境,确立其有用性、便捷性、无害性等价值理性,力求重塑“人与人造物”的正当关系和应有价值,从而实现内容推荐算法工具理性与价值理性的辩证统一。 展开更多

关键词 内容推荐算法 价值敏感设计 算法价值 三立三破

在线阅读 下载PDF 职称材料

个人数据保护中“通过设计保护隐私”的基本原理与制度建构 被引量：17

10

作者 张涛 《华东理工大学学报（社会科学版）》 CSSCI 北大核心 2020年第6期129-144,共16页

大数据时代,人工智能、物联网、云计算等新技术的快速发展与广泛运用,向个人信息隐私保护提出了新的挑战。以“公平信息实践原则”为基础的“隐私自我控制”模式难以继续奏效,法律框架亟待重塑。“通过设计保护隐私”是“价值敏感设计... 大数据时代,人工智能、物联网、云计算等新技术的快速发展与广泛运用,向个人信息隐私保护提出了新的挑战。以“公平信息实践原则”为基础的“隐私自我控制”模式难以继续奏效,法律框架亟待重塑。“通过设计保护隐私”是“价值敏感设计”的理论延伸和具体化,它强调将隐私保护措施贯穿于技术的整个生命周期:从早期设计到部署、使用和最终处理。“通过设计保护隐私”包括七项基本原则,是新一代个人数据保护的重要原则,可以有效应对公平信息实践原则的不足,已经在多个国家和地区实现了法制化。为了更好地保护个人信息隐私,规范数据产业健康发展,提升信息社会中的信任度,我国有必要对“通过设计保护隐私”进行本土构造,建构“通过设计保护隐私”的法律框架,完善“通过设计保护隐私”的实践指南,健全“通过设计保护隐私”的监管机制。 展开更多

关键词 通过设计保护隐私 个人数据 价值敏感设计 信息隐私

在线阅读 下载PDF 职称材料

人工智能“合乎伦理设计”的实现路径探析 被引量：18

11

作者 闫坤如 《大连理工大学学报（社会科学版）》 CSSCI 北大核心 2019年第6期123-128,共6页

人工智能设计是为了满足设计主体的目的而设计出智能机器。人工智能设计体现设计者的意愿,关注设计的目的、行为以及人工物的功能。与其他技术人工物不同,智能机器具有智能属性及自身推理能力。为了更好地设计人工智能客体,充分发挥人... 人工智能设计是为了满足设计主体的目的而设计出智能机器。人工智能设计体现设计者的意愿,关注设计的目的、行为以及人工物的功能。与其他技术人工物不同,智能机器具有智能属性及自身推理能力。为了更好地设计人工智能客体,充分发挥人工智能的功能,伦理学家与技术哲学家不能袖手旁观,人工智能设计应该遵循“合乎伦理设计”。人工智能设计主体必须在设计之初把人类道德与规范嵌入到智能机器算法中,从而使得人工智能系统的决策、行为具有可靠性与安全性。通过法律、法规的“他律”与伦理道德的“自律”甚至智能设计机器的“物律”相结合来规范人工智能的发展。 展开更多

关键词 人工智能 设计 合乎伦理设计 价值敏感性设计

在线阅读 下载PDF 职称材料

正义论视角下的机器人伦理探析 被引量：1

12

作者 闫坤如 马少卿 《理论学刊》 CSSCI 北大核心 2019年第3期98-105,共8页

正义是一个社会健康发展的重要基石,是人类社会发展的价值追求,通过对机器人伦理发展历程的思考、正义含义的嬗变以及实现正义的途径的分析,可以得出对机器人伦理的规范。机器人改变了传统的人与技术的关系,因此,在机器人的设计、使用... 正义是一个社会健康发展的重要基石,是人类社会发展的价值追求,通过对机器人伦理发展历程的思考、正义含义的嬗变以及实现正义的途径的分析,可以得出对机器人伦理的规范。机器人改变了传统的人与技术的关系,因此,在机器人的设计、使用和管理等整个过程都要秉承正义原则,把正义融入到机器人的设计、运行和管理等各个阶段,在机器人的设计和应用过程中关注程序正义和结果正义,通过机器人的发展推动社会公平,推动整个社会良性有序运行,规范和约束机器人发展,让机器人更好地为人类服务。 展开更多

关键词 正义 机器人伦理 道德物化 价值敏感性设计

在线阅读 下载PDF 职称材料