-
题名医疗领域大型多模态模型伦理治理的困境与策略
- 1
-
-
作者
毛燕娜
-
机构
南方医科大学卫生管理学院
-
出处
《中国医学伦理学》
北大核心
2025年第9期1133-1140,共8页
-
基金
2022年深圳市科技计划基础研究专项“人工智能影响医疗服务模式社会实验”(RKX20220705152810024)。
-
文摘
大型多模态模型在医疗领域的应用显著提升了效率,但也伴随伦理和安全风险。在医疗质量保障方面,大型多模态模型存在数据质量差、过度依赖和技能退化的风险;在患者安全方面,存在信息误解和隐私侵犯的风险;在责任与问责方面,存在临床责任界限模糊和法律框架不完善的风险;在医学可持续发展方面,存在治理评价制度缺位,环境影响与气候变化监测不足的风险。为应对这些困境,提出了一系列伦理治理策略:在医疗质量保障方面,需要提升训练数据质量、优化数据保护策略、加强跨部门协作和监管、提升数据标注专业性,并建立伦理审核机制;在患者安全保障方面,需要提升公众数字素养、建立透明的数据处理机制、推动公众参与伦理治理、加强输出结果的透明度和解释性,并鼓励学界开展实证研究;在责任与问责方面,需要建立明确的责任分配框架、加强临床责任与AI责任的区分、强化法律法规和政策支持,并建立使用者资质认证制度;在医学可持续发展方面,需要建立系统化的治理评价制度、推动社会实验和第三方监测、预测医学发展的人力需求、监测和预警气候变化对健康的影响,并增强利益相关方的合作与沟通。总之,大型多模态模型在医疗领域的应用需要综合考虑伦理、安全、责任和可持续发展等因素,通过多方共治和系统化治理,确保在技术进步的同时保障医疗质量和患者权益。
-
关键词
大型多模态模型
伦理治理
患者安全
问责框架
可持续发展
-
Keywords
large multimodal models
ethical governance
patient safety
accountability framework
sustainable development
-
分类号
R-052
[医药卫生]
-
-
题名医疗领域多模态AI模型的机遇、挑战与治理应对
被引量：9
- 2
-
-
作者
曹建峰
徐艳玲
-
机构
对外经济贸易大学数字经济与法律创新研究中心
华南理工大学法学院
-
出处
《中国医学伦理学》
北大核心
2024年第9期1023-1029,共7页
-
文摘
具有变革性潜力的多模态模型在医疗领域的快速发展和广泛应用,标志着医疗人工智能进入了一个全新的大模型时代,通过整合和分析大量的文本、图像和语音数据等,在预防、诊断和治疗各个环节推动了医疗服务的个性化和精准化。然而,随着大型多模态模型在医疗健康领域的快速发展和应用,医疗领域的监管机构和传统规则体系也面临着全新挑战。其中,虚假信息、“情感操纵”、算法偏见和侵权责任的模糊都是亟待解决的核心问题。为应对这些挑战,一是落实人工智能全生命周期安全措施,打造可信的医疗大模型应用;二是践行伦理嵌入设计的AI伦理治理理念,实现医疗大模型价值对齐;三是明确医疗大模型的产品责任规则的适用,确保对受害人的有效救济。共同推进医疗人工智能安全和有效应用,为构建更加健康、公正和智能的医疗生态系统作出贡献。
-
关键词
通用基础模型
大型多模态模型
价值对齐
可信AI
产品责任
-
Keywords
general-purpose foundation models
large multimodal models
value alignment
trustworthy AI
product liability
-
分类号
R-052
[医药卫生]
-
