张学博 阮梅花 生命健康科技智库 

2019年4月欧盟委员会人工智能高级专家组发布“可信赖AI伦理指南（Ethics guidelines for trustworthy AI）”，提出实现可信赖AI的四项伦理原则和七项关键要求。2019年9月24日，主导该指南制定和发布的欧盟委员会通信、网络、内容和技术总署署长（Directorate General of Communication, Networks, Content and Technology，DG CONNECT）Roberto Viola接受了欧洲创新与技术研究院健康知识与创新共同体（EIT-Health）的专访，就人工智能（AI）在健康、医疗领域的应用及涉及到的伦理问题谈了自己的看法。本文介绍Roberto Viola的主要观点。

1

AI应用于健康领域，将如何改善患者和公众生活质量？

Roberto认为AI将彻底改变医疗保健，并将为患者和公众带来巨大的利益。AI不仅可以帮助改善疾病的预防、诊断和治疗，也可以使公众能够更好地管理自己的健康。例如，AI系统在检测乳腺癌和皮肤癌、糖尿病视网膜病变和心血管疾病方面已经达到了非常准确的水平。应用于基因组学时，AI将使人们能够从适用普通、全人群的医疗方式转向个性化医疗，从而帮助人们在正确的时间获得准确剂量的药物，甚至可以帮助研究人员找到期待已久的治疗癌症和罕见疾病的方法。AI还可以加快药物开发和测试的过程，可以预测患者对某种药物的反应，从而预防并避免严重的不良反应。AI与其他数字工具一起能帮助人们更好地监控和管理病情，适应患者的生活方式并与医护人员进行更有效的沟通与互动。例如，人工智能助手、智能助行器和辅助机器人可以在支持老年人的身体、情感、社交和心理健康方面发挥重要作用。

欧盟委员会在AI技术与医疗保健领域进行大量投资。例如，欧盟委员会资助了一些行动计划和项目旨在建设相互关联的健康数据集，包括基因组存储库和医学图像数据库，通过AI技术来改善医学诊断、疾病预测、治疗和随访。

2

公众对欧盟委员会的“可信赖AI伦理指南”的反应

2019年4月，欧盟委员会由52名专家组成人工智能高级专家组发布了“可信赖人工智能伦理指南（Ethics guidelines for trustworthy AI）”，提出企业和政府机构未来在开发AI时应遵循7项关键要求，具体包括：①人类代理和监督；②技术稳健性和安全性；③隐私和数据管理；④透明度；⑤多样性、无歧视、公平；⑥环境和社会福祉；⑦问责制。该伦理指南初稿于2018年12月公布以征求意见时，专家组就收到了500多条意见。该指南引起了欧洲以及世界其他地区各种不同类型组织的广泛关注。2019年6月，该专家组启动了大规模试点阶段，以测试可信赖AI的评估列表，截止到2019年10月已有500多个组织登记参加该试验。

3

如何让欧洲引领AI与健康领域的发展，伦理指南及法规将发挥什么作用？

Roberto认为“可信赖AI伦理指南”是独一无二的，涵盖从伦理原则到实施的各个方面。该指南是基于欧洲科学与新技术伦理小组（ European Group on Ethics in Science and New Technologies，EGE）的前期工作——EGE根据《欧盟条约与宪章》规定的基本价值提出了九项基本伦理原则。在此背景下，AI高级专家组制定了四项伦理原则和七项关键要求以实现可信赖的AI战略，该战略的重点是促进人工智能的发展和被采用，同时解决社会经济和伦理方面的问题。该指南的目的之一是增强社会公众对AI技术的信任。

欧盟如果要在AI与健康领域成为领导者，需要在这两个领域进一步投资，例如，寻找最适合的投资领域，支持从以医院为中心的医疗系统转变成以社区为中心的医疗服务、综合护理结构。在欧盟层面，“地平线欧洲（Horizon Europe）”研究计划资助该领域的研究，“地平线欧洲”计划以“地平线2020（Horizon 2020）”计划的工作为基础，聚焦发展和利用AI技术在健康和医疗等关键领域的潜力。新的“数字欧洲”计划也会进一步投资，该计划旨在支持欧洲社会的数字化转型，而医疗保健领域是其中重要组成部分。“数字欧洲”计划将有助于建设关键数字技术（如AI和网络安全）的能力。例如，它将支持建立AI的世界参考测试设施，并支持医疗保健领域的临床人员和管理人员发展数字技能。

4

欧盟AI立法应考虑的因素

即将上任的欧共体主席乌尔苏拉·冯·德·莱恩提出将在其任职的头100天开展AI立法。Roberto认为立法之前，需要建立公众对AI技术的信任。如果缺乏信任，公众将不愿使用AI产品，但是随着时间的推移，符合伦理指南的AI会给欧洲带来真正的竞争优势。AI高级专家组发布的伦理指南中规定的关键要求可以为未来的决策提供依据。当然，在考虑立法时，应当评估它可能给企业、尤其是中小企业造成的负担。欧共体希望在创新与保护之间找到恰当的平衡，未来立法应致力于将人工智能的潜在负面影响降至最低。

5

如何在充分利用AI机会与隐私保护之间取得平衡？

英国最近的一项研究显示，公众可能在健康医疗中对使用AI产生抵触。如何在充分利用AI机会与关注隐私保护之间保持平衡，Roberto认为与任何强大的技术一样，人工智能会引发一些隐私、安全性和公平性等方面的问题，例如，如果向AI算法输入不全面、不完整或有偏倚的数据会获得不可靠、不安全或有偏倚的结论，对公众和患者造成严重后果。需要确保公众的需求处于医疗保健创新的中心，并使公众可以控制自己的健康数据。公众需要相信自己的个人数据受到保护、隐私得到保证，只有确保数字化解决方案的安全性和公平性，才能期望患者和医疗保健专业人员信任并使用它们。欧盟制定的“通用数据保护条例（GDPR）”在这方面将发挥很大的作用，例如在同意使用数据方面引入严格的条件，或者阐明公众获取个人健康数据的权利。尊重隐私和适当的数据管理是《可信AI伦理指南》中确定的七个关键要求之一。

版权归生命健康科技智库所有，欢迎个人转发分享。其它任何媒体、网站如需转载或引用本网版权所有之内容须在醒目位置处注明“转自生命健康科技智库”。