AI practicer
在大流行时期讨论负责任的人工智能
作者：Virginia Dignum
翻译：Deyon
本文获原作者授权翻译转载，原文于2020 年 3 月 20 日发布于领英：https://www.linkedin.com/pulse/responsible-ai-times-pandemic-virginia-dignum/?mccid=fd6206d6e3&mceid=f98ae86ea7 ）
译者按：作者是瑞典于默奥大学的教授，研究方向是伦理与社会人工智能。大数据与人工智能在这场疫情中积极发挥了作用，无论是苹果与谷歌罕见的携手合作开发接触追踪 API，还是全国各地“健康码”的普及，在疫情的压力之下，我们是否应该积极拥抱人工智能的“黑箱”，或是在实用与原则的冲突中选择后者， Virginia 教授分享了她关于人工智能应用冷静的思考。
近日我收到了一些提问：能否用人工智能分析当前疫情、预估正在出台的不同政策可能带来的影响，比如全国或地方性的关停、隔离还有社交隔离等，人工智能可能还会有哪些作用？而其中最重要的问题是，如何负责任地使用人工智能。
首先，我想强调的是，人工智能确实可以帮助我们了解目前的疫情。因此对于人工智能的研究者和专业人士来说，目前最要紧做的就是利用他们的专业知识来分析和了解 COVID-19 的传播、防疫政策可能带来的影响、疫情对社会经济的长期影响等诸如此类的问题。但是，为了负责任地去做这件事，我们必须谨记人工智能能做什么、不能做什么。正如我经常强调的那样，人工智能不是魔术，也不能解决我们的所有问题。负责任地开发和使用人工智能的主要要求包括稳健性、透明度和尊重人权。
首先，系统需要稳健性。我们需要仔细研究所使用的技术和方法。特别是使用数据驱动的方法来预测 COVID-19 的传播，是有潜在问题的。这些方法通过发现过去的数据的相关性来 "学习"，而目前我们没有足够多的类似情况的数据 [1]。来自过去的结果并不能保证未来的结果，尤其是当未来看起来与我们过去所知道的任何事情都大相径庭的时候。此外，现有的少量数据是不完整的，也是有偏差的。例如，可以肯定的是，已经确诊的感染者肯定还有很多，而那些已经康复的感染者还没有完整的统计。使用现有的数据进行机器学习可能会导致许多假阳性和假阴性。就目前而言，模型驱动的方法比数据驱动的方法可能更适合。事实上，目前确实有几个小组正在研究（ Agent-based（译者注：基于代理））的模拟方法。然而，模型的选择需要建立在流行病学、社会学和心理学的共同研究基础上，此外再加上合适的计算表征。这类模型往往对假设和初始参数敏感。在用这些模型指导政策制定之前，需要进行敏感性分析。从研究的角度来看，结合数据驱动和模型驱动的混合方法是目前尤为重要的工作。
无论是数据驱动还是模型驱动，透明性都是最重要的。使用了哪些模型和数据集，为什么使用了那些模型和数据集，咨询了哪些专家，系统是如何测试和评估的... 如果没有这些问题的明确答案，其结果是无法信任的。在当前这个时期，世界比以往任何时候都更不能根据 "黑箱 "做出决策。如果你的模型不能对其结果做出解释，在考虑使用它来提供任何关于这场大流行病的分析或预测之前，请三思而后行。与此同时，我强烈建议利用人工智能来识别假新闻并努力限制其传播。
作为控制疫情的手段，此刻很多 App 都在开发中，用于收集个体的情报和行踪。尽管我们认为这些数据对于政府的决策是必不可少的，对于人工智能的发展也有很大的价值，但我们不能忘记对人权、伦理原则和现有法律的基本尊重。抗击疫情，并不意味着可以忘记人权。隐私权和尊重人的尊严的权利依然存在。收集个人信息的应用程序需要依然要像以前一样尊重这些权利。确保适当的数据管理和安全存储也许更重要，因为在许多国家，人们已经失去了一些自由。这并不意味着这些应用程序不能被开发和使用，而是需要按照科学研究相应的道德标准来进行。在当前这样的危机时刻，维持公民的信任必须处于优先级。这包括对个人数据处理的要求的尊重。然而，鉴于情况的严重性，我希望看到研究伦理委员会优先处理和加快处理旨在支持控制疫情的项目申请。
最后，我们需要确保公正和包容。正在开发的项目不光应向所有人开放，也要考虑受影响国家的社会和文化差异。现在是开放源代码和访问的时候了。我们共同参与其中，确保所有人都能使用并受益于人工智能。
未经许可，禁止转载
This article has been translated with permission from the author, Virginia Dignum, and was originally published in LinkedIn on March 20, 2020.
喜欢我的文章吗？
别忘了给点支持与赞赏，让我知道创作的路上有你陪伴。
发布评论…