其中一种解决方案是开放人工智能,并评估当前使用的所有训练数据。作为一个小项目,IBM的印度研究实验室分析了1969年至2017年间入围曼布克文学奖的作品。它揭示了“书中普遍存在的性别偏见和刻板印象,这些偏见和刻板印象体现在不同的特征上,如职业、介绍和与书中人物相关的行为。”男性角色更有可能有更高层次的工作,如导演、教授和医生,而女性角色则更有可能被描述为“老师”或“妓女”。
如果使用自然语言处理、图形算法和其他基本的机器学习技术能够发现文学奖项中的偏见,那么这些技术也可以被用来发现流行训练数据集中的偏见。一旦发现问题,就应该及时发布并进行修复。这样的操作具有双重目的,因为训练数据可能会受到熵的影响,进而可能会危及整个系统。有了定期的关注,训练数据就可以保持健康。
另一个解决方案是九大巨头——或者至少是G-MAFIA——分担创建新训练集的费用。这是一个很大的要求,因为创建新的语料库需要大量的时间、金钱和人力资本。在我们成功审查人工智能系统和语料库并修复其中现存的问题之前,九大巨头应该坚持让人类注释者给内容贴上标签,并使整个过程透明化。然后,在使用这些语料库之前,他们应该验证数据。这将是一个艰巨而乏味的过程,但将符合整个领域的最佳利益。
是的,九大巨头需要我们的数据。然而,他们应该赢得而不是假设拥有我们的信任。与其用晦涩难懂的语言改变服务协议条款,或者邀请我们玩病毒式宣传游戏,他们应该解释并披露自己在做什么。当九大巨头独立或与人工智能生态系统中的其他参与者合作进行研究时,他们应该致力于数据披露,并充分解释动机和预期结果。如果他们选择这样做,我们可能会愿意参与并支持他们的工作。
九大巨头应该寻求一个清醒的研究议程。目标简单明了,就是构建技术,并在不危及我们的情况下提升人类水平。要想实现这一目标,可以通过一种叫做“差别技术进步”的方式。它会把减少风险的人工智能系统置于增加风险的系统之上。这是个好主意,但很难实施。例如,情景中提到的生成性对抗网络,如果被黑客利用和使用,可能会非常危险。但它们也是研究取得巨大成就的途径。与其假设没有人会将人工智能重新用于邪恶目的——或者假设我们可以简单地处理出现的问题——九大巨头应该开发一个过程来评估新的基础研究或应用研究是否会产生一种好处远胜任何风险的人工智能。为此,九大巨头接受或做出的任何金融投资都应该包括有益使用和风险规划的资金。例如,如果谷歌追求生成性对抗网络研究,它应该花费合理的时间、人力资源和金钱来调查、绘制和测试负面影响。
这样的要求也有助于抑制对快速利润的预期。故意减缓人工智能的开发周期并不是一个流行的建议,但它却是至关重要的。对我们来说,提前思考和计划风险比在事情出错后简单地做出反应更安全。
在美国,G-MAFIA可以承诺重新调整自己的招聘流程,优先考虑潜在员工的技能,以及他们是否会融入公司文化。这个过程无意中忽略了对道德的个人理解。作为一位备受尊敬的数据科学家,同时也是Fast Forward Labs的创始人,Hilary Mason在采访中解释了一个简单的道德筛选过程。她建议问一些尖锐的问题,并专心聆听候选人的回答。比如:“你正在研究一种让消费者获得金融服务的模式。种族是模型中的一个重要特征,但是你不能使用种族特征。对此你会怎么做?”;“你被要求使用网络流量数据向小企业提供贷款。事实证明,现有数据并没有严格告知信贷风险。你会怎么做?”
候选人应该根据答案被有条件地录用,并且在开始工作之前必须完成无意识的偏见培训。九大巨头可以通过雇佣学者、训练有素的伦理学家和风险分析师来建立一种支持人工智能伦理的文化。理想情况下,这些专家将嵌入整个组织之中,包括消费者硬件、软件和产品团队;销售和服务团队;共同领导的技术项目;建立网络和供应链;设计和策略团队;人力资源和法律团队;以及营销和宣传团队。
九大巨头应该制定一个流程来评估研究、工作流程、项目、合作伙伴关系和产品的道德影响,这个流程也应该融入公司的大部分工作职能中。作为一种信任的姿态,九大巨头应该公布这一过程,这样我们就能更好地理解对数据做出决策的方法。无论是合作还是独立开发,九大巨头都应该为人工智能员工制定一套专门的行为准则。它应该反映基本人权,也应该反映公司独特的文化和价值观。如果有人违反了该守则,应向工作人员开放一个清晰的保护性举报渠道。
实际上,所有这些措施都将暂时对九大巨头的短期收入产生负面影响。投资者也需要给他们一些喘息的空间。
人工智能是一个很广阔的领域,而我们才刚刚开始上山。是时候抓住我们的鹅卵石,踏上正确的道路了。