正如我们所写的,在组织中有许多不同版本的首席数据官角色。在那篇描述cdo被要求做的所有不同工作的文章中,我们讨论的最后一个工作是“数据伦理学家”,我们说,我们认为未来会有更多这样的工作。但我们目前只能找到一个:万事达(Mastercard)的乔安•斯通尼尔(JoAnn Stonier)。
对于这个职位的某些人来说,蓝冠代理深度学习的风险之一是在培训期间引入偏见,这可能来自许多来源。最终,用于训练模型的蓝冠测速数据集是无限的。斯通尼尔是一个有着不同寻常背景的不寻常CDO。她的本科学位是会计,她说她上过几门计算机科学课程——对于一个专注于数据的人来说,这两门课都很平常。但后来她获得了法律学位——这在CDO中并不常见。她也有设计背景,是普拉特研究所设计管理硕士课程的副教授。她最终为金融服务公司找到了一系列简历上不常见的工作:首席隐私官、全球隐私和数据保护官、首席信息治理和隐私官。现在,她是万事达的首席数据官——当然,她仍然有着强烈的道德和隐私取向。
作为CDO的一员,Stonier还专注于几个传统的数据管理主题。万事达卡的数据治理、数据策略和持续的数据管理问题占据了她日常工作的大部分时间。她还参与了公司新技术的引进——尤其是人工智能,因为它对数据的要求很高。例如,斯通尼尔的团队与万事达的防欺诈组织密切合作,以了解帮助识别非法网络交易的信息模式。但她的组织有两个重点——确保负责任地开发新的数据驱动产品和数据伦理——这两个重点更加不同寻常。我们在下面分别描述它们。
在描述“数据伦理学家”的工作时,我们注意到它主要是防御性的:防止数据发生负面的事情。但斯通尼尔告诉我们,她的情况并不完全准确;她有许多侧重于进攻的职责。一个是帮助创新的“数据产品”在万事达卡起步——基于洞察和分析的新产品和服务。
这是万事达“数据和服务”团队的责任,该团队提供各种基于内幕的服务,旨在帮助企业和政府更好地了解和改善它们在周围环境中的表现。例如,有些针对餐馆的服务涉及“测试和学习”软件(源自2015年万事达对Applied Predictive Technologies的收购)、菜单分析仪、行业支出服务和忠诚度计划解决方案。其他产品,如涉及欺诈保护的产品,主要是为了保护现有的企业和客户。万事达(Mastercard)收购了硅谷领先的人工智能和机器学习公司Brighterion,该公司对每一笔交易都提供了更深刻的洞见,以帮助其做出更为准确的欺诈决策。该公司还收购了网络安全公司(NuData Security),这是一家利用行为生物识别技术和洞察力帮助企业减少数字交易欺诈的组织。
毫不奇怪,所有数据驱动的产品都需要数据。斯通尼尔的团队被嵌入到一个定义良好的产品管理过程中。它们不仅涉及产品中使用的数据的道德规范,而且还涉及收集、质量、集成和其他典型的数据管理主题。斯通尼尔的团队还帮助产品开发人员思考如何使用新技术,如人工智能、区块链和生物特征数据。但是每一个新的数据产品都有一个系统的道德问题审查;正如斯通尼尔所说:
如果你不把道德作为数据解决方案的一部分,你就会失去消费者和客户的信任。
或许,斯托尼在cdo中最突出的特点是她对数据伦理的强烈关注。她的团队在这方面的工作有两个要素:确保万事达自身合乎道德地使用数据,并说服其他组织承担数据道德责任。这两个焦点都涉及到公司在2019年发布的一套“数据责任原则”。它们正被应用于万事达自己的数据策略和产品,该公司在达沃斯世界经济论坛(World Economic Forum)等场合将其描述为其他公司可以采用的标准。个人资料的四项原则简单明了:
你拥有它——每天你都在产生数据。这些数据属于你。
你控制它-你有权利理解和控制你的数据是如何共享和使用的。
你应该受益于它的使用-你的数据应该被用来使你的生活更容易和更丰富。
我们保护它-你的数据将被保持安全和负责任地使用。
公司处理客户数据也有六个原则,包括安全和隐私、透明度和控制、问责制、诚信、创新(为了客户利益)和(产生积极的)社会影响。万事达卡与这些原则同时发布了一项全球调查,调查的主要结果是,个人同意这些原则,但通常不相信公司会遵守这些原则。
在内部,斯通尼尔和万事达正试图展示良好的数据实践在不同领域的数据责任意味着什么。现在有这么多新的人工智能应用,一个主要的关注点是避免人工智能算法中的数据和算法偏差。斯通尼尔说,偏见可能来自于数据本身、创建模型的数据科学家、模型中使用的特性,甚至是模型的应用。在将算法投入生产之前,蓝冠测速5G融合了边缘云的概念,这使云处理更接近边缘。结合强大的移动平台,蓝冠代理人员可以选择在边缘运行推理(即,当在现实世界中使用经过训练的AI模型时),或者将其发送到边缘云。Stonier的小组对其数据源、沿袭和收集实践进行了仔细的检查。对模型进行了认真的试验,并对试验结果进行了详细的检验。数据科学家还检查实现的偏差模型的结果,并通过自动化程序监视它们随时间的偏差方向。至于公司数据科学家的构成,斯通尼尔说,多样性是一个关键的优先事项。她们的团队中几乎都是女性数据科学家,而且种族和地理多样性也很丰富。
万事达还关注人工智能模型的透明度,尽管在如何关注这一问题上存在一些曲折。监管机构有时希望提高模型的透明度,但这取决于所涉及的司法管辖权。如果模型中包含个人可识别信息,那么模型透明性中就会涉及到隐私问题。如果这种模式涉及欺诈,万事达就不能提供太多的透明度,否则诈骗者就会发现并利用它。
在外部,万事达发布了一份关于负责任的数据实践的报告,并发布了该公司用于数据控制、隐私和安全、完整性和偏见预防的标准。斯通尼尔经常与其他组织讨论这些问题,人们对这些原则的反应是积极的。她指出,“越来越多的公司认为数据伦理是至关重要的。ceo们想要找出答案。他们知道,如果客户不相信公司处理数据的方式,他们就会选择放弃自己的产品和服务。”
在首席数据官中,斯通尼尔或许是唯一关注道德问题的人,但我们也认为,随着蓝冠测速5G承诺提供更高的带宽和更低的延迟,以及边缘处理能力越来越强,XR蓝冠代理人员现在可以选择在边缘(即在头戴式耳机)上进行哪些处理以及需要传输哪些数据以进行处理。万事达是其他公司的领头羊。任何认为道德规范是数据及其管理的重要组成部分的公司,都应该明智地遵循她的方法和榜样。