技术伦理：从目标到实践

日益凸显的集体责任  

道德因素在许多方面不再是偶然考虑的问题，而是我们经营方式的核心，这是进步的标志。由于新冠肺炎疫情爆发，人们对社会公平的呼声日益高涨，不断扩大的数字鸿沟导致部分群体的机会被剥夺等种种现象，道德问题正以几乎前所未有的方式成为全球企业面临的议题。更好的是，企业采取了诸多积极的应对措施，比如承诺支持社会事业，出台促进员工多样性的举措等等。

大多数企业领导者都认同技术的道德意义。然而，尽管技术日益成为企业工作的核心，但企业并非时时都清楚如何以合乎道德的方式开发和应用技术。Thoughtworks 首席技术官 Rebecca Parsons 表示：“长期以来，技术人员总是以乌托邦式思维展开工作，他们假定技术可以解决世界上的所有问题，没有哪项技术是不好的，只是人们有时会把技术用到错误的地方。” 

事实上，为了让技术产生积极的道德结果并将风险降至最低，人们必须将技术与其他业务方面一样积极地管理和监控起来，甚至，对技术的管理和监控应该更加严格。本期《视野》将探讨帮助拥抱技术的企业建立良好道德基础的具体战略和框架。

为何如此重要

由于许多企业仍处于生存模式，企业很容易认为不需要将技术的道德性列为优先事项，或者技术的道德性可以与企业社会责任的其他“软”因素相结合。但是，有多重因素使得技术的道德性变得对业务至关重要，并可能对企业未来的价值建设能力产生巨大影响。

首先，在商业环境中，“技术”的含义发生了根本变化。Parsons 指出，几十年前，技术在很大程度上仅限于账户或工资系统，“技术要么正常运行，要么出现故障。从道德角度来看，技术几乎不会出错。如果软件运行正常，没有涉及欺诈，那就真的不会产生任何道德影响。从许多方面来说，我们很容易就能知道某些事物是否按照预想正常运行。”

Parsons 指出，相比之下，技术嵌入医疗、刑事司法和金融服务等敏感领域之后，“如果有些地方出错，其道德影响将会大得多。有时，我们甚至很难确定什么才是正确答案。”

第二，消费者对道德问题的认识和敏感度已经达到前所未有的高度，许多人愿意通过消费来表达对企业道德表现的态度。例如，最近一项针对美国消费者的调查发现，绝大多数消费者 (68%) 将可持续性作为购买决策的重要考虑因素，49% 的消费者愿意花更高价钱购买可持续产品。

苹果的信用评分系统显然存在性别歧视，医疗服务供应商 UnitedHealth 使用的算法意外地产生了种族偏见事件都是技术导致的道德问题。这些事件会迅速蔓延成彻头彻尾的丑闻，危及企业与客户和监管机构的关系，拉低道德底线。微软和谷歌最近向投资者披露的信息已经就人工智能可能会严重破坏其品牌发出警告。

Thoughtworks 首席顾问 Laura Paterson 表示：“真实证据已经阐明为何除了考虑风险因素之外，企业还应该做正确的事。采用合乎道德规范的技术并以目标为导向有明显的好处。”

主要考虑因素之一在于，企业如何使用技术可能会直接影响其吸引和留住未来人才的能力。研究表明，千禧一代和 Z 世代人才渴望受雇于有道德的企业，且高度关注组织采用人工智能等技术的后果。Doteveryone 是一家专门研究负责任技术的英国智库，该公司一项研究发现，28% 的技术工作者表示曾遇到过可能产生负面道德影响的决策，其中 18% 的技术工作者最终因此而离职。

遇到过可能对人和社会产生负面道德影响的决策的技术工作者比例

来源: Doteveryone

针对于未能解决技术道德后果的企业，Thoughtworks 首席战略官 Chad Wathington 指出，“如果关注社会运动和当前的时代潮流，你会发现，这些企业不仅面临巨大的外部声誉风险，还有巨大的内部员工风险。我们看到，技术企业正在经历一场行动主义浪潮。员工不仅了解企业利益可能对现代民主产生的影响，而且时刻准备团结起来，影响企业，让企业代表员工展开政治和道德行动。”

常见盲点

任何技术应用都可能产生道德影响。其中，人工智能和客户数据的使用是两项尤其可能产生重大直接影响的关键技术。这两项技术已经被企业大规模采纳，如今更是大量用于制定一些曾经只由人来制定的决策和战略。

人工智能偏见是指由于系统设计人员有意或无意引入了不良数据或假设而做出有问题决策。随着越来越多的业务功能由工具接管，人们日渐意识到人工智能偏见的问题。最近一次对 IT 决策者的调查发现，绝大部分 IT 决策者（美国 94%；英国 86%）计划明年加大投资，形成针对人工智能偏见预防措施。

然而，许多组织解决人工智能偏见问题的行动或才刚刚开始，或是朝着错误的方向发展。此外，人工智能偏见这个敌人在许多方面是看不见的，以最佳意图构建的系统也容易就能产生人工智能偏见。因此，企业面临的问题就更加复杂。例如，虽然 UnitedHealth 算法开发人员试图通过不将种族数据纳入其模型来消除偏见，但是由于该模型根据医疗服务成本对患者进行分类而产生的“后门”却再次引入了偏见，因为不同种族患者的医疗服务成本有所差异。

尽管企业很难保持警惕，但寻找像英国艺术家 Karen Palmer 这样的技术批评艺术家也一种高道德风险意识的方法。Karen 的作品是由 Thoughtworks Arts 孵化和开发的。该作品关注系统偏见和人工智能，已在库珀·休伊特史密森尼设计博物馆和《Wired》杂志上展出，并将在即将发布的增强现实应用程序中重点展示，该应用程序展示了先驱艺术家正在努力应对新技术的影响。

Parsons 援引一家研究医院的案例作为技术可能出错的另一例。这家医院利用人工智能来决定患者是否应该在特定程序后转入重症监护室，但后来却发现，标准程序导致他们因未考虑哮喘而得出不完整的数据集。这种轻微的数据疏忽或失真会在系统运作中放大，可能导致非常危险的后果。

她解释道：“强化学习的重点在于发现过去数据中存在的模式。但如果产生数据的系统存在任何形式的偏见，那么不仅由此发现的模式会表现出这种偏见，这些偏见模式还将进一步加强。”

随着数据成为业务的新生命线，消费者期望的改变和欧盟《一般数据保护条例》(GDPR) 等法规使得企业更加注意收集、使用和保留信息的方式。这是一件好事，因为许多客户愿意对那些似乎不认真对待数据政策的企业采取行动。

“隐私活跃”比例

来源: Cisco.com

然而，Wathington 说：“我们还有很长的路要走，我们在网络和设备上获取大量人员数据的速度并没有真正放缓。尽管有些企业已经试图增加数据跟踪难度，但这是一场“军备竞赛”，而且监控手段也越来越复杂。”

事实上，企业往往迫切需要以不道德的方式部署技术。例如，为了追求利润或股东价值，通过将行为设计或潜意识信息融入到游戏或应用程序让顾客“上钩”就可能成为“正确”的行为。Paterson 表示：“如果你将收入定义为衡量成功的标准，收入就会成为你关注的焦点。只要收入被社会和投资者视为成功的指标，组织就很难摆脱这种心态。”

尽管如此，企业正在转变观念，进步组织越来越多地寻求以其他方式衡量价值。Wathington 指出：“Milton Friedman 和芝加哥学院其他经济学家提出的错误的观点认为，企业只需要关心股东价值。然而，如果你注意观察约束企业的法律，就会发现，大多法律都要求平衡各项关注点以及股东、员工、企业所在的当地社区、客户和竞争对手等不同的群体。此外，考虑所有其他触点也符合企业的利益。”

Parsons 表示，最终，每家企业都必须独立解决一些问题：“盈利更好还是维持公平更好？对两者的关注应该达到什么程度？ 你愿意放弃多少利润来进一步促进公平？其中的平衡点在哪里？没有万能的正确答案。因此每个组织都必须通过讨论确定自身的立场、组织将会或不会做的事情以及组织的底线在哪里。”

合乎道德规范的技术要素

大多企业在应用技术时都会面临复杂广泛的考虑因素，这意味着合乎道德规范的技术必须是一致的组织重点，而不是一次性的倡议或贴在墙上的原则清单。通过考虑合乎道德规范的技术要素，组织可以在产品开发、领导与团队互动方式等诸多方面开发出综合方法。

合乎道德规范的技术要素

来源: Thoughtworks

多元化（确保听取各种观点）：

企业只有从不同角度探究，才能充分了解其构建的产品的道德问题或含义，这需要不同团队的参与。

Parsons 说：“人们很难从另一个人的角度来真正思考和观察问题。事实上这是我们自己的社会变革宣言中的一个原则，我们试图通过被压迫者的眼睛来看待世界。我们尽了最大努力，但并不总能成功。如果能有代表其他视角的人，那事情就容易多了，因为这是这些人自己的生活经历。”

理想情况下，多样性还应扩展到功能领域，而不仅仅局限于性别、背景、种族或性取向的范围。Wathington 指出：“你当然需要设计人员的代表，因为他们负责管理客户与技术的互动方式。“但是与此同时，你还需要来自财政部门的人，让他们来考察或平衡利润动机。你还需要法律、合规和安全部门人员，从而确保这些流程不只是最终的一道检查，而是从一开始就基于牢记于心的正确关注点而嵌入技术的应用中。”

随着产品的发展，企业还需要重新评估多样性和包容性，因为看似受欢迎的产品改进可能会负面影响用户对产品的可得性和可负担性。Paterson 说：“我们从纸质表格开始转向在线形式，后来又发展到移动端，现在我们又在研究与其他技术的互动方式。其中的挑战在于，当你沿着同一个方向逐渐发展时，你可能会失去联系所有用户的能力。你为 Alexa 开发的产品功能对于听不见或说不出话的人来说意味着什么？多样性必须包括拥有技术的人和能或不能使用技术的人之间的共通之处。”

调查（系统地提出尖锐的问题）

正如 Parsons 所说，对于多样性而言，“除非让适当的群体提出适当的问题，否则你不会得到准确反映你正在建设的道德含义的答案，这对于那些不被代表的群体来说更是如此。”

使用正式工具和框架来指导团队展开结构化的询问流程能够确保提出适当的问题，而且人们已经为此设计和细化出了许多方法。（见下文“道德技术工具包”）。

Wathington 认为，企业不应将这类过程被视为一项繁琐的工作，而是应该将其当作“设计和客户体验整体方法的一部分”，是识别日后可能再次困扰企业的故障点和引入适当平衡机制的好机会。

道德技术工具包

合乎道德的操作系统

含义

• 塑造企业战略、价值和产品的工具

• 包括风险区/未来场景的检查清单以及在生产环境中应用这些场景的说明

使用的原因/时间/目的？

• 为项目（任何阶段）做准备，突出关注点，说明未来的负面情景

• 更好地了解现有产品/解决方案的风险

结果筛查

含义

• 配有导向卡和提示卡的全套生产材料

• 召开结构化会议，探讨产品或功能的预期/非预期结果的基础

使用的原因/时间/目的？

• 产品愿景/构想/路线图开发阶段

• 也可以用作回顾性工具或在每次引入新功能时使用

技术塔罗牌

含义

• 一副提出尖锐问题的卡牌，旨在帮助创造者设想意想不到的道德结果

• 可用于推进头脑风暴会议

使用的原因/时间/目的？

• 在产品构想早期阶段，拓宽对影响的思考/对话角度

• 在设计过程中标记可能的负面后果

Facets 和 Facets Dive

含义

• 探索 AI/ML 数据的可视化工具

• 帮助识别训练和验证数据集的失真情况

使用原因/时间/目的？

• 在创建训练 AI/ML 算法的数据集时使用

• 也可用于其他数据集的可视化

敏捷威胁建模

含义

• 基于风险的安全软件设计方法

• 在威胁发生之前，让团队通过头脑风暴思考可能的威胁

使用的原因/时间/目的？

• 每次产品迭代时都应该使用

• 为提高认识并得出各种风险观点，参与者应包括业务分析师、产品经理和安全团队

不同群体（确保考虑多个利益相关者）：

归根到底，产品创建者无法独自回答所有道德问题或考虑所有影响。对于任何可能对社会或环境造成颠覆性后果的创新，企业都应努力就这项创新达成更广泛的共识。Parsons 指出：“当你开始考虑自动驾驶汽车如果面临优先考虑司机还是行人生命安全的两难问题应该怎么做等诸如此类的问题时，就不应该再让程序员或者分析师来做决策了。这些问题需要整个社会来共同解决，并决定适当道德应对措施。”

企业在推出技术时应该考虑只适用于儿童、弱势群体或老年人等特定群体的限制或连锁反应。Wathington 说：“这是为了了解所有可能的用户以及他们会经历怎样的客户旅程，并通过技术与你展开互动。在这方面，还有一些尚待解决的大问题。在移动领域，作为更昂贵的移动平台，iPhone 仍然是许多开发人员的首选。一些企业并不在乎穷人是否会认为其产品更昂贵或提供的体验更差。企业必须自问，他们是否只是向富人营销以及这种做法是否正确。”

Paterson 指出，组织有时会忽视这一过程，同时，她还用 Zoom、G Suite 等协作工具的例子进行了解释说明。在疫情引发的封锁期间，这些协作工具为使工作得以继续发挥了至关重要的作用。许多组织在采用这些措施时并未考虑到人们在获取相关服务难易度方面存在差异。

她说：“这在许多方面加深了数字鸿沟，因为没有人真正停下来问人们能否获得这些服务。当我发现即使在我们自己的组织内部，也有一些人没有宽带，我们必须想办法为其提供宽带时，我感到十分惊讶。我们对网络接入类型的认知有不足，接入质量也可能是一个问题。或许有些人的网络连接不太好。也许他们家里有五个人要同时视频通话。了解技术决策会对不同的人产生不同影响是非常重要的。”

方法（在可行的条件下形成道德流程）：

虽然我们很难道确立德准则，但重要的一点是，要对组织希望实现和代表的追求做出基本判断，形成可用于指导技术决策的“北极星”。

Paterson 解释说：“首先是要明确你的使命。 企业使命很少会以技术为目标，而是往往指向更大的范畴。接下来，明确价值观，让每个人都知道工作和决策的参数。然后是要建立沟通渠道，听取多样化的意见。”

一旦确定了道德标准和目标，就可以通过为产品开发的早期阶段、客户数据的使用和保存或其他特定流程建立框架或指南来正式确立和提倡这些道德标准和目标。Paterson 表示，企业道德标准和目标不是难以执行的行为准则，更不是为了让企业领导层把工作推给一线员工之后，对道德责任不管不顾，而是应该包括“基于企业使命和原则给出的开发人员定义，阐明其实践结果。”

这一过程将带来机遇。第一，正如 Parsons 所指出的，将道德决策的某些方面正式化为技术应用于道德事业铺平了道路。Parsons 说：“一旦你定义了什么是好的，许多工作都可以实现自动化。企业有成熟的工具可以用来监测数据盗窃等行为，也有为一些人所熟知的方法用来查看各种代码漏洞。”

第二，道德决策正式化将促使企业评估所选择的技术供应商和合作伙伴，使其符合类似标准。Wathingon 指出，道德采购就是要创造良性循环。

他表示：“对像我们这样的公司来说，这涉及多个方面，即我们购买的软件的运行方式是否合乎道德，以及供应商本身是否有道德。许多企业采用其他供应商的技术，形成了双向相互强化的过程。技术采购方开始思考其采购的软件的道德性，而软件开发企业则开始思考正在开发的软件的道德性。”

能力（不断改进组织及其产品）：

组织必须像磨练其他技能一样磨练合乎道德的技术方法。这是领导层能够也应该引入和鼓励的重点工作，但这项工作也必须从头开始做起，因为产品开发和最终用户互动的一线员工常常都需要直接面临道德选择。

Wathington 表示：“如果缺乏有效的沟通，道德不会成为一般理念的一部分。但是，你应该尝试通过沟通来转变员工感情和思想，从而让员工自己有道德意识，而不是你作为领导者试图改变他们。你需要鼓励员工创新，鼓励员工继续思考他们能做什么，并贡献自己的力量。”

有些企业的内部结构阻碍了这种沟通。Paterson 说：“大多数组织还未形成促进信息和反馈传输的机制。作为负责高风险对外系统的技术人员，你可能最了解系统的漏洞在哪里。如果没有人询问或者倾听你的意见，公司就无从知道如何解决漏洞，你也没有表现的机会。”

从这个角度来看，有道德与有效率有诸多共通之处。Paterson 指出：“敏捷的工作方式和合乎道德的工作方式有很多相似之处。”用于推动产品有效开发和定期增量改进的反馈回路同样可以用于支持更好的道德选择。

对于寻求培养这些能力的企业，Wathingon 的主要建议是：从小处做起，比如让核心小组研究一件产品，建立机制，然后学习经验并予以推广。

他表示：“一旦你取得了关键进展，你就能建立一定的机制，这样，你不需要再让 10 到 15 个人来管理已经完成了的工作。你已经有了故事、模板和框架，能够处理对你认为重要的事情。”

保持乐观的理由

近期有关数据隐私、接触者追踪和自动驾驶车辆等话题的头条新闻说明，技术可能仍然是个道德雷区。尽管如此，有时，有些振奋人心的趋势正悄然出现。人工智能和数据安全等危险领域正在形成完整的框架和解决方案生态系统。有越来越多的现成模式和解决方案可供企业使用，让道德成为产品开发和与客户互动不可或缺的一部分。

同时，技术人员越来越坚定决心，权衡自身行为道德后果，并在必要时纠正行为。这一点，也许才是最重要的。

Parsons 说：“这样的对话正在发生，这是令我们充满希望。更多人表示：作为技术人员，我们必须对我们做出的选择和开发的产品负责；我们不能仅仅是接单人员。如果有人要求我们开发我们认为不对的产品，我们有责任拒绝。”

Wathington 表示赞同，他说道：“越来越多的人从积极的角度认识这些问题。我见过许多技术人员，他们满怀热情，希望做得更好，而且对气候或可访问性等问题感兴趣。人们越来越认识到，我们必须解决这些问题。这是令人惊奇的现象，因为 10 年前大多数企业甚至都不认为这些是应该谈论的事情。”

我们感到有希望的另一个原因在于，越来越多人意识到道德和商业绩效不是不相干的或相互竞争的优先事项，而是两项密切相关的工作。Paterson 指出，在道德方面取得重大进展的企业也更具更强的反应能力。通过实现开放性和透明度，优先考虑长期关系而非短期收益，这类企业与客户和其他利益相关者产生更强的联系，能更好地预测市场和监管趋势。换句话说，道德意味着占领先机。

Paterson 说：“技术创造了复杂的问题，而世界上出现的每一次进步都会增加问题的复杂性。你无法准确预测接下来会发生的事，也无法提前解决所有复杂的问题。但如果你把价值观和原则落实到位，你无论如何都能做出好的决策。这是组织保持与时俱进的途径，也是唯一的途径。”

作者 JoJo Swords