在本章中,我们将着眼于确保充分评估技术的风险和社会影响,并将隐私、同理心、公平和包容性的价值观嵌入到技术解决方案中。
原则:有意识地实现技术驱动型变革
要开发负责任的技术,首先必须承认技术本身不是中立的。技术解决方案不会脱离于社会,也无法在隔绝的环境中制定出来。同样的权力格局和优先事项既造成了我们如今面临的许多不平等和紧张局势,又促使人们提出技术解决方案,而技术解决方案往往又反过来服务于这些权力变化和优先事项。
不论有意与否,数字技术正日益政治化。技术人员和科技公司无可非议地要因为对开发技术产生的影响负有责任而面临越来越大的压力。我们认为,这意味着要以审慎的方式开发技术,以便充分考虑解决方案的直接和间接影响,并与更广泛的相关人员(而不是仅仅技术人员)进行对话。
我们专注于建立公平的技术未来,这意味着,支撑数字技术开发的社会系统需要听取以往被拒之门外的声音,停止将技术创新视为社会之外的现象,而应该看到其对社会的内部影响。
我们专注于建立公平的技术未来,这意味着,支撑数字技术开发的社会系统需要听取以往被拒之门外的声音,停止将技术创新视为社会之外的现象,而应该看到其对社会的内部影响。
建设包容性团队使我们从不同的视角看待我们创造的一切,并批判性地思考其经济和社会影响。这种多元化观点使我们有能力进行创新,利用技术来支持(而不是破坏)积极社会变革的关键。
负责任的技术不仅涉及企业创建的产品和解决方案,还涉及企业如何管理和保护数据和技术资产(包括企业内部和企业客户的资产)。我们与客户和伙伴密切合作,增强客户和伙伴基础设施的复原能力,以应对隐私漏洞和安全漏洞,以及不断增加的邪恶技术带来的新威胁和负面影响邪恶技术带来的新威胁和负面影响。我们的目标是使安全和道德不仅仅是企业的响应行动,而且企业一切活动中显而易见的纪律。
软件和 IT 服务的 SASB 重要性矩阵中包含了安全和道德内容,为我们确定行业相关标准和可持续性目标提供了建议。Thoughtworks 长期致力于将 SASB 重要性矩阵中的许多内容嵌入我们的运营和客户工作中,并测量和报告这些内容。我们在附录适当处注明了我们取得的进展。
我们承诺开发负责任和公平的技术,并以此为基础同客户对话,制定总体战略,以及执行我们在世界各地参与的项目。这一承诺还确保我们能与合作伙伴共同为联合国可持续发展目标 (9) 做出贡献,推出既实用有效,又兼具包容性和可持续性的基础设施和创新实践。
技术正在对我们产生影响,这些影响使我们的生活方式产生或积极或消极的改变。 作为技术人员,我们有责任在提供技术解决方案时考虑所有利益相关者,即使是那些我们看不见的利益相关者。
技术正在对我们产生影响,这些影响使我们的生活方式产生或积极或消极的改变。 作为技术人员,我们有责任在提供技术解决方案时考虑所有利益相关者,即使是那些我们看不见的利益相关者。
实践中
我们参与负责任的技术项目,这些项目设计的领域非常广泛,其中包括数据隐私保护、人工智能偏见,还包括探索技术与艺术的共通领域以及研究邪恶技术日益增强的影响。下列示例展示了部分项目领域。
提高数字权利意识,加强数字权利
利用个人数据,针对或操控用户的做法越来越普遍。当务之急是要提高公众对相关工具、技能和资源的可及性,确保数据不会在不知情或未征得同意的情况被访问或使用。 澳大利亚的隐私保护制度正在经历重大变化,可能会带来负面的安全和社会后果,因此,我们积极地在澳大利亚开展隐私保护工作。
我们正在与政策制定者沟通,推动完善隐私和数据保护的相关法律,并呼吁采取可能的措施恢复隐私保护制度。我们还与数字权利观察等民间团体合作,建立普通民众的隐私保护意识和能力。
例如,Thoughtworks 员工举办了多场研讨会,向记者讲解提高数字设备安全性的方法。这么做是因为我们认为,只有在达成共识和团结的基础上积极争取权利,才能保护权利。以安全和尊重人的方式使用数据日益成为企业社会契约的重要组成部分,在此背景下,数字权利也成为我们与客户合作时优先考虑的事项。我们与昆士兰科技大学的研究人员合作,明确智慧城市如何在保护公民权利的前提下使用公民数据
对行业和对人类来说,如果技术不能服务于人们都是不正确的,但这样的事情经常发生。目前,我们试图通过推广数据紧缩这一概念来启发关于如何使用较少数据的灵感。数据紧缩是指只收集所需的数据,而不是收集所有可能收集的数据。
对行业和对人类来说,如果技术不能服务于人们都是不正确的,但这样的事情经常发生。目前,我们试图通过推广数据紧缩这一概念来启发关于如何使用较少数据的灵感。数据紧缩是指只收集所需的数据,而不是收集所有可能收集的数据。
技术影响社会的方式纷繁复杂,但其发展方向往往是由科技行业中的小部分社会群体决定的。因此,有必要推动社会各界展开能引起广泛讨论且影响深远的对话和探索性新技术研究。
Thoughtworks Arts 是一所促进艺术家、技术人员、问题专家和领域专家合作的全球性研究实验室。实验室的项目涉及多方面内容,研究各种技术,由艺术家指导进行跨越传统边界的研究,产生新联系,打造代表未来新愿景的艺术品。 这些项目进一步揭示了新技术对行业、文化和社会的影响,并在行业技术专家的实践经验中得到验证。
最近的一些项目展示了这种影响的结果。《纽约时报》 (1)报道了舞蹈家、编舞家 Catie Cuan 与 16 英尺工业机器人共舞的项目,该项目是人体与机械运动以及自动化与机器人技术认知调查的一部分。《Dancedemic》这场远程合作表演是在新冠肺炎疫情刚爆发的夏天进行的,表演利用生物识别设备帮助移民表达他们经历的冲突和孤立。在 Baltan 实验室的硕士课程中,参与者研究了“深度伪造”在创造性环境中的实际应用,该研究是进行算法故事叙述和数字媒体信任分析的部分活动。艺术家 Rashin Fahandej 的电影《一位父亲的摇篮曲》利用体积电影制作技术,以引人入胜的新方式帮助曾经入狱的人们分享与家人分离的故事。
创新通常被视为技术人员的统治的领域,是为服务于商业成果而实施的。然而,在面临极高气候风险和健康风险的社会中,最迫切的创新需求却是建立灾害应对能力——当地社区恰恰具备了最大优势,能引领富有意义的变革。
由 Start Network 和 CDAC Network 管理的灾害和应急准备计划 (DEPP) 创新实验室旨在将社区代表、非政府组织、医生、设计师、工程师等来自不同背景的群体聚集在一起,为灾害频发的国家创造新的资源。他们采取类似企业孵化基地的方法,集中应对最严峻的挑战,合作制定试点解决方案,并为其中最为可行的方案提供资金。
在 DEPP 工作中,我们调整了孟加拉、菲律宾、肯尼亚和约旦实验室使用的一些关键工具,帮助参与者对比完成进度与目标,并使其中最好的创新规模化和可持续化。这些工具经过修改和成功进行本地化后,开发出了低成本药物库和抗旱食物来源等成果,其实现过程说明,由社区开发的解决方案最有利于提高社会适应力。
即将发布: 负责任的技术工具包
技术与社会结构的结合日渐紧密,已经渗透到医疗保健和司法系统等较复杂且重要的社会领域。 这促使许多组织考虑自身技术实践的伦理影响。但是,由于负责任的技术是一个相对较新的领域,许多企业可能并不清楚从何入手或者应遵循哪些原则。
我们已经开发出许多富有前景的框架、方法和工具包,这些资源都有一个共同的目标,就是帮助组织评估产品和解决方案的影响和风险、建立相关模型,并减轻这类影响和风险。负责任的技术工具包收集了一些最好的例子,通过它们介绍并解释了这些概念,帮助组织根据自身情况选择正确的方法并着手应用负责任的技术。
该工具包为提出考虑周全的开发方式奠定了基础,帮助降低技术的风险和负面社会影响,创造长期的企业价值。我们将持续倡导更多的行业道德标准,因此,作为技术界的参考资料,该工具包还将在未来数年内不断丰富。我们的目标是以更有条理的方式将这些实践应用到我们参与的每个项目中。我们认为,这会成为推动我们成长、促使我们随着技术的日益普及提出越来越富有挑战性问题的重要手段。