视角四：技术作恶的影响扩大

“恶意”技术通常与勒索软件、入侵系统窃取数据或制造计算机病毒等犯罪活动联系在一起，但这并不是全部。由于技术形势的发展，技术作恶的定义也应该相应扩展，以包含那些虽然合法甚至被广泛接受，但最终会威胁社会福祉的行为。

科技棱镜趋势分析

随着技术变得越来越复杂，技术被误用滥用的形式也越来越多。人们在日常活动中越来越依赖科技，相应地，他们日益受到意想不到的、甚至是恶意后果的影响。再加上高度的自动化以机器的速度做出决策，出错的可能性就会迅速增加。

根据我们的定义，“作恶”技术不仅包括恶意软件和黑客工具等犯罪技术，还包括恶意广告和客户定位。一项技术是否属于作恶，可能是一个视角问题。有些人并不认为互联网广告、跟踪 Cookie 或社交媒体传播活动具有侵入性，他们很乐意用自己的数据换取他们认为个性化或特殊价值的服务。有些人则在浏览器中安装了广告拦截软件，并完全避开微博、朋友圈等社交应用。对某些人来说，同意跟踪记录或收集个人数据基本上是一种自动选择；而对另一些人来说，则需要经过谨慎思考。这就是说，由于不同人口群体对技术的获取和体验程度不同，以及关于知情同意的信息和选择的呈现方式存在各种差异，导致许多人已经忘记了一个事实，即他们首先是有选择权的。

并非所有的作恶行为都是蓄意或是恶意的。算法或机器学习系统中的偏差就是一例。由于在构建或开发过程中发生的意外偏差和疏忽，可能会对某些客户群体表现出恶意倾向，但这种偏差并非由于系统遭到了破坏或设计者有意为之。

相关预兆信号包括：

• 技术日益普及，潜在威胁同时也在扩大。海量的联网设备就是一个简单的例子：弗若斯特沙利文咨询公司（全球最大的企业增长咨询公司） 预测，到 2026 年，全球活跃物联网 (IoT) 设备的数量将超过 650 亿台。所有这些设备都会存在可能被利用的潜在安全漏洞。
  

• 消费者对广告和营销技术的态度和行为正在发生变化，接受广泛使用自身数据的人和更关心隐私的人之间的分歧也越来越大
  

• 对于社交媒体在政治竞选中的使用和影响，以及社交媒体渠道如何影响健康、政治和其他社会舆论，人们日益感到焦虑
  

• 人工智能 (AI) 和机器学习 (ML) 的使用越来越多，造成了一些意想不到的后果，如算法和所收集数据集中的偏见。对恶意影响的担忧促使人们试图控制人工智能在比如招聘等流程中的使用
  

• 围绕数据收集、保留和使用的法规得到加强，如《中华人民共和国个人信息保护法》（新版）、《欧洲通用数据保护条例》(GDPR)、《加州隐私权法》(CPRA) 以及其他司法辖区的同类规定

机会

随着数据泄露接近历史峰值，防范黑客蓄意攻击和恶意软件变得日益重要。企业必须在日益扩大的攻击面上大力投入进行防御，以对抗资金雄厚、组织严密的攻击者。然而，随着发生危险的可能性上升，企业还必须考虑恶意技术其他方面的问题。我们相信，尊重客户的意愿，避免”如影随形“的受众定位，并根除算法系统中的偏见，不仅从本质上讲是合乎伦理的，而且有利于建立信任和积极的公众认知，最终有利于企业的健康发展。

据媒体报道，SolarWinds 供应链遭黑客攻击，致使该公司损失了近 2,000 万美元，保险索赔估计达到 1 亿美元，这表明恶意事件的财务的不良影响很容易失去控制。GDPR 的罚金在缓慢起步后又有所提高，总罚金较上年激增 113.5%。最值得注意的是，亚马逊在其 2021 年 7 月的财报中宣布了 8.77 亿美元的巨额 GDPR 罚金，比此前的记录高出近 15 倍。随着消费者对隐私日益重视，稳健的安全保护措施已成为某些公司的一大优势。思科最近的一项调查发现，近 80% 的消费者将数据保护纳入购买决策，并愿意为隐私标准更高的产品或供应商支付更多费用。