视角六：技术作恶的影响扩大 

“恶意”技术通常与勒索软件、入侵系统窃取数据或制造计算机病毒等犯罪活动联系在一起，但这并不是全部。由于技术形势的发展，技术作恶的定义也该相应扩展，以包含那些虽然合法甚至被广泛接受，但最终会威胁社会福祉的行为。

科技棱镜未来技术趋势分析

随着技术变得越来越复杂，技术被误用滥用的形式也越来越多。人们在日常活动中越来越依赖科技，相应地，他们也越来越受到意想不到的、甚至是恶意的后果的影响。再加上高度的自动化使人类“蒙在鼓里”，以机器的速度做出决策，出错的可能性就会迅速增加。

根据我们的定义，“作恶”技术不仅包括恶意软件和黑客工具等犯罪技术，还包括恶意广告和客户定位。一项技术是否属于作恶，可能是一个视角问题。有些人并不认为互联网广告、跟踪 Cookie 或社交媒体传播活动具有侵入性，他们很乐意用自己的数据换取他们认为个性化或特殊价值的服务。有些人则在浏览器中安装了广告拦截软件，并完全避开微博、朋友圈等社交应用。对某些人来说，同意跟踪记录或收集个人数据基本上是一种自动选择；而对另一些人来说，则需要经过谨慎思考。

更重要的是，并非所有的作恶行为都是恶意或蓄意的。算法或机器学习系统中的偏差就是一例。这种偏差可能对某些客户群体表现出恶意倾向，但这种偏差并非由于系统在某方面妥协或设计者有意为之。相关预兆信号包括：

• 技术日益普及，潜在威胁同时也在扩大。海量的联网设备就是一个简单的例子：IDC 预测，活跃的物联网（IoT）设备的数量到 2025 年将增至 557 亿部。所有这些设备都会有被利用的潜在安全漏洞。
• 消费者对广告和营销技术的态度和行为正在发生变化，接受广泛使用自身数据的人和更关心隐私的人之间的分歧也越来越大。
• 对于社交媒体在政治竞选中的使用和影响，以及社交媒体渠道对政治和其他社会舆论的影响，人们日益感到焦虑。
• 人工智能和机器学习的应用日益广泛，产生了一些意想不到的后果，例如算法偏见。对恶意影响的担忧促使人们试图控制人工智能在如“招聘”等流程中的使用。
• 围绕数据收集、保留和使用的法规得到加强，如《欧洲通用数据保护条例》（GDPR）、《加州隐私权法》（CPRA）以及其他司法辖区的同类规定。

机会

防范黑客蓄意攻击和恶意软件变得越来越重要。随着企业受攻击面日益扩大，企业必须大力投入进行防御，以对抗资金雄厚、组织严密的攻击者。然而，随着发生危险的可能性上升，企业还必须考虑恶意技术的其他方面问题。我们相信，尊重客户的意愿，避免“如影随形”的受众定位（如大数据杀熟），并根除算法系统中的偏见，不仅从本质上来说是正确的事情，而且有利于建立信任和积极的公众认知，并最终有利于企业的健康发展。

根据 IBM 的数据，2020 年，全球数据泄露造成的平均损失为 386 万美元。仅 2020 年上半年，欧洲监管机构针对违反 GDPR 的行为开出的罚单总计超过 5,000 万欧元。随着消费者对隐私日益重视，稳健的隐私保护措施已成为某些公司的一大优势。麦肯锡最近的一项调查发现，如果消费者担心一家公司的安全措施，或者认为其在未经许可的情况下泄露敏感数据，那么这些消费者大多数就不会与该公司开展业务。