Lente cuatro: El impacto creciente de la tecnología hostil

La tecnología "hostil" se asocia comúnmente con actividades delictivas como el ransomware, la irrupción en un sistema para robar datos o la creación de virus informáticos, pero esto no refleja el panorama completo. El panorama está evolucionando de tal manera que la definición de tecnología hostil debería ampliarse para incluir actos legales, incluso ampliamente aceptados, que en última instancia amenazan el bienestar de la sociedad.

A través del Looking Glass

A medida que la tecnología se vuelve más compleja, aumentan las formas en que puede ser mal utilizada. Y a medida que las personas dependen más de la tecnología en sus actividades cotidianas, se ven cada vez más expuestas a consecuencias involuntarias, incluso hostiles. Si se añade un alto nivel de automatización -tomando decisiones a la velocidad de una máquina-, la posibilidad de que las cosas salgan mal aumenta rápidamente. 

La tecnología "hostil", según nuestra definición, puede abarcar no sólo la tecnología criminal, como el malware y las herramientas de hacking, sino también casos de uso como la publicidad y la selección de clientes. Que la tecnología sea hostil puede ser una cuestión de perspectiva. Algunas personas no consideran intrusivos los anuncios en Internet, las cookies de seguimiento o las campañas de influencia en las redes sociales, y están dispuestas a intercambiar sus datos por lo que perciben como ofertas personalizadas o un valor especial. Otros instalan programas de bloqueo de anuncios en sus navegadores y evitan por completo a Facebook. El consentimiento para el seguimiento o la recopilación de datos personales es, para algunos, básicamente automático; para otros, una elección cuidadosamente considerada. Dicho esto, muchas personas no se dan cuenta de que tienen una opción en primer lugar, debido a los diferentes niveles de acceso y experiencia con las tecnologías entre los diferentes grupos sociales y demográficos, así como las discrepancias en la forma en que se presenta la información y las opciones en torno al consentimiento. 

No todos los comportamientos hostiles son maliciosos o intencionados. Un ejemplo es el sesgo en los algoritmos o sistemas de aprendizaje automático. Estos pueden mostrar tendencias "hostiles" hacia determinados grupos de clientes sin haber sido comprometidos o diseñados deliberadamente de esa manera, debido a distorsiones no planificadas e inadvertidas en la forma en que fueron construidos o desarrollados.

Las señales incluyen:

• La creciente ubicuidad de la tecnología y la expansión simultánea de la superficie potencial de amenazas.  Un ejemplo sencillo es el gran número de conexiones: Frost & Sullivan predice que el número de dispositivos activos de la Internet de las cosas (IoT) superará los 65.000 millones en todo el mundo en 2026. Cada uno de ellos conlleva posibles fallos de seguridad que podrían explotarse.

• La evolución del sentimiento y el comportamiento de los consumidores hacia la tecnología publicitaria y de marketing y la creciente bifurcación entre los que aceptan un uso amplio de sus datos y los que están más preocupados por la privacidad.
  

• Aumento de la ansiedad por el uso y el impacto de las redes sociales en las campañas de desinformación y por la forma en que los canales de las redes sociales están dando forma a los debates sanitarios, políticos y sociales. 
  

• Consecuencias imprevistas del creciente uso de la inteligencia artificial (IA) y el aprendizaje automático (ML), como el sesgo en los algoritmos y en los conjuntos de datos recopilados. La preocupación por los impactos hostiles está provocando intentos de controlar el uso de la IA en procesos como la contratación.
  

• El aumento de la regulación en torno a la recopilación, retención y uso de datos, como la nueva Ley de Protección de la Información Personal de China, el Reglamento General de Protección de Datos Europeo (GDPR) la Ley de Derechos de Privacidad de California (CPRA) y los equivalentes en otras jurisdicciones.

La oportunidad 

Con las filtraciones de datos acercándose a niveles récord, la protección contra la piratería deliberada y el malware es cada vez más importante. Las empresas deben invertir en la defensa de una gama más amplia de puntos de contacto contra adversarios bien financiados y organizados. Sin embargo, a medida que aumenta el potencial de peligro, también hay que tener en cuenta otras dimensiones de la tecnología hostil. Creemos que ser respetuoso con los deseos de los clientes, evitar la segmentación intrusiva e interesada y eliminar los sesgos en los sistemas algorítmicos y los conjuntos de datos no solo es intrínsecamente ético, sino que favorece la confianza, la percepción pública positiva y, en última instancia, la salud del negocio. 

Según los informes de los medios de comunicación, el hackeo de la cadena de suministro de SolarWinds costó a la empresa casi 20 millones de dólares, con estimaciones de reclamaciones de seguros que alcanzan los 100 millones de dólares, lo que demuestra la facilidad con la que las consecuencias financieras de un incidente hostil pueden salirse de control. Tras un comienzo lento, las multas por el RGPD han aumentado, con un incremento total del 113,5% en el último año. En particular, la gigantesca multa de Amazon por el GDPR, de 877 millones de dólares, anunciada en el informe de resultados de la empresa de julio de 2021, es casi 15 veces mayor que el récord anterior. Dado que los consumidores valoran más su privacidad, las prácticas de seguridad sólidas se han convertido en un fuerte diferenciador para algunas empresas. Según una encuesta reciente de Cisco, casi el 80% de los consumidores tienen en cuenta la protección de datos en sus decisiones de compra y están dispuestos a pagar más por productos o proveedores con normas de privacidad más estrictas.