En este capítulo nos ocupamos de: garantizar que los riesgos y las implicaciones sociales de la tecnología se evalúen adecuadamente, incorporando los valores de privacidad, empatía, equidad e inclusión en las soluciones tecnológicas.
Principios: un enfoque consciente del cambio impulsado por la tecnología
La tecnología responsable comienza reconociendo que la tecnología no es inherentemente neutral. Las soluciones tecnológicas no se distinguen de la sociedad y no se crean en el vacío. Son el resultado de, y a menudo sirven, las mismas dinámicas de poder y prioridades que son responsables de muchas de las desigualdades y tensiones a las que nos enfrentamos hoy.
Hemos llegado a un punto en el que, de forma intencionada o no, las tecnologías digitales se han politizado cada vez más. Existe una presión creciente y justificada para que los tecnólogos y las empresas tecnológicas se responsabilicen de los impactos que crean. A nuestro juicio, significa construir de una manera deliberada que permita la debida consideración de los efectos de una solución, directos e indirectos, y el diálogo con una gama más amplia de partes interesadas que solo los tecnólogos.
Nos enfocamos en construir un futuro tecnológico justo, lo que significa que el sistema social que está detrás de la construcción de las tecnologías digitales debe incluir las voces que históricamente han sido excluidas, y para incorporar los efectos sociales de estas innovaciones en lugar de verlos como una externalidad.
Nos enfocamos en construir un futuro tecnológico justo, lo que significa que el sistema social que está detrás de la construcción de las tecnologías digitales debe incluir las voces que históricamente han sido excluidas, y para incorporar los efectos sociales de estas innovaciones en lugar de verlos como una externalidad.
Construir equipos inclusivos nos permite traer diferentes perspectivas a todo lo que creamos y pensar críticamente sobre las implicaciones económicas y sociales. Esta diversidad de puntos de vista es fundamental para la capacidad de innovar y crear tecnología que respalde, en lugar de socavar, la transformación social positiva.
La tecnología responsable no se trata solo de los productos y soluciones que crean las empresas. Se extiende a la forma en que administran y protegen los datos y los activos tecnológicos, los propios y los de sus clientes. Trabajamos en estrecha colaboración con los clientes y las organizaciones asociadas para mejorar la resiliencia de su infraestructura frente a las violaciones de la privacidad y la seguridad, así como las nuevas amenazas y las implicaciones negativas que surgen de las fronteras en expansión de la tecnología hostil. El objetivo es hacer que tanto la seguridad como la ética no sean solo una respuesta, sino una disciplina, evidente en todo lo que hace la empresa.
La seguridad y la ética están integradas en la matriz de relevancia de SASB para software y servicios de TI, lo que nos brinda recomendaciones para estándares específicos de la industria y objetivos de sustentabilidad. Thoughtworks se ha centrado durante mucho tiempo en incorporar muchos de estos en nuestras operaciones y en el trabajo de nuestros clientes, y está trabajando para medirlos e informar sobre ellos. En su caso, nuestro progreso se indica en el apéndice.
El compromiso con la tecnología que es responsable y equitativa informa nuestras conversaciones con los clientes, nuestra estrategia general y los proyectos en los que participamos en todo el mundo. También asegura que con nuestros socios contribuimos al Objetivo de Desarrollo Sostenible de la ONU (9) de crear infraestructura e innovaciones que no solo sean funcionales y efectivas, sino también inclusivas y sostenibles.
La tecnología nos está impactando de maneras que tienen la capacidad de transformar nuestras vidas, tanto positiva como negativamente. Como tecnólogos, tenemos la responsabilidad de tener en cuenta a todas las partes interesadas, incluso a las invisibles, a la hora de ofrecer soluciones tecnológicas.
La tecnología nos está impactando de maneras que tienen la capacidad de transformar nuestras vidas, tanto positiva como negativamente. Como tecnólogos, tenemos la responsabilidad de tener en cuenta a todas las partes interesadas, incluso a las invisibles, a la hora de ofrecer soluciones tecnológicas.
En la práctica
Estamos comprometidos en proyectos de tecnología responsable que abarcan todo, desde la privacidad de los datos hasta la exploración de los límites compartidos de la tecnología con el arte, y desde el sesgo de la IA hasta el examen de la creciente influencia de la tecnología hostil. Los siguientes ejemplos se han seleccionado para mostrar algo de esa amplitud
Sensibilizar y reforzar los derechos digitales
Los esfuerzos para apuntar o manipular a las personas en función de sus datos personales son cada vez más generalizados. Es imperativo impulsar el acceso del público a las herramientas, habilidades y recursos que garantizan que estos datos no se accedan ni se utilicen sin conocimiento o consentimiento. Australia es un mercado en el que hemos sido particularmente activos en este frente porque el régimen de privacidad está experimentando cambios significativos que podrían tener consecuencias sociales y de seguridad negativas.
Estamos en diálogo con los legisladores para impulsar mejoras en la legislación de privacidad y protección de datos y señalar posibles pasos de retroceso. También trabajamos con organizaciones de la sociedad civil como Digital Rights Watch para crear conciencia y capacidades a nivel de base.
Por ejemplo, los trabajadores de Thoughtworks han organizado talleres que muestran a los periodistas cómo mejorar la seguridad de sus dispositivos digitales. Todo esto se lleva a cabo con la idea de que los derechos solo pueden protegerse cuando se lucha activamente por ellos sobre la base de la comprensión y la solidaridad compartidas. Dado que el uso de datos de manera segura y respetuosa se considera una parte cada vez más esencial del contrato social de cualquier empresa, los derechos digitales también se han convertido en una prioridad en nuestro trabajo con los clientes. En la Universidad de Tecnología de Queensland, trabajamos con investigadores para definir cómo las ciudades inteligentes pueden utilizar los datos de los ciudadanos de una manera basada en los derechos.
Con mucha frecuencia, la tecnología no sirve a las personas. Eso no es correcto para la industria y la humanidad, pero podría serlo. Estamos tratando de capturar la imaginación con ideas sobre cómo usar menos datos, promoviendo el concepto de austeridad de datos, de recopilar solo lo que necesita, no todo lo que pueda
Con mucha frecuencia, la tecnología no sirve a las personas. Eso no es correcto para la industria y la humanidad, pero podría serlo. Estamos tratando de capturar la imaginación con ideas sobre cómo usar menos datos, promoviendo el concepto de austeridad de datos, de recopilar solo lo que necesita, no todo lo que pueda
La tecnología impacta a la sociedad de innumerables formas complejas, aunque su dirección a menudo la establece un pequeño subconjunto de esa sociedad en el sector tecnológico. Por lo tanto, es esencial facilitar un diálogo provocador y de gran alcance entre los sectores de la sociedad y permitir una investigación exploratoria provocadora y de gran alcance sobre las tecnologías emergentes.
Thoughtworks Arts es un laboratorio de investigación global que incuba colaboraciones entre artistas, tecnólogos y expertos en temas y dominios. Estos proyectos son multifacéticos e investigan diversas tecnologías, y están dirigidos por artistas que investigan a través de las fronteras tradicionales, formando nuevas conexiones y crean obras de arte que apuntan a visiones alternativas del futuro. A partir de estos proyectos, se arroja nueva luz sobre los impactos de las tecnologías emergentes en la industria, la cultura y la sociedad, respaldados por la experiencia práctica con expertos de la industria tecnológica.
Varios proyectos recientes ilustran los resultados de estas interacciones. La bailarina y coreógrafa Catie Cuan bailó con un robot industrial de 16 pies como parte de una investigación sobre el movimiento humano y mecánico y las percepciones de la automatización y la robótica, un proyecto presentado en el New York Times2. En "Dancedemic", una colaboración remota durante el inicio del verano de la pandemia COVID-19 utilizó dispositivos biométricos para ayudar a los inmigrantes a expresar sus experiencias de conflicto y aislamiento. En la clase magistral de los Laboratorios Baltan, los participantes investigaron la aplicación práctica de "deepfakes" en contextos creativos como parte de la narración algorítmica y un análisis de la confianza en los medios digitales. En "A Father´s Lullaby", el artista Rashin Fahandej utilizó técnicas de filmación volumétrica para ayudar a las personas anteriormente encarceladas a compartir historias de separación de sus familias de formas nuevas y convincentes.
La innovación se considera a menudo como un dominio exclusivo de los tecnólogos y está diseñada para brindar resultados comerciales. Sin embargo, en las sociedades que enfrentan riesgos desproporcionados relacionados con el clima y la salud, la necesidad más urgente de innovación es la construcción de capacidad para hacer frente a los desastres, y sus comunidades locales que son las que están mejor equipadas para encabezar un cambio significativo.
Los laboratorios de innovación del Programa de preparación para desastres y emergencias (DEPP por sus siglas en inglés), administrados por Start Network y CDAC Network, están diseñados para reunir a personas de diferentes orígenes, desde representantes de la comunidad hasta ONG, médicos, diseñadores e ingenieros, para crear nuevos recursos para países propensos a desastres. Estos adoptan un enfoque similar al de las incubadoras de empresas, centrándose en los retos más graves y colaborando en la búsqueda de soluciones piloto, seleccionando sólo las más viables para su financiación.
Durante nuestro trabajo en el DEPP adaptamos una serie de herramientas clave para el uso de los laboratorios en Bangladesh Filipinas, Kenia y Jordania que ayudaron a los a los participantes a medir los avances respecto a los objetivos y a poner las mejores innovaciones en la senda de la amplitud y la sostenibilidad. La forma en que estas herramientas se ha modificado y localizadas con éxito para desarrollar resultados como bancos de medicamentos de bajo coste y fuentes de alimentos resistentes a la sequía demuestra que las soluciones que surgen en las propias comunidades son las que más contribuyen a mejorar la resiliencia de la sociedad.
Próximamente: The responsible tech playbook
La tecnología está cada vez más arraigada en las estructuras sociales penetrando en áreas más complejas y con mayores consecuencias en la sociedad, como la sanidad y el sistema judicial. Esto ha llevado a muchas organizaciones a considerar las implicaciones éticas de sus prácticas tecnológicas. Pero como la tecnología responsable es un campo relativamente nuevo, muchas empresas pueden no tener claro por dónde empezar o qué principios seguir.
Se han desarrollado una serie de marcos, metodologías y esquemas prometedores con el objetivo común de ayudar a las organizaciones a evaluar, modelar y mitigar los impactos y riesgos de sus productos y soluciones. Hemos recogido algunos de los mejores ejemplos en el The responsible tech playbook, que presenta y explica estos conceptos para ayudar a las organizaciones a elegir las opciones adecuadas para su situación.
El libro proporciona una base para un enfoque considerado del desarrollo que mitiga los riesgos y los efectos sociales negativos de la tecnología, y construye el valor de la empresa a largo plazo. Seguirá evolucionando como referencia para la comunidad tecnológica en los años venideros mientras seguimos abogando por normas más éticas para nuestra industria. Nuestro objetivo es aplicar estas prácticas de forma más estructurada en todos los compromisos en los que participamos.
