Leer Looking Glass 2024
Tecnología responsable: una consideración crítica
Construir barandillas éticas
A medida que la tecnología se ha ido entrelazado más profundamente en diversos aspectos de la vida cotidiana, se agudiza la posibilidad de que se produzcan daños, tanto intencionados como involuntarios. El debate en curso sobre las implicaciones de largo alcance de la IA generativa (GenAI) es sólo un ejemplo de cómo está aumentando la atención prestada a las posibles consecuencias de las soluciones tecnológicas, ya sea en forma de desinformación, emisiones excesivas de carbono o exclusión de determinados grupos. Según nuestra investigación sobre lo que los consumidores quieren de la GenAI, el 93% de los encuestados afirman que las empresas que no incorporan un pensamiento responsable y ético corren el riesgo de sufrir impactos perjudiciales.
Las organizaciones deben estar preparadas para que sus prácticas tecnológicas sean objeto de un mayor escrutinio y pensar en las ramificaciones éticas de sus elecciones tecnológicas, no sólo para los usuarios finales, sino para la sociedad en su conjunto.
La tecnología responsable garantiza que la consideración de todas las partes interesadas, así como las barreras en torno a la privacidad, la seguridad y la sostenibilidad, estén firmemente integradas en el enfoque tecnológico de la organización.
Como líderes debemos reconocer que a menudo nos cuesta predecir con exactitud las consecuencias de nuestras elecciones tecnológicas. La mayoría de las veces, los efectos negativos de la tecnología no son intencionados, pero no por ello son menos perjudiciales. Practicar la tecnología responsable es cuestión de ampliar nuestras perspectivas y aprovechar las herramientas y técnicas emergentes que pueden ayudar a las empresas en su viaje tecnológico responsable, desde el software seguro hasta el diseño que da prioridad a la privacidad.
La tecnología responsable no consiste sólo en ser conscientes de lo que podría ocurrir como resultado de nuestras acciones bienintencionadas. Se trata de estar plenamente comprometidos con el ahora, reevaluando constantemente a quién y qué protegemos y cómo lo hacemos; nunca hemos terminado.
La tecnología responsable no consiste sólo en ser conscientes de lo que podría ocurrir como resultado de nuestras acciones bienintencionadas. Se trata de estar plenamente comprometidos con el ahora, reevaluando constantemente a quién y qué protegemos y cómo lo hacemos; nunca hemos terminado.
Señales
- Nuevos recursos para definir y educar en prácticas tecnológicas responsables, como el manual sobre tecnología responsable elaborado conjuntamente por Thoughtworks y las Naciones Unidas, así como el plan de estudios sobre responsabilidades sociales y éticas de la informática elaborado por el MIT, disponible a través de la plataforma OpenCourseWare de la institución.
Iniciativas normativas y políticas diseñadas para imponer enfoques más considerados de la tecnología, como la Orden Ejecutiva de EE. UU. sobre el Desarrollo y Uso Seguro y Confiable de la Inteligencia Artificial, la Ley de Protección de Datos Personales Digitales 2023 de la India y la propuesta de la UE de regulación armonizada sobre IA y evaluación de impacto conectada.
La aparición de alianzas centradas en desarrollar y promulgar prácticas tecnológicas sostenibles. La Green Software Foundation, que ha desarrollado formación y código para programas informáticos menos intensivos en carbono y metodologías para calcular las emisiones asociadas a la tecnología, es un ejemplo destacado.
El nacimiento de fondos de inversión dirigidos a empresas y soluciones tecnológicas responsables, como Mozilla Ventures, que está canalizando 35 millones de dólares a startups en fase inicial que trabajan en privacidad, descentralización del poder digital e IA ética.
Un aumento de las empresas que promueven principios y credenciales de tecnología responsable, incluidos gigantes como IBM, PwC y Salesforce.
Adoptar
-
También conocida como identidad auto-soberana, la identidad descentralizada (DiD) es una arquitectura de identidad basada en estándares abiertos que utiliza identificaciones digitales propias e independientes y credenciales verificables para transmitir datos de confianza. Aunque no depende de las cadenas de bloques (blockchain), muchos ejemplos actuales se basan en ellas, así como en otras formas de tecnología de libro mayor distribuido y criptografía de clave privada/pública, su objetivo es proteger la privacidad y asegurar las interacciones en línea.
-
Controles de acceso a los datos más granulares, como los basados en políticas (PBAC) o en atributos (ABAC), que pueden aplicar más elementos contextuales a la hora de decidir quién tiene acceso a los datos.
Analizar
-
Normativas y orientaciones gubernamentales sobre el uso de la IA, destinadas a garantizar un uso responsable y las consecuencias de los sistemas de IA. Esto incluye la supervisión, el cumplimiento y las buenas prácticas.
-
Combina las herramientas y técnicas de IA con las ciencias del comportamiento y de la gestión con el fin de mejorar y ampliar la toma de decisiones y los responsables de la toma de decisiones en una variedad de problemas complejos, desde la planificación de escenarios hasta la investigación de operaciones.
-
Asistentes virtuales con IA y personajes no jugables que recrean la interacción humana dentro del metaverso.
-
Diseño de interfaces de usuario e indicaciones que ayuden a las personas a comprender las consecuencias ambientales de las decisiones que toman. Los ejemplos incluyen el sitio web de una aerolínea que muestra las emisiones de carbono de los vuelos o una herramienta de mapeo que muestra la producción de carbono al conducir una ruta en particular.
-
Sistemas que controlan las métricas de sistemas distribuidos complejos y toman medidas correctivas si se detecta un problema. A menudo se utilizan para la seguridad, pero cada vez más también para la resiliencia y la recuperación ante una interrupción.
-
Un conjunto emergente de técnicas para certificar la procedencia de los datos y gobernar su uso en toda una organización. Esto podría resultar transformador en el esfuerzo por seguir y mejorar el progreso hacia los objetivos de sostenibilidad.
Anticipar
-
Se trata de ataques contra (o mediante) sistemas de aprendizaje automático. Los atacantes pueden manipular los datos de entrenamiento o identificar entradas específicas que un modelo clasifica mal para crear deliberadamente resultados no deseados.
-
Término colectivo para los sistemas y dispositivos que pueden reconocer, interpretar, procesar, simular y responder a las emociones humanas.
-
Uso de estados probabilísticos de fotones, en lugar de unos y ceros binarios, para ejecutar algoritmos. Aunque se ha demostrado que funciona en espacios problemáticos concretos, la computación cuántica aún no se ha ampliado a aplicaciones de utilidad general.
-
Están surgiendo herramientas y técnicas que apoyan la incorporación de la tecnología responsable a los procesos de entrega de software, centrándose principalmente en la búsqueda activa de la incorporación de perspectivas infrarrepresentadas; algunos ejemplos son las Cartas del Tarot de la Tecnología, el Escaneado de Consecuencias y el Modelado Ágil de Amenazas.
-
Un sistema económico cerrado en el que las materias primas y los productos se comparten constantemente para perder su valor lo menos posible. La tecnología que apoya esto incluye servicios reutilizables, trazabilidad, IoT y minería de datos.
-
La mayoría de los términos de servicio (TOS) o acuerdos de licencia de usuario final (EULA) son una jerga legal impenetrable que dificulta su comprensión a las personas sin formación jurídica. El consentimiento comprensible pretende invertir este patrón, con términos fáciles de entender y descripciones claras de cómo se utilizarán los datos de los clientes.
Adoptar
Analizar
Anticipar
-
Una Inteligencia Artificial General (IAG) tiene amplias capacidades en toda una gama de tareas intelectuales, y a menudo se compara con la inteligencia de nivel humano. Esto contrasta con la actual IA "estrecha", que puede ser notable, pero sólo para tareas muy específicas.
-
Un estilo de arquitectura de datos en el que los individuos controlan sus propios datos de forma descentralizada, permitiendo el acceso en función del uso (por ejemplo, Solid PODs).
-
Formas de criptografía creadas en respuesta a desafíos tecnológicos o sociales. Los ejemplos incluyen algoritmos de cifrado resistentes a los cuánticos, informática confidencial con enclaves seguros de hardware especializados, cifrado homomórfico que permite que se realice el cálculo de los datos mientras aún están cifrados y criptografía energéticamente eficiente.
-
Algoritmos de aprendizaje automático adaptados y ejecutados en un motor de computación cuántica, generalmente utilizado para analizar datos clásicos (no cuánticos).
Las oportunidades
Adelantándose a la curva de este objetivo, las organizaciones pueden:
Prevenir el daño a la reputación entre los clientes, el talento y los inversores cuando los fallos éticos relacionados con la tecnología entran en la esfera pública. Más allá de mitigar los daños, una práctica tecnológica responsable eficaz puede reportar dividendos en términos de atracción y retención de clientes y talento. Una encuesta reciente entre trabajadores de la generación del milenio y de la generación Z, por ejemplo, reveló que para ellos es prioritario que los empleadores sean actores positivos en la comunidad y protejan los datos de los clientes.
Evitar el escrutinio normativo o las sanciones, como las que tuvo que afrontar Apple cuando el aparente sesgo en el algoritmo que establece los límites de gasto de la tarjeta de Apple desencadenó investigaciones sobre el uso de la IA por parte de la empresa.
Reducir la probabilidad de que se produzcan violaciones o usos indebidos de los datos. Casos como el robo masivo de datos de clientes del minorista Target y, más recientemente, las aparentes violaciones de la normativa de datos de la UE por parte de Meta han demostrado que estos incidentes conllevan costes punitivos que pueden prolongarse durante años.
Generar resultados medioambientales positivos. Los esfuerzos para medir y reducir la intensidad de carbono de la informática y el uso de la nube a través de herramientas como Cloud Carbon Footprint (CCF) de código abierto de Thoughtworks abren la puerta a la alineación de la tecnología con la estrategia global de sostenibilidad de la organización y el camino hacia el cero neto.
Lo que hemos hecho
Manual de tecnología responsable con la ONU
En consonancia con la Estrategia del Secretario General de las Naciones Unidas sobre nuevas tecnologías, la Secretaría de las Naciones Unidas colaboró con Thoughtworks para proporcionar orientación sobre cómo garantizar la inclusión, la conciencia de los prejuicios, la transparencia y la mitigación de las consecuencias negativas no deseadas en el examen de las tecnologías emergentes, incluida la inteligencia artificial generativa (GenAI). Tras una serie de entrevistas y talleres con una amplia gama de funcionarios de las Naciones Unidas, el equipo de Thoughtworks y las Naciones Unidas elaboró un marco y un conjunto de enfoques para la creación y gestión responsables de sistemas y productos tecnológicos.
Consejos prácticos
Cosas que hacer (Adoptar)
Tratar las prácticas tecnológicas responsables como un requisito interfuncional. Como se menciona en el título de este objetivo, incluir consideraciones éticas es fundamental para todas las organizaciones.
Actualizar continuamente la planificación y los procesos tecnológicos para incorporar técnicas y ejercicios que ayuden a determinar las consecuencias más amplias de las soluciones que se aplican o desarrollan, por ejemplo, implicando a grupos infrarrepresentados en el diseño y las pruebas, o simulando violaciones que muestren cómo podrían utilizarse indebidamente los datos. Haz que estas técnicas formen parte de cada proceso.
Establecer límites y políticas claras que rijan el uso de la IA y asegurarse de que se comunican no sólo a los tecnólogos, sino también a otras partes de la organización donde más personas experimentarán con herramientas de IA en sus funciones cotidianas.
Adoptar prácticas seguras de entrega de software, como hacer del desarrollo seguro una responsabilidad colectiva, producir código limpio, transparente y fácil de mantener, y realizar pruebas continuas.
Examinar los procesos y herramientas de desarrollo de software para comprender dónde se pueden tomar decisiones más sostenibles. Comprender la relación coste/beneficio de las técnicas de ingeniería de software ecológico.
- Ser un buen consumidor tomando medidas para conocer las posturas de sus socios y proveedores en materia de tecnología responsable, y esforzándose por comprometerse y apoyar a las organizaciones que demuestren su compromiso con el uso ético de la tecnología.
Aspectos a tener en cuenta (Analizar)
Desarrollar fuentes de datos fiables examinando la procedencia de la información, recopilando datos siempre que sea posible de proveedores que hayan sido examinados y forjando alianzas con organizaciones de confianza en su espacio que regulen la puesta en común y el intercambio de datos.
Considerar constantemente los cambios en lo que constituye una tecnología responsable. La tecnología evoluciona rápidamente; puede que las actividades problemáticas del mañana ni siquiera sean posibles con la tecnología de hoy.
Adoptar un código ético para el desarrollo de software, ya sea elaborando principios adaptados a su organización o basándose en normas pioneras como el Código de Ingeniería de Software ACM/IEEE-CS o promoviéndolas.
- Aplicar técnicas ecológicas de desarrollo de software, como la supervisión del consumo de energía en tiempo real para mantener las emisiones en el nivel mínimo viable, la optimización de la infraestructura y los algoritmos y una cuidadosa selección tanto de la ubicación como del momento de computación.
Cosas a tener en consideración (Anticipar)
Evolución de las oportunidades y amenazas derivadas de los avances en IA. A medida que las fronteras de lo que la IA puede crear -o manipular- se amplían rápidamente, promete hacer contribuciones significativas a todo, desde la investigación de mercado hasta el desarrollo de productos. Sin embargo, también acelerará enormemente la escala y el alcance de fuerzas destructivas como los deepfakes y las campañas de desinformación. Asegúrate de que tu organización es consciente de los nuevos dilemas que planteará la IA y está preparada para afrontarlos, incluso aprovechando sus capacidades.
- Normativa en evolución. Es de esperar que se produzcan cambios normativos en toda la gama de áreas tecnológicas responsables. Eduque a sus organizaciones de cumplimiento sobre los nuevos organismos reguladores o agencias que deben ser supervisados y potencialmente comprometidos en las amplias áreas que hemos cubierto aquí.