Se recomienda urgentemente a los científicos de datos a hacer de la explicabilidad un criterio de selección clave para modelos de aprendizaje automático.
Actualmente, Thoughtworks, una consultora de software global, publicó el Volumen 21 de su Radar Tecnológico, un reporte bi-anual creado en base a las observaciones, conversaciones y experiencias de Thoughtworks al momento de resolver los retos de negocio más difíciles de sus clientes. En la última edición se destaca: cómo herramientas emergentes como What-If, y técnicas como las pruebas de sesgo técnico hacen que Machine Learning sea más entendible, por qué el desarrollo de software debe considerarse un deporte de equipo, y la forma de navegar en el creciente y competitivo mercado de la nube y, por último, la evolución hacia la gobernanza como código.
“Uno de los temas más importantes del Radar Tecnológico de este año es la explicabilidad del Machine Learning," dice la Dra. Rebecca Parsons, Chief Technology Officer de Thoughtworks.
“Las herramientas de Machine learning se utilizan para tomar decisiones que impacten en la vida real. Sin embargo, muchos de estos modelos son inherentemente opacos. Esto resulta problemático cuando las personas necesitan saber cómo se tomó una decisión. De igual forma, si el proceso de entrenamiento no es abierto, existe el riesgo de introducir prejuicios, muestras, algoritmos u otros sesgos en el modelo de Machine Learning”.
Para combatir los problemas con Machine Learning y explicabilidad, las/os Thoughtworkers solicitan urgentemente a las/os líderes de negocio y gerentes de TI, que supervisan los ecosistemas de Machine Learning, que incrementen la persidad de sus equipos de desarrollo para reducir riesgos no intencionales en modelos de ML, y a utilizar herramientas que puedan reducir el sesgo algorítmico.
Otros temas, dignos de mencionar, incluidos en el Radar Tecnológico Vol.21 de este año incluyen:
- Interpretación de la Caja Negra de ML. Machine learning está tomando más decisiones pero sus cálculos aún son difíciles de entender. La introducción de herramientas que incrementan la transparencia y el formar equipos persos de desarrolladoras/es es esencial para combatir la caja negra de ML.
- Desarrollo de Software como un Deporte de Equipo. Las herramientas y técnicas que aíslan a los miembros de los equipos de software entre sí, dificultan la retroalimentación y colaboración. En lugar de centrarse en memes inpidualistas como "10x engineers", la innovación prospera cuando se introducen diferentes especialidades en equipos "10x" colaborativos y multifuncionales.
- Cloud: Es más menos? A medida que los principales proveedores de cloud computing han logrado casi una paridad en la funcionalidad central, la competencia se ha trasladado a servicios adicionales que pueden proporcionar. En su prisa por competir, nuevos servicios están siendo entregados al mercado con asperezas y componentes incompletos, así que no hay que asumir que todos los servicios son de igual calidad.
- Protección de la cadena de suministros de software. A medida que el ecosistema de desarrollo de software se vuelve más automatizado, las organizaciones deben resistir las reglas de gobierno de la torre de marfil donde se requieren largas inspecciones y aprobaciones manuales, y la adopción de procesos automatizados.
El Radar Tecnológico de Thoughtworks se publica dos veces al año, pero Thoughtworks anima a otras compañías a aplicar un pensamiento similar al del Radar todo el año para criticar su propio panorama tecnológico.
"Al analizar los puntos débiles de nuestro radar tecnológico, identificamos el valor más preciado: el conocimiento (sobre lo que funciona bien y los intentos en vano)", dice Thomas Spillecke, Arquitecto de TI de aplicaciones en la nube en Porsche. "El Radar Tecnológico conserva nuestro conocimiento, pero solo funciona si lo actualizamos regularmente".
Visita Thoughtworks.com/es/radar para explorar la versión interactiva del Radar o para descargar la versión en PDF.