Cientistas de dados urgem em fazer a explicabilidade um critério de seleção crucial para modelos de aprendizado de máquina.
Hoje, a Thoughtworks, uma consultoria global de software, lançou o Volume 21 do Technology Radar, um relatório semestral com base nas observações, conversas e experiências em resolver os desafios mais duros de seus clientes. A última edição destaca como ferramentas emergentes, como a What-If, e técnicas como testes com viés ético tornam o aprendizado de máquina mais inteligível, por que desenvolvimento de software deve ser tratado como um esporte de equipe, como navegar no cada vez mais competitivo mercado de nuvem e a evolução da governança como código.
“Um dos tópicos mais importantes no Technology Radar este ano é a explicabilidade do aprendizado de máquina”, diz a dra. Rebecca Parsons, CTO da Thoughtworks.
“A ferramentas de aprendizado de máquina são usadas para tomar decisões impactantes. Contudo, muitos desses modelos são inerentemente obscuros. Isso é problemático quando as pessoas precisam saber como uma decisão foi tomada. De maneira similar, se o processo de treinamento não é aberto, há um risco de se introduzir preconceito, sampling, algoritmos ou outros vieses no modelo de aprendizado de máquina.”
Para combater esses problemas com o aprendizado de máquina e explicabilidade, os Thoughtworkers aconselham os líderes de negócio e gerentes de TI que supervisionam os ecossistemas de aprendizado de máquina a aumentarem a persidade em seus times de desenvolvimento para reduzir os riscos não-intencionais nos modelos de aprendizado de máquina e a usar ferramentas que possam reduzir os vieses algorítmicos.
Outros temas que merecem ser observados neste Volume 21 do Technology Radar incluem:
Interpretando a caixa preta do aprendizado de máquina. O aprendizado de máquina está tomando mais decisões, mas seus cálculos ainda são difíceis de entender. Introduzir ferramentas para aumentar a transparência e montar um time perso de pessoas desenvolvedoras é essencial para combater a caixa preta do aprendizado de máquina.
Desenvolvimento de software como um esporte de equipe. Ferramentas e técnicas que isolam membros dos times de software uns dos outros dificultam o feedback e a colaboração. Em vez de focar em conceitos inpidualistas como “engenheiros x10”, a inovação prospera ao colocarmos especializações separadas em “times x10” colaborativos e multifuncionais.
Nuvem: mais é menos? À medida que os maiores provedores de nuvem se aproximam da igualdade nas principais funcionalidades, a competição passa a ser nos serviços extras que fornecem. Na pressa para competir, novos serviços estão sendo entregues para o mercado com imperfeições e features incompletas, então não ache que todos os serviços são iguais em qualidade.
Protegendo a cadeia de suprimentos de software. À medida que o ecossistema de desenvolvimento de software se torna mais automatizado, as organizações devem resistir às regras de governança supervalorizadas que requerem aprovação e inspeção manual demorada e adotar os processos automatizados.
O Technology Radar da Thoughtworks é publicado duas vezes por anos, mas a Thoughtworks encoraja outras empresas a usarem o pensamento como o do Radar o ano todo para analisar seu próprio cenário de tecnologia.
"Ao discutirmos os blips do nosso Technology Radar, identificamos um valor muito precioso: conhecimento (sobre o que funciona bem e quais tentativas foram em vão)", diz Thomas Spillecke, arquiteto de TI de aplicativos em nuvem da Porsche. "O Technology Radar contribui para preservar nosso conhecimento - mas só funciona se o atualizarmos regularmente."
Acesse Thoughtworks.com/pt/radar para explorar a versão interativa ou faça o download do PDF.