Em tempos de incerteza, as empresas tendem a intensificar os esforços para gerenciar custos. Mas quando se trata de inteligência artificial (IA) e aprendizado de máquina (machine learning ou ML), muitas ainda parecem dispostas a investir. O mercado global de IA, incluindo software, hardware e serviços, está crescendo a uma taxa composta de quase 20% ao ano, e deve ultrapassar a marca de US$ 500 bilhões até 2024.
As empresas priorizam a IA por vários motivos: para oferecer uma melhor experiência de cliente, para ajudar profissionais a evoluir suas entregas, para cortar custos ou simplesmente para se manter competitivas. Mas a IA é sempre um bom investimento?
Evidências tanto informais quanto estatísticas desenham um quadro difuso. Um estudo recente descobriu que, embora a maioria das lideranças executivas considere a IA crítica para o futuro de suas organizações, o retorno sobre o investimento típico em IA é de pouco mais de 1%. A maioria das empresas espera de um a três anos pelo retorno de um projeto de IA.
A espera pelo ROI da IA
Fonte: ESI ThoughtLab
Em alguns casos, as implementações de IA representam riscos elevados. Um exemplo é o esforço altamente celebrado, do MD Anderson Cancer Center da Universidade do Texas em parceria com a IBM, para desenvolver uma tecnologia de IA capaz de prestar consultoria a pacientes com câncer. A iniciativa foi suspensa, apesar dos mais de US$ 60 milhões de investimento no projeto desembolsados pelo MD Anderson Cancer Center.
O prejuízo também pode ser na reputação. Recentemente, uma seguradora digital líder de mercado se viu forçada a recuar depois de se vangloriar da capacidade de sua IA de detectar fraudes e impulsionar lucros. As afirmações provocaram uma onda avassaladora de críticas do público e uma reflexão profunda da indústria.
Casos como esses evidenciam que, apesar do incrível potencial da IA, até mesmo as melhores ideias e intenções podem dar errado. Os riscos são particularmente altos quando comparamos IA com outras tecnologias. Além de ser cara, sua aplicação na tomada de decisões importantes – seja participando ou assumindo integralmente – inevitavelmente esbarra em questões éticas, como quem tem acesso aos serviços ou a relação entre ser humano e máquina no trabalho.
Alguns movimentos em falso são suficientes para criar inconsistências, reforçar vieses e gerar consequências negativas não intencionais. No entanto, quando bem planejada e usada, a IA é capaz de contribuir significativamente com os negócios e com a sociedade, automatizando tarefas repetitivas ou perigosas, resolvendo problemas complexos, possibilitando a inovação de produtos e ajudando as organizações a trilhar novos caminhos.
I. Identificando e perseguindo oportunidades para a IA
Uma abordagem bem-sucedida de IA começa por uma pergunta importante: é algo de que a empresa realmente precisa? “Na maioria das vezes, a IA é uma ferramenta em busca de um problema”, observa Rebecca Parsons, Chief Technology Officer da Thoughtworks. “As empresas já gastaram muito dinheiro tentando fazer algo que achavam ser a coisa certa e não funcionou. Isso não significa necessariamente que a tecnologia seja errada – pode ser apenas que esteja sendo mal utilizada.”
“Na maioria das vezes, a IA é uma ferramenta em busca de um problema. As empresas já gastaram muito dinheiro tentando fazer algo que achavam ser a coisa certa e não funcionou. Isso não significa necessariamente que a tecnologia seja errada – pode ser que esteja apenas sendo mal utilizada.”
Rebecca Parsons
Chief Technology Officer, Thoughtworks
As raízes da tecnologia que atualmente é conhecida como IA remetem a décadas atrás, quando o progresso era limitado pelo poder computacional – um obstáculo que pode parecer impensável nos dias de hoje, com dados e recursos de processamento acessíveis, abundantes e se propagando de maneira contínua. No entanto, apesar de todos os avanços, às vezes os truques antigos podem ser tão eficientes quanto as novas soluções.
“Usar técnicas de análise mais tradicionais pode não parecer particularmente empolgante, mas você pode aprender algumas coisas interessantes a partir de conjuntos de dados usando algumas das abordagens básicas de estatísticas e análise de dados”, observa Parsons.
Embora os termos sejam frequentemente usados como sinônimos, Parsons destaca que é importante distinguir aprendizado de máquina – ou seja, máquinas executando algoritmos, modelos de aprendizagem e extração de padrões ou informações a partir dos dados – e inteligência artificial. A definição de IA é muito mais debatida e contestada, mas abrange de forma geral o conceito de máquinas executando tarefas consideradas inteligentes no sentido humano – ou seja, demonstrando capacidade de "raciocínio" de forma independente.
Uma convergência de forças tecnológicas cria as bases para que a IA brilhe
Fonte: Thoughtworks
Tradicionalmente, ML e IA entregam os melhores resultados em soluções que tem como foco produtividade, eficiência e qualidade, automatizando tarefas enfadonhas e maçantes. A Gartner prevê um crescimento mundial vertiginoso para tecnologias capazes de habilitar a "hiperautomação" – termo usado para descrever a identificação, verificação e automação de um grande número de processos. Até 2024, as organizações que conseguirem combinar hiperautomação com redesenho de processos devem reduzir seus custos operacionais em até 30%.
A IA oferece muitas oportunidades para eliminar erros humanos e acelerar processos, especialmente aqueles baseados na identificação de padrões.
As redes neurais – sistemas complexos orientados por algoritmos modelados a partir do cérebro humano – “são incrivelmente eficientes no reconhecimento de padrões”, explica Parsons. “Às vezes, quando as pessoas ouvem falar de reconhecimento de padrões, pensam em reconhecimento de caracteres ou imagens. Mas a detecção de fraudes, por exemplo, é essencialmente um problema de reconhecimento de padrões. O modelo basicamente identifica padrões do que você considera uma atividade fraudulenta ou uma atividade normal. Usar a IA para sinalizar movimentações de cartão de crédito incomuns ou realizar análises de imagem libera as pessoas para trabalhos de maior valor.”
IA e ML também são extremamente úteis para resolver problemas de escala nas organizações. As variáveis aumentam exponencialmente quando as demandas crescem, e contar apenas com a experiência e a análise humanas pode rapidamente se tornar insuficiente. Por exemplo, uma loja de varejo local atendendo a um grupo regular de clientes em uma pequena cidade, e implantando algumas rotas regulares de entrega, pode não ter escopo suficiente para se beneficiar da eficiência da IA. No entanto, organizações com grandes operações globais e cadeias de suprimentos complexas tendem a se beneficiar muito com a otimização orientada pela IA.
Um fator fundamental para o sucesso de projetos de IA é garantir que os processos selecionados para automação sejam profundamente relevantes para o negócio e já funcionem bem. “As empresas precisam ter em mente que a IA não vai consertar um processo quebrado, vai apenas automatizá-lo – e pode até piorá-lo caso seja um processo ruim”, explica Parsons.
Depois de identificar áreas específicas do negócio em as aplicações de IA podem criar valor mensurável, “é aconselhável começar com vários pilotos simples e de baixo custo para testar suas ideias e avaliar se estão na direção certa”, aconselha Maria Pusa, Principal Consultant da Fourkind, que é parte da Thoughtworks. “Esta é a única maneira de avaliar se o projeto será um bom investimento.”
“Um dos erros que as empresas cometem é comprar ou construir uma plataforma de dados robusta antes de mapear sua jornada de IA”, acrescenta ela. “Isso é arriscado porque exige muitos recursos, pode ser caro e demorar muito para que os dados sejam utilizáveis. Enquanto isso, sua concorrência pode avançar com projetos de IA menores, mas com maior impacto.”
Ao mesmo tempo, acelerar o processo de planejamento e avaliação também é perigoso. “Um ROI muito maior pode ser obtido se mais tempo for gasto em planejamento e reflexão sobre o que você realmente vai fazer, antes de executar um piloto ou POC (prova de conceito)”, pontua Jarno Kartela, Principal Consultant na Fourkind, que é parte da Thoughtworks.
Uma pesquisa recente indicou que a grande maioria de profissionais do conhecimento enxerga os benefícios da automação, mas quase um quarto está determinado a evitá-la completamente, principalmente porque não têm convicção de que será útil para sua função. Por isso, é crucial investir tempo e dedicação para conquistar as pessoas já nos estágios de planejamento.
“Implantar rapidamente em produção sem o alinhamento adequado com a equipe pode resultar em problemas no futuro”, explica Kartela. “As pessoas podem não confiar no sistema ou sentir que foram excluídas do processo de criação. Você precisa estabelecer incentivos ou demandas internas para obter adesão – não apenas da alta diretoria, mas também dos indivíduos – e dedicar mais tempo ao planejamento e à cocriação para garantir melhores resultados.”
II. Da automação à humanidade – e a criatividade – aumentada
As organizações também devem definir a extensão de suas ambições de IA – se ficarão limitadas à automação de tarefas monótonas, repetitivas e triviais; ou se serão expandidas para oportunidades mais criativas e estratégicas, nas quais os sistemas trabalham em colaboração com habilidades e conhecimentos humanos, tornando-se o que Kartela chama de “tecnologia como colega de trabalho”. Esta é uma das principais tendências identificadas no relatório Looking Glass da Thoughtworks sobre as forças que irão moldar a tecnologia e os negócios no futuro.
“A automação de tarefas rotineiras oferece rápido retorno sobre o investimento, e esse valor pode ser significativo”, observa ele. “Mas essa possibilidade é óbvia também para sua concorrência, então não vai representar uma vantagem competitiva por muito tempo. Refletir sobre o que a IA pode oferecer para a tomada de decisões, tarefas criativas e planejamento estratégico pode levar as coisas a outro nível.”
"Refletir sobre o que a IA pode oferecer para a tomada de decisões, tarefas criativas e planejamento estratégico pode levar as coisas a outro nível.”
Jarno Kartela
Principal Consultant na Fourkind, que é parte da Thoughtworks
O continuum de valor da IA
Fonte: Fourkind
Em vez de se concentrar apenas na produtividade e na eficiência, a IA agora pode ser usada para entregar valor excepcional e orientar a direção estratégica da organização. A IA não se restringe apenas a tarefas com uso intensivo de dados, podendo ser igualmente útil para a resolução de problemas que envolvem pequenos bits e grandes possibilidades, como planejamento de cenários, pesquisa e desenvolvimento.
“Técnicas como essas podem ser usadas quando você não sabe a resposta para uma pergunta urgente ou precisa coordenar algo como uma rede logística complexa em escala significativa”, observa Parsons. “Você pode deixar os algoritmos explorarem os dados, ver o que irão encontrar, e talvez indicar o caminho para possíveis inovações.”
“Você pode deixar os algoritmos explorarem os dados, ver o que irão encontrar, e talvez indicar o caminho para possíveis inovações.”
Rebecca Parsons
Chief Technology Officer, Thoughtworks
O aeroporto de Kittilä, na Finlândia, é uma vitrine da capacidade da IA de garantir um desempenho extraordinário com recursos limitados e cenários imprevisíveis. Em rápido crescimento, o aeroporto estava tendo problemas com a falta de vagas de estacionamento para um número crescente de voos, o que culminou em gargalos logísticos frequentes.
Colaborando com a gestão do aeroporto e especialistas em estacionamento de aeronaves, a Thoughtworks criou um modelo de otimização que usa dados de voo para construir um plano de estacionamento aprimorado, além de prever e aprender com os horários de chegada e número de pessoas a bordo.
O aeroporto registrou um aumento de 12% no número de voos e um crescimento de 20 pontos em seu net promoter score (NPS). A redução no número e na duração dos atrasos de voos relacionados 1a logística aeroporto totalizou uma economia de custos estimada em € 500.000 (US$ 588.000). Além disso, as emissões de dióxido de carbono foram reduzidas à medida que os aviões gastavam menos tempo circulando o aeroporto enquanto esperavam por uma vaga no estacionamento.
“A otimização da cadeia logística combinada com ML tem um potencial significativo porque não envolve apenas eficiência em termos de custos; é também uma questão de sustentabilidade”, destaca Pusa. “Quanto mais complexos os processos, maior o potencial de ROI.”
“A otimização da cadeia logística combinada com ML tem um potencial significativo porque não envolve apenas eficiência em termos de custos; é também uma questão de sustentabilidade. Quanto mais complexos os processos, maior o potencial de ROI.”
Maria Pusa
Principal Consultant na Fourkind, que é parte da Thoughtworks
A capacidade da IA de levar as organizações a novos patamares não para por aí. “As iniciativas de pesquisa e desenvolvimento aumentadas pela IA também têm potencial de impacto positivo para qualquer negócio – desde uma pequena confeitaria até uma empresa de design de tênis ou soluções de arquitetura”, observa Pusa.
Além de criar música, poemas e obras de arte originais, a IA também colaborou com especialistas para desenvolver produtos novos, como cadeiras e até mesmo uma bebida premiada.
A Thoughtworks uniu forças com a célebre destilaria sueca Mackmyra para desenvolver o primeiro whisky combinado com IA do mundo. Ao construir um modelo que incorporou dados de uma ampla variedade de fontes – receitas anteriores, notas de degustação, avaliações de especialistas e informações do barril – a equipe conseguiu desenvolver uma nova mistura com muito mais rapidez do que seria possível manualmente, além de encontrar novas combinações que de outra forma provavelmente nunca teriam sido consideradas. As receitas potenciais foram avaliadas e posteriormente ajustadas com base na entrada da Master Blender e Chief Nose Officer da Mackmyra antes que a melhor receita fosse selecionada – um exemplo perfeito da humanidade aumentada em ação.
“A ideia central da IA criativa não é prever algo com a maior precisão possível, ou tentar obter algum tipo de conversão, mas sim simular a criatividade para tornar o processo de idealização de novos produtos mais fácil, rápido e eficiente”, explica Kartela.
“A ideia central da IA criativa não é prever algo com a maior precisão possível, ou tentar obter algum tipo de conversão, mas sim simular a criatividade para tornar o processo de idealização de novos produtos mais fácil, rápido e eficiente.”
Jarno Kartela
Principal Consultant na Fourkind, que é parte da Thoughtworks
III. Navegando pelos dados e pelas dimensões humanas e éticas
Aproveitar o potencial criativo da IA exige que as organizações considerem três aspectos críticos e complexos: dados, pessoas e ética.
Como base para qualquer modelo ou algoritmo, os dados determinam o desempenho de uma solução de IA, o que significa que a velha máxima da ciência da computação de "garbage in, garbage out" se aplica.
“São necessários muitos recursos para treinar um modelo de IA”, observa Parsons. “Não basta apenas ter dados limpos, entender as forças que moldaram esses dados também ajuda, mas muitas vezes as pessoas não vão tão longe”.
Não importa o quão poderosa seja a tecnologia subjacente, dados desorganizados ou distorcidos podem criar um sistema que gera resultados problemáticos. Quando se trata de IA e ML, problemas menores podem rapidamente se transformar em problemas maiores à medida que o sistema evolui com base em conclusões anteriores imprecisas ou incompletas.
“As organizações tendem a subestimar o trabalho necessário para posicionar os dados onde possam ser de fato usados”, diz Parsons. “Dados não envelhecem bem e, com o passar dos anos, muitos conjuntos de dados desenvolvem pequenas armadilhas. Quando você está analisando dados de dez anos atrás, nem tudo significa a mesma coisa que significava naquele contexto. Você não consegue extrair respostas relevantes de dados sujos.”
A qualidade foi apontada como o grande desafio relacionado a dados enfrentado pelas organizações em projetos de IA. Outras dificuldades incluem governança, segurança e integração de fontes de dados díspares.
As barreiras de dados que impedem o sucesso da IA
Fonte: ESI ThoughtLab
“Normalmente, para ter ML de alta qualidade, você precisa de dados de toda a empresa”, diz Pusa. “Mas eu presenciei muitos casos em que as empresas não conseguiam acessar seus próprios dados, porque estavam enterrados em sistemas legados. Se a organização e os dados se dividirem em vários silos, pode ser quase impossível combinar tudo isso em um só lugar para construir um enorme modelo preditivo.”
Superar isso requer uma avaliação genuína de quais recursos de dados estão disponíveis e como os dados podem ser efetivamente limpos e combinados. Ao mesmo tempo, problemas com dados históricos não devem impedir uma organização de explorar a IA. Na verdade, o excesso de confiança em dados históricos pode ser contraproducente.
“É um equívoco acreditar que você deva ter uma única fonte de verdade em um único lugar e em um formato limpo para começar a aplicar IA”, explica Kartela. “Você não pode necessariamente prever seu futuro com base em seu próprio passado, e os dados coletados nos últimos dez anos podem ser irrelevantes para um projeto que está ligado à precificação, por exemplo. Em vez disso, crie modelos de ML que realmente explorem novos espaços e aprenda as relações causais entre o preço e uma ação específica de cliente no presente.”
“A ideia de que você precisa de toneladas de dados para começar em qualquer coisa está desatualizada”, concorda Pusa. “O aprendizado de máquina foi efetivamente colocado online porque esta é a única maneira de acompanhar as mudanças. Pode ser mais fácil começar com insights em tempo real do que com dados históricos, porque as soluções geralmente são mais leves. A ideia é experimentar coisas diferentes e ver o que funciona e o que não funciona. É isso que vai preparar você para reagir a tendências que evoluem com rapidez.”
“Pode ser mais fácil começar com insights em tempo real do que com dados históricos, porque as soluções geralmente são mais leves. A ideia é experimentar coisas diferentes e avaliar o que funciona e o que não funciona (...) para reagir a tendências que evoluem com rapidez.”
Maria Pusa
Principal Consultant na Fourkind, que é parte da Thoughtworks
Incluindo a IA na equipe
À medida que os projetos de IA passam a contribuir com processos, ou até mesmo assumir funções desempenhados por pessoas, é preciso avaliá-los em termos de impacto humano. Isso significa que esses projetos não podem ser domínio exclusivo de tecnologistas se a intenção é garantir a adesão organizacional necessária para gerar resultados genuinamente transformadores.
“Nas aplicações de IA e ML, fazer a pergunta certa e respondê-la é a chave”, observa Kartela. “Quando você está tentando explorar esse aspecto, quanto mais interdisciplinar for a equipe, melhor, mas você precisa de pelo menos três funções principais. Em primeiro lugar, a pessoa que conhece a tecnologia de maneira aplicada e como usá-la para resolver problemas de negócios – normalmente CTO ou CDO. Em segundo lugar, a pessoa que conhece o delta de seu negócio, entende o que você está tentando para chegar onde precisa estar em cinco anos. E terceiro, alguém com uma função de design estratégico, cuja responsabilidade no dia a dia é pensar em termos de pessoas, funções e competências, com empatia para criar coisas que façam a diferença.”
O compromisso da liderança sênior e a comunicação contínua ajudam muito a superar qualquer resistência, de acordo com Pusa. “Para conduzir iniciativas de IA/ML, é necessário que alguém que tenha influência positiva dentro da organização converse com cada setor envolvido”, ela sugere. “A principal mentalidade que você precisa desenvolver é de que o projeto têm como objetivo ajudar as pessoas a desempenhar suas atividades. É muito importante que todas as pessoas envolvidas no processo também estejam incluídas no projeto. Isso também é necessário para criar um bom modelo de ML, porque você precisa realmente entender os desafios, restrições e objetivos.”
“Quando as pessoas se envolvem, o jogo muda”, acrescenta ela. “Eu acompanhei vários projetos em que as pessoas que inicialmente se opuseram acabaram sendo as maiores entusiastas.”
Os projetos de IA precisam de todo o apoio possível, em parte porque as competências mais relevantes continuam escassas. Em uma pesquisa recente, as empresas citaram a escassez de talento como o maior obstáculo para a adoção de IA, acima de desafios técnicos e de dados.
Como a escassez de talentos influencia a adoção de IA
Fonte: O’Reilly
De acordo com Parsons, em vez de esperar que a situação melhore, as empresas precisam retornar ao que antes era uma prática padrão.
“A crise de talentos certamente não é uma preocupação exagerada”, ela afirma. “Isso significa que as empresas terão que investir no desenvolvimento dessas capacidades e, em seguida, criar um ambiente onde consigam mantê-las. Se você observar a evolução do relacionamento entre organizações empregadoras e pessoas empregadas nos últimos 30 anos, verá que as organizações costumavam ter programas de treinamento interno extensos. Então, passamos por um período em que você não conseguia um emprego a menos que já soubesse como fazê-lo. Agora as pessoas estão percebendo que, se não houver talento suficiente lá fora, elas têm que voltar a se concentrar no desenvolvimento interno.”
"Se você observar a evolução do relacionamento entre organizações empregadoras e pessoas empregadas nos últimos 30 anos, verá que as organizações costumavam ter programas de treinamento interno extensos. Então, passamos por um período em que você não conseguia um emprego a menos que já soubesse como fazê-lo. Agora as pessoas estão percebendo que, se não houver talento suficiente lá fora, elas têm que voltar a se concentrar no desenvolvimento interno.”
Rebecca Parsons
Chief Technology Officer, Thoughtworks
As empresas podem ajudar a cultivar as habilidades internamente, enxergando os projetos de IA como oportunidades de aprendizado – para todas as pessoas. “O desenvolvimento profissional é um problema que as organizações precisam resolver, já que a maioria das atividades mudará drasticamente nos próximos dez anos”, afirma Kartela. “Você precisa descobrir como escalar as competências de toda a organização, não apenas funções individuais, mas também da alta diretoria.”
“É fundamental que você pense em como transformar seus projetos de tecnologia em projetos de aprendizagem para toda a empresa”, concorda Pusa. “A aprendizagem deve fazer parte dos principais resultados e objetivos de cada projeto.”
Com a área em rápida evolução, uma reflexão cuidadosa também deve ser feita para identificar que tipo de talento de IA/ML a empresa precisa.
“Conforme o aprendizado de máquina e a IA aplicada avançam, vamos criar ferramentas e estruturas cada vez melhores e mais fáceis de usar – o que significa que IA e ML irão se fundir ao desenvolvimento de software nos próximos anos, tornando-se muito mais acessíveis para a maioria das empresas adotar”, explica Kartela. “A maioria das empresas atualmente consegue contratar talentos de ciência de dados muito rapidamente, mas se você não conseguir criar o ambiente certo, esse talento pode acabar fazendo o trabalho de profissionais de desenvolvimento de software e engenharia de dados – o que poderá rapidamente provocar insatisfação e, consequentemente, a saída desses talentos.”
Kartela vê o talento em IA/ML evoluindo em duas direções principais – “uma com foco em estratégia e aplicação de IA e ML na resolução de problemas, e a outra totalmente especializada em um subconjunto específico de problemas, como visão computacional ou processamento de linguagem natural. Haverá casos em que fará sentido contratar esse talento específico, mas não para a maioria das empresas”.
Pusa aponta IA e ML constituem uma área em que as organizações não devem hesitar em procurar ajuda externa.
“Às vezes, identificar a solução sob medida certa requer conhecimentos matemáticos”, explica. “É fácil comprar soluções de IA prontas, mas você pode acabar gastando muito dinheiro em algo relativamente simples. Porque há um exagero em torno disso, que dá margem para preços fora da realidade. Conversar com outras consultorias ou especialistas na área pode ajudar a encontrar a melhor opção, sem cometer esse tipo de erro.
Lidando com pontos cegos éticos
Junto com o talento, a ética é um dos principais desafios que as empresas inevitavelmente enfrentam ao desenvolver uma prática de IA/ML. Os desdobramentos éticos de uma solução de inteligência artificial são difíceis de prever e podem não ser evidentes até bem depois de uma solução ser acionada.
Por exemplo, as avaliações de alguns dos primeiros algoritmos de reconhecimento facial evidenciaram uma precisão muito reduzida ao lidar com certos grupos demográficos, particularmente pessoas negras e mulheres. Como algumas dessas soluções foram comercializadas para instituições de justiça, essas discrepâncias tinham o potencial de gerar consequências altamente negativas.
Um estudo recente da FICO mostrou que mais de três quartos das lideranças de negócios entendem que soluções de IA e ML pode ser mal utilizadas. No entanto, essa consciência ainda não se traduziu em foco ou ação. Apenas 35% dessas mesmas lideranças afirmaram que suas organizações se esforçam para usar IA de forma justa e responsável, e 78% sentem que não têm à sua disposição os recursos necessários para lidar com as implicações éticas do uso de novos sistemas de IA.
De acordo com Parsons, o melhor investimento de segurança contra potenciais resultados éticos negativos da IA é formar equipes diversas. “Na medida do possível, você precisa que as pessoas envolvidas tenham diferentes visões do processo e diferentes pontos de interseção com o sistema ou com os dados. Você precisa ter algumas pessoas bem familiarizadas com o funcionamento do sistema e também com as possíveis consequências", ela alerta. “Isso é muito importante, porque explorar os problemas sistêmicos que podem afetar a geração dos dados é difícil. Você precisa da opinião de pessoas que não estão necessariamente empenhadas em defender o sistema que existe atualmente.”
“Na medida do possível, você precisa que as pessoas envolvidas tenham diferentes visões do processo e diferentes pontos de interseção com o sistema ou com os dados. Você precisa ter algumas pessoas bem familiarizadas com o funcionamento do sistema e também com as possíveis consequências. Isso é muito importante, porque explorar os problemas sistêmicos que podem afetar a geração dos dados é difícil. Você precisa da opinião de pessoas que não estão necessariamente empenhadas em defender o sistema que existe atualmente.”
Rebecca Parsons
Chief Technology Officer, Thoughtworks
Os elementos da tecnologia ética
Fonte: Thoughtworks
A explicabilidade, especialmente em relação às fontes de dados, é outro elemento essencial de uma abordagem de IA responsável. Parsons aponta que muitos dos problemas que dificultavam o reconhecimento facial poderiam ter sido evitados com uma avaliação objetiva dos conjuntos de dados usados para treinar esses sistemas, que favorecem predominantemente homens brancos.
“Você tem que fazer um censo de seus dados”, sugere ela. “Comece revisando os números para verificar se certas categorias estão mais ou menos representadas, e quais diferenças na representação podem implicar o tipo de problema que você está tentando evitar. Em seguida, faça uma exploração completa do sistema e veja se há alguma maneira de compensar o enviesamento, ou de retificar a sub-representação em seu conjunto de dados. Pense nas possíveis consequências do uso desse conjunto de dados, dados os vieses que foram identificados. Essas são conversas complexas, mas precisam acontecer – e muitas pessoas estão começando a tê-las somente agora.”
“A questão (com IA/ML) é que, para construir um sistema totalmente ético no que diz respeito a raça, sexo, idade ou outros fatores, você precisa saber esses dados”, observa Kartela. “Você poderia pensar que o oposto é verdadeiro, que fornecer essas informações levaria a um viés, mas na verdade é a única maneira de saber que está tratando grupos diferentes da mesma forma. Se você não tiver esses dados, há o risco de que o modelo aprenda sobre raça ou outro aspecto com os dados implícitos, as ações e interações das pessoas e como elas usam o serviço. Fica ainda pior se você usar seus próprios dados tendenciosos do passado para fazer recomendações para o futuro.”
“O mais importante é ser transparente em tudo o que você faz para clientes finais”, acrescenta Kartela. “Se você for transparente em termos de ações e pontos de dados que está usando para criá-las, isso cria mais confiança e elimina a maioria dos problemas.”
“Questões éticas surgem em qualquer aplicação, e a IA não é diferente”, lembra Pusa. “A melhor regra é nunca usar dados que você não pode admitir usar em público.”
“Questões éticas surgem em qualquer aplicação, e a IA não é diferente”, lembra Pusa. “A melhor regra é nunca usar dados que você não pode admitir usar em público.”
Maria Pusa
Principal Consultant na Fourkind, que é parte da Thoughtworks
Uma consideração ética adicional, muitas vezes esquecida, é que a IA tem um custo ambiental relativamente alto. “Treinar esses modelos é computacionalmente intensivo, caro e consome muita energia”, explica Parsons. “É necessária uma quantidade impressionante de recursos de computação, especialmente se você estiver lidando com um conjunto de dados muito grande.”
Segundo algumas estimativas, a pegada de carbono do treinamento de um único modelo pode equivaler a até cinco vezes a quantidade emitida por um automóvel médio durante sua vida útil – um fato que as organizações precisam ter em mente ao buscar desenvolver suas estratégias de sustentabilidade.
De antigas limitações a novas possibilidades
Os benefícios de se dedicar a essas questões e cultivar os recursos internos necessários de IA/ML tendem a crescer com o desenvolvimento continue da área. Para especialistas da Thoughtworks, a IA vem desempenhando um papel cada vez mais estratégico e criativo, já que os avanços na ciência de dados e computação possibilitam níveis mais altos de insights e inteligência antecipativa.
“A verdadeira virada no futuro será o aprendizado de máquina combinado com outros métodos computacionais desenvolvidos sob medida, graças à alta disponibilidade de dados em formato digital e ao poder computacional cada vez mais acessíveis”, observa Pusa. “Essa combinação possibilita usos de algoritmos personalizados que vão muito além das funções básicas de ML, como mecanismos de recomendação, para criar modelos de otimização e previsão com resultados substanciais.”
“O aprendizado por reforço é realmente muito subutilizado, mas dentro de dois a cinco anos, será a tendência mais importante desde o surgimento da inteligência artificial,” observa Kartela. “A ideia não é criar uma dependência dos seus dados históricos, mas sim criar um agente que execute ações e aprenda em tempo real, de forma totalmente autônoma. Isso basicamente elimina o dilema de ter que alinhar todos os ativos de dados do mundo antes de fazer uma previsão inteligente, porque você está aprendendo com o presente e não com o passado, em uma exploração inteligente e controlada à medida que avança.”
“O aprendizado por reforço é realmente muito subutilizado, mas dentro de dois a cinco anos, será a tendência mais importante desde o surgimento da inteligência artificial."
Jarno Kartela
Principal Consultant na Fourkind, que é parte da Thoughtworks
Parsons vê uma promessa significativa para aplicações corporativos à medida que os sistemas melhoram sua compreensão da linguagem humana. De fato, em seu mais recente estudo sobre IA e aprendizado de máquina, a empresa de pesquisa S&P Global Market Intelligence destacou o rápido progresso de grandes modelos de linguagem e ferramentas, como chatbots avançados e ferramentas de moderação de conteúdo, liderando o caminho para um novo tipo de pesquisa empresarial escalável – “habilitando profissionais a encontrar informações no contexto de qualquer tipo de consulta, não importa o quão complexo seja.”
“Abrem-se muitas possibilidades quando os computadores realmente entendem a linguagem”, afirma ela. “Ainda há um longo caminho a percorrer, mas houve melhorias significativas em alguns dos recursos de tradução e reconhecimento de idiomas padrão. Isso tem um grande potencial para as empresas, especialmente quando você pensa sobre interações entre pessoas. Eu lidei com sistemas de bate-papo online em que um bot poderia ter conduzido toda a interação – não fosse o fato de que nós, seres humanos, ainda queremos nos comunicar como e com outros seres humanos.”
Certamente, um grau de desconforto ainda existe nas interações entre ser humano e IA. Uma pesquisa nos EUA descobriu que 86% das pessoas preferem interagir com um ser humano em vez de um sistema baseado em IA ao buscar suporte a clientes, e que metade acredita que chatbots e assistentes virtuais dificultam a resolução de seus problemas. No entanto, especialistas como Parsons veem as percepções negativas da IA diminuindo à medida que aumenta a sensibilidade dos negócios às suas dimensões éticas, bem como os papéis sociais positivos que a tecnologia pode desempenhar.
“A IA certamente eliminará alguns empregos, mas a questão é: o que será criado? O que se torna possível como resultado e que empregos virão disso?” ela reflete. “Podemos celebrar o fato de que agora temos um veículo autônomo que pode explorar antigos campos minados, então não temos que enviar uma pessoa ou um animal para correr esse risco. Podemos melhorar a qualidade de vida de patologistas que costumavam fazer exames manualmente, deixando sob responsabilidade da IA as partes do trabalho que exigiam maior exposição e permitindo que seres humanos possam se concentrar nas coisas que realmente têm valor.”
E apesar dos avanços surpreendentes da última década, o time de especialistas da Thoughtworks não acredita nem mesmo em uma possibilidade remota de que a IA substitua o talento e a tomada de decisões humana. Pelo menos por enquanto, existem funções que nem mesmo os sistemas mais sofisticados podem desempenhar.
“Existem sistemas capazes de criar pinturas que uma pessoa leiga não conseguiria distinguir das obras de grandes mestres. Mas qual é a probabilidade de que uma IA treinada na história da arte existente crie uma escola totalmente nova?”, questiona Parsons. “Aquela faísca da criatividade, que possibilita a criação de algo que o mundo nunca viu antes, de que forma uma IA seria capaz disso? Ainda não temos esse nível de capacidade. E ainda estamos muito longe de ter sistemas de IA que possam demonstrar empatia.”
“Aquela faísca da criatividade, que possibilita a criação de algo que o mundo nunca viu antes, de que forma uma IA seria capaz disso? Ainda não temos esse nível de capacidade. E ainda estamos muito longe de ter sistemas de IA que possam demonstrar empatia.”
Rebecca Parsons
Chief Technology Officer, Thoughtworks
Perspectives na sua caixa de entrada
Insights de tecnologia e negócios para líderes digitais.
Inscreva-se para receber artigos, podcasts, vídeos e convites para eventos e webinars com os pontos de vista de especialistas da Thoughtworks sobre temas relevantes.