Modelagem e mineração de dados e boas práticas para corrigir o viés dos algoritmos. Conversamos com o especialista em IA Nei Grando para produzir um guia didático de como a inteligência artificial pode impulsionar a estratégia dos negócios.
Por Monica Miglio Pedrosa
A inteligência artificial está presente nos negócios e em diversos sistemas e ferramentas digitais, entre eles as redes sociais. Desde que o uso da IA foi difundido pelo ChatGPT, a tecnologia ganhou milhares de adeptos e se popularizou. Na mesma medida, discussões calorosas contra e a favor do avanço da IA começaram a surgir.
O estopim foi a polêmica carta aberta divulgada recentemente por personalidades como Yuval Noah Harari (autor de Sapiens e Homo Deus) e o linguista e filósofo Noam Chomsky, pedindo que empresas e organizações parem por pelo menos seis meses o desenvolvimento da inteligência artificial até que sejam desenvolvidos protocolos de segurança abertos e compartilhados que garantam a segurança dos sistemas. Elon Musk, da Tesla, e Steve Wozniak, da Apple, endossaram o coro e também assinaram o manifesto. Já a Microsoft é defensora da tecnologia e uma das primeiras a incorporar o ChatGPT comercialmente.
O fato é que a inteligência artificial já é amplamente utilizada por empresas para reduzir custos operacionais e fazer a predição e simulação de cenários futuros. Mas, na prática, como ela funciona? Qual a importância da mineração de dados? Quem deve assumir a responsabilidade por erros de decisão da IA? Como eliminar vieses nos algoritmos que treinam essa tecnologia?
O [EXP] conversou com o Diretor Executivo da Strategius, consultor e professor Nei Grando para traduzir em um guia prático essas e outras questões. Além de ensinar fundamentos de Inteligência Artificial para o curso de MBA da ESPM, Nei faz parte do Núcleo Decide da FEA-USP, que estuda como a IA pode ser aplicada na tomada de decisão nos negócios. Ele falou sobre a importância da mineração de dados, responsabilidades da IA e vieses, entre outras questões éticas do uso da tecnologia.
Tomada de decisão baseada em dados e pela IA*
As decisões baseadas em dados são uma prática comum dos negócios. Há algumas décadas, as decisões eram feitas com base somente no julgamento humano, nos anos de experiência dos executivos e em uma quantidade relativamente pequena de dados. A intuição e as informações disponíveis eram as principais ferramentas utilizadas à época.
Desde o advento da internet, e mais particularmente na sociedade atual, o excessivo volume de informações tem tornado o processamento mental humano incapaz de analisar sozinho todos os dados disponíveis. Dispositivos conectados capturam volumes colossais de dados: indicadores micro e macroeconômicos, relacionamento com o cliente e venda dos produtos são alguns deles. Máquinas potentes passaram a processar esse Big Data, com o objetivo de sumarizar e organizar as informações para a decisão baseada no julgamento humano (veja abaixo).
No entanto, os dados sumarizados podem ocultar informações importantes para a tomada de decisão. Os relacionamentos e padrões entre eles não ficam totalmente claros. Além disso, os resumos de dados são normalmente impactados pelo próprio conjunto de dados e até mesmo por vieses cognitivos de quem os organiza.
Para reduzir esses riscos é necessário evoluir e trazer a IA para o fluxo de trabalho, como um processador primário de dados. Quando as decisões de rotina dependem apenas de dados estruturados, muitas vezes o melhor a fazer é deixar a IA decidir sozinha, especialmente em casos menos propensos ao viés cognitivo humano, como por exemplo em sistemas de recomendação utilizados por alguns aplicativos. Outro ganho nesse processo é o fato de a IA conseguir trabalhar com relacionamentos não lineares entre os dados, como séries geométricas ou exponenciais. Já o ser humano costuma trabalhar melhor com relacionamentos lineares, como por exemplo a relação entre preço e vendas ou market share de mercado e taxa de conversão.
Em resumo, o fluxo abaixo aproveita melhor as informações contidas nos dados e permite maior consistência na tomada de decisões.
Olhares mais atentos podem questionar se não é errado retirar o elemento humano do fluxo acima. Porém decisões estratégicas de negócio dependem mais do que apenas de dados estruturados. Visão da empresa, valores corporativos e dinâmica de mercado são exemplos de informações que estão inacessíveis à IA e são extremamente relevantes para a tomada de decisão.
Por exemplo, a IA pode determinar objetivamente os níveis de estoque corretos para maximizar os lucros. No entanto, em um ambiente competitivo, uma empresa pode optar por níveis mais altos de estoque, a fim de proporcionar uma melhor experiência ao cliente, mesmo à custa dos lucros. Essa decisão, atualmente, somente pode ser feita por um humano.
No fluxo abaixo, os humanos não estão interagindo diretamente com os dados, mas com as possibilidades produzidas pelo processamento dos dados pela IA.
Modelos e aprendizado de máquina
A maioria dos algoritmos de IA são preparados com base em estatísticas e são utilizados em algo que chamamos de aprendizado de máquina, onde a máquina é treinada a partir de um volume significativo de dados existentes para gerar algo que chamamos de modelo. Esse modelo passa por uma etapa de validação e testes, que são feitos com novos dados, para ratificar se este está pronto para ser liberado para produção. Ao modelo final são aplicados novos dados para obtermos os resultados desejados. Tais resultados têm alta precisão, porém precisamos lembrar que são apenas probabilísticos.
“A IA só está fazendo o que ela foi programada para fazer,
então a responsabilidade é sempre humana.”
Em relação aos modelos, Nei Grando faz uma associação destes com uma ação corriqueira humana, como o hábito de leitura. “Quando lemos um livro, nosso cérebro não se concentra apenas nas palavras e parágrafos que estão sendo lidos. Ao absorver essa nova informação, nossa rede neural acessa a bagagem histórica que sabemos sobre aquele assunto, o que contribui para a leitura do livro. Esse conjunto gera um modelo mental do indivíduo sobre o conteúdo e sobre a forma de processá-lo”, esclarece.
A importância da mineração de dados
Todo e qualquer dado é importante e pode ser absorvido e interpretado pela IA? A resposta é negativa, a coleta de dados deve ter um objetivo claro e ser relevante ao que se pretende com eles. Depois, é necessário minerar os dados, organizá-los de maneira que possam ser facilmente acessados e analisados antes do processamento normal ou do treinamento da IA. Essa coleta é feita via sistemas de informação e/ou de terceiros.
Esses modelos e dados devem ser constantemente atualizados, mantidos e auditados, para que a IA não use informação obsoleta no processamento das informações.
Cientistas e engenheiros de dados, os “mineradores” da IA
Os cientistas de dados são os profissionais que analisarão os dados e buscarão evitar vieses nesta informação incorreta, o que poderia levar a IA a tomar decisões erradas. Esse profissional deve conhecer não só de estatística, mas também de negócios e estratégia. Isso permitirá que ele analise os dados que serão usados para uma determinada finalidade. Ele vai extrair conhecimento dos dados disponíveis e usar o aprendizado de máquina (machine learning) para trabalhar essas informações de forma mais rápida e assertiva. O cientista de dados pode também buscar dados adicionais que possam ser integrados a um determinado modelo, com o objetivo de deixar a informação preditiva mais precisa.
“Usar um dado não minerado é o mesmo que
usar petróleo como combustível para o carro”
Como o viés produz falhas nas decisões de IA?
A IA atua com base em modelos gerados por meio de dados e algoritmos que são preparados e configurados por humanos. Se as informações que forem tomadas como base para o desenvolvimento da aprendizagem de máquina tiverem vieses, a IA atuará de acordo com eles. “Se colocarmos uma IA para se comportar como alguém que usa o Twitter e a tecnologia usa como base palavras racistas, imagine como ela vai escrever?”, descreve Nei.
“Os algoritmos são menos tendenciosos e mais precisos
do que os humanos que estão substituindo.”
[Alex P. Miller – Harvard Business Review]
O reconhecimento facial, que usa IA para identificar padrões faciais, vem constantemente sendo acusado de produzir um viés racista. Como há poucos desenvolvedores negros, a tecnologia tende a reconhecer com maior precisão rostos de pessoas brancas, reforçando o racismo estrutural da sociedade.
Um artigo publicado na Harvard Business Review de 2018, Want Less-Biased Decisions? Use Algorithms traz um interessante ponto de vista contrário. Seu autor, um professor de marketing da Universidade da California, reuniu resultados de uma série de pesquisas sobre tomada de decisão algorítmica e mostra, com estes resultados, que a IA, quando bem desenvolvida, é menos tendenciosa do que os humanos que estão substituindo.
Um dos exemplos que ele traz no artigo é de um estudo de Bo Cowgill, da Columbia Business School, que avaliou o desempenho de um algoritmo de seleção de empregos em uma empresa de software. O algoritmo na verdade favoreceu candidatos “não tradicionais” muito mais do que os rastreadores humanos. Na comparação com os humanos, o modelo foi menos preconceituoso com candidatos sub-representados na empresa, como por exemplo os que não tinham referências pessoais ou diplomas de universidades de prestígio.
Como corrigir vieses na tomada de decisão?
Para Nei Grando, os resultados da IA devem ser constantemente supervisionados em busca de inconsistências nos dados sobre os quais a tecnologia baseou suas decisões. A etapa de validação e testes é essencial ao modelo, para garantir a qualidade do resultado.
Empresas que utilizam a IA devem monitorar e atualizar os dados, modelos e sistemas, incluindo essa etapa em seus processos de governança de dados e de IA. “Modelos do mercado de capitais precisam ser realimentados praticamente em tempo real, ou retreinados numa frequencia bastante grande”, exemplifica.
“As regulamentações terão que ser boas o suficiente
para permitir que a tecnologia evolua e
que ela seja usada para o bem comum”
*Referências: Como é a Tomada de Decisão orientada pela IA, de Nei Grando, com base em What AI-Driven Decision Making Looks Like, de Eric Colson, da Harvard Business Review, 2019.
