Tomada de decisão rastreável

Nos últimos anos, testemunhamos um aumento na popularidade de uma técnica específica de Machine Learning (Aprendizado de Máquina) conhecida como Redes Neurais Artificiais. Essa técnica foi concebida pela primeira vez nos anos 40 e desenvolvida ao longo da segunda metade do século XX. Na última década, graças ao aumento do poder computacional  e da maior disponibilidade de dados, as redes neurais começaram a apresentar resultados promissores em diversas áreas, como visão computacional, processamento de linguagem natural e inteligência artificial. Recentemente, termos como Deep Learning (Aprendizado Profundo) se tornaram populares, fazendo com que muitos profissionais se perguntassem: Essas novas tecnologias podem auxiliar minha empresa na tomada de decisões? Para responder a isso, primeiro precisamos entender o que é uma Rede Neural e como ela pode resolver problemas.

 

As Redes Neurais são sistemas bioinspirados que, quando treinados com técnicas de aprendizado de máquina e uma boa quantidade de dados, podem aprender a prever saídas com base nas entradas. Uma de suas principais vantagens é a generalidade, o que significa que o mesmo algoritmo geral de treinamento pode funcionar em uma ampla variedade de problemas. Por outro lado, as Redes Neurais são o que chamamos de sistemas "caixa preta", ou seja, seu estado interno não fornece nenhuma informação sobre por que ou como estão produzindo seus resultados. Na prática, esta é a causa de dois dos maiores problemas das aplicações de sistemas de caixa preta da vida real:

 

1. Você só pode analisar as saídas

 

O nome "caixa preta" vem do fato de que você não pode "ver" o que o sistema está fazendo. Você só pode alimentá-lo com entradas e obter as saídas, sem fazer perguntas! O problema é que, em muitas situações práticas, o porquê é tão importante quanto o quê.

 

Como exemplo, vamos considerar uma empresa hipotética que produz um determinado número de produtos diferentes que consomem recursos comuns. Esta empresa quer saber a proporção ideal entre seus produtos de forma a maximizar seu lucro e, para isso, utiliza um sistema caixa preta. A única coisa que esse sistema pode fazer é propor, com base nos insumos, uma proporção entre os produtos que a empresa terá que aceitar cegamente. Em contrapartida, sistemas transparentes, como os modelos de simulação e otimização, podem fornecer ao usuário informações adicionais. Por exemplo:

 

• Gargalos na produção.
• Indicação dos fornecedores que a empresa é mais dependente.
• Pistas sobre quais tipos de mudanças no processo podem resultar em uma proporção ideal diferente entre seus produtos.

 

É claro que essas informações adicionais dependerão de como você construiu o modelo, mas esse é o ponto-chave! Modelos transparentes usam conhecimento científico e hipóteses de especialistas que podem ser analisados ​​e testados. Esses confrontamentos são, em muitos casos, essenciais para uma tomada de decisão eficaz.

 

2. O sistema pode conter viés

 

Como esses sistemas não são auditáveis, vieses ocultos podem resultar em decisões injustas ou erradas. Por exemplo, mais de 2.000 pesquisadores do Google, MIT, Microsoft e Yale pediram a periódicos acadêmicos que interrompam a publicação de estudos sobre sistemas de "reconhecimento criminal" baseados em características faciais. Os pesquisadores afirmam que esse tipo de sistema pode perpetuar os preconceitos raciais presentes nos dados. Em geral, é difícil dizer se um modelo de caixa preta de alta precisão treinado em dados históricos terá um bom desempenho em novos contextos ou apenas perpetuar tendências do passado.

 

Mas afinal de contas, devo usar este tipo de modelo ou não? Bem, como sempre, a resposta é: Depende! Se o seu problema for bem definido, é melhor usar soluções transparentes, como modelos matemáticos, que podem te ajudar a entender melhor o seu contexto e testar suas hipóteses. Se, por outro lado, você está lidando com um problema mal  estruturado sem uma dinâmica conhecida (como o problema de como funciona a visão e a linguagem humana), uma Rede Neural Profunda provavelmente será a melhor opção. Claro, você sempre pode ter soluções "Caixa cinza'' que incorporam subsistemas da caixa preta e modelos transparentes, tentando aproveitar o melhor de cada tecnologia. De qualquer forma, a melhor opção para se manter competitivo é escolher a solução que melhor se adapta ao seu contexto em vez de buscar cegamente as últimas tendências.

 

Autor: Vinícius Mello - Consultor na Cassotis Consulting

                                      Coautor: Fabio Silva - Gerente Senior na Cassotis Consulting