Nota: O seguinte artigo irá ajudá-lo com: Quanto podemos confiar na IA? Como construir confiança antes de uma implantação em larga escala
As organizações ainda devem construir confiança na IA antes de implantá-la em toda a organização. Aqui estão alguns os simples para tornar a IA mais confiável e ética.
Em 2019, a tecnologia de reconhecimento facial da Amazon identificou erroneamente Duron Harmon do New England Patriots, Brad Marchand do Boston Bruins e 25 outros atletas da Nova Inglaterra como criminosos quando combinou erroneamente os atletas com um banco de dados de fotos.
VEJO: Política de Ética em Inteligência Artificial (TechRepublic )
Como a inteligência artificial pode ser melhor e quando as empresas e seus clientes poderão confiar nela?
“A questão da desconfiança em sistemas de IA foi um tema importante na conferência anual de clientes e desenvolvedores da IBM este ano”, disse Ron Poznansky, que trabalha com produtividade de design da IBM. “Para ser franco, a maioria das pessoas não confia na IA – pelo menos, não o suficiente para colocá-la em produção. Um estudo de 2018 realizado pela The Economist descobriu que 94% dos executivos de negócios acreditam que a adoção da IA é importante para resolver desafios estratégicos; no entanto, a MIT Sloan Management Review descobriu em 2018 que apenas 18% das organizações são verdadeiras “pioneiras” da IA, tendo adotado amplamente a IA em suas ofertas e processos. Essa lacuna ilustra um problema de usabilidade muito real que temos na comunidade de IA: as pessoas querem nossa tecnologia, mas não está funcionando para eles em seu estado atual.”
Poznansky sente que a falta de confiança é um problema importante.
“Existem algumas boas razões pelas quais as pessoas ainda não confiam nas ferramentas de IA”, disse ele. “Para começar, há a questão quente do preconceito. Incidentes recentes de alto perfil atraíram, justificadamente, atenção significativa da mídia, ajudando a dar ao conceito de viés de aprendizado de máquina um nome familiar. As organizações hesitam justificadamente em implementar sistemas que possam acabar produzindo resultados racistas, sexistas ou tendenciosos no futuro.”
VEJO: Folha de dicas do Metaverse: tudo o que você precisa saber (PDF grátis) (TechRepublic)
Entenda o viés da IA
Por outro lado, Poznansky e outros lembram às empresas que a IA é tendenciosa por design – e que, desde que as empresas entendam a natureza do viés, elas podem usar a IA confortavelmente.
Como exemplo, quando um grande experimento molecular de IA na identificação de soluções para COVID foi realizado na Europa, a pesquisa que deliberadamente não discutiu a molécula em questão foi excluída para acelerar o tempo de resultados.
Dito isso, a deriva analítica que pode ocorrer quando sua IA se afasta do caso de uso de negócios original que pretendia abordar ou quando tecnologias de IA subjacentes, como aprendizado de máquina, “aprendem” com padrões de dados e formam conclusões imprecisas.
Encontrar um ponto médio
Para evitar resultados distorcidos da IA, a metodologia padrão-ouro hoje é verificar e verificar novamente os resultados da IA para confirmar que está dentro de 95% de precisão do que uma equipe de especialistas humanos no assunto concluiria. Em outros casos, as empresas podem concluir que 70% de precisão é suficiente para que um modelo de IA pelo menos comece a produzir recomendações que os humanos possam tomar sob orientação.
VEJO: Precisamos prestar atenção ao viés da IA antes que seja tarde demais (TechRepublic)
Chegar a um compromisso adequado no grau de precisão que a IA oferece, enquanto entende onde seus pontos de viés intencionais e cegos provavelmente estarão, são soluções de ponto médio que as organizações podem aplicar ao trabalhar com IA.
Encontrar um ponto médio que equilibre a precisão com o viés permite que as empresas façam três coisas:
- Eles podem começar imediatamente a usar sua IA nos negócios, com a ressalva de que os humanos revisarão e aceitarão ou rejeitarão as conclusões da IA.
- Eles podem continuar aprimorando a precisão da IA da mesma forma que aprimoram outros softwares de negócios com novas funções e recursos.
- Eles podem incentivar uma colaboração saudável entre ciência de dados, TI e usuários de negócios finais.
“Resolver esse problema urgente de falta de confiança na IA … começa abordando as fontes de desconfiança”, disse Poznansky. “Para resolver a questão do viés, conjuntos de dados [should be] projetado para expandir os dados de treinamento para eliminar pontos cegos.”
