Os riscos do reconhecimento facial em um contexto empresarial

Patrick Gray explica o risco e as potenciais mitigações do uso da tecnologia de reconhecimento facial em um contexto de negócios.

Há muito tempo no domínio dos filmes de ficção científica e James Bond, o reconhecimento facial está finalmente entrando no mainstream. Ferramentas como o FaceID da Apple e o Windows Hello da Microsoft trouxeram o reconhecimento facial para dispositivos de consumo e ajudaram a substituir senhas para tudo, desde desbloquear nossos dispositivos até pagar por bens e serviços.

É fácil deixar sua mente correr solta com casos de uso de negócios para reconhecimento facial — desde o uso de rostos de funcionários como um token de o até as inúmeras possibilidades em setores de marketing a viagens. As aplicações potenciais variam desde a relativamente mundana de substituir cartões de ponto antiquados por reconhecimento facial até o marketing personalizado que aparece em sinalização interativa à medida que alguém a.

CONSULTE: Política de Ética em Inteligência Artificial (TechRepublic )

Como qualquer nova tecnologia, alguns riscos vão muito além da viabilidade técnica ou dos desafios de implementação e se desviam para áreas tão diversas quanto ética e legalidade. Ao avaliar os aplicativos de reconhecimento facial, considere os seguintes desafios.

O rosto é mesmo um bom identificador?

Uma suposição não declarada por trás do reconhecimento facial é que o rosto humano é único. Talvez essa suposição seja baseada na capacidade muito humana de escolher um amigo ou ente querido em uma multidão com um olhar e nosso uso rotineiro de nossos rostos como uma ferramenta emotiva.

No entanto, todos conhecemos gêmeos idênticos e talvez tenhamos experimentado o fenômeno doppelgänger, em que somos confundidos com alguém que nunca conhecemos. Curiosamente, muito pouca pesquisa acadêmica foi feita sobre como nossos rostos são únicos, tanto do ponto de vista biológico quanto da capacidade de algoritmos comuns de reconhecimento facial de discernir indivíduos de maneira confiável.

Um estudo recente bastante denso da Universidade de Cornell tenta testar o impacto de fatores que variam de idade a sexo até a presença de gêmeos na capacidade de vários algoritmos de reconhecimento facial de identificar rostos únicos. O estudo conclui que não entendemos completamente o quão único um rosto em particular realmente é.

Esse fato pode ser aceitável se você estiver rastreando fluxos de tráfego em seu depósito ou apresentando anúncios personalizados. Ainda assim, pode ser problemático se você estiver usando o reconhecimento facial para fornecer o a uma instalação segura ou perigosa, por exemplo.

Pode parecer estranho questionar a premissa fundamental da tecnologia de reconhecimento facial, de que o rosto é um identificador verdadeiramente único. No entanto, essa suposição mais humana pode não apenas ser biologicamente incorreta, como demonstram gêmeos idênticos e doppelgängers, mas também pode ser tecnicamente incorreta.

Só porque você pode, não significa que você deve

Em uma era de Termos e Condições complicados e outros termos jurídicos, é relativamente simples se proteger legalmente da aplicação de tecnologias como reconhecimento facial. Em geral, você pode obter o consentimento de consumidores ou funcionários sem que eles entendam completamente com o que estão consentindo e provavelmente apaziguam seu departamento jurídico. No entanto, vale a pena fazer uma pausa e aplicar o teste Headline News: Como você se sentiria se suas atividades fossem a matéria principal em um grande veículo de notícias, detalhadas em linguagem simples?

Usar o reconhecimento facial para marcar o horário de entrada e saída dos funcionários pode ser bom, mas se você estiver instalando câmeras escondidas perto do banheiro e acoplando funcionários para “intervalos biológicos”, que mensagem isso envia aos funcionários? Da mesma forma, usar o reconhecimento facial para coletar informações demográficas é tecnicamente possível, mas como você explicaria uma acusação não infundada de que você está traçando o perfil racial de seus funcionários ou clientes? Vários algoritmos de reconhecimento facial prometem a capacidade de ler estados emocionais, mas o que acontece se o seu algoritmo interpretar incorretamente um determinado gênero, raça ou idade e fizer com que sua empresa os trate de maneira diferente?

Esse fenômeno já está acontecendo. Organizações que vão desde o Internal Revenue Service até gigantes da tecnologia como Amazon e Microsoft foram criticadas na imprensa por usar a tecnologia de reconhecimento facial.

Teste os riscos não técnicos da mesma forma que testaria a tecnologia

Os líderes de tecnologia estão acostumados a construir provas de conceito ou fazer um pequeno teste piloto de tecnologia desconhecida. Você pode aplicar uma abordagem semelhante para testar os riscos éticos e de reputação da tecnologia.

Por exemplo, se você estiver pensando em capturar informações demográficas de seus funcionários, crie um novo documento de política detalhando como a empresa irá capturar e armazenar seus dados para uma empresa hipotética e veja como alguns funcionários atuais reagem. Você pode criar uma notícia hipotética e testar a reação de alguns clientes-chave ou realizar dezenas de experimentos semelhantes.

Assim como você não investiria significativamente em uma tecnologia desconhecida sem testes iniciais limitados, você também deve testar a percepção do consumidor de tecnologias arriscadas, como reconhecimento facial.

Sem dúvida, existem aplicações interessantes da tecnologia de reconhecimento facial, e a popularidade de ferramentas como o Face ID da Apple prova que os consumidores estão dispostos a adotá-las quando usadas adequadamente. No entanto, também há casos de pressão significativa e danos à reputação da imprensa resultantes da aplicação incorreta real ou percebida dessas tecnologias. Vale a pena investir tempo para entender os riscos de aplicá-los em sua empresa.