O futuro da IA ​​não é tão cor-de-rosa quanto alguns podem pensar

Um relatório do Gartner prevê que as consequências de segunda ordem da IA ​​generalizada terão impactos sociais maciços, a ponto de nos deixar inseguros se e quando podemos confiar em nossos próprios olhos.

O Gartner divulgou uma série de relatórios de pesquisa do Predicts 2021, incluindo um que descreve os sérios e abrangentes problemas éticos e sociais que prevê que a inteligência artificial (IA) causará nos próximos anos. Em Predicts 2021: Artificial Intelligence and Its Impact on People and Society, cinco analistas do Gartner relatam diferentes previsões que acreditam que se concretizarão até 2025. O relatório chama atenção especial para o que chama de consequências de segunda ordem da inteligência artificial que surgem como não intencionais resultados das novas tecnologias.

VEJO: Calendário editorial TechRepublic : políticas de TI, listas de verificação, kits de ferramentas e pesquisas para (TechRepublic )

A IA generativa, por exemplo, agora é capaz de criar fotografias incrivelmente realistas de pessoas e objetos que na verdade não existem; O Gartner prevê que até 2023, 20% dos takeovers de contas usarão deepfakes gerados por esse tipo de IA. “Os recursos de IA que podem criar e gerar conteúdo hiper-realista terão um efeito transformador na medida em que as pessoas podem confiar em seus próprios olhos”, disse o relatório.

O relatório aborda cinco previsões diferentes para o mercado de IA e fornece recomendações sobre como as empresas podem enfrentar esses desafios e se adaptar ao futuro:

• Até 2025, os modelos de IA pré-treinados estarão amplamente concentrados em 1% dos fornecedores, tornando o uso responsável da IA ​​uma preocupação social
• Em 2023, 20% dos ataques bem-sucedidos de invasão de contas usarão deepfakes como parte de ataques de engenharia social
• Até 2024, 60% dos provedores de IA incluirão mitigação de danos/uso indevido como parte de seu software
• Até 2025, 10% dos governos evitarão preocupações com privacidade e segurança usando populações sintéticas para treinar IA
• Até 2025, 75% das conversas no local de trabalho serão gravadas e analisadas para uso na agregação de valor organizacional e avaliação de risco

Cada uma dessas análises é suficiente para fazer os observadores de IA se sentarem e prestarem atenção, mas quando combinadas, criam uma imagem de um futuro sombrio repleto de preocupações éticas, potencial uso indevido de IA e perda de privacidade no local de trabalho.

Como as empresas podem responder

As preocupações com o efeito da IA ​​na privacidade e na verdade certamente serão os principais tópicos nos próximos anos se os analistas do Gartner forem precisos em suas previsões, e as empresas de sucesso precisarão estar prontas para se adaptar rapidamente a essas preocupações.

Um tema recorrente no relatório é a criação de conselhos de ética nas empresas que contam com a IA, seja como serviço ou produto. Isso é mencionado principalmente para empresas que planejam gravar e analisar conversas no local de trabalho: conselhos com representação de funcionários devem ser estabelecidos para garantir o uso justo dos dados de conversas, disse o Gartner.

VEJO: Processamento de linguagem natural: uma folha de dicas (TechRepublic)

O Gartner também recomenda que as empresas estabeleçam critérios para o consumo responsável de IA e priorizem fornecedores que “possam demonstrar o desenvolvimento responsável da IA ​​e clareza ao abordar as preocupações sociais relacionadas”.

Quanto às preocupações de segurança em torno de deepfakes e IA generativa, o Gartner recomenda que as organizações programem treinamentos sobre deepfakes. “Agora estamos entrando em um mundo de confiança zero. Nada pode ser confiável a menos que seja certificado como autenticado usando s digitais criptográficas”, disse o relatório.

Há muito o que digerir neste relatório, desde números dizendo que o melhor software de detecção de deepfake atingirá uma taxa de identificação de 50% no longo prazo, até a previsão de que em 2023 uma grande corporação dos EUA adotará a análise de conversas para determinar a remuneração dos funcionários . Há muito com o que se preocupar nessas análises, mas antídotos em potencial também estão incluídos. O relatório completo está disponível no Gartner, mas os interessados ​​precisarão pagar pelo o.