Mitigando os riscos da IA ​​generativa colocando um ser humano no circuito

“Não há caso de uso sustentável para IA do mal.”

Foi assim que o Dr. Rob Walker, um especialista em inteligência artificial credenciado e vice-presidente de decisão e análise da Pega, resumiu uma mesa redonda sobre IA desonesta na conferência PegaWorld iNspire na semana passada.

Ele havia explicado a diferença entre algoritmos opacos e transparentes. Em uma extremidade do espectro da IA, os algoritmos opacos funcionam em alta velocidade e altos níveis de precisão. O problema é que, na verdade, não podemos explicar como eles fazem o que fazem. Isso é o suficiente para torná-los mais ou menos inúteis para tarefas que exigem responsabilidade - tomar decisões sobre pedidos de hipoteca ou empréstimo, por exemplo.

Algoritmos transparentes, por outro lado, têm a virtude da explicabilidade. Eles são apenas menos confiáveis. É como uma escolha, disse ele, entre ter um curso de tratamento médico prescrito por um médico que pode explicar para você, ou uma máquina que não pode explicar, mas é mais provável que esteja certa. É uma escolha - e não é fácil.

Mas, no final das contas, entregar todas as decisões para as ferramentas de IA mais poderosas, com o risco de serem desonestas, não é, de fato, sustentável.

Na mesma conferência, o CTO da Pega, Don Schuerman, discutiu uma visão para o “Autopilot”, uma solução baseada em IA para ajudar a criar a empresa autônoma. “Minha esperança é que tenhamos alguma variação disso em 2024. Acho que vai exigir governança e controle.” De fato, será: poucos de nós, por exemplo, querem embarcar em um avião que tenha apenas piloto automático e nenhum humano no loop.

O humano no loop

Manter um humano informado foi um mantra constante na conferência, ressaltando o compromisso da Pega com a IA responsável. Já em 2017, lançou o Pega “T-Switch”, permitindo que as empresas aumentassem e diminuíssem o nível de transparência em uma escala móvel para cada modelo de IA. “Por exemplo, é de baixo risco usar um modelo de aprendizado profundo opaco que classifica imagens de marketing. Por outro lado, os bancos sob regulamentações rígidas para práticas de empréstimo justas exigem modelos de IA altamente transparentes para demonstrar uma distribuição justa de ofertas de empréstimo”, explicou Pega.

A IA generativa, no entanto, traz um nível totalmente diferente de risco – principalmente para funções voltadas para o cliente, como marketing. Em particular, realmente não importa se está dizendo a verdade ou inventando coisas (“alucinando”). Caso não esteja claro, esses riscos surgem com qualquer implementação de IA generativa e não são específicos de nenhuma solução da Pega.

“É prever o que é mais provável e plausível e o que queremos ouvir”, explicou o diretor do Pega AI Lab, Peter van der Putten. Mas isso também explica o problema. “Poderia dizer alguma coisa, então ser extremamente bom em fornecer explicações plausíveis; também pode retroceder.” Em outras palavras, ele pode retornar com uma resposta diferente – talvez melhor – se definir a mesma tarefa duas vezes.

Pouco antes do PegaWorld, a Pega anunciou 20 “boosters” generativos com IA, incluindo chatbots de IA de geração, fluxos de trabalho automatizados e otimização de conteúdo. “Se você observar cuidadosamente o que lançamos”, disse Putten, “quase todos eles têm um humano no circuito. Alto retorno, baixo risco. Esse é o benefício de construir produtos baseados em IA de geração em vez de dar às pessoas acesso à tecnologia de IA generativa genérica.”

Pega GenAI, então, fornece ferramentas para realizar tarefas específicas (com grandes modelos de linguagem rodando em segundo plano); não é apenas uma tela vazia aguardando instruções humanas.

Para algo como um chatbot gen assistido por IA, a necessidade de um humano no circuito é bastante clara. “Acho que vai demorar um pouco até que muitas empresas se sintam confortáveis ​​em colocar um grande chatbot de modelo de linguagem diretamente na frente de seus clientes”, disse Schuerman. “Qualquer coisa que a IA generativa gere – quero que um humano olhe para isso antes de colocá-lo na frente do cliente.”

Quatro milhões de interações por dia

Mas colocar um humano no circuito levanta questões sobre escalabilidade.

Finbar Hage, vice-presidente de digital da empresa holandesa de panificação e serviços financeiros Rabobank, disse na conferência que o Customer Decision Hub da Pega processa 1,5 bilhão de interações por ano para eles, ou cerca de quatro milhões por dia. O trabalho do hub é gerar recomendações da próxima melhor ação, criando uma jornada do cliente em tempo real e em tempo real. A próxima melhor ação pode ser, por exemplo, enviar um e-mail personalizado – e a gen AI oferece a possibilidade de criar esses e-mails quase instantaneamente.

Cada um desses e-mails, sugere-se, precisa ser aprovado por um ser humano antes de ser enviado. Quantos e-mails são? Quanto tempo os profissionais de marketing precisarão alocar para aprovar o conteúdo gerado por IA?

Talvez mais gerenciável seja o uso do Pega GenAI para criar documentos comerciais complexos em uma ampla variedade de idiomas. Em sua palestra, o diretor de produtos Kerim Akgonul demonstrou o uso da IA ​​para criar um fluxo de trabalho intrincado, em turco, para um pedido de empréstimo. O modelo levou em consideração as regras comerciais globais, bem como a regulamentação local.

Olhando para o resultado, Akgonul, que também é turco, pode ver alguns erros. É por isso que o humano é necessário; mas não há dúvida de que a geração de IA mais a aprovação humana parecia muito mais rápida do que a geração humana seguida de aprovação humana jamais poderia ser.

Foi o que ouvi de cada executivo da Pega que questionei sobre isso. Sim, a aprovação levará tempo e as empresas precisarão implementar a governança — “melhores práticas prescritivas”, nas palavras de Schuerman — para garantir que o nível correto de governança seja aplicado, dependendo dos níveis de risco.

Para o marketing, em sua função essencialmente voltada para o cliente, esse nível de governança provavelmente será alto. A esperança e a promessa, no entanto, é que a automação orientada por IA ainda fará as coisas melhor e mais rapidamente.