Como a G2 aborda a moderação na era da IA ​​generativa

Publicados: 2023-07-24

Você não culparia um explorador por seu amor pela bússola.

Tecnologias inovadoras tornam difícil limitar nosso entusiasmo. Quando surge algo que tem um impacto radical em como trabalhamos ou interagimos com nosso mundo, queremos adotá-lo.

Às vezes, é melhor dar um tempo para cavar um pouco mais, mesmo quando gostaríamos de pensar que alguma nova ferramenta ou invenção é uma cura para tudo. Sem entender as nuances e implicações, fazer aquele deslize de cabeça para o home plate pode ser mais arriscado do que pensávamos.

A era da inteligência artificial generativa (IA) está aqui. À medida que avançamos para este novo capítulo da história da humanidade, começa a corrida para ver como adotar esta nova tecnologia. Neste artigo, exploraremos como a IA generativa se aplica às revisões de software B2B e a posição da G2 sobre isso.

Inovação em velocidades vertiginosas

Ferramentas de IA generativas, como DALL-E 2 e ChatGPT, chegaram às manchetes no final de 2022. Apenas alguns meses depois de 2023, a adoção e o interesse pela tecnologia de IA explodiram. Com mais fornecedores de software explorando como integrar a IA para criar novas soluções, profissionais de todos os setores estão saudando isso como uma nova fronteira para os negócios.

Alguns argumentam que a IA generativa tem o potencial de aumentar o PIB global em 7% até 2030. Por outro lado, muitos prevêem como essa tecnologia pode impactar o mercado de trabalho global. Ainda não se sabe qual será a extensão, mas os especialistas sugerem a probabilidade de mudar a forma como trabalhamos muito em breve.

Embora mais conhecida por gerar saídas de texto e imagens, a IA generativa tem o potencial de fazer outras coisas, como escrever código e ajudar na análise de dados. Em uma iteração do ChatGPT, um usuário usou com sucesso essa ferramenta para criar uma versão jogável do Pong em menos de 60 segundos.

A IA generativa tem implicações de longo alcance, independentemente do setor. Mas como essa tecnologia está avançando em um ritmo tão rápido, ela também apresenta desafios únicos e potencial para abuso por parte de pessoas mal-intencionadas. Antes de fazer a conexão entre essa tecnologia inovadora e as políticas e processos do G2 relacionados à moderação de revisão, é importante estabelecer o contexto sobre a IA generativa.

Desafios da tecnologia empolgante nas fases iniciais

O conteúdo gerado por IA deve revolucionar a criação de conteúdo nos próximos anos e provavelmente interromper as indústrias criativas existentes. Como essa tecnologia está repleta de potencial, também há uma enorme possibilidade de abuso generalizado.

Não há como negar que a IA generativa é impressionante. No entanto, considere os seguintes desafios e riscos antes de mergulhar.

  • Preocupações éticas e de direitos autorais: muitos oponentes do conteúdo gerado por IA observam as preocupações éticas em torno dele. Uma vez que esses modelos treinam em conteúdo existente, citar fontes e dar crédito torna-se complexo. De estudantes universitários usando IA a   escrever trabalhos de conclusão de curso para   "emprestar" código em grande escala, o risco de plágio e violação de direitos autorais é muito real.
  • Qualidade do conteúdo :   De um modo geral, as ferramentas de IA generativas são atraentes. Mas, como qualquer escritor ou artista lhe dirá,   eles não substituirão os empregos humanos tão cedo. O futuro da IA ​​provavelmente será uma combinação de tecnologia e operadores humanos, mas não espere substituir sua equipe criativa por essas ferramentas ainda.
  • Informações erradas e imprecisões:   De maneira semelhante à qualidade do conteúdo, a IA generativa tem pouco para prevenir   saídas imprecisas, falsas ou enganosas . A publicação de conteúdo impreciso pode prejudicar a reputação de uma marca, por isso é crucial permanecer vigilante sobre a verificação de fatos gerados por IA.
  • Vieses aprendidos:   Outro aspecto levantado pelos críticos do conteúdo gerado por IA é que seus modelos usam conteúdo humano. O argumento é que, como os humanos têm preconceitos implícitos e explícitos, esses modelos de IA   aprender esses padrões e comportamentos .

Nossa posição sobre IA generativa e análises de software

Com mais de 2 milhões de avaliações de pessoas reais, o G2 é o maior mercado mundial de software B2B. Chegar até aqui exigiu muito trabalho e dedicação de nossa equipe. Mas isso não seria possível sem respeitar o poder das avaliações imparciais e autênticas.

No fundo, sabemos que os humanos confiam nas experiências dos outros, e é por isso que priorizamos a qualidade das avaliações em detrimento da quantidade. Os compradores passaram a confiar na G2 para pesquisar e avaliar software porque fazemos tudo o que podemos para garantir a autenticidade, como:

  • Verificando a identidade de cada usuário no G2.
  • Aproveitando mais de 43 pontos de dados para avaliar a autenticidade.
  • Verificação de cada revisão usando diretrizes rígidas.

O G2 adota uma abordagem imparcial para moderar as avaliações. Nosso objetivo é garantir que cada revisão seja a opinião honesta da experiência do revisor com um produto. Também monitoramos ativamente padrões que indicam comportamento fraudulento. Quando tais casos ocorrem, realizamos uma auditoria completa, removemos as revisões em questão e implementamos as medidas necessárias.

Devido ao nosso compromisso com o feedback imparcial do comprador, as avaliações que usam IA generativa para escrever a maior parte do conteúdo não atendem às diretrizes da comunidade do G2 .

Embora permaneçamos firmes de que as avaliações devem vir de pessoas reais, a única exceção é o uso de assistentes de redação de IA. Desde que a ferramenta vise apenas melhorar a legibilidade, a gramática e a ortografia, convidamos os revisores a utilizar essas ferramentas.

Também é importante notar que o G2 está considerando cuidadosamente os benefícios de incorporar ferramentas de IA na experiência de envio de avaliações. Da mesma forma que os assistentes de redação podem ajudar os revisores, estamos constantemente aprimorando o processo geral de envio.

Como a moderação de revisão do G2 detecta conteúdo gerado por IA

Nossa equipe tem um rigoroso processo de verificação e auditoria para todos os novos envios de revisão. Devido ao grande número de avaliações que coletamos em um determinado dia, devemos usar uma combinação criteriosa da melhor tecnologia da categoria e membros de equipe bem treinados com olhar perspicaz.

4K+

Revisões geradas por IA que o G2 rejeita por mês, respondendo por 5-8% do total de envios de avaliações mensais.

A G2 usa ferramentas e serviços líderes de terceiros para detectar conteúdo gerado por IA em envios de revisão. Embora não indiquemos as tecnologias específicas utilizadas, tenha certeza de que utilizamos alguns dos softwares mais bem avaliados do mercado.

As ferramentas à disposição da G2 são soluções de detecção de conteúdo de nível empresarial que verificam e sinalizam o conteúdo gerado por IA. Depois de sinalizar esse conteúdo, nossa equipe interna de moderadores qualitativos valida essas instâncias.

Boas intenções versus maus atores

É importante reconhecer que desencorajamos e rejeitamos envios que usam IA generativa. Devido à nossa posição sobre o poder das revisões autênticas, pretendemos recusar revisões quando nossos processos detectam conteúdo gerado por IA, independentemente de a intenção ser legítima ou fraudulenta.

Além de usar ferramentas de terceiros, utilizamos um modelo interno de ML que aprende com a decisão de cada moderador para detectar avaliações fraudulentas. Esse modelo de ML também usa outros dados, como histórico de revisão do usuário, presença na mídia social, padrão de envio, ações do navegador, endereços IP, informações de localização e muito mais para detectar atividades fraudulentas.

E enquanto a detecção de conteúdo de IA e nosso modelo de ML ajudam a sinalizar avaliações falsas em grande escala, também utilizamos o conhecimento especializado de nossos moderadores para auditar avaliações que exigem uma avaliação mais considerável. Nossa equipe é especialista em identificar padrões comumente associados a atividades fraudulentas e criar práticas eficazes de prevenção contra fraudes.

Preparando o terreno para um futuro melhor com IA

Há uma boa chance de que o mundo pareça muito diferente nos próximos anos devido à explosão da tecnologia de IA generativa. Inúmeros criadores de conteúdo e marcas terão que se adaptar e dominar essas ferramentas para se manterem competitivos.

Mas, tanto quanto essa tecnologia pode fazer, o mesmo pode ser dito sobre os danos que ela poderia causar. O G2 abraça e reconhece as tremendas vantagens que a IA generativa apresenta. No entanto, ainda sentimos que as avaliações só são confiáveis ​​quando vêm de experiências em primeira mão de pessoas reais.

Como acreditamos no poder das avaliações autênticas, você sempre pode contar com a G2 para defender a voz do cliente.

Encontre o software certo com o poder da IA. Explore uma nova maneira de pesquisar com o chatbot da G2, Monty.