Comment G2 aborde la révision de la modération à l'ère de l'IA générative

Publié: 2023-07-24

Vous ne reprocheriez pas à un explorateur son amour de la boussole.

Les technologies innovantes font qu'il est difficile de limiter notre excitation. Quand quelque chose arrive qui a un impact radical sur la façon dont nous travaillons ou interagissons avec notre monde, nous voulons l'embrasser.

Parfois, il est préférable de prendre un peu de temps pour creuser un peu plus, même lorsque nous aimerions penser qu'un nouvel outil ou une nouvelle invention est une panacée. Sans comprendre les nuances et les implications, faire glisser la tête la première dans le marbre pourrait être plus risqué que nous ne le pensions.

L'ère de l'intelligence artificielle (IA) générative est arrivée. Alors que nous entrons dans ce nouveau chapitre de l'histoire humaine, la course est lancée pour voir comment adopter cette nouvelle technologie. Dans cet article, nous allons explorer comment l'IA générative s'applique aux avis de logiciels B2B et la position de G2 à ce sujet.

L'innovation à une vitesse vertigineuse

Les outils d'IA générative comme DALL-E 2 et ChatGPT ont fait la une des journaux fin 2022. Quelques mois seulement après le début de 2023, l'adoption et l'intérêt pour la technologie de l'IA ont explosé. Alors que de plus en plus de fournisseurs de logiciels explorent comment intégrer l'IA pour créer de nouvelles solutions, les professionnels de tous les secteurs saluent cela comme une nouvelle frontière pour les entreprises.

Certains affirment que l'IA générative a le potentiel d'augmenter le PIB mondial de 7 % d'ici 2030. D'un autre côté, beaucoup prévoient comment cette technologie pourrait avoir un impact sur le marché du travail mondial. Il reste à voir quelle en sera l'ampleur, mais les experts suggèrent qu'il est probable que cela change très bientôt notre façon de travailler.

Bien que plus particulièrement connue pour générer des sorties de texte et d'images, l'IA générative a le potentiel de faire d'autres choses comme écrire du code et aider à l'analyse des données. Dans une itération de ChatGPT, un utilisateur a utilisé cet outil avec succès pour créer une version jouable de Pong en moins de 60 secondes.

L'IA générative a des implications considérables, quel que soit le secteur. Mais parce que cette technologie progresse à un rythme si rapide, elle présente également des défis uniques et un potentiel d'abus par de mauvais acteurs. Avant de faire le lien entre cette technologie innovante et les politiques et processus de G2 liés à la modération des avis, il est important d'établir le contexte de l'IA générative.

Les défis d'une technologie passionnante dans les premières phases

Le contenu généré par l'IA devrait révolutionner la création de contenu dans les années à venir et probablement perturber les industries créatives existantes. Parce que cette technologie regorge d'un tel potentiel, il existe également une énorme possibilité d'abus généralisé.

Il est indéniable que l'IA générative est impressionnante. Cependant, considérez les défis et les risques suivants avant de plonger.

Préoccupations éthiques et de droit d'auteur : de nombreux opposants au contenu généré par l'IA notent les préoccupations éthiques qui l'entourent. Étant donné que ces modèles s'appuient sur le contenu existant, citer des sources et donner du crédit devient complexe. Des étudiants utilisant l'IA à écrire des dissertations à « empruntant » du code à grande échelle, les risques de plagiat et de violation du droit d'auteur sont bien réels.
Qualité du contenu : De manière générale, les outils d'IA générative sont convaincants. Mais comme tout écrivain ou artiste vous le dira, ils ne remplaceront pas de sitôt les emplois humains. L'avenir de l'IA sera probablement une combinaison de technologie et d'opérateurs humains, mais ne vous attendez pas à remplacer votre équipe créative par ces outils pour l'instant.
Informations erronées et inexactitudes : Dans le même ordre d'idées que la qualité du contenu, l'IA générative a peu de moyens d'empêcher sorties inexactes, fausses ou trompeuses . La publication de contenu inexact peut nuire à la réputation d'une marque, il est donc crucial de rester vigilant quant à la vérification des faits du contenu généré par l'IA.
Préjugés appris : Un autre aspect soulevé par les critiques du contenu généré par l'IA est que leurs modèles utilisent du contenu humain. L'argument est que parce que les humains ont des biais implicites et explicites, ces modèles d'IA apprendre ces modèles et comportements .

Notre position sur l'IA générative et les revues de logiciels

Avec plus de 2 millions d'avis de vraies personnes, G2 est la plus grande place de marché au monde pour les logiciels B2B. Arriver à ce point a nécessité une tonne de travail acharné et de dévouement de la part de notre équipe. Mais cela ne serait pas possible sans respecter le pouvoir des critiques impartiales et authentiques.

Au cœur de tout cela, nous savons que les humains font confiance aux expériences des autres, c'est pourquoi nous privilégions la qualité des avis à la quantité. Les acheteurs font désormais confiance à G2 pour la recherche et l'évaluation de logiciels, car nous faisons tout notre possible pour garantir l'authenticité, par exemple :

Vérification de l'identité de chaque utilisateur sur G2.
Tirer parti de plus de 43 points de données pour évaluer l'authenticité.
Vérifier chaque avis en suivant des directives strictes.

G2 adopte une approche impartiale pour modérer les avis. Notre objectif est de garantir que chaque avis est l'opinion honnête de l'expérience de l'examinateur avec un produit. Nous surveillons également activement les modèles qui indiquent un comportement frauduleux. Lorsque de tels cas se produisent, nous effectuons un audit approfondi, supprimons les avis en question et mettons en œuvre les mesures d'application nécessaires.

En raison de notre engagement envers les commentaires impartiaux des acheteurs, les avis qui utilisent l'IA générative pour rédiger la majorité du contenu ne respectent pas les directives de la communauté de G2 .

Bien que nous restions fermes sur le fait que les critiques doivent provenir de vraies personnes, la seule exception concerne l'utilisation d'assistants d'écriture IA. Tant que l'outil vise uniquement à améliorer la lisibilité, la grammaire et l'orthographe, nous encourageons les examinateurs à utiliser ces outils.

Il convient également de noter que G2 examine attentivement les avantages de l'intégration d'outils d'IA dans l'expérience de soumission d'avis. De la même manière que les assistants à la rédaction peuvent aider les réviseurs, nous améliorons constamment le processus de soumission global.

Comment la modération des avis G2 détecte le contenu généré par l'IA

Notre équipe dispose d'un processus de vérification et d'audit rigoureux pour toutes les nouvelles soumissions d'examen. En raison du nombre massif d'avis que nous recueillons chaque jour, nous devons utiliser un mélange réfléchi de technologie de pointe et de membres d'équipe bien formés avec un œil perspicace.

4K+

Les avis générés par l'IA sont rejetés par G2 par mois, ce qui représente 5 à 8 % du total des soumissions mensuelles d'avis.

G2 utilise des outils et des services tiers de premier plan pour détecter le contenu généré par l'IA dans les soumissions d'examen. Bien que nous ne divulguions pas les technologies spécifiques utilisées, soyez assurés que nous utilisons certains des logiciels les mieux évalués sur le marché.

Les outils à la disposition de G2 sont des solutions de détection de contenu de niveau entreprise qui analysent et signalent le contenu généré par l'IA. Après avoir signalé ce contenu, notre équipe interne de modérateurs qualitatifs valide ces instances.

Bonnes intentions contre mauvais acteurs

Il est important de reconnaître que nous décourageons et rejetons les soumissions qui utilisent l'IA générative. En raison de notre position sur la puissance des avis authentiques, nous visons à refuser les avis lorsque nos processus détectent du contenu généré par l'IA, que l'intention soit légitime ou frauduleuse.

En plus d'utiliser des outils tiers, nous utilisons un modèle ML interne qui apprend de la décision de chaque modérateur pour détecter les avis frauduleux. Ce modèle ML utilise également d'autres données, telles que l'historique des avis d'un utilisateur, la présence sur les réseaux sociaux, le modèle de soumission, les actions du navigateur, les adresses IP, les informations de localisation, etc. pour détecter les activités frauduleuses.

Et bien que la détection de contenu par IA et notre modèle ML aident à signaler les faux avis à grande échelle, nous nous appuyons également sur l'expertise spécialisée de nos modérateurs pour auditer les avis qui nécessitent une évaluation plus approfondie. Notre équipe est apte à identifier les schémas couramment associés aux activités frauduleuses et à créer des pratiques efficaces de prévention de la fraude.

Jeter les bases d'un avenir meilleur avec l'IA

Il y a de fortes chances que le monde soit très différent dans les années à venir en raison de l'explosion de la technologie de l'IA générative. D'innombrables créateurs de contenu et marques devront s'adapter et maîtriser ces outils pour rester compétitifs.

Mais pour autant de bien que cette technologie peut faire, on peut en dire autant des dommages qu'elle pourrait potentiellement causer. G2 embrasse et reconnaît les énormes avantages de l'IA générative. Cependant, nous pensons toujours que les critiques ne sont dignes de confiance que lorsqu'elles proviennent d'expériences de première main de personnes réelles.

Parce que nous croyons au pouvoir des avis authentiques, vous pouvez toujours compter sur G2 pour défendre la voix du client.

Trouvez le bon logiciel avec la puissance de l'IA. Explorez une nouvelle façon de faire des recherches avec Monty, le chatbot alimenté par l'IA de G2.