Cum abordează G2 moderarea revizuirii în era IA generativă

Publicat: 2023-07-24

Nu ai reproșa un explorator pentru dragostea lor pentru busolă.

Tehnologiile inovatoare fac dificilă limitarea entuziasmului nostru. Când apare ceva care are un impact radical asupra modului în care lucrăm sau interacționăm cu lumea noastră, vrem să-l îmbrățișăm.

Uneori, cel mai bine este să luăm o bătaie pentru a săpa mai mult, chiar și atunci când am dori să credem că un nou instrument sau invenție este un remediu. Fără a înțelege nuanțele și implicațiile, a face alunecarea cu capul întâi în platoul principal ar putea fi mai riscant decât am crezut.

Epoca inteligenței artificiale generative (AI) este aici. Pe măsură ce trecem în acest nou capitol al istoriei omenirii, cursa începe să vedem cum să adoptăm această nouă tehnologie. În acest articol, vom explora modul în care IA generativă se aplică recenziilor software B2B și poziția G2 cu privire la aceasta.

Inovație la viteze vertiginoase

Instrumentele AI generative, cum ar fi DALL-E 2 și ChatGPT, au făcut prima oară titluri la sfârșitul anului 2022. La doar câteva luni din 2023, adoptarea și interesul pentru tehnologia AI au explodat. Cu mai mulți furnizori de software care explorează cum să integreze AI pentru a crea soluții noi, profesioniștii din industrii salută acest lucru ca pe o nouă frontieră pentru afaceri.

Unii susțin că inteligența artificială generativă are potențialul de a crește PIB-ul global cu 7% până în 2030. Pe de altă parte, mulți prevăd cum ar putea afecta această tehnologie piața mondială a muncii. Rămâne de văzut în ce măsură va fi, dar experții sugerează că probabilitatea ca aceasta să schimbe modul în care lucrăm foarte curând.

Deși este cunoscut în special pentru generarea de text și imagini, AI generativă are potențialul de a face alte lucruri, cum ar fi scrierea codului și ajuta la analiza datelor. Într-o iterație a ChatGPT, un utilizator a folosit cu succes acest instrument pentru a crea o versiune redabilă de Pong în mai puțin de 60 de secunde.

Inteligența artificială generativă are implicații de anvergură, indiferent de industrie. Dar, deoarece această tehnologie face progrese într-un ritm atât de rapid, prezintă, de asemenea, provocări unice și un potențial de abuz de către actori răi. Înainte de a face legătura între această tehnologie inovatoare și politicile și procesele G2 legate de moderarea revizuirii, este important să stabilim contextul despre IA generativă.

Provocări ale tehnologiei interesante în fazele incipiente

Conținutul generat de inteligență artificială este setat să revoluționeze crearea de conținut în următorii ani și probabil să perturbe industriile creative existente. Deoarece această tehnologie este plină de un astfel de potențial, există și o posibilitate masivă de abuz pe scară largă.

Nu se poate nega că AI generativă este impresionantă. Cu toate acestea, luați în considerare următoarele provocări și riscuri înainte de a face scufundare.

  • Preocupări etice și drepturi de autor: mulți oponenți ai conținutului generat de AI notează preocupările etice din jurul acestuia. Deoarece aceste modele se antrenează pe conținutul existent, citarea surselor și acordarea de credite devin complexe. De la studenți care folosesc AI până la   scrie lucrări la termen   „împrumut” cod la scară masivă, riscul de plagiat și încălcarea drepturilor de autor sunt foarte reale.
  • Calitatea conținutului :   În general, instrumentele AI generative sunt convingătoare. Dar, așa cum vă va spune orice scriitor sau artist,   nu vor înlocui locurile de muncă umane prea curând. Viitorul AI va fi probabil o combinație de tehnologie și operatori umani, dar nu vă așteptați să vă înlocuiți echipa de creație cu aceste instrumente încă.
  • Informații greșite și inexactități:   În mod similar cu calitatea conținutului, inteligența artificială generativă are puține mijloace de prevenire   rezultate inexacte, false sau înșelătoare . Publicarea de conținut inexact poate afecta reputația unei mărci, așa că este esențial să rămâneți vigilenți cu privire la verificarea faptelor conținutului generat de AI.
  • Prejudecăți învățate:   Un alt aspect ridicat de criticii conținutului generat de AI este că modelele lor folosesc conținut uman. Argumentul este că, deoarece oamenii au părtiniri implicite și explicite, aceste modele AI   învață aceste modele și comportamente .

Poziția noastră cu privire la IA generativă și recenziile software

Cu peste 2 milioane de recenzii de la oameni reali, G2 este cea mai mare piață din lume pentru software B2B. A ajunge în acest punct a necesitat multă muncă și dedicare din partea echipei noastre. Dar nu ar fi posibil fără a respecta puterea recenziilor imparțiale și autentice.

În centrul tuturor, știm că oamenii au încredere în experiențele celorlalți, motiv pentru care acordăm prioritate calității recenziilor în detrimentul cantității. Cumpărătorii au ajuns să aibă încredere în G2 pentru cercetarea și evaluarea software-ului, deoarece facem tot ce putem pentru a garanta autenticitatea, cum ar fi:

  • Verificarea identității fiecărui utilizator pe G2.
  • Utilizarea a peste 43 de puncte de date pentru a evalua autenticitatea.
  • Verificarea fiecărei recenzii folosind linii directoare stricte.

G2 adoptă o abordare imparțială a recenziilor moderate. Scopul nostru este de a garanta că fiecare recenzie este opinia sinceră a experienței recenzentului cu un produs. De asemenea, monitorizăm în mod activ modelele care indică un comportament fraudulos. Când apar astfel de situații, efectuăm un audit amănunțit, eliminăm evaluările în cauză și implementăm măsurile de aplicare necesare.

Datorită angajamentului nostru față de feedback-ul imparțial al cumpărătorilor, recenziile care folosesc inteligența artificială generativă pentru a scrie majoritatea conținutului nu respectă regulile comunității G2 .

Deși rămânem fermi că recenziile ar trebui să vină de la oameni reali, singura excepție este utilizarea asistenților de scriere AI. Atâta timp cât instrumentul urmărește doar să îmbunătățească lizibilitatea, gramatica și ortografia, salutăm recenzenții să utilizeze aceste instrumente.

De asemenea, merită remarcat faptul că G2 ia în considerare cu atenție beneficiile încorporării instrumentelor AI în experiența de trimitere a recenziilor. Similar cu modul în care asistenții de scriere pot ajuta recenzenții, îmbunătățim constant procesul general de trimitere.

Modul în care moderarea recenziilor G2 detectează conținutul generat de AI

Echipa noastră are un proces riguros de verificare și auditare pentru toate trimiterile de recenzii noi. Datorită numărului masiv de recenzii pe care le colectăm într-o zi dată, trebuie să folosim o combinație atentă de cea mai bună tehnologie din clasă și membri ai echipei bine pregătiți, cu un ochi perseverent.

4K+

Revizuirile generate de inteligența artificială G2 respinse pe lună, reprezentând 5-8% din totalul recenziilor trimise lunare.

G2 folosește instrumente și servicii de vârf ale terților pentru a detecta conținutul generat de AI în trimiterile de recenzii. Deși nu ne vom înclina mâna asupra tehnologiilor specifice utilizate, fiți siguri că folosim unele dintre cele mai bine revizuite software de pe piață.

Instrumentele de care dispune G2 sunt soluții de detectare a conținutului la nivel de întreprindere care scanează și semnalează conținutul generat de AI. După semnalarea acestui conținut, echipa noastră internă de moderatori calitativi validează aceste cazuri.

Intenții bune vs actori răi

Este important să recunoaștem că descurajăm și respingem trimiterile care folosesc inteligența artificială generativă. Datorită poziției noastre cu privire la puterea recenziilor autentice, ne propunem să refuzăm recenziile atunci când procesele noastre detectează conținut generat de inteligență artificială, indiferent dacă intenția a fost legitimă sau frauduloasă.

Pe lângă utilizarea instrumentelor terță parte, utilizăm un model intern de ML care învață din decizia fiecărui moderator de a detecta recenzii frauduloase. Acest model ML folosește și alte date, cum ar fi istoricul recenziilor unui utilizator, prezența pe rețelele sociale, modelul de trimitere, acțiunile browserului, adresele IP, informațiile despre locație și multe altele pentru a detecta activități frauduloase.

Și în timp ce detectarea conținutului AI și modelul nostru ML ajută la semnalarea recenziilor false la scară, de asemenea, punem la punct expertiza specializată a moderatorilor noștri pentru a audita recenziile care necesită o evaluare mai considerabilă. Echipa noastră este expertă în identificarea tiparelor asociate în mod obișnuit cu activitățile frauduloase și în crearea unor practici eficiente de prevenire a fraudei.

Punerea bazelor pentru un viitor mai luminos cu AI

Există șanse mari ca lumea să arate mult diferit în următorii ani, datorită exploziei tehnologiei AI generative. Nenumărați creatori de conținut și mărci vor trebui să adapteze și să stăpânească aceste instrumente pentru a rămâne competitivi.

Dar pentru cât de bine poate face această tehnologie, același lucru se poate spune și despre daunele pe care le-ar putea produce. G2 îmbrățișează și recunoaște extraordinarele avantaje generate de IA. Cu toate acestea, considerăm în continuare că recenziile sunt demne de încredere doar atunci când provin din experiențele de primă mână ale unor oameni reali.

Deoarece credem în puterea recenziilor autentice, puteți conta întotdeauna pe G2 pentru a susține vocea clientului.

Găsiți software-ul potrivit cu puterea AI. Explorați o nouă modalitate de a cerceta cu chatbot-ul G2, alimentat de AI, Monty.