Cum să scalați utilizarea modelelor lingvistice mari în marketing

Inteligența artificială generativă și modelele de limbaj mari sunt setate să schimbe industria de marketing așa cum o cunoaștem.

Pentru a rămâne competitiv, va trebui să înțelegeți tehnologia și modul în care aceasta va afecta eforturile noastre de marketing, a spus Christopher Penn, cercetător șef de date la TrustInsights.ai, vorbind la The MarTech Conference.

Aflați modalități de a extinde utilizarea modelelor lingvistice mari (LLM), valoarea ingineriei prompte și modul în care agenții de marketing se pot pregăti pentru ceea ce urmează.

Premisa din spatele modelelor mari de limbaj

De la lansare, ChatGPT a fost un subiect în tendințe în majoritatea industriilor. Nu poți intra online fără să vezi părerea tuturor. Cu toate acestea, nu mulți oameni înțeleg tehnologia din spatele ei, a spus Penn.

ChatGPT este un chatbot AI bazat pe GPT-3.5 și GPT-4 LLM OpenAI.

LLM-urile sunt construite pe o premisă din 1957 de către lingvistul englez John Rupert Firth: „Veți cunoaște un cuvânt după compania pe care o păstrează”.

Aceasta înseamnă că sensul unui cuvânt poate fi înțeles pe baza cuvintelor care apar de obicei alături de el. Mai simplu spus, cuvintele sunt definite nu doar prin definiția lor din dicționar, ci și prin contextul în care sunt folosite.

Această premisă este cheia înțelegerii procesării limbajului natural.

De exemplu, uitați-vă la următoarele propoziții:

• „Prepar ceaiul.”
• „Vars ceaiul.”

Primul se referă la o băutură fierbinte, în timp ce al doilea este argou pentru bârfă. „Ceaiul” în aceste cazuri are înțelesuri foarte diferite.

Ordinea cuvintelor contează, de asemenea.

• „Prepar ceaiul.”
• „Ceaiul pe care îl prepar.”

Propozițiile de mai sus au subiecte diferite, chiar dacă folosesc același verb, „brewing”.

Cum funcționează modelele mari de limbaj

Mai jos este o diagramă de sistem a transformatoarelor, modelul de arhitectură în care sunt construite modele mari de limbaj.

Mai simplu spus, un transformator preia o intrare și o transformă (adică, „transformă”) în altceva.

LLM-urile pot fi folosite pentru a crea, dar sunt mai bune la transformarea unui lucru în altceva.

OpenAI și alte companii de software încep prin a ingera un corpus enorm de date, inclusiv milioane de documente, lucrări academice, articole de știri, recenzii de produse, comentarii pe forum și multe altele.

Luați în considerare cât de des poate apărea expresia „Prepar ceaiul” în toate aceste texte ingerate.

Recenziile produselor Amazon și comentariile Reddit de mai sus sunt câteva exemple.

Observați „compania” pe care o păstrează această expresie – adică toate cuvintele care apar lângă „Prepar ceaiul”.

„Gustul”, „mirosul”, „cafea”, „aroma” și multe altele oferă context acestor LLM.

Aparatele nu pot citi. Deci, pentru a procesa tot acest text, ei folosesc înglobări, primul pas în arhitectura transformatorului.

Încorporarea permite modelelor să atribuie fiecărui cuvânt o valoare numerică, iar această valoare numerică apare în mod repetat în corpus de text.

Poziția cuvântului contează și pentru aceste modele.

În exemplul de mai sus, valorile numerice rămân aceleași, dar sunt într-o secvență diferită. Aceasta este codificarea pozițională.

În termeni simpli, modelele mari de limbaj funcționează astfel:

• Aparatele preiau date text.
• Atribuiți valori numerice tuturor cuvintelor.
• Priviți frecvențele statistice și distribuțiile dintre diferitele cuvinte.
• Încercați să vă dați seama care va fi următorul cuvânt din secvență.

Toate acestea necesită o putere de calcul semnificativă, timp și resurse.

Inginerie promptă: o abilitate care trebuie învățată

Cu cât oferim mai mult context și instrucțiuni LLM, cu atât este mai probabil ca acestea să aducă rezultate mai bune. Aceasta este valoarea ingineriei prompte.

Penn consideră îndemnurile drept balustrade pentru ceea ce vor produce mașinile. Mașinile vor prelua cuvintele din intrarea noastră și se vor fixa pe ele pentru context pe măsură ce dezvoltă rezultatul.

De exemplu, când scrieți solicitări ChatGPT, veți observa că instrucțiunile detaliate tind să returneze răspunsuri mai satisfăcătoare.

Într-un fel, solicitările sunt ca niște brief-uri creative pentru scriitori. Dacă doriți ca proiectul dvs. să fie realizat corect, nu îi veți oferi scriitorului o instrucțiune pe o singură linie.

În schimb, veți trimite un brief de dimensiuni decente care să acopere tot ceea ce doriți să scrie și cum doriți să fie scrise.

Extinderea utilizării LLM-urilor

Când vă gândiți la chatbot-uri AI, s-ar putea să vă gândiți imediat la o interfață web în care utilizatorii pot introduce solicitări și apoi așteptați răspunsul instrumentului. Asta este ceea ce toată lumea obișnuiește să vadă.

„Acesta nu este în niciun caz jocul final pentru aceste instrumente. Acesta este locul de joacă. Aici oamenii ajung să joace instrumentul”, a spus Penn. „Nu acesta este modul în care întreprinderile vor aduce acest lucru pe piață.”

Gândiți-vă la scrierea promptă ca la programare. Sunteți un dezvoltator care scrie instrucțiuni pe un computer pentru a-l determina să facă ceva.

Odată ce ați ajustat solicitările pentru cazuri specifice de utilizare, puteți utiliza API-urile și puteți determina dezvoltatorii reali să înglobeze acele solicitări în cod suplimentar, astfel încât să puteți trimite și primi date la scară în mod programatic.

Acesta este modul în care LLM-urile vor scala și vor schimba afacerile în bine.

Deoarece aceste instrumente sunt lansate peste tot, este esențial să ne amintim că toată lumea este un dezvoltator.

Această tehnologie va fi în Microsoft Office - Word, Excel și PowerPoint - și multe alte instrumente și servicii pe care le folosim zilnic.

„Deoarece programezi în limbaj natural, nu neapărat programatorii tradiționali vor avea cele mai bune idei”, a adăugat Penn.

Deoarece LLM-urile sunt susținute de profesioniști în scris, marketing sau PR – nu programatori – pot dezvolta modalități inovatoare de a folosi instrumentele.

Un sfat suplimentar pentru marketerii de căutare

Începem să vedem impactul modelelor lingvistice mari asupra marketingului, în special al căutării.

În februarie, Microsoft a dezvăluit noul Bing, alimentat de ChatGPT. Utilizatorii pot conversa cu motorul de căutare și pot obține răspunsuri directe la întrebările lor fără a face clic pe niciun link.

„Ar trebui să vă așteptați ca aceste instrumente să ia o mușcătură din căutarea fără marcă, deoarece răspund la întrebări în moduri care nu necesită clicuri”, a spus Penn.

„Ne-am confruntat deja în calitate de profesioniști SEO, cu fragmente prezentate și rezultate de căutare fără clicuri… dar se va înrăutăți pentru noi.”

El recomandă să accesați Bing Webmaster Tools sau Google Search Console și să vă uitați la procentul de trafic pe care site-ul dvs. îl primește din căutări informaționale fără marcă, deoarece este cea mai mare zonă de risc pentru SEO.