Comment mettre à l'échelle l'utilisation de grands modèles linguistiques dans le marketing

L'IA générative et les grands modèles de langage sont sur le point de changer l'industrie du marketing telle que nous la connaissons.

Pour rester compétitif, vous devrez comprendre la technologie et son impact sur nos efforts de marketing, a déclaré Christopher Penn, scientifique en chef des données chez TrustInsights.ai, lors de la conférence MarTech.

Découvrez comment étendre l'utilisation des grands modèles de langage (LLM), la valeur de l'ingénierie rapide et comment les spécialistes du marketing peuvent se préparer à ce qui les attend.

La prémisse derrière les grands modèles de langage

Depuis son lancement, ChatGPT est un sujet tendance dans la plupart des industries. Vous ne pouvez pas aller en ligne sans voir le point de vue de tout le monde. Pourtant, peu de gens comprennent la technologie sous-jacente, a déclaré Penn.

ChatGPT est un chatbot IA basé sur les LLM GPT-3.5 et GPT-4 d'OpenAI.

Les LLM sont construits sur une prémisse de 1957 par le linguiste anglais John Rupert Firth : "Vous connaîtrez un mot par la compagnie qu'il garde."

Cela signifie que la signification d'un mot peut être comprise en fonction des mots qui apparaissent généralement à côté de lui. En termes simples, les mots sont définis non seulement par leur définition dans le dictionnaire, mais également par le contexte dans lequel ils sont utilisés.

Cette prémisse est essentielle pour comprendre le traitement du langage naturel.

Par exemple, regardez les phrases suivantes :

• "Je prépare le thé."
• "Je renverse le thé."

Le premier fait référence à une boisson chaude, tandis que le second est un argot pour les commérages. "Thé" dans ces cas a des significations très différentes.

L'ordre des mots compte aussi.

• "Je prépare le thé."
• "Le thé que je prépare."

Les phrases ci-dessus ont des sujets différents, même si elles utilisent le même verbe, "brassage".

Comment fonctionnent les grands modèles de langage

Vous trouverez ci-dessous un schéma de système de transformateurs, le modèle d'architecture dans lequel de grands modèles de langage sont construits.

En termes simples, un transformateur prend une entrée et la transforme (c'est-à-dire la « transforme ») en quelque chose d'autre.

Les LLM peuvent être utilisés pour créer mais sont plus efficaces pour transformer une chose en autre chose.

OpenAI et d'autres éditeurs de logiciels commencent par ingérer un énorme corpus de données, y compris des millions de documents, d'articles universitaires, d'articles de presse, de critiques de produits, de commentaires de forums et bien d'autres.

Considérez la fréquence à laquelle la phrase « Je prépare le thé » peut apparaître dans tous ces textes ingérés.

Les avis sur les produits Amazon et les commentaires Reddit ci-dessus en sont quelques exemples.

Remarquez la "compagnie" que cette phrase garde - c'est-à-dire tous les mots apparaissant près de "Je prépare le thé".

« Goût », « odeur », « café », « arôme » et plus encore donnent un contexte à ces LLM.

Les machines ne savent pas lire. Donc, pour traiter tout ce texte, ils utilisent des incorporations, la première étape de l'architecture du transformateur.

L'intégration permet aux modèles d'attribuer à chaque mot une valeur numérique, et cette valeur numérique apparaît de manière répétée dans le corpus de texte.

La position des mots compte également pour ces modèles.

Dans l'exemple ci-dessus, les valeurs numériques restent les mêmes mais sont dans un ordre différent. C'est l'encodage positionnel.

En termes simples, les grands modèles de langage fonctionnent comme ceci :

• Les machines prennent des données textuelles.
• Attribuez des valeurs numériques à tous les mots.
• Regardez les fréquences statistiques et les distributions entre les différents mots.
• Essayez de deviner quel sera le prochain mot de la séquence.

Tout cela nécessite une puissance de calcul, du temps et des ressources importantes.

Ingénierie rapide : une compétence incontournable

Plus nous fournissons de contexte et d'instructions aux LLM, plus ils sont susceptibles de donner de meilleurs résultats. C'est la valeur de l'ingénierie rapide.

Penn considère les invites comme des garde-fous pour ce que les machines vont produire. Les machines capteront les mots dans notre entrée et s'y accrocheront pour le contexte au fur et à mesure qu'elles développeront la sortie.

Par exemple, lors de l'écriture d'invites ChatGPT, vous remarquerez que des instructions détaillées ont tendance à renvoyer des réponses plus satisfaisantes.

À certains égards, les invites sont comme des briefs créatifs pour les écrivains. Si vous voulez que votre projet soit fait correctement, vous ne donnerez pas à votre rédacteur une instruction d'une ligne.

Au lieu de cela, vous enverrez un dossier de taille décente couvrant tout ce que vous voulez qu'ils écrivent et comment vous voulez qu'ils soient écrits.

Étendre l'utilisation des LLM

Lorsque vous pensez aux chatbots IA, vous pouvez immédiatement penser à une interface Web où les utilisateurs peuvent saisir des invites, puis attendre la réponse de l'outil. C'est ce que tout le monde a l'habitude de voir.

"Ce n'est en aucun cas la fin du jeu pour ces outils. C'est le terrain de jeu. C'est là que les humains peuvent bricoler avec l'outil », a déclaré Penn. "Ce n'est pas ainsi que les entreprises vont mettre cela sur le marché."

Considérez l'écriture rapide comme une programmation. Vous êtes un développeur qui écrit des instructions à un ordinateur pour lui faire faire quelque chose.

Une fois que vous avez affiné vos invites pour des cas d'utilisation spécifiques, vous pouvez tirer parti des API et demander à de vrais développeurs d'encapsuler ces invites dans du code supplémentaire afin que vous puissiez envoyer et recevoir des données à grande échelle par programmation.

C'est ainsi que les LLM vont évoluer et changer les entreprises pour le mieux.

Parce que ces outils sont déployés partout, il est essentiel de se rappeler que tout le monde est développeur.

Cette technologie sera dans Microsoft Office — Word, Excel et PowerPoint — et de nombreux autres outils et services que nous utilisons quotidiennement.

"Parce que vous programmez en langage naturel, ce ne sont pas nécessairement les programmeurs traditionnels qui auront les meilleures idées", a ajouté Penn.

Étant donné que les LLM sont alimentés par l'écriture, les professionnels du marketing ou des relations publiques - et non les programmeurs - peuvent développer des moyens innovants d'utiliser les outils.

Un conseil supplémentaire pour les spécialistes du marketing de recherche

Nous commençons à voir l'impact des grands modèles linguistiques sur le marketing, en particulier la recherche.

En février, Microsoft a dévoilé le nouveau Bing, propulsé par ChatGPT. Les utilisateurs peuvent converser avec le moteur de recherche et obtenir des réponses directes à leurs requêtes sans cliquer sur aucun lien.

"Vous devriez vous attendre à ce que ces outils prennent une bouchée de votre recherche sans marque car ils répondent aux questions d'une manière qui ne nécessite pas de clics", a déclaré Penn.

"Nous avons déjà été confrontés à cela en tant que professionnels du référencement, avec des extraits de code et des résultats de recherche sans clic… mais cela va empirer pour nous."

Il recommande d'aller sur Bing Webmaster Tools ou Google Search Console et d'examiner le pourcentage de trafic que votre site tire de recherches informatives sans marque, car il s'agit du plus grand domaine à risque pour le référencement.