Как масштабировать использование больших языковых моделей в маркетинге

Генеративный ИИ и большие языковые модели должны изменить маркетинговую индустрию, какой мы ее знаем.

Чтобы оставаться конкурентоспособными, вам необходимо понимать технологию и то, как она повлияет на наши маркетинговые усилия, — сказал Кристофер Пенн, главный специалист по данным в TrustInsights.ai, выступая на конференции MarTech.

Узнайте, как масштабировать использование больших языковых моделей (LLM), ценность быстрой разработки и как маркетологи могут подготовиться к тому, что впереди.

Предпосылка больших языковых моделей

С момента своего запуска ChatGPT был популярной темой в большинстве отраслей. Вы не можете выйти в интернет, не увидев, что все думают об этом. Тем не менее, не многие люди понимают технологию, стоящую за этим, сказал Пенн.

ChatGPT — это чат-бот с искусственным интеллектом, основанный на LLM OpenAI GPT-3.5 и GPT-4.

LLM основаны на предпосылке английского лингвиста Джона Руперта Ферта, сформулированной в 1957 году: «Вы узнаете слово по компании, в которой оно находится».

Это означает, что значение слова можно понять, основываясь на словах, которые обычно встречаются рядом с ним. Проще говоря, слова определяются не только их определением в словаре, но и контекстом, в котором они используются.

Эта предпосылка является ключом к пониманию обработки естественного языка.

Например, посмотрите на следующие предложения:

• — Я завариваю чай.
• — Я разливаю чай.

Первое относится к горячему напитку, а второе — к сплетням. «Чай» в этих случаях имеет совсем другое значение.

Порядок слов тоже имеет значение.

• — Я завариваю чай.
• «Чай, который я завариваю».

В приведенных выше предложениях акцент делается на разных предметах, хотя в них используется один и тот же глагол «варить».

Как работают большие языковые модели

Ниже приведена системная схема трансформеров, модель архитектуры, в которой строятся большие языковые модели.

Проще говоря, преобразователь принимает входные данные и превращает (т. е. «трансформирует») их во что-то другое.

LLM можно использовать для создания, но они лучше превращают одно во что-то другое.

OpenAI и другие компании-разработчики программного обеспечения начинают с обработки огромного массива данных, включая миллионы документов, научных статей, новостных статей, обзоров продуктов, комментариев на форумах и многого другого.

Подумайте, как часто фраза «Я завариваю чай» может появляться во всех этих проглоченных текстах.

Обзоры продуктов Amazon и комментарии Reddit выше являются некоторыми примерами.

Обратите внимание на «компанию», которую составляет эта фраза, то есть на все слова, стоящие рядом с «Я завариваю чай».

«Вкус», «запах», «кофе», «аромат» и многое другое придают контекст этим LLM.

Машины не умеют читать. Итак, чтобы обработать весь этот текст, они используют встраивания, первый шаг в архитектуре преобразования.

Встраивание позволяет моделям присваивать каждому слову числовое значение, и это числовое значение неоднократно встречается в текстовом корпусе.

Положение слова также имеет значение для этих моделей.

В приведенном выше примере числовые значения остаются прежними, но в другой последовательности. Это позиционное кодирование.

Проще говоря, большие языковые модели работают следующим образом:

• Машины принимают текстовые данные.
• Присвойте числовые значения всем словам.
• Посмотрите на статистические частоты и распределения между разными словами.
• Попробуйте угадать, каким будет следующее слово в последовательности.

Все это требует значительных вычислительных мощностей, времени и ресурсов.

Быстрое проектирование: обязательный навык

Чем больше контекста и инструкций мы предоставим LLM, тем больше вероятность того, что они дадут лучшие результаты. В этом ценность быстрого инжиниринга.

Пенн думает о подсказках как о ограждениях того, что будут производить машины. Машины будут подбирать слова в нашем вводе и цепляться за них для контекста по мере обработки вывода.

Например, при написании подсказок ChatGPT вы заметите, что подробные инструкции, как правило, дают более удовлетворительные ответы.

В некотором смысле подсказки подобны творческим заданиям для писателей. Если вы хотите, чтобы ваш проект был выполнен правильно, вы не будете давать своему писателю однострочную инструкцию.

Вместо этого вы отправите бриф приличного размера, описывающий все, о чем вы хотите, чтобы они написали, и то, как вы хотите, чтобы они были написаны.

Масштабирование использования LLM

Когда вы думаете о чат-ботах с искусственным интеллектом, вы можете сразу же подумать о веб-интерфейсе, в котором пользователи могут вводить подсказки, а затем ждать ответа инструмента. Это то, что все привыкли видеть.

«Это никоим образом не конечная цель этих инструментов. Это детская площадка. Именно здесь люди могут возиться с инструментом», — сказал Пенн. «Это не то, как предприятия собираются вывести это на рынок».

Думайте о написании подсказок как о программировании. Вы — разработчик, который пишет инструкции для компьютера, чтобы заставить его что-то делать.

После того, как вы точно настроите свои подсказки для конкретных случаев использования, вы можете использовать API-интерфейсы и попросить реальных разработчиков обернуть эти подсказки в дополнительный код, чтобы вы могли программно отправлять и получать данные в масштабе.

Именно так LLM будут масштабировать и изменять бизнес к лучшему.

Поскольку эти инструменты внедряются повсеместно, очень важно помнить, что каждый является разработчиком.

Эта технология будет в Microsoft Office — Word, Excel и PowerPoint — и во многих других инструментах и ​​службах, которыми мы ежедневно пользуемся.

«Поскольку вы программируете на естественном языке, не обязательно у традиционных программистов будут самые лучшие идеи», — добавил Пенн.

Поскольку LLM основаны на письме, специалисты по маркетингу или связям с общественностью, а не программисты, могут разрабатывать инновационные способы использования инструментов.

Дополнительный совет для поисковых маркетологов

Мы начинаем замечать влияние больших языковых моделей на маркетинг, особенно на поиск.

В феврале Microsoft представила новый Bing на базе ChatGPT. Пользователи могут общаться с поисковой системой и получать прямые ответы на свои запросы, не нажимая ни на какие ссылки.

«Вы должны ожидать, что эти инструменты облегчат ваш небрендированный поиск, потому что они отвечают на вопросы способами, которые не требуют кликов», — сказал Пенн.

«Мы уже сталкивались с этим как профессионалы SEO, с избранными фрагментами и результатами поиска без кликов… но для нас это будет только хуже».

Он рекомендует использовать инструменты Bing для веб-мастеров или Google Search Console и посмотреть, какой процент трафика ваш сайт получает от нефирменных информационных поисков, поскольку это область наибольшего риска для SEO.