Снижение рисков генеративного ИИ за счет вовлечения человека

«У злого ИИ нет устойчивого варианта использования».

Именно так д-р Роб Уокер, аккредитованный эксперт по искусственному интеллекту и вице-президент Pega по принятию решений и аналитике, резюмировал обсуждение за круглым столом мошеннического ИИ на конференции PegaWorld iNspire на прошлой неделе.

Он объяснил разницу между непрозрачными и прозрачными алгоритмами. На одном конце спектра ИИ непрозрачные алгоритмы работают с высокой скоростью и высоким уровнем точности. Проблема в том, что мы на самом деле не можем объяснить, как они делают то, что делают. Этого достаточно, чтобы сделать их более или менее бесполезными для задач, требующих ответственности — например, для принятия решений по заявкам на ипотеку или кредит.

С другой стороны, прозрачные алгоритмы обладают достоинством объяснимости. Они просто менее надежны. По его словам, это похоже на выбор между курсом лечения, прописанным врачом, который может вам это объяснить, или машиной, которая не может объяснить, но, скорее всего, будет права. Это выбор — и не простой.

Но, в конце концов, передача всех решений самым мощным инструментам искусственного интеллекта с риском того, что они станут мошенниками, на самом деле не является устойчивой.

На той же конференции технический директор Pega Дон Шуерман обсудил видение «Автопилота» — решения на базе ИИ, помогающего создать автономное предприятие. «Я надеюсь, что в 2024 году у нас будет какая-то его вариация. Я думаю, что она потребует управления и контроля». Действительно, так и будет: мало кто из нас, например, захочет сесть на самолет, в котором есть только автопилот и нет человека в петле.

Человек в петле

Постоянной мантрой на конференции было держать человека в курсе, что подчеркивало приверженность Pega ответственному ИИ. Еще в 2017 году компания запустила Pega «T-Switch», позволяющую предприятиям повышать и понижать уровень прозрачности по скользящей шкале для каждой модели ИИ. «Например, использование непрозрачной модели глубокого обучения, которая классифицирует маркетинговые изображения, сопряжено с низким риском. И наоборот, банкам, в которых действуют строгие правила справедливого кредитования, требуются высокопрозрачные модели искусственного интеллекта, чтобы продемонстрировать справедливое распределение кредитных предложений», — пояснила Пега.

Однако генеративный ИИ несет в себе совершенно другой уровень риска — не в последнюю очередь для функций, ориентированных на клиента, таких как маркетинг. В частности, ему совершенно все равно, говорит ли он правду или выдумывает («галлюцинирует»). Если это неясно, эти риски возникают при любой реализации генеративного ИИ и не относятся к каким-либо решениям Pega.

«Это предсказание того, что наиболее вероятно и правдоподобно и что мы хотим услышать», — объяснил директор Pega AI Lab Питер ван дер Путтен. Но это также объясняет проблему. «Он может что-то сказать, а затем очень хорошо давать правдоподобные объяснения; он также может вернуться назад». Другими словами, он может вернуться с другим — возможно, лучшим — ответом, если поставить одну и ту же задачу дважды.

Незадолго до PegaWorld компания Pega анонсировала 20 генеративных «бустеров» на базе ИИ, включая чат-боты поколения ИИ, автоматизированные рабочие процессы и оптимизацию контента. «Если вы внимательно посмотрите на то, что мы запустили, — сказал Путтен, — почти во всех из них замешаны люди. Высокая доходность, низкий риск. В этом и заключается преимущество создания продуктов на базе генеративного ИИ, а не предоставления людям доступа к общей технологии генеративного ИИ».

Таким образом, Pega GenAI предоставляет инструменты для выполнения конкретных задач (с большими языковыми моделями, работающими в фоновом режиме); это не просто пустой холст, ожидающий человеческих подсказок.

Для чего-то вроде чат-бота поколения с искусственным интеллектом потребность в человеке достаточно очевидна. «Я думаю, что пройдет какое-то время, прежде чем многие компании смогут удобно размещать чат-бота с большой языковой моделью прямо перед своими клиентами», — сказал Шуерман. «Все, что генерирует генеративный ИИ, я хочу, чтобы человек посмотрел на это, прежде чем представить его покупателю».

Четыре миллиона взаимодействий в день

Но включение человека в цикл вызывает вопросы о масштабируемости.

Финбар Хейдж, вице-президент по цифровым технологиям голландской компании Rabobank, предоставляющей хлебопекарные и финансовые услуги, сообщил на конференции, что Pega’s Customer Decision Hub обрабатывает для них 1,5 миллиарда взаимодействий в год, или около четырех миллионов в день. Задача хаба — генерировать рекомендации по дальнейшим действиям, формируя путь клиента в режиме реального времени и «на лету». Следующим лучшим действием может быть, например, отправка персонализированного электронного письма — и gen AI предлагает возможность создавать такие электронные письма почти мгновенно.

Предполагается, что каждое из этих электронных писем должно быть одобрено человеком перед отправкой. Сколько это писем? Сколько времени потребуется маркетологам для утверждения контента, созданного ИИ?

Возможно, более удобным является использование Pega GenAI для создания сложных деловых документов на самых разных языках. В своем выступлении директор по продуктам Керим Акгонул продемонстрировал использование ИИ для создания сложного рабочего процесса на турецком языке для заявки на получение кредита. Шаблон учитывал глобальные бизнес-правила, а также местное законодательство.

Глядя на результат, Акгонул, который сам является турком, заметил некоторые ошибки. Вот почему нужен человек; но нет никаких сомнений в том, что генерация ИИ плюс человеческое одобрение казались намного быстрее, чем когда-либо могло быть человеческое генерирование, за которым следует человеческое одобрение.

Это то, что я слышал от каждого руководителя Pega, которого я расспрашивал по этому поводу. Да, утверждение потребует времени, и предприятиям необходимо будет внедрить управление — «рекомендующую передовую практику», по выражению Шуермана, — чтобы обеспечить применение надлежащего уровня управления в зависимости от уровней риска.

Для маркетинга, в его основной роли, ориентированной на клиента, такой уровень управления, вероятно, будет высоким. Однако есть надежда и обещание, что автоматизация на основе ИИ по-прежнему будет делать вещи лучше и быстрее.