التخفيف من مخاطر الذكاء الاصطناعي التوليدي من خلال وضع الإنسان في الحلقة

"لا توجد حالة استخدام مستدام للذكاء الاصطناعي الشرير."

كانت هذه هي الطريقة التي لخص بها الدكتور روب ووكر ، خبير الذكاء الاصطناعي المعتمد ونائب رئيس شركة Pega للقرارات والتحليلات ، مناقشة مائدة مستديرة حول الذكاء الاصطناعي المارق في مؤتمر PegaWorld iNspire الأسبوع الماضي.

لقد شرح الفرق بين الخوارزميات غير الشفافة والشفافة. في أحد طرفي طيف الذكاء الاصطناعي ، تعمل الخوارزميات غير الشفافة بسرعة عالية ومستويات عالية من الدقة. المشكلة هي أننا في الواقع لا نستطيع شرح كيف يفعلون ما يفعلونه. وهذا يكفي لجعلها غير مجدية إلى حد ما للمهام التي تتطلب المساءلة - اتخاذ القرارات بشأن طلبات الرهن العقاري أو القروض ، على سبيل المثال.

من ناحية أخرى ، تتمتع الخوارزميات الشفافة بميزة التفسير. هم فقط أقل موثوقية. قال إن الأمر يشبه الاختيار بين الحصول على دورة علاج طبي موصوفة من قبل طبيب يمكنه أن يشرحها لك ، أو آلة لا تستطيع شرحها ولكن من المرجح أن تكون على حق. إنه اختيار - وليس خيارًا سهلاً.

ولكن في نهاية المطاف ، فإن تسليم جميع القرارات لأقوى أدوات الذكاء الاصطناعي ، مع احتمال تعرضها لخطر المارقة ، ليس مستدامًا حقًا.

في نفس المؤتمر ، ناقش الرئيس التنفيذي للتكنولوجيا Pega Don Schuerman رؤية "الطيار الآلي" ، وهو حل يعمل بالذكاء الاصطناعي للمساعدة في إنشاء مؤسسة مستقلة. "آمل أن يكون لدينا بعض الاختلاف في عام 2024. أعتقد أنه سيتولى الحكم والسيطرة." في الواقع ، سوف: قلة منا ، على سبيل المثال ، يريدون ركوب طائرة لها طيار آلي فقط ولا يوجد إنسان في الحلقة.

الإنسان في الحلقة

كان إبقاء الإنسان في الحلقة تعويذة ثابتة في المؤتمر ، مما يؤكد التزام Pega بالذكاء الاصطناعي المسؤول. منذ عام 2017 ، أطلقت Pega “T-Switch” ، مما يسمح للشركات بطلب مستوى الشفافية لأعلى ولأسفل على مقياس منزلق لكل نموذج من نماذج الذكاء الاصطناعي. "على سبيل المثال ، من غير المجازفة استخدام نموذج التعلم العميق المعتم الذي يصنف الصور التسويقية. وعلى العكس من ذلك ، تتطلب البنوك الخاضعة للوائح صارمة لممارسات الإقراض العادلة نماذج عالية الشفافية للذكاء الاصطناعي لإثبات التوزيع العادل لعروض القروض ".

ومع ذلك ، فإن الذكاء الاصطناعي التوليدي يجلب مستوى آخر تمامًا من المخاطر - ليس أقلها الوظائف التي تواجه العملاء مثل التسويق. على وجه الخصوص ، لا يهم حقًا ما إذا كان الأمر يتعلق بقول الحقيقة أو اختلاق الأشياء ("الهلوسة"). في حالة عدم وضوح ذلك ، تظهر هذه المخاطر مع أي تطبيق للذكاء الاصطناعي التوليدي ولا تقتصر على أي من حلول Pega.

أوضح مدير مختبر Pega AI ، بيتر فان دير بوتين ، "إنه يتنبأ بما هو أكثر احتمالًا ومعقولًا وما نريد أن نسمعه". لكن هذا يفسر المشكلة أيضًا. "يمكن أن يقول شيئًا ما ، ثم يكون جيدًا للغاية في تقديم تفسيرات معقولة ؛ يمكنه أيضًا التراجع ". بمعنى آخر ، يمكن أن تعود باستجابة مختلفة - ربما أفضل - إذا حددت نفس المهمة مرتين.

قبل PegaWorld مباشرة ، أعلنت Pega عن 20 "معززًا" مولّدًا مدعومًا بالذكاء الاصطناعي ، بما في ذلك روبوتات الدردشة بالذكاء الاصطناعي العام ، وسير العمل الآلي وتحسين المحتوى. قال بوتين: "إذا نظرت بعناية إلى ما أطلقناه ، فكلهم تقريبًا لديهم إنسان في الحلقة. عوائد عالية ومخاطر منخفضة. هذه هي فائدة بناء منتجات عامة تعتمد على الذكاء الاصطناعي بدلاً من منح الأشخاص إمكانية الوصول إلى تقنية الذكاء الاصطناعي التوليدية العامة ".

توفر Pega GenAI ، إذن ، أدوات لتحقيق مهام محددة (مع تشغيل نماذج لغوية كبيرة في الخلفية) ؛ إنها ليست مجرد قطعة قماش فارغة تنتظر المطالبات البشرية.

بالنسبة لشيء مثل روبوت الدردشة المدعوم بالذكاء الاصطناعي ، فإن الحاجة إلى وجود إنسان في الحلقة واضحة بما فيه الكفاية. قال شورمان: "أعتقد أنه سيمر بعض الوقت قبل أن تشعر العديد من الشركات بالراحة عند وضع نموذج محادثة كبير للغة أمام عملائها مباشرة". "أي شيء يولده الذكاء الاصطناعي التوليدي - أريد من الإنسان أن ينظر إليه قبل وضعه أمام العميل."

أربعة ملايين تفاعل في اليوم

لكن وضع الإنسان في الحلقة يثير تساؤلات حول قابلية التوسع.

وقال فينبار هيج ، نائب رئيس الخدمات الرقمية في شركة الخدمات المالية والخدمات المالية الهولندية Rabobank ، في المؤتمر إن Pega's Customer Decision Hub تعالج 1.5 مليار تفاعل سنويًا بالنسبة لهم ، أو حوالي أربعة ملايين تفاعل يوميًا. تتمثل مهمة المركز في إنشاء توصيات تالية لأفضل إجراء ، وإنشاء رحلة للعميل في الوقت الفعلي وعلى الطاير. قد يكون الإجراء التالي الأفضل ، على سبيل المثال ، إرسال بريد إلكتروني مخصص - ويوفر الذكاء الاصطناعي العام إمكانية إنشاء مثل هذه الرسائل الإلكترونية على الفور تقريبًا.

يقترح أن كل واحدة من رسائل البريد الإلكتروني هذه تحتاج إلى موافقة بشرية قبل إرسالها. كم عدد رسائل البريد الإلكتروني هذا؟ كم من الوقت سيحتاج المسوقون إلى تخصيصه للموافقة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؟

ربما يكون استخدام Pega GenAI أكثر قابلية للإدارة لإنشاء مستندات أعمال معقدة في مجموعة واسعة من اللغات. في كلمته الرئيسية ، أوضح كريم أكغونول ، كبير مسؤولي المنتجات ، استخدام الذكاء الاصطناعي لإنشاء سير عمل معقد ، باللغة التركية ، لطلب قرض. أخذ النموذج في الاعتبار قواعد العمل العالمية بالإضافة إلى اللوائح المحلية.

بالنظر إلى النتيجة ، يمكن أن يرى Akgonul ، وهو نفسه تركي ، بعض الأخطاء. لهذا السبب هناك حاجة للإنسان. ولكن ليس هناك شك في أن جيل الذكاء الاصطناعي بالإضافة إلى الموافقة البشرية بدت أسرع بكثير من الجيل البشري تليها الموافقة البشرية على الإطلاق.

هذا ما سمعته من كل مسؤول تنفيذي في شركة Pega سألته عن هذا الأمر. نعم ، ستستغرق الموافقة بعض الوقت وستحتاج الشركات إلى وضع الحوكمة - "أفضل الممارسات الإلزامية" على حد تعبير شورمان - لضمان تطبيق المستوى الصحيح من الحوكمة ، اعتمادًا على مستويات المخاطر.

بالنسبة للتسويق ، في دوره الأساسي الذي يواجه العملاء ، من المرجح أن يكون هذا المستوى من الحوكمة مرتفعًا. ومع ذلك ، فإن الأمل والوعد هو أن الأتمتة المدفوعة بالذكاء الاصطناعي ستستمر في إنجاز الأمور بشكل أفضل وأسرع.

احصل على MarTech! يوميًا. حر. في بريدك الوارد.

عنوان البريد الإلكتروني للنشاط التجاري

يشترك يعالج...

انظر الشروط.