مخاطر ChatGPT: أداة تخصيص رائعة أم تقنية تصيد رائعة؟

استحوذت ChatGPT من OpenAI على العالم من خلال العاصفة.

بصرف النظر عن الملايين من الأشخاص الذين جربوا ذلك بالفعل ، يقوم موفرو خدمة البريد الإلكتروني (ESPs) بتدريبه باستخدام بيانات الحملة لإنتاج سطور ومحتوى بريد إلكتروني فعال للغاية.

يستكشف مستخدمو Salesforce كيف يمكن لـ ChatGPT إنشاء الصيغ وقواعد التحقق من الصحة. وقد قامت Microsoft الآن بدمجها في محرك بحث Bing الخاص بها - هناك حديث بالفعل عن أن هذا هو "قاتل Google المحتمل!"

إذن ، كيف تعمل التكنولوجيا الجديدة؟

يستخدم ChatGPT (المحولات العامة المدربة مسبقًا) تقنيات التعلم العميق لمعالجة تيرابايت من بيانات الويب (التي تحتوي علىملياراتالكلمات) لإنشاء إجابات للمطالبات أو الأسئلة من المستخدمين.

التفاعلات مثل التحدث إلى شخص ما. يقول الكثيرون إن ChatGPT هو أول تطبيق ذكاء اصطناعي يجتاز اختبار تورينج - مما يعني أنه يُظهر سلوكًا ذكيًا مكافئًا للإنسان أو لا يمكن تمييزه عنه.

لقد رأينا بالفعل بعض حالات الاستخدام اللافتة للنظر:

• استخدمت صحيفة Times البريطانية ChatGPT لكتابة مقالها الافتتاحي اليومي ، ثم طلبت من القراء تحديد المحتوى الذي تم تأليفه آليًا. لم يستطع معظمهم!
• تفكر شركة التجزئة لبطاقات المعايدة عبر الإنترنت Moonpig في دمج ChatGPT في أنظمتها. يمكن للعملاء أن يطلبوا منه إنشاء رسالة أو قصيدة مخصصة دون الحاجة إلى حك رؤوسهم للكلمات الصحيحة.

يتيح ChatGPT الابتكار والإنتاجية التي يمكن أن تغير قواعد اللعبة ، وتنافس إنشاء الويب نفسه. لكن كل عملة لها وجهان. هل هناك جانب مظلم محتمل لهذه التكنولوجيا الجديدة؟

لنلقِ نظرة على كيفية قيام ChatGPT بخلق فرص جديدة لكل من مهاجمي الأمن السيبراني والمدافعين عنه.

محاولات أفضل للتصيد الاحتيالي

يرى الباحثون بالفعل التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تم نشرها في منتديات الجرائم الإلكترونية . إحدى حالات استخدام ChatGPT من "الجانب المظلم" هي التصيد الاحتيالي - رسائل البريد الإلكتروني الاحتيالية التي تستهدف عمدًا أفرادًا أو مؤسسات أو شركات معينة. باستخدام هذا التكتيك ، يمكن للمحتالين سرقة البيانات لأغراض ضارة أو تثبيت برامج ضارة على أجهزة الكمبيوتر المستهدفة.

في مثال نموذجي ، قد يتلقى موظفو الشركة بريدًا إلكترونيًا من "المدير التنفيذي" ، مع طلب عاجل للمساهمة في مستند مرتبط أو قراءة مرفق. الاسم المألوف المقترن بالطلب الذي قد يتوقعونه عادةً يزيد من المعقولية - واحتمالية استجابتهم.

في الواقع ، من الممكن تمامًا أن يكون هجوم Royal Mail ransomware الأخير قد بدأ برسالة بريد إلكتروني تصيد احتيالي.

نظرًا لأن ChatGPT يمكن أن ينتج محتوى بأسلوب الشخص المرشح ، فإن رسائل التصيد الاحتيالي الإلكترونية ستصبح أكثرإقناعًاقريبًا. يمكن للمحتالين الآن طلب محتوى يبدو وكأنه الرئيس التنفيذي للهدف ، مما يجعل الرسالة أكثر واقعية ، ويزيد من فرصة سقوط الموظفين من أجلها.

الهندسة المعادية للمجتمع

قد يعزز ChatGPT أيضًا أشكالًا أخرى من احتيال انتحال الهوية ، خاصة في الحالات التي يلزم فيها إنشاء الثقة.

باستخدام ChatGPT ، يمكن للمحتالين الظهور بشكل أكثر إقناعًا كموظفين في البنك ، أو ضباط شرطة ، أو مسؤولي ضرائب (الذين يخبرون الضحايا أن لديهم فاتورة مستحقة) ، أو ممثلين لمقدمي الخدمة (يزعمون أن أجهزة توجيه الضحايا قد تم اختراقها ، ويحتاجون إلى الوصول عن بُعد إلى أجهزة الكمبيوتر الخاصة بهم من أجل حل المشكلة).

من الأمثلة الشائعة بشكل متزايد الرسائل الواردة من الأصدقاء أو أفراد العائلة "بالخارج". سيقولون عادةً إن محفظتهم وهاتفهم قد سُرقوا ، وقد أعارهم شخصًا هاتفًا آخر لطلب أموال الطوارئ.

موت المحتوى الأصلي

يشعر العديد من المعلمين بقلق بالغ من أن ChatGPT تعني أن الطلاب لن يحتاجوا أبدًا إلى كتابة مقال آخر.

لقد وضع البعض هذا بالفعل على المحك ، حيث أرسلوا مقالات تم إنشاؤها بواسطة الذكاء الاصطناعي - وتلقوا علامات نجاح موثوقة (بشرط أن يكونوا موافقين على عدم احتلالهم المرتبة الأولى في الفصل). يتزايد قلق المعلمين من أن الذكاء الاصطناعي سيؤدي إلى الغش الجماعي ، وبدأت بعض المدارس بالفعل في الابتعاد عن مقالات الواجبات المنزلية ردًا على ذلك.

مخاوف الخصوصية

قد تعرف ChatGPT أي كوكب تم تصويره لأول مرة بواسطة تلسكوب الفضاء Webb (كان HIP 65426 b). لكن الطريقة التي تم بها الحصول على هذه البيانات قد تتعارض مع قوانين الخصوصية الناشئة مثل اللائحة العامة لحماية البيانات (GDPR) وقانون خصوصية المستهلك في كاليفورنيا (CCPA).

انتهت قضية Clearview AI ، حيث تم إنشاء قاعدة بيانات التعرف على الوجه باستخدام تجريف الصور ، بغرامات بملايين الدولارات من قطاع عرضي من عموم أوروبا من المنظمين.

الطريقة التي يعمل بها ChatGPT ليست هي نفسها تمامًا - فهي تشبه إلى حد كبير خلاط الطعام للبيانات ، حيث لم يعد من الممكن التعرف على المكونات الأصلية. ولكن سيظل هناك سؤال حول ما إذا كان الأفراديعتزموناستخدام بياناتهم بهذه الطريقة.

التعدي على حق المؤلف هو السيناريو الأكثر احتمالا. في الولايات المتحدة ، تم رفع دعوى قضائية جماعية ضد Stability AI ، مطور منشئ الفن AI Stable Diffusion. وزعم الادعاء التعدي على حقوق أصحاب الصورة الأصلية.

وتقول مكتبة الصور والفنون Getty Images ومقرها المملكة المتحدة ، إنها ستقاضي أيضًا Stable Diffusion لاستخدام صورها دون ترخيص.

GPT = احصل على الحماية اليوم

في حين أن هذه السيناريوهات قد تبدو مروعة بعض الشيء ، إلا أن هناك أفضل الممارسات الراسخة التي يمكن استخدامها كضمانات:

• اليقظة دائمًا هي خط الدفاع الأول. لن يطلب مسؤولو البنوك والشرطة أبدًا تفاصيل البطاقة أو أرقام التعريف الشخصية أو كلمات مرور الخدمات المصرفية عبر الإنترنت. لذا ، كن متشككًا للغاية في أي طلبات مماثلة.
• عند تلقي بريد إلكتروني ، تحقق من البيانات التي لا يمتلكها سوى المرسل الشرعي. هذا هو السبب في أن البنوك غالبًا ما تُدرج الرموز البريدية كجزء من رسائلها. سيؤدي استخدام مؤشرات العلامة التجارية لمصادقة الرسائل (BIMI) أيضًا دورًا رئيسيًا هنا ، حيث يؤكد بروتوكول المصادقة الأساسي (DMARC) أن البريد الإلكتروني يأتي من مرسل تم التحقق منه.
• في العمل ، قم بتنفيذ القواعد لتمييز رسائل البريد الإلكتروني من خارج مؤسستك. ستكون رسالة البريد الإلكتروني التي تدعي أنها من رئيسك التنفيذي ولكنها مسبوقة بكلمة "خارجي" بمثابة علامة تحذيرية فورية.

كيفية التعرف على المحتوى المؤلف من منظمة العفو الدولية

نشهد أيضًا ظهور تكتيكات جديدة للمساعدة في تحديد المحتوى الذي تم تأليفه بواسطة الذكاء الاصطناعي. على سبيل المثال ، تم تطوير أدوات مثل GPTZero لمساعدة المعلمين والمحاضرين على تحديد ما إذا كانت مقالات طلابهم مؤلفة آليًا.

بالإضافة إلى ذلك ، هناك تنبؤات بأن OpenAI ستدرج علامة مائية على نص مصدره ChatGPT.

سيصبح الأفراد أيضًا أكثر إبداعًا حول كيفية حماية البيانات التي قد تستخدمها أنظمة الذكاء الاصطناعي التوليفية. هناك قصة شهيرة عن فرقة موسيقى الروك فان هالين التي كانت تطالب بأوعية M & Ms مع إزالة أوعية بنية كجزء من متطلبات الحفل. اتهمهم النقاد بترك الشهرة تذهب إلى رؤوسهم. بعد ذلك ، أوضح مغنيهم ديفيد لي روث أن هذا كان لضمان قراءة عقودهم مع مروجي الأحداث (مع متطلبات أمان كبيرة) بالكامل.

من المحتمل تمامًا أن يبدأ الأشخاص في نشر "حقائق" غير صحيحة عن أنفسهم على الويب (على غرار الطريقة التي ينشر بها بائعو مكافحة البريد العشوائي مصائد البريد العشوائي الأصلية).

على سبيل المثال ، يمكنني أن أذكر في مدونة أنني نشأت في أستراليا. (كانت جنوب إفريقيا في الواقع.) أي شخص يعرفني سيعرف أن المرجع الأسترالي غير صحيح ، وسيكون بمثابة علامة حمراء إذا تم استخدامه لاحقًا في محتوى يتعلق بي!

لا يزال الذكاء الاصطناعي قوة من أجل الخير

على الرغم من المخاوف التي أوضحتها في هذا المنشور ، يجب أن يكون التأثير العام لثورة الذكاء الاصطناعي هذه إيجابيًا للغاية.

إنها قابلة للمقارنة مع الاختراعات الهامة الأخرى مثل السيارات والكمبيوتر. ستتغير الوظائف (وكذلك الحياة) ، ولكن ستظهر وظائف جديدة - خاصة في المجالات المتعلقة بتطوير الذكاء الاصطناعي ونشره. ربما الأهم من ذلك هو زيادة الإنتاجية.

هل تريد أن تسمع تنبؤاتنا حول كيفية خدمة الذكاء الاصطناعي التوليدي لعالم التسويق؟ ألق نظرة على ندوتنا الأخيرة على الويب حول حالة البريد الإلكتروني المباشر حيث نجري بحثًا عميقًا في هذه الفرص.

ورداً على سؤالك غير المطروح ، لا ، لم أستخدم ChatGPT لكتابة هذا المقال!