تتطرق نايلة الصليبي في "النشرة الرقمية" إلى نماذج ذكاء اصطناعي توليدي للمحادثة باللغة الطبيعية خبيثة، صممت دون ضوابط وحدود أخلاقية، لتعزيز قدرات وفعالية قراصنة الإنترنت.قد تصبح نموذج الرئيسي للعمل الإجرامي على الإنترنت في المستقبل.
توأم شرير لشات جي بي تي يثير القلق
أدت المنافسة في سوق نماذج الذكاء الاصطناعي التوليدي باللغة الطبيعية الذي تسيطر عليها حتى الآن شركة OpenAI مع شات جي بي تي إلى ظهورمنافسين من Microsoft Bing Chat و Google Bard إلى كلود وأيضا نماذج مفتوحة المصدر من شركات مختلفة بالإضافة إلى ميتا. كل هذا أدى أيضا، و كما كان متوقعًا، إلى ظهور نماذج ذكاء اصطناعي توليدي باللغة الطبيعية خبيثة على مثال WormGPT و FraudGPT، نماذج الذكاء الاصطناعي التوليدي للمحادثة باللغة الطبيعية خبيثة ،صممت دون ضوابط وحدود أخلاقية، لتعزيز قدرات وفعالية قراصنة الإنترنت. هذه النماذج ليس لديها أي مفاهيم أخلاقية التي وضعت لمعظم نماذج الذكاء الاصطناعي التوليدي باللغة الطبيعية.
ما هي هذه النماذج الخبيثة و ما هدف استخدامها؟
التوأم الخبيث لشات جي بي تي WormGPT اكتشف في 13 من يوليو 2023، يعتمد على نموذج GPT-J، وهو نموذج لغة مفتوح المصدر طورته EleutherAI، وهي مجموعة بحثية غير ربحية متخصصة في الذكاء الاصطناعي. استغل القراصنة نموذج اللغة المفتوح المصدر هذا و قاموا بتدريبه على مجموعة dataset أي مجموعة "بيانات البرمجيات الخبيثة". وبفضل هذا الكم الهائل من المعلومات، تخصص هذا النموذج بالأنشطة غير المشروعة على الإنترنت.
من أبرز استخدامات WormGPT غير المشروعة، إنشاء رسائل بريد إلكتروني مقنعة وخالية من الأخطاء للتصيد Phishing. على سبيل المثال، قام باحثون في الأمن الرقمي من شركة SlashNext، الذين كشفوا عمل هذا النموذج الخبيث، بالطلب من نموذج الذكاء الاصطناعي التوليدي باللغة الطبيعية الخبيث WormGPT إنشاء بريد إلكتروني مقنع لاستخدامه في "هجوم اختراق البريد الإلكتروني للأعمال" (BEC) Business Email Compromise. يهدف هذا النوع من الهجمات إلى التلاعب بمشاعر الموظف للإفصاح عن بيانات الشركة الحساسة أو إرسال الأموال. و ولَد مجموعة رسائل في غاية الواقعية والإقناع.
يروج مطورو نموذج الذكاء الاصطناعي التوليدي للمحادثة باللغة الطبيعية الخبيث WormGPT هذا النموذج على أنه شبيه القراصنة من ذوي القبعات السوداء وإنما لنماذج GPT، باختصار، هو مشابه لـ ChatGPT ولكن ليس له حدود أو قيود أخلاقية.
ماذا عن FraudGPT؟
أما FraudGPT فقد ظهر بعد مدّة وجيزة من WormGPT، طوره قرصان يلقب بـ CanadianKingpin"وبدأ بالترويج له عبر قناته على تيليغرام.
يعمل نموذج الذكاء الاصطناعي التوليدي باللغة الطبيعية الخبيث FraudGPT كزميله WormGPT بحيث يتيح أتمتة إنشاء رسائل بريد إلكتروني مزيفة مقنعة للغاية لهجمات التصيد، ويتيح إنشاء هويات مزيفة وتطوير برمجيات خبيثة لاستغلال الثغرات الأمنية في أنظمة الكمبيوتر والتطبيقات والمواقع الإلكترونية، وتطوير برامج خبيثة مراوغة لا يمكن اكتشافها بواسطة إجراءات الأمان التقليدية. يمكن لـ FraudGPT أيضًا إنشاء صفحات تصيد مقنعة لخداع المستخدمين لتقليد مواقع شرعية، وزيادة نجاح هجمات التصيد الـ Phishing
بالإضافة إلى ذلك، يساعد FraudGPT في تسهيل المعاملات المالية غير المصرح بها دون فحوص أمنية إضافية. وهو إلى ذلك يساعد القراصنة في تحديد مواقع مجموعات الهاكرز المخفية والمواقع السرية والأسواق السوداء التي تتداول فيها البيانات المسروقة. كما يمكن استخدام FraudGPT لتحديد نقاط الضعف في البنية التحتية للأهداف المحتملة من شركات ومؤسسات وأفراد لتسهيل عمليات الاختراق.
تتوفر نماذج الذكاء الاصطناعي التوليدية باللغة الطبيعية الخبيثة هذه، في العديد من أسواق الويب المظلم.
FraudGP يباع كخدمة مدفوعة مع اشتراك : 200 دولار في الشهر، 1000 دولار لمدة 6 أشهر و 1700 دولار كلفة استخدام لعام.أما WormGPT يباع كخدمة مدفوعة كاشتراك بكلفة 100 يورو شهريًا أو 550 يورو سنويًا .
وفقًا للباحثين، يجب على الشركات تدريب الموظفين على التحقق الصارم من البريد الإلكتروني واختبار الإجراءات الأمنية.بشكل مستمر. إذ إن خطر سوء استخدام نماذج الذكاء الاصطناعي التوليدي في تصاعد مستمر ، كانت قد حذرت وكالة الاتحاد الأوروبي للتعاون في مجال إنفاذ القانون يوروبول من هذه المخاطر في شهر مارس الماضي كما حذرت من كسر القيود الأخلاقية jailbrake" لـ ChatGPT مع أوامر مدخلات مصممة بعناية، مما يسهل الأنشطة الإجرامية، بدءًا من مساعدة المجرمين على البقاء مجهولين إلى جرائم محددة بما في ذلك الإرهاب واستغلال الأطفال جنسيًا.
فنماذج اللغة الكبيرة المظلمة أو دارك LLMs المدربة لتسهيل الأعمال الخبيثة قد تصبح نموذج الرئيسي للعمل الإجرامي على الإنترنت في المستقبل.
يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل
للتواصل مع #نايلةالصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@ وعلى ماستودون وعبرموقع مونت كارلو الدولية مع تحيات نايلة الصليبي