الأربعاء، 21 يونيو 2023

جرائم الذكاء الاصطناعي.. تطبيقات مضادة تقوم بدور "المُنقِذ"

الذكاء الاصطناعي


"لا يفل الذكاء الاصطناعي إلا الذكاء الاصطناعي"، هذا هو الأمل الذي يعلّقه خبراء أمن المعلومات في محاصرة سيل الجرائم المتوقّع أن تسبّبها برامج هذه التقنية القادرة على استنساخ الأصوات والصور دون إذن أصحابها، أو ما يسمّى بـ"التزييف العميق".

المخاوف المُثارة مؤخّرا تتعلّق بأنه يُمكن للمجرمين استنساخ الأصوات والصور، ونسب كلام وسلوكيات لأصحابها هم أبرياء منها، واستخدامها في ابتزازهم أو ابتزاز أقاربهم.

يكمن الخطر الأبرز في قدرة هذه التقنية على تبديد الخط الفاصل بين الحقيقي والزائف تقريبا، وتزويد المجرمين بأدوات فعالة وغير مكلّفة.

يتفق خبير التحول الرقمي وأمن المعلومات، زياد عبد التواب، في أن تطبيقات الذكاء الاصطناعي قادرة على زيادة معدل الجريمة والاحتيال، لكنه أيضا يرى إمكان مواجهة ذلك بتطبيقات ذكاء اصطناعي أيضا، قائلا: "لا يفل الذكاء الاصطناعي إلا الذكاء الاصطناعي".

تطبيقات مضادة

يوضح عبد التواب: "بالطبع استنساخ الأصوات هو إحدى الإمكانيات التي تتيحها تطبيقات الذكاء الاصطناعي، والأمر لا يتعلق فقط باستنساخ الأصوات، لكنه يمكن تزييف الصور أو الفيديوهات عبر ما يعرف بتقنية التزييف العميق.

زيادة معدل الجرائم بسبب تقنيات الذكاء الاصطناعي "لم تعد مجرد مخاوف، لكنها أصبحت واقعا، حيث إن مكتب التحقيقات الفيدرالية أكد زيادة معدل الجرائم في الولايات المتحدة التي تتم باستخدام التزييف العميق بنسبة 322 بالمئة من فبراير 2022 إلى فبراير 2023، حسب خبير أمن المعلومات.

لكن في نفس الوقت، يلفت إلى أنه بات من الممكن إحالة مقاطع التزييف العميق إلى خبراء لاكتشاف المقاطع المستنسخة من خلال تطبيقات مضادة في الذكاء الاصطناعي.

على هذا، ينصح عبدالتواب أي متضرّر من هذه الجرائم بعدم الذعر أو الخضوع للابتزاز، بل أن يلجأ إلى الجهات المختصّة بالتحقيق في الجرائم السيبرانية لفحص واكتشاف المقاطع المزيفة.

يُطمئن المتضررين بأنه "وإن كانت توجد صعوبة في التمييز بين الأصوات الحقيقية والمستنسخة، لكن الصعوبة لا تعني الاستحالة؛ فكلما تطوّرت تقنيات الذكاء الاصطناعي يمكن تطوير تقنيات أخرى تعمل بواسطة الذكاء الاصطناعي لكشف الاستنساخ والتزييف".

يضرب عبدالتواب مثلا، بأنه حاليا تتوفر تطبيقات لكشف المحتوى المكتوب من خلال تطبيق "شات جي بي تي"، وتحديد النسبة المئوية لهذا المحتوى، وكلما تطور التطبيق في صياغة العبارات والمحتوى ستتطوّر التقنيات المرتبطة بكشفه.

الأمر مشابه لاستخدام تقنيات الذكاء الاصطناعي في شن هجمات سيبرانية، وفي هذه الحالة تتم المواجهة بأنظمة دفاعية تعمل من خلال نفس التقنيات.

الوعي المنقذ الأول

لكن ليس من الملائم الانتظار حتى تقع الجريمة، لكن يلزم توعية المستخدمين بعدم الثقة في أي مقطع مصور أو صوتي، أو حتى مكالمة هاتفية بصوت شخص يعرفه؛ لأنها ربما تكون مختلقة، كما ينبه المتحدّث ذاته.

وسط مطالبات لحوحة بوضع قوانين لأخلاقيات استخدام الذكاء الاصطناعي، أقرّ نواب في الاتحاد الأوروبي تعديلات على مسوّدة لقواعد هذه التقنية، ومتوقع أن يصدر أول قانون نهاية العام الجاري أو خلال العام المقبل.

الثلاثاء، 23 مايو 2023

سلاح ذو حدين.. كيف يستخدم الأطفال "شات جي بي تي" بشكل آمن؟

شات جي بي تي


في ظل الثورة التقنية الحالية، اقتنع الكثير من الآباء والأمهات، بضرورة تعلم أبنائهم استخدام برامج الذكاء الاصطناعي، والخروج من دائرة "التعلم النمطي" لمواكبة متطلبات العصر وهو ما يكشف خبيرين كيفية تنفيذه بشكل آمن.


سلاح ذو حدين؟

يؤكد استشاري تقنية المعلومات، إسلام غانم، أن التطور السريع في الذكاء الاصطناعي وإجابته على جميع الأسئلة بجميع المجالات يمثل "سلاحا ذو حدين" بالنسبة للأطفال خاصة.

واجتاح برنامج "تشات جي بي تي" (ChatGPT)، الذي يتفاعل مع البشر ويستطيع إنتاج كل أنواع النصوص عند الطلب جميع المجالات.

وتثير خوارزمية "تشات جي بي تي" الكثير من الحماسة والجدل أيضا لأن الوصول إليها مجاني ويستخدمها الملايين حول العالم لكتابة مقالات أو سطور من الشيفرة البرمجية أو الإعلانات أو حتى ببساطة لاختبار قدراتهم.

ويوضح خبير الاتصالات وتكنولوجيا المعلومات، سلوم الدحداح، أن الأطفال أسرع بكثير من الكبار في مواكبة التطورات التكنولوجية وتعلم التعامل مع "الهواتف الذكية والأجهزة اللوحية".

لكنه ينصح الأسر بعدم استخدام أبنائهم منصات تعتمد على الذكاء الاصطناعي قبل عمر 4 سنوات.

إيجابيات برامج الذكاء الاصطناعي

حسب ما يذكره الخبيران فإن برامج الذكاء الاصطناعي مثل "تشات جي بي تي" غير مخصصة للأطفال، لكن الطفل قد يتعرض إليها في ظل الانفتاح الذي تشهده التكنولوجيا حاليا.

ولذلك يجب استخدام تلك البرامج تحت رقابة الأهل، والاستفادة من عدة إيجابيات يمكنها "مساعدة الطفل في عدة جوانب"، كالتالي: مساعدة الأطفال لتحسين التعلم وتنمية مهارات الكتابة.


يمكن استخدامه للتغلب على بعض الصعوبات التعليمية.
يمكن استخدامه للحصول على أفضل إجابة حول عدة مجالات.
مساعدة الطفل في حل المسائل الرياضية والفيزيائية والهندسية.
مساعدة الطفل في تنمية مهاراته العلمية.
مساعدة الطفل في تعلم أساسيات البرمجة.
يمكن استخدامه لـ"الترفيه عن الأطفال."

سلبيات برامج الذكاء الاصطناعي؟

هناك عدة لسلبيات للاستخدام المتزايد لبرامج الذكاء الاصطناعي، يرصدها الخبيرين في النقاط التالية: تقدم إجابات "غير دقيقة" علميا في الكثير من الأحيان.
تقدم معلومات تاريخية ودينية "غير صحيحة".
قد تقتل "مهارات الإبداع والتفكير" لدى الأطفال.

كيفية الاستخدام الآمن للذكاء الاصطناعي؟

يقدم الخبيران عدة نصائح للأسر لتجنب السلبيات واستخدام برامج الذكاء الاصطناعي بـ"شكل آمن ومناسب للأطفال"، كالتالي: بحث الأسر عن برامج ذكاء اصطناعي مناسبة لعمر أبنائهم ومناسبة لاستخدام الأطفال
استخدام برامج الذكاء الاصطناعي بشكل عام تحت رقابة الآباء.
متابعة الأبناء أثناء استخدام تلك البرامج وتوضيح حقيقة "الإجابات" وتوضيحها بشكل يناسب أعمارهم.
استخدامها لوقت محدد بعدد ساعات محددة.
تجنب أخد المعلومات التاريخية والدينية من تلك البرامج.
عدم الاعتماد على البرامج الذكاء الاصطناعي بـ"شكل كلي في تعليم الأبناء".
عدم التسليم بالنتائج التي يتم الحصول عليها من تلك البرامج وتعليم الأبناء كيفية الحصول أجوبة لأسئلتهم من مصادر أخرى كمواقع إلكترونية موثوقة وكذلك الكتب.

الثلاثاء، 28 مارس 2023

تحذير أمني: ChatGPT قد يستخدم في أغراض "خبيثة"

ChatGPT


أصدرت وكالة إنفاذ القانون الأوروبية "يوروبول" تحذيرا بشأن الروبوت الذي ينتج نصوصا مطولة خلال ثوان بناء على أسئلة المستخدمين "ChatGPT" ، وغيره من أدوات الذكاء الاصطناعي القادرة على إنتاج النصوص فورا.

ماذا قالت اليوروبول؟ 

تقول وكالة إنفاذ القانون الأوروبية "يوروبول" إن منصة "ChatGPT" يمكن أن تستخدم للاحتيال وغيرها من الجرائم الإلكترونية، وفق ما أورد موقع "euractiv" المتخصص في أخبار الاتحاد الأوروبي.


تضيف "يوروبول" أن هذه المنصة ستشكل تحديا أمنيا بالنسبة إلى سلطات إنفاذ القانون، حيث يمكن لـ"الجهات الخبيثة استغلالها".


توضح أن المجرمين عادة ما يسارعون إلى استغلال التقنيات الجديدة، وشوهدوا وهم يستغلونها استغلالها خبيثا.


تشرح أن هذا الأمر حدث مرارا مع "ChatGPT"، وقالت إنها رصدت استخداما خبيثا لهذه المنصة بعد أسابيع من إطلاقها في أواخر نوفمبر 2022.


تشير الوكالة الأوروبية إلى أن القواعد المعتدلة التي تحكم "ChatGPT"، يمكن التحايل عليها عبر ما يعرف بـ" الهندسة الفورية"، التي تقوم على تزويد الذكاء الاصطناعي بمدخلات دقيقة بغية الحصول على نتائج محددة.


تقول إن الاستخدام الإجرامي لهذه المنصة يشمل تسريع عملية البحث بالنسبة لـ"الجهات الخبيثة"، بدون أن يكون لدى هذه الجهات أي معرفة مسبقة بمناطق الجرائم المحتملة مثل اقتحام المنازل والإرهاب والجرائم الإلكترونية والاعتداء الجنسي على الأطفال.
أضافت أن المنصة يمكن أن تعطي خطوات محددة بناء على أسئلة سياقية، بما يسهّل على المجرمين فهم الجرائم وتنفيذ العديد منها بسرعة.


تشدد الوكالة على أن التصعيد الاحتيالي هو أحد تطبيقات المنصة الجديدة، علما بأنها قادرة على إنتاج نصوص جديدة أكثر احترافا من الأساليب السابقة في هذا المجال التي كانت تعرف بسرعة بسبب الأخطاء اللغوية فيها.