الذكاء الاصطناعي يستنسخ الصوت.. واستخدامه المسيء يثير القلق

أعلنت شركة "إيلفن لابز" الناشئة، التي طرحت أداة استنساخ للصوت مستخدمة برمجيات الذكاء الاصطناعي، أنها رصدت "تزايدا في الاستخدام المسيء".

وأطلقت الشركة التي تتخذ من لندن مقرا لها، في الآونة الأخيرة، نسخة تجريبية من منصتها لإنشاء "أدوات تنتج كلمات بأصوات قريبة جدا من الواقع" بعدما تمكنت من جمع مليوني دولار.

وتشارك مستخدمون من صفحة "4 شان" المجهولة رسائل جرى إنشاؤها باستخدام البرنامج وفيها أصوات مُزيّفة لعدد من المشاهير بينهم الممثلة البريطانية إيما واتسون، والإعلامي الأميركي جو روغان، بهدف جعلهم ينطقون جملا تنطوي على عنصرية وتمييز جنسي ورهاب المثلية.

وفي إحدى هذه الرسائل، يُسمع صوت مماثل لصوت إيما واتسون وهو يقرأ مقطعا من كتاب "كفاحي" للزعيم النازي أدولف هتلر، فيما يُسمَع في رسالة أخرى صوت مشابه لصوت المحلل الأميركي بن شابيرو يهدد باغتصاب النائبة ألكساندريا أوكاسيو كورتيز.

وأُسيء أيضا استخدام صوتَي المخرجين كوينتن تارانتينو وجورج لوكاس , وغرّدت "إيلفن لابز": "نرغب في حل هذه المشكلة من خلال اعتماد إجراءات حماية إضافية".

ومن بين اقتراحات الشركة الناشئة، تعزيز عملية تحديد هوية المستخدم، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج، واعتماد إجراءات تحقق يدوية.

و"إيلفن لابز" هي واحدة من شركات عدّة تتولى تطوير برامج تستند إلى برمجيات الذكاء الاصطناعي ويمكن لأي كان استخدامها.

وحظيت هذه الأدوات باهتمام كبير منذ أن أطلقت شركة "أوبن أيه اي" في نهاية العام الفائت، روبوت المحادثة "تشات جي بي تي" القادر على الإجابة على مجموعة متنوعة من الأسئلة وكتابة نصوص.

لكن هذه البرامج مصحوبة بمخاوف مرتبطة بتقنية "ديب فايك" (التزييف العميق) التي تقوم على إجراء تلاعبات رقمية بصور أو أصوات إلى حد التطابق مع الواقع.

العاملون بهذه المهنة يستعدون لمواجهة "وحش" الذكاء الاصطناعي

بدأ الممثلون المتخصصون في دبلجة الأصوات في الأعمال السينمائية والتلفزيونية، وقارئو الكتب المسموعة، في مختلف أنحاء العالم يخوضون مواجهة مع الذكاء الاصطناعي الذي يهدد مستقبلهم المهني، ويرون فيه "وحشاً ضخماً" قادرا على إنشاء أصوات رقمية مطابقة للأصوات البشرية.

وأنشأت عشرون نقابة ومنظمة عمالية من أوروبا والولايات المتحدة وأميركا اللاتينية، "منظمة الأصوات المتحدة" التي تقوم بحملات تحت شعار "لا تسرقوا أصواتنا" من أجل الدفع نحو إقرار تشريع يوائم بين الذكاء الاصطناعي والإبداع البشري.

وتحذر المنظمة من الاستخدام "العشوائي وغير المنظم" للذكاء الاصطناعي، ما قد يؤدي إلى القضاء على "التراث الفني للإبداع الذي لا تستطيع الآلات إنتاجه".

في السنوات الأخيرة، لم يُبدِ العاملون في مجال الدبلجة قلقاً كبيراً عند انتشار تكنولوجيا "Text To Speech"، وهي تقنية تجعل من الممكن تحويل نص مكتوب إلى كلام صادر من صوت بشري بإلقاءٍ آلي، وهي وسيلة مستخدمة في خدمات المساعدة الصوتية مثل "سيري" و"أليكسا".

لكنّ الذكاء الاصطناعي أضاف "التعلم الآلي" الذي يسمح للبرنامج بمقارنة عينة صوتية بملايين العينات الأخرى.

وتُقدّم منصات عاملة بالذكاء الاصطناعي، مجموعة واسعة من الخدمات الصوتية مقابل رسم شهري قدره 27 دولاراً، وهو مبلغ زهيد مقارنة مع ما يتقاضاه الأشخاص المحترفون في هذا المجال.

وتقول المنصة عبر موقعها الإلكتروني إن الخدمة "لا تهدف إلى استبدال الأصوات البشرية"، لكنّها تقدم بديلاً فعّالاً من حيث التكلفة.

وتوضح رئيسة الجمعية المكسيكية للعاملين في مجال الإلقاء الصوتي التجاري، أن هذه التكنولوجيا الجديدة "تغذيها أصوات قدّمناها على مدى سنوات".

وتضيف "نحن نتحدث عن حق الإنسان في استخدام الصوت والترجمة الفورية من دون موافقة".

وتواصل شركات التكنولوجيا هذه توظيف مترجمين، لكنّ هؤلاء يدركون أن خدماتهم تسهم في تغذية أرشيف صوتي ضخم.

وينادي فنانو الصوت هؤلاء، بإقرار قوانين لمنع استخدام أصواتهم من دون موافقتهم، وفرض "حصص عمالة بشرية"، كما يوضح المدبلج الكولومبي دانيال سولر دي لا برادا، الذي مثّل "منظمة الأصوات المتحدة" في الأمم المتحدة والمنظمة العالمية للملكية الفكرية .

في المكسيك، أحد أهم البلدان في مجال الدبلجة في أميركا اللاتينية، جرى أيضاً تقديم مشروع قانون يهدف إلى تنظيم هذه التكنولوجيا.

وفي الأرجنتين، هناك قانون يحصر الدبلجة بالأشخاص المتخصصين في المجال، ما يعني استبعاد المدبلجين الآليين وفق فرناندو كوستا، الذي يكافح مع اتحاد فناني الدبلجة، ضد شعار شركات الخدمات الصوتية الرقمية "توقفوا عن الاستعانة بالمدبلجين، وفّروا المال".

وبالنظر للقضية من جانب إيجابي، فإن الذكاء الاصطناعي يفتح إمكانيات لا حصر لها، ففي المستقبل، على سبيل المثال، يمكن دبلجة الصوت الحقيقي للممثل ويل سميث بلغات عدة، مع طريقة نطق محترفة شبيهة بأداء ممثلي الصوت المحترفين، بحسب الراوي والمدبلج المكسيكي ماريو فيليو.

ويقول فيليو الذي تولى الأداء الصوتي بالإسبانية لدور قدّمه ويل سميث، ووضع صوته على شخصيات شهيرة في أفلام كبيرة، "نحن نقاتل ضد وحش ضخم".

ويشير إلى إمكانية عقد اتفاقات تحافظ على المكاسب التي يتوخاها الجمهور وتحفظ الوظائف، "بشرط أن نتقاضى رواتب عادلة"، مشدداً على "نقص الحماية" في هذه المهنة المستقلة.

جرائم الذكاء الاصطناعي.. تطبيقات مضادة تقوم بدور "المُنقِذ"

"لا يفل الذكاء الاصطناعي إلا الذكاء الاصطناعي"، هذا هو الأمل الذي يعلّقه خبراء أمن المعلومات في محاصرة سيل الجرائم المتوقّع أن تسبّبها برامج هذه التقنية القادرة على استنساخ الأصوات والصور دون إذن أصحابها، أو ما يسمّى بـ"التزييف العميق".

المخاوف المُثارة مؤخّرا تتعلّق بأنه يُمكن للمجرمين استنساخ الأصوات والصور، ونسب كلام وسلوكيات لأصحابها هم أبرياء منها، واستخدامها في ابتزازهم أو ابتزاز أقاربهم.

يكمن الخطر الأبرز في قدرة هذه التقنية على تبديد الخط الفاصل بين الحقيقي والزائف تقريبا، وتزويد المجرمين بأدوات فعالة وغير مكلّفة.

يتفق خبير التحول الرقمي وأمن المعلومات، زياد عبد التواب، في أن تطبيقات الذكاء الاصطناعي قادرة على زيادة معدل الجريمة والاحتيال، لكنه أيضا يرى إمكان مواجهة ذلك بتطبيقات ذكاء اصطناعي أيضا، قائلا: "لا يفل الذكاء الاصطناعي إلا الذكاء الاصطناعي".

تطبيقات مضادة

يوضح عبد التواب: "بالطبع استنساخ الأصوات هو إحدى الإمكانيات التي تتيحها تطبيقات الذكاء الاصطناعي، والأمر لا يتعلق فقط باستنساخ الأصوات، لكنه يمكن تزييف الصور أو الفيديوهات عبر ما يعرف بتقنية التزييف العميق.

زيادة معدل الجرائم بسبب تقنيات الذكاء الاصطناعي "لم تعد مجرد مخاوف، لكنها أصبحت واقعا، حيث إن مكتب التحقيقات الفيدرالية أكد زيادة معدل الجرائم في الولايات المتحدة التي تتم باستخدام التزييف العميق بنسبة 322 بالمئة من فبراير 2022 إلى فبراير 2023، حسب خبير أمن المعلومات.

لكن في نفس الوقت، يلفت إلى أنه بات من الممكن إحالة مقاطع التزييف العميق إلى خبراء لاكتشاف المقاطع المستنسخة من خلال تطبيقات مضادة في الذكاء الاصطناعي.

على هذا، ينصح عبدالتواب أي متضرّر من هذه الجرائم بعدم الذعر أو الخضوع للابتزاز، بل أن يلجأ إلى الجهات المختصّة بالتحقيق في الجرائم السيبرانية لفحص واكتشاف المقاطع المزيفة.

يُطمئن المتضررين بأنه "وإن كانت توجد صعوبة في التمييز بين الأصوات الحقيقية والمستنسخة، لكن الصعوبة لا تعني الاستحالة؛ فكلما تطوّرت تقنيات الذكاء الاصطناعي يمكن تطوير تقنيات أخرى تعمل بواسطة الذكاء الاصطناعي لكشف الاستنساخ والتزييف".

يضرب عبدالتواب مثلا، بأنه حاليا تتوفر تطبيقات لكشف المحتوى المكتوب من خلال تطبيق "شات جي بي تي"، وتحديد النسبة المئوية لهذا المحتوى، وكلما تطور التطبيق في صياغة العبارات والمحتوى ستتطوّر التقنيات المرتبطة بكشفه.

الأمر مشابه لاستخدام تقنيات الذكاء الاصطناعي في شن هجمات سيبرانية، وفي هذه الحالة تتم المواجهة بأنظمة دفاعية تعمل من خلال نفس التقنيات.

الوعي المنقذ الأول

لكن ليس من الملائم الانتظار حتى تقع الجريمة، لكن يلزم توعية المستخدمين بعدم الثقة في أي مقطع مصور أو صوتي، أو حتى مكالمة هاتفية بصوت شخص يعرفه؛ لأنها ربما تكون مختلقة، كما ينبه المتحدّث ذاته.

وسط مطالبات لحوحة بوضع قوانين لأخلاقيات استخدام الذكاء الاصطناعي، أقرّ نواب في الاتحاد الأوروبي تعديلات على مسوّدة لقواعد هذه التقنية، ومتوقع أن يصدر أول قانون نهاية العام الجاري أو خلال العام المقبل.

الإمارات وكازاخستان تعززان التعاون في مواجهة غسل الأموال وتمويل الجماعات الفاسدة

التقى وفد من المكتب التنفيذي لمواجهة غسل الأموال مع ممثلين عن وكالة الرقابة المالية في كازاخستان لمناقشة تعزيز العلاقات الثنائية في مجال مكافحة غسل الأموال جاء ذلك على هامش الاجتماع العام الـ 38 للمجموعة الأوروآسيوية لمكافحة غسل الأموال «EAG»، وهي هيئة إقليمية على غرار «الفاتف»، والذي عقد في مدينة ألماتي الكازاخية.

ورحّب زانات إيليمانوف، رئيس وكالة الرقابة المالية في كازاخستان، بحامد الزعابي، المدير العام للمكتب التنفيذي لمواجهة غسل الأموال والوفد المرافق الذي يضم علي فيصل باعلوي، رئيس وحدة المعلومات المالية، ووليد سعيد العوضي، الرئيس التنفيذي للعمليات في مركز دبي المالي العالمي «DIFC»، اللذين قدّما خلال الاجتماع بعض العروض التوضيحية.

وناقش الطرفان مجموعة من المقترحات الهادفة إلى زيادة التعاون بين الدولتين فيما عبّر أعضاء الفريق الكازاخستاني عن اهتمامهم بالتجربة الإماراتية في تطبيق تكنولوجيا المعلومات المبنية على الذكاء الاصطناعي، وأكدوا أن السلطات في كازاخستان تنوي استكشاف السياسات والممارسات المميزة الخاصة بالإمارات لتحديد المعاملات المالية غير المشروعة المحلية والدولية بشكلٍ أكثر فعالية.

وتبادل الزعابي وإيليمانوف الآراء حول أهمية الاسترداد الفعال للأصول وعبّرا عن نيتهما إطلاق أنشطة مشتركة جديدة في مجال استرداد الأصول الافتراضية. وشدد الطرفان على الالتزام بمواصلة العمل لإعطاء دفع جديد لتطوير وتعزيز التعاون بين البلدين في مكافحة غسل الأموال وتمويل الإرهاب. كما تطرّق الاجتماع إلى استراتيجيات التثقيف والتدريب وتطوير قدرات رأس المال البشري في مكافحة الجريمة المالية.

مبتكر تشات جي بي تي يحذر من "الخطر الوجودي للذكاء الاصطناعي"

حذر سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي" المبتكرة لبرنامج "تشات جي بي تي"، من أن الذكاء الاصطناعي يشكل "خطرا وجوديا" على البشري، مشيرا إلى أن الوكالة الدولية للطاقة الذرية تشرف على هذه التكنولوجيا الرائدة.

وقال ألتمان "التحدي الذي يواجه العالم اليوم يتعلق بكيف سندير تلك المخاطر ونتأكد بأن نستمر في التمتع بتلك المزايا الهائلة. لا أحد يريد أن يدمر العالم."

كان “تشات جي بي تي” الذي طورته "أوبن إيه آي" قد جذب أنظار العالم بأجوبته التي تشبه المقالات على أسئلة المستخدمين. واستثمرت مايكروسوفت نحو مليار دولار في أوبن إيه آي. لكن نجاح البرنامج أثار أيضا مخاوف. فقد وقع المئات من رموز الصناعة ومنهم ألتمان على خطاب في مايو يحذر أن ”التخفيف من خطر الانقراض بسببالذكاء الاصطناعي يجب أن يكون أولوية عالمية، بالإضافة إلى مخاطر اجتماعية أخرى كالأوبئة والحرب النووية."

وأشار ألتمان إلى الوكالة الدولية للطاقة الذرية بوصفها مثالا على كيفية اتحاد العالم للرقابة على القوة النووية، كانت الوكالة قد أنشأت في سنوات ما بعد إلقاء الولايات المتحدة القنابل الذرية على اليابان في نهاية الحرب العالمية الثانية.

ونقلت أسوشيتد برس عن ألتمان قوله “دعونا نتأكد من اتحادنا معا ككوكب- وأتمنى أن يلعب هذا المكان دورا في ذلك. نحن نتحدث عن الوكالة الدولية للطاقة الذرية كنموذج لقول العالم (حسنا، هذه تكنولوجيا خطيرة للغاية، دعونا نضع بعض المحاذير والضمانات). وأعتقد أن بإمكاننا القيام بالأمرين معا.”

يدرس المشرعون في أنحاء العالم أيضا الذكاء الاصطناعي. ويسعى الاتحاد الأوروبي المكون من 27 دولة لسن قانون خاص بالذكاء الاصطناعي، وقد يصبح المعيار العالمي الفعلي الذي يحكم التكنولوجيا.

وفي مايو الماضي، أوضح ألتمان أمام الكونغرس أن تدخل الحكومة سيكون ضروريا لإدارة المخاطر التي تأتي مع الذكاء الاصطناعي.

سلاح ذو حدين.. كيف يستخدم الأطفال "شات جي بي تي" بشكل آمن؟

في ظل الثورة التقنية الحالية، اقتنع الكثير من الآباء والأمهات، بضرورة تعلم أبنائهم استخدام برامج الذكاء الاصطناعي، والخروج من دائرة "التعلم النمطي" لمواكبة متطلبات العصر وهو ما يكشف خبيرين كيفية تنفيذه بشكل آمن.


سلاح ذو حدين؟

يؤكد استشاري تقنية المعلومات، إسلام غانم، أن التطور السريع في الذكاء الاصطناعي وإجابته على جميع الأسئلة بجميع المجالات يمثل "سلاحا ذو حدين" بالنسبة للأطفال خاصة.

واجتاح برنامج "تشات جي بي تي" (ChatGPT)، الذي يتفاعل مع البشر ويستطيع إنتاج كل أنواع النصوص عند الطلب جميع المجالات.

وتثير خوارزمية "تشات جي بي تي" الكثير من الحماسة والجدل أيضا لأن الوصول إليها مجاني ويستخدمها الملايين حول العالم لكتابة مقالات أو سطور من الشيفرة البرمجية أو الإعلانات أو حتى ببساطة لاختبار قدراتهم.

ويوضح خبير الاتصالات وتكنولوجيا المعلومات، سلوم الدحداح، أن الأطفال أسرع بكثير من الكبار في مواكبة التطورات التكنولوجية وتعلم التعامل مع "الهواتف الذكية والأجهزة اللوحية".

لكنه ينصح الأسر بعدم استخدام أبنائهم منصات تعتمد على الذكاء الاصطناعي قبل عمر 4 سنوات.

إيجابيات برامج الذكاء الاصطناعي

حسب ما يذكره الخبيران فإن برامج الذكاء الاصطناعي مثل "تشات جي بي تي" غير مخصصة للأطفال، لكن الطفل قد يتعرض إليها في ظل الانفتاح الذي تشهده التكنولوجيا حاليا.

ولذلك يجب استخدام تلك البرامج تحت رقابة الأهل، والاستفادة من عدة إيجابيات يمكنها "مساعدة الطفل في عدة جوانب"، كالتالي: مساعدة الأطفال لتحسين التعلم وتنمية مهارات الكتابة.

يمكن استخدامه للتغلب على بعض الصعوبات التعليمية.
يمكن استخدامه للحصول على أفضل إجابة حول عدة مجالات.
مساعدة الطفل في حل المسائل الرياضية والفيزيائية والهندسية.
مساعدة الطفل في تنمية مهاراته العلمية.
مساعدة الطفل في تعلم أساسيات البرمجة.
يمكن استخدامه لـ"الترفيه عن الأطفال."

سلبيات برامج الذكاء الاصطناعي؟

هناك عدة لسلبيات للاستخدام المتزايد لبرامج الذكاء الاصطناعي، يرصدها الخبيرين في النقاط التالية: تقدم إجابات "غير دقيقة" علميا في الكثير من الأحيان.
تقدم معلومات تاريخية ودينية "غير صحيحة".
قد تقتل "مهارات الإبداع والتفكير" لدى الأطفال.

كيفية الاستخدام الآمن للذكاء الاصطناعي؟

يقدم الخبيران عدة نصائح للأسر لتجنب السلبيات واستخدام برامج الذكاء الاصطناعي بـ"شكل آمن ومناسب للأطفال"، كالتالي: بحث الأسر عن برامج ذكاء اصطناعي مناسبة لعمر أبنائهم ومناسبة لاستخدام الأطفال
استخدام برامج الذكاء الاصطناعي بشكل عام تحت رقابة الآباء.
متابعة الأبناء أثناء استخدام تلك البرامج وتوضيح حقيقة "الإجابات" وتوضيحها بشكل يناسب أعمارهم.
استخدامها لوقت محدد بعدد ساعات محددة.
تجنب أخد المعلومات التاريخية والدينية من تلك البرامج.
عدم الاعتماد على البرامج الذكاء الاصطناعي بـ"شكل كلي في تعليم الأبناء".
عدم التسليم بالنتائج التي يتم الحصول عليها من تلك البرامج وتعليم الأبناء كيفية الحصول أجوبة لأسئلتهم من مصادر أخرى كمواقع إلكترونية موثوقة وكذلك الكتب.