حذر الدكتور محمد بن عبد الكريم العيسى الأمين العام لرابطة العالم الإسلامي، رئيسَ هيئة علماء المسلمين، من مخاطر توظيف الذكاء الاصطناعي فى تعزيز خطاب الكراهية .
جاء ذلك في محاضرة في جامعةُ «نيويورك»، أعقَبَها حوارٌ شاملٌ مع نُخبةٍ من أكاديميّي الجامعة والمدعُوين للقاء.
وناقش اللقاءُ عددًا من المحاور المرتبطة باستخدام الذكاء الاصطناعي في تعزيز خطاب الكراهية عَبر منصات التواصل الاجتماعي، إضافةً إلى بيان الدَّور التضامني لمؤسسات المجتمع، مع التركيز على الدور الديني في مكافحة هذا الخطاب، واستعرض صورًا من تلك الأسباب، ونماذج مقترحة للعلاج، وذلك استنادًا إلى استطلاعاتٍ ودراساتٍ شاملة.
وتطرق إلى تفاصيل تتعلق، بتوليد المحتوى تلقائيًّا باستخدام تقنيات الذكاء الاصطناعي لإنتاج نصوص أو صور أو مقاطع مرئيةٍ قد تتضمن مضامين تمييزية أو تحريضية، وكذلك الاستهداف الخوارزمي عَبر تحليل سلوك المستخدمِين واهتماماتهم، وتوجيه المحتوى المثير للانقسام والاستقطاب إلى فئات محدّدة بهدف زيادة التفاعل.
وتطرّقت المحاضرة إلى التضخيم الرقمي للمحتوى من خلال الحسابات الآلية والمنسقة، التي تُسهم في توسيع انتشار خطاب الكراهية والمعلومات المضللة، والتلاعب بالمحتوى السمعي والبصري باستخدام تقنيات «التزييف العميق» التي قد تُستغلّ في تشويه الأفراد أو الجماعات وإثارة العداء ضدهم، وتطرق الى تأثير خوارزميات التوصية الرقمية في تعزيز المحتوى الاستفزازي أو المتطرف نتيجةَ ارتفاعِ مُعدّلات التفاعل معه.
وخلص الى «إنّ توظيف الذكاء الاصطناعي في تعزيز خطاب الكراهية يثير تحليلًا قانونيًّا دقيقًا يتمثّلُ في تحقيق التوازن بين ضمان حرية التعبير ضمن نطاقها المشروع، وحماية المجتمع من المحتوى التحريضي، مع تحديد المسؤولية القانونية للفاعلِين الرقميين والمنصات التقنية».
ملامح المخاطر
توجيه المحتوى المثير للانقسام والاستقطاب إلى فئات محدّدة.
التضخيم الرقمي للمحتوى من خلال الحسابات الآلية.
توسيع انتشار خطاب الكراهية والمعلومات المضللة.
التلاعب بالمحتوى السمعي والبصري باستخدام «التزييف العميق».
تعزيز المحتوى الاستفزازي أو المتطرف.
تحقيق التوازن بين ضمان حرية التعبيروحماية المجتمع.