سوءاستفاده اسلام‌گرایان از هوش مصنوعی برای «جعل عمیق»‌ روایات آخرالزمانی

صدای آمریکا: تارنمای «پالی‌گراف»، پروژه راستی‌آزمایی صدای آمریکا، گزارشی را درباره یک پژوهش جدید منتشر کرده است. در این پژوهش به چگونگی سوءاستفاده یک شبکه اسلام‌گرا از هوش مصنوعی برای تبلیغ «روایت‌های آخرالزمانی» و افزایش نگرانی‌های ناشی از آن در مورد استفاده نادرست از هوش مصنوعی پرداخته شده است.

در این گزارش آمده است، یک ویدیوی «جعل عمیق» ایلان ماسک، بنیان‌گذار شرکت‌های «تسلا» و «اسپیس اکس» و مالک کنونی «ایکس» (توییتر سابق)، در مصاحبه‌ای با دیوید فیبر مجری شبکه «سی‌ان‌بی‌سی»، ظهور امام دوازدهم شیعیان را تایید می‌کند.

این ویدیوی «جعل عمیق» بخش‌هایی از یک مصاحبه واقعی را با صدای جعلی، به عنوان بخشی از یک کارزار تبلیغاتی، با هدف تقویت روایت آخرالزمانی از اسلام، ترکیب کرده است.
گزارشی که اوایل شهریور در تارنمای «گلوبال نت‌ورک» منتشر شد، می‌گوید که شبکه‌ای از حساب‌های جعلی، صدها ویدیوی «تیک‌تاک»، «یوتیوب»، و «ایکس» را نشر و بازنشر کرده‌اند که در آن، یک مرد پاکستانی «به طور مستقیم از طریق رویاهایش با محمد [پیامبر اسلام] و خداوند در ارتباط است.»

او خود را آخرین امام شیعیان می‌داند و این ویدیوها تهدید می کنند که «هر کس او را نپذیرد، در عمیق‌ترین نقطه جهنم در آتش خواهد سوخت.»

دنیل سیگل، یکی از نویسندگان این گزارش، به صدای آمریکا گفت که پس از دستگیری عمران‌خان، نخست وزیر سابق پاکستان، «خیلی زود متوجه استفاده از هوش مصنوعی در گسترش روایتی توسط گروهی شدیم که معتقد است آخرالزمان نزدیک است و منجی در پاکستان است.»

استفاده این گروه از هوش مصنوعی دو جنبه دارد: جعل عمیق تصویری و جعل عمیق صوتی.

ویدئوهای منتشر شده، تدوین سریعی از تصاویر تولید شده توسط هوش مصنوعی را نشان می دهد که در آن‌ها، «منجی» با پیامبران رو‌به‌رو می‌شود و در حالت‌هایی قهرمانانه می‌ایستد.

این شبکه همچنین از جعل عمیق صوتی - از جمله با ساختن صداهایی از دانشمندان برجسته اسلامی و حتی باراک اوباما، رئیس جمهوری اسبق آمریکا - استفاده می‌کند تا به مشروعیت بخشیدن به روایت آخرالزمانی‌اش کمک کند.

بر اساس این گزارش، این شبکه ناشناس همچنین در تلاش است که جایگاه پاکستان را در جهان اسلام ارتقا دهد.

بیلوا چاندرا، یکی دیگر از نویسندگان گزارش، می‌گوید: «این اقدامات، پاکستان را از نقطه نظر مذهبی در میان امت اسلام در موقعیتی قدرتمند قرار می‌دهد.»

او افزود که این شبکه همچنین در تلاش است تا مسلمانان را در سراسر جهان متحد کند. «بنابراین این احتمال وجود دارد که این شبکه، حمایت مسلمانان را در مورد چیزی به مراتب ترسناک‌تر و خطرناک‌تر از روایت فعلی جلب کند.»

نویسندگان گزارش می‌گویند دقیقا معلوم نیست که از کدام ابزارهای هوش مصنوعی برای تولید این ویدیوها که به زبان‌های انگلیسی، اردو، عربی، بنگالی، اندونزیایی و مالایی هستند، استفاده شده است.

اندازه‌گیری میزان تاثیر این کارزار هم مانند اکثر کارزارهای جعل عمیق، دشوار است ولی داده‌ها از رونق این کارزار در فضای آنلاین حکایت دارد.

سیگل و چاندرا می‌گویند که پس از انتشار گزارش‌شان، این شبکه در چند ویدیو، آنان را هدف گرفته است.

چاندرا می‌گوید آن چه برایش مهم است، شناسایی راه‌های بهتر برای تعدیل نحوه استفاده از هوش مصنوعی است.

به گفته او، «واقعا مهم است که همه روش‌های مختلف استفاده از این فن‌آوری‌ها توسط بازیگران بزرگ و کوچک و دولتی و غیر دولتی را بررسی کنیم.»‌