چگونه هویت یک زن هندی سرقت شد تا با استفاده از عکسهایش، هوش مصنوعی یک پورن استار جعلی بسازد
+3
رأی دهید
-2
اکانت اینستاگرام بیبیدال آرچی ۱.۴ میلیون دنبالکننده داشتبی بی سی: تعداد دنبالکنندگان اکانت اینستاگرام بیبیدال آرچی طی چند روز دو برابر شد و هر روز طرفداران جدیدی برای تماشای عکسها و ویدیوهای او به آن میپیوستند.در یکی از ویدیوهایی که در هند وایرال شد، او با یک ساری قرمز دیده میشد که بهطور اغواکنندهای با یک آهنگ رومانیایی میرقصید. در عکسی دیگر، او در کنار کندرا لاست، ستاره فیلمهای پورن آمریکایی، ژست گرفته بود.
این ویدیو و عکس، شهرتی آنی برای او به همراه داشت. نامش در جستوجوی گوگل ترند شد و صفحات طرفداری و میمها در شبکههای اجتماعی ایجاد شدند. گزارشهایی منتشر شد که احتمال میداد او وارد صنعت پورنوگرافی آمریکا شود، اتفاقی که برای فردی از ایالت شمالشرقی آسام بیسابقه بود.
رسانههای جریان اصلی نیز به این هیاهو پیوستند و او را «یک اینفلوئنسر» نامیدند و بسیاری تلاش کردند پروفایلهایی از او بنویسند. «بیبیدال آرچی کیست؟» به تیتر خبرها تبدیل شد.
اما هیچ زن واقعی پشت این پدیده وجود نداشت.
اکانت اینستاگرام جعلی بود، اما چهرهای که استفاده میکرد، شباهت عجیبی به یک زن دیگر داشت: خانهداری در شهر دیبروگره در آسام که او را «سانچی» مینامیم.
حقیقت زمانی آشکار شد که برادر سانچی به پلیس شکایت کرد. پراتیم بورا، دوستپسر سابق سانچی، دستگیر شد.
سیزال آگروال، افسر ارشد پلیس، که هدایت تحقیقات را بر عهده دارد، به بیبیسی گفت که سانچی و بورا به مشکل خورده بودند و چهره هوش مصنوعی که او ساخته بود، صرفاً برای «انتقامجویی محض» بود.
به گفته آگروال، بورا، مهندس مکانیک و یک علاقهمند خودآموخته به هوش مصنوعی از عکسهای خصوصی سانچی استفاده کرده و پروفایلی جعلی ساخته بود.
بورا در بازداشت است و تاکنون هیچ اظهارنظری نکرده است. بیبیسی با خانواده او تماس گرفته است.
صفحه بیبیدال آرچی در سال ۲۰۲۰ ایجاد شد و اولین پستها در ماه مه ۲۰۲۱ پست شدند. آگروال میگوید عکسهای اولیه همان تصاویر واقعی سانچی بودند که دستکاری شده بودند.
او گفت: «با گذشت زمان، بورا از ابزارهایی مثل چت جی پی تی و دیزاین برای ساخت نسخه هوش مصنوعی استفاده کرد و سپس این صفحه را با عکسها و ویدیوهای دیپفیک پر کرد.»
این اکانت از سال گذشته شروع به دریافت لایک کرد، اما از آوریل امسال توجه زیادی جلب کرد.
شکایت دو پاراگرافی که خانواده سانچی شب ۱۱ ژوئیه به پلیس ارائه کردند، شامل پرینتهایی از برخی عکسها و ویدیوها بهعنوان مدرک بود.
آگروال میگوید که در شکایت نامی از کسی برده نشده بود چون خانواده هیچ ایدهای نداشتند چه کسی پشت ماجراست.
ت
صویری که عنوان «هوش مصنوعی» را در کنار یک صفحه کلید و دستهای رباتیک نشان میدهد«بیبیدال آرچی» برای پلیس نام ناآشنایی نبود. آگروال میگوید: «ما هم گزارشهای رسانهای و گمانهزنیهایی دیده بودیم که میگفتند او با هوش مصنوعی ساخته شده، اما هیچوقت شواهدی نبود که نشان دهد بر اساس یک فرد واقعی است.»پس از دریافت شکایت، پلیس به اینستاگرام نامه نوشت و خواستار اطلاعات خالق اکانت شد.
او افزود: «وقتی اطلاعات را از اینستاگرام دریافت کردیم، از سانچی پرسیدیم آیا کسی به نام پراتیم بورا را میشناسد؟ وقتی تأیید کرد، ما آدرس او را پیدا کرده و دستگیر کردیم.»
آگروال گفت: «ما لپتاپ، تلفنهای همراه، هارددیسکها و مدارک بانکی او را ضبط کردهایم، چون او این اکانت را به درآمدزایی رسانده بود.»
او اضافه کرد: «این اکانت در لینکتری ۳ هزار اشتراک داشت و باور داریم او حدود ۱ میلیون روپیه از آن درآمد داشته است. فکر میکنیم او فقط در پنج روز پیش از بازداشتش ۳۰۰ هزار روپیه درآمد داشته است.»
آگروال میگوید: «سانچی بهشدت آشفته است اما حالا او و خانوادهاش مشاوره روانی دریافت میکنند و شرایطشان کمی بهتر شده است.»
او افزود: «واقعاً راهی برای جلوگیری از چنین اتفاقاتی وجود ندارد، اما اگر زودتر اقدام میکردیم، میتوانستیم جلوی گسترده شدن آن را بگیریم.»
«سانچی هیچ اطلاعی از ماجرا نداشت، چون حضور فعالی در شبکههای اجتماعی ندارد. خانوادهاش هم از این اکانت بلاک شده بودند. آنها تازه زمانی متوجه شدند که ماجرا همه جا پخش شد.»
متا به پرسشهای بیبیسی درباره این پرونده پاسخی نداده است، اما این پلتفرم بهطور کلی انتشار برهنگی یا محتوای جنسی را مجاز نمیداند. ماه گذشته، شبکه سی بی اس گزارش داد که متا تعدادی آگهی تبلیغاتی ابزارهای هوش مصنوعی را که برای تولید دیپفیکهای جنسی با تصاویر واقعی افراد استفاده میشدند، حذف کرده است.
عکسها و ویدیوهای زنان اغلب برای انتقام پخش میشونداکانت اینستاگرام بیبیدال آرچی که ۲۸۲ پست داشت، دیگر در دسترس عموم نیست، هرچند که شبکههای اجتماعی همچنان پر از عکسها و ویدیوهای او هستند و یک اکانت دیگر تقریباً تمام آنها را منتشر کرده است. بیبیسی از متا پرسیده است که چه برنامهای برای این موضوع دارد.مگنا بال، کارشناس هوش مصنوعی و وکیل، میگوید آنچه برای سانچی رخ داده «وحشتناک است، اما تقریباً جلوگیریناپذیر».
او میتواند به دادگاه مراجعه کند و خواهان اقدام شود، و دادگاه میتواند دستور دهد گزارشهایی که نام او را بردهاند حذف شوند، اما پاک کردن همه ردپاها از اینترنت دشوار است.
بال میگوید آنچه برای سانچی اتفاق افتاده، همان اتفاقی است که همیشه برای زنان میافتد؛ جایی که عکسها و ویدیوهای آنها برای انتقامگیری پخش میشود.
او اضافه کرد: «این کار بهواسطه هوش مصنوعی خیلی سادهتر شده، اما چنین اتفاقاتی هنوز آنقدر که تصور میکنیم شایع نیست یا شاید گزارش نمیشود چون با بدنامی همراه است یا افراد حتی از هدف قرار گرفتن خود آگاه نمیشوند، همانطور که در این پرونده دیدیم.»
به گفته او، «کسانی که این ویدیوها را میبینند، انگیزهای برای گزارش دادن به پلتفرم یا پلیس سایبری ندارند.»
پلیس در شکایت علیه بورا، از بخشهایی از قانون استفاده کرده که به آزار جنسی، توزیع محتوای مستهجن، افترا، جعل برای آسیب به اعتبار، کلاهبرداری از طریق جعل هویت و جرایم سایبری مربوط میشوند. در صورت اثبات جرم، بورا میتواند تا ۱۰ سال زندان بگیرد.
این پرونده که در هفتههای اخیر موجب خشم عمومی در شبکههای اجتماعی هند شده، باعث شده برخی خواستار قوانین سختگیرانهتر برای چنین مواردی شوند.
بال معتقد است قوانین موجود برای برخورد با این پرونده کافی هستند، اما باید بررسی شود که آیا نیاز به قوانین جدید برای شرکتهای تولیدکننده هوش مصنوعی مولد وجود دارد یا نه.
او میگوید: «همچنین باید به یاد داشته باشیم که دیپفیکها لزوماً بد نیستند و قوانین باید با دقت تنظیم شوند، چون ممکن است برای محدود کردن آزادی بیان مورد سوءاستفاده قرار گیرند.»