مقابله با خودکشی در فیسبوک؛ هوش مصنوعی وارد عرصه شد

شبکه اجتماعی فیسبوک گفته است که در تغییراتی جدید، با به کار گرفتن هوش مصنوعی، سعی دارد آن دسته از کاربران خود را که ممکن است قصد خودکشی داشته باشد، شناسایی کند و شرایط را برای ارائه خدمات مشاوره به آنها فراهم سازد.
 
گزارش شده است که با تغییرات جدید، الگوریتم فیسبوک، نشانه‌های هشداردهنده در پست‌های کاربران و کامنت (پاسخ) دوستانشان به این پست‌ها را شناسایی می‌کند و به یک گروه ویژه درباره محتوای احتمالی آنها هشدار می‌دهد.
 
فیسبوک پس از تایید گروه ویژه بازبینی، با کسانی که احتمال دارد در شرایطی باشند که به خودشان آسیب بزنند، تماس می‌گیرد تا به آنها راه‌هایی را برای کمک گرفتن و دریافت مشاوره پیشنهاد کند.
فیسبوک می‌گوید که الگوریتم مورد استفاده‌اش، پیام‌هایی را که متضمن خودکشی یک کاربر هستند، شناسایی می‌کند این، اولین‌باری است که فناوری هوش مصنوعی برای بازبینی پیام‌ها در فیسبوک استفاده می‌شود.
 
مارک زاکربرگ، بنیانگذار فیسبوک، به تازگی اعلام کرد که امیدوار است با استفاده از الگوریتم‌های مختلف، پست‌ها و پیام‌های افراد "تروریست" و دیگر موضوع‌های نگران‌کننده شناسایی شوند.
 
فیسبوک همچنین اعلام کرده است که تمهیدات جدیدی برای کاهش رفتارهای خودکشی‌گرایانه در ابزار پخش زنده فیسبوک در پیش می‌گیرد. از جمله با چندین سازمان فعال در زمینه سلامت روان در ارتباط بوده است تا در اقدامی مشترک با آنها، کاربران آسیب‌پذیر خود را از طریق پیامگیر (مسنجر) فیسبوک در تماس با نیروهای مشاور و امدادگر قرار دهد.
کاربران فیسبوک در آمریکا می‌توانند از طریق مسنجر فیسبوک با مشاور در تماس باشند و کمک بگیرند سال‌هاست که فیسبوک برای آن دسته از کاربرانش که در خطر اقدام به خودکشی هستند، شرایطی فراهم کرده است که بتوانند کمک و مشاوره لازم را دریافت کنند، ولی روند کار تاکنون به گونه‌ای بود که کاربران دیگر، باید محتوا یا شرایط خاص یک پست را به فیسبوک گزارش می‌کردند و به همین دلیل، فیسبوک به کمک دیگران وابسته بود.
 
اکنون با توسعه الگوریتم‌هایی که می‌توانند یک روند را شناسایی کنند، این امکان فراهم شده است تا پست‌هایی که نشانه‌هایی از میل فرد به خودکشی در آنها دیده می‌شود، به طور خودکار شناسایی شوند. مثلا اظهارنظر درباره اندوه و درد می‌تواند یک نشانه باشد یا پاسخ و پیام‌های دوستان فرد در فیسبوک و عبارت‌هایی مثل "حالت خوب است؟" یا "نگرانت هستم" می‌تواند یک نشانه دیگر باشد.
 
وقتی پست یک نفر به عنوان پستی که محتوای خودکشی‌گرایانه دارد، شناسایی شد، محتوای آن برای بررسی سریع به یک تیم عملیاتی در فیسبوک گزارش می‌شود. کاربرانی که احتمال می‌رود به خودشان آسیب بزنند، از فیسبوک پیامی دریافت خواهند کرد که توصیه می‌کند از کسی کمک بگیرند.
کاربرانی که احتمال می‌رود به خودشان آسیب بزنند، از فیسبوک پیامی دریافت خواهند کرد که توصیه می‌کند از کسی کمک بگیرند ونسا کالیسون بورچ، از مدیران ارشد فیسبوک به بی‌بی‌سی گفت: "می‌دانیم که وقتی موضوعی فوری پیش می‌آید، سرعت واکنش خیلی حیاتی می‌شود."
 
دکتر جان درپر، مدیر یک خط تماس برای مقابله با خودکشی در آمریکا، با تقدیر از این اقدام فیسبوک گفت که امیدوار است فیسبوک در نهایت، فراتر از فقط دادن توصیه به افراد وارد عمل شود و با کسانی که می‌توانند به کاربران آسیب‌پذیر کمک کنند هم تماس بگیرد."
 
او گفت: "ما درباره این موضوع با فیسبوک صحبت کرده‌ایم... هرچه شبکه حمایتی از افراد نیازمند حمایت روانی را بیشتر بسیج کنیم، احتمال بیشتری دارد که آنها درصدد کمک گرفتن برآیند."
 
دکتر درپر گفت: "سوال این است که چطور می‌توان این کار را به گونه‌ای پیش برد که (تلاش برای کمک به افراد آسیب‌پذیر) وضعیت تهاجمی پیدا نکند."
 
ونسا کالیسون بورچ هم می‌گوید که به طور معمول، اگر دوستان و اعضای خانواده فردی با او تماس بگیرند، نتیجه بهتری می‌گیرند تا این که فیسبوک به آن فرد پیام بدهد، ولی با این حال نمی‌توان از فیسبوک انتظار داشت که به اطرافیان یک فرد درباره وضعیت روانی احتمالی آنها خبر بدهد و از آنها بخواهد از حال فرد خبر بگیرند: "ما روی موضوع حریم خصوصی افراد حساس هستیم و به نظرم، همیشه از چگونگی روابط افراد با خانواده یا دوستانشان خبر نداریم. برای همین، سعی داریم کاری کنیم که حمایت لازم برای افراد فراهم شود یا امکان این فراهم باشد که آنها بتوانند کمک لازم را دریافت کنند."
کاربران پخش زنده فیسبوک که از خودکشی حرف بزنند، توصیه‌هایی برای دریافت کمک می‌گیرند، ولی پخش زنده آنها قطع نخواهد شد تازه‌ترین تلاش‌ها برای کمک به کاربران پخش زنده فیسبوک در حالی انجام می‌شود که در ماه ژانویه گذشته یک دختر ۱۴ ساله در میامی، خودکشی خود را به طور زنده از فیسبوک پخش کرد.
 
فیسبوک گفته است که قبل از خودکشی این دختر، کار روی ابزارها و الگوریتم جدید خود را شروع کرده بود.
 
اکنون، وقتی کسی حین دیدن یک پخش زنده فیسبوکی، در گزینه‌هایی که فیسبوک در اختیارش می‌گذارد، گزینه‌ای را انتخاب کند که نسبت به احتمال خودکشی کاربر "ابراز نگرانی" می‌کند، فیسبوک به او راه‌های مختلف برای کمک به فرد در حال پخش زنده را نشان می‌دهد.
 
ویدئوی پخش زنده فیسبوک هم برای بازبینی فوری به گروه ویژه فیسبوک فرستاده می‌شود.
کاربرانی که یک ویدئوی پخش زنده فیسبوکی را می‌بینند، در صورتی که نسبت به محتوای آن ابراز نگرانی کنند، توصیه لازم را برای واکنش مناسب، از فیسبوک دریافت خواهند کرد جنیفر گواداگنو، پژوهشگر ارشد فیسبوک در این پروژه می‌گوید: "بعضی، ممکن است بگویند که وقتی ما پیامی دریافت می‌کنیم مبنی بر این که یک نفر در حال صحبت کردن درباره خودکشی است، باید پخش زنده ویدئو را متوقف کنیم."
 
"اما آنچه کارشناسان بر آن تاکید دارند، این است که قطع سریع پخش زنده ممکن است فرصت را از کسانی بگیرد که در پی کمک کردن هستند."
 
به گفته او، قطع نشدن پخش زنده فیسبوک کسانی که تمایل به خودکشی دارند، باعث می‌شود که دوستان و خانواده این افراد فرصت داشته باشند به سراغ او بروند.
 
این سازوکار جدید فیسبوک برای هشدار درباره محتوای یک پست در فیسبوک، در اختیار کاربران در سراسر جهان قرار می‌گیرد، ولی در حال حاضر، گزینه جدید برای تماس با ارائه‌دهندگان خدمات مشاوره از طریق پیامگیر (مسنجر) فیسبوک محدود به کاربران در آمریکا است.
 
فیسبوک گفته است که لازم است پیش از گسترش این شبکه بررسی شود که آیا دیگر سازمان‌ها می‌توانند به تقاضای احتمالی پاسخ دهند یا نه.