خطر هوش مصنوعی برای دریافت اطلاعات درباره سرطان

هوش مصنوعی ممکن است همیشه دقیق‌ترین منبع اطلاعات سلامت نباشددویچه وله: تحقیقات جدید نشان می‌دهد که چت‌بات‌ها می‌توانند اطلاعات دقیقی در مورد سرطان ارائه دهند، اما این ابزار محدودیت‌های خاص خود را دارند.

به‌نوشته نشریه پزشکی Consumer Healthday؛ هوش مصنوعی ممکن است همیشه دقیق‌ترین منبع اطلاعات سلامت نباشد، به‌ویژه وقتی نوبت به درمان سرطان می‌رسد.

دو مطالعه جدید کیفیت پاسخ‌های ارائه‌شده توسط هوش مصنوعی را به سؤالات مختلفی در مورد مراقبت از سرطان ارزیابی کردند.

نتایج یکی از این مطالعات که ۲۴ آگوست در JAMA Oncology منتشر شد، سرویس هوش مصنوعی محاوره‌ای را مورد استفاده قرار داد.

حدود دو سوم اطلاعات ارائه شده توسط ChatGPT در مورد بیماری سرطان دقیقاً با اطلاعات و دستورالعمل‌های فعلی شبکه جامع سرطان ملی ایالات متحده NCCN)) مطابقت داشت. اما تقریباً یک‌سوم از پاسخ‌های ارائه شده توسط مدل OpenAI در زمینه طراحی برنامه‌های درمانی برای انواع مختلف سرطان‌ها، حاوی اطلاعات نادرستی بوده است.

دکتر دانیل بیترمن، نویسنده این مطالعه و استادیار انکولوژی بیمارستان بریگهام و زنان گفت: نتایج این تحقیق نشان داد که برخی دستورالعمل‌ها و اطلاعات کاملا نادرست بوده‌اند. مانند توصیه هوش مصنوعی به جراحی به‌عنوان اولین و آخرین درمان، زمانیکه درمان استاندارد شامل رادیوتراپی و یا شیمی‌درمانی نیز می‌شود.

او گفت: آمیخته‌شدن اطلاعات نادرست با اطلاعات صحیح، تشخیص خطاها را حتی برای متخصصان نیز دشوار می‌کند و این امر بسیار نگرانکننده است.

در مطالعه دوم محققان به پاسخ‌های چهار سرویس چت‌بات مختلف از جمله ChatGPT، Perplexity، Chatsonic و Bing پرداختند. از هرکدام خواسته شد تا درباره سرطان پوست، ریه، پستان، پروستات و یا روده بزرگ صحبت کنند. محققان کیفیت و دقت پاسخ‌ها را به‌دقت ارزیابی کردند.

به‌گفته محققان، بسیاری از کاربران هوش مصنوعی باور دارند که اطلاعات پزشکی تولیدشده توسط چت‌بات غیرقابل‌درک (در سطح آکادمیک) و یا غیرعملی هستند و این در حالی است که بیشتر کاربران، به‌دنبال اطلاعات غیرتخصصی برای دریافت سوالاتشان هستند. به‌گفته دانشمندان، از مجموع ۱۰۴ پرسش، حدود ۹۸ درصد از پاسخ‌های ارائه‌شده توسط ChatGPT شامل حداقل یک توصیه درمانی بوده که با دستورالعملهای NCCN مطابقت داشته است. ولی حدود ۳۵ درصد از این پاسخ‌ها حداقل حاوی یک توصیه نامربوط با دستورالعملهای NCCN نیز بوده است.

به‌گفته محققان، این محدودیتها نشان می‌دهد که چت‌بات‌های هوش مصنوعی به‌عنوان مکمل و نه به‌عنوان منبع اصلی اطلاعات پزشکی باید استفاده شوند. زیرا هوش مصنوعی جایگزین تعاملی که بیماران باید با پزشکان خود داشته باشند، نمیشود. ازاینرو بیماران و پزشکان باید از محدودیتهای این فناوریها آگاه باشند.

بااینحال بسیاری از دانشمندان بر این باورند که باگذشت‌ زمان چت‌بات‌های هوش مصنوعی نقش مهمتری در ارائه اطلاعات و مراقبت‌های پزشکی ایفا خواهند کرد.