سناریوی نخست: پسر ۱۹ سالهای را در اورژانس میبینید. درد شدید شکم دارد. تهوع او نسبتاً شدید است و یک بار استفراغ کرده است. آزمایشش، تعداد لکوسیت حدود یازده هزار عدد در میکرولیتر را نشان میدهد.
سونوگرافی شکم درخواست میکنید که میگوید به علت درد بیمار، نمای خوبی برای بررسی از نظر سنگ و آپاندیسیت، یافت نشد. به اقدام بعدی خود فکر میکنید. سیتی اسکن مناسب است؟
تصمیم میگیرید که سیتی اسکن بکنید. چربی دور آپاندیس تغییراتی داشته است. به آپاندیسیت بیشتر از قبل مشکوک میشوید. با جراح درخواست مشاوره میدهید.
بیمار شما را صدا میزند. میگوید که علائمش را هم با گراک و هم با ChatGPT چک کرده است. آنها چند تشخیص گفتهاند و در ادامه تعدادی آزمایش پیشنهاد دادهاند. میخواهد یک لیست به شما نشان بدهد. تأکید میکند که اینجا گفته تعدادی از افراد با تشخیص آپاندیسیت به اتاق عمل میروند ولی آپاندیسشان مشکلی ندارد.
چه کار میکنید؟
این موقعیت را اگر تاکنون تجربه نکرده باشید، قطعاً در آیندهای نزدیک خواهید دید. همانطور که در این سالها بیماران بیشماری میگفتند که ما در «اینترنت» علائممان را زدیم یا «گوگل» کردیم، اکنون احتمالاً با عباراتی همچون «هوش مصنوعی گفت یا ChatGPT گفت» مواجه خواهیم شد.
با وجود مدلهای بزرگ زبانی، این گفتگو راحتتر و خوشایندتر از گوگل کردن شده و بیماران نیز سریعتر نیز به جواب میرسند. اگر در چنین موقعیتی قرار بگیرید چه کار میکنید؟ عصبانی میشوید که من دکتر هستم یا موبایل تو؟ شاکی میشوید که اگر میخواستی با آن بررسی بکنی، پس چرا به بیمارستان آمدی؟
فکر نمیکنید بهتر است که اکنون و در هنگامی که در فضای خستگی و تنش نیستیم، به این موقعیت فکر بکنیم تا وقتی که برای نخستین بار بخواهیم این حالت را در بیمارستان تجربه بکنیم و فیالبداهه حرفی بگوییم؟
حالا نوبت سناریوی دوم است: خانم ۲۸ سالهای در اورژانس بستری شده است. میگوید که هنگام ورزش درد شدیدی را در قفسه سینه حس کرده است. از او عکس گرفتهاند و نوار قلب. گفتهاند هر دو مشکلی ندارد. میخواهید به قلبش گوش بدهید که با گذاشتن استتوسکوپ، دردش میگیرد. با فشار روی دیواره قفسه سینه، به درد میآید.
دوباره عکسش را نگاه میکنید. استخوان جناغش شکسته است و در نگاه اول چون به آن دقت نکرده بودید، متوجهاش نشدید. اما چرا باید این اتفاق در یک فرد ۲۸ ساله سالم بیفتد؟ نمیدانید. تصمیم میگیرید بررسی از نظر علل ثانویه استئوپروز و شکستگی پاتولوژیک را انجام بدهید.
جواب آزمایشهای اولیه، به جز کلسیم که کمی بالا گزارش شد، طبیعی هستند. هیچ چیزی به نفع بدخیمیها ندارد. با ChatGPT مشورت میکنید. توصیه میکند با توجه به کلسیم کمی بالا و شکستگی پاتولوژیک از نظر مالتیپل مایلوم و پرکاری پاراتیروئید بررسی بکنید. دومی به جایی نمیرسد.
اولی نیز، هم به خاطر تصویربرداریها هزینهبر است و هم به خاطر نیاز به نمونهبرداری از مغز استخوان، دردناک. به باقی شرایط بیمار نیز نمیخورد. اما ایدهی دیگری ندارید.
به بیمار میگویید که این نظر هوش مصنوعی است یا خودتان؟
شاید بهتر باشد به یک سؤال دیگر نیز که مکمل سناریوی دوم است، فکر کنید. به نظر شما بیماران در حال حاضر پزشک انسانی را ترجیح میدهند یا توصیههای هوش مصنوعی را؟ سؤال را کمی سختتر بکنیم: فکر میکنید خطای انسانی را ترجیح میدهند یا خطای تکنولوژی را؟
پس از فکر کردن به این سؤالها، جواب خود را برای حداقل یکی از سه سؤال فوق (سناریوی اول، سناریوی دوم و سؤالهای سوم) بنویسید تا باقی درس برای شما، نمایش داده شود.
ترتیبی که مدرسه پزشکی برای مطالعهی مجموعه درس «هوش مصنوعی و پزشکی» پیشنهاد میدهد، به صورت زیر است:
برای امتیاز دهی به این مطلب، لطفا وارد شوید: برای ورود کلیک کنید
تو سناریو اول، به بیمار توضیح میدم که اگر واقعا اپاندیسیت باشه با توجه به نتایج فاجعه باری که داره سود این کار بیشتر از ضررش هست، چت جی پی تی تو رو ” معاینه ” نکرده و شم بالینی چند پزشک ( از طب اورژانس تا داخلی و جراحی ) به نفع اپاندیسیت هست. طبق چیزی که از رزیدنت ها شنیدم، جراح باید از هر چند تا کیس مشکوک به اپاندیسیت که به اتاق عمل میبره، چند مورد اصلا اپاندیسیت نباشه تا مطمئن باشه کیسی رو میس نکرده، بسته به ارتباطی که با بیمار گرفتم میتونم این نکته رو بهش توضیح بدم. در رابطه با اون آزمایشاتی هم که درخواست داره بهش اطمینان خاطر میدم که نگرانیش رو درک میکنم و اگر لازم باشه اون ها رو درخواست میدیم.
تو سناریو دوم، به نظرم برای یک بیمار اهمیتی نداره که تو مغز پزشکش چی میگذره و چطور به جوابی ( به شرط درست بودن ) برای کمک به بیمار رسیده، دغدغه اصلی بیمار بزرگ تر از این هست. اما در این روزگار بی اعتمادی به پزشک ها به نظرم بهتره وجه رو حفظ کرد و استفاده از هوش مصنوعی رو بیان نکرد، و پاسخ های AI نیاز به تایید خود ما با سرچ در رفرنس ها داره و نباید کورکورانه پذیرفته بشن و اگر از صحیح بودن اطلاعاتی که میخواییم به بیمار بدیم ( حتی اگر با کمک هوش مصنوعی بهش رسیبدیم ) اطمینان پیدا کردیم، میتونیم بگیم نظر خودمون هست.
در جواب به سوال سوم، به نظرم بیماران زمانی توصیه های AI را میپذیرن که پزشک ها نتونسته باشن راهی جلوی پاش بزارن، اما در نهایت فکر به اینکه اسیب جدی از خطای تکنولوژی بخورن هنوز قابل قبول نیست و برای همین اکثرشون در نهایت به حرف پزشکشون گوش میدن ( شاید به نحوه تاثیر ارتباط انسان-انسان برمیگرده )
سناریو اول:
آره تعدادی ممکنه نداشته باشند، ولی تعدادی هم دارند و از اونجا گه من پزشکم درباره وضعیت شما بیشتر از خودتون اطلاع دارم و شما فقط ناراحتی و دردتون رو میفهمید و این من هستم که به عنوان پزشک بیماری و علت بیماریتون رو بر اساس دانش و تجربه و شهودی که طی دوران طبابتم فهمیدم تشخیص میدم و شما نمیتونید مثل من علایمتون رو تشخیص بدید صرف اینکه درد دارید، پزشکی هم همیشه ممکنه خطا داشته باشه، پزشکی علم بینهایت ظریف و پیچیده هست و ما بر اساس این دادهها و تجربیاتمون تصمیم میگیریم، درک میکنم نگرانیتون رو ولی ازتون میخوام به من اعتماد داشته باشید چون به عنوان یه انسان تجربیاتم و درکم از شرایط شما بیشتر از هوش مصنوعیه.
سناریو دوم:
خوب میگم مظر خودمه، همین علمی هم دارم از کتابایی مثل گایتون و اسنل و هاریسون و آپتودیت یاد گرفتم، مثلا وقتی اونا رو میگم باید بگم اینا رو هاریسون گفته نظر من نیست؟ یا درسی که استاد بهم داده بگم این رو استاد فلانی گفته نه من؟ من علم این رو داشتم که از هوش مصنوعی که بر مبنای همین اطلاعات ساخته شده چه سوالی بپرسم و در نهایت مسئولیت انجام دادنش و هرگونه شکست با منه نه هوش مصنوعی، پس میگم نظر خودم بوده. اینکه به پای کی نوشته شه بیشتر از اینکه کی چی گفته بیشتر به این بستگی داره که در نهایت چه گسی مسئولیت اون کار رو قبول میکنه.
سوال سوم:
مشکلات دم دستی هوش مصنوعی، هم رایگانه و هم هرسوالی بپرسی جواب میده ولی مشکلات پیچیدهتر به نظرم هنوز اعتماد به هوش مصنوعی اونقدر نیست که مثلا طرف سر مسائل حیاتی و مرگ و زندگی به تصمیم اون عمل کنه.
احتمالا تو لول های کنترل شده و بسیار معمول خطای هوش مصنوعی اما توی موارد بسیار نادر یا نادر خطای انسانی رو ترجیح میدهند
2-در سناریو دو قطعا نمی گم تشخیص هوش مصنوعی هست چون موجب بی اعتمادی میشه و این تصور رو ایجاد می کنه که پزشک ها دانش ندارند و هوش مصنوعی دانش بالاتری داره
3-به نظر شما بیماران در حال حاضر پزشک انسانی را ترجیح میدهند یا توصیههای هوش مصنوعی را؟
هر ماه جواب این سوال احتمالا تغییر می کنه اما به نظر من فعلا خطاهای انسانی ارجح هست
من در سناریوی اول احتمال دارد کمی عصبانی شوم یا حتی خودم را عصبانی و جدی نشان دهم( درحالی که مطمئنم خیلی از پزشک ها هم با هوش مصنوعی مشورت می کنند اما میخواهم پزشک ها را معتمدتر نشان دهم )به بیمار اطلاع میدم هوش مصنوعی به نشانه های جزئی که من مشاهده کردم دسترسی نداشته و فقط اطلاعات کلی خود بیمار را جمعبندی کرده و میتواند خیلی چیزها را نادیده گرفته باشد چون مشکل احتمالا پیچیده تر از این حرف هاست و برای تشخیص قطعی به نشانه ها و علائم دقیق تری نیاز هست.
در سناریوی دوم دوست ندارم بیمار متوجه شود که من با هوش مصنوعی مشورت کردم شاید هنوز هم نمیپذیرم یا هم میترسم که هوش مصنوعی دارد قدرتمند تر می شود.
به نظرم در مشکلات کوچک و شاید بهتر باشد بگویم کمی ساده و سطحی تر بیمار ها ترجیح بدهند هوش مصنوعی مشکلشان را تشخیص دهد چون هم در هزینه هایشان صرفه جویی کرده اند هم در وقتشان و از استرس اضافی دکتر و مطب دور مانده اند و در تعداد سوالات هیچ محدودیتی ندارند تا هرجاهم دلشان بخواد جواب های ساده شده و حتی مهربانانه تر از دکتر میگیرند در مشکلات پیچیده تر باز بیمار دوست دارد که خودش با اطلاعات خوب از مشکل به پزشک مراجعه کند و به نظر من آدم ها دوست دارند وقتی اشتباهی رخداد یقه ی کسی را بگیرند و یک نفر را پیدا کنند که سرزنشش کنند درحالی که اگر هوش مصنوعی اشتباه کند کسی را برای اعتراض کردن ندارند و به نظرم دوباره پزشک را محکوم می کنند.