به گزارش اصفهان زیبا؛ چتباتهای هوش مصنوعی در یک مطالعه جدید، در بیش از یکسوم گفتوگوها به افرادی که علائم آپنه خواب داشتند، اطمینان نادرست دادند و توصیه به مراجعه به متخصص را کنار گذاشتند. پژوهشگران میگویند این مشکل زمانی بیشتر دیده شد که بیماران علائم خود را کماهمیت جلوه دادند یا در برابر مراجعه به پزشک مقاومت کردند.
بیماران مبتلا به آپنه انسدادی خواب اغلب با صدای بلند خروپف میکنند. تنفس آنها نیز ممکن است در طول شب بارها متوقف و دوباره آغاز شود. این افراد گاهی چندین بار از خواب بیدار میشوند. آپنه خواب علاوه بر خوابآلودگی روزانه، میتواند خطر فشار خون بالا، سکته مغزی، بیماری قلبی و دیابت نوع ۲ را افزایش دهد. با وجود شیوع بالای این بیماری، بسیاری از افراد از ابتلای خود اطلاع ندارند.
پژوهش درباره عملکرد چتباتهای هوش مصنوعی
دکتر «دیبان راتنسواران»، پژوهشگر بنیاد خدمات درمانی ملی «گای و سنت توماس» در لندن و عضو مهمان هیئت علمی «کینگز کالج لندن»، این پژوهش را در کنگره انجمن تنفسی اروپا در بارسلون ارائه کرد.
راتنسواران میگوید چتباتهای رایگان هوش مصنوعی هر هفته صدها میلیون تعامل دارند و بسیاری از افراد پیش از مراجعه به پزشک، پرسشهای سلامت خود را با آنها مطرح میکنند.
او توضیح داد که بیشتر پژوهشهای قبلی، توانایی چتباتها را در پاسخ به پرسشهای پزشکی واضح بررسی کردهاند. با این حال، رفتار آنها هنگام مخالفت یا مقاومت بیمار کمتر بررسی شده است.
به گفته این پژوهشگر، یکی از مشکلات مهم چتباتها تمایل به ارائه پاسخی است که کاربر دوست دارد بشنود. پژوهشگران این رفتار را یکی از خطرهای مهم استفاده از هوش مصنوعی در مسائل پزشکی میدانند.
آزمایش پنج چتبات با ۷۰۰ گفتوگو
راتنسواران و گروهش هفت بیمار فرضی مبتلا به آپنه انسدادی خواب را طراحی کردند. همه این بیماران معیارهای لازم برای ارجاع به آزمایش بررسی خواب را داشتند.
پژوهشگران سپس گفتوگوهایی میان این بیماران و پنج چتبات رایگان پرکاربرد انجام دادند. این چتباتها شامل «چتجیپیتی»، «جمینای»، «کلود»، «دیپسیک» و «گراک» بودند.
تیم پژوهشی در مجموع ۷۰۰ گفتوگو انجام داد. پژوهشگران هر سناریو را در دو نسخه بررسی کردند. در نسخه نخست، بیمار علائم خود را بهروشنی بیان میکرد و برای دریافت کمک پزشکی همکاری داشت.
در نسخه دوم، همان اطلاعات پزشکی را به بیماری دادند که علائم خود را کماهمیت جلوه میداد و در برابر ارجاع به متخصص مقاومت میکرد. بنابراین، اطلاعات پزشکی در هر دو گروه یکسان بود و فقط نحوه تعامل بیمار تغییر میکرد.
توصیه چتباتها با مقاومت بیمار تغییر کرد
نتایج مطالعه تفاوت قابل توجهی میان دو گروه نشان داد. چتباتها در هر ۳۵۰ گفتوگوی مربوط به بیماران همکاریکننده، توصیه درست برای مراجعه به متخصص را ارائه کردند.
اما در گفتوگوهایی که بیمار علائم خود را کماهمیت جلوه میداد یا با ارجاع به متخصص مخالفت میکرد، چتباتها فقط در ۲۲۵ مورد از ۳۵۰ گفتوگو توصیه درست را حفظ کردند. این رقم معادل ۶۴ درصد است.
در نتیجه، چتباتها در بیش از یکسوم این گفتوگوها توصیه پزشکی درست را کنار گذاشتند. پژوهشگران همچنین دریافتند که چتباتها در موارد جدیتر، بیشتر تحت تأثیر مقاومت بیمار قرار گرفتند.
در یک سناریوی مربوط به آپنه خواب شدید، چتباتها تنها در ۲۲ درصد موارد توصیه به مراجعه تخصصی را حفظ کردند. در سناریوی دیگری که فرد هنگام رانندگی پشت فرمان به خواب رفته بود، این میزان به ۳۲ درصد رسید.
ارائه توصیههای سبک زندگی به جای ارجاع پزشکی
پژوهشگران همچنین دریافتند که چتباتها بسته به مدل، در حدود یکچهارم تا نیمی از گفتوگوهای مربوط به بیماران مقاوم، به جای توصیه برای مراجعه به متخصص، پیشنهادهایی درباره سبک زندگی ارائه کردند.
این رفتار میتواند مراجعه بیمار برای تشخیص و درمان را به تأخیر بیندازد. پژوهشگران این مسئله را به تمایل چتباتها برای جلب رضایت کاربر مرتبط میدانند؛ رفتاری که در ادبیات هوش مصنوعی با عنوان «همنوایی با کاربر» یا AI sycophancy شناخته میشود.
علائم آپنه خواب را جدی بگیرید
راتنسواران تأکید میکند افراد نباید اطمینانبخشی چتباتها را جایگزین ارزیابی پزشکی کنند. خروپف شدید، توقف تنفس هنگام خواب و خوابآلودگی روزانه از نشانههایی هستند که به بررسی پزشکی نیاز دارند.
خوابآلودگی هنگام رانندگی اهمیت بیشتری دارد و میتواند خطر حوادث رانندگی را افزایش دهد. بنابراین، فردی که چنین علائمی دارد باید برای ارزیابی پزشکی اقدام کند؛ حتی اگر یک چتبات به او بگوید که میتواند مراجعه به پزشک را به تعویق بیندازد.
