11 دقیقه
تصور کنید به یک چتبات درباره بیخوابی، درد قفسه سینه یا اضطراب خود توضیح میدهید—و لحظاتی بعد همان سرویس دارویی را پیشنهاد میدهد که با یک کلیک میتوان آن را خرید. این چشماندازی است که آمازون با راهاندازی دستیار جدید هوش مصنوعی سلامت در ایالات متحده به آن اشاره میکند. آیا این سرویس راحت و در دسترس نیست؟ بله. اما راحتی اغلب با تبادلهای پیچیده و مخفی همراه است که باید بررسی شوند.
این ابزار جدید که برای مشترکان Amazon Prime در دسترس است، مانند یک همراه دیجیتال سلامت عمل میکند. از آن میتوانید درباره علائم سؤال کنید، گزینههای درمانی را بررسی کنید، محصولات سلامت پیشنهادی را مرور کنید یا حتی به یک متخصص پزشکی متصل شوید. اگر اجازه دهید، دستیار میتواند از سوابق پزشکی شما اطلاعات استخراج کند تا پاسخهای شخصیتر و دقیقتری ارائه دهد.
در نگاه اول، این گام منطقی بعدی در فناوری سلامت به نظر میرسد. بیمارستانها تحت فشار هستند، پزشکان با بار کاری سنگینی روبهرو هستند و هزینههای درمان در ایالات متحده همچنان رو به افزایش است. هوش مصنوعی میتواند با پاسخ به پرسشهای روزمره، اولویتبندی موارد و هدایت سریعتر بیماران به سمت مراقبت مناسب به پر کردن این شکافها کمک کند.
اما سپردن دادههای حساس پزشکی به یک غول فناوری، داستان متفاوتی دارد و نشانههای این پیچیدگی را باید جدی گرفت.
جایی که مشاوره سلامت به بازار آمازون میرسد
آمازون این سامانه را «دستیار سلامت هوش مصنوعی عاملمحور» توصیف میکند که قرار است تاریخچه سلامت شما را بداند و با راهنماییهای معنیدار پاسخ دهد. این دستیار میتواند محصولات پیشنهادی را از Amazon Pharmacy معرفی کند و کاربران را به پزشکان شبکه One Medical متصل سازد.
و این همان نقطهای است که اوضاع پیچیده میشود.
شرکتی که هم مشکل شما را تشخیص میدهد و هم راهحل محتمل را میفروشد، در موقعیت بسیار نادری قرار دارد. حتی اگر فناوری دقیقاً همانطور که وعده داده شده کار کند، انگیزههای تجاری پیرامون آن سوالات واضحی را به وجود میآورد. اگر الگوریتم متوجه شود شما از مشکل خواب شکایت دارید، پیشنهاد بعدی آیا مشاوره پزشکی خواهد بود یا فهرستی انتخابشده از مکملها و داروهای خوابآور که از طریق داروخانه آمازون عرضه میشوند؟
آمازون میگوید مرزبندیهای سختی برقرار است. به گفته این شرکت، اطلاعات سلامت محافظتشده که توسط Amazon Pharmacy یا One Medical پردازش میشود برای بازاریابی کالاهای عمومی در فروشگاه اصلی آمازون استفاده نمیشود و به تبلیغکنندگان فروخته نمیشود. این سرویس در محیطی منطبق با HIPAA (قانون قابل حمل و پاسخگویی بیمه سلامت ایالات متحده) کار میکند، به این معنی که باید از مقررات ایالات متحده در حفاظت از دادههای بیمار پیروی کند.
این محافظتها اهمیت دارند، اما همه ریسکها را از بین نمیبرند.
تناقض منافع: فروشنده و مشاور در یک اکوسیستم
هموجودی نقشهای فروشنده و مشاور در یک پلتفرم میتواند تناقضهای منافع ایجاد کند که برای بیماران آشکار نیست. از دید تجاری، قرار دادن محصولات مرتبط با سلامت در دسترس مستقیم کاربر مزایای درآمدی و افزایش تبدیل (conversion) برای آمازون دارد؛ اما از منظر اخلاقی و بالینی، احتمال بروز توصیههای جانبدارانه یا اولویتبندی محصولاتی که منفعت تجاری برای شرکت دارند افزایش مییابد.
برای مثال، حتی اگر توصیههای بالینی مبتنی بر شواهد و الگوریتمی باشند، طراحی رابط کاربری، ترتیب نمایش نتایج و امکان تبلیغ درونپلتفرمی میتواند انتخاب کاربر را تحت تأثیر قرار دهد. این مسائل مستلزم شفافیت در سیاستها، نظارت مستقل بالینی و چارچوبهای اخلاقی است تا اطمینان حاصل شود که منفعت بیمار در اولویت قرار دارد.
داده، آموزش مدلها و حریم خصوصی
سیستمهای هوش مصنوعی بر پایه انبوهی از دادهها ساخته میشوند. آموزش مدلها به مجموعهدادههای گستردهای نیاز دارد—بهویژه زمانی که موضوع حوزه سلامت باشد. این واقعیت یک تنش اساسی ایجاد میکند: هرچه هوش مصنوعی دقیقتر و مفیدتر شود، معمولاً به دادههای بیشتری برای آموزش و بهبود نیاز دارد.
برای شرکتی که پلتفرم ابری بزرگی را اداره میکند و دادههایی از خرید، پخش محتوا و دستگاههای خانه هوشمند جمعآوری میکند، افزودن مکالمات سلامت به این مجموعه بهطور قابلتوجهی دامنه بینش شخصی در دسترس را گسترش میدهد. همگامی دادههای رفتاری و سلامت میتواند تصویری بسیار جامع از زندگی، عادات و مشکلات پزشکی کاربران بسازد که پیامدهای حریم خصوصی طولانیمدت دارد.
مجلات تخصصی مانند HIPAA Journal قبلاً هشدار دادهاند که سامانههای هوش مصنوعی در محیطهای بهداشتی حامل «ترکیبی مبهم از ریسکها» هستند که به دادههای بیمار، تأمینکنندگان و تعهدات تطبیق مربوط میشود. حتی زمانی که شرکتها از نظر قانونی خواستهها را رعایت میکنند، پیچیدگیهای فنی و عملیاتی احتمال خطا و سوءاستفاده را افزایش میدهد.
آیا ناشناسسازی کافی است؟
آمازون اعلام کرده است که نامها از دادههایی که برای بهبود مدلهای آتی استفاده میشود حذف میشوند. اما حذف نام همیشه به معنای ناشناسسازی واقعی نیست. پژوهشگران و ناظران بارها نشان دادهاند که مجموعهدادههایی که ظاهراً ناشناس شدهاند میتوانند با ترکیب شدن با دیگر سرنخهای دیجیتال مجدداً شناسایی شوند.
نمونه شناختهشدهای در پرونده قضایی بین Meta و اپلیکیشن پیگیری دوره قاعدگی Flo مشاهده شد؛ محققان دریافتند که کاربران حتی پس از حذف جزئیات آشکار شخصی میتوانند از طریق شناسههای منحصربهفرد یا ترکیب دادهها بازشناسی شوند. بنابراین، حذف نام لزوماً ردپای دیجیتال را محو نمیکند و ریسکهایی برای حریم خصوصی باقی میگذارد.
اجرای قانون و موانع نظارتی
یک نگرانی عملی دیگر، اجرای مقررات است. وقتی پلتفرمهای عظیم فناوری دادهها را نادرست مدیریت میکنند، پیامدهای حقوقی ممکن است سالها طول بکشد تا مشخص شود. در این فاصله، فناوری و مجموعهدادههای پشتیبان آن تکامل یافتهاند و گاهی اوقات اثبات سوءاستفاده یا نقص حفاظتی را پیچیدهتر میکنند.
وقتی اطلاعات سلامت شما بخشی از اقتصاد دادهها شود، مخاطرات بسیار فراتر از تاریخچه خرید گمشده است. اطلاعات پزشکی میتواند تبعات اقتصادی، اجتماعی و حقوقی بلندمدتی برای افراد داشته باشد، از جمله تبعیض در بیمه یا اشتغال، نشت اطلاعات بسیار حساس و سوءاستفاده در مقیاس بزرگ.
قوانین ملی و بینالمللی
در سطح بینالمللی و ملی، چارچوبهای قانونی متفاوتاند. در ایالات متحده، HIPAA برای فراهمکنندگان خدمات درمانی و برخی پردازشکنندگان داده الزامآور است، اما محدوده آن در رابطه با شرکتهای فناوری که خدمات جانبی ارائه میدهند میتواند پیچیده باشد. در اروپا، مقررات عمومی حفاظت از دادهها (GDPR) مقررات سختگیرانهتری در خصوص حقوق افراد و پردازش دادهها اعمال میکند که شامل مفاهیمی مانند «حق فراموش شدن» و شفافیت بیشتر میشود.
علاوه بر این، قانونگذاران محلی در برخی ایالتهای آمریکا شروع به محدود کردن نقش چتباتها در ارائه مشاوره حقوقی یا پزشکی مستقیم به مصرفکنندگان کردهاند. این اقدامات منعکسکننده نگرانی گستردهتر درباره ورود الگوریتمها به حوزههایی است که در گذشته توسط حرفههای دارای مجوز اداره میشدند.
خطرات فنی و اثربخشی بالینی
علاوه بر نگرانیهای حفظ حریم خصوصی و منافع تجاری، جنبههای فنی و بالینی نیز اهمیت دارند. هرچند هوش مصنوعی در برخی وظایف تشخیصی و تراژدیابی (triage) میتواند عملکرد خوبی داشته باشد، اما محدودیتهایی وجود دارد که باید در نظر گرفته شوند:
- خطاهای تشخیصی: مدلهای مبتنی بر داده میتوانند اطلاعات نادرست یا ناقص تولید کنند، مخصوصاً زمانی که سوابق بالینی پیچیده یا چندگانه باشند.
- سوگیری دادهای: اگر مجموعهدادههای آموزشی نماینده همه گروههای جمعیتی نباشند، خروجی سیستم میتواند برای برخی گروهها کمتر دقیق یا مضر باشد.
- تفسیر بالینی: برخی علائم نیاز به معاینه فیزیکی یا آزمونهای آزمایشگاهی دارند که یک چتبات به تنهایی قادر به انجام آنها نیست.
- مسئولیت حقوقی: مشخص نیست در صورتی که الگوریتم توصیه نادرست دهد یا آسیبی رخ دهد، چه کسی مسئول خواهد بود—توسعهدهنده، ارائهدهنده خدمات یا خود شرکت پلتفرم.
برای کاهش این خطرات، لازم است که سامانهها تحت نظارت متخصصان بالینی آزموده شوند، مکانیزمهای گزارش خطا و بازخورد کاربران فعال باشند و شفافیت در مورد محدودیتها و منافع احتمالی سیستم به کاربران ارائه شود.
نقش هیبریدی: ترکیب ماشین و متخصص انسانی
یک الگوی عملی و اخلاقی که بسیاری از متخصصان به آن اشاره میکنند، رویکرد هیبریدی است: استفاده از هوش مصنوعی برای انجام امور کمخطر، تکراری و کمهزینه—مثل جمعآوری شرححالی اولیه یا اولویتبندی بیماران—و هدایت موارد پیچیده یا خطرناک به متخصصان انسانی واجد صلاحیت. این مدل میتواند مزایای کارآمدی را فراهم کند بدون اینکه مسئولیت بالینی مهم را به طور کامل به الگوریتمها محول کند.
شفافیت، نظارت مستقل و استانداردهای اخلاقی
برای اعتمادسازی در استفاده از هوش مصنوعی سلامت در سطح پلتفرمهای بزرگ، چند اقدام کلیدی ضروری به نظر میرسد:
- شفافیت الگوریتمی: توضیح اینکه چگونه توصیهها تولید میشوند، چه دادهای برای آموزش استفاده شده و مرزهای اطمینان مدل چیست.
- نظارت مستقل: ارزیابیهای بالینی و حریم خصوصی توسط نهادهای مستقل و پژوهشی که میتوانند ادعاهای شرکت را بررسی کنند.
- مکانیسمهای پاسخگویی: مشخص شدن مسئولیتهای قانونی و عملی در صورت خطا یا سوءاستفاده از دادهها.
- کنترلهای دسترسی به داده: تفکیک واضح بین دادههای بالینی حساس و دادههای بازاریابی مصرفی، همراه با محدودیتهای دسترسی و ثبت تراکنشها.
- آموزش کاربران: اطلاعرسانی روشن به کاربران درباره ظرفیتها و محدودیتهای دستیار هوش مصنوعی و شرایط استفاده از دادههایشان.
این اقدامات میتوانند تا حدی نگرانیها را کاهش دهند، اما اجرای مستمر و تطبیق با تحولات فناوری ضروری است.
چشمانداز: آیا هوش مصنوعی جایگاه خود را در سلامت پیدا میکند؟
آمازون ادعا میکند که دستیار سلامت خود برای کمک به مردم در هدایت آسانتر مسیرهای درمانی ساخته شده است. بهدرستی، هوش مصنوعی پتانسیل کمک به مراقبتهای مدرن را دارد: ابزارهای هوشمند برای تریاژ، توضیح علائم و هماهنگی دیجیتال مراقبت میتوانند بهطور چشمگیری اصطکاک در سیستمهای پزشکی را کاهش دهند و دسترسی به اطلاعات را بهبود بخشند.
مسئله این نیست که آیا هوش مصنوعی باید در بهداشت و درمان حضور داشته باشد؛ مسأله این است که چه کسی کنترل دادهها را در دست دارد و انگیزههای پشت سامانهها چه هستند. زمانی که یک شرکت هم تولیدکننده پلتفرم، هم ارائهدهنده خدمات درمانی و هم فروشنده محصولات سلامت است، تعارض منافع بالقوه و نیاز به نظارت بیشتر آشکار میشود.
قانونگذاران و ناظران در حال حاضر به این تضادها توجه نشان دادهاند. در برخی حوزهها مثل نیویورک، قانونگذاران محدودیتهایی را برای جلوگیری از ارائه مستقیم مشاوره پزشکی یا حقوقی توسط چتباتها وضع کردهاند. این واکنشها منعکسکننده نگرانی عمومی از ورود الگوریتمها به حوزههایی است که پیشتر نیازمند مجوز حرفهای و مسئولیت انسانی بودهاند.
توصیههایی برای کاربران
برای افرادی که در مواجهه با اینگونه سرویسها هستند، نکات زیر میتواند راهنمای مفیدی باشد:
- از شفافیت سرویس درباره استفاده از دادهها و سیاستهای حریم خصوصی آگاه شوید.
- در مورد پیشنهادهای دارویی یا تشخیصهای جدی، همیشه با یک متخصص انسانی مشورت کنید.
- در تنظیمات حساب و مجوزهای دسترسی به سوابق پزشکی دقت کنید و فقط اطلاعات ضروری را به اشتراک بگذارید.
- از گزینههای ناشناسسازی یا محدودسازی داده استفاده کنید اگر چنین امکاناتی ارائه شده باشد.
- خطاها یا توصیههای مشکوک را گزارش دهید و از منابع معتبر پزشکی برای استعلام استفاده کنید.
در نهایت، هوش مصنوعی میتواند ابزار قدرتمندی برای بهبود دسترسی و کیفیت خدمات سلامت باشد؛ اما تا زمانی که صنعت نتواند ثابت کند دادههای حساس پزشکی را بدون افزایش اقتصادی یا تجاری شدن آنها محافظت میکند، برخوردی محتاطانه و پرسشگرانه منطقی است.
آمازون ممکن است چشمانداز بلندپروازانهای از مراقبت دیجیتال ارائه دهد—چشماندازی که در آن مشاوره، نسخه و ارائهدهندگان در یک اکوسیستم یکپارچه جای میگیرند—اما محافظت از حریم خصوصی، شفافیت در منافع تجاری و نظارت مستقل باید پیششرطهای پذیرش چنین مدلی باشند. تا زمانی که این مسائل بهطور قاطع حل نشوند، شک و احتیاط احتمالاً امنترین واکنش برای کاربران خواهد بود.
نظرات
خود_ر
سریع و راحت اما خطرات بلندمدت، بیمه، اشتغال، تبعیض... نگه دارید.. قبل از اینکه کامل فراگیر شه
پمپزون
اگه دادهها ترکیب بشن و دوباره شناسایی شن، فاجعه اتفاق میفته... واقعا کسی دنبال اینا هست؟
بیوانیکس
تو بیمارستان کار کردم، الگوریتمها کمک میکنن اما وقتی پای مسئولیت میاد وسط، ترسناکه. باید قانونی باشه
سکهران
معقول به نظر میاد ولی انگیزههای پولی آمازون رو نمیشه نادیده گرفت، اصلا واضح نیست چی اولویت داره
دیتاپالس
وای... جدی؟ میخوایم سلامتمون رو بدیم دست یه فروشگاه؟ یه طرف راحتی، طرف دیگه کلی سوال بیپاسخ!
ارسال نظر