آنها به یک ماشین، نقشهای از مغز، فهرستی از مداخلات احتمالی و یک مغز زنده دادند. سپس یک قدم عقب ایستادند.
اگزین تراپیوتیکس، استارتاپی که روی نسل تازه درمانهای عصبی کار میکند، میگوید جراحی مغز روی یک موش را با هدایت یک عامل هوش مصنوعی انجام داده است. نه در نقش دستیار، بلکه در جایگاه برنامهریز. این سامانه، ناقل ژندرمانی را انتخاب کرد، دوز دارو را محاسبه کرد، مختصات هدف را برگزید و بازوهای رباتیک را برای تزریق درمان به مغز موشی مبتلا به صرع هدایت کرد.
موش پس از عمل زنده ماند. علائم حیاتی پایدار بود. کنترل حرکتی بازگشت. اینها پیروزیهای کوچکی هستند، اما دریچه گفتوگویی بسیار بزرگتر را باز میکنند.
گابریل اوکانا سانترو، همبنیانگذار و مدیرعامل اگزین، توضیح میدهد: «این شبیه یک ربات جراح معمولی نیست.» رباتها از قبل دستورهایی را که جراح صادر میکند اجرا میکنند. اما در اینجا، عامل هوش مصنوعی تصمیم گرفت چه کاری انجام شود. این سامانه یک فنوتیپ و مجموعهای از گزینهها را دریافت کرد و هم روش درمانی و هم مختصات جراحی را بدون برنامهنویسی مستقیم انسانی محاسبه کرد. تا جایی که اگزین اطلاع دارد، پیش از این هیچ عاملی درمان را انتخاب نکرده، هدفی در مغز را برنگزیده و سپس آن را به بدن یک پستاندار زنده وارد نکرده است.
تیم پژوهشی برای هماهنگسازی این توالی از مدل سانت شرکت آنتروپیک استفاده کرد. یک دامپزشک بر عمل نظارت داشت. مراحل برگشتناپذیر نیازمند تأیید انسانی بودند. همچنین یک کلید قطع اضطراری فیزیکی وجود داشت تا اگر مشکلی پیش آمد، برق قطع شود. تنها اقدام جراحی مستقیم که توسط انسان انجام شد، کرانیوتومی، یعنی باز کردن جمجمه، بود؛ زیرا قواعد ایمنی اجازه نمیداد هوش مصنوعی آن مرحله را بهصورت خودکار انجام دهد.

همه چیز هم بیدردسر پیش نرفت. اگزین ابتدا مدلهای بزرگتر را آزمایش کرد. اپوس ۵٫۵ به محض تشخیص یک آزمایش زیستی، متوقف شد و از ادامه کار خودداری کرد. اپوس ۵ طرحی را روی کاغذ تهیه کرد، اما اجرای آن در محیط زنده را نپذیرفت. بنا بر گزارشها، مدل در لحظه امتناع جملهای صریح گفت: مشکل نه ابزارها بودند و نه دادههای ورودی. مشکل خود مدل بود. این سامانه هشدار داد که ادامه دادن میتواند به توقف در میانه عمل، با سوزنی داخل مغز، منجر شود؛ سناریویی که از هرگز شروع نکردن هم بدتر است.
این حد از احتیاط نکته مهمی را نشان میدهد. هم یک نقطه قوت را آشکار میکند و هم یک محدودیت را: عامل هوش مصنوعی میتواند درباره حالتهای شکست فاجعهبار استدلال کند و از انجام اقداماتی که ناایمن تشخیص میدهد سر باز بزند. اما همین موضوع گرهی از پرسشهای اخلاقی و حقوقی را نیز پیش میکشد. اگر عامل خطر را اشتباه ارزیابی کند، مسئول کیست؟ اگر مشکلی رخ دهد، تقصیر متوجه چه کسی خواهد بود؛ شرکت، دامپزشک ناظر، توسعهدهندگان مدل یا خود مدل؟
تاریخچه گستردهتر پزشکی نیز بر فوریت موضوع میافزاید. تلاشهای گذشته برای تحمیل خودکارسازی به فرایندهای ظریف همیشه به بهبود نتایج منجر نشدهاند. برای نمونه، شواهد مربوط به جراحیهای سینوس با کمک هوش مصنوعی، افزایش چشمگیر خطاها را نشان داده است؛ در برخی تحلیلها، خطاها بیش از دوازده برابر شدهاند. این یک هشدار جدی است. نوآوری لزوما به معنای ایمنی نیست.
این آزمایش یک نقطه عطف محسوب میشود: یک عامل هوش مصنوعی، تزریق ژندرمانی درون مغز یک پستاندار را تحت نظارت انسان برنامهریزی و هدایت کرد.
ظرفیت بالقوه این فناوری عظیم است. عاملهای خودمختاری که بتوانند فنوتیپها را ارزیابی کنند، گزینههای مداخله درمانی را بسنجند و مختصات دقیق را محاسبه کنند، میتوانند کشفهای علمی را شتاب دهند و درمانهای شخصیسازیشده را به شیوههایی پیش ببرند که امروز بهسختی تصور میکنیم. اما مسیر پیش رو فقط به کدهای هوشمندانه نیاز ندارد. این مسیر به اعتبارسنجی سختگیرانه، چارچوبهای شفاف پاسخگویی و گفتوگوی عمومی درباره مرز میان قضاوت ماشین و اقتدار انسان نیاز دارد.
فعلا موش راه میرود و پرسش همچنان باقی است: وقتی این توانایی از آزمایشگاه بیرون میآید، چگونه باید آن را مسئولانه هدایت کنیم؟
.avif)




نظر بگذارید
نظرات (3)
زیاد تبلیغاتی به نظر میاد، اما نتیجهاش؟ سوابق نشون داده اتوماسیون همیشه امن نیست، حواس باید جمع باشه
واقعیه؟ اگر اشتباه کنه، کی پاسخگوست؟ کلی سوال باقیه... ناظر، شرکت، یا خود مدل؟
وای... ایدهش ترسناک و در عین حال جذابه! اینکه عامل تصمیم بگیره، واقعا عمیقِ؛ اما خطرات کجاست؟