۲. کوپایلوت در رادیولوژی: طراحی همکاری انسان و ماشین در AlignmentFinder و CobbFinder

پرسش کلیشه‌ای «آیا هوش مصنوعی جایگزین رادیولوژیست می‌شود؟» کمکی به طراحی یک محصول بالینی کارآمد نمی‌کند. پرسش بسیار دقیق‌تر و کاربردی‌تر این است که یک سیستم را چگونه باید طراحی کرد تا عملکرد مشترک رادیولوژیست و ماشین، از عملکرد هر یک به تنهایی بهتر و ایمن‌تر باشد. الگوی «کوپایلوت» یا دستیار هوشمند پاسخ روشنی به این مسئله می‌دهد: هوش مصنوعی بار محاسبات و کارهای تکراری را به دوش می‌کشد، اما تفسیر بالینی، اصلاح نهایی و امضای گزارش در اختیار رادیولوژیست باقی می‌ماند. با این حال، چنین تقسیم کاری تنها زمانی ایمن است که رابط کاربری نرم‌افزار به درستی از آن پشتیبانی کند؛ چرا که صرفِ حضور پزشک در حلقه تصمیم‌گیری، به خودی خود کیفیت و ایمنی خروجی را تضمین نمی‌کند.

شواهد بالینی در حوزه ماموگرافی اهمیت این موضوع را به خوبی نشان داده‌اند. مطالعات نشان می‌دهد که وقتی پیشنهادهای نادرست هوش مصنوعی در تعیین رده BI-RADS به پزشکان نمایش داده می‌شود، تصمیم‌گیری آن‌ها تحت تأثیر قرار می‌گیرد و این پدیده که «سوگیری اتوماسیون» نام دارد، حتی در رادیولوژیست‌های باتجربه نیز دیده می‌شود¹. درس این یافته برای طراحی محصول کاملاً روشن است: خروجی ماشین باید به شکلی ارائه شود که راستی‌آزمایی آن در چند ثانیه ممکن باشد و به جای تضعیف قضاوت مستقل پزشک، آن را تقویت کند. بر همین اساس، چهار اصل زیر به عنوان شالوده طراحی در AlignmentFinder و CobbFinder تعریف شده‌اند:

نکته کلیدی در دو اصل نخست آن است که در معماری مبتنی بر نقاط آناتومیک، رادیولوژیست به وضوح می‌بیند که خط‌کش‌های مدل بر چه اساسی ترسیم شده‌اند. اگر مدل نقطه‌ای را با اندکی انحراف تشخیص داده باشد، پزشک می‌تواند با یک حرکت ساده نشانگر ماوس آن را اصلاح کند تا تمامی زوایا و فواصل وابسته در همان لحظه بازمحاسبه شوند. این سازوکار کاملاً با منطق ذهنی متخصصان هم‌خوانی دارد؛ زیرا پزشک همواره روی تصویر قضاوت می‌کند و عدد نهایی را زمانی می‌پذیرد که نقاط مرجع آن را دیده و تأیید کرده باشد. در مقابل، مدل‌هایی که مانند یک جعبه سیاه مستقیماً یک عدد را به عنوان خروجی اعلام می‌کنند، امکان بررسی سریع و مطمئن را از پزشک می‌گیرند.

اصل سوم مستقیماً با ایمنی بیمار گره خورده است. در رادیولوژی اسکلتی‌عضلانی، اعتبار هر عدد به کیفیت تصویربرداری و وضعیت قرارگیری بیمار وابسته است. سیستمی که روی یک تصویر چرخیده یا ناقص، با همان اطمینانِ یک تصویر استاندارد عدد تولید کند، می‌تواند گمراه‌کننده باشد. رویکرد مهندسی درست آن است که سیستم در مواجهه با تصاویر نامناسب، عدم قطعیت خود را اعلام کند یا نقاط دارای اطمینان پایین را متمایز سازد تا پزشک بداند کدام قسمت نیازمند دقت و بازبینی بیشتری است.

اصل چهارم نیز زیربنای یک مزیت رقابتی پایدار را شکل می‌دهد. هنگامی که اصلاحات رادیولوژیست در جریان کار روزمره به صورت ساختاریافته ثبت می‌شود، سیستم به تدریج به گنجینه‌ای از داده‌ها دست می‌یابد که در هیچ دیتاست آزمایشگاهی وجود ندارد: الگوی واقعی خطاهای مدل در مواجهه با دستگاه‌ها، پروتکل‌ها و جمعیت‌های گوناگون. این داده‌ها هم برای پایش عملکرد سیستم پس از استقرار و هم برای آموزش نسخه‌های بعدی حیاتی هستند. بدیهی است که بهره‌برداری از این چرخه نیازمند ناشناس‌سازی کامل داده‌ها، قراردادهای شفاف با مراکز درمانی و رعایت دقیق استانداردهای حریم خصوصی است که از همان ابتدای طراحی در معماری سیستم لحاظ شده‌اند.

در نهایت نباید فراموش کرد که در محیط شلوغ کلینیک، سرعت و روانی کار خود بخشی از ایمنی است. برای رادیولوژیستی که روزانه صدها تصویر را بررسی می‌کند، هر کلیک اضافه یا هر ثانیه انتظار، یک بار ذهنی مضاعف محسوب می‌شود. ابزاری که نیازمند بارگذاری دستی تصاویر یا باز کردن برنامه‌های جانبی باشد، در عمل کنار گذاشته خواهد شد. هدف ما در طراحی رابط کاربری آن است که خروجی مدل دقیقاً در لحظه باز شدن تصویر، آماده و قابل ویرایش باشد. در این چارچوب، موفقیت محصول نه فقط با دقت روی داده‌های آزمون، بلکه با کاهش زمان کل گزارش‌دهی، نرخ پذیرش خروجی‌ها و سرعت تشخیص و اصلاح خطاهای احتمالی توسط پزشک سنجیده می‌شود.

منابع

1. Dratsch T, Chen X, Rezazade Mehrizi M, Kloeckner R, Mähringer-Kunz A, Püsken M, et al. Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance. Radiology. 2023;307(4):e222176.