چالش های اخلاقی هوش مصنوعی در حیطه رشته رادیولوژی: یک نامه به سردبیر

سردبیر محترم
انقلاب الگوریتم های یادگیری دیجیتال در دهه اخیر منجر به بهبود چشمگیر فناوری ها در زمینه پزشکی گردیده است. این انقلاب علمی، به سرعت در تشخیص های پزشکی و به طور خاص در زمینه رادیولوژی تشخیصی کاربرد پیدا کرد. به همین ترتیب، پیشرفت های صورت گرفته در الگوریتم های یادگیری دیجیتالی باعث شده که دیتاها با استفاده از شبکه های پردازش کننده عمیق دیجیتالی به تحلیل و درک عمیق مسایل مختلف برسند و این پیشرفت ها علی الخصوص در چند سال گذشته با سرعت بیشتری درحال گسترش بوده است و پدیده تکنولوژی هوش مصنوعی را به دنبال داشته است.1
گرچه اخیرا نگرانی هایی توسط بعضی از کارشناسان مبنی بر مخاطرات بالقوه جایگزینی رادیولوژیست های انسانی با تکنولوژی هوش مصنوعی و درنتیجه حذف رادیولوژی به عنوان یک رشته وجود دارد.2 اما از جهتی دیگر برخی از کارشناسان، از مزایای ادغام هوش مصنوعی در انجام امور رادیولوژی حمایت می کنند.3 هوش مصنوعی در علم رادیولوژی می تواند به تشخیص و درمان سریع تر بیماری ها کمک کند، مانند افزایش راندمان و تشخیص زودهنگام بیماری ها و جلوگیری از انجام کارهای زمان بر و تکراری توسط انسان ها یا اپراتورها، جایگزین شدن نیروی انسانی در کارهای وقت گیر و تکراری و غیره.1و3
رعایت اخلاق در داده پردازی، بخشی جدایی ناپذیر از علم هوش مصنوعی در رادیولوژی است و جنبه های مختلفی ازقبیل موارد زیر را دربرمی گیرد، رضایت آگاهانه بیماران، حفظ حریم شخصی بیمار، محافظت از داده ها و اطلاعات، بحث مالکیت در داده ها و همچنین شفافیت در چگونگی استفاده از دیتاها. در بعضی از کشورها مالکیت مطالعات انجام شده بر تصویربرداری متعلق به نهادی است که تصویربرداری در آن انجام گردیده است.4 طبق مقررات عمومی حفاظت از داده اتحادیه اروپا، پیش از استفاده از داده های تصویربرداری در علم دیجیتال و طراحی الگوریتم، رضایت صریح توسط بیمار اجباری است.5
دیتاهای کدگذاری شده و ناشناس نیز می توانند قابل کنترل باشند تا شخص یا بیمار آنها قابل شناسایی باشد و هنگامی که از مجموعه داده های تصویربرداری از سر و گردن استفاده می شود، تشخیص چهره ازطریق برنامه های بازسازی سه بعدی و برنامه های کامپیوتری متفرقه امکان پذیر است.6 بنابراین بسیار حایز اهمیت است که اقدامات لازم برای محافظت از حریم خصوصی بیماران در طول هر مرحله از توسعه هوش مصنوعی انجام گیرد. هوش مصنوعی عمدتا مبتنی بر علم ماشین های هوشمند است، که عملا به برنامه ریزی زیادی نیاز دارند تا درست عمل کنند. مجموعه عظیم داده ها و اطلاعات گردآوری شده، که بعدها توسط توسعه دهندگان الگوریتم برای طراحی هوش مصنوعی مورداستفاده قرار می گیرد، ممکن است به مشکل پدیده سوگیری داده ها گرفتار شود.7و8
معمولا داده های بیماران از مراکز تحقیقات کارآزمایی بالینی استخراج می شوند. چنین داده هایی احیانا و عمدتا شامل دیتاهای بیماری های مثبت باشد و معمولا دیتاهای منفی کمتر موردتوجه و گزارش دهی قرار می گیرند. همچنین اگر داده های جمع آوری شده نماینده واقعی جمعیت عمومی جامعه نباشد، ممکن است که سوگیری داده ها و عدم دقت همه جانبه در انتخاب دیتاها رخ دهد. مجموعه ای از سوگیری در انتخاب داده ها که بعدها ممکن است در زمینه طراحی هوش مصنوعی در رادیولوژی تشخیصی استفاده شود، اصطلاحا دیتاست شیفت (Dataset shift) نامیده می شود. این داده هایی که برای آموزش الگوریتم به ماشین استفاده می شود لزوما با داده هایی که در مطالعات تصویربرداری در آینده استفاده خواهد شد، یکسان نیست.8 این اتفاق نامطلوب عمدتا به دلیل روش های مختلف رادیولوژیک و پارامترها و تکنیک های اسکن ناشی می شود که ممکن است متعاقبا باعث اختلاف های ظریفی در داده های پیش و پس از پردازش شود دلیل دیگر برای عدم دقت در دیتاها و ایجاد پدیده سوگیری داده ها در علم رادیولوژی، سودهی در روش انجام درمان است. به عنوان مثال می توان به زوایای مختلفی که یک رادیولوژیست برای گرفتن عکس سونوگرافی انتخاب می کند اشاره کرد.4
جلب اعتماد بیماران به ایمنی و فواید هوش مصنوعی و پذیرش آن، کلید موفقیت آمیز گردیدن هوش مصنوعی و استقرار آن در علم پزشکی خواهد بود.8و9 برای جلب اعتماد بیماران به هوش مصنوعی، داشتن شفافیت حداکثر درمورد نحوه تصمیم گیری و برنامه ریزی ضروری است.4 استقلال بیماران در پذیرش یا عدم پذیرش استفاده از هوش مصنوعی در مراقبت های بهداشتی خود، از اهمیت بالایی برخوردار است زیرا در نگرش بیماران به استفاده از هوش مصنوعی در علم پزشکی ممکن است تردیدهایی وجود داشته باشد.
‎‎درحالی که علم و دانش، اولویت ها، ارزش و اعتقادات فرد در تصمیم گیری انسان تاثیرگذار است، تصمیمات هوش مصنوعی براساس داده های ورودی و یادگیری و آموزش قبلی ماشینی است.4
اصول اخلاقی و برابری مفاهیم هوش مصنوعی نیستند و وظیفه رادیولوژیست ها آزمایش، مستندسازی و نظارت بر سیستم ها و الگوریتم های هوش مصنوعی برای اطمینان از حداکثر ایمنی و امنیت بیماران است.10 همچنین باید کاهش اثر جعبه سیاه که معمولا بخشی ذاتی از یک سیستم هوشمند مصنوعی است و مشکلاتی را در تصمیم گیری هوش مصنوعی ایجاد می کند، موردتوجه قرار گیرد.11
در مدل هوش مصنوعی به سطوح مناسب تفسیرپذیری و توضیح پذیری برای درک عملکرد و توضیح روند تصمیم گیری  نیاز است تا درحالی که هنوز از سیستم که به طور بالقوه حریم خصوصی را به خطر می اندازد در برابر حملات مخرب محافظت می کنید، چنین تعادل عملکرد بهینه الگوریتم را تضمین می کند.
‎یک جنبه مهم مسایل اخلاقی در دسترس بودن مزایای آن برای جامعه است. از آنجا که هوش مصنوعی برای توسعه و پیاده سازی به مقدار زیادی اطلاعات و مهارت نیاز دارد، ممکن است زیرگروه های جامعه به تمام مزایای آن دسترسی نداشته باشند. بنابراین اطمینان از استقرار عادلانه هوش مصنوعی در جوامع و کشورها و نه فقط درمورد افرادی که منابع بیشتری دارند، به عهده شرکت های توسعه دهنده و سیستم های بهداشتی است. همچنین سوالاتی مربوط به مسیولیت نهایی درمواردی که هوش مصنوعی در فرآیند تصمیم گیری ادغام شده است وجود دارد. درصورت آسیب به بیمار ناشی از تشخیص رادیولوژیک نامناسب چه کسی مسیول است. آیا رادیولوژیستی که از هوش مصنوعی استفاده کرده است، شرکتی که این سیستم را توسعه داده است یا بیمارستانی است که آن را خریداری کرده است.
مساله اخلاقی دیگر، وجود بالقوه تعارض منافع است. ازآنجاکه بسیاری از رادیولوژیست ها درگیر فرآیند توسعه کاربردهای رادیولوژیک هوش مصنوعی در شرکت های تجاری هستند، رادیولوژیست ها و همچنین سایر افراد درگیر ممکن است هنگام تصمیم گیری درمورد استفاده از هوش مصنوعی در مراکز وابسته به خود، در تضاد منافع قرار بگیرند.8
تکامل سریع و تلفیق مدل ها و الگوریتم های هوشمند مصنوعی در پزشکی و به طور خاص رادیولوژی، توسعه و به روزرسانی کدهای اخلاقی را برای اطمینان از حداکثر سود و ایمنی بیمار ضروری می کند. آشنایی رادیولوژیست و کارآموزان با فناوری های نوین همراه با ملاحظات اخلاقی، می تواند تاثیرات مثبتی در تشخیص، مدیریت و نتیجه داشته باشد.