شناسایی الزامات طراحی و قابلیت تبیین سیستم های هوش مصنوعی

با گسترش کاربرد الگوریتم های هوش مصنوعی در سازمان ها و بخش های دولتی، دغدغه هایی در مورد مسئولیت اجتماعی کاربست عامل های هوشمند همانند شفافیت، پاسخگویی و انصاف در محافل دولتی و دانشگاهی مطرح شده است. بر همین اساس، هدف پژوهش، تبیین مدل ساختاری- تفسیری الزامات طراحی سیستم های هوش مصنوعی با قابلیت تبیین در تصمیم گیری های مبتنی بر مشارکت انسان و هوش مصنوعی است. برای رسیدن به این هدف، از روش آمیخته اکتشافی طراحی مبتنی بر اقدام- دلفی فازی و مدل سازی ساختاری- تفسیری برای توسعه و ارزیابی اصول طراحی سیستم هوش مصنوعی با قابلیت تبیین استفاده می شود. زمینه پژوهش، اداره کل تنقیح قوانین و مقررات در معاونت حقوقی قوه قضائیه است. مشارکت کنندگان پژوهش، دست اندرکارانی از اداره کل تنقیح قوانین و مقررات و مرکز فناوری اطلاعات بوده که به همراه پژوهشگران تیم پژوهش را تشکیل می دهند و در مجموع 15 نفر هستند. بر اساس یافته های پژوهش، مدل، پنج ویژگی قابلیت درک، قابلیت حکمرانی، قابلیت اقناع، دقت پیش بینی (توصیفی)، شفافیت و سودمندی را در بر می گیرد. این قابلیت ها در دو بعد طبقه بندی شدند. بعد توانش شامل قابلیت درک، قابلیت حکمرانی و قابلیت اقناع  است. بعد محقق سازی نیز شامل ویژگی های دقت پیش بینی، شفافیت و سودمندی است. افزون بر این، مدل می تواند سازوکار تقویت هوشمندی در تعامل انسان-هوش مصنوعی را تبیین کند.