پاسخ دهی خودکار به پرسش در سیستم پرسش و پاسخ بصری با استفاده از شبکه عصبی کانولوشنی ResNeXt و شبکه عصبی بازگشتی GRU دوسویه

سیستم پرسش و پاسخ بصری از دو بخش کلی پردازش تصویر و پردازش متن تشکیل شده است. در این سیستم ها یک پرسش در مورد تصویر توسط کاربر مطرح شده و سیستم وظیفه دارد با توجه به تصویر پاسخ را پیش بینی کرده و به کاربر نمایش دهد. عمده تلاش محققان افزایش دقت صحت پاسخ پیش بینی شده در این سیستم ها است. از این رو در این مقاله نیز ما یک سیستم پرسش و پاسخ بصری معرفی و طراحی کردیم که برای پردازش تصویر ورودی از شبکه عصبی کانولوشنی با معماری ResNeXt با 101 لایه و برای پردازش متن از شبکه عصبی بازگشتی از نوع GRU دوسویه استفاده می کند. همچنین از مدل زبانی Glove جهت تعبیه‎ سازی کلمات متن ورودی استفاده خواهد شد. جهت نتیجه گیری بهتر در مدل پیشنهادی از سازوکار توجه چندسر نیز استفاده شده است. برای ارزیابی مدل پیشنهادی از هر دو نسخه مجموعه داده VQA، یعنی VQA1.0 و VQA2.0 استفاده می شود.