دوره 6، شماره 22، پاییز 1402، صفحات 1 - 9

نویسندگان : امیر شکری* ¹ ، علیرضا غلام‌ نیا ²

چکیده :
سیستم پرسش و پاسخ بصری از دو بخش کلی پردازش تصویر و پردازش متن تشکیل شده است. در این سیستم‌ها یک پرسش در مورد تصویر توسط کاربر مطرح شده و سیستم وظیفه دارد با توجه به تصویر پاسخ را پیش‌بینی کرده و به کاربر نمایش دهد. عمده تلاش محققان افزایش دقت صحت پاسخ پیش‌بینی شده در این سیستم‌ها است. از این رو در این مقاله نیز ما یک سیستم پرسش و پاسخ بصری معرفی و طراحی کردیم که برای پردازش تصویر ورودی از شبکه عصبی کانولوشنی با معماری ResNeXt با 101 لایه و برای پردازش متن از شبکه عصبی بازگشتی از نوع GRU دوسویه استفاده می‌کند. همچنین از مدل زبانی Glove جهت تعبیه‎سازی کلمات متن ورودی استفاده خواهد شد. جهت نتیجه‌گیری بهتر در مدل پیشنهادی از سازوکار توجه چندسر نیز استفاده شده است. برای ارزیابی مدل پیشنهادی از هر دو نسخه مجموعه‌داده VQA، یعنی VQA1.0 و VQA2.0 استفاده می‌شود.

کلمات کلیدی :
پرسش و پاسخ بصری، شبکه عصبی کانولوشنی، شبکه عصبی بازگشتیGRU دوسویه، مجموعه‌دادهVQA، سازوکار توجه چندسر.