ارائه­ دهنده:
سیاوش زراوشان

 استاد راهنما:
دکتر عادل رحمانی

هیات داوری: 
 دکتر محمدرضا محمدی
 دکتر محمد سبک رو


زمان:
 ۱۴۰۱/۱۱/۲۴

ساعت ۱۸:۰۰
 

آقای سیاوش زراوشان دانشجوی کارشناسی ارشد آقای دکتر عادل رحمانی مورخ ۲۴ بهمنماه ساعت ۰۸:۰۰ از پروژه کارشناسی ارشد خود تحت عنوان "تشخیص اشیاء با رویکرد شبکه‌های معلم- دانش‌آموز" دفاع خواهند نمود. 

چکیده پایان نامه:
                                                
شبکه‌های عصبی عمیق طی سال‌های اخیر حوزه‌های مختلف هوش مصنوعی را متحول کرده‌اند. یکی از این حوزه‌ها تشخیص اشیا است. با این حال اکثر مدل‌ها سنگین هستند و استنتاج آنها زمان‌بر است و برای این که بتوانند بیدرنگ کار کنند، مدل ها باید سبک‌تر شوند ولی این کار باعث کاهش دقت آن‌ها می‌شود.
یکی از راهکارهای پیشنهادی برای بهبود عملکرد مدل‌های سبک‌تر، تقطیر دانش است که در آن یک مدل دانش آموز برای بهبود عملکرد خود از مدل معلم تقلید می‌کند. این روش به عنوان یک تکنیک موثر برای فشرده سازی مدل و افزایش دقت مدل ثابت شده است. با این حال، اکثر روش‌های تقطیر دانش برای طبقه‌بندی تصویر طراحی شده‌اند و در کارهای چالش‌برانگیزتر مانند تشخیص اشیا شکست می‌خورند.
روش‌های قبلی تقطیر دانش، بیشتر بر پایه تبدیل ویژگی و تابع هزینه هم سطح برای بهبود عملکرد مدل، تمرکز می‌کردند. برای بهبود عملکرد تقطیر دانش، مسیرهای اتصال چند سطحی پیشنهاد شده است که مکانیسم مرور نام دارد که موثر است و ساختاری ساده دارد و باعث بهبود عملکرد شبکه‌ می‌شود. علاه بر این، ادعا می‌شود که که شکست تقطیر دانش در تشخیص اشیا، عمدتاً به دلیل عدم وجود تابع هزینه مناسب است. زیرا عدم تعادل بین پیکسل های پیش زمینه و پس زمینه وجود دارد و روش ‌های سنتی به صورت برابر به پیکسل‌ها تمرکز می‌کنند. همچنین در مسئله تشخیص اشیا روابط مهمی بین پیکسل‌های موجود در عکس است که با تقطیر این روابط می‌توان عملکرد شبکه دانش آموز را بهبود بخشید. برای حل چالش تقطیر دانش در تشخیص اشیا، سه تابع هزینه ارایه می‌دهیم تا از نگاه‌های مختلف ویژگی‌های غنی‌تری را یاد بگیرد: ۱. تابع هزینه‌ای مبتنی بر توجه که بر روی پس زمینه تصویر توجه کند و توجه به پیش زمینه را در نظر نگیرد. ۲. تابع هزینه سلسله مراتبی به منظور بررسی عکس در سطوح مختلف ویژگی. ۳. تابع هزینه مخصوص برای تقطیر روابط سراسری و غیر محلی از شبکه معلم به دانشجو.
روش این تحقیق را بر روی دادگان CIFAR ۱۰۰ در حوزه طبقه بندی عکس امتحان کردیم که دقت مدل پایه ResNet۲۰ را بیش از ۳ درصد افزایش دادیم. همچنین در حوزه تشخیص اشیا از این روش بر روی مجموعه دادگان COCO با مدل  RetinaNet۵۰ امتحان کردیم که دقت mAP را حدود ۲.۵ درصد افزایش دادیم.