مروری بر روش های هرس در شبکه های عصبی عمیق با تاکید بر روش های هرس پیش از آموزش

مروری بر روش های هرس در شبکه های عصبی عمیق با تاکید بر روش های هرس پیش از آموزش

با گسترش کاربرد شبکه های عصبی، عمیق شدن و افزایش پارامترهای شبکه، در عین حال محدودیت منابع محاسباتی، محدودیت در حافظه و تفسیرناپذیر شدن این شبکه ها، فشرده سازی شبکه های عصبی مورد توجه قرار گرفته است. فشرده سازی می بایست به صورت هوشمندانه باشد، به نحوی که ما را از مزایای بهره مندی از شبکه های عصبی عمیق جدا نکند.

هرس به عنوان یکی از روش های فشرده سازی با حذف پارامترهای غیرضروری شبکه، همواره مورد اقبال پژوهشگران بوده است، به نحوی که در پژوهش های اخیر سعی شده است، مرحله ای با عنوان هرس پیش از آموزش شبکه، در مراحل قبل از راه اندازی شبکه گنجانده شود تا از مزایای فشرده سازی و هرس در مراحل آموزش و استنتاج شبکه بهره برده شود. در مقاله پیش رو سعی شده است، مروری بر روش های هرس با تاکید بر هرس های پیش از آموزش شبکه انجام شود. در ابتدا مبانی هرس مطرح شده، سپس انواع هرس به همراه تعریف ریاضی هریک مطرح و در نهایت بررسی دقیق تری روی هرس های پیش از آموزش شبکه انجام شده است.