سال انتشار: ۱۳۸۶

محل انتشار: پانزدهیمن کنفرانس مهندسی برق ایران

تعداد صفحات: ۸

نویسنده(ها):

بهبود مشعوفی – دانشگاه ارومیه – گروه برق
محمدرضا میبدی – دانشگاه صنعتی امیرکبیر – دانشکده کامپیوتر
سیداحمد معتمدی – دانشگاه صنعتی امیرکبیر – دانشکده برق

چکیده:

مهمترین محدودیت در تحقیقات مربوط به شبکه های عصبی، زمان بالای آموزش آنها می باشد. یک راه حل برای کاهش زمان آموزش، استفاده از نقاط توازی موجود در شبکه و مگاشت آن بر روی یک کامپیوتر موازی است. یکی از روشهای نگاشت، روش افراز نرون میباشد. در این روش داده های زیادی بین پردازشگر ها مبادله شدهو پیچیدگی ارتباطی بالا میباشد. لذا زمان زیادی صرف مبادله اطلاعات شده و زمان آموش افزایش می یابد . هزینه ارتباطات متناسب با تعداد نرونهاست. اگر تعداد نرونها خحیلی کم باشد. با اینکه شبکه دارای هزینه ارتباطی پائینی خواهد بود ولی قادر به یادگیری مسئله نخواهدبود. از طرف دیگر شبکه های با تعداد بالای نرون، دچار Overfitting شده و قدرت تعمیم پائینی خواهد داشت علاوه بر این آموزش اینگونه شبکه ها مستلزم هزینه ارتباطی بالایی خواهد بوذد. لذا نیاز به الگوریتمهای داریم که بتوان تعداد بهینه نرونها را تعیین کرد. یکی از الگوریتمهای موجود، الگوریتم بقا نرون می باشد. در این مقاله یک الگوریتم موازی تحت عنوان الگوریتم بقا نرون موازی ارایهمی گردد. با استفاده از الگوریتم پیشنهادی می توان هزینه ارتباطی بین پردازشگر ها را کاهش داده در نتیجه زمان آموزش را تقلیل داد. الگوریتم مذکور بر روی کاربرد بازشناسی واجهای فارسی اعمال شد. نتایج شبیه سازی ها نشان می دهد الگوریتم پیشنهادی از سرعت بالایی نسبت به روش افراز نرون برخوردار می باشد.