بهینه سازی مدل شبکه عصبی با استفاده از الگوریتم خفاش اصلاح شده

مقاله اصلی

Abstract:

The success of an artificial neural network (ANN) strongly depends on the variety of the connection weights and the network structure. Among many methods used in the literature to accurately select the network weights or structure in isolate; a few researchers have attempted to select both the weights and structure of ANN automatically by using metaheuristic algorithms. This paper proposes modified bat algorithm with a new solution representation for both optimizing the weights and structure of ANNs. The algorithm, which is based on the echolocation behaviour of bats, combines the advantages of population-based and local search algorithms. In this work, ability of the basic bat algorithm and some modified versions which are based on the consideration of the personal best solution in the velocity adjustment, the mean of personal best and global best solutions through velocity adjustment and the employment of three chaotic maps are investigated. These modifications are aimed to improve the exploration and exploitation capability of bat algorithm. Different versions of the proposed bat algorithm are incorporated to handle the selection of the structure as well as weights and biases of the ANN during the training process. We then use the Taguchi method to tune the parameters of the algorithm that demonstrates the best ability compared to the other versions. Six classification and two time series benchmark data sets are used to test the performance of the proposed approach in terms of classification and prediction accuracy. Statistical tests demonstrate that the proposed method generates some of the best results in comparison with the latest methods in the literature. Finally, our best method is applied to a real-world problem, namely to predict the future values of rainfall data and the results show satisfactory of the method

 

 

1. Title: Optimization of Neural Network Model using Modified Bat-inspired Algorithm
2. Journals :Applied Soft Computing
3. Impact Factor: 2.857
4. Accepted: 1 August 2015
5. Page: 15

 

اسلاید ارائه

محتویات اسلاید ها به شرح زیر می‌باشد:

• مروری بر الگوریتم خفاش
  • Behaviour of microbats
  • Formulas
  • Pseudo code
• تشریح مسئله
  • مساله طبقه‌بندی Classification problem
  • مساله پیش بینی سری های زمانی Time series prediction 
• تغییرات الگوریتم خفاش برای یک شبکه عصبی پویا
  • Solution representation
  • Cost function

1. عنوان: Optimization of Neural Network Model using Modified Bat-inspired Algorithm
2. تعداد صفحات: ۲۱
3. زبان: انگلیسی

 

ترجمه و گزارش مقاله

چکیده:

موفقیت یک شبکه عصبی مصنوعی (ANN) به شدت به انواع ارتباط وزن ها و ساختار شبکه بستگی دارد. در میان بسیاری از روش های مورد استفاده در ادبیات برای انتخاب وزن های شبکه یا ساختار، محققین کمی تلاش به انتخاب هم وزن ها و هم ساختار شبکه عصبی مصنوعی به طور خودکار با استفاده از الگوریتم های فوق ابتکاری کرده اند. این مقاله الگوریتم خفاش اصلاح شده را با یک روش نمایش جواب جدید برای بهینه سازی وزن ها و ساختار شبکه های عصبی مصنوعی پیشنهاد می کند.الگوریتم ، براساس رفتار انعکاس صدا از خفاش ها مزایای الگوریتم های مبتنی بر جمعیت و جستجوی محلی را ترکیب می کند. در این کار ، توانایی الگوریتم خفاش پایه و برخی نسخه های اصلاح شده که براساس در نظر گرفتن بهترین جواب شخصی در تنظیم سرعت ، میانگین بهترین شخصی و سراسری جواب ها از طریق تنظیم سرعت و استخدام سه نقشه چائوتیک بررسی می شود. این تغییرات با هدف بهبود اکتشاف و بهره برداری قابلیت الگوریتم خفاش انجام شده است. نسخه های متفاوت الگوریتم خفاش پیشنهاد شده برای انتخاب ساختار و همچنین وزن ها و بایاس های شبکه عصبی مصنوعی در طول فرایند آموزش ترکیب می شود. پس از آن ما از روش تاگوچی برای تنظیم پارامترهای الگوریتم که بهترین توانایی را در مقایسه با نسخه های دیگر نشان می دهد، استفاده می کنیم. شش مجموعه داده ی محک طبقه بندی و دو سری زمانی برای ارزیابی عملکرد رویکرد پیشنهادی از نظر طبقه بندی و دقت پیش بینی استفاده می شود. داده های آماری نشان می دهد که روش ارائه شده برخی از بهترین نتایج را در مقایسه با آخرین روش ها در ادبیات تولید می کند. در نهایت ، بهترین روش ما به یک مسئله دنیای واقعی اعمال می شود، به عنوان مثال پیش بینی مقادیر آینده بارش باران و نتایج نشان دهنده جواب های رضایت بخش روش است.

1. تعداد صفحات: ۳۰
2. زبان: فارسی
3. فرمت: Word

 

کد و پیاده‌سازی مقاله

پیاده‌سازی مقاله شامل:

• ارزیابی و مقایسه و پیاده ‌سازی شش نسخه الگوریتم پیشنهادی با هرکدام از روش های دیگر معرفی شده در مقاله براساس دو معیار:
  • درصد خطا (خطا طبقه بندی ، MSE / RMSE )
  • درصد تعداد اتصالات استفاده شده توسط مدل
• تست فریدمن و post-hoc برای خطای طبقه بندی و پیش بینی سری های زمانی
• تست فریدمن و post-hoc برای تعداد اتصالات مسئله طبقه بندی و پیش بینی سری های زمانی

نکته: تمام جداول و شکل‌های موجود در بخش آزمایشات مقاله، پیاده‌سازی شده است و خروجی آنها نیز در پوشه‌‌ی results یا کنار فایل کدها ذخیره شده است. همچنین این نتایج در گزارش مقاله، جایگزین نتایج مقاله اصلی شده است.

1. زبان برنامه نویسی : Matlab
2. تعداد فایل‌ها : ۳۰

 

ارتباط با بخش پشتیبانی

1. ارتباط با پشتیبان از طریق تلگرام
2. ارتباط با پشتیبان از طریق ایمیل