Improving machine learning prediction using strawberry algorithm

2. The experimental results proved that the method of combining the two methods of selecting the elite and the roulette wheel was the best. While the roulette wheel selection technique was the best in the benchmark RMSE.Test. On the applied side, the results proved that the elite selection method was the best in the RMSE.Train standard, while in the RMSE.Test standard, the results proved that the roulette wheel selection method was the best compared to the other two methods.

1. Th

When conducting the Friedman test, it gave results from which it can be concluded that the Strawberry algorithm had a significant difference compared with the Grid and SA algorithms in almost all tests, in most selection methods, and for all experimental groups. On the applied side, the results showed that the SBA algorithm had a significant difference with all algorithms.

4. The use of several M nodes in the strawberry algorithm gave a better solution than a single node, and this was evident in the experimental and applied side by owning the cases in which the number of nodes is four nodes on the root mean square error less compared to the rest of the cases. This is because increasing the number of nodes from one node will provide more search space and thus a better solution.

e mechanism of linking the Strawberry SBA algorithm with the SVR support vector regression model gave better results by obtaining a better combination of hyperparameters, and this was evident through the superiority of the Strawberry algorithm over the common algorithms.

مقدمةIntroduction 

یعتبر الانحدار (Regression) فرع من فروع علم الإحصاء، وهو اداة احصائیة الاکثر استخداما من حیث بناء نموذج احصائی یعمل على تقدیر العلاقة بین متغیرین وهما المتغیر التابع (ای متغیر الاستجابة) مع متغیر واحد او عدة متغیرات توضیحیة (Explanatory variables). اذ یقوم بدراسة العلاقة بین المتغیرین لغرض التقدیر والتنبؤ، ویستخدم الانحدار فی عدة مجالات وفی مختلف العلوم والتطبیقات. مؤخرا لجأ الباحثون الى استخدام التعلیم الالی الذی یعتبر فرع من فروع الذکاء الاصطناعی (Artificial Intelligence) والذی یهتم بدراسة التطبیقات البرمجیة للحصول على نتائج اکثر دقة والذی یهتم بتصمیم وتطویر الخوارزمیات باستخدام التحلیل الإحصائی  (Analysis statistical) .یعرف انحدار المتجه الداعم (SVR) Support Vector Regression بانه تعلیم آلی او خوارزمیة او نموذج آلی الذی یبنی على تنبؤ نموذج خطی عن طریق التصغیر. ویکون مبدا عمل SVR من خلال تقسیم البیانات الى مجموعتین، المجموعة الاولى تسمى بیانات التدریب والمجموعة الثانیة تسمى بیانات الاختبار وتعرف ایضا ببیانات النموذج او بیانات الهدف والتی من خلالها یمکن قیاس دقة التنبؤ. هنا سوف نقترح دمج اسلوب SVR مع احدى الخوارزمیات المستوحاة من الطبیعة وهی الخوارزمیة المقترحة، خوارزمیة نبات الفراولة Strawberry Algorithm (SBA) للحصول على أفضل تولیفة للمعلمات الفائقة من خلال الحصول على اقل جذر لمتوسط مربعات الخطأ Root Mean Squares Error (RMSE). تم تطبیق خوارزمیة الفراولة والاسالیب الثلاثة للاختیار للبیانات الاربعة التجریبیة، والجانب التطبیقی ناقش تطبیق بیانات حقیقة والمتمثلة بأحد الامراض المزمنة وهو مرض ضغط الدم (Blood Pressure) حیث تم تطبیق الجانبین باستخدام برنامج R الاحصائی.

1. هدف البحث: Objective of Research

تهدف الدراسة الى الحصول على أفضل تولیفة من المعلمات الفائقة لانحدار المتجه الداعم (SVR). حیث تم توظیف خوارزمیة نبات الفراولة (SBA) والاعتماد على معیار جذر متوسط مربعات الخطأ RMSE مع التطبیق على بیانات تجریبیة وبیانات حقیقة من اجل اثبات کفاءة هذه الخوارزمیة للحصول على أفضل تولیفة من المعلمات الفائقة.

1. التعلیم الالی:Machine learning

یعتبر التعلیم الالی فرع من فروع  الذکاء  الاصطناعی  (Artificial Intelligence)الذی یهتم بدراسة التطبیقات البرمجیة للحصول على نتائج اکثر دقة، وقد استخدم فی تصمیم وتطویر الخوارزمیات للبیانات المدخلة وباستخدام التحلیل الإحصائی (statistical Analysis) للتنبؤ بالمخرجات (Langley & Carbonell, 1984).

وکما یقسم التعلیم الالکترونی ((Machine learning الى قسمین التعلیم بأشرف (Supervised machine learning) والتعلیم بدون اشراف (Unsupervised machine learning). والتعلیم بأشرف سیقسم ایضا الى مجالین، الأول هو مجال التصنیف (classification) والثانی هو مجال الانحدار والتنبؤ (Regression) والذی سیکون فی تخصص دراستنا، والشکل (1) یوضح تقسیم التعلیم الالی(Anikesh, 2018) .

الشکل (1) یوضح تقسیم التعلیم الالی

 

 

 

 

 

 

 

 

1.  آلة المتجه الداعم    Support Vector Machine     

تم اکتشاف خوارزمیة آلات المتجهات الداعمة SVM من قبل الباحثین فلادیمیر فابنک  وألیکسى شیرفونینکیز. وطورت من قبل العالم  (Vapnik, 1995)  ویعتمد فی عملهِ على مجموعة من المتغیرات والعوامل التی تؤثر على الحل النهائی. فمثلا یعتمد على المعلمات الاساسیة مثل المستوى الفاصل (Hyperplane) ومضاریب لانکراج (Lagrange multiplier) التی تؤثر على دقة الحل. (قاسم, 2009) .والیة عمل  الة المتجه الداعم هی  البحث على أحسن طریقة لفصل البیانات إلى مجموعتین من خلال المستوى الفائق  ( hyperplane) الذی یفصل بینهما.(Burges, 1998)

 

الشکل (2)  یوضح الیة عمل آلة المتجه الداعم SVM

 

 

 

 

 

 

 

 

 

4. انحدار المتجه الداعم Support Vector Regression (SVR)  

یعد انحدار المتجه الداعم (SVR) بمثابة تعلیم آلی او خوارزمیة او نموذج آلی الذی یبنى على تنبؤ نموذج خطی عن طریق التصغیر. حیث یستخدم جزء من البیانات والتی تُسمى بمجموعة بیانات التدریب. کما یقوم SVR ببناء نموذجًا خطیًا للتنبؤ بـ( y)، بعد رسم بیانات التدریب على مساحة المیزة ذات بعد عالی

                                               (1)

حیث ان w هو متجه معاملات الانحدار،  هو رسم او مخطط  فی فضاء عالی الابعاد، و b هو حد التحیز، ویتم حساب التنبؤ بالخطأ باستخدام دالة الخسارة الحساسة (insensitive loss function) (Rosenbaum et al., 2013).والشکل (5-2) یوضح خوارزمیة انحدار المتجه الداعم (SVR) .(Jacobs, 2012).

الشکل (3) یوضح خوارزمیة انحدار المتجه الداعم (SVR)

 

 

 

 

 

                  

 

 

 

 

والمعادلة ادناه توضح دالة الخسارة loss function)):

                                    (2)

    والهدف من استخدام SVR هو إیجاد  التی تتوافق مع انحراف  لجمیع بیانات التدریب من نموذج التنبؤ وفی نفس الوقت الذی یجعل  مسطح قدر الإمکان.

یمکن صیاغة المشکلة کمشکلة تحسین محدبة:

Minimize:                                                                                          (3)

Subject to:                                                           (4)

فی بعض الأحیان لا یمکن التنبؤ بکل بیانات التدریب داخل الانحراف . ولذلک، فإننا نقدم المتغیرات الرخوة (Slack Variables) لتحمل بعض التدریبات التی تقع خارج أنبوب حساس .

Minimize: =                                                                (5)

 Subject to:                                                            (6)

حیث C هی معلمة تنظیمیة ثابتة تحدد المفاضلة بین تسطح  والخطر التجریبی. وان هی متغیرات التی تقیس انحرافات أکبر من  ،وان مشکلة التحسین تم تحویلها إلى مشکلة مزدوجة. ومن ثم الى استخدام معادلة Lagrange. ویمکن حل المشکلة وذلک من خلال التعبیر عن الحل على النحو التالی:

                                                                      (7)

حیث     هی مضاعفات لاغرانج.

ویعتمد الحل النهائی فقط على حاصل الضرب ولیس هنالک حاجة لتعیین البیانات بشکل صریح ولیس من الضروری معرفة رسم الدالة.

 وباستخدام دالة النواة (kernel) یمکننا استبدال حاصل الضرب بدالة لحساب حاصل الضرب لنقاط البیانات المرسومة فی مساحة عالیة الأبعاد. لیصبح الحل                        

                                                                     (8)

حیث أن  هی دالة kernel.

وباستخدام دالة kernel، یبقى حساب مشکلة التحسین دائمًا فی مساحة الادخال بدلاً من مساحة التعیین لذلک یمکن أن یعمل أیضًا فی مساحة تعیین ذات بُعد لا نهائی. وکما یمکن ایضا استخدام دوال kernel المختلفة مع SVM.(Engel et al., 2002). ویعتمد أداء (SVR) على الاختیار الصحیح للمعلمات الفائقة hyper parameters التی هی ε و c و σ.وأن المعلمة الفائقة  تتحکم بعرض أنبوب)  ε- insensitive ( حول نموذج التنبؤ. (Yeh et al., 2011).

1. مفهوم الخوارزمیات

 الخوارزمیة هی سلسلة من الخطوات الریاضیة والمنطقیة المتسلسلة لحل مشکلة معینة. وفی الاونة الاخیرة  قام الباحثین باستخدام الخوارزمیات المستوحاة من الطبیعة وتطویرها لحل وتحسین العدید من المشاکل الهندسیة والریاضیة المعقدة فی ابحاثهم وللحصول على افضل حل (Merrikh-Bayat, 2014a).

وهنالک العدید من الخوارزمیات المستوحاة من الطبیعة، ولکل خوارزمیة ممیزاتها وطریقة استخدامها ومن هذه الخوارزمیات هی الخوارزمیة الجینیة (Genetic algorithm) التی تعتبر من اول الخوارزمیات التی ظهرت والتی اکتشفها الباحث  Jon Holandعام 1975، ویکون اساس عمل الخوارزمیات بتطبیق المتغیرات العشوائیة (Random variables) والتعامل معها. (Aamir et al., 2016).

1. نبات الفراولة فی الطبیعة

  ینمو نبات الفراولة من خلال الجذور والسیقان، ویکون على شکل عقد وینمو فی کل عقد جذر وساق ویسمى هذا نبات الام (Mother plant)، والساق یکون زاحفا فی الارض وینتج فی محاور الأوراق وینمو من نبات الأم. ومن ثم یکون الثانیة لیکون مصنع جدید یسمى نبات الابنة ومن ثم یظهر ساق جدید مرة ثانیة لتولید نبات ابنة جدیدة وهکذا عند نمو النبات الام بشکل کامل یتم فصل النباتات الولیدة (الابنة) عن النبات الاصلی (الأم) حیث کل منها یواصل حیاته بشکل فردی کنبات أم جدیدة. حیث یمتلکان الام والابنة بنفس الصفات (Aamir et al., 2016). والشکل (4) یوضح نبات الفراولة (Konidala & Abstract., 2021).

الشکل (4) یوضح نبات الفراولة

 

 

 

 

 

 

 

 

 

 

1. میة الفراولة  Strawberry algorithm

قام الباحثین بفهم العلاقة بین التعلم الآلی ونظام الطبیعة وإیجاد الطرق للحصول على أداء امثل عمل الباحثین بأسلوب الدمج بین الخوارزمیات المستوحاة من الطبیعة مع التعلم الالی. (Merrikh-Bayat, 2014a).

یبحث نبات الفراولة عن موارد الطبیعة مثل المیاه والمعادن من خلال تطویر السیقان والجذور والشعیرات الجذریة ویسمى هذا البحث بالبحث العالمی(Globa search)  والبحث المحلی (Local search) على التوالی. وتعتبر السیقان والجذور أدوات البحث، ویقصد بالبحث العالمی وصول الساق الى المکان الابعد للبحث عن موارده الطبیعیة اما البحث المحلی هو وصول الجذر الى المکان الاقرب الذی تتواجد به موارد المیاه (Aamir et al., 2016).

 

1. خوارزمیة الفراولة ریاضیا ً

هناک عدة طرائق فی علم الریاضیات لحل مشاکل التحسین لکن تکون مقعدة وتحتاج الى وقت للحصول على الحل الامثل. وتکون مشکلة التحسین من الطرق الاسهل، ویقصد بها الحصول على القیم الصحیحة لمجموعة من المتغیرات والعثور على أکبر او أصغر قیمة لمؤشر الأداء وکما تعتمد العدید من التطبیقات الهندسیة على حل مشکلة التحسین.

 تعمل خوارزمیة الفراولة ریاضیا لحل مشکلة التحسین الرقمی المقید کالاتی:

                                                                            (9)

 حیث ان    تمثل دالة هدف او التکلفة (cost) ذات أبعاد m، والتی یتم تصغیرها، وان حیث ان    هو متجه الحل وان   ، حیث ان   تعبر عن الحد الأعلى والأدنى لحدود المتغیر. ویتم تنفیذ خوارزمیة الفراولة لحل مشکلة التحسین من خلال تکوین N والتی تعرف باسم النبات الام (Mother plant) وبعدها یتم إنشاء نقطتین (واحدة قریبة جدًا من النبات الأم وهی الجذر(root) والأخرى بعیدة عنه تسمى الساق (runner).

وسوف تقوم الخوارزمیة فی إیجاد الحد الأدنى والاعلى. ویکون نبات الأم N فی التکرار j ویمثل النقاط   حیث . یمکن تمثیل المصفوفة التی تتکون من السیقان والجذور التی ینتجها نبات الأم N من خلال الاتی:

                        (10)

حیث ان:

 

                                                    (11)

     

                                                  (12)

                                           (13)

 هی مصفوفات عشوائیة مدخلاتها عبارة عن أرقام عشوائیة مستقلة تتبع التوزیع المنتظم للفترة [0.5،0.5-] او توزیع اخر من التوزیعات المستمرة او المتقطعة. اما  و  یمثلان المسافة لکل من الجذور والسیقان عن نبات الأم، ای العقد التی تتمثل بـ N، حیث ان الجذر الواحد یکون القریب والساق الواحد یکون الابعد عن نبات الام، ودائما تکون ، وبعد حساب المصفوفة  سوف نستخدم احد أسالیب الاختیار والتی منها اما عجلة الرولیت (Roulette wheel) او اختیار النخبة (elite-selection) (Merrikh-Bayat, 2014b).

10. الخوارزمیة الجینیة: Genetic algorithm

وهی خوارزمیة مستوحاة من نظریة التطور الطبیعی لتشارلز داروین وتعتبر اسلوب من اسالیب الذکاء الاصطناعی وقد قام بتطویرها العالمJohn Holland   وزملائه فی الستینیات والسبعینیات فی الجامعة الامریکیة فی مشیکان عام 1975. ویعتبر John Holland أول من استخدم التقاطع وإعادة الترکیب والطفرة والاختیار فی دراسة الأنظمة التکیفیة والاصطناعیة والتی تستخدم لحل مشاکل التحسین )قاسم, 2018(. وکما تحاکی الخوارزمیة الجینیة عملیة الانتقاء الطبیعی حیث یتم اختیار الافراد الاکثر لیاقة للتکاثر من أجل إنتاج نسل من الجیل التالی. (الکلاک & شعبان, 2008).

11. خوارزمیة سرب الطیور:      Particle Swarm Optimization Algorithm   

 تعد خوارزمیة سرب الطیور (PSO)من الخوازمیات المستوحاة من الطبیعة وطورت من قبل الباحثین إبرهارت وکینیدی فی عام 1995، مستوحاة من السلوک الاجتماعی لتدفق الطیور أو تعلیم الأسماک. وتمت تهیئة النظام بمجموعة من الحلول العشوائیة وعملیات البحث عن الحل الامثل(Optima) عن طریق تحدیث الأجیال. (Mu & Nandi, 2009).

12. خوارزمیة التلدین المحاکاة      Simulated annealing algorithm

    تحاکیخوارزمیة محاکاة التلدین عملیة التبرید البطیء للمعدن المنصهر لتحقیق الحد الأدنى من قیمة الدالة فی مشکلة التصغیر. تتم محاکاة ظاهرة التبرید للمعدن المنصهر من خلال إدخال معامل شبیه بدرجة الحرارة والتحکم فیها باستخدام مفهوم توزیع احتمالیة Boltzmann. یشیر توزیع احتمالیة Boltzmann إلى أن الطاقة (E) لنظام فی التوازن الحراری عند درجة الحرارة T یتم توزیعها بشکل احتمالی (Thede, 2004). تعتمد طریقة محاکاة التلدین على محاکاة التلدین الحراری للمواد الصلبة التی تکون شدیدة التسخین(Moriguchi et al., 2015).

13. خوارزمیة الشبکة  Grid search

 تعتبر من خوارزمیات التحسین وتستخدم لضبط المعلمات الفائقة (hyper parameter) فی نماذج التعلم الآلی والحصول على افضل  المعلمات التی تجعل النموذج اکثر دقة (Kim, 1997).

واما بحث الشبکة (Grid search) هو عملیة معالجة البیانات لتکوین المعلمات المثلى لنموذج معین اعتمادًا على نوع النموذج ویتطلب وجود معلمات معینة. (Evan Lutins, 2017).

14. الأسلوب المقترح فی خوارزمیة الفراولة

استخدمت خوارزمیة الفراولة کأسلوب لاختیار أفضل تولیفة من معلمات أسلوب SVR، حیث لم یتم استخدام هذه الخوارزمیة من قبل فی عملیة اختیار المعلمات الفائقة التی تعود لأسلوب SVR. ان خوارزمیة الفراولة وکما وضحها (Bayat,2014) تتمیز بأسلوبها من حیث البحث المحلی والبحث العالمی للحصول على أفضل حل. وتتضمن هذه الخوارزمیة على اثنان من مواقع الحل والمتمثل بالجذر والساق العائدین لنبات الام. وقد وضح (Bayat,2014) ان عملیة اختیار الحل الأمثل تکون من خلال اختیار اما الساق او الجذر أی الحصول على حل واحد فقط کما فی باقی الخوارزمیات الأخرى. لذلک یستخدم أحد أسالیب الاختیار والمتمثلة بأسلوب عجلة الرولیت او أسلوب اختیار النخبة او الجمع بینهما کما فضل هذا الباحث. کما تم تطبیق التوصیات التی أوصى بها الباحث (Bayat,2014) من حیث استخدام عدة قیم للجذر وللساق، وعدة جذور وسیقان، إضافة الى ذلک تم استخدام أکثر من نبات ام واحد حیث تم استخدام N=1,2,3,4.ویمکن توضیح الیة الربط بین خوارزمیة الفراولة وانحدار المتجه الداعم من خلال المخطط الموضح فی الشکل (5).

Determining the number of the mother plant

Determining a number of roots and runners for each mother planet

Initialize the length of roots and runners

Generate random values for hyper parameters within a certain range

Calculate the fitness of new location (referred to by runners and roots)

Select half of the new locations by chance as the mother plants of the next iteration

Determine the hyper parameter values corresponding to the best value of the objective function for both the root and the runner

Randomly generate a roots and runners for each mother planet

Finish

No

yes

الشکل (5) مخطط لألیة الربط بین خوارزمیة الفراولة وSVR

ان الأسلوب الذی تم اعتمادهُ فی الیة تطبیق أسالیب الاختیار عند تطبیق أسلوب رولیت ویل واسلوب النخبة معاً یختلف عما هو موجود فی خوارزمیة الفراولة، حیث ان فی خوارزمیة الفراولة یتم اختیار افضل دالة هدف من بین قیم دالة الهدف لکل من الجذر والساق، أی یتم اختیار قیمة دالة الهدف اما للجذر او للساق، اما هنا فقد تم تجزئة المجتمع الى نصفین، حیث تم الاختیار من النصف الأول باستخدام أسلوب عجلة الرولیت، اما النصف الاخر فقد تم اختیار افضل قیمة لدالة الهدف باستخدام أسلوب النخبة، بذلک سیکون هناک قیمتین لدالة الهدف، عندئذٍ سیتم اختیار اقل قیمة منهما وتعتبر هی القیمة الأفضل. ونفس الأسلوب یطبق على قیم دالة الهدف التی تعود الى الساق. والهدف من هذا الأسلوب المقترح من قبل الباحث هو من اجل استخدام المعلمات نفسها التی أعطت اقل قیمة لدالة الهدف فی التکرار التالی لکل من الجذر والساق. کما ان خوارزمیة الفراولة تستغرق وقت أکثر من الخوارزمیات الشائعة التی سوف نقارن بها مثل الخوارزمیة الجینیة، خوارزمیة البحث الشبکی، خوارزمیة التلدین المحاکاة، خوارزمیة سرب الطیور. ویعود ذلک لسببین، الاول ان خوارزمیة الفراولة تبحث فی اتجاهین هما الجذور والسیقان عکس الخوارزمیات الاخرى التی تبحث فی اتجاه واحد. والسبب الثانی هو ان الجذور والسیقان التی تم استخدامهم کان 100 لکل منهما، ای 100 جذر و100 ساق هذا إضافة الى انهُ تم استخدام أکثر من عقدة N لکل 100 جذر وساق.

 

 

 

 

 

 

 

 

 

 

 

Termination condition satisfied?

 

 

الجانب التجریبی

15. المقدمة: Introduction

فی الجانب التجریبی تم استخدام بیانات تجریبیة من اجل اختبار کفاءة الأسلوب المقترح  او الخوارزمیة المقترحة حیث تم استخدام هذه البیانات من قبل اغلب الباحثین فی بحوثهم العلمیة  (Rojas et al., 2017). وقد تم اخذ هذه البیانات من الموقع (UCI)  وهی (Slump, Forest fires, Boston, Qsar_Aquatic_Toxicity). وتم تحلیلها بالبرنامج الاحصائی R وتم انشاء برامج للخوارزمیات المذکورة اعلاه وتطبیق على ما جاء فی الجانب النظری من هذا البحث وباستخدام الخوارزمیة المقترحة (خوارزمیة الفراولة) لأسالیب الاختیار الثلاثة ومقارنتها مع الخوارزمیات الشائعة الاخرى باستخدام معیار جذر توسط مربعات الخطأ (RMSE) للحصول على أفضل تولیفة للمعلمات الفائقة لانحدار المتجه الداعم SVR. والجدول (1) ادناه یوضح الوصف لهذه البیانات التجریبیة من حیث حجم العینة والمتغیرات التوضیحیة.

الجدول (1) یوضح حجم العینة وعدد المتغیرات لکل مجموعة من البیانات التجریبیة

اسم البیانات	Slump	Boston	Aquatic	Forestfire
حجم العینة	103	506	545	517
المتغیرات التوضیحیة	8	14	9	11

    

 

 

 

 

ویمکن تمثیل عدد العقد المستخدمة وهی N1,N2,N4 وکل عقدة تحتوی على 100 جذر و 100 وساق حیث تم اخذ ثلاثة اطوال للجذور والسیقان، حیث کانت اطوال الجذور (0.2 ,0.4, 0.6) اما اطوال السیقان فکانت (2.5 ,3.5, 4.5) لحصول على نتائج مثلى. والجدول (2) یوضح ذلک.

الجدول (2) یوضح کل عقدة  N مع اطوال الجذور والسیقان

تم تطبیق خوارزمیة الفراولة (SBA) على مجموعة البیانات التجریبیة لأسالیب الاختیار الثلاثة وهی (اسلوب اختیار النخبة، اسلوب اختیار عجلة الرولیت, والدمج بین اسلوبی النخبة وعجلة الرولیت) ومقارنتها مع الخوارزمیات الشائعة،

والنتائج موضحة فی الجداول (3),(6) ـ(5),(4).

الجدول (3) نتائج تطبیقخوارزمیة الفراولة للأسالیب الثلاثةلبیانات Slump

 

 

 

الجدول (4): نتائج تطبیقخوارزمیة الفراولة للأسالیب الثلاثةلبیانات Boston

Boston
Algorithm	Mother No.(droot,druu.)	Elite Selection			Roulette selection		Roulette & Elite
		RMSE Train	RMSE Test	RMSE Train		RMSE Test	RMSE Train	RMSE Test
SBA	N1(0.2,2.5)	3.13251	5.27200	2.60856		4.80969	2.73818	5.00025
SBA	N1(0.4,3.5)	3.62102	4.91225	2.63063		4.70784	3.66831	3.78389
SBA	N1(0.6,4.5)	2.70154	5.25124	2.87845		4.64666	2.61286	5.62428
SBA	N2(0.2,2.5)	2.60048	5.17678	2.63260		4.42864	3.38950	5.96573
SBA	N2(0.4,3.5)	2.83455	5.35763	3.04684		4.16946	2.53857	5.34171
SBA	N2(0.6,4.5)	3.74054	5.60219	2.73799		4.83329	3.99984	5.78423
SBA	N4(0.2,2.5)	4.02044	4.81386	4.62884		4.72191	3.84530	4.50810
SBA	N4(0.4,3.5)	3.43398	4.28857	4.96765		4.30002	3.38443	4.44762
SBA	N4(0.6,4.5)	4.18948	4.71065	4.23068		4.91484	3.70104	4.64006
PSO		4.09613	5.50623	4.09613		5.50623	4.09613	5.50623
GA		4.33522	5.85656	4.33522		5.85656	4.33522	5.85656
Gride		5.46041	8.42234	5.46041		8.42234	5.46041	8.42234
SA		4.78245	6.22222	4.87542		6.22222	4.78245	6.22222

                           

 

الجدول (5)نتائج تطبیقخوارزمیة الفراولة للأسالیب الثلاثة لبیانات Aquatic

 

 

 

الجدول (6)نتائج تطبیق خوارزمیة الفراولة للأسالیب الثلاثة لبیانات Forestfire

 

اظهرت النتائج التجریبیة تفوق الخوارزمیة المقترحة (SBA) على الخوارزمیات (PSO, GA, GRID, SA) التی تمت المقارنة بها من خلال اقل جذر لمتوسط مربعات الخطأ (RMSE) کما مبینة بالجداول الاربعة اعلاه. حیث تم تمییز القیم باللون الغامق لخوارزمیة الفراولة التی تمثلت بأقل RMSE، واللون الغامق وتحته خط للخوارزمیة التی تمت المقارنة معها کونها تمتلک اقل RMSE مقارنة بالخوارزمیات الثلاثة الشائعة الاخرى.

ومن خلال الجداول (3-6) اظهرت النتائج التجریبیة تفوق الخوارزمیة المقترحة (SBA) على الخوارزمیات (PSO, GA, GRID, SA) التی تمت المقارنة بها من خلال اقل جذر لمتوسط مربعات الخطأ (RMSE) کما مبینة بالجداول الاربعة اعلاه. حیث تم تمییز القیم باللون الغامق لخوارزمیة الفراولة التی تمثلت بأقل RMSE، واللون الغامق وتحته خط للخوارزمیة التی تمت المقارنة معها کونها تمتلک اقل RMSE مقارنة بالخوارزمیات الثلاثة الشائعة الاخرى.

وفضلا عن ذلک ومن خلال الجداول (6),(5),(4),(3))) یمکن ملاحظة قیم (RMSE) لکل من بیانات التدریب والاختبار بالنسبة الى حالات خوارزمیة SBA فقط، وکمقارنة فیما بینها ولجمیع البیانات ولجمیع أسالیب الاختیار، حیث انها کانت تمتلک اقل قیم فی معظم الحالات التی تکون فیها عدد العقد أکبر من واحد، وکما هو موضح فی الجداول (7-10) ادناه والتی توضح الصفوف التی تحتوی على اقل قیم فقط للمعیار RMSE والتی تم تحدیدها باللون الاحمر حیث ان هذه الجداول مأخوذة من الجداول (3)، (4), (5)، (6) على التوالی.

 

 

الجدول (7): تحدید اقل قیم RMSE لبیانات SLUMP

 

 

الجدول(8) : تحدید اقل قیم RMSE بیانات Boston

الجدول (9): تحدید اقل قیم RMSE لبیانات  Aquatic

Aquatic
Algorithm	Mother No.(droot,druu.)	Elite Selection			Roulette selection		Roulette & Elite
		RMSE Train	RMSE Test	RMSE Train		RMSE Test	RMSE Train	RMSE Test
SBA	N2(0.2,2.5)	0.35411	0.93829	0.31281		0.51231	0.25720	0.68785
SBA	N2(0.4,3.5)	0.29497	0.67737	0.21692		0.54700	0.36822	0.68599

الجدول :(10) تحدید اقل قیم RMSE لبیانات  Forestfire

ومن اجل المقارنة بین أسالیب الاختیار تم اعداد الشکل (6) والذی یوضح نتائج المقارنة بین الاسالیب الثلاثة للاختیار للبیانات التجریبیة الاربعة فی حالة بیانات التدریب لمعیار RMSE.TRAIN، حیث یوضح المحور الافقی الاحرف الاولى من اسماء المجامیع البیانات التجریبیة.

 

 

 

الشکل(6): المقارنة بین أسالیب الاختیار لخوارزمیة الفراولة لمعیار RMSE.TRAIN

 

 

 

 

 

 

 

حیث یلاحظ من الشکل (6) أعلاه، ان هناک تفاوت فی التفوق وبشکل مختلف من أسلوب اختیار الى أسلوب اختیار اخر. وان أسلوب الدمج بین اسلوبی اختیار النخبة وعجلة الرولیت کان الأفضل کمعدل نسب لجمیع مجامیع البیانات التجریبیة بالنسبة الى المعیار RMSE.Train بامتلاکهِ اعلى نسبة وهی والتی کانت 0.78 مقارنة مع الاسلوبین الاخرین.

 وبنفس الأسلوب تم اعداد الشکل (7) والذی یوضح نتائج المقارنة بین الاسالیب الثلاثة للاختیار للبیانات التجریبیة الاربعة فی حالة بیانات الاختبار لمعیارRMSE.TEST.

الشکل(7): المقارنة بین أسالیب الاختیار لخوارزمیة الفراولة لمعیار RMSE.Test

 

 

 

 

 

 

 

 

یلاحظ أیضاً من الشکل (7) ان هناک تفاوت فی التفوق وبشکل مختلف من أسلوب اختیار الى أسلوب اختیار اخر. وان أسلوب عجلة الرولیت کان الأفضل کمعدل نسب لجمیع مجامیع البیانات التجریبیة بالنسبة الى المعیار RMSE.TEST بامتلاکهِ اعلى نسبة وهی والتی کانت 0.78 مقارنة مع الاسلوبین الاخرین.

16. اختبار فریدمان  The Friedman Test

     وهو عبارة عن اختبار احصائی لا معلمی   (Tests Nonparametric) یستخدم فی حالة حجم العینة اقل من (30) مشاهدة. و اقترح استخدام هذا الاختبار فی عام 1973  من قبل الباحث Friedman Milton   لاختبار وجود اختلافات او فروقات معنویة  فی حالة وجود بیانات غیر مترابطة (Porkka et al., 2008).

تم استخدام هذا الاختبار لاختبار الفروق المعنویة بین الخوارزمیة المقترحة SBA مع باقی الخوارزمیات الشائعة التی تم المقارنة معها للبیانات التجریبیة والتطبیقیة باستخدام البرنامج الاحصائی spss. والجدول (11) یوضح النتائج التی تم التوصل الیها.

الجدول (11): نتائج اختبار فریدمان لإیجاد الفروق المعنویة لخوارزمیة الفراولة مع الخوارزمیات الأخرى للبیانات التجریبیة

 

Data sets	Elite Selection		Roulette selection		Roulette & Elite
	RMSE Train	RMSE Test	RMSE Train	RMSE Test	RMSE Train	RMSE Test
Slump	Gride, SA	Non	Gride, SA	Gride, SA	Gride, SA, GA	Gride, SA
Boston	Gride, SA, GA	Gride, SA, GA	Gride, SA, GA	Gride	Gride, SA, GA	Gride
Aquatic	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA
Forest fire	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA	Gride, PSO, SA

 

 

اظهرت نتائج التحلیل بعد تطبیق اختبار فریدمان ومن خلال الجدول (11) ان هنالک فروقات معنویة بین الخوارزمیة المقترحة (SBA) مقارنة بالخوارزمیات الشائعة وهی(خوارزمیة الجینیة ، خوازمیة سرب الطیور، خوارزمیة التلدین وخوارزمیة الشبکة ) لبیانات التدریب وبیانات الاختبار فی الاسالیب الثلاثة (اسلوب اختیار النخبة ،اسلوب اختیار عجلة الرولیت ، والدمج بین اسلوبی النخبة واختیار عجلة الرولیت ) لمجامیع البیانات التجریبیة الاربعة .

17.البحث العالمی والمحلی للجانب التجریبی Global and local search in the experimental section

 یقصد بالبحث العالمی (Global Search)فی خوارزمیة الفراولة هو البحث عن الموارد الطبیعة متمثلة بـالمیاه والمعادن من خلال بحث السیقان الى الاماکن الابعد. اما البحث المحلی (Local Search) هو البحث من خلال تطویر الجذور والشعیرات الجذریة الى المکان الاقرب. حیث اثبتت لنا النتائج العملیة ان البحث العالمی متمثلا بالسیقان (Runners) اعطى لنا نتائج أفضل من البحث المحلی الذی یتمثل بالجذور (Roots)فی الخوارزمیة المقترحة. والسبب فی ذلک هو ان السیقان تکون اطول من الجذور حیث یکون لها امکانیة بشکل اوسع واشمل للبحث فی مساحة البحث بعکس الجذور التی تکون هی الاقصر من السیقان. وقد تم اعداد جدول یحتوی على النسب التی تم ایجادها من خلال عدد مرات الحصول على RMSE للسیقان اقل مما للجذور ولکل أسلوب اختیار لکل مجموعة بیانات تجریبیة وکما هو موضح فی الجدول (12).

الجدول (12): نسب قیمة المعیار RMSE الاقل للسیقان مقارنة بالجذور لمجامیع البیانات التجریبیة

Data Set	Elite Selection	Roulette selection	Roulette & Elite
	RMSE	RMSE	RMSE
Slump	0.95	0.83	0.78
Boston	0.26	0.40	0.30
Aquatic	0.23	0.23	0.40
Forestfire	0.73	0.42	0.45

 

 

 

 

 

 

من خلال الجدول (12) یلاحظ ان نسبة حصول السیقان على قیمة اقل لمعیار RMSE کانت نسب عالیة مقارنة بالنسب التی حصلت علیها الجذور، وبشکل محدد یمکن ملاحظة ذلک من خلال مجموعة بیانات Slump و ForestFire حیث کانت تمتلک نسب مرتفعة فی أسالیب الاختیار وبشکل متفاوت. بینما کانت فی مجموعتی بیانات Boston و Aquatic فقد کانت الجذور بشکل عام افضل فی هذه البیانات، وهذا لا یعنی ان السیقان لا تمثل البحث العالمی وذلک کون ان قیم الجذور کانت اصغر بشکل ملحوظ مقارنة بقیم السیقان عند اعدادها فی الخوارزمیة ومع هذا کانت فی احد المجموعتین افضل فی البحث مقارنة بالجذور.

18. الجانب التطبیقی Applicationpart

تم فی هذا الجانب استخدام بیانات حقیقة لمرضى ضغط الدم ( Blood pressure) والتی تم الحصول علیها من مستشفى ازادی التعلیمی فی محافظة دهوک. وتتألف هذه البیانات من (17) متغیر توضیحی (x) ومتغیر واحد معتمد (y)، کما وتألفت العینة من (128) مشاهدة. تم اجراء التحلیل علیها باستخدام خوارزمیة الفراولة وباستخدام ثلاث أسالیب للاختیار وهی (اسلوب اختیار النخبة، اسلوب اختیار عجلة الرولیت والدمج بین اسلوبی النخبة والرولیت) لاختیار أفضل تولیفة من المعلمات لانحدار المتجه الداعم والنتائج موضحة بالجدول (13).

من خلال الجدول (13) ادناه اظهرت النتائج تفوق خوارزمیة الفراولة على الخوارزمیات الاربعة(PSO, GA, GRID, SA)  . وذلک من خلال الحصول على اقل جذر لمتوسط مربعات الخطأ RMSE والتی تم تمییزها بالون الغامق لخوارزمیة الفراولة، واللون الغامق وتحته خط للخوارزمیة التی تمتلک اقل RMSE من الخوارزمیات الثلاثة التی تمت المقارنة معها.

 

الجدول (13): تطبیق خوارزمیة الفراولة باستخدام اسالیب الاختیار الثلاثة لمرضى ضغط الدم

 

 

الجدول (14) تحدید اقل قیم RMSE بیانات لمرضى ضغط الدم

 

ومن اجل اثبات ان بزیادة عدد العقد لنبات الام (N) فی الخوارزمیة کلما کان ذلک أفضل تم اعداد الجدول (14) اعلاه. والذی من خلالهُ یلاحظ ان فی حالة عدد العقد کان یساوی الواحد فان عدد الحالات التی یکون قیمة المعیار RMSE اقل هو حالتین فقط، بینما فی حالة أربعة عقد فقد کان عدد القیم الذی ظهرت فیها RMSE اقل کانت أربعة قیم. بذلک یتضح من ذلک انهُ کلما زاد عدد العقد کلما کانت تعطی الخوارزمیة حل أفضل وبقیمة اقل بالنسبة الى المعیار المستخدم فی هذه الدراسة. وکما هو موضح فی الجدول ((14 والذی یوضح الصفوف التی تحتوی على اقل قیم فقط للمعیار RMSE والمؤشرة باللون الاحمر حیث ان هذا الجدول مأخوذ من الجدول (13).

ومن اجل المقارنة بین أسالیب الاختیار الثلاثة لخوارزمیة الفراولة لمعیار RMSE.Train لبیانات ضغط الدم تم اعداد الشکل (8) والذی یوضح تفوق اسلوب عجلة الرولیت بامتلاکه اعلى نسبة وهی (1.2) مقارنة بالأسلوبین الاخرین.

 

 

الشکل(8)   یوضح أسالیب الاختیار لخوارزمیة الفراولة لمعیار RMSE.Train لبیانات ضغط الدم

 

 

 

 

 

 

 

 

وبنفس الأسلوب للمعیار RMSE.Tes تم اعداد الشکل (9) للمقارنة بین أسالیب الاختیار لخوارزمیة الفراولة لمجموعة بیانات ضغط الدم، والذی یوضح تفوق اسلوب النخبة بامتلاکه اعلى نسبة وهی (0.33)  مقارنة بالأسلوبین الاخرین.

الشکل ( 9) یوضح أسالیب الاختیار لخوارزمیة الفراولة لمعیار RMSE.Test لبیانات ضغط الدم

 

 

 

 

 

 

 

 

 

 

19. اختبار فریدمان The Friedman Test

تم اجراء اختبار فریدمان على البیانات الحقیقة لمرضى ضغط الدم ولذلک لاختبار الفروقات المعنویة لبیانات التدریب والاختبار کما مبینة بالجدول (15) ادناه. ومن خلال الجدول (15) اظهرت نتائج التحلیل ان هنالک فروقات معنویة بین الخوارزمیة المقترحة(SBA) للأسالیب الثلاثة للاختیار مقارنة مع الخوارزمیات الاربعة. حیث هنالک فروق معنویة بین الخوارزمیة المقترحة مع خوارزمیة الشبکة(Gride) فی اختیار النخبة لبیانات التدریب والاختیار. وفی حالة اسلوب عجلة الرولیت نلاحظ ان هنالک فروق معنویة بین خوارزمیة الفراولة وخوارزمیتی( Gride, SA)  لبیانات التدریب والاختبار. واما فی حالة الدمج بین اسلوبی اختیار النحبة واختیار عجلة الرولیت لوحظ ان هنالک فروق معنویة بین الخوارزمیة المقترحة والخوارزمیات (Gride, PSO, SA, GA) لبیانات التدریب والاختبار. 

الجدول (15): نتائج اختبار فریدمان لإیجاد الفروق المعنویة لخوارزمیة الفراولة لبیانات ضغط الدم

 

 

Data sets	Elite Selection		Roulette selection		Roulette & Elite
	RMSE Train	RMSE Test	RMSE Train	RMSE Test	RMSE Train	RMSE Test
ضغط الدم	Gride	Gride	Gride, SA	Gride, SA	Gride, PSO, SA, GA	Gride, PSO, SA, GA

20.البحث المحلی والعالمی فی الجانب التطبیقی Global and local search in the application section

وقد تم اعداد جدول یحتوی على النسب التی تم ایجادها من خلال عدد مرات الحصول على RMSE للسیقان اقل مما للجذور ولکل أسلوب اختیار لمجموعة بیانات ضغط الدم وکما هو موضح فی الجدول (16).

جدول (  :(16نسب قیمة المعیار RMSE الاقل للسیقان مقارنة بالجذورلمجموعة بیانات ضغط الدم

 

 

Data Set	Elite Selection	Roulette selection	Roulette & Elite
	RMSE	RMSE	RMSE
ضغط الدم	0.78	0.54	0.69

والجدول (16) یوضح انالسیقان أفضل من الجذور کون البحث العالمی المتمثل بالسیقان یکون أوسع فی مجال المشکلة وذلک لأنها تستطیع ان تمتد الى مسافة أکثر من الجذور وبالتالی تحصل على أفضل حل مما یؤدی الى الحصول على اقل جذر متوسط مربعات خطأ اقل من الجذور المتمثلة بالبحث المحلی.

21.الاستنتاجات:

1. ان الیة الربط بین خوارزمیة الفراولة SBA مع نموذج انحدار المتجه الداعم SVR اعطى نتائج افضل من خلال الحصول على تولیفة افضل للمعلمات الفائقة، وکان ذلک واضحاً من خلال تفوق خوارزمیة الفراولة على الخوارزمیات الشائعة.
2. اثبتت النتائج فی الجانب التجریبی ان طریقة الدمج بین اسلوبی اختیار النخبة وعجلة الروولیت کان الأفضل. بینما کان أسلوب اختیار عجلة الرولیت کان الأفضل فی المعیار RMSE.Test. اما فی الجانب التطبیقی فقد اثبتت النتائج ان أسلوب اختیار النخبة کان الأفضل فی معیار RMSE.Train ، اما فی معیار RMSE.Test فقد اثبتت النتائج ان أسلوب الاختیار عجلة الرولیت فقد کان الأفضل مقارنة بالأسلوبین الاخرین.
3.  عند اجراء اختبار فریدمان قد اعطى نتائج والتی یمکن الاستنتاج منها على ان خوارزمیة الفراولة قد کان لها فرق معنوی مقارنة مع خورازمیة Grid وSA فی جمیع الاختبارات تقریباً وفی معظم اسالیب الاختیار ولجمیع المجامیع التجریبیة. واما فی الجانب التطبیقی فقد أظهرت النتائج ان خوارزمیة SBA کان لها فرق معنوی مع جمیع الخوارزمیات.
4. استخدام عدة عقد ام فی خوارزمیة الفراولة اعطى حل أفضل من عقدة واحدة وکان ذلک واضحا فی الجانب التجریبی والتطبیقی من خلال امتلاک الحالات التی یکون عدد العقد اربعة عقد على جذر متوسط مربعات الخطأ اقل مقارنة عن باقی الحالات. وذلک لان بزیادة عدد العقد عن عقدة واحدة سیوفر مساحة بحث أکبر وبالتالی حل أفضل.

Article View: 488

PDF Download: 398