Professional Documents
Culture Documents
Files 7001778
Files 7001778
Abstract
In this research discuss the concept of appropriate form, by
examining sporting behavior for three models represent neural networks
are (GRNN, BPNN, PNN), were applied two types of medical data are
(osteoporosis and weaknesses auditory) and different in the way of
classification and spaces Input and output , and show through the
application of these data and suitability models with neural networks in
terms of the Domain and Range the network (PNN) is the best in the
diagnosis of audio data through average MSE, and network (BPNN) is
better diagnose bone crisp data (which are more complex) and the
network (GRNN) is the most generalization, especially when test data are
large compared with the training data.
انًهخص
وذلك بدراسة السموك الرياضي لثالثة,تم في ىذا البحث مناقشة مفيوم مالئمة النموذج
كما تم تطبيق نوعين من,)GRNN, BPNN, PNN( نماذج تمثل شبكات عصبية ىي
البيانات الطبية ىما (وىن العظام والضعف السمعي) ومختمفين في طريقة التصنيف وفضاءات
وتبين من خالل تطبيق ىذه البيانات ومالئمتيا مع,)Output( ) واإلخراجInput( اإلدخال
) إنRange( ) والمدىDomain( نماذج الشبكات العصبية االصطناعية من حيث المنطمق
,)MSE( ) ىي األفضل في تشخيص أنماط البيانات السمعية من خالل معدلPNN( شبكة
) ىي األفضل في تشخيص أنماط بيانات وىن العظام (التي تكون أكثرGRNN( وان شبكة
) خصوصاً عندما تكونGeneralization( ) ىي األكثر عموميةBPNN( تعقيدا) وان شبكة
.أنماط بيانات االختبار كبيرة مقارنة مع أنماط بيانات التدريب
. دراسة رياضية تحميمية لمشبكات العصبية, مالئمة النماذج الذكائية, مقارنة بين الشبكات العصبية االصطناعية:الكممات المفتاحية
1
Introduction ) (1مقدمة
تعد الشبكات العصبية االصطناعية من نماذج تقنيات االنظمة الذكائية الواسعة التطبيق
في مختمف المجاالت العممية الحديثة والتي تتطمب معرفة نوع النموذج الذي يتم من خاللو
تحويل بيانات اإلدخال ( )Inputإلى اإلخراج المطموب ( )Targetوالتي تعجز عن حميا
الطرائق الرياضية واإلحصائية التقميدية ,إال أن العديد من التطبيقات التي تم دراستيا باستخدام
الشبكات لم تأخذ بنظر االعتبار النموذج المناسب ليا والذي يتوافق مع بيانات اإلدخال وطبيعة
االخراجات المطموبة ,وبذلك يؤدي ىذا االضطراب في اختيار النموذج إلى مردود سمبي قد يتمثل
في إجراء عمميات حسابية غير ضرورية أو قد يؤدي إلى زيادة معدل مربع الخطأ (.)MSE
لقد تم تقديم دراسة رياضية تحميمية عن مجموعة من الشبكات العصبية االصطناعية ىي
()Generalized )GRNN(َ Back propagation )BPNN( ,Perceptron (PNN
,)Regressionوالتي تكون خوارزمياتيا مختمفة في آلية المعالجة وطريقة تقبميا وتصنيفيا
لمبيانات باالعتماد عمى فضاء المدى ( )Rangeوالمجال ( ,)Domainإذ إن ( )PNNمجاليا
ينتمي إلى فضاء األعداد الحقيقية ( )Rومداىا يكون ثنائي ( )Binaryوبذلك تصمح لبيانات
قياس درجة السمع ,في حين أن كل من ( )GRNNو( )BPNNتتقبل في إدخاليا واخراجيا
فضاء األعداد الحقيقية ( )Rأي أنيا تصمح لمبيانات متعددة األصناف ( )Multi classesمثل
أنماط بيانات وىن العظام ,إال أن ( )GRNNتعتمد طريقة االنحدار( )Regressionفي معالجة
أنماط البيانات والتعتمد طرق تك اررية في تعديل األوزان ,بينما ( )BPNNتعتمد آلية تعديل
األوزان باالتجاه العكسي وىذه تعطييا إمكانية اكبر في أن تكون ذات صفة عمومية
(.)Generalization
2
تم أخذ أنماط من بيانات جياز P.T.Aحيث تم التركيز عمى فحص توصيل السمعي اليوائي
الذي يعد الفحص األعم في قياس درجة ضعف السمع ,حيث تم أخذ الفحوصات بالتعاون مع
مركز الصفا التقني ومستشفى الموصل العام ومستشفى الجميوري التعميمي .فمثالً تمثل القيم
( )10, 0, 0, 0, 5قراءات لحالة شخص سميم والقراءات ( )20,20,65,55,50تمثل حالة
المريض.
أما بيانات وىن العظام فتتكون من أنماط عينات مختمفة من مرض وىن العظام تنتمي إلى
فضاء اإلعداد الحقيقية ( )Real Spaceوالذي يكون أوسع واعقد من فضاء اإلعداد الصحيحة
( .)Integer Spaceتتكون الحاالت في أنماط بيانات وىن العظام خالل مراحل مختمفة من
اإلصابة,إذ تمثل حالة ( )Osteopeniaانمرحهة األَنى مه اإلصبثة ,كما تمثل
( )Osteoporosisالمرحمة الثانية والمتأخرة من اإلصابة بالمرض ,في حين تكون الحالة الثالثة
ىي الحالة السميمة (,[1] )Normalالموضحة بالشكل( ,)1كما تمثل أنماط البيانات التي تم
استخداميا في التعرف عمى مرض وىن العظام عبارة عن قيم عددية ووصفية تمثل قاعدة
أساسية لمعمومات ضمن قاعدة بيانات ( )Data Baseألشخاص تم إجراء عممية الفحص عمييم
3
انشكم رقى ( : )1يقطغ يوضح انًقارنت بين اننسيج انطبيؼي ) (Normalواننسيج انًصاب بًرض انوهن ين
نوع (.)Osteoporosis
تتكون مصفوفة البيانات التطبيقية لمرض وىن العظام من ( )344حالة منيا ( )113نمط ًا
تشخيصيا من نوع ( ,)Osteoporosisفي حين يوجد ( )131نمطاً من نوع (, )Osteopenia
أما بقية األنماط والتي يبمغ عددىا ( )100نمطاً ,يمثل تشخيصيا الحالة الطبيعية ()Normal
غير مصابة ,أما عدد األنماط القياسية المقروءة في كل نمط فيبمغ عددىا ( )17قيمة يمكن من
) والتي خالليا التعرف عمى نوعية الحالة ,أي أن أبعاد مصفوفة اإلدخال ىي (
تحوي عمى ( )8585عنص اًر من مستويات األنماط المستخدمة في تحديد مرض وىن العظام.
4
الخاليا محددة بقيم تسمى األوزان ),(Weightsإذ تقوم بتخزين المعمومات لتجعميا متاحة
لممستخدم وذلك عن طريق ضبط األوزان ).[5][4] (Weights
انشكم ( : )2يًثم يقارنت بين انخهيت انؼصبيت انطبيؼيت وانخهيت انؼصبيت االصطناػيت.
5
انشكم ( : (3دوال انتنشيط انًستخذيت في انشبكاث انؼصبيت االصطناػيت.
قد تحوي الشبكات العصبية االصطناعية عمى طبقة مخفية ) (Hidden Layerتضاف
ىذه الطبقة حسب تعقيد المسألة ونوعيا ].[8
تعد شبكة اإلدراك من أوائل الشبكات التي تم دراستيا في منتصف 1550وىي شبكة
وحيدة الطبقة وذات تغذية أمامية وىي من الشبكات التي تتعمم باشراف .كما ان خوارزمية التعميم
ليا أكتشفيا العالم ) (Frank Rosenblattسنة .1551وفي سنة 1565برىن (Minsky and
) Papertأن الشبكة تستطيع تعميم الدوال القابمة لمفصل الخطي فقط مثل الدوال المنطقية
) (OR,ANDالتي تحوي عمى نوعين من اإلخراج فقط ].[9
6
تعريف :لتكن Wمتجو من األوزان
تعد ىذه الشبكة من أكثر الشبكات العصبية االصطناعية استخداماً والتي قد تبدو معقدة
لكنيا أسيل بكثير عمى مستوى الفيم والبرمجة وليا القدرة عمى التعامل مع المسائل غير الخطية
وىي من الشبكات التي تتعمم بإشراف ) (Supervised Learningوليا العديد من التطبيقات
في معالجة الصور ومعالجة اإلشارة والتعرف عمى الكالم .طورت في منتصف 1970من قبل
) ,(Rumelhart, Hinton and Williamsحيث أن ىدف الشبكة ىو تقميل الخطأ من
خالل تعديل األوزان) (Weightsوذلك بمقارنة إخراج الشبكة الحقيقي ) (Actual Outputمع
اإلخراج المطموب ).[11] (Target Output
) (1-2-5معمارية الشبكة :تتكون معمارية شبكة BPNNمن مرحمتين أساسيتين :
في ىذه المرحمة يتم حساب قيم إشارة اإلخ ارج لكل خمية في طبقات الشبكة بدءاً من طبقة
اإلدخال ) (Input Layerباتجاه طبقة اإلخراج ) , (Output Layerأي أن إشارة اإلخراج ألي
خمية التوثر إال في الطبقة التي تمييا وتنتيي ىذه المرحمة مع حساب إشارة الخطأ بين اإلخراج
الحقيقي) (Actual Outputلمشبكة واإلخراج المطموب ).(Target Output
في ىذه المرحمة يتم تعديل األوزان ) (Weightsباتجاه يسمح إلشارة الخطأ أن تكون
ضمن المستوى المسموح بو ,إذ يتم إعادة نشر إشارة اإلخراج لمشبكة لتصبح إشارة إدخال باتجاه
عكسي أي من طبقة اإلخراج ) (Output Layerإلى طبقة اإلدخال ) (Input Layerحيث يتم
تعديل األوزان ).[3] (Weights
8
االخراج انمطهُة )(Target Output َتمثم
انخطوة انثانثت :في االتجبي األمبمي حسبة قيمة اإلخراج انحقيقي ) (Actual Outputكبألتي :
)1حسبة قيمة اإلخراج انحقيقي مه طجقة اإلدخبل ) (Input Layerإنى انطجقة انمخفية
)(Hidden Layer
)2حسبة قيمة اإلخراج انحقيقي مه طجقة انمخفية ( (Hidden Layerإنى طجقة اإلخراج
)(Output Layer
ثم نقوم بتعديل )1حساب الخطأ بين طبقة اإلخراج والطبقة المخفية
ثم نقوم بتحديث األوزان حيث أن األوزان
كرر الخطوات من الخطوة الثانية إلى الخطوة الخامسة إلى يتم الحصول
الخطوة الخامسة :ت ا
عمى التقارب المطموب والذي يمثل (اقل معدل مربع الخطأ .[11][10] )MSE
تعد شبكة االنحدار العصبية المعممة من الشبكات العصبية االصطناعية ذات التغذية
األمامية ,اقترحت من قبل العالم األمريكي ( )Donald F. Spechtسنة .1551وىي شبيية
9
بشبكة دالة األساس الشعاعي ] .(Radial Basis) [2إن تعميم الشبكة ال يحتاج إلى عمميات
تك اررية لذا تمتاز بالسرعة والدقة في معالجة المعمومات.
) (1-3-5يؼًاريت انشبكت :تحوي ىذه الشبكة في تركيبيا عمى مرحمتين من مراحل المعالجة
لممعمومات]:[7][6
المرحمة األولى :في ىذه المرحمة يتم إيجاد المسافة بين القيم المدخمة ) )Input Valueو التي
غالبا ما تكون بشكل متجو و قيم األوزان )( (Weight Valueغالبا ما تكون بشكل متجو
أيضا) ,ثم يضرب الناتج بقيمة التحيز ) (Biasوىو مقدار صغير .وتكون دالة التنشيط من نوع
x2
f ( x) e تعرف بالشكل اآلتي :
) (Gaussianوىي من الدوال غير خطية التي ّ
المرحمة الثانية :تسمى الطبقة الخطية الخاصة ) (Special Linearويتم فييا إيجاد الضرب
النقطي بين متجو األوزان ومتجو اإلدخال (الذي يمثل إخراج المرحمة األولى) ,ثم يقسم الناتج
عمى مجموع قيم اإلدخال وال يتم فييا حساب قيمة التحيز),(Biasاو حد العتبة ودالة التحويل
عرف بالشكل اآلتي:
ليذه الطبقة ىي دالة خطية والتي ت ّ
إذ أن R :تمثل عدد عناصر اإلدخال Q ,تمثل عدد الخاليا w ,األوزان ,وان bالتحيز.
ىو مصطمح يتم من خاللو تحديد اآللية الصحيحة والدقيقة الختيار النموذج المساتخدم فاي
حل المسائل المختمفة تبعاً لنوع المسألة ,حيث تم في ىذا البحث اختيار نوعين من أنواع البياناات
التطبيقية المختمفة ىي:
10
-1بيانااات لتحديااد ماارض ضااعف الساامع :وتتميااز بكااون منطمقيااا ( )Domainينتمااي إلااى
فض اااء األع ااداد الص ااحيحة ( )Integerوالم اادى ( )Rangeلي ااا يك ااون ثن ااائي التص اانيف
ينحصر بقيمتين ىما {.}1 , 0
-2بيان ااات لتحدي ااد م اارض وى اان العظ ااام :وتتمي ااز بك ااون منطمقي ااا ( )Domainينتم ااي إل ااى
فضاء األعداد الحقيقية ( )Realومداىا ( )Rangeيكُن متعدد التصنيف.
Feedback
Domain Range Domain Range
GRNN
R R
Domain Range
الشكل ( : )6مخطط يوضح آلية الترابط ومعالجة البيانات في نموذج كل شبكة.
تم تطبياق الشابكات العصابية عماى البياناات السامعية والتاي يمكان اعتبارىاا بياناات بسايطة
كااون منطمقيااا ينتمااي إلااى فضاااء األعااداد الصااحيحة ومااداىا يمثاال تصاانيف البيانااات بشااكل ثنااائي
(ماريض أو سااميم أي إلااى 0أو ,)1وقااد تاام تقساايم البيانااات إلااى مجمااوعتين ىمااا بيانااات التاادريب
11
( )Trainingوبيانااات االختبااار ( ,)Testingوتاام حساااب معاادل مربااع الخطااأ ( )MSEلبيانااات
االختبار فقط عمى اعتبار أن بياناات التادريب ياتم بنااء النماوذج مان خاللياا ,ثام تام د ارساة حسااب
( )MSEلبيانات االختبار من خالل اخذ نسب من مجموع البياناات تبادأ مان ( )00% -10%ثام
اخذ معدل ( )MSEلكل شبكة لمعرفة سموكيا ,والجدول ( )1يبين نتائج التطبيق.
انجذول ( : ) 1يبين نتائج تطبيق انبياناث انسًؼيت ػهى انشبكاث انؼصبيت االصطناػيت.
Training Testing MSE-PNN MSE-BPNN MSE-GRNN
10 % 90 % 0 5.3892e-6 0.6045
20 % 80 % 0 4.9636e-4 0.7022
30 % 70 % 0.0667 0.636 0.7348
40 % 60 % 0.025 0.0474 0.7761
50 % 50 % 0.06 0.057 0.7218
60 % 40 % 0.0833 0.0636 0.7515
70 % 30 % 0.0571 0.0684 0.8143
80 % 20 % 0.05 0.0591 0.875
90 % 10 % 0.0444 0.0521 0.9111
AV=0.0429 AV=0.1093 AV= 0.7657
نالحظ من نتائج الجدول ( )1أن شبكة ( )PNNىي األفضل من خالل معدل ()MSE
لجميع النساب المئوياة لبياناات االختباار والمتمثماة بالمعادل ( ,)AVونساتنتج مان ذلاك أن البياناات
البساايطة تحتاااج إلااى نمااوذج شاابكة بساايط مثاال ( ,)PNNف ااي حااين أن شاابكة ( )BPNNوالت ااي
تتكااون ماان دالااة ( )logsigفااي الطبقااة المخفيااة (والتااي عاادد العقااد فييااا )5ودالااة ( )purelinفااي
طبقااة االخ اراج وشاابكة ( )GRNNوالمتااان تحويااان عمااى طبقااة مخفيااة تزيااد ماان تعقيااد العمميااات
الحسابية ,كما انيا التعطي نتاائج أفضال مان شابكة ( )PNNكونياا تتناساب ماع البياناات المعقادة
والتي ليا تصنيفات متعددة مثل بيانات وىن العظام.
12
) (8نتائج تطبيق الشبكات العصبية عمى بيانات وهن العظام:
تام تطبيااق الشاابكات العصاابية عماى بيانااات وىاان العظااام والتاي يمكاان اعتبارىااا بيانااات معقاادة
كااون منطمقيااا ينتمااي إلااى فضاااء األعااداد الحقيقيااة ومااداىا يمثاال تصاانيف البيانااات بشااكل متعاادد
( )Multi classesوىااي ( ,)Osteopenia , Osteoporosis , Normalوقااد تاام تقساايم
البيانات أيضاً إلى مجموعتين ىماا بياناات التادريب ( )Trainingوبياناات االختباار (,)Testing
وتاام حساااب معاادل مربااع الخطااأ ( )MSEلبيانااات االختبااار فقااط عمااى اعتبااار أن بيانااات التاادريب
يتم بناء النموذج من خالليا ,ثم تم دراسة حساب ( )MSEلبيانات االختبار من خالل اخاذ نساب
تبدأ من ( )00% -10%من مجموع البيانات ثم اخذ معدل ( )MSEلكال شابكة لمعرفاة ساموكيا,
والجدول ( )2يبين نتائج التطبيق.
انجذول (: )2يبين نتائج تطبيق بياناث وهن انؼظاو ػهى انشبكاث انؼصبيت االصطناػيت.
Training Testing MSE-PNN MSE-BPNN MSE-GRNN
10 % 90 % --------- 1.7152 1.7346
20 % 80 % -------- 1.9309 1.9418
30 % 70 % -------- 2.2083 2.2083
40 % 60 % -------- 0.6359 0.9908
50 % 50 % -------- 0.7616 0.5984
60 % 40 % -------- 0.9489 0.4726
70 % 30 % -------- 0.4170 0.3435
80 % 20 % -------- 0.392 0.2692
90 % 10 % -------- 0.3577 0.2860
AV=1.0408 AV= 0.9828
نالح ا ااظ م ا اان نت ا ااائج الج ا اادول ( )2أن ش ا اابكة ( )PNNاليمك ا اان تطبيقي ا ااا ك ا ااون أن م ا ااداىا
( )Rangeيكااون ثنااائي ( )Binaryواليمكاان ماان خاللااو تصاانيف الحاااالت المتعااددة لبيانااات وىاان
العظام ,كما أثبتت شابكة ( )BPNNأنياا مناسابة ماع التطبيقاات التاي تكاون فيياا بياناات االختباار
كبيارة ,أي إنيااا أكثاار عموميااة ( )Generalizationماان شاابكة ( ,)GRNNعمااى الاارغم ماان كااون
شاابكة ( )GRNNىااي األفضاال ماان خااالل معاادل ( )MSEوالمتمثمااة بالمعاادل الكمااي ( )AVفييي
ثيبوبت ٌَه انعظبو .
13
) (9االستنتاجات والتوصيات :
-1إن االحتكام إلى آلية مالئمة النموذج لمتطبيقات الطبياة المختمفاة تعطاي نظارة مسابقة عان
نوع خوارزمية الشبكة التاي ياتم اساتخداميا وذلاك مان خاالل د ارساة الساموك الرياضاي لياذه
الخوارزمية وطبيعة توافقيا مع المنطمق ( )Domainوالمدى ( )Rangeلمبيانات.
-2إن ش اابكة ( )PNNى ااي األفض اال فاااي مع اادل ( )MSEم اان كااال م اان شااابكة ()BPNN
وش اابكة ( )GRNNف ااي التطبي ااق عم ااى البيان ااات الس اامعية ,ك ااون المنطم ااق والم اادى لي ااذه
البيانات متوافاق بشاكل مناساب ماع المنطماق والمادى لشابكة ( )PNNوباذلك التحتااج إلاى
فضاءات أوسع تزيد من مقدار الخطأ أثناء إجراء عمميات المعالجة.
-3أثبت اات ش اابكة ( )GRNNأني ااا األفض اال ف ااي مع اادل ( )MSEم اان ش اابكة ( )BPNNف ااي
التطبيق عماى بياناات وىان العظاام ,كونياا تساتخدم طريقاة االنحادار ( )Regressionفاي
الطبقة األخيرة وبذلك تكون متناسبة مع البيانات المعقدة.
-4أثبتاات شاابكة ( )BPNNفييي انجييذَل ( )2أنيااا أكثاار عموميااة ( )Generalizationماان
شاابكة ( )GRNNأي أنيااا مناساابة مااع التطبيقااات التااي تكااون فييااا بيانااات االختبااار كبيارة
مقارنة مع بيانات التدريب ,وىذه الحالة تشمل معظم التطبيقات الطبية (ألنيا تمثل قاعادة
بيانات لحاالت المرض وتتوسع بإضافة مريض جديد).
-5نوصااي بد ارسااة مفيااوم (مالئمااة النمااوذج) لبقيااة أن اواع الشاابكات العصاابية ,ويمك ان تعماايم
الدراسة إلى جميع أنواع نماذج التقنيات الذكائية ألنيا تعتماد عماى األساس الرياضاية لياذه
التقنيات.
-6نوصي بد ارسة تطبيقات تنتمي إلاى فضااء األعاداد المعقادة ( )Complex Spaceوالاذي
يعد الفضاء األوسع الذي يشمل بقية الفضاءات العددية ,ومحاولة مالئماة نماوذج مناساب
لمبيانات التي تنتمي إلى ىذا الفضاء.
المصادر :
[1] Abdellah El Maghraoui,2011," Dual Energy X-ray
Absorptiometry",Published by InTech Janeza Trdine 9,
51000 Rijeka, Croatia.
[2] Bachir Gourine, Habib Mahi, Amar Khoudiri and Youcef
Laksari,2012," The GRNN and the RBF Neural Networks for 2D
Displacement Field Modelling. Case study: GPS Auscultation
Network of LNG reservoir (GL4/Z industrial complex – Arzew,
Algeria)", TS01F - Dam and Reservoir Engineering Surveying,
5684,pp(2/17, 17/17).
14
[3] Dr. Shefa Abdulrahman Dawwd,(2009)," Real Time Implementation
of Fir Filter Based on Time Delay Neural Network",Computer
Engineering Department, College of Engineering, University of
Mosul, Email: shefadawwd@yahoo.com,vol.18,No.4 August 2010 ,
ISSN 1813-0526,pp(17-27).
[4] Edward Keedwell and Ajit Narayanan,2005," Intelligent
Bioinformatics The application of artificial intelligence techniques
to bioinformatics problems", School of Engineering, Computer
Science and Mathematics University of Exeter, UK.
15