‫ الانحدار الخطي‬- ‫تويشيات فالتعلم الآلي‬

Redouane Lguensat
fb.com/AppliedMathsInDarija

Simple introduction to Machine Learning in Moroccan Arabic

March 2020

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .

Redouane Lguensat fb.com/AppliedMathsInDarija ‫ الانحدار الخطي‬- ‫تويشيات فالتعلم الآلي‬

 ‫السلام عليكم‬

‫هاد التقديم محاولة متواضعة باش نوصل بعض الافكار على التعلم الآلي ‪Machine‬‬ ‫‪1‬‬

‫‪ Learning‬بشكل مبسط و بالدارجة المغربية‬

‫عانحاول يكون هاذ التقديم سهل للفهم و لـكن خاص اللي كايقرا ولا كاتقرا‬ ‫‪2‬‬

‫هادشي يكون عندهم شو ية مع الر ياضيات و المعلوميات‬

‫الناس اللي باغين يقراو التعلم الآلي خاصهم يتعمقو اكثر فالدروس المتوفرة على‬ ‫‪3‬‬

‫الانترنت‪ ،‬هادشي اللي كاندير عا ديك الدغمة الاولى "لمحاربة الأمية" فهاد الدومين‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫مقدمة‬

‫تخيل معايا عطيتك هاد الأزواج ديال البيانات ‪ X‬و‪Y‬‬

‫‪X‬‬ ‫‪Y‬‬
‫‪3‬‬ ‫‪6‬‬
‫‪7‬‬ ‫‪14‬‬
‫‪9.5‬‬ ‫‪19‬‬

‫ايلا قلت ليك را كاينة علاقة بيناتهم و سولتك شنو قيمة ‪ Y‬ايلا كان ‪ X‬هو ‪ 5‬؟‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫مقدمة‬

‫ايلا فكرتي شو ية عا يبان ليك را الجواب هو ‪ Y=10‬حيث النموذج الر ياضياتي ‪Y = 2X‬‬
‫صالح لذوك البيانات‬

‫التعلم الآلي )ولا النمذجة الإحصائية ‪ Statistical Modeling‬بشكل عام( مبنية على هاذ‬
‫القضية اللي درتي دابا‪ :‬الخوارزمية كاتشوف البيانات و كاتقلب على النموذج الر ياضياتي‬
‫الأحسن اللي كايقدر يكون صالح للبيانات‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫شناهو الانحدار الخطي؟‬

‫فهاذ الحلقة عادي ندو يو على اسهل نموذج ر ياضياتي فالسوق‪ ،‬اللي هو أول حاجة‬
‫كايبداو بيها الناس اللي كايبغيو يدخلو للدومين ديال التعلم الآلي‪ :‬هاذ النموذج هو‬
‫الانحدار الخطي ‪Linear Regression‬‬
‫النموذج اللي كانفترضو انه مزيان للبيانات كايكون على شكل دالة تآلفية‬ ‫‪1‬‬

‫‪Y = αX + β‬‬ ‫)‪(1‬‬

‫‪ X‬و ‪ Y‬يقدرو يكون متجهات عامرين بعدة أعداد‪ .‬و لـكن هنا عانبقاو فأسهل‬ ‫‪2‬‬

‫مثال اللي هو ملي كايكون البعد ‪ Dimension‬ديالهم هو ‪ ،1‬يعني فيهم قيمة‬

‫وحيدة اللي كاتغير فالبيانات )بحال المثال اللي فالمقدمة(‬
‫فهاذ الحالة ‪ α‬و ‪ β‬عددان حقيقيان مستقلان عن ‪X‬‬ ‫‪3‬‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫الانحدار الخطي البسيط ‪Simple Linear Regression‬‬
‫ايلا رسمنا النموذج اللي دوينا عليه سابقا ‪ ،‬من الواضح انه عا يكون مبيان هذه‬ ‫‪1‬‬

‫الدالة مستقيما معامله الموجه هو ‪ α‬و ‪ β‬هو أرتوبه عند الصفر‬

‫هذا مثال ديال بيانات تاع الوزن و الطول ديال ‪ 30‬واحد‪ ،‬ايلا رسمناهم فمبيان‬ ‫‪2‬‬

‫و لقينا احسن انحدار خطي‪ ،‬عانلقاو ان ‪ α = 0.06‬و ‪ β = 130.2‬و الدالة‬

‫التآلفية كاتبان قريبة بزاف من البيانات و كاتأكد أن النموذج مابيهش‬
‫]‪Source: [1‬‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫كيفاش درنا تا لقينا هاذ الانحدار الخطي البسيط؟‬
‫باش تلقى الانحدار الخطي البسيط اللي يجي مع البيانات ديالك‪ ،‬خاصك تلقى‬ ‫‪1‬‬

‫‪α‬و‪β‬‬
‫ايلا شفتي المثال السابق عا تلاحظ ان الدالة ماكاتدوزش دير يكت من ڭاع‬ ‫‪2‬‬

‫البيانات‪ ،‬كاين واحد التيساع بين البيانات و الدالة‪ ،‬وهاذ التيساع هو الخطأ‬
‫‪ Error‬اللي دارتو الدالة فذيك القيمة‪ .‬لنفترض أن فكل نقطة ‪ i‬درنا خطأ ‪ϵi‬‬
‫يعني‪Yi = αXi + β + ϵi :‬‬
‫ايلا بغينا الانحدار الخطي البسيط ديالنا يكون مزيان‪ ،‬خاص المجموع ديال‬ ‫‪3‬‬

‫الأخطاء فڭاع البيانات يكون صغير‪.‬‬

‫باستعمال واحد الطر يقة سميتها طر يقة المربعات الصغرى أو الدنيا ‪Least‬‬ ‫‪4‬‬

‫‪ Squares‬عا يكون الهدف هو نلقاو ̂‪ α‬و ̂‪ β‬باش نصغرو الجمع ديال المربعات‬
‫تاع الأخطاء‬
‫‪X‬‬
‫‪n‬‬ ‫‪X‬‬
‫‪n‬‬
‫‪α̂, β̂ = min‬‬ ‫‪ε̂2i = min‬‬ ‫‪(Yi − β − αXi )2‬‬
‫‪α,β‬‬ ‫‪α,β‬‬
‫‪i=1‬‬ ‫‪i=1‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫الحل‬

‫)تمرين( دير الاشتقاق و لقا القيم الدنيا اللي كاتحل المشكل الر ياضياتي‪.‬‬
‫الحل هو هذا‪:‬‬
‫‪Pn‬‬ ‫
‬ ‫
‬
‫̄‪i=1 Xi − X̄ Yi − Y‬‬
‫=‪b‬‬
‫‪α‬‬ ‫‪Pn‬‬ ‫‪
2‬‬ ‫)‪(2‬‬
‫̄‪i=1 Xi − X‬‬

‫‪βb = Ȳ − α‬‬
‫̄‪bX‬‬ ‫)‪(3‬‬

‫‪1X‬‬ ‫‪1X‬‬
‫‪n‬‬ ‫‪n‬‬
‫= ̄‪X‬‬ ‫‪Xi ,‬‬ ‫= ̄‪Y‬‬ ‫‪Yi‬‬ ‫)‪(4‬‬
‫‪n‬‬ ‫‪n‬‬
‫‪i=1‬‬ ‫‪i=1‬‬

‫ايلا عندك مع المعلوميات كاين بزاف ديال البرامج اللي كايحسبو ليك هاذ الحل‪ ،‬مثلا‬
‫ف ‪ Python‬شوف التالي‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫شو ية ديال الـكود‬

from sklearn . linear_model import LinearRegression

regr = linear_model . LinearRegression ()

regr.fit(X, Y)
‫ايلا درتي‬
reg. coef_
reg. intercept_
β ‫ و‬α ‫عا يخرج ليك‬

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .

Redouane Lguensat fb.com/AppliedMathsInDarija ‫ الانحدار الخطي‬- ‫تويشيات فالتعلم الآلي‬

 ‫يتبع‪..‬‬
‫الانحدار الخطي سهل للفهم و كايصلح لشحال من مشكل ر ياضياتي‪ ،‬و لـكن را ماشي‬
‫ديما هو الحل‪ .‬مثلا ايلا شفتي البيانات اللي فالتصويرة‪ ،‬كايبان ليك ان انحدار خطي‬
‫ماشي احسن اختيار فهاذ الحالة‪ .‬فبحال هاذ الحلات كاندوزو للانحدار غير الخطي‬
‫‪ Nonlinear Regression‬اللي عالم كبير و متنوع‪...‬‬
‫شكرا على التتبع !‬
‫]‪Source: [3‬‬

‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬
‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪. . . .‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬ ‫‪.‬‬

‫‪Redouane Lguensat fb.com/AppliedMathsInDarija‬‬ ‫تويشيات فالتعلم الآلي ‪ -‬الانحدار الخطي‬

 ‫المصادر و روابط للتعمق‬

‫صاوبت واحد دفتر جوبيتير اللي بغا يشوف واحد المثال ديال الانحدار الخطي و‬ 1

‫الـكود ديالو‬
Jupyter notebook
Andrew Ng ‫اللي بغا يتعمق كانصح بالدرس ديال الاستاذ الرائع‬ 2

https://fr.coursera.org/learn/machine-learning
‫مصادر الصور‬ 3

[1] http://pgfplots.net/tikz/examples/regression-line
[3] https://stackoverflow.com/questions/34474767/how-to-select-
regression-algorithm-for-noisy-scattered-data/34476605

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .

Redouane Lguensat fb.com/AppliedMathsInDarija ‫ الانحدار الخطي‬- ‫تويشيات فالتعلم الآلي‬