هبوط التدرج هو خوارزمية تحسين للعثور على حد أدنى محلي لوظيفة قابلة للتفاضل. يستخدم النسب المتدرج ببساطة في التعلم الآلي للعثور على قيم معلمات الوظيفة (المعاملات) التي تقلل دالة التكلفة إلى أقصى حد ممكن.
لماذا نستخدم الانحدار في الانحدار الخطي؟
السبب الرئيسي لاستخدام النسب المتدرج للانحدار الخطي هو التعقيد الحسابي: من الأرخص حسابيًا (أسرع) للعثور على الحل باستخدام النسب المتدرج في بعض الحالات. هنا ، تحتاج إلى حساب المصفوفة X′X ثم قلبها (انظر الملاحظة أدناه). إنها عملية حسابية باهظة الثمن.
لماذا يستخدم الانحدار في الشبكات العصبية؟
نزول التدرج هو خوارزمية تحسينوالتي تستخدم بشكل شائع لتدريب نماذج التعلم الآلي والشبكات العصبية. تساعد بيانات التدريب هذه النماذج على التعلم بمرور الوقت ، وتعمل وظيفة التكلفة ضمن نزول التدرج على وجه التحديد كمقياس ، وتقيس دقتها مع كل تكرار لتحديثات المعلمات.
لماذا يعمل النسب المتدرج للتعلم العميق؟
هبوط التدرج هو خوارزمية تحسين تُستخدم لتقليل بعض الوظائف عن طريق التحرك بشكل متكرر في اتجاه أكثر انحدارًاكما هو محدد بواسطة سلبي التدرج اللوني. في التعلم الآلي ، نستخدم النسب المتدرج لتحديث معلمات نموذجنا.
أين يتم استخدام النسب المتدرج؟
يتم استخدام الانحدار بشكل أفضل عندما لا يمكن حساب المعلمات بشكل تحليلي(على سبيل المثال باستخدام الجبر الخطي) ويجب البحث عنها بواسطة خوارزمية التحسين.
