جدول المحتويات:
- ما هو استخدام الانحدار العشوائي؟
- لماذا نحتاج إلى استخدام الانحدار العشوائي بدلاً من الانحدار القياسي لتدريب شبكة عصبية تلافيفية؟
- لماذا نفضل الانحدار المتدرج؟
- لماذا يستخدم SGD؟
فيديو: لماذا النسب المتدرج العشوائي؟
2024 مؤلف: Fiona Howard | [email protected]. آخر تعديل: 2024-01-10 06:33
وفقًا لأحد كبار علماء البيانات ، فإن إحدى المزايا المميزة لاستخدام Stochastic Gradient Descent هي أنه يقوم بالحسابات بشكل أسرع من نزول التدرج ونزول التدرج اللوني … أيضًا ، على مجموعات البيانات الضخمة ، يمكن أن يتقارب نزول التدرج العشوائي بشكل أسرع لأنه يقوم بإجراء التحديثات بشكل متكرر.
ما هو استخدام الانحدار العشوائي؟
أصل التدرج العشوائي هو خوارزمية تحسين تستخدم غالبًا في تطبيقات التعلم الآلي للعثور على معلمات النموذج التي تتوافق مع أفضل ملاءمة بين المخرجات المتوقعة والفعليةإنها تقنية غير دقيقة ولكنها قوية. يستخدم النسب المتدرج العشوائي على نطاق واسع في تطبيقات التعلم الآلي.
لماذا نحتاج إلى استخدام الانحدار العشوائي بدلاً من الانحدار القياسي لتدريب شبكة عصبية تلافيفية؟
هبوط التدرج العشوائي يقوم بتحديث المعلمات لكل ملاحظة مما يؤدي إلى المزيد من التحديثات. لذلك فهو نهج أسرع يساعد في اتخاذ قرار أسرع. يمكن ملاحظة تحديثات أسرع في اتجاهات مختلفة في هذه الرسوم المتحركة.
لماذا نفضل الانحدار المتدرج؟
السبب الرئيسي لاستخدام النسب المتدرج للانحدار الخطي هو التعقيد الحسابي: من الأرخص حسابيًا (أسرع) للعثور على الحل باستخدام النسب المتدرج في بعض الحالات. هنا ، تحتاج إلى حساب المصفوفة X′X ثم قلبها (انظر الملاحظة أدناه). إنها عملية حسابية باهظة الثمن.
لماذا يستخدم SGD؟
أصل التدرج العشوائي (غالبًا ما يتم اختصاره SGD) هو طريقة تكرارية لتحسين وظيفة موضوعية بخصائص نعومة مناسبة(على سبيل المثال قابل للتفاضل أو قابل للتباين الفرعي).
موصى به:
لماذا يتم استخدام الانحدار المتدرج؟
هبوط التدرج هو خوارزمية تحسين للعثور على حد أدنى محلي لوظيفة قابلة للتفاضل. يستخدم النسب المتدرج ببساطة في التعلم الآلي للعثور على قيم معلمات الوظيفة (المعاملات) التي تقلل دالة التكلفة إلى أقصى حد ممكن . لماذا نستخدم الانحدار في الانحدار الخطي؟ السبب الرئيسي لاستخدام النسب المتدرج للانحدار الخطي هو التعقيد الحسابي:
من اكتشف النسب التدرج العشوائي؟
تم اختراع الانحدار المتدرج في Cauchyفي عام 1847. Méthode générale pour la résolution des systèmes d'équations simultanées. ص 536-538 لمزيد من المعلومات حولها انظر هنا . متى تم اختراع SGD؟ تم إصدار الدولار السنغافوري لأول مرة في 1965بعد انهيار الاتحاد النقدي بين ماليزيا وبروناي ، لكنه ظل قابلاً للتبادل مع دولار بروناي في كلا البلدين .
ما هو النسب وغير النسب؟
يميل بعض الناس إلى استخدام المصطلحين النسب و الأصيلةبالتبادل. معظم الكلاب الأصيلة هي سلالات أصيلة ، والسلالات الأصيلة هي كلاب نسب. ومع ذلك ، فإن الفشل في تسجيل كلب أصيل لدى السلطة المناسبة سيجعل هذا الكلب كلبًا غير أصيل . ما الفرق بين النسب وغير النسب؟ الاختلاف الرئيسي بين السلالة الأصيلة والنسب هو أن سلالة أصيلةتعني أن والدي الحيوان من نفس السلالة ، بينما تعني النسب أنه تم تسجيل تاريخ تكاثر الحيوان .
لماذا لا يمكنك جمع النسب المئوية معًا؟
المشكلة هي النسبة المئوية التي يتم حسابها من قيمة أساسية محددة. بعد تغيير النسبة المئوية الأولى ، تتغير القاعدة ، ولا تحتوي النسبة المئوية الثانية على نفس الأساس. النسبتان المئويتان اللتان لهما قيم أساسية مختلفة لا يمكن الجمع بينهمامباشرة عن طريق الجمع!
لماذا لا تصل النسب المئوية إلى 100؟
لماذا لا تضيف النسب المئوية دائمًا ما يصل إلى 100٪؟يتم تقريب النتائج إلى أقرب عدد صحيح وهكذا ، إذا أضفت درجات النسبة المئوية ، فهذا يعني أحيانًا هذا لن يصل إلى 100٪. … على سبيل المثال ، ثلاث إجابات متساوية ستعطي نسبة 33.3٪ لكل منها . هل تضيف النسب المئوية دائمًا ما يصل إلى 100؟ النسب المئوية يتم تقريبها بشكل عام عند عرضها في الجداول.
