تضامنًا مع حق الشعب الفلسطيني |
استنظام الدفعة
تسوية الحزمة[1] أو استنظام الدُّفْعَة[2][3] هي طريقة تستخدم لجعل تدريب الشبكات العصبونية الاصطناعية أسرع وأكثر استقرارًا من خلال تسوية مدخلات الطبقات عن طريق إعادة التوسيط وإعادة القياس. اقترحها سيرجي إيوفي وكريستيان زيجيدي في عام 2015.[4]
في حين أن تأثير استنظام الدفعة واضح، فإن الأسباب الكامنة وراء فعاليتها تظل قيد المناقشة. كان يُعتقد أنه يمكن أن يخفف من مشكلة التحول المتغير الداخلي، حيث تؤثر تهيئة المعلمة والتغييرات في توزيع مدخلات كل طبقة على معدل التعلم للشبكة. [5] جادل بعض العلماء في الأوان الأخير أن تطبيع الدُفعات لا يقلل من التحول المتغير الداخلي، بل يعمل على تسهيل الوظيفة الموضوعية ، والتي بدورها تعمل على تحسين الأداء. [6] ومع ذلك يؤدي استنظام الدُفعات عند التهيئة في الواقع إلى حدوث انفجار متدرج شديد في الشبكات العميقة، والذي يُخفف فقط عن طريق تخطي الاتصالات في الشبكات المتبقية.[7] ويرى آخرون أن استنظام الدفعة يحقق فصلًا في اتجاه الطول، وبذلك يسرع الشبكات العصبوينة الاصطناعية.[8]
المراجع
- ^ Q111421033، ص. 45، QID:Q111421033
- ^ Q112244705، ص. 170، QID:Q112244705
- ^ Q112244705، ص. 20، QID:Q112244705
- ^ A bot will complete this citation soon. Click here to jump the queue أرخايف:[1].
- ^ A bot will complete this citation soon. Click here to jump the queue أرخايف:[2].Ioffe, Sergey; Szegedy, Christian (2015). "Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift". arXiv:1502.03167 cs.LG.
- ^ A bot will complete this citation soon. Click here to jump the queue أرخايف:[3].
- ^ A bot will complete this citation soon. Click here to jump the queue أرخايف:[4].
- ^ A bot will complete this citation soon. Click here to jump the queue أرخايف:[5].