إنفوماكس
المزيد من اللغات
المزيد من الإجراءات
إنفوماكس (بالإنجليزية: Infomax) هو مبدأ تحسين الشبكات العصبية الاصطناعية وأنظمة معالجة المعلومات الأخرى. ينص على أن الدالة التي ترسم مجموعة من قيم المدخلات I إلى مجموعة من قيم المخرجات O يجب اختيارها أو تعلمها لتعظيم متوسط معلومات شانون المتبادلة بين I و O، مع مراعاة مجموعة من القيود أو عمليات الضوضاء المحددة. خوارزميات إنفوماكس هي خوارزميات التعلّم الذي يؤدي عملية التحسين هذه. وقد وصف لينسكر هذا المبدأ في عام 1988.[1]
ترتبط إنفوماكس، في حد الضوضاء الصفرية، بمبدأ خفض التكرار المقترح للمعالجة الحسية البيولوجية بواسطة هوراس بارلو في عام 1961،[2] ويتم تطبيقه كميًا على معالجة الشبكية بواسطة أتيك وريدليش.[3]
كان أحد تطبيقات إنفوماكس خوارزمية تحليل المكونات المستقلة التي تجد إشارات مستقلة عن طريق تعظيم الإنتروبيا. وصف بيل وسينوفسكي ونادال وبارجا التحالف التعاوني الدُّوَليّ القائم على إنفوماكس في عام 1995.[4][5]
المراجع
- ^ Linsker R (1988). "Self-organization in a perceptual network". IEEE Computer. ج. 21 ع. 3: 105–17. DOI:10.1109/2.36. S2CID:1527671.
- ^ Barlow, H. (1961). "Possible principles underlying the transformations of sensory messages". في Rosenblith, W. (المحرر). Sensory Communication. Cambridge MA: MIT Press. ص. 217–234.
- ^ Atick JJ, Redlich AN (1992). "What does the retina know about natural scenes?". Neural Computation. ج. 4 ع. 2: 196–210. DOI:10.1162/neco.1992.4.2.196. S2CID:17515861.
- ^ Bell AJ, Sejnowski TJ (نوفمبر 1995). "An information-maximization approach to blind separation and blind deconvolution". Neural Comput. ج. 7 ع. 6: 1129–59. CiteSeerX:10.1.1.36.6605. DOI:10.1162/neco.1995.7.6.1129. PMID:7584893. S2CID:1701422.
- ^ Nadal J.P., Parga N. (1999). "Sensory coding: information maximization and redundancy reduction". في Burdet، G.؛ Combe، P.؛ Parodi، O. (المحررون). Neural Information Processing. World Scientific Series in Mathematical Biology and Medicine. Singapore: World Scientific. ج. 7. ص. 164–171. مؤرشف من الأصل في 2021-02-11.
- Bell AJ, Sejnowski TJ (ديسمبر 1997). "The "Independent Components" of Natural Scenes are Edge Filters". Vision Res. ج. 37 ع. 23: 3327–38. DOI:10.1016/S0042-6989(97)00121-1. PMC:2882863. PMID:9425547.
- Linsker R (1997). "A local learning rule that enables information maximization for arbitrary input distributions". Neural Computation. ج. 9 ع. 8: 1661–65. DOI:10.1162/neco.1997.9.8.1661. S2CID:42857188.
- Stone, J. V. (2004). Independent Component Analysis: A tutorial introduction. Cambridge MA: MIT Press. ISBN:978-0-262-69315-8.
