هذه المقالة يتيمة. ساعد بإضافة وصلة إليها في مقالة متعلقة بها

إنفوماكس

من أرابيكا، الموسوعة الحرة
اذهب إلى التنقل اذهب إلى البحث

إنفوماكس (بالإنجليزية: Infomax)‏ هو مبدأ تحسين الشبكات العصبية الاصطناعية وأنظمة معالجة المعلومات الأخرى. ينص على أن الدالة التي ترسم مجموعة من قيم المدخلات I إلى مجموعة من قيم المخرجات O يجب اختيارها أو تعلمها لتعظيم متوسط معلومات شانون المتبادلة بين I و O، مع مراعاة مجموعة من القيود أو عمليات الضوضاء المحددة. خوارزميات إنفوماكس هي خوارزميات التعلّم الذي يؤدي عملية التحسين هذه. وقد وصف لينسكر هذا المبدأ في عام 1988.[1]

ترتبط إنفوماكس، في حد الضوضاء الصفرية، بمبدأ خفض التكرار المقترح للمعالجة الحسية البيولوجية بواسطة هوراس بارلو في عام 1961،[2] ويتم تطبيقه كميًا على معالجة الشبكية بواسطة أتيك وريدليش.[3]

كان أحد تطبيقات إنفوماكس خوارزمية تحليل المكونات المستقلة التي تجد إشارات مستقلة عن طريق تعظيم الإنتروبيا. وصف بيل وسينوفسكي ونادال وبارجا التحالف التعاوني الدُّوَليّ القائم على إنفوماكس في عام 1995.[4][5]

المراجع

  1. ^ Linsker R (1988). "Self-organization in a perceptual network". IEEE Computer. ج. 21 ع. 3: 105–17. DOI:10.1109/2.36. S2CID:1527671.
  2. ^ Barlow, H. (1961). "Possible principles underlying the transformations of sensory messages". في Rosenblith, W. (المحرر). Sensory Communication. Cambridge MA: MIT Press. ص. 217–234.
  3. ^ Atick JJ, Redlich AN (1992). "What does the retina know about natural scenes?". Neural Computation. ج. 4 ع. 2: 196–210. DOI:10.1162/neco.1992.4.2.196. S2CID:17515861.
  4. ^ Bell AJ, Sejnowski TJ (نوفمبر 1995). "An information-maximization approach to blind separation and blind deconvolution". Neural Comput. ج. 7 ع. 6: 1129–59. CiteSeerX:10.1.1.36.6605. DOI:10.1162/neco.1995.7.6.1129. PMID:7584893. S2CID:1701422.
  5. ^ Nadal J.P., Parga N. (1999). "Sensory coding: information maximization and redundancy reduction". في Burdet، G.؛ Combe، P.؛ Parodi، O. (المحررون). Neural Information Processing. World Scientific Series in Mathematical Biology and Medicine. Singapore: World Scientific. ج. 7. ص. 164–171. مؤرشف من الأصل في 2021-02-11.