تباعد كولباك - ليبلير: الفرق بين النسختين
[نسخة منشورة] | [نسخة منشورة] |
ط بوت:عنونة مرجع غير معنون (1) |
|||
سطر 3: | سطر 3: | ||
== أصل الكلمة == |
== أصل الكلمة == |
||
تم تقديم تباعد كولباك - ليبلير بواسطة سولومون كولباك (Solomon Kullback) وريتشارد ليبلير (Richard Leibler) في عام 1951 باعتباره '''اختلافاً موجهاً''' بين '''توزيعتين'''؛ يفضل كولباك مصطلح '''معلومات التمييز'''. <ref>{{Cite journal|الأول=S.|الأخير=Kullback|وصلة مؤلف=Solomon Kullback|سنة=1987|عنوان=Letter to the Editor: The Kullback–Leibler distance|صحيفة=[[ذا أمريكان ستاتيستيشين]]|المجلد=41|العدد=4|صفحات=340–341|jstor=2684769|DOI=10.1080/00031305.1987.10475510}}</ref> وقد تمت مناقشة الاختلاف في كتاب كولباك لعام 1959 ، ''نظرية المعلومات والإحصاء'' . <ref name="Kullback" |
تم تقديم تباعد كولباك - ليبلير بواسطة سولومون كولباك (Solomon Kullback) وريتشارد ليبلير (Richard Leibler) في عام 1951 باعتباره '''اختلافاً موجهاً''' بين '''توزيعتين'''؛ يفضل كولباك مصطلح '''معلومات التمييز'''. <ref>{{Cite journal|الأول=S.|الأخير=Kullback|وصلة مؤلف=Solomon Kullback|سنة=1987|عنوان=Letter to the Editor: The Kullback–Leibler distance|صحيفة=[[ذا أمريكان ستاتيستيشين]]|المجلد=41|العدد=4|صفحات=340–341|jstor=2684769|DOI=10.1080/00031305.1987.10475510}}</ref> وقد تمت مناقشة الاختلاف في كتاب كولباك لعام 1959 ، ''نظرية المعلومات والإحصاء'' . <ref name="Kullback" /> |
||
== مراجع == |
== مراجع == |
نسخة 13:41، 14 يونيو 2019
في الاحصاء الرياضي ، فإن تباعد كولباك - ليبلير (وتسمى أيضا الانتروبية النسبية) هو مقياس لمدى اختلافتوزيع احتمالي واحد عن توزيع احتمالي مرجعي آخر[1] [2]. تتضمن تطبيقات تباعد كولباك - ليبلير توصيف اعتلاج شانون (Shannon) النسبي في نظم المعلومات ، والعشوائية في السلاسل الزمنية المستمرة ، واكتساب المعلومات عند مقارنة النماذج الإحصائية للاستدلال. على النقيض من تباين المعلومات، فإن تباعد كولباك - ليبلير هو مقياس غير متساوي من حيث التوزيع وبالتالي فهو غير مؤهل كمقياس إحصائي للانتشار. في الحالة البسيطة ، يشير تباعد كولباك - ليبلير ذو القيمة 0 إلى أن التوزيعتين المعنيتين متطابقتان. وهو يبقى مقياس مهم بالنسبة لتطبيقات عديدة مثل الإحصاءات التطبيقية، ميكانيكا الموائع، علم الأعصاب والتعلم الآلي .
أصل الكلمة
تم تقديم تباعد كولباك - ليبلير بواسطة سولومون كولباك (Solomon Kullback) وريتشارد ليبلير (Richard Leibler) في عام 1951 باعتباره اختلافاً موجهاً بين توزيعتين؛ يفضل كولباك مصطلح معلومات التمييز. [3] وقد تمت مناقشة الاختلاف في كتاب كولباك لعام 1959 ، نظرية المعلومات والإحصاء . [2]
مراجع
- ^ Kullback، S.؛ Leibler، R.A. (1951). "On information and sufficiency". Annals of Mathematical Statistics. ج. 22 ع. 1: 79–86. DOI:10.1214/aoms/1177729694. MR:0039968.
- ^ أ ب Kullback، S. (1959)، Information Theory and Statistics، John Wiley & Sons. Republished by Dover Publications in 1968; reprinted in 1978: (ردمك 0-8446-5625-9).
- ^ Kullback، S. (1987). "Letter to the Editor: The Kullback–Leibler distance". ذا أمريكان ستاتيستيشين. ج. 41 ع. 4: 340–341. DOI:10.1080/00031305.1987.10475510. JSTOR:2684769.