تفاوت میان نسخه‌های «نظریه اطلاعات»

جز (تمیزکاری و اصلاح متن‌‌‌‌‌ با استفاده از AWB)
 
انتخاب مبنای لگاریتم در فرمول زیر، نوع واحد آنتروپی اطلاعات را مشخص می کند. رایج ترین واحد اطلاعات، بیت است که بر مبنای لگاریتم دودویی(باینری) است. دیگر واحد ها شامل نت(بر اساس لگاریتم طبیعی) و هارتلی(بر اساس لگاریتم معمولی) هستند.
پیرو مطالب قبل، در یک عبارت به شکل <math>p \log p \</math> ، زمانی که <math>p=0</math> است، طبق قرارداد، عبارت هم برابر صفر در نظر گرفته می شود. این مطلب به راحتی اثبات می شود؛ چون مقدار حدی p log p هنگامی که مقدار p همسایگی راست صفر میل می کند، برابر با صفر است.
<math>\lim_{p \rightarrow 0+} p \log p = 0</math>