نظریه اطلاعات: تفاوت میان نسخه‌ها

[[آنتروپی اطلاعات|آنتروپی]] یک متغیر تصادفی، با اندازه‌گیری احتمالات آن متغیر تصادفی به‌دست می‌آید. مفهوم آنتروپی در طول دهه های گذشته دستخوش تغییرات فراوانی شده که به کاربردهای بسیار مهمی در سایر شاخه های علوم از جمله [[فشرده‌سازی داده‌ها]]، [[علوم اعصاب]] <ref>سید علیرضا خاتون آبادی، روش انتخاب دقت بصری با رویکرد اصل انرژی آزاد در پردازش تصویر، پایان نامه دکترا، دانشکده علوم ریاضی دانشگاه تربیت مدرس، ۱۳۹۷ </ref> ، [[مهندسی مخابرات]] و [[فشرده‌سازیکدگذاری داده‌هاکانال]] انجامیده است.