تفاوت میان نسخه‌های «نظریه اطلاعات»

جز
(تصحیح نوشتاری و فنی متن.)
برچسب‌ها: متن دارای ویکی‌متن نامتناظر ویرایش‌گر دیداری
برچسب‌ها: متن دارای ویکی‌متن نامتناظر ویرایش‌گر دیداری
 
== قضایای شانون ==
در این نظریه، [[کلاود شانون]] نحوهٔ [[مدل‌سازی]] مسئله ارسال اطلاعات در یک [[کانال مخابراتی]] را به صورت پایه‌ای بررسی نموده،کرده، و مدل ریاضی کاملی برای [[مدل‌سازی ریاضی]] منبع اطلاعات، کانال ارسال اطلاعات و بازیابی آناطلاعات ارائه نموده‌استنموده‌ است. او مسئلهٔ ارسال اطلاعات از یک منبع به یک مقصد را به کمک علم احتمالات بررسی و تحلیل کرد. دو نتیجهٔ بسیار مهم، معروف به [[قضیه]]‌های شانون، عبارت‌اند از:
 
۱- حداقل میزانی که می‌توان نرخ فشرده کردن اطلاعات یک منبع تصادفی اطلاعات را به آن محدود نمود برابر با [[آنتروپی اطلاعات|آنتروپی]] آن منبع است؛ به عبارت دیگر نمی‌توان دنباله خروجی از یک منبع اطلاعات را با نرخی کمتر از آنتروپی آن منبع ارسال نمود.