تفاوت میان نسخه‌های «نظریه اطلاعات»

برچسب‌ها: متن دارای ویکی‌متن نامتناظر ویرایش‌گر دیداری
برچسب‌ها: متن دارای ویکی‌متن نامتناظر ویرایش‌گر دیداری
در این نظریه، [[کلاود شانون]] نحوهٔ [[مدل‌سازی]] مسئله ارسال اطلاعات در یک [[کانال مخابراتی]] را به صورت پایه‌ای بررسی کرده، و مدل ریاضی کاملی برای منبع اطلاعات، کانال ارسال اطلاعات و بازیابی اطلاعات ارائه نموده‌ است. او مسئلهٔ ارسال اطلاعات از یک منبع به یک مقصد را به کمک علم احتمالات بررسی و تحلیل کرد. دو نتیجهٔ بسیار مهم، معروف به [[قضیه]]‌های شانون، عبارت‌اند از:
 
۱-* حداقل میزانی که می‌توان نرخ فشرده کردن اطلاعات یک منبع تصادفی اطلاعات را به آن محدود نمود برابر با [[آنتروپی اطلاعات|آنتروپی]] آن منبع است؛ به عبارت دیگر نمی‌توان دنباله خروجی از یک منبع اطلاعات را با نرخی کمتر از آنتروپی آن منبع ارسال نمود.
۲-* حداکثر میزان نرخی که می‌توان بر روی یک کانال مخابراتی اطلاعات ارسال نمود به نحوی که قادر به آشکارسازی اطلاعات در مقصد، با احتمال خطای در حد قابل قبول کم، باشیم، مقداری ثابت و وابسته به مشخصات کانال است، که به آن [[ظرفیت کانال]] می‌گوئیم. ارسال با نرخی بیشتر از ظرفیت یک کانال روی آن منجر به خطا می‌شود.
 
۲- حداکثر میزان نرخی که می‌توان بر روی یک کانال مخابراتی اطلاعات ارسال نمود به نحوی که قادر به آشکارسازی اطلاعات در مقصد، با احتمال خطای در حد قابل قبول کم، باشیم، مقداری ثابت و وابسته به مشخصات کانال است، که به آن [[ظرفیت کانال]] می‌گوئیم. ارسال با نرخی بیشتر از ظرفیت یک کانال روی آن منجر به خطا می‌شود.
 
این زمینه از مخابرات، به ترتیب به زیربخش‌های [[کدگذاری منبع|کُدینگ منبع]] (source coding) و [[کدگذاری کانال|کدینگ کانال]] (channel coding) تقسیم می‌شود. از زیرشاخه‌های مرتبط با کدینگ کانال، می‌توان [[نظریه کدینگ جبری کانال]] (Algebraic coding theory) را نام برد.
 
البته بخش دیگری از کار شانون به مسئله '''امنیت''' انتقال اطلاعات ('''information''' '''security''') می پردازد که ربط مستقیمی به دو نتیجه بالا ندارد و مبنای نظری رمزنگاری (cryptography) نوین است. به عبارت بهتر، مسئله '''اطمینان''' انتقال اطلاعات ('''information''' '''reliability''') که با دو نتیجه بالا توصیف می شود را نباید با مسئله امنیت انتقال اطلاعات (information security) اشتباه گرفت؛ هدف این دو کاملا متفاوت است.
 
== کمیت‌های مربوط به اطلاعات ==