نامساوی جمع لگاریتم
نا مساوی جمع لگاریتم، یک نامساوی موجود در ریاضیات است که برای اثبات قضایا در نظریه اطلاعات کاربرد دارد.
توضیح
ویرایشفرض کنید و اعداد نا منفی باشند. مجموع تمام اعداد را با و مجموع تمام ها را با نمایش دهیم. نامساوی جمع لگاریتم میگوید:
و برابر است، اگر و تنها اگر برای همه ها برابر باشند. به عبارت دیگر رابطه برای همه ها برقرار باشند.
اثبات
ویرایشاگر باشد، داریم:
که در آن از نامساوی جنسن استفاده شده است، چون داریم ، و همچنین تابع محدب است، پس شروط نامساوی جنسن برقرار است.
کاربردها
ویرایشنامساوی جمع لگاریتم در اثبات نامساویهای زیادی در نظریه اطلاعات کاربرد دارد، مثل نامساوی گیبس، یا تحدب واگرایی KL.
به عنوان مثال، برای اثبات نامساوی گیبس، کافی است که را با و را با جایگذاری کنیم.
تعمیم
ویرایشاین نامساوی با شرط و ، برای برقرار است. اثبات بالا برای هر تابع که محدب باشد برقرار است، مثل همه توابع پیوسته صعودی. تعمیم این رابطه برای برای توابع محدب غیر از لگاریتم در سال ۲۰۰۴ توسط Csiszár داده شده است.
منابع
ویرایش- صفحه ویکیپدیا انگلیسی