توزیع برنولی پیوسته

توزیع برنولی پیوسته در نظریه احتمالات، آمار و یادگیری ماشین، خانواده‌ای از توزیع‌های احتمال پیوسته‌است که توسط پارامتر $\lambda \in (0,1)$ تعریف می‌شود. بازه این توزیع $[0,1]$ است و به این شکل تعریف می‌شود:

Continuous Bernoulli distribution

تابع چگالی احتمال
نماد	${\mathcal {CB}}(\lambda )$
پارامترها	$\lambda \in (0,1)$
تکیه‌گاه	$x\in [0,1]$
تابع چگالی احتمال	$C(\lambda )\lambda ^{x}(1-\lambda )^{1-x}\!$ where $C(\lambda )={\begin{cases}2&{\text{if }}\lambda ={\frac {1}{2}}\\{\frac {2\tanh ^{-1}(1-2\lambda )}{1-2\lambda }}&{\text{ otherwise}}\end{cases}}$
تابع توزیع تجمعی	${\begin{cases}x&{\text{ if }}\lambda ={\frac {1}{2}}\\{\frac {\lambda ^{x}(1-\lambda )^{1-x}+\lambda -1}{2\lambda -1}}&{\text{ otherwise}}\end{cases}}\!$
میانگین	$\operatorname {E} [X]={\begin{cases}{\frac {1}{2}}&{\text{ if }}\lambda ={\frac {1}{2}}\\{\frac {\lambda }{2\lambda -1}}+{\frac {1}{2\tanh ^{-1}(1-2\lambda )}}&{\text{ otherwise}}\end{cases}}\!$
واریانس	$\operatorname {var} [X]={\begin{cases}{\frac {1}{12}}&{\text{ if }}\lambda ={\frac {1}{2}}\\-{\frac {(1-\lambda )\lambda }{(1-2\lambda )^{2}}}+{\frac {1}{(2\tanh ^{-1}(1-2\lambda ))^{2}}}&{\text{ otherwise}}\end{cases}}\!$

$p(x|\lambda )\propto \lambda ^{x}(1-\lambda )^{1-x}.$

توزیع پیوسته برنولی در یادگیری عمیق و بینایی رایانه‌ای، به‌ویژه در زمینه رمزگذارهای خودکار متغیر برای مدل‌سازی پیکسل‌های تصاویر طبیعی مورد استفاده قرار می‌گیرد. به این ترتیب، یک همتای احتمالی مناسب برای از دست دادن آنتروپی متقاطع باینری که معمولاً مورد استفاده قرار می‌گیرد، تعریف می‌کند که اغلب برای پیوسته اعمال می‌شود. $[0,1]$ داده‌های با ارزش این عمل به معنای نادیده گرفتن ثابت نرمال کننده توزیع پیوسته برنولی است، زیرا از دست دادن آنتروپی متقاطع باینری تنها یک احتمال لگ واقعی را برای گسسته تعریف می‌کند. $\{0,1\}$ داده‌های با ارزش

برنولی پیوسته نیز یک خانواده نمایی از توزیع‌ها را تعریف می‌کند. نوشتن $\eta =\log \left(\lambda /(1-\lambda )\right)$ برای پارامتر طبیعی، چگالی را می‌توان به شکل متعارف بازنویسی کرد: $p(x|\eta )\propto \exp(\eta x)$ .

توزیع‌های مرتبط

توزیع برنولی

برنولی پیوسته را می‌توان به عنوان نسخه پیوسته توزیع برنولی در نظر گرفت که بر روی مجموعه گسسته $\{0,1\}$ و به وسیله تابع چگالی احتمال پایین تعریف می‌شود:

$p(x)=p^{x}(1-p)^{1-x},$

جایی که $p$ یک پارامتر عددی بین ۰ و ۱ است. اعمال همین تابع در بازه پیوسته $[0,1]$ منجر به ضریبی از تابع چگالی احتمال پیوسته برنولی می‌شود.

توزیع بتا

توزیع بتا تابع چگالی را پایین را دارد:

$p(x)\propto x^{\alpha -1}(1-x)^{\beta -1},$

که می‌توان آن را به این شکل نوشت:

$p(x)\propto x_{1}^{\alpha _{1}-1}x_{2}^{\alpha _{2}-1},$

در اینجا $\alpha _{1},\alpha _{2}$ پارامترهای عددی مثبت هستند و $(x_{1},x_{2})$ نشان دهنده یک نقطه دلخواه در داخل سادک $\Delta ^{1}=\{(x_{1},x_{2}):x_{1}>0,x_{2}>0,x_{1}+x_{2}=1\}$ می‌باشد. با تعویض نقش پارامتر و ورودی در این تابع چگالی، عبارت پایین را به دست می‌آوریم:

$p(x)\propto \alpha _{1}^{x_{1}}\alpha _{2}^{x_{2}}.$

با اعمال محدودیت $\alpha _{1}+\alpha _{2}=1$ و تغییر متغیر $\lambda =\alpha _{1}$ به عبارت پایین خواهیم رسید:

$p(x)\propto \lambda ^{x_{1}}(1-\lambda )^{x_{2}},$

که دقیقاً مطابق با چگالی برنولی پیوسته‌است.

توزیع نمایی

توزیع نمایی محدود به بازه ۰ تا ۱ معادل توزیع برنولی پیوسته با پارامتر مناسب است.

توزیع طبقه ای مستمر

تعمیم چند متغیره برنولی پیوسته، پیوسته-دسته‌ای نامیده می‌شود.

جستارهای وابسته

• ‌ توزیع بتا
• ‌ توزیع نمایی
• ‌ توزیع برنولی