04 // مجموعه تعاملی فرمول‌های علمی // فرمول‌های توزیع‌های آماری، رگرسیون و آنتروپی اطلاعاتH(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
فرمول آنتروپی اطلاعات شانون و ظرفیت کانال مخابراتی
معادلات پایه نظریه اطلاعات برای حداقل بیت لازم در فشرده‌سازی بی‌اتلاف هر نماد $H(X)$ و بیشینه ظرفیت کانال نویزی $C$.
مرجع فرمول
فرمول اصلی
H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
فرم‌های بازآرایی‌شده
H_binary(p) = −p·log₂(p) − (1−p)·log₂(1−p)
D_KL(P ∥ Q) = ∑ p_i · log₂(p_i / q_i)
متغیرها و واحدها
| Symbol | Name | Unit |
|---|---|---|
| H | Binary Entropy H(p) | bits / symbol |
| p | Symbol Probability p | 0–1 |
| M | Equiprobable Alphabet Size M (info log₂M) | symbols |
ورودی‌ها و پارامترها
[0–1]
[symbols]
نتیجه محاسبه (Binary Entropy H(p))
H =0.811278bits / symbol
توضیحات و پیشینه فرمول
- Claude Shannon (1948) proved H(X) = −∑ p_i log₂(p_i) is the unique continuous, symmetric, additive functional measuring uncertainty up to a logarithmic base factor.
- Base-2 logarithms yield 'bits' (shannons); natural logarithms yield 'nats' (1 nat = 1/ln2 ≈ 1.4427 bits).
مثال‌های حل‌شده گام‌به‌گام
#1: Binary source emitting '1' with probability p = 0.25 and '0' with probability 0.75.
p = 0.251 − p = 0.75
H = −0.25·log₂(0.25) − 0.75·log₂(0.75) = 0.500 + 0.3113
→ H = 0.8113 bits/symbol (compresses ~18.9% below 1 raw bit/symbol)
#2: Shannon-Hartley capacity of a B = 20 MHz wireless channel at SNR = 31 (≈ 14.9 dB).
B = 20 MHzS/N = 31
C = 20 × 10⁶ × log₂(1 + 31) = 20 × 10⁶ × 5
→ C = 100 Mbps theoretical error-free limit
آیا این ابزار برای شما مفید بود؟
پرسش‌های متداول (FAQ)
ابزار آنلاین فرمول آنتروپی اطلاعات شانون و ظرفیت کانال مخابراتی چگونه کار می‌کند؟+
مقادیر معلوم را وارد کنید یا لغزنده‌ها را تغییر دهید تا فرمول آنتروپی اطلاعات شانون و ظرفیت کانال مخابراتی بر اساس رابطه H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N) به‌صورت درجا در مرورگر شما محاسبه و ترسیم شود. معادلات پایه نظریه اطلاعات برای حداقل بیت لازم در فشرده‌سازی بی‌اتلاف هر نماد $H(X)$ و بیشینه ظرفیت کانال نویزی $C$.
آیا می‌توانم نتایج و نمودارهای فرمول آنتروپی اطلاعات شانون و ظرفیت کانال مخابراتی را دانلود یا چاپ کنم؟+
بله، می‌توانید به‌راحتی خروجی SVG، PNG، CSV دریافت کنید یا کاربرگ را چاپ نمایید.
آیا می‌توانم داده‌های نمونه را در فرمول آنتروپی اطلاعات شانون و ظرفیت کانال مخابراتی پاک کنم و از صفحه خالی شروع کنم؟+
بله، با کلیک روی دکمه پاک‌سازی در بالای ابزار می‌توانید تمام ورودی‌ها را خالی کنید یا هر زمان دوباره داده‌های نمونه را بارگذاری نمایید.