04 // ইন্টারঅ্যাক্টিভ সূত্র সংকলন // পরিসংখ্যানগত বণ্টন, রিগ্রেশন ও এনট্রপি সূত্রাবলিH(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
শ্যানন ইনফরমেশন এনট্রপি ও চ্যানেল সক্ষমতা সূত্র
তথ্য সংকোচনের ন্যূনতম বিট সংখ্যা H(X) এবং কোলাহলপূর্ণ যোগাযোগ চ্যানেলের সর্বোচ্চ ডেটা পরিবহন সক্ষমতা C নির্ণয়ের মৌলিক সূত্র।
সূত্র পরিচিতি
মূল সূত্র
H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
রূপান্তরিত সূত্র
H_binary(p) = −p·log₂(p) − (1−p)·log₂(1−p)
D_KL(P ∥ Q) = ∑ p_i · log₂(p_i / q_i)
চলক ও একক
| Symbol | Name | Unit |
|---|---|---|
| H | Binary Entropy H(p) | bits / symbol |
| p | Symbol Probability p | 0–1 |
| M | Equiprobable Alphabet Size M (info log₂M) | symbols |
ইনপুট ও প্যারামিটার
[0–1]
[symbols]
গণনার ফলাফল (Binary Entropy H(p))
H =0.811278bits / symbol
সূত্রের ব্যাখ্যা ও নোট
- Claude Shannon (1948) proved H(X) = −∑ p_i log₂(p_i) is the unique continuous, symmetric, additive functional measuring uncertainty up to a logarithmic base factor.
- Base-2 logarithms yield 'bits' (shannons); natural logarithms yield 'nats' (1 nat = 1/ln2 ≈ 1.4427 bits).
সমাধানসহ উদাহরণ
#1: Binary source emitting '1' with probability p = 0.25 and '0' with probability 0.75.
p = 0.251 − p = 0.75
H = −0.25·log₂(0.25) − 0.75·log₂(0.75) = 0.500 + 0.3113
→ H = 0.8113 bits/symbol (compresses ~18.9% below 1 raw bit/symbol)
#2: Shannon-Hartley capacity of a B = 20 MHz wireless channel at SNR = 31 (≈ 14.9 dB).
B = 20 MHzS/N = 31
C = 20 × 10⁶ × log₂(1 + 31) = 20 × 10⁶ × 5
→ C = 100 Mbps theoretical error-free limit
এই টুলটি কি আপনার কাজে লেগেছে?
সচরাচর জিজ্ঞাসিত প্রশ্নাবলী (FAQ)
শ্যানন ইনফরমেশন এনট্রপি ও চ্যানেল সক্ষমতা সূত্র অনলাইন টুলটি কীভাবে কাজ করে?+
প্রদত্ত মানগুলো ইনপুট দিন অথবা স্লাইডার পরিবর্তন করুন—এই টুলটি ব্রাউজারে তাৎক্ষণিকভাবে শ্যানন ইনফরমেশন এনট্রপি ও চ্যানেল সক্ষমতা সূত্র (H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N) সূত্র অনুযায়ী) গণনা ও প্রদর্শন করে। তথ্য সংকোচনের ন্যূনতম বিট সংখ্যা H(X) এবং কোলাহলপূর্ণ যোগাযোগ চ্যানেলের সর্বোচ্চ ডেটা পরিবহন সক্ষমতা C নির্ণয়ের মৌলিক সূত্র।
আমি কি শ্যানন ইনফরমেশন এনট্রপি ও চ্যানেল সক্ষমতা সূত্র থেকে ফলাফল বা চার্ট ডাউনলোড করতে পারব?+
হ্যাঁ, আপনি তাৎক্ষণিকভাবে SVG, PNG, CSV ডাউনলোড বা ওয়ার্কশিট প্রিন্ট করতে পারবেন।
আমি কি শ্যানন ইনফরমেশন এনট্রপি ও চ্যানেল সক্ষমতা সূত্র-এর নমুনা ডেটা মুছে নতুন করে শুরু করতে পারি?+
হ্যাঁ, টুলের উপরের ক্লিয়ার বোতামে ক্লিক করে সম্পূর্ণ ফাঁকা অবস্থায় নিজের মান বসাতে পারবেন এবং যেকোনো সময় নমুনা ডেটা ফিরিয়ে আনতে পারবেন।