پاورپوینت مفاهیم کدینگ (pptx) 42 اسلاید
دسته بندی : پاورپوینت
نوع فایل : PowerPoint (.pptx) ( قابل ویرایش و آماده پرینت )
تعداد اسلاید: 42 اسلاید
قسمتی از متن PowerPoint (.pptx) :
مفاهیم کدینگ
کدینگ : ( کد کردن منابع اطلاعات )
فرآیند یا پروسه ای است که خروجی یک منبع اطلاعات رابه یک دنباله ی
باینری
تبدیل می
کند
ورودی کد کننده ی منبع دنباله های سیمبل های تولید شده توسط منبع اطلاعات می باشد و کد کننده به قالب های سمبل ها .کلمات کد باینری با طول متغیر را نسبت داده و در خروجی خود یک دنباله ی باینری تولید میکند
.
پیام
کلمه کد با طول متغیر
کد بهینه:
کدی است که به طور یکتا و بدون ابهام قابل کشف است و متوسط طول کلمات کد حداقل باشد که از الگوریتم های متفاوت استفاده می کنیم . از جمله کد فانو- شانون که یک کد شبه بهینه و کد هافمن که یک کد بهینه است
.
نامساوی کرافت
: در روبه رو یک منبع نشان داده شده
است
:
.
پیام های تولید شده توسط منبع
احتمال تولید پیام
طول کلمات کد
شرط لازم و کافی برای وجود یک کد قابل کشف (لحظه ای) آنست که
:
طول
کلمه ی کد پیام
از
روابط روبه رو به دست می آید
:
ولی چون طول کلمات کد باید صحیح باشد پس
:
این نامساوی نشان میدهد که هر چه احتمال وقوع پیام کمتر باشد طول کلمه ی کد
متن
ا
ظر
با آن بیش تر می باشد و بر عکس .
کدهای بهینه و شبه بهینه
:
منبع رو به رو را در نظر بگیرید
:
فرض میکنیم
احتمال وقوع پیام ها به
صورت
باشد . هم چنین
پیام مرکب
از
N
سمبل باشد . آنگاه می توان تعداد
متوسط
بیت بر سیمبل به کار برده شده
که با
.
نمایش میدهیم را از رابطه ی روبه رومحاسبه کرد:
بهره ی کدینگ
:
از رابطه ی زیر محاسبه می گردد
:
هر چه
N
بزرگتر باشد به یک نزدیک تر است .
اگر
N
به سمت بی نهایت میل کند به
H
نزدیک تر می شود .
وبهره ی کدینگ 1 می گردد. اما این امر یک مشکل عملی دارد. زیرا
زمان زیادی برای ارسال پیام های منبع می طلبد
.
آنتروپی منبع وابسته
تعداد متوسط بیت برسیمبل
هدف :
فرض کنید ورودی کد کننده یکی از
q
پیام منبع باشند. می خواهیم به
جای پیام
i
ام یعنی یک کد باینری یکتا با طول متغیر جای گزین کنیم . که
هدف محاسبه ی و برای
i
=1,….,q
می باشد
.
مراحل روش کد فانو – شانون
:
1-سیمبل ها را به ترتیب احتمال می نویسیم
:
2-
طول کلمه ی کد
i
ام است با به طوری که
بنا بر این در مر حله ی دوم طول کلمات کد را برای تمام پیام ها محاسبه می کنیم.
3- محاسبه ی برای تمام پیام ها با استفاده از رابطه ی زیر :
4- کلمه ی کد
i
ام یعنی بسط باینری است تا رقم .
خواص الگوریتم فانو-شانون :
1-
طول کلمه ی کد با احتمال وقوع پیام نسبت عکس دارد .
2-کلمه ی کد
i
ام یعنی حد اقل در یک بیت با سایر کلمات کد که بعد از آن می آیند
اختلاف خواهند داشت. بنابر این پیام ها به طور یکتا قابل کشف خواهند بود.