مرتب پیچ نظریہ

اصل ٹاسک T-1: استحکام فلٹر — مکمل ریٹ-ڈسٹورشن تخصیص مسئلہ: شینن کے ریٹ-ڈسٹورشن نظریے کے لیے یہ درکار ہے: ایک ماخذ X، ایک بازتولیدی ابجد، اور ایک ڈسٹورشن فنکشن d(x, \hat{x})۔ پری پرنٹ OPT کی بنیادی تہہ کے لیے R_{pred}(D) کا حوالہ دیتا ہے، مگر ان تین عناصر کی تصریح نہیں کرتا۔ فراہمی: OPT کے ریٹ-ڈسٹورشن مسئلے کے لیے ایک مکمل (\mathcal{X}, \hat{\mathcal{X}}, P_X, d) تخصیص۔

یہ نظرِ ثانی اضافی اینٹروپی کو شماریاتی پیچیدگی سے ممیز کرتی ہے، محدود افق پر predictive-KL شناخت کو ثابت کرتی ہے، عمومی زیریں حد R_{T,h}(D)\ge E_{T,h}-D کو ثابت کرتی ہے، اور اس امر کے لیے ایک دقیق مساواتی معیار بیان کرتی ہے کہ یہ زیریں حد کب حاصل ہوتی ہے۔ C_{\max} ریٹ-ڈسٹورشن صوریات سے ماخوذ مقدار کے بجائے ایک تجربی پیرامیٹر ہی رہتا ہے۔
اختتامی حیثیت: جزوی طور پر حل شدہ۔ چار-جزوی تخصیص، predictive-KL شناخت، اور عمومی زیریں حد R_{T,h}(D) \geq E_{T,h}(\nu) - D ایک دقیق مساواتی معیار کے ساتھ قائم کر دی گئی ہیں۔ سابقہ عمومی بند-صورت دعویٰ R(D) = C_\mu - D واپس لے لیا گیا ہے؛ درست نتیجہ زیریں حد ہے۔ C_{\max} ریٹ-ڈسٹورشن صوریات سے ماخوذ مقدار کے بجائے ایک تجربی پیرامیٹر ہی رہتا ہے۔

§0. تشکیل کی سطح

عملی تشکیل۔ T,h<\infty کو ثابت کریں۔ X:=X_{1:T} کو ماضی کے بلاک اور Y:=X_{T+1:T+h} کو ایک ثابت قابلِ حساب ساکن ارگوڈک پیمائش \nu\in\mathcal M کے تحت مستقبل کے پیشگی-نظر بلاک کے طور پر ظاہر کرنے دیں۔ محدود افق کی پیش گوئی معلومات یوں متعین کریں E_{T,h}(\nu):=I(X;Y). جب لامحدود افق کی حد موجود ہو، تو اضافی اینٹروپی یوں متعین کریں E_\nu := I(\overleftarrow X;\overrightarrow X). اگر S مکمل \epsilon-machine سببی حالت کو ظاہر کرے، تو شماریاتی پیچیدگی یوں متعین کریں C_{\mu,\nu}:=H(S). یہ سب الگ الگ مقداریں ہیں۔ اس ضمیمے میں محدود-افق rate-distortion مسئلہ E_{T,h} کی اصطلاح میں بیان کیا گیا ہے، نہ کہ C_{\mu,\nu} کی۔ سولومونوف پیمائش \xi یہاں صرف meta-prior weighting کے طور پر داخل ہوتی ہے (پری پرنٹ مساوات 1): انفرادی R(D) منحنیات ہر پیمائش \nu کے لیے الگ الگ حساب کی جاتی ہیں۔ وہ نتائج جن کے لیے مکمل آمیزہ \xi درکار ہو، الگ سے بیان کیے گئے ہیں۔

§1. مکمل چار-تکونی تعیین

1.1 ماخذ X اور تقسیم P_X

\{0,1\}^\infty پر ایک قابلِ حساب stationary ergodic measure \nu \in \mathcal{M} کو ثابت مانیں۔ ماخذ وہ عمل ہے (X_t)_{t \ge 1} جو \nu کے مطابق تقسیم شدہ ہے۔ meta-prior کے کردار کے لیے، preprint Eq. (1) میں \xi ہر ایسے \nu کو w_\nu \approx 2^{-K(\nu)} کے ذریعے وزن دیتا ہے۔ ہم \mathcal{M} کے ایک ثابت رکن کے لیے P_X = \nu لکھتے ہیں۔ ذیل کے تمام نتائج ہر measure \nu پر لاگو ہوتے ہیں؛ Solomonoff تعلق §4 میں dominance bound کے ذریعے داخل ہوتا ہے۔

1.2 تولیدی حروفِ تہجی \hat{X}

مقررہ T,h کے لیے، ماضی کے بلاکس پر محدود-افق پیش گوئی تکافؤ تعلق یوں متعین کریں: x \sim_h x' \iff \nu(Y\in A\mid X=x)=\nu(Y\in A\mid X=x') \quad\text{for all measurable }A\subseteq\{0,1\}^h. فرض کریں S_h، \sim_h کے تحت X کی تکافؤ جماعت ہو۔ تب S_h، افق h پر X سے Y کی پیش گوئی کے لیے کم سے کم کافی شماریہ ہے۔

مکمل \epsilon-machine سببی حالت S وہ لامحدود-افق شے ہے جو نیم-لامحدود ماضیوں اور مکمل مستقبل کی طرف گزرنے سے حاصل ہوتی ہے۔ یہ ضمیمہ محدود-افق اشتقاقات کے لیے S_h استعمال کرتا ہے اور مکمل سببی-حالتی حد کے لیے S کو محفوظ رکھتا ہے۔

قابلیتِ حساب کا درجہ۔ عمومی قابلِ حساب \nu کے لیے، یہ ضمیمہ پیش گوئی-حالتی تقسیم کی عین قابلیتِ حساب کا دعویٰ نہیں کرتا۔ اسے ایک مثالیہ بند قابلِ پیمائش شے کے طور پر برتا گیا ہے۔ عین قابلیتِ حساب کا اثبات صرف ان ذیلی اصناف کے لیے کیا جاتا ہے جن کی صراحت کے ساتھ نشان دہی کی گئی ہو، مثلاً محدود-حافظہ عملیے۔

1.3 Distortion Function d_h(x, z)

distortion function، KL predictive divergence ہے: d_h(x,z):=D_{\mathrm{KL}}\!\big(P_\nu(Y\mid X=x)\,\|\,P_\nu(Y\mid Z=z)\big). یہاں Z ایک representation variable ہے جو encoder p(z\mid x) کے ذریعے پیدا کیا جاتا ہے۔ جب Z=S_h ہو، تو یہ عین predictive-state distortion ہے؛ اور جب Z ایک coarsening یا stochastic code ہو، تو P_\nu(Y\mid Z=z) مستنبط predictive law ہوتا ہے۔

مکمل چار-رکنی ترتیب

§2. چار-جزوی ساخت کے تحت R_{T,h}(D) کا استخراج

§1 کے چار-جزوی ساخت کے لیے شرح-بگاڑ فنکشن یہ ہے:

R_{T,h}(D) = \min_{p(z|x) : \mathbb{E}[d_h(X,Z)] \le D} I(X ; Z)

2.1 KL بگاڑ کی شناخت

فرض کریں X:=X_{1:T}، Y:=X_{T+1:T+h}، اور Z کوئی بھی نمائندگی ہو جو encoder p(z\mid x) پیدا کرے۔ چونکہ Z-X-Y ایک مارکوف زنجیر ہے، \mathbb E[d_h(X,Z)] = \mathbb E\!\left[D_{\mathrm{KL}}(P(Y\mid X)\|P(Y\mid Z))\right] = H(Y\mid Z)-H(Y\mid X) = I(X;Y\mid Z). مساوی طور پر، \mathbb E[d_h(X,Z)] = I(X;Y)-I(Z;Y)=E_{T,h}(\nu)-I(Z;Y). لہٰذا بگاڑ کی قید \mathbb E[d_h(X,Z)]\le D اس کے مساوی ہے کہ I(Z;Y)\ge E_{T,h}(\nu)-D.

2.2 معلوماتی بوٹل نیک کی ازسرِ نو صورت بندی

تحریفی قید قابلِ قبول انکوڈرز کی فضا کو اُن انکوڈرز تک محدود کرتی ہے جو \mathbb{E}[d_h(X,Z)] \le D کو پورا کرتے ہوں۔ یہ بعینہٖ I(Z;Y) کی زیریں حد باندھنے کے مترادف ہے، جس سے مقید معلوماتی بوٹل نیک مسئلہ حاصل ہوتا ہے۔ چونکہ معیاری time-sharing دلائل کے تحت قابلِ حصول خطہ \{(I(Z;Y), I(X;Z))\} محدب ہے، اس لیے strong duality برقرار رہتی ہے۔ یہ Information Bottleneck Lagrangian (Tishby, Pereira & Bialek 1999 [28]) کے ذریعے ایک دقیق ازسرِ نو صورت بندی کی اجازت دیتا ہے: \mathcal{L}[p(z|x)] = I(X ; Z) - \beta \cdot I(Z ; Y) جہاں لاگرانژ ضارب \beta کا تعین D سے ہوتا ہے۔ IB لاگرانژین کمپریشن شرح بمقابلہ پیش گوئی وفاداری کی پیریٹو سرحد کو متعین کرتا ہے۔

2.3 مرکزی قضیہ: عمومی زیریں حد اور معیارِ مساوات

ہم شرح-مسخری تفاعل کے لیے حد قائم کرتے ہیں:

قضیہ (عمومی زیریں حد اور معیارِ مساوات).
کسی بھی انکوڈر p(z\mid x) کے لیے، فرض کریں D:=\mathbb E[d_h(X,Z)]. تب I(X;Z)=E_{T,h}(\nu)-D+I(X;Z\mid Y). لہٰذا، R_{T,h}(D)\ge E_{T,h}(\nu)-D. کمپیکٹ متناہی بازتولیدی حروفِ تہجی کی صورت میں، جہاں تسلسل اس بات کی ضمانت دیتا ہے کہ انکوڈرز پر انفیمم حاصل ہو جاتا ہے، کسی معین مسخری D پر مساوات اسی اور صرف اسی صورت برقرار ہوتی ہے جب کوئی ایسا انکوڈر موجود ہو جو اس مسخری کو حاصل کرے اور جس کے لیے I(X;Z\mid Y)=0. متعین انکوڈرز Z=g(X) کے لیے، یہ اس کے ہم معنی ہے کہ H(Z\mid Y)=0.

صفر مسخری پر، کم سے کم کافی شماریہ S_h یہ حاصل کرتا ہے: R_{T,h}(0)=I(X;S_h)=H(S_h). نوٹ کریں کہ یہ صفر-مسخری شرح H(S_h) عمومی طور پر زیریں حد E_{T,h} سے سختی کے ساتھ بلند رہتی ہے۔ یہ فرق غیر منفی خلا H(S_h) - E_{T,h} = H(S_h|Y) ہے۔ طبیعی طور پر یہ خلا ماضی میں موجود ساختی ‘ذخیرہ شدہ معلومات’ کی نمائندگی کرتا ہے جسے مستقبل کی کھڑکی اکیلے بازیافت کرنے میں ناکام رہتی ہے۔ صفر مسخری پر مساوات کا برقرار رہنا (H(S_h|Y)=0) ایک نہایت انحطاطی صورت ہے جو پیچیدہ عملوں کے لیے عموماً غلط ہوتی ہے۔

مکمل سببی-حالت حد میں، R(0)=C_{\mu,\nu}=H(S). یہ صرف خاص صورتوں میں E_\nu کے برابر ہوتا ہے؛ عمومی طور پر E_\nu < C_{\mu,\nu}۔

2.4 زیادہ درشت تولیدی حروفِ تہجی کے لیے رویہ

کسی بھی تعینی درشت کاری Z=g(S_h) کے لیے، I(X;Z)=I(Z;Y)+I(X;Z\mid Y)=E_{T,h}(\nu)-D+I(X;Z\mid Y)\ge E_{T,h}(\nu)-D. غیر منفی ڈھیل کی اصطلاح I(X;Z\mid Y) صرف اسی صورت میں معدوم ہوتی ہے جب درشت کی گئی نمائندگی مستقبلی کھڑکی Y سے بازیافت کی جا سکے۔ لہٰذا زیادہ درشت حروفِ تہجی عموماً ایسی شرح-بگاڑ منحنیات پیدا کرتے ہیں جو خط E_{T,h}-D سے سختی کے ساتھ اوپر ہوتی ہیں۔ یہ خط ایک آفاقی زیریں حد ہے، نہ کہ عمومی طور پر حاصل شدہ احاطہ۔ کوئی بھی عملی طور پر قابلِ حساب کوڈیک سببی حالتوں کے لیے محدود-حافظہ تقریب استعمال کرتا ہے، اور اسی لیے اس کی منحنی اس حد سے اوپر رہتی ہے۔

2.5 حدّی جائزے

(نوٹ: لامتناہی افق کی حد میں، صفر-شرح نقطہ بگاڑ E_\nu پر ہوتا ہے، نہ کہ C_{\mu,\nu} پر)

§3. C_{\max} — خصوصیات اور رکاوٹیں

3.1 لامحدود-افق تقارب کا مسلّمہ

مرکزی قضیہ (§2.3) محدود (T, h) کے لیے زیریں حد R_{T,h}(D) \ge E_{T,h}(\nu) - D قائم کرتا ہے۔ اب ہم دکھاتے ہیں کہ یہ لامحدود-افق کی ترتیب تک بھی پھیلتی ہے۔

مسلّمہ (لامحدود-افق توسیع). فرض کریں \nu، \{0,1\}^\infty پر ایک ساکن ارگوڈک پیمائش ہو۔ تب:

1. E_{T,h}(\nu) = I(X_{1:T}\,;\,X_{T+1:T+h})، T اور h دونوں میں غیر-کاہشی ہے (ڈیٹا-پروسیسنگ عدم مساوات کے مطابق: ساکنیت کے تحت طویل تر بلاکس پر شرط لگانا ماضی اور مستقبل کے درمیان باہمی معلومات کو کم نہیں کر سکتا)۔
2. حد E_\nu := \lim_{T,h \to \infty} E_{T,h}(\nu) موجود ہے (ممکنہ طور پر +\infty) کیونکہ یکنواخت افزائش کے تحت تقارب حاصل ہوتا ہے۔
3. ہر ثابت D \ge 0 کے لیے، سلسلہ R_{T,h}(D)، T میں غیر-کاہشی ہے (طویل تر ماضیات بہترین کمپریشن شرح کو کم نہیں کر سکتیں) اور h میں بھی غیر-کاہشی ہے۔ h میں یکسوئی کا مختصر ثبوت: بگاڑ کا تفاعل d_{h+1}(x, z) = D_{\mathrm{KL}}\!\left(P_\nu(\cdot \mid x) \,\|\, P_z(\cdot \mid z)\right)، مستقبل کے h+1 زمانی مراحل پر تحلیل ہوتا ہے، جسے زنجیری قاعدے کے ذریعے یوں لکھا جا سکتا ہے: d_h(x,z) + D_{\mathrm{KL}}\!\left(P_\nu(X_{T+h+1} \mid x, X_{T+1:T+h}) \,\|\, P_z(X_{T+h+1} \mid z, X_{T+1:T+h})\right)۔ چونکہ دوسری مقدار غیر-منفی ہے، اس لیے نقطہ وار d_{h+1} \geq d_h۔ لہٰذا قید کا مجموعہ \{P(z|x) : E[d_{h+1}] \leq D\} \subseteq \{P(z|x) : E[d_h] \leq D\}، اور ایک چھوٹے قابلِ قبول مجموعے پر تصغیر شرح کو کم نہیں کر سکتی: R_{T,h+1}(D) \geq R_{T,h}(D)۔
4. لہٰذا R_\nu(D) := \lim_{T,h \to \infty} R_{T,h}(D) موجود ہے۔

چونکہ R_{T,h}(D) \ge E_{T,h}(\nu) - D ہر محدود مرحلے پر برقرار ہے، اور دونوں اطراف یکنواخت طور پر متقارب ہیں، اس لیے یہ حد منتہی صورت میں منتقل ہو جاتی ہے:

R_\nu(D) \ge E_\nu - D

یہی لامحدود-افق زیریں حد ہے جس کا حوالہ ذیل میں قضایا T-1a اور T-1c میں دیا گیا ہے۔ نوٹ: جن عملوں کے لیے E_\nu = +\infty ہو (مثلاً جب k \to \infty ہو تو بلند-رتبہ de Bruijn ادوار)، ان کے لیے یہ حد بدیہی طور پر پوری ہوتی ہے؛ ایسے عمل کسی بھی محدود C_{\max} کے لیے مشاہد-مطابق مجموعہ O_{C_{\max},D_{\min}} سے خارج ہیں۔

3.2 استحکام فلٹر کے ذریعے M کی تقسیم — قضیہ T-1a

قضیہ T-1a (غیر بدیہی تقسیم).
تجربی C_{\max}>0، \Delta t>0، اور D_{\min}\ge0 کو ثابت مانیں۔ تعریف کریں O_{C_{\max},D_{\min}} := \{\nu\in\mathcal M: R_\nu(D_{\min})\le C_{\max}\Delta t\}. تب O_{C_{\max},D_{\min}} اور اس کا متمم، دونوں غیر خالی ہیں۔

ثبوت۔ مستقل عمل O_{C_{\max},D_{\min}} میں شامل ہے کیونکہ اس کے لیے E_\nu=0 اور R_\nu(D)=0 ہوتا ہے۔
متمم کے لیے، رتبہ k کا ایک ثنائی de Bruijn-cycle عمل منتخب کریں: ایک ساکن ارگوڈک ثنائی عمل جس کی مدت 2^k ہو اور مرحلہ یکساں ہو، جس میں طول-k کا ہر لفظ ہر چکر میں بالکل ایک بار ظاہر ہوتا ہے۔ اس عمل کے لیے، E_\nu=C_{\mu,\nu}=k. لہٰذا R_\nu(D_{\min})\ge k-D_{\min}. اگر k>C_{\max}\Delta t + D_{\min} منتخب کیا جائے تو R_\nu(D_{\min})>C_{\max}\Delta t ملتا ہے، لہٰذا \nu\notin O_{C_{\max},D_{\min}}۔ \square

3.3 C_{\max}$ کی تعریف/توصیف — T-1b

تعریف T-1b (تجربی بینڈوڈتھ پیرا میٹر).
C_{\max} کو شرح-مسخ رسمیّت سے خارج ایک تجربی شعوری-رسائی بینڈوڈتھ پیرا میٹر کے طور پر لیا جاتا ہے۔ C_{\max} دیے جانے پر، مشاہد-مطابقت رکھنے والی جماعت یوں متعین کی جاتی ہے O_{C_{\max},D_{\min}} := \{\nu\in\mathcal M: R_\nu(D_{\min})\le C_{\max}\Delta t\}. اگر کوئی الگ سے متعین کردہ حوالہ جاتی جماعت \mathcal{O}_{ref} کا خلاصہ پیش کرنا چاہے، تو یوں تعریف کی جائے C^{ref}_{max}:=\frac{1}{\Delta t}\sup_{\nu\in\mathcal{O}_{ref}}R_\nu(D_{\min}). یہ منتخب کردہ جماعت کا ایک خلاصہ جاتی شماریہ ہے، خود جماعت کی تعریف نہیں۔

3.4 عدمِ ظہور کی رکاوٹ — ثبوت کا خاکہ T-1c

ثبوت کا خاکہ T-1c (\xi اکیلے سے کوئی متناہی آفاقی حد نہیں نکلتی)۔
سولومونوف آفاقی نیم پیمائش \xi ہر قابلِ حساب پیمائش \nu\in\mathcal M کو مثبت پیشگی وزن تفویض کرتی ہے۔ جماعت \mathcal M میں ساکن ارگوڈک ثنائی عمل شامل ہیں جن کی اضافی اینٹروپی E_\nu من مانے طور پر بڑی ہو سکتی ہے (مثلاً اوپر مذکور de Bruijn خاندان)۔ چونکہ R_\nu(D_{\min})\ge E_\nu-D_{\min}, اس لیے \xi اکیلے سے اخذ کی جانے والی R_\nu(D_{\min}) پر کوئی متناہی، تمام-حمایت پر محیط بالائی حد موجود نہیں۔ لہٰذا کوئی بھی متناہی C_{\max} محض برہنہ سولومونوف پیشگی کے بجائے اس سے ماورا اضافی تجربی یا جماعت-مقید مدخلات کا تقاضا کرتا ہے۔ \square

§4. سولومونوف میٹا-پرائر سے تعلق

§1 کی چار-تکونی ساخت اور §2 کی R(D) اخذ ہر پیمائش \nu کے لحاظ سے بیان کی گئی ہیں۔ سولومونوفی تعلق — یعنی یہ کہ میٹا-پرائر \xi مشاہد-مطابق سلسلوں کو کس طرح وزن دیتا ہے — ایک اخذ کے بجائے ایک ساختی مطابقت ہے۔

کسی بھی مشاہد-مطابق \nu \in O_{C_{\max},D_{\min}} کے لیے، شرح-بگاڑ توازن اس بات کو یقینی بناتا ہے کہ کمپریس شدہ سلسلہ z_{0:T} استحکام فلٹر کی منتخب کردہ نمائندگی ہو۔ سولومونوف پرائر \xi اس \nu کو وزن w_\nu \approx 2^{-K(\nu)} دیتا ہے: زیادہ سادہ (کم K والے) مشاہد-مطابق عمل \xi کے تحت اسّی طور پر زیادہ محتمل ہوتے ہیں۔ یہی کفایتِ توضیح کے استدلال (ضمیمہ T-4) کا رسمی اظہار ہے: استحکام فلٹر، جو \xi پر عمل کرتا ہے، اس سادہ ترین کوڈیک کو منتخب کرتا ہے جو بینڈوڈتھ کے اندر سما سکے۔

T-4b سے حاصل ہونے والی غلبہ حد براہِ راست لاگو ہوتی ہے: کسی بھی قابلِ حساب طبیعیاتی پیمائش \nu کے لیے جس کے لیے K(\nu) < \infty ہو:

-\log \xi(y_{1:T}) \le -\log \nu(y_{1:T}) + K(\nu)

یہ اس بات کو یقینی بناتا ہے کہ مرتب پیچ نظریہ (OPT) کا میٹا-پرائر \xi کسی بھی مشاہد-مطابق سلسلے کو کسی بھی معین قابلِ حساب طبیعیاتی ماڈل کے مقابلے میں کم احتمال نہ دے، سوائے ماڈل کی اپنی طولِ توضیح K(\nu) کی حد تک۔

§5. تجربی بِٹ کوانٹم h^\ast (E-1 کا پیش منظر)

C_{\max} کے ایک تجربی انتخاب اور شعوری تازہ کاری کی ایک تجربی زمانی کھڑکی \Delta t کو سامنے رکھتے ہوئے، یوں تعریف کریں h^*:=C_{\max}\Delta t. اگر C_{\max}\approx 10 بِٹس/سیکنڈ ہو اور \Delta t\in[50,80] ملی سیکنڈ، h^*\approx 0.5\text{–}0.8 تو ہر شعوری لمحے پر بِٹس کی مقدار یہی ہوگی۔

کوئی بھی ساکن ارگوڈک عمل \nu \in \mathcal{M} جو E_{T,h}(\nu) - D_{\min} > h^\ast کو پورا کرتا ہو، قانونی طور پر بیانیہ انہدام کو متحرک کر دے گا۔ اس کی وجہ یہ ہے کہ R_{T,h}(D_{\min}) \ge E_{T,h} - D_{\min} > h^\ast = C_{\max} \Delta t، جو مطابقت کے معیار کی صریح خلاف ورزی ہے۔ تاہم، یہ انہدام کے لیے ایک کافی شرط ہے، سخت معنوں میں لازم شرط نہیں: کیونکہ زیریں حد شاذ ہی سختی سے حاصل ہوتی ہے (R_{T,h} > E_{T,h} - D_{\min} عمومی طور پر §2.4 کے مطابق)، اس لیے عمل اس وقت بھی بیانیہ انہدام سے گزر سکتے ہیں جب E_{T,h} - D_{\min} \le h^\ast ہو۔ یہی E-1 کے لیے مقداری پیش گوئی فراہم کرتا ہے؛ \Delta t \in [40, 300] ملی سیکنڈ کے انتخاب کے حوالے سے حساسیت پر E-1 کے ضمیمے میں بحث کی گئی ہے۔

§6. اختتامی خلاصہ

T-1 کی فراہمیات — نظرِ ثانی شدہ حیثیت

1. چار-جزوی ساخت کو محدود-افق پیش گوئی کے تناظر میں متعین کیا گیا ہے۔
2. predictive-KL شناخت کو درست طور پر اخذ کیا گیا ہے۔
3. عمومی قضیہ R(D)=C_\mu-D کو درست زیریں حد سے بدل دیا گیا ہے R_{T,h}(D)\ge E_{T,h}-D اور اس کے ساتھ دقیق مساواتی معیار I(X;Z\mid Y)=0 بھی دیا گیا ہے۔
4. صفر-مسخ کوڈنگ کی خصوصیت کم سے کم کافی شماریہ S_h کے ذریعے بیان کی گئی ہے، اور مکمل سببی-حالت حد میں R(0)=C_{\mu,\nu}۔
5. C_{\max} کو داخلی طور پر اخذ شدہ نہیں بلکہ تجربی مانا گیا ہے۔
6. h^*=C_{\max}\Delta t ایک تجربی پیرامیٹرائزیشن ہے، §2 سے ماخوذ کوئی قضیہ نہیں۔

یہ ضمیمہ theoretical_roadmap.pdf کے ساتھ OPT منصوبے کے مخزن کے حصے کے طور پر برقرار رکھا جاتا ہے۔