Вспомогательная страница к разделам ☞ КОДИРОВАНИЕ и ☞ ТЕОРИЯ ИНФОРМАЦИИ ПО ШЕННОНУ

Частота встречаемости букв в обычном (неспециальном) тексте (без учета пробелов) [2]:

Я решил проверить эти результаты на примере отрывка из [1]

Я находился тогда в Германии, где оказался призванным в связи с войной, не кончившейся там и доныне. Когда я возвращался с коронации императора в армию, начавшаяся зима остановила меня на одной из стоянок, где, лишенный развлекающих меня собеседников и, кроме того, не тревожимый, по счастью, никакими заботами и страстями, я оставался целый день один в теплой комнате, имея полный досуг предаваться размышлениям. Среди них первым было соображение о том, что часто творение, составленное из многих частей и сделанное руками разных мастеров, не столь совершенно, как творение, над которым трудился один человек. Так, мы видим, что здания, задуманные и исполненные одним архитектором, обыкновенно красивее и лучше устроены, чем те, в переделке которых принимали участие многие, пользуясь старыми стенами, построенными для других целей. Точно так же старинные города, разрастаясь с течением времени из небольших посадов и становясь большими городами, обычно столь плохо распланированы по сравнению с городами-крепостями, построенными на равнине по замыслу одного инженера, что, хотя рассматривая эти здания по отдельности, нередко находишь в них никак не меньше искусства, нежели в зданиях крепостей, однако при виде того, как они расположены — здесь маленькое здание, там большое — и как улицы от них становятся искривленными и неравными по длине, можно подумать, что это скорее дело случая, чем разумной воли людей. А если иметь в виду, что тем не менее всегда были должностные лица, обязанные заботиться о том, чтобы частные постройки служили и украшению города, то станет ясным, как нелегко создать что-либо совершенное, имея дело только с чужим творением. Подобным образом я представил себе, что народы, бывшие прежде в полудиком состоянии и лишь постепенно цивилизовавшиеся и утверждавшие свои законы только по мере того, как бедствия от совершаемых преступлений и возникавшие жалобы принуждали их к этому, не могут иметь такие же хорошие гражданские порядки, как те, которые соблюдают установления какого-нибудь мудрого законодателя с самого начала своего объединения. Так же очевидно, что истинная религия, заповеди которой установлены самим Богом, должна быть несравненно лучше устроена, чем какая-либо другая. Если же говорить о людских делах, то я полагаю, что Спарта была некогда в столь цветущем состоянии не оттого, что законы ее были хороши каждый в отдельности, ибо некоторые из них были очень странны и противоречили добрым нравам, но потому, что все они, будучи составлены одним человеком, направлялись к одной цели. Подобным образом, мне пришло в голову, что и науки, заключенные в книгах, по крайней мере те, которые лишены доказательств и доводы которых лишь вероятны, сложившись и мало-помалу разросшись из мнений множества разных лиц, не так близки к истине, как простые рассуждения здравомыслящего человека относительно встречающихся ему вещей. К тому же, думал я, так как все мы были детьми, прежде чем стать взрослыми, и долгое время нами руководили наши желания и наши наставники, часто противоречившие один другим и, возможно, не всегда советовавшие нам лучшее, то почти невозможно, чтобы суждения наши были так же чисты и основательны, какими бы они были, если бы мы пользовались нашим разумом во всей полноте с самого рождения и руководствовались всегда только им.

Без учета пробелов:

Для иллюстрации некоторых методов кодирования, я решил построить два искусственных языка

Пример 1. Оставим из всех букв русского алфавита только $ 10_{} $: а, б, в, г, д, е, ж, з, и, к. Жесткое усечение предыдущего текста приведет к

ади тгда в Геаии где каза пизва в взи в е киве а и де Кгда взваа каии иеаа в аи аава зиа авиа е а д из к где ие азвекаи е беедикв и ке г е евжи а икакии забаи и аи ава е де ди в е кае ие дг едава азеи еди и ев б бажеие а веие авее из ги ае и деае каи аз аев е вее как веие ад к ди ди евек ак види здаи задае и иее ди аиек бкве каивее и е е е е в еедеке к ииаи аие гие з аи еаи еи д дги ее ак же аие гда азаа ееие вееи из еби адв и ав бии гдаи б ааива авеи гдаи кеи еи а авие за дг ижееа ааива и здаи деи еедк ади в и икак е ее иква ежеи в здаи кее дак и виде г как и аже зде аеке здаие а бе и как и и ав икивеи и еави дие ж да кее де а е аз ви де а еи ие в вид е е еее вегда би дже иа бзае заби б ае ки жии и каеи гда ае как еегк зда иб веее ие де к жи веие дб баз едави ебе ад бвие ежде в дик ии и и ее ивиизвавие и веждавие ви зак к ее г как бедви веае ееи и взикавие жаб иждаи и к е г ие акие же ие гаждакие дки как е ке бда авеи какг ибд дг закдае аг ааа вег бедиеи ак же евид ииа еиги заведи к аве аи Бг джа б еаве е еа е кака-иб дга Еи же гви дки деа ага аа ба екгда в вее ии е г зак ее би и кажд в деи иб еке из и би е а и ивеии дб ава ве и бди аве ди евек аави к д еи дб баз е и в гв и аки закее в кига кае ее е ке ие дказаев и двд к и ве живи и а а ази из еи жева аз и е ак бизки к иие как е аждеи здавег евека ие веаи е вее К же да ак как ве би деи ежде е а взи и дге ве аи квдии аи жеаи и аи аавики а ивеивие ди дги и взж е вегда вевавие а ее и евзж б ждеи аи би ак же и и вае какии б и би еи б зваи аи аз в ве е аг ждеи и квдвваи вегда к и

Частоты встречаемости букв (пробелы между словами не учитываем)

Пример 2. Еще более суровая вивисекция — оставим только $ 4_{} $ буквы и пробелы

Оитомии о ими оооитми о о о ооииимтомиимотоим оои тоо и и м оио и омтоо тоимо т иимиотмии ттмиотоитоомт имо о т мим и и м о оои о том тототои ото и мои т и о мимто тооотои отомтиоио Т м иим тои м и иооим иттоомооо и и том т ото иимитимои о тми тми отоми и Тоо т тиоот тим мии оиоои тооимиоомиоотоооиоо и оомиотмиотоми и о м ооо и тоотмтити и о ототи о оии и м ити и отоои и тоооиоомо и тмоои и оти тот иимии мио и моо омт тотоо о м мооии имт и тотмм и оот и о отито том тот отоииии и оототтм о оттоиоооимо тоо имтоимоом оом титоо и оиомотоии и и ото иииои и тиоио тоо о м тоо тиотомтии оии о иии том мот имт тиоои и оит ото оттои оои моо оот моо оооии Т оио тоити ииоиотоотомим оом о т о том иои ооито и тоо тот о тотмотоии оттоо тоо и оои ототи иоото и и и о т и отиоииомм о отомтооии отоим оом и оои оом оом м иооотои и и о м т ото и отт и ооото и отоии и моомоии мимот и т ииити оти омо о отоитотим том м т м и тми м ттоми и оом миооиии и и и тии тоотиоииоиими омооотоим тооти омоотои и и т ити оот ими оии и м оои иммом о оот моо оии оотои тоо им

Каждое слово (кроме последнего) — нечетной длины.

Всего букв $ 1050 $, частоты встречаемости букв¹⁾

Теперь разбиваем текст на биграммы, объединяя последнюю букву каждого слова со следующим за ней пробелом. Всего биграмм $ 1051 $, из них

Первая буква биграммы берется из первого столбца, вторая буква — из первой строки; количество получившейся биграммы в тексте — на перекрестье. Частоты встречаемости биграмм

Матрица условных вероятностей $$ \mathfrak P= \left( \begin{array}{ccccc} 0.170 & 0.130 & 0.144 & 0.065 & 0.491 \\ 0.259 & 0.029 & 0.231 & 0.111 & 0.370 \\ 0.204 & 0.116 & 0.268 & 0.206 & 0.206 \\ 0.161 & 0.077 & 0.523 & 0.052 & 0.187 \\ 0.304 & 0.113 & 0.356 & 0.227 & 0 \end{array} \right) $$

Проверка: $$ P( \mbox{ ит } )= 0.014,\ P_1\cdot P_{1,4} = 0.219\cdot 0.065 \approx 0.014; $$ $$ P( \mbox{ ом } )= 0.034;\ P_3\cdot P_{3,2} = 0.295 \cdot 0.116 \approx 0.034; $$ $$ P( \mbox{ т_ } )= 0.028;\ P_4\cdot P_{4,5} = 0.148 \cdot 0.187 \approx 0.0276. $$

Если весь текст разбить на $ 525_{} $ биграмм по схеме:

Ои | то | ми | и_ | о_ | им | и_ | оо | ои | тм | и_ | о_ | о_ | о_ | оо | ии | им | то | ми | им | от | ои | м_ | …

то из них

Источники