Теория связи в секретных системах (Communication Theory of Secrecy Systems, 1949) - статья Клода Шеннона опубликованная в The Bell System Technical Journal в 1948 году. Данная статья послужила началом обширных исследований в теории кодирования и передачи информации, и, по всеобщему мнению, придала криптографии статус науки, а также ознаменовала наступление эры научной криптологии с секретными ключами.. В ней определены фундаментальные понятия теории криптографии.

Весной 1941 года К. Шеннон вернулся в компанию Белл. С началом Второй мировой войны Т.Фрай возглавил работу над программой для систем управления огнем для противовоздушной обороны. Шеннон присоединился к группе Фрая и работал над устройствами, засекавшими самолеты противника и нацеливавшими зенитные установки, также он разрабатывал криптографические системы, в том числе и правительственную связь, которая обеспечивала переговоры Черчилля и Рузвельта через океан. В 1945 году, Шенноном был представлен секретный доклад, который и был опубликован в «Bell System Technical Journal».

Об авторе

Клод Э́лвуд Ше́ннон (Claude Elwood Shannon) — американский математик и инженер, основатель теории информации, автор многих книг и статей по кибернетике.

Содержание

Математическая структура секретных систем

В первой части излагается основная математическая структура секретных систем. В теории связи считается, что язык может рассматриваться как некоторый вероятностный процесс, который создает дискретную последовательность символов в соответствии с некоторой системой вероятностей.

Шеннон предположил, что прирост информации равен утраченной неопределённости, и задал требования к её измерению:

1. мера должна быть непрерывной; то есть изменение значения величины вероятности на малую величину должно вызывать малое результирующее изменение функции;

# в случае, когда все варианты (буквы в приведённом примере) равновероятны, увеличение количества вариантов (букв) должно всегда увеличивать значение функции;

1. должна быть возможность сделать выбор (в нашем примере букв) в два шага, в которых значение функции конечного результата должно являться суммой функций промежуточных результатов.

Поэтому функция энтропии $H$ должна удовлетворять условиям:

1. $H(p\_1,\backslash ;\backslash ldots,\backslash ;p\_n)$ определена и непрерывна для всех $p\_1,\backslash ;\backslash ldots,\backslash ;p\_n$, где $p\_i\backslash in[0,\backslash ;1]$ для всех $i=1,\backslash ;\backslash ldots,\backslash ;n$ и $p\_1+\backslash ldots+p\_n=1$. (Нетрудно видеть, что эта функция зависит только от распределения вероятностей, но не от алфавита.)

# Для целых положительных $n$, должно выполняться следующее неравенство:

1. :

# Для целых положительных $b\_i$, где $b\_1+\backslash ldots+b\_k=n$, должно выполняться равенство:

1. : $H\backslash underbrace\{\backslash left(\backslash frac\{1\}\{n\},\backslash ;\backslash ldots,\backslash ;\backslash frac\{1\}\{n\}\backslash right)\}\_n=\; H\backslash left(\backslash frab\_1n\},\backslash ;\backslash ldots,\backslash ;\backslash frab\_kn\}\backslash right)+\backslash sumi=1k\backslash frab\_in\}H\backslash underbrace\{\backslash left(\backslash frac\{1b\_i\backslash ;\backslash ldots,\backslash ;\backslash fra1b\_iright)\_i$

Шеннон показал, что единственная функция, удовлетворяющая этим требованиям, имеет вид:
$-K\backslash sumi=1np(i)\backslash log\_2\; p(i),$