Информации Передача

- градиент логарифмической функции правдоподобия. Понятие И. Возникает в так наз. Параметрич. Задачах математич. Статистики. Имеется априорная информация, что наблюдаемое случайное явление описывается распределением вероятностей Pq(dw). Из семейства где t- числовой или векторный параметр, однако истинное значение 8 неизвестно. Проведенное наблюдение (серия независимых наблюдений) явления привело к исходу w(серии w(1), . ., w(N))). По исходам наблюдения требуется оценить Э. Пусть семейство {Pt} ..

- теоретико-информационная мера величины информации, содержащейся в одной случайной величине относительно другой. Пусть x и h.- случайные величины, определенные на нек-ром вероятностном пространстве и принимающие значения в измеримых пространствах и соответственно, а - их совместное и маргинальные распределения вероятностей. Если распределение Pxh (Х). Абсолютно непрерывно относительно прямого произведения мер - плотность (по Радону - Никодиму) меры Pxh( Х) относительно меры и - информационн..

- величина, характеризующая информации количество, к-рая содержится в сигнале на выходе канала связи относительно сигнала на входе канала в расчете на единицу времени. Если - случайные процессы с непрерывным или дискретным временем, являющиеся сигналами на входе и выходе нек-рого канала связи, то И. С. П. Наз. Величину если такой предел существует. Здесь I (Х, Х) - количество информации, - отрезок {t, Т]процесса h, аналогично определяется hTt. Существование предела (*) доказано для достато..

- раздел прикладной математики и кибернетики, связанный с математич. Описанием и оценкой качества передачи, хранения, извлечения и классификации информации. Термин "И. Т.", возникший в 50-х гг. 20 в., до сих пор (к 1978) не имеет единого общепринятого толкования. В разных источниках по-разному определяется перечень разделов наук, включаемых в И. Т., а при логич. Толковании в И. Т. Надо включать и нек-рые разделы науки, традиционно в нее не включаемые. Важной чертой, объединяющей различные разде..