Канонические представления случайных функций и их применение в задачах компьютерной поддержки научных исследований

Канонические представления (канонические разложения и интегральные канонические представления) представляют собой выражения случайных функций через (дискретный и непрерывный) белый шум. Дана прикладная теория канонических предста-влений случайных функций, рассмотрены вопросы их статистического оценивания и моделирования. Также рассмотрена постановка задач компьютерной поддержки статистических научных исследований, модели стохастических сигналов и систем. Изложены вероятностно-статистические методы анализа точности линейных и нелинейных систем на основе априорных данных. Рассмотрена теория синтеза оптимальных, субоптимальных и условно оптимальных фильтров для анализа и обработки информации на базе апостериорных данных. Приведены результаты фундаментальных работ, выполненных в ИПИ РАН в рамках научных направлений "Стохастические системы и стохастические информационные технологии" и "Фундаментальные основы информационных технологий и систем" в последние годы. Приложение содержит обширный методический, программно-алгоритмический и справочный материал.
Книга предназначена для специалистов в области прикладной математики и информатики, механики и теории управления, физики и астрономии. Может быть использована в учебном процессе при подготовке специалистов и магистров по направлению и специальности "Прикладная математика и информатика".
Содержание
Список основных сокращений Список основных обозначений
Предисловие
Глава 1. Канонические представления скалярных случайных функций
1.1. Два вида канонических представлений случайных функций
1.1.1. Канонические разложения
1.1.2. Интегральные канонические представления
1.1.3. Формулы для координатных функций канонического
разложения
1.1.4. Формулы для координатных функций интегрального
канонического представления
1.1.5. Дополнения и задачи
1.2. Дискретные канонические разложения случайной функции
1.2.1. Общий подход
1.2.2. Два способа построения дискретного канонического
разложения
1.2.3. Дополнения и задачи
1.3. Канонические разложения случайной функции в данной
области изменения аргумента (I)
1.3.1. Общий подход
1.3.2. Способ нахождения канонического разложения, основанный
на решении интегрального уравнения. Теорема Лоэва
1.3.3. Дополнения и задачи
1.4. Канонические разложения случайной функции
в данной области изменения аргумента (II)
1.4.1. Вводные замечания
1.4.2. Первый способ
1.4.3. Второй способ
1.4.4. Дополнения и задачи
1.5. Другие способы построения канонических разложений случайных
функций
1.5.1. Построение канонического разложения случайной функции
по каноническому разложению ее ковариационной функции..

1.5.2. Построение канонического разложения ковариационной
функции
1.5.3. Каноническое разложение стационарной случайной функции
1.5.4. Дополнения и задачи
1.6. Канонические разложения случайной функции
на основе функциональных рядов
1.6.1. Канонические разложения на основе функций со случайными
коэффициентами
1.6.2. Разложение случайной функции в ряд
1.6.3. Разложение по ортонормированным системам функций
1.6.4. Дополнения и задачи
1.7. Интегральные канонические представления случайных
функций
1.7.1. Интегральные канонические представления
скалярных случайных функций
1.7.2. Интегральные канонические представления скалярной
стационарной случайной функции
1.7.3. Дополнения и задачи
Глава 2. Канонические представления векторных случайных функций и их преобразований
2.1. Канонические разложения векторных случайных функций
2.1.1. Прямая и обратная теоремы Пугачёва о канонических
разложениях для векторных случайных функций
2.1.2. Каноническое разложение векторной стационарной
случайной функции
2.1.3. Об одной общей форме канонического разложения
случайной функции
2.1.4. Дополнения и задачи
2.2. Интегральные канонические представления векторных
случайных функций
2.2.1. Общие формулы
2.2.2. Интегральное каноническое представление стационарной
векторной случайной функции
2.2.3. Дополнения и задачи
2.3. Канонические представления преобразований случайных
функций
2.3.1. Канонические представления линейных преобразований
случайных функций
2.3.2. Канонические представления квазилинейных
преобразований случайных функций
2.3.3. Дополнения и задачи
2.4. Эквивалентная линеаризация существенно нелинейных
преобразований случайных функций посредством канонических
разложений
2.4.1. Эквивалентная регрессионная линеаризация нелинейных
преобразований
2.4.2. Эквивалентная регрессионная линеаризация посредством
канонических разложений
2.4.3. Эквивалентная регрессионная линеаризация нелинейных
преобразований (общий случай)
2.4.4. Дополнения и задачи

Глава 3. Канонические представления случайных элементов
3.1. Линейная корреляционная теория канонических разложений
3.1.1. Вспомогательное гильбертово пространство
3.1.2. Прямая теорема Пугачёва о каноническом разложении
3.1.3. Обратная теорема Пугачёва о каноническом разложении
3.1.4. Способ построения канонических разложений
3.1.5. Каноническое разложение случайного элемента
в гильбертовом пространстве
3.1.6. Совместное каноническое разложение двух случайных
элементов
3.1.7. Дополнения и задачи
3.2. Линейная корреляционная теория интегральных канонических
представлений
3.2.1. Прямая теорема об интегральных канонических
представлениях
3.2.2. Обратная теорема об интегральных канонических
представлениях
3.2.3. Совместное интегральное каноническое представление
двух случайных элементов
3.2.4. Дополнения и задачи
3.3. Спектральные и интегральные канонические представления
3.3.1. Спектральные и интегральные канонические представления
скалярной случайной функции
3.3.2. Спектральные и интегральные канонические представления
векторной стационарной случайной функции
3.3.3. Дополнения и задачи
3.4. Корреляционная теория канонических представлений
линейных преобразований
3.4.1. Метод канонических разложений
3.4.2. Метод интегральных канонических представлений
3.4.3. Дополнения и задачи
3.5. Решение линейных операторных уравнений методами
канонических представлений
3.5.1. Метод канонических разложений
3.5.2. Метод интегральных канонических представлений
3.5.3. Дополнения и задачи
Глава 4. Стохастический анализ и канонические представления случайных процессов
4.1. Распределения случайных процессов. Канонические разложения
с независимыми компонентами
4.1.1. Одно- и многомерные распределения
4.1.2. Моменты высших порядков и характеристические функции .
4.1.3. Гауссовы и условно гауссовы случайные процессы
4.1.4. Канонические разложения с независимыми компонентами
4.1.5. Канонические разложения с независимыми компонентами
4.1.6. для случайных процессов с независимыми значениями
4.1.7. Канонические разложения с независимыми компонентами
для марковских случайных процессов
4.1.8. Дополнения и задачи
4.2. Параметризация распределений на основе канонических
разложений с независимыми компонентами
4.2.1. Сведения из теории параметризации одномерных
распределений
4.2.2. Параметризация одномерных распределений посредством
канонических разложений с независимыми компонентами
4.2.3. Параметризация многомерных распределений на основе канонических разложений с независимыми компонентами
4.2.4. Дополнения и задачи
4.3. Задание вероятностных мер канонических разложений
4.3.1. Общий подход
4.3.2. Канонические разложения нормальных вероятностных мер
4.3.3. Дополнения и задачи
4.4. Вычисление производных Радона-Никодима методом
канонических разложений
4.4.1. Необходимые условия абсолютной непрерывности
нормальных мер
4.4.2. Достаточные условия. Производные Радона-Никодима
нормальных мер
4.4.3. Вычислительные формулы для производных
Радона-Никодима
4.4.4. Основные результаты
4.4.5. Дополнения и задачи
4.5. Стохастический анализ (I)
4.5.1. Операции анализа над случайными функциями
4.5.2. Стохастические интегралы от неслучайных функций
4.5.3. Стохастические интегралы от неслучайных функций
векторного аргумента
4.6. Стохастический анализ (II)
4.6.1. Стохастические интегралы от случайных функций
4.6.2. Стохастические дифференциалы
4.6.3. Дополнения и задачи
4.7. Некоторые вопросы теории канонических представлений
в линейных функциональных пространствах
4.7.1. Об одном обобщении теорем Пугачёва
4.7.2. О канонических разложениях в банахововых пространствах
с базисом
4.7.3. Два типа интегральных канонических представлений
4.7.4. Дополнения и задачи
Глава 5. Статистическое оценивание и моделирование
канонических представлений случайных функций
5.1. Оценивание статистических параметров
5.1.1. Вводные замечания
5.1.2. Нижняя грань рассеивания оценки скалярного параметра
5.1.3. Эффективная оценка скалярного параметра
5.1.4. Нижняя грань рассеивания векторного параметра
5.1.5. Эффективная оценка векторного параметра
5.1.6. Нижние грани дисперсий координат оценки векторного
параметра
5.1.7. Достаточность эффективной оценки
5.1.8. Случай независимых опытов
5.1.9. Оценивание дискретной наблюдаемой величины
5.1.10. Методы нахождения оценок. Метод максимального
правдоподобия
5.1.11. Дополнения и задачи
5.2. Статистическое оценивание и моделирование случайных
величин
5.2.1. Вводные замечания
5.2.2. Оценивание вероятностей событий, функций распределения
и плотностей
5.2.3. Оценивание математических ожиданий и дисперсий
случайных величин
5.2.4. Оценивание ковариационных моментов
5.2.5. Точность оценивания вероятностных характеристик
5.2.6. Метод статистического моделирования
5.2.7. Дополнения и задачи
5.3. Статистическое оценивение и моделирование случайных
функций
5.3.1. Оценивание математических ожиданий, ковариационных функций эргодических стационарных случайных функций
5.3.2. Оценивание спектральных плотностей
5.3.3. Дополнения и задачи
5.4. Статистическое оценивание и моделирование в задачах
факторного анализа
5.4.1. Задачи факторного анализа
5.4.2. Метод главных компонент
5.4.3. Центроидный метод
5.4.4. Вращение факторов
5.4.5. Применение метода Пугачёва
5.4.6. Оценивание факторов
5.4.7. Дополнения и задачи
Глава 6. Задачи компьютерной поддержки статистических научных исследований
6.1. Задачи, принципы и подходы к компьютерной поддержке
научных исследований,
6.1.1. Вводные замечания
6.1.2. Общесистемные принципы компьютерной поддержки
научных исследований
6.1.3. Компьютерное обеспечение
6.1.4. Телекоммуникационное обеспечение
6.1.5. Программное обеспечение
6.1.6. Источники данных и их хранение
6.1.7. Извлечение знаний
6.1.8. О компьютерной безопасности
6.2. Особенности компьютерной поддержки статистических
научных исследований,
6.2.1. Задачи статистических исследований
6.2.2. Требования к информационным технологиям анализа
и синтеза фильтров для обработки информации
6.3. Задачи статистической теории синтеза оптимальных, суб-
и условно оптимальных систем
6.3.1. Задачи синтеза оптимальных систем
6.3.2. Статистические критерии оптимальности
6.3.3. Определение оптимальных параметров системы,
имеющей заданную структуру
6.3.4. Приближенные методы теории оптимальных систем
6.3.5. Дополнения и задачи
Глава 7. Модели стохастических сигналов и систем
7.1. Математические модели стохастических сигналов и систем
7.1.1. Понятие системы
7.1.2. Входные сигналы
7.1.3. Математические модели систем
7.2. Непрерывные системы
7.2.1. Общие характеристики непрерывных систем
7.2.2. Весовая функция линейной непрерывной системы
7.2.3. Стационарные системы
7.2.4. Частотные характеристики непрерывной стационарной
системы
7.2.5. Дополнения и задачи
7.3. Линейные дифференциальные системы
7.3.1. Уравнения линейной системы и весовая функция
7.3.2. Определение весовой функции методом сопряженных систем

7.3.3. Приведение уравнений линейной системы к форме Коши
7.3.4. Обратные системы
7.3.5. Передаточная функция стационарной линейной системы
7.3.6. Дополнения и задачи
7.4. Непрерывные системы, описываемые дифференциальными,
интегральными и интегродифференциальными стохастическими
уравнениями
7.4.1. Общая форма уравнений дифференциальных стохастических
систем
7.4.2. Стохастические интегральные и дифференциальные
уравнения
7.4.3. Дополнения и задачи
7.5. Приведение уравнений непрерывной стохастической системы
к стохастическим дифференциальным уравнениям
7.5.1. Вводные замечания
7.5.2. Метод формирующих фильтров
7.5.3. Дополнения и задачи
7.6. Дискретные системы
7.6.1. Дискретные системы и их характеристики
7.6.2. Характеристики дискретных линейных систем
7.6.3. Стационарные дискретные линейные системы
7.6.4. Дополнения и задачи
7.7. Дискретные системы, описываемые разностными уравнениями
7.7.1. Стационарные дискретные системы, описываемые
разностными уравнениями
7.7.2. Дискретные линейные системы, описываемые разностными
уравнениями
7.7.3. Дискретные нелинейные системы, описываемые разностными
уравнениями
7.7.4. Дискретные стохастические системы
7.7.5. Дополнения и задачи
лава 8. Модели сложных стохастических систем
8.1. Соединения систем и их характеристики
8.1.1. Соединение систем
8.1.2. Правила преобразований структурных схем и графов
линейных систем
8.2. Весовые функции соединений линейных систем
8.2.1. Последовательное соединение
8.2.2. Параллельное соединение
8.2.3. Системы с обратной связью
8.2.4. Об экспериментальном определении весовых функций
8.2.5. Дополнения и задачи
8.3. Соединения стационарных систем
8.3.1. Последовательное соединение
8.3.2. Параллельное соединение

8.3.3. Системы с обратной связью
8.3.4. Дополнения и задачи
8.4. Сложные стохастические системы в научных исследованиях
Глава
9.1.
8.4.1. Вводные замечания
8.4.2. Основные типы соединений стохастических систем
8.4.3. Дополнения и задачи
9. Вероятностный анализ линейных стохастических систем
Корреляционный анализ точности линейных непрерывных систем
9.1.1. Вводные замечания
9.1.2. Метод весовых функций
9.1.3. Метод линейных стохастических дифференциальных
уравнений
9.1.4. Метод ковариационных уравнений
9.1.5. Аналитическое и статистическое моделирование точности...
9.1.6. Дополнения и задачи
9.2.
Спектрально-корреляционный анализ точности линейных
непрерывных систем
9.2.1. Методы для линейных стационарных систем
9.2.2. Методы для квазистационарных линейных систем
9.3.
9.2.3. Дополнения и задачи
Анализ точности линейных дискретных стохастических систем
9.3.1. Вводные замечания
9.3.2. Метод дискретных весовых функций
9.3.3. Метод линейных стохастических разностных уравнений
9.3.4. Метод ковариационных разностных уравнений
9.3.5. Спектрально-корреляционные методы анализа линейных
дискретных стохастических систем
9.3.6. Дополнения и задачи
Анализ распределений и их параметров
9.4.1. Вводные замечания
9.4.2. Точные распределения процессов в линейных стохастических
системах
9.4.3. Метод анализа распределений, основанный на канонических
разложениях и весовых функциях
9.4.4. Метод анализа распределений, основанный на канонических
разложениях и уравнениях системы
9.4.5. О вычислении параметров распределений
9.4.6. Особенности методов аналитического и статистического
моделирования распределений и их параметров
9.4.7. Дополнения и задачи
Глава 10. Вероятностный анализ нелинейных стохастических систем
10.1. Вероятностный анализ квазилинейных стохастических систем
10.1.1. Вводные замечания
10.1.2. Непосредственная линеаризация
10.1.3. Линеаризация посредством канонических разложений
10.1.4. Линеаризация посредством интегральных канонических
представлений
10.1.5. Вероятностный анализ нелинейных стохастических систем,
приводимых к линейным
10.1.6. Дополнения и задачи
10.2. Вероятностный анализ существенно нелинейных систем методами
эквивалентной линеаризации
10.2.1. Вводные замечания
10.2.2. Спектрально-корреляционные методы эквивалентной
линеаризации
10.2.3. Эквивалентная линеаризация на основе канонических
разложений
10.2.4. Дополнения и задачи
10.3. Анализ распределений на основе канонических разложений
марковских процессов
10.3.1. Вводные замечания
10.3.2. Метод неканонических разложений
10.3.3. Метод нормальной аппроксимации
10.3.4. Методы моментов
10.3.5. Методы ортогональных разложений и квазимоментов
10.3.6. О других методах нелинейного параметрического
стохастического анализа
10.3.7. Дополнения и задачи
10.4. Моделирование сложных стохастических систем методом
канонических разложений случайных функций
10.4.1. Нормальные сложные стохастические системы
10.4.2. Нормализация сложных стохастических систем
10.4.3. Дополнения и задачи
Глава 11. Синтез оптимальных фильтров для обработки информации
11.1. Сведения из теории оптимизации
11.1.1. Общее условие минимума средней квадратической ошибки ..
11.1.2. Уравнения, определяющие оптимальный линейный
фильтр
11.1.3. Случай линейной зависимости сигнала от параметров
и аддитивной помехи
11.1.4. Уравнения, определяющие оптимальное неоднородное
линейное преобразование
11.1.5. Общий анализ уравнений, определяющих оптимальный
линейный оператор фильтра
11.1.6. Уравнения, определяющие весовые функции оптимальных одномерных непрерывных линейных фильтров
11.1.7. Уравнения, определяющие весовые функции оптимальных дискретных одномерных линейных фильтров..
11.1.8. Уравнения, определяющие весовые функции
оптимальных конечномерных линейных фильтров
11.1.9. Заключительные замечания
11.2. Синтез оптимального линейного фильтра методом интегральных
канонических представлений
11.2.1. Одномерный линейный фильтр
11.2.2. Конечномерные линейные фильтры
11.2.3. Дополнения и задачи
11.3. Синтез оптимального линейного фильтра методом
канонических разложений
11.3.1. Общее решение методом канонических разложений
11.3.2. Синтез оптимального линейного фильтра в особых случаях .
11.3.3. Дополнения и задачи
11.4. Синтез оптимальных фильтров, приводимых к линейным
11.4.1. Уравнение, определяющее средний квадратический
оптимальный нелинейный интегральный оператор
11.4.2. Синтез оптимального нелинейного фильтра
в классе приводимых к линейным
11.4.3. Синтез оптимального нелинейного интегрального оператора
методом канонических разложений
11.4.4. Дополнения и задачи
11.5. Об общем синтезе оптимальных фильтров в классе
всех возможных фильтров методом канонических разложений
11.5.1. Вводные замечания
11.5.2. Общее решение методом канонических разложений
11.5.3. Случай нормального распределения сигнала и наблюдения
11.5.4. Дополнения и задачи
11.6. Синтез линейных фильтров Калмана методами канонических
представлений случайных функций
11.6.1. Синтез дискретного фильтра Калмана
11.6.2. Синтез дискретного фильтра Калмана методом
канонических разложений
11.6.3. Синтез непрерывных фильтров Калмана-Бьюси
11.6.4. Дополнения и задачи
Глава 12. Синтез бейесовых фильтров для обработки информации
12.1. Синтез оптимальных фильтров по сложно-статистическому
критерию
12.1.1. Общие условия экстремума скалярной функции
математического ожидания и дисперсии ошибки
12.1.2. Общие условия экстремума данной функции
математического ожидания и ковариационной матрицы
12.1.3. Оптимальный линейный фильтр
по сложно-статистическому критерию
12.1.4. Уравнения, определяющие оптимальное неоднородное
преобразование по сложно-статистическому критерию

12.1.5. Общий анализ уравнений, определяющих оптимальный линейный фильтр по сложно-статистическому критерию -
12.1.6. Дополнения и задачи
12.2. Синтез оптимальных фильтров по бейесовому критерию
методом канонических разложений
12.2.1. Вводные замечания
12.2.2. Постановка задачи
12.2.3. Формулы для определения бейесова оптимального фильтра .
12.2.4. Оценка качества бейесова фильтра
12.2.5. Основные результаты
12.2.6. Дополнения и и задачи
12.3. Синтез оптимального оператора по бейесовому критерию
в особых случаях
12.3.1. Общее решение задачи
12.3.2. Случай нормально распределенных сигнала и помехи
12.3.3. Дополнения и задачи
12.4. Синтез оптимальных фильтров по бейесовому критерию
при нелинейной зависимости наблюдений от параметров сигнала.
12.4.1. Общий метод синтеза оптимального фильтра
12.4.2. Случай, когда функция потерь - линейный функционал -

12.4.4. Об оценке качества бейесового оптимального фильтра
12.4.5. Случай, когда функция потерь является функционалом,
а сигнал и помеха распределены нормально
12.4.6. Заключительные замечания
12.4.7. Дополнения и задачи
12.5. Синтез дискретных нелинейных субоптимальных фильтров
методом канонических разложений
12.5.1. Вводные замечания
12.5.2. Дискретный метод нормальной аппроксимации
для нахождения одномерного апостериорного распределения
12.5.3. Дискретный квазилинейный субоптимальный фильтр
12.5.4. Методы, основанные на упрощении дискретных
фильтрационных уравнений
12.5.5. Об априорной точности дискретной нелинейной
субоптимальной фильтрации
12.5.6. Дополнения и задачи
12.6. Синтез дискретных фильтров Пугачёва методом
канонических разложений
12.6.1. Постановка задач дискретного условно оптимального
оценивания
12.6.2. Классы допустимых фильтров Пугачёва
12.6.3. Дискретный фильтр Пугачёва для нелинейных
регрессионных уравнений
12.6.4. Дискретный фильтр Пугачёва для нелинейных
авторегрессионных уравнений
12.6.5. О двух трактовках линейных дискретных фильтров
Калмана и Пугачёва


12.6.6. Дискретный линейный фильтр Пугачёва
12.6.7. Дополнения и задачи
Заключение
Приложение 1. Преобразования Лапласа и Фурье
Приложение 2. Характеристики типовых одномерных нелинейных преобразований
Приложение 3. Формулы для коэффициентов эквивалентной
линеаризации одномерных нелинейных преобразований
Приложение 4. Формулы для коэффициентов эквивалентной
линеаризации многомерных нелинейных преобразований
Приложение 5. Некоторые дискретные распределения случайных величин и их характеристики
Приложение 6. Некоторые непрерывные распределения случайных величин и их характеристики
Приложение 7. Функция Лапласа и ее производные
Приложение 8. Полиномы Эрмита скалярного и векторного аргумента
Приложение 9. Двусторонние границы Т-распределения
Приложение 10. Двусторонние границы х2-распределения
Приложение 11. Верхние 100 (1-а)%-ные точки х2-распределения
Приложение 12. Верхние 5%-ные и 1%-ные точки F-распределения
Приложение 13. "Информационные технологии и вычислительные системы", классификатор РФФИ (2009 г.)
Приложение 14. Характеристики типовых линейных систем
Приложение 15. Частотные характеристики типовых одномерных линейных систем
Приложение 16. Некоторые определенные интегралы и специальные функции
Приложение 17. Типовые модели линейных и нелинейных дифференциальных стохастических систем
Приложение 18. Типовые модели дискретных линейных и нелинейных стохастических систем
Приложение 19. Сведения о программном обеспечении
Приложение 20. Библиографические замечания
Список литературы
Предметный указатель