Лінійні системи рівнянь

Реферат
Тема: «Лінійні системи рівнянь»

Зміст
1. Рівняння, вектори, матриці, алгебра
2. Множення матриць як зовнішнє твір векторів
3. Норми векторів і матриць
4. Матриці і визначники
5. Власні значення та власні вектори
6. Ортогональні матриці з власних векторів
7. Функції з матричним аргументом
8. Обчислення проекторів матриці
Приклад використання числових характеристик матриць
10. Оцінка величини і знаходження власних значень
Література

1. Рівняння, вектори, матриці, лінійна алгебра
Багато з розглянутих нами завдань зводилися до формування систем лінійних алгебраїчних або диференціальних рівнянь, які потрібно вирішити. Поки системи включали в себе не більше трьох-чотирьох змінних, їх нескладно було вирішувати відомими класичними методами: методом визначників (Крамера) або методом виключення змінних (Гауса). З появою цифрових обчислювальних машин порядок алгебраїчних рівнянь, що розв'язуються методом виключень виріс у декілька десятків разів. Однак виявилося безліч причин, за якими рішення таких систем отримати не вдавалося. З'явилися різні модифікації методу виключення не привели до істотних поліпшень ситуації з отриманням рішень. Поява ж систем з кількістю змінних більше багатьох сотень і тисяч змусили звернутися і розвивати ітераційні методи та методи еквівалентних векторно-матричних перетворень стосовно до рішення лінійних систем алгебраїчних рівнянь.
Основні теоретичні результати були отримані шляхом узагальнення відомих класичних методів функціонального аналізу та алгебри скінченновимірних лінійних просторів на векторно-матричні представлення систем лінійних алгебраїчних і диференціальних рівнянь.
Загальна форма запису лінійної системи алгебричних рівнянь з n невідомими може бути представлена ​​наступним чином:

Тут - Невідомі,
- Задані числа,
- Задані числові коефіцієнти.
Послідовність запису рівнянь в системі та позначення невідомих у останньої не грає ролі. У цьому плані зручно при аналізі та дослідженнях системи використовувати впорядковану індексацію натурального ряду для невідомих, значень правих частин і коефіцієнтів у рівняннях, однозначно прив'язуючи, тим самим, кожний доданок і кожне рівняння до певної позиції у загальній запису. У результаті можна виділити в даній запису рівнянь три позиційно упорядкованих неподільних об'єкту:
список змінних - ,
список правих частин - і
матрицю коефіцієнтів - .
Перші два об'єкти в лінійній алгебрі називають вектором-рядком, а другий - квадратною матрицею.
Операції з векторами, матрицями повинні бути визначені так, щоб однозначно відображати допустимі еквівалентні перетворення вихідної системи алгебраїчних рівнянь. У граничних випадках завдання векторів і матриць: , - Адитивні і мультиплікативні операції повинні переходити в аналогічні операції зі скалярними величинами.
Якщо розглянути i-ту рядок вихідної системи
,

то в ній крім впорядкованого розташування компонент присутній впорядковане за індексом j розміщення коефіцієнтів , Які можуть розглядатися як вектор-рядок . Результатом суми покомпонентного перемножування двох векторів-рядків має бути число. У лінійній алгебрі така операція з векторами визначена і названа скалярним або внутрішнім добутком векторів:
.
Скалярний твір лінійно, оскільки володіє основними властивостями лінійних перетворень , І комутативне.
Визначення скалярного твору дозволяє переписати вихідну систему рівнянь у вигляді вектора з компонентами зі скалярних творів:

або
.
Друга форма представлення векторів у формі стовпців більше наочна в сенсі зорового встановлення покомпонентного рівності двох векторів: стоїть ліворуч від знака рівності і справа. Ця форма, форма вектора-стовпця прийнята за канонічну (основну).
Лівий вектор-стовпець у записі кожного рядка містить вектор невідомих і природне бажання винести його за прямі дужки. Решта коефіцієнти впорядковані, як в матриці . Тепер для подання вихідної системи рівнянь у вигляді нескладно визначити векторно-матричну операцію , Результатом якої є вектор з i-тої компонентою, яка дорівнює .
Аксіоматична побудова лінійної (векторної) алгебри з розглянутими базовими операціями дозволило встановити важливі і корисні властивості, як самих об'єктів алгебри, так і їх алгебраїчних виразів.
2. Множення векторів і матриць
Серед n-мірних векторів і векторних операцій над ними важливо виділити суму n векторів, помножених на числові константи:
,
яка при довільному виборі , зокрема, може виявитися нульовим вектором (з нульовими компонентами) або одним з сумовних векторів . Якщо нульовий вектор при підсумовуванні не нульові векторів можна отримати лише у випадку, коли всі , То такі вектори в наборі називають лінійно незалежними. Такими векторами зокрема будуть одиничні вектори , У яких всі компоненти нульові, крім одиничної компоненти, розташованої на j-рядку.
Лінійно незалежний набір одиничних векторів з геометричної точки зору можна розглядати як n-мірну систему координат. Набір компонент будь-якого вектора в цій n-мірною системі визначає координати точки кінця вектора, що виходить з початку координат, а також є довжинами проекцій вектора на координатних осях.
Серед матриць розміру та операцій з ними в першу чергу необхідно відзначити операцію множення матриці на матрицю. Необхідність введення операції множення матриць виникає вже при першому погляді на отриману векторну форму запису лінійного рівняння . Вектори ліворуч і праворуч мають рівні частини. Оскільки коефіцієнти у рядках матриці в загальному довільні по величині, то відповідні компоненти вектора x не зобов'язані бути рівними компонентів вектора y. Останнє означає, що множення вектора x на матрицю A викликало зміна довжини та напрямки вектора x. Якщо аналогічне перетворення виконується над вектором правій частині до рішення рівняння, то вектор лівої частини повинен бути перетворений так само:
.
Фактично ми маємо справу із заміною системи координат. Розглянемо методику обчислення коефіцієнтів результуючої матриці рівняння:


,
де - Елемент матриці С, що дорівнює скалярному добутку вектор-рядки матриці В на вектор-стовпець матриці А.
Твір матриць в загальному випадку не комутативне. Асоціативний і розподільний закони в матричних виразах виконуються.
3. Норми векторів і матриць
Інтерпретація упорядкованого набору чисел, як вектора в багатовимірному просторі, дозволяє говорити і про його довжині. У прямокутній системі координат за відомим довжинам проекцій на координатні осі довжину самого вектора обчислюють, як корінь квадратний із суми квадратів проекцій:
,
де - Компоненти вектора ,
- Евклідова норма вектора, його довжина.
Як норми в літературі іноді використовують квадрат довжини вектора чи інший вираз з компонентами вектора, лише б вона мала властивостями відстані: було позитивним, лінійним і задовольняло нерівності трикутника.
Розподіл вектора на величину його норми називають нормуванням, тобто приведенням вектора до одиничної довжині.
Норма матриці в принципі теж може бути визначена у вигляді кореня квадратного з суми квадратів її елементів або іншими виразами з властивостями відстаней. Проте у ряді випадків роботи з векторно-матричними виразами норми векторів і матриць повинні бути узгодженими з огляду на те, що результатом твори матриці на вектор є знову ж таки вектор. Якщо вираз для норми вектора прийнято, то
,
де функція sup говорить про те, що з усіх відносин норм, які стоять у чисельнику та знаменнику, взятих при будь-якому векторі x, крім нульового, вибирається найменше, тобто це функція вибору нижньої межі значень. Узгоджена матрична норма для евклідової норми вектора задовольняє нерівності
.
Норми вектора і матриці служать, в основному, для порівняльної оцінки матриць та векторів, вказуючи на можливий діапазон подання суворих числових характеристик. До числа останніх, в першу чергу, потрібно віднести визначники матриць, власні значення і власні вектори матриць і ряд інших.
4. Матриці і визначники
Упорядкований набір коефіцієнтів з системи лінійних алгебраїчних рівнянь використовується для отримання числової характеристики, величина якої інваріантна по відношенню до еквівалентних перетворень системи. Мова йде про визначнику матриці. Важлива властивість визначників матриці виявляється у зв'язку з обчисленням твори матриць:

З огляду на це властивість і знаючи, що визначник одиничної матриці det (E) = 1, можна знайти матрицю B і її визначник з рівняння:

звідки випливає, що і .
З властивостей визначників не зайве пам'ятати й такі:

де - Транспонована матриця A,
n - розмір квадратної матриці A,
- Матриця перестановки рядків або стовпців,
s, c = 0,1, ..., n - число виконаних перестановок рядків і / або стовпців.
Якщо зворотна матриця вихідної системи рівнянь визначена, то, використовуючи еквівалентні перетворення їх векторно-матричної запису, рішення рівнянь можна представити в наступному вигляді:


Помноживши вектор правих частин на обернену матрицю, отримаємо вектор розв'язок.
Класичний спосіб обчислення зворотної матриці використовує визначники і здійснюється за формулою:
,
де - Алгебраїчне доповнення, а - Мінор матриці A, що отримується обчисленням визначника матриці A, в якій викреслені j-та рядок і i-тий стовпець.
Такий спосіб обчислення визначника представляє в основному теоретичний інтерес, тому що вимагає виконання невиправдано великої кількості операцій.
Дуже просто обчислюється визначник, якщо матриця діагональна або трикутна. У цьому випадку визначник дорівнює добутку діагональних елементів. До речі і рішення рівнянь, що мають такі матриці коефіцієнтів, виходять тривіально. Тому основні зусилля розробників методів розв'язання алгебраїчних рівнянь спрямовані на пошук і обгрунтування еквівалентних перетворень матриці зі збереженням усіх її числових характеристик, але що мають у кінці перетворень діагональну або трикутну форму.
5. Власні значення та власні вектори
Розглянемо теоретичні основи і методи, що дозволяють виконувати еквівалентні матричні перетворення.
Знайдемо вектор, який під впливом матриці A змінює лише свою величину, але не напрямок. Для системи рівнянь це означає, що вектор рішення повинен бути пропорційний з деяким коефіцієнтом вектору правої частини:

У результаті нескладних перетворень отримані однорідні векторно-матричні рівняння в столбцовой і в малої формах з деяким числовим параметром і невідомим вектором-стовпцем x і вектором-рядком , Що представляють власний стан системи. Однорідна система може мати відмінне від нуля рішення лише в тому випадку, коли визначник її дорівнює нулю. Це випливає з формул отримання рішення методом визначників (Крамера), в яких і визначник знаменника, і визначник чисельника виявляються рівними нулю.
Вважаючи, що рішення все-таки існує, тобто і , Задовольнити рівняння можна тільки за рахунок прирівнювання нулю визначника однорідної системи:

Розкривши визначник і згрупувавши доданки при однакових ступенях невідомого параметра, отримаємо алгебраїчне рівняння ступеня n щодо :

Це рівняння називається характеристичним рівнянням матриці і має в загальному випадку n коренів, можливо комплексних, які називаються власними значеннями матриці і в сукупності становлять спектр матриці. Щодо n коренів розрізняють два випадки: всі корені різні або деякі коріння кратні.
Важливою властивістю характеристичного рівняння матриці A є те, що згідно теоремі Гамільтона-Келі, матриця A задовольняє йому:

де - K-та ступінь матриці.
Підставляючи кожне в однорідну систему, одержимо векторно-матричні рівняння для знаходження векторів або векторів-рядків . Ці вектори називаються відповідно правими власними векторами і лівими власними векторами матриці.
Рішення однорідних рівнянь має деяку специфіку. Якщо (Як в рівній мірі і ) Є рішенням, то, будучи помноженим на довільну константу, воно теж буде рішенням. Тому в якості власних векторів беруть такі вектори, які мають норму, рівну одиниці, і тоді:

Якщо всі власні числа різні, то власні вектори матриці A утворюють систему n лінійно незалежних векторів таких, що


6. Ортогональні матриці з власних векторів
З правих власних векторів можна скласти матрицю T, а з лівих - матрицю , Які володіють унікальними властивостями по відношенню до матриці A.


Помноживши матрицю A зліва на матрицю , А праворуч - на матрицю T, після нескладних перетворень отримаємо:

.

Кожне скалярний добуток в матриці, беручи до уваги лінійну незалежність власних векторів, отриманих для різних власних значень, можна перетворити так:

Тому, результатом перетворення матриці A буде діагональна матриця з власними значеннями, розташованими на діагоналі:

Якщо замість A взяти одиничну матрицю і проробити аналогічні перетворення, то стане очевидним рівність , Звідки слід . Останнє дозволяє для перетворення матриці A в діагональну обходитися лише системою правих власних векторів-стовпців:

Остання показує, що множення матриці A на зліва і на S праворуч, де S - довільна не особлива матриця, перетворює її в деяку матрицю B, яка має визначник, рівний визначнику матриці A. Такі перетворення матриць називають еквівалентними (подібними).
Продовжуючи використовувати T-матрицю, нескладно отримати наступні важливі результати:

.
7. Функції з матричним аргументом
Нехай тепер задана деяка матрична функція від матриці A:


.
З іншого боку очевидно і зворотне

,
де - Матриця з однією одиницею на i-тому місці діагоналі ( ).



де - Проектори матриці A, утворені множенням однойменних правих і лівих власних векторів за правилами множення прямокутних матриць з розмірами відповідно і . Сума проекторів .
Проектори мають властивості Ідемпотентний матриць, тобто матриць, всі ступені яких рівні першої. Для невироджених проекторів ( ) Матриці A ( ) Справедливо:

Представлення функції від матриці A у вигляді зваженої суми проекцій називається спектральним розкладанням матричної функції з власним значенням матриці A:
.

Якщо в якості матричних функцій взяти і , То їх спектральні розкладання будуть наступними:

8. Обчислення проекторів матриці
Проектори матриці можна також обчислити, скориставшись інтерполяційним многочленом Лагранжа з матричним аргументом:

За відомим спектру проектори матриці можна знайти і методом невизначених коефіцієнтів. Для чого вибирають такі функції від матриці A, які обчислюються очевидним чином, наприклад, такі:

Записуючи розклад для кожної функції, отримаємо наступну систему лінійних рівнянь відносно проекторів:

У випадку, коли в спектрі матриці існують кратні власні значення, обчислення проекторів здійснюється за інтерполяційним формулами Лагранжа, враховує ще й задані значення похідних в окремих точках. Розкладання матричної функції за значеннями її на спектрі у цьому випадку має вигляд:


де - Значення i-тих вироб-водних функції в точках, які відповідають різним (не кратним) коріння характеристичного многочлена,
- Число кратних коренів ,
- Проектори кратних коренів, у виразі яких містяться
- Проектори різних коренів.
9. Приклад використання числових характеристик матриць
Знання власних значень матриці і її проекторів дозволяє виконувати обчислення аналітичних функцій виходять, наприклад, при рішеннях систем лінійних диференціальних рівнянь, при дослідженнях еквівалентних матричних перетворень і пр.
Для прикладу побудуємо матрицю з заданими власними значеннями і власними векторами, заснованими на векторах .
Спочатку необхідно переконатися в лінійній незалежності вихідних векторів і добитися того, щоб ліві і праві однойменні власні вектори виявилися ортогональними, тобто . Перевірка лінійної незалежності може бути об'єднана з процесом ортогоналізації заданої системи векторів методом Грама-Шмідта.
Для заданих векторів побудуємо систему векторів таких, що , Наступним чином:

Звідки послідовно знаходяться коефіцієнти :




Взаємної ортогональності векторів v можна було б домагатися і так, щоб кожен був ортогонален кожному , Поклавши і прирівнявши нулю скалярні добутки :

Визначник цієї системи називають визначником Грама:

,
де - Матриця, в загальному випадку комплексно сполучена з матрицею
, Складеної із заданих векторів.
Якщо граміан позитивний, а він завжди неотрицатель, то вектори лінійно незалежні, а якщо дорівнює нулю, то залежні. Це один із способів перевірки конкретного набору векторів на їх лінійну незалежність.
Для заданого вище набору векторів визначник твори матриці X на транспоновану X * буде дорівнює

Таким чином, задана система векторів лінійно незалежна. Для побудови ортонормованій системи векторів послідовно обчислимо коефіцієнти і ортогональні вектори:

Після нормування вектори утворюють праву систему власних векторів. Транспонована Т-матриця з цими векторами є -Матриця ( ); Її рядки є власними лівобічними векторами:
.

Зовнішнє (матричне) твір кожного нормованого вектора самого на себе дає нам проектори шуканої матриці:

Множачи кожну власну значення із заданого набору на свій проектор і підсумовуючи, отримаємо:
.
Аналогічно виходить обернена матриця:
.
За допомогою цих же проекторів обчислюється будь-яка аналітична функція, аргументом якої є матриця A:
.
10. Оцінка величини і знаходження власних значень
Короткий розгляд основних теоретичних положень лінійної алгебри дозволяє зробити наступні висновки: для успішного розв'язання систем лінійних алгебраїчних рівнянь і обчислень матричних функцій необхідно вміти знаходити її власні значення і власні вектори.
Для будь-якої матриці A з дійсними компонентами і будь-якого ненульового вектора v існує відношення Релея, що зв'язує скалярний добуток векторів v і A v з мінімальним і максимальним власними значеннями:
.
До висловлену необхідно зробити ще ряд зауважень, пов'язаних з випадками, коли вихідна матриця має кратні власні значення або виявляється виродженої.
Характеристичне рівняння матриці A з кратним коренем можна записати у вигляді
.
На підставі цього запису можна отримати мінімальне характеристичне рівняння , Для якого матриця A також є коренем:
.
Особливості в частині визначення власних значень і векторів зазвичай виникають в несиметричних матрицях ( ). Деякі з них ніякими подібними перетвореннями не вдається звести до діагональної. Наприклад, не піддаються діагоналізацією матриці n-го порядку, які не мають n лінійно незалежних власних векторів. Однак будь-яка матриця A розміру за допомогою перетворення подібності може бути приведена до прямої суми Жорданових блоків або до канонічної жорданова формі:
,
де A - довільна матриця розміру ;
- Жорданом блок розміру ;
V - деяка невироджена матриця розміру .
Характеристичне рівняння жорданова блоку розміру незалежно від кількості одиниць у верхній діагоналі записується у вигляді добутку однакових співмножників і, отже, має тільки кратних коренів:
.
Якщо виразити матрицю V в формі вектора з компонентами у вигляді векторів-стовпчиків , То з рівності AV = VJ для кожного жорданова блоку слід співвідношення
.

Тут в залежності від структури верхньої діагоналі, в якій може бути або нуль, або одиниця. Якщо жорданова блоки мають розмір , То ми маємо випадок симетричної матриці або матриці з різними власними значеннями.
При пошуку рішень систем лінійних рівнянь з несиметричними матрицями, останні прагнуть тими чи іншими прийомами звести до виразу з симетричними матрицями.
Один з можливих підходів до вирішення несиметричних лінійних систем полягає в заміні вихідної системи еквівалентною системою:
.
Недолік цього підходу полягає в тому, що захід обумовленості твори матриці A на свою транспоновану, оцінювана ставленням , Виявляється більше, ніж у матриці A.
Під мірою обумовленості розуміють відношення найбільшого власного значення матриці до найменшого. Це ставлення впливає на швидкість збіжності ітераційних процедур при вирішенні рівнянь.
Отже, основними алгебраїчними системами рівнянь можна вважати неоднорідні системи рівнянь з симетричними матрицями коефіцієнтів.

Література
1. Вержбицький В.М. Основи чисельних методів: Підручник для вузів - 3-е вид. М: Вища школа, 2009. - 840 с.
2. Самарcкій А.А. Завдання і вправи з чисельних методів. Вид. 3 Вид-во: КомКніга, ЛКІ, 2006. - 208 с.
3. Турчак Л.І., Плотніков П.В. Основи чисельних методів. Вид-во: Фізматліт ®, 2003. - 304 с.
4. Хеннер Є.К., Лапчик М.П., ​​Рагуліна М.І. Чисельні методи. Вид-во: «Академія / Academia», 2004. - 384c.
5. Чистяков С.В. Чисельні і якісні методи прикладної математики. СПб: 2004. - 268 с.