Articles /

Gram-Schmidt-prosessi

by Marco Taboga, PhD

Gram-Schmidt-prosessi (tai -proseduuri) on operaatioiden sarja, jonka avulla lineaarisesti riippumattomien vektoreiden joukko voidaan muuttaa ortonormaalisten vektoreiden joukoksi, joka kattaa saman avaruuden, jonka alkuperäinen joukko kattaa.

Sisällysluettelo

Alkusanat

Käydään läpi joitakin käsitteitä, jotka ovat olennaisia Gram-Schmidt-prosessin ymmärtämiseksi.

Muistetaan, että kahden vektorin $r$ ja $s$ sanotaan olevan ortogonaalisia, jos ja vain jos niiden sisäinen tuote on yhtä suuri kuin nolla, eli

Sisäisen tuotteen ollessa kyseessä voimme määritellä vektorin $s$ normin (pituuden) seuraavasti:

Vektorijoukkoa kutsutaan ortonormaaliksi, jos ja vain jos sen alkioilla on yksikkönormi ja ne ovat kohtisuorassa toisiinsa nähden. Toisin sanoen K vektorijoukko on ortonormaali, jos ja vain jos

Olemme todistaneet, että ortonormaalin joukon vektorit ovat lineaarisesti riippumattomia.

Kun vektoriavaruuden perusta on myös ortonormaali joukko, sitä sanotaan ortonormaaliksi perustaksi.

Projektiot ortonormaaleille joukoille

Gram-Schmidt-prosessissa käytämme toistuvasti seuraavaa lausetta, joka osoittaa, että jokainen vektori voidaan hajottaa kahteen osaan: 1) sen projektioon ortonormaalille joukolle ja 2) residuaaliin, joka on ortogonaalinen annetulle ortonormaalille joukolle.

Lauseke Olkoon $S$ vektoriavaruus, joka on varustettu sisäisellä tuotteella . Olkoon ortonormaali joukko. Kaikille $sin S$ on missä $arepsilon _{S}$ on ortogonaalinen $u_{k}$ kaikille $k=1,ldots ,K.$

Todistus

määritelmäTällöin jokaiselle $j=1,ldots ,K$ on, ettämissä: vaiheissa $rame{A}$ ja $rame{B}$ olemme käyttäneet hyväksi sitä tosiasiaa, että sisäinen tuote on lineaarinen ensimmäisessä argumentissaan; askeleessa $rame{C}$ olemme käyttäneet sitä tosiasiaa, että jos $keq j$, koska kyseessä on ortonormaali joukko; askeleessa $rame{D}$ olemme käyttäneet sitä tosiasiaa, että $u_{j}$:n normi on 1. Näin ollen $arepsilon _{S}$, kuten edellä on määritelty, on ortogonaalinen kaikille ortonormaalijoukon alkioille, mikä todistaa lauseen.

Termiä kutsutaan $s$:n lineaariprojektioksi ortonormaalijoukkoon , kun taas termiä $arepsilon _{S}$ kutsutaan lineaariprojektion residuaaliksi.

Normalisointi

Toinen ehkä itsestään selvä tosiasia, jota tulemme toistuvasti käyttämään Gram-Schmidt-prosessissa, on se, että jos otamme minkä tahansa nollasta poikkeavan vektorin ja jaamme sen sen normilla, niin jaon tuloksena saadaan uusi vektori, jolla on yksikkönormi.

Toisin sanoen, jos , niin normin määrällisyysominaisuuden nojalla meillä on, että

Tämän seurauksena voimme määritelläja normin positiivisuuden ja absoluuttisen homogeenisuuden nojalla, meillä on

Yleiskatsaus menettelyyn

Nyt kun tiedämme, miten vektori normalisoidaan ja miten se hajotetaan projektioksi ortonormaalijoukkoon ja jäännökseksi, olemme valmiita selittämään Gram-Schmidt-menettelyn.

Annamme yleiskatsauksen prosessista, jonka jälkeen ilmaisemme sen muodollisesti lauseena ja käsittelemme kaikki tekniset yksityiskohdat lauseen todistuksessa.

Tässä on yleiskatsaus.

Annetaan joukko lineaarisesti riippumattomia vektoreita .

Aluksi normalisoimme ensimmäisen vektorin, eli määrittelemme

Toisessa vaiheessa projisoimme $s_{2}$ $u_{1}$:: jossa $arepsilon _{2}$ on projisoinnin jäännös.

Sitten normalisoimme residuaalin:

Myöhemmin todistamme, että (jotta normalisointi voidaan suorittaa) koska lähtövektorit ovat lineaarisesti riippumattomia.

Näin saadut kaksi vektoria $u_{1}$ ja $u_{2}$ ovat ortonormaaleja.

Kolmannessa vaiheessa projisoimme $s_{3}$ vektoreihin $u_{1}$ ja $u_{2}$: ja laskemme projisoinnin residuaalin $arepsilon _{3}$.

Sitten normalisoimme sen:

Jatkamme näin, kunnes saamme viimeisen normalisoidun residuaalin $u_{K} $.

Prosessin lopussa vektorit muodostavat ortonormaalin joukon, koska:

  1. ne ovat normalisoinnin tulosta, ja näin ollen niillä on yksikkönormi;

  2. jokainen $u_{k}$ saadaan residuaalista, jolla on se ominaisuus, että se on ortogonaalinen :lle.

Tämän yleiskatsauksen täydentämiseksi muistutetaan, että :n lineaariväli on kaikkien niiden vektoreiden joukko, jotka voidaan kirjoittaa :n lineaarikombinaatioina; sitä merkitään ja se on lineaarinen avaruus.

Koska vektorit ovat :n lineaarisesti riippumattomia kombinaatioita, mikä tahansa vektori, joka voidaan kirjoittaa :n lineaarikombinaatioksi, voidaan kirjoittaa myös :n lineaarikombinaatioksi. Näin ollen näiden kahden vektorijoukon välit ovat yhtenevät:

Formaali lausuma

Formalisoimme tässä Gram-Schmidt-prosessin lauseeksi, jonka todistus sisältää kaikki menettelyn tekniset yksityiskohdat.

Asema Olkoon $S$ vektoriavaruus, joka on varustettu sisäisellä tuotteella . Olkoon lineaarisesti riippumattomia vektoreita. Silloin on olemassa joukko ortonormaaleja vektoreita siten, ettäjokaiselle $kleq K$.

Todistus

Todistus tapahtuu induktiolla: ensin todistetaan, että lause on tosi $k=1$:lle, ja sitten todistetaan, että se on tosi geneeriselle k:lle, jos se pätee $k-1$:lle. Kun $k=1$, vektorilla on yksikkönormi ja se muodostaa itsessään ortonormaalin joukon: muita vektoreita ei ole, joten ortogonaalisuusehto täyttyy triviaalisti. Joukkoon kaikkien niiden $s_{1}$:n skalaarikertojen joukko, jotka ovat myös $u_{1}$:n skalaarikertoja (ja päinvastoin). Näin ollen, Ja nyt oletetaan, että lause on tosi $k-1$:lle. Silloin voimme projisoida $s_{k}$ kohtaan :, jossa jäännös $arepsilon _{k}$ on ortogonaalinen :lle. Oletetaan, että $arepsilon _{k}=0$. Silloin,Jos oletuksen mukaan mille tahansa $jleq k-1$, on mille tahansa $jleq k-1$, missä $lpha _{jl}$ ovat skalaareja. Näin ollen,Muilla sanoilla, oletus, että $arepsilon _{k}=0$ johtaa johtopäätökseen, että $s_{k}$ on lineaarikombinaatio . Mutta tämä on mahdotonta, koska yksi lauseen oletuksista on, että ovat lineaarisesti riippumattomia. Tästä seuraa, että on oltava, että . Voimme siis normalisoida residuaalin ja määritellä vektorin, jolla on yksikkönormi. Tiedämme jo, että $arepsilon _{k}$ on ortogonaalinen :lle. Tästä seuraa, että myös $u_{k}$ on ortogonaalinen :lle. Näin ollen on ortonormaali joukko. Otetaan nyt mikä tahansa vektori $sin S$, joka voidaan kirjoittaa muodossa, jossa ovat skalaareja. Koska oletuksen mukaan yhtälö (2) voidaan kirjoittaa myös muodossajossa ovat skalaareja, ja: askeleessa $rame{A}$ olemme käyttäneet yhtälöä (1); askeleessa $rame{B}$ olemme käyttäneet määritelmää $u_{k}$. Näin olemme todistaneet, että jokainen vektori, joka voidaan kirjoittaa :n lineaarikombinaatioksi, voidaan kirjoittaa myös :n lineaarikombinaatioksi. Oletus (3) mahdollistaa käänteisen todistamisen täysin analogisella tavalla: Toisin sanoen jokainen :n lineaarikombinaatio on myös :n lineaarikombinaatio. Tämä todistaa, että ja päättää todistuksen.

Jokaisella sisäisen tuotteen avaruudella on ortonormaali perusta

Seuraava propositio esittää tärkeän seurauksen Gram-Schmidt-prosessista.

Propositio Olkoon $S$ vektoriavaruus, joka on varustettu sisäisellä tuotteella . Jos $S$$:llä on äärellinen ulottuvuus , niin $S$$:lle on olemassa ortonormaali perusta .

Todistus

Sen vuoksi, että $S$$ on äärellisulotteinen, $S$:lle $S$ on olemassa vähintään yksi perusta, joka koostuu K vektoreista . Voimme soveltaa Gram-Schmidt-menettelyä perustaan ja saada ortonormaalijoukon . Koska on perusta, se kattaa $S$. Näin ollen Siten on $S$:n ortonormaali perusta.

Ratkaistuja harjoituksia

Alla on muutamia harjoituksia selitettyine ratkaisuineen.

Harjoitus 1

Tarkastellaan avaruutta $S$$ kaikista $3 kertaa 1$ vektoreista, joilla on reaaliset merkinnät ja sisäinen tuote, jossa $r,sin S$< ja $s^{op }$ on $s$ transponointi. Määritellään vektori

Normalisoidaan $s$.

Ratkaisu

Normin $s$ normi onSiten, $s$:n normi on

Harjoitus 2

Tarkastellaan avaruutta $S$ kaikista $2 kertaa 1$ vektoreista, joilla on reaaliset merkinnät ja sisäinen tuote, jossa $r,sin S$ . Tarkastellaan kahta lineaarisesti riippumatonta vektoria

Muunnetaan ne ortonormaalijoukoksi Gram-Schmidtin prosessin avulla.

Ratkaisu

Normin $s_{1}$ normi on Siten, ensimmäinen ortonormaali vektori on $s_{2}$:n ja $u_{1}$:n sisäinen tulo on $s_{2}$:n projektio $u_{1}$:lle onProjektion jäännös onJäännöksen normisto onja normalisoitu jäännös onTässä, etsimämme ortonormaali joukko on

How to cite

Please cite as:

Taboga, Marco (2017). ”Gram-Schmidtin prosessi”, Luentoja matriisialgebrasta. https://www.statlect.com/matrix-algebra/Gram-Schmidt-process.

Leave a Reply