Skalarni proizvod

Поопштавамо линеарне структуре сабирања и скаларног множења простора ℝ² и ℝ³ занемарујући неке важне особине, рецимо дужина и углова. Тело скалара Φ углавном су реални (ℝ) или комплексни (ℂ) бројеви, а X означава векторски простор над њима. Разматрамо „унутрашње просторе“ вектора x, y ∈ X снабдевене скаларним производом \( \vec{x}\cdot \vec{y} = \langle x, y \rangle \) и „линеарне функционеле“, пресликавања φ : X → Φ. У литератури су честе ознаке V, U и W за овде кориштене X, Y и Z. Тело скалара тада је F уместо Φ.

1. Унутрашњи производ

1.1. На слици десно је Декартов правоугли систем координата OXYZ са тачком A(x, y, z) и окомитим пројекцијама на равни OXY, OYZ, OZX у тачкама B(x, y, 0), C(0, y, z), D(x, 0, z) истим редом. Тачка A је врх вектора \(\vec{a}\), орјентисане дужи (OA) дужине ознаке \( a = \|a\|\) обично:

\[ \overrightarrow{OA} = x\vec{i} + y\vec{j} + z\vec{k}, \quad \|a\| = \sqrt{x^2 + y^2 + z^2}. \]

Овде су \(\vec{i}, \vec{j}, \vec{k}\) јединични вектори координатних оса, тзв. ортови оса \(x, y, z\) редом.

Углови које вектор \(\vec{a}\) има са апсцисом, ординатом и апликатом (x, y и z-осом) су α_x, α_y, α_z, па је

\[ \cos^2\alpha_x + \cos^2\alpha_y + \cos^2\alpha_z = 1, \]

што такође следи из Питагорине теорема, као и дужина дијагонале a датог квадра. Када нам вектори значе тачке уместо стрелица, онда са \(\|a\|\) означавамо растојање од исходишта до тачке A.

1.2. На слици лево, датом вектору \(\vec{a}\) у истом систему придодат је и вектор \(\vec{b}\), који са првим заклапа угао φ = ∠AOB. Тај вектор је са врхом у тачки B(b_x, b_y, b_z), која га потпуно одређује када подразумевамо да вектори крећу из исходишта координатног система, из тачке O. Углови вектора \(\vec{b}\) са координатним осама су β_x, β_y, β_z, па је опет

\[ \cos^2\beta_x + \cos^2\beta_y + \cos^2\beta_z = 1, \]

а затим и интензитет \(b = \|b\| = \sqrt{b_x^2 + b_y^2 + b_z^2}\).

Пројекција дужи OB на дуж OA је дуж OB' дужине |OB'| = b⋅cos φ, па је производ пројекције и дужине на коју је пројектована

\[ \vec{a}\cdot \vec{b} = ab\cos\varphi. \]

Ово је дефиниција скаларног (унутрашњег, или тачка) производа наведених вектора. Примењена на ортове, даје:

\[ \vec{i}\cdot\vec{i} = 1, \quad \vec{i}\cdot\vec{j} = 0, \quad \vec{i}\cdot\vec{k} = 0, \] \[ \vec{j}\cdot\vec{i} = 0, \quad \vec{j}\cdot\vec{j} = 1, \quad \vec{j}\cdot\vec{k} = 0, \] \[ \vec{k}\cdot\vec{i} = 0, \quad \vec{k}\cdot\vec{j} = 0, \quad \vec{k}\cdot\vec{k} = 1, \]

јер је cos 0 = 1, а cos 90^o = 0. Са овим резултатима и користећи ознаке A(a_x, a_y, a_z), израчунавамо:

\[ \overrightarrow{OA}\cdot \overrightarrow{OB} = (a_x\vec{i} + a_y\vec{j} + a_z\vec{k})\cdot (b_x\vec{i} + b_y\vec{j} + b_z\vec{k}) = a_xb_x + a_yb_y + a_zb_z. \]

Дакле, \( \vec{a}\cdot\vec{b} = ab\cos\varphi = a_xb_x + a_yb_y + a_zb_z \). То су једнакости скаларног производа вектора, пре свега код орјентисаних дужи, које је иначе корисно познавати. Поопштења овога видите међу тензорима.

1.3. На пример, како вектори \(\vec{a}, \vec{b}\) разапињу паралелограм страница a и b, то ће вектори \(\vec{a} \pm \vec{b}\) делити угао између њих на два једнака дела ако и само ако је a = b, ако је тај паралелограм ромб. Да би била испуњена једнакост \(\|\vec{a} + \vec{b}\| = \|\vec{a} - \vec{b}\|\) потребно је и довољно да је φ = 90^o. Ево још неколико примера на ову тему.

1. Задаци:

1. Наћи угао између вектора \(\vec{a} = p\cos\phi \ \vec{i} + p\sin\phi \ \vec{j}\) и \(\vec{b} = p\cos\phi \ \vec{i} - p\sin\phi \ \vec{j}\).
2. Наћи параметре α и β да је вектор \(\vec{a} = (2, \alpha, \beta)\) окомит на \(\vec{b} = (-1, 4, 2)\) и \(\vec{c} = (3, -3, 1)\).
3. За које λ су вектори a = (1, -1, λ), b = (1, λ, -1) и c = (3, 1, λ/2) линеарно зависни?

Векторе пишемо обичним словима, па и масним као овде (a = \(\vec{a}\)), пазећи да то не доводи до забуне.

Решења: i. Из \(\vec{a}\cdot\vec{b} = pq\cos 2\phi\), \(\|\vec{a}\| = |p|\) и \(\|\vec{b} = |q|\) следи \(\angle(\vec{a}, \vec{b}) = 2\phi\).

ii. Из \(\vec{a}\cdot \vec{b}\) и \(\vec{a}\cdot\vec{c} = 0\) следи \(-2 + 4\alpha + 2\beta = 0\) и \(3 - 3\alpha + \beta = 0\), а отуда \(\alpha = \frac45\) и \(\beta = -\frac35 \).

iii. Из c = xa + yb налазимо (3, 1, λ/2) = (x + y, -x + λy, λx - y), а отуда λ = 1/3. □

1.4. Резимирајмо особине скаларног производа, са ознакама из претходних наслова:

1. \(x \cdot x \ge 0\) за све \(x \in \mathbb{R}^n\);
2. \(x \cdot x = 0\) акко \(x = 0\);
3. \(x \cdot y = y\cdot x\) за све \(x, y \in \mathbb{R}^n\);
4. за фиксирано \(y \in \mathbb{R}^n\) пресликавање \(x \cdot y \) је линеарно.

Комплексни број \(z = x + iy \in \mathbb{C}\), при чему су \(x, y \in \mathbb{R}\), има апсолутну вредност (модуо) \(|z| = \sqrt{x^2 + y^2}\) и коњуговану вредност \(z^* = x - iy\), тако да је \(zz^* = |z|^2\). Доследно претходном било би дефинисати скаларни производ вектора комплексних коефицијената \(u = (u_1, ..., u_n)\) и \(v = (v_1, ..., v_n) \) са

\[ u \cdot v = u_1v_1^* + ... + u_nv_n^*. \]

Управо горње опште су особине скаларног производа (Inner Product), писане Дираковим заградама:

• \( \langle u , u\rangle \ge 0 \) — позитивност;
• \( \langle u , u \rangle = 0 \) акко \(u = 0\) — одређеност;
• \( \langle u + v , w \rangle = \langle u , w \rangle + \langle v , w \rangle \) — адитивност првог фактора;
• \( \langle \lambda u , w \rangle = \lambda \langle u , w \rangle \) — хомогеност првог фактора;
• \( \langle u , w \rangle = \langle w , u \rangle^* \) — коњугована симетрија;

за све u, v, w ∈ X и λ ∈ Φ. Лако је видети да у случају реалних бројева ове ставке постају претходне особине, односно да се своде на скаларно множење орјентисаних дужи. Скаларно множење се на Дираков начин пише и \( \langle u | v \rangle \). Ове ставке сматрамо дефиниционим.

Горњи збир производа у случају реалних компоненти u_k и v_k припада Еуклидовом n-простору X над Rⁿ, а скаларни производ се сматра стандардним. Каткад еуклидским сматрамо и такав збир производа над ℂⁿ. У случају конвергентних низова овакви су бесконачни збирови (n → ∞), a у случају полинома \(f, g \in \mathcal{P}(X)\) такав је интеграл

\[ \langle f , g \rangle = \int_a^b f(z)g^*(z) \ dz, \]

где је g^*(z) коњуговано комплексан полином g(z). Када радимо уопште са непрекидним комплексним функцијама на интервалу [a, b] простор означавамо са C(a,b). Оваква скаларна множења типична су у Хилбертовим просторима (Cauchy sequence), када се означавају са малим и великим ел два, ℓ₂ и L₂, за збирове и интеграле.

Простор унутрашњих производа (inner product space) је векторски простор X заједно са скаларним производом дефинисаним у њему.

2. Норме

Комплексне бројеве z = x + iy ∈ ℂ, које овако означавамо са реалним бројевима x, y ∈ ℝ и имагинарном јединицом i² = -1, у комплексној равни (такође ознаке ℂ) представљамо помоћу тачака. Пројекције тих тачака на x-осу (апсцису) зову се реалним деловима комплексних бројева, односно комплексних тачка попут z, а пројекције на y-осу (ординату) су њихови имагинарни делови.

2.1. Према томе, Re(z) = x и Im(z) = y, као на слици десно. Дате тачке постају еквивалент векторима, као у претходном тексту, затим имамо и углове ∠XOA = α, ∠XOB = β = α + φ, при чему је C = AB производ комплексних тачака A и B. Међутим, може се доказати ∠XOC = α + β и у томе је лепота комплексних бројева коју је први откривао Леонард Ојлер (1707-1783).

Наиме, из A = a_x + ia_y преко тачке A(a_x, a_y) стижемо до дужи OA дужине \(a = \sqrt{a_x^2 + a_y^2}\) и угла α, који се називају модулом и аргументом комплексног броја A. Затим, те пројекције и број пишемо помоћу нових података:

\[ A = a\cos\alpha + ia\sin\alpha = ae^{i\alpha}, \]

где се експоненцијални запис може доказати функционалном анализом, развојем синусне, косинусне и експоненцијалне функције у Тејлорове редове. Даље је елементарни рачун:

\[ C = AB = (a\cos\alpha + ia\sin\alpha)(b\cos\beta + ib\sin\beta) = ab\cos(\alpha+\beta) + iab\sin(\alpha+\beta), \]

који се завршава адиционим формулама тригонометрије. Уместо тога, можемо једноставно применити множење експоненцијалних функција исте базе:

\[ C = AB = e^{i\alpha}e^{i\beta} = e^{i(\alpha + \beta)}. \]

Резултат је исти, да се комплексни бројеви у комплексној равни множе тако да им се множе модули, а аргументи сабирају. Множитељ ротира множеника даље у имагинарни домен за сопствени отклон од реалне осе, па када множимо коњуговано комплексне бројеве ови се отклони поништавају; тада остаје само производ модула и реалност резултата.

2.2. Ово објашњење множења комплексних бројева, баш овакво, битно је за разумевање информације перцепције (Збир производа). Када скаларно множимо низове, векторе комплексних коефицијената \(\vec{a} = (a_1, ..., a_n)\) и \(\vec{b} = (b_1, ..., b_n)\), настаје \(Q = \sum_k a_kb^*_k\) збир комплексних бројева аргумента \( \alpha_k - \beta_k \).

Сваки сабирак представља чин отклона, из имагинарног ка реалном, поједине ставке око које рецимо субјекат и објекат имају способност комуникације. Када су предате и примљене информације једнаке, када је неко \( \alpha_k - \beta_k = 0 \), тада имамо реалну информацију перцепције k-те ставке. Реална перцепција стања објекта од стране субјекта тражи овакво поклапање по довољно битних својстава објекта, да за свако такво буде \( \alpha_k - \beta_k = 0 \). Када су овакви низови довољно дуги и састоје се од коефицијената који добро мере неизвесности примљених и предатих порука, онда имамо реалну комуникацију између \( \vec{a} \) и \( \vec{b} \) и информацију перцепције Q у ужем смислу.

2.3. Сличну интерпретацију има квантна механика. Аналогно апстрактним векторским просторима из алгебре, унутрашњи (скаларни) производ два вектора (квантног) стања је скалар који у општем случају бива комплексан број. Вредност унутрашњег производа ⟨ψ|ϕ⟩ даје амплитуду вероватноће (квадратом модула). Она указује на шансу мерења система коју карактерише прелазак стања |ϕ⟩ у стање |ψ⟩.

У истој квантној физици, овај унутрашњи производ се такође може схватити као мерење преклапања између вектора стања |ψ⟩ и |ϕ⟩. Тада ће вероватноћа посматрања да систем буде у стању |ψ⟩ с обзиром да је у стању |ϕ⟩ бити дата са |⟨ψ|ϕ⟩|². Пошто је ова последња величина вероватноћа, таква задовољава услов 0 ≤ |⟨ψ|ϕ⟩|² ≤ 1.

2.4. Много је примера уз претходне, који би скаларни производ \(\vec{a}\cdot \vec{b}\) интерпретирали пресликавањем једног вектора у други, \(Q : \vec{a} \to \vec{b} \). Не изненађује онда што се такво може представити и матрицом:

\[ \begin{pmatrix} \cos\beta_1 \\ \cos\beta_2 \\ ... \\ \cos\beta_n \end{pmatrix} = \begin{pmatrix} \cos\beta_1 \cos\alpha_1 & \cos\beta_1 \cos\alpha_2 & \dots & \cos\beta_1 \cos\alpha_n \\ \cos\beta_2 \cos\alpha_1 & \cos\beta_2 \cos\alpha_2 & \dots & \cos\beta_2 \cos\alpha_n \\ ... \\ \cos\beta_n \cos\alpha_1 & \cos\beta_n \cos\alpha_2 & \dots & \cos\beta_n \cos\alpha_n \end{pmatrix} \begin{pmatrix} \cos\alpha_1 \\ \cos\alpha_2 \\ ... \\ \cos\alpha_n \end{pmatrix}, \]

где је збир квадрата косинуса један, како углова алфа тако и бета. Ови углови представљају и отклоне датог вектора (стања) од координатних оса (обзервабли), па пишемо \( \vec{b} = Q\vec{a} \).

Исти запис постаје посебно занимљив када је \( \vec{a} \) својствени вектор придружен својственој вредности 1 пресликавања, матрице Q, када је \( \vec{a} = Q\vec{a} \). Тада је

\[ Q = \begin{pmatrix} \cos^2\alpha_1 & \cos^2\alpha_2 & \dots & \cos^2\alpha_n \\ \cos^2\alpha_1 & \cos^2\alpha_2 & \dots & \cos^2\alpha_n \\ ... \\ \cos^2\alpha_1 & \cos^2\alpha_2 & \dots & \cos^2\alpha_n \end{pmatrix}, \]

а скаларни производ \( \vec{a}\cdot\vec{a} = \|\vec{a}\|^2 \) представља квадрат норме датог вектора.

2.5. Ако користимо квантно писање и комплексне векторе, горња матрична једначина \( \psi = Q\phi \) постаје

\[ \begin{pmatrix} \psi_1 \\ \psi_2 \\ ... \\ \psi_n \end{pmatrix} = \begin{pmatrix} \psi_1 \phi_1^* & \psi_1 \phi_2^* & \dots & \psi_1 \phi_n^* \\ \psi_2 \phi^*_1 & \psi_2 \phi^*_2 & \dots & \psi_2 \phi^*_n \\ ... \\ \psi_n \phi^*_1 & \psi_n \phi^*_2 & \dots & \psi_n \phi^*_n \end{pmatrix} \begin{pmatrix} \phi_1 \\ \phi_2 \\ ... \\ \phi_n \end{pmatrix}, \]

где је \( \|\phi\|^2 = \phi_1^*\phi_1 + \phi_2^*\phi_2 + ... + \phi_n^*\phi_n = 1 \), а исто тако и \( \|\psi\|^2 = 1 \). Својствена је \( \phi = Q\phi \).

Дираковим бра-кет заградама горњу матрицу можемо краће писати Q = |ψ⟩⟨ϕ|, па та једначина добија уобичајен квантно-механички облик |ψ⟩ = |ψ⟩⟨ϕ|ϕ⟩, иако је сада примењена на неуобичајену ситуацију. Норма вектора препознатљива је ⟨ϕ|ϕ⟩ = |ϕ|².

2.6. У наставку подразумевамо да је простор X снабдевен скаларним производом над телом скалара Φ.

2. Став. Основне особине унутрашњег производа, за свако \( x, y, z \in X \) и свако \( \lambda \in \Phi \) су:

1. за фиксирано \( y \in X \) функција по \( x \in X \) производа \( \langle x, y \rangle \) је линеарна;
2. \( \langle 0, y \rangle = 0 \);
3. \( \langle x, 0 \rangle = 0 \);
4. \( \langle x, y + z \rangle = \langle x, y\rangle + \langle x, z\rangle \);
5. \( \langle x, \lambda y \rangle = \lambda^* \langle x, y \rangle \).

Доказ: Ставка (1) следи из услова адитивности првог фактора и хомогености у дефиницији производа. Део (2) следи из (1) и линеарног пресликавања 0 → 0. Део (3) следи из дела (1) и својства коњуговане симетрије у дефиницији унутрашњег производа. Доказујемо (4):

\[ \langle x, y + z \rangle = \langle (y + z)^*, x \rangle = (\langle y, x \rangle + \langle z, x \rangle)^* = \langle y, x \rangle^* + \langle z, x \rangle^* = \langle x, y \rangle + \langle x, z \rangle, \]

и то важи за свако \(x, y, z \in X\). Докажимо (5):

\[ \langle x, \lambda y \rangle = \langle \lambda y, x \rangle^* = (\lambda \langle y, x\rangle)^* = \lambda^* \langle y, x \rangle^* = \lambda^* \langle x, y \rangle, \]

и то важи за све \(x, y \in X\) и свако \(\lambda \in \Phi\). Тиме је доказано свих пет тврђења. ∎

3. Дефиниција. Норма вектора \(x \in X\) је \( \|x\| = \sqrt{\langle x, x \rangle}\).

На пример, вектор \( x_1, ..., x_n \in \Phi^n \) еуклидског простора је норме \( \|(x_1, ..., x_n)\| = \sqrt{|x_1|^2 + ... + |x_n|^2} \). То су простори ℝⁿ и ℂⁿ и они су посебни случајеви простора \(\mathbb{R}_p^n\) и \(\mathbb{C}_p^n\) реалних и комплексних коначних низова \( \|x\| = (|x_1|^p + ... + |x_n|^p)^{1/p} \), за p ≥ 1. У случају конвергенције редова и n → ∞ ови постају врсте простора ℓ^p, где за p = 1 пишемо просто са ℓ, Када и p → ∞, онда простор прелази у назван „max“ норме где је \( \|x\| = \max_k |x_k| \). У L^p простору функција f, норма је

\[ \|f\|_p = \left(\int |f(x)|^p \ dx\right)^{1/p}, \]

ако интеграл конвергира. Границе интегрирања могу бити различите.

4. Став. Опште основне особине норме су:

1. \( \|v\| = 0 \) ако и само ако \( v = 0 \);
2. \( \|\lambda v\| = |\lambda| \|v\| \),

за свако v ∈ V и λ ∈ F.

Доказ: Ставка (1) је тачна због: \( \langle v, v\rangle = 0\) акко \(v = 0\). Докажимо (2):

\[ \|\lambda v\|^2 = \langle \lambda v, \lambda v \rangle = \lambda \langle v, \lambda v\rangle = \lambda \lambda^* \langle v, v \rangle = |\lambda|^2 \|v\|^2, \]

затим узмемо корен. Тиме су обе тврдње доказане. ∎

Следећи пример је Шварцова неједнакост (Cauchy–Schwarz inequality), за сада доказана само за реалне векторске просторе. Производ интензитета вектора и косинуса угла између њих мањи је од производа интензитета, осим ако се они поклапају по правцу (угла између нула и косинуса један). Међутим, због позитивности ⟨u|u⟩ ≥ 0 и апсолутне вредности коефицијената иста се преноси и на друге просторе.

5. Пример. За све \(v, u \in V\) реалног тела ℝ скалара важи неједнакост \( |\langle v, u \rangle|^2 \le \langle v, v \rangle \langle u, u \rangle \). Једнакост важи ако и само ако су вектори u, v линеарно зависни.

Доказ: У реалним просторима, посматрајмо квадратну неједначину непознате λ ∈ ℝ:

\[ \langle \lambda v + u, \lambda v + u \rangle = \lambda^2 \langle v, v \rangle + 2\lambda \langle v, u \rangle + \langle u, u \rangle \ge 0, \]

која је по дефиницији унутрашњег производа увек испуњена. Њена дискриминанта није позитивна, а одатле и тражена неједнакост. Једнакост важи само ако су v, u истог правца. □

Шварцова неједнакост говори нам и да узајамна информација перцепције није већа од таквих самог субјекта и објекта са једнакошћу када та два представљају исту врсту стања (имају исти смер).

Помоћу Шварцове неједнакости рутински доказујемо да рецимо простори ℓ^p, па према томе и max норме, или L^p заиста поседују особине претходно прецизиране норме. Знамо да су посебан случај таквих еуклидски векторски простори (коначних димензија n и p = 2), било над телом ℝ или ℂ. Није новост да њихово ширење захвата квантну физику, колико да ће ићи и у просторе комуникација.

2.7. У простору \(\mathbb{C}_p^n\) за вектор \( z = (\zeta_1, ..., \zeta_n) \) јединичне норме важи \( |\zeta_1|^p + ... + |\zeta_n|^p = 1\). Нормиране на тај начин настају генералисане вероватноће. За p = 1 „генералисане вероватноће“ су математичке, а са p = 2 вероватноће су квантно-механичке, када коефицијенте вектора називамо амплитудама. Затим ће доћи нове вредности параметра p ≥ 1 у развоју информатичке теорије, надам се.

3. Ортогоналност

Вектори v, u ∈ V су ортогонални ако ⟨v|u⟩ = 0. Тада је и ⟨u|v⟩ = 0, па је реч о узајамној ортогоналности, тј. окомитости. У еуклидском простору окомитост вектора означавамо v ⊥ u, што нарочито у ℝ² значи да је \( \langle v, u \rangle = \|v\|\|u\|\cos\phi\), где је \(\phi\) угао између вектора, тих орјентисаних дужи.

Ортогонална декомпозиција такође је представљање произвољног квантног стања иначе независним обзерваблама. Репрезентације вектора поред стања су процеси, интеракције и комуникације.

3.1. Нула вектор је ортогоналан на сваки вектор њему припадног простора. То је једини вектор ортогоналан на себе (дефиниција унутрашњег производа). Иначе, реч ортогонално долази од грчке речи ορθογώνιο, што значи правоугаоно. Отуда и Питагорина теорема која у модерној алгебри прима следећи генерализован облик. Приметимо да ту не смета имагинарност компонената вектора, да се њихова комплексна форма да пресликати на еуклидски простор.

6. Став. Ако су \(x, y \in X\) ортогонални, онда је \( \|x + y\|^2 = \|x\|^2 + \|y\|^2\).

Доказ: \( \|x + y\|^2 = \langle x + y, x + y \rangle = \langle x, x\rangle + \langle x, y\rangle + \langle y, x\rangle + \langle y, y\rangle = \|x\|^2 + \|y\|^2 \). ∎

3.2. Ортогонална декомпозиција је растављање датог вектора (x) на збир два међусобно окомита вектора (y и z), тако да је x = λy + z и ⟨z, y⟩ = 0, као на следећој слици лево.

Пишемо и израчунавамо редом:

\[ x = \lambda y + (x - \lambda y), \] \[ 0 = \langle x - \lambda y, y \rangle = \langle x, y \rangle - \lambda \|y\|^2, \] \[ \lambda = \langle x, y \rangle / \|y\|^2, \quad z = x - \lambda y. \]

Према томе, x = λy + z и ⟨z, y⟩ = 0.

Ортогонална декомпозиција даје још један доказ Коши-Шварцове неједнакости (5. пример), који подебљавамо због важности те неједнакости у математици. Поред тога, пропорционалнији однос коефицијената двају вектора, који значи мањи угао међу њима и већи њихов скаларни производ, вредност ближу производу њихових норми, значи и већу информацију перцепције уколико је они представљају.

7. Став. (Schwarz Inequality) Ако је \(x, y \in \mathcal{L}(X)\), тада је \( |\langle x, y \rangle| \le \|x\|\|y\| \). Ова неједнакост је једнакост ако и само ако је једно од x, y скаларни вишекратник другог.

Доказ: Када је y = 0 обе стране су нула и релација важи. Даље размотримо y ≠ 0. Полазимо од ортогоналне декомпозиције и прмењујемо Питагорину теорему:

\[ x = \frac{\langle x, y \rangle}{\|y\|^2} + z, \] \[ \|x\|^2 = \left\|\frac{\langle x, y \rangle}{\|y\|^2}\right\|^2 + \|z\|^2 = \frac{|\langle x, y \rangle|^2}{\|y\|^2} + \|z\|^2 \ge \frac{|\langle x, y \rangle|^2}{\|y\|^2}. \]

Множењем са \(\|y\|^2\) излази тражена неједнакост. Једнакост важи ако и само ако је z = 0, дакле када је x множитељ y. ∎

Типична ова неједнакост је

\[ |x_1y_1 + ... + x_ny_n|^2 \le (x_1^2 + ... + x_n^2)(y_1^2 + ... + y_n^2), \]

а такође и

\[ \left| \int_0^1 f(x)g(x)\ dx \right|^2 \le \left(\int_0^1 |f(x)|^2 \ dx \right) \left( \int_0^1 |g(x)|^2 \ dx\right), \]

са реалним бројевима.

8. Задатак. Доказати неједнакост троугла, \( \|x + y\| \le \|x\| + \|y\| \), да је поједина страница троугла увек мања од збира остале две.

Доказ: \( \|x+y\|^2 = \langle x+y, x+y \rangle = \|x\|^2 + \|y\|^2 + 2\Re\langle x, y\rangle \le \|x\|^2 + \|y\|^2 + 2|\langle x, y\rangle| \le \)

\[ \le \|x\|^2 + \|y\|^2 + 2\|x\| \|y\| = (\|x\| + \|y\|)^2. \]

Отуда \( \|x + y\| \le \|x\| + \|y\| \) кореновањем. □

9. Задатак. Доказати једнакост паралелограма, \( \|x + y\|^2 + \|x - y\|^2 = 2(\|x\|^2 + \|y\|^2) \), да је збир квадрата дужина четири стране паралелограма једнак збиру квадрата дужина две дијагонале.

Доказ: \( \|x + y\|^2 + \|x - y\|^2 = \langle x + y, x + y \rangle + \langle x - y, x - y \rangle = \)

\[ = (\|x\|^2 + \|y\|^2 + \langle x, y \rangle + \langle x, y \rangle) + (\|x\|^2 + \|y\|^2 - \langle x, y \rangle - \langle x, y \rangle) \] \[ = 2(\|x\|^2 + \|y\|^2). \]

Отуда тражена једнакост. □

3.3. Три равни у Декартовом правоуглом систему координата (OXYZ) записујемо једначинама:

\[ \begin{cases} a_1x + b_1y + c_1z = d_1 \\ a_2x + b_2y + c_2z = d_2 \\ a_3x + b_3y + c_3z = d_3 \end{cases} \]

или матрично (Mx = d) једначином:

\[ \begin{pmatrix} a_1 & b_1 & c_1 \\ a_2 & b_2 & c_2 \\ a_3 & b_3 & c_3 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} d_1 \\ d_2 \\ d_3 \end{pmatrix} \]

где имамо векторе колоне \(\vec{a} = (a_1, a_2, a_3)^\tau \), \(\vec{b} = (b_1, b_2, b_3)^\tau \) и \(\vec{c} = (c_1, c_2, c_3)^\tau \) матрице \( M = (\vec{a}, \vec{b}, \vec{c})\), затим колону варијабли \(\vec{v} = (x, y, z)^\tau \) и колону резултата множења \(\vec{d} = (d_1, d_2, d_3)^\tau \). Објашњавајући дуалност откривено је (33. став) да је димензија кодомена пресликавања T једнака димензији колона представљене матрице и (34. став) да је ранг редова једнак рангу колона матрице.

Обратимо пажњу да горњи систем, као и матричну једнакост можемо писати \( \vec{a}x + \vec{b}y + \vec{c}z = \vec{d}\). Када ставимо да је \(\vec{d} = 0\), једино решење x = y = z = 0 значиће линеарну независност вектора \(\vec{a}, \vec{b}, \vec{c}\), колона ове матрице, односно зависност (рецимо \(\vec{c} = \alpha \vec{a} + \beta \vec{b}\)) ако постоје и друга решења сем нула. Поучан пример тога су три равни у 3-дим систему координата.

На слици десно видимо у каквим све међусобним положајима могу бити те три равни. На првој тих слика, све три равни секу по некој линији ℓ. Тачке те праве су „нула простор“ (ker M) пресликавања димензије 1. Равнине окомите на ℓ чине „простор колона“ матрице M димензије 2, тако да је укупна димензија простора 1 + 2 = 3.

Ово је разрађено у наслову Домени, изузев новог примера са равнима. Када пресек равнина није у јединственој тачки, њихов систем једначина нема јединствено решење. Вектори редови матрице су окомити на вектор варијабли, па је \(\vec{d} = 0\).

Иначе, друга и трећа, као и пета сличица десно ситуације су контрадикције претходног система, без иједне заједничке тачке три равни. Четврта сличица приказује јединствено решење и при томе (није обавезно) свака од три равни окомита је на остале две.

3.4. Низ вектора је ортонормиран када је сваки јединичне норме и ортогоналан на све остале. Другим речима, листа је ортонормираних вектора \( e_1, e_2, ..., e_n \in X\) када је

\[ \langle e_j, e_k \rangle = \begin{cases} 1, & j = k, \\ 0, & j \ne k. \end{cases} \]

Стандардна база \(e_1 = (1, 0, ..., 0)\), \( e_2 = (0, 1, ..., 0)\), ..., \( e_n = (0, 0, ..., 1)\) је пример ортонормираних вектора. Једина ортонормирана база за стохастичке матрице је стандардна, таква стохастичка матрица је пермутација колона (врста) јединичне. Један другачији примерак скупа ортонормираних вектора је \( e_1 = (1/\sqrt{2}, 1/\sqrt{2}, 0) \), \( e_2 = (1/\sqrt{2}, -1/\sqrt{2}, 0) \), \( e_3 = (0, 0, 0) \), али био би то и скраћени скуп без неког (било којег) од ових вектора. Ортонормирани вектори су практични, јер је са њима лакше радити.

10. Пример. Када је \( e_1, ..., e_n \) ортонормирана листа вектора у X, онда је

\[ \| a_1e_1 + ... + a_ne_n \|^2 = |a_1|^2 + ... + |a_n|^2, \]

за све \(a_1, ..., a_n \in \Phi \), што следи из вишеструке употребе 6. става (Питагорине теореме). □

11. Пример. Ортонормиран низ је низ линеарно независних вектора.

Доказ: Из \( a_1e_1 + ... + a_ne_n = 0 \) и претходног примера следи \( |a_1|^2 + ... + |a_n|^2 = 0 \). Отуда је свако a_j = 0, а то је доказ независности вектора e_k. □

3.5. Ортонормирана база је ортонормирани низ вектора простора који је уједно и база тог простора.

12. Пример. Свака ортонормирана листа вектора у X дужине dim X је ортонормирана база X.

Доказ: По 11. пример, сваки такав низ мора бити линеарно независан и праве дужине, па је и база X (Димензија, 14. задатак). □

На пример, стандардна база је ортонормална база Φⁿ. Вектори \(x_1 = \frac{1}{\sqrt{2}}(1, 1) \) и \( x_2 = \frac{1}{\sqrt{2}} \) у простору R² су ортонормирана база. Вектори \( (\frac12, \frac12, \frac12, \frac12) \), \( (\frac12, \frac12, -\frac12, -\frac12) \), \( (\frac12, -\frac12, -\frac12, \frac12) \) и \( (-\frac12, \frac12, -\frac12, \frac12) \) чине ортонормалну базу у Φ⁴. Наиме:

\[ \left\| (\pm\frac12, \pm\frac12, \pm\frac12, \pm\frac12)\right\| = \sqrt{\left(\pm\frac12\right)^2 + \left(\pm\frac12\right)^2 + \left(\pm\frac12\right)^2 + \left(\pm\frac12\right)^2} = 1, \]

а проверите, скаларни производ било која два од четири ова вектора је нула.

13. Пример. Ако је e₁, ..., e_n ортонормирана база и x вектор X, тада је \(x = \langle x, e_1\rangle e_1 + ... + \langle x, e_n\rangle e_n\) и \(\|x\|^2 = |\langle x, e_1 \rangle|^2 + ... + |\langle x, e_n\rangle|^2 \).

Доказ: Зато што је e₁, ..., e_n база, постоје скалари a₁, ..., a_n такви да је x = a₁e₁ + ... + a_ne_n. Како је база ортонормирана, узимајући унутрашњи производ са e_j са обе стране једнакости, добијамо \( \langle x, e_j\rangle = a_j\). Друга једнакост следи непосредно из прве (10. пример). □

Ову згоду ортонормираних база можемо користити уопште користећи Грам-Шмитов поступак (Gram–Schmidt Procedure), који низом операција трансформише скуп линеарно независних вектора у листу ортонормираних вектора истог простора.

14. Став. Нека је \( x_1, ..., x_m \in X \) низ независних вектора. Ставимо \( e_1 = x_1/\|x_1\|\). За j = 2, ..., m индуктивно дефинишемо

\[ e_j = \frac{x_j - \langle x_j, e_1\rangle e_1 - ... - \langle x_j, e_{j-1}\rangle e_{j-1}}{\|x_j - \langle x_j, e_1\rangle e_1 - ... - \langle x_j, e_{j-1}\rangle e_{j-1}\|}. \]

Тада је e₁, ..., e_m ортонормиран низ вектора у X таква да је span(e₁, ..., e_j) = span(x₁, ..., x_j) за j = 1, ..., m.

Доказ: Користимо индукију по j. За j = 1 став је тачан, јер span(e₁) = span(x₁) зато што је x₁ позитиван множиоц e₁.

Даље, нека је 1 ≤ k < j и доказујемо span(e₁, ..., e_j-1) = span(x₁, ..., x_j-1). Приметимо да x_j ∉ span(x₁, ..., x_j-1), јер су вектори линеарно независни. Тако x_j ∉ span(e₁, ..., e_j-1). Према томе, норма у количнику није нула, па делећи вектор његовом нормом даје нови вектор јединичне норме. Тако \(\|e_j\| = 1\).

Нека је 1 ≤ k < j. Тада:

\[ \langle e_j, e_k \rangle = \left\langle \frac{x_j - \langle x_j, e_1\rangle e_1 - ... - \langle x_j, e_{j-1}\rangle e_{j-1}}{\|x_j - \langle x_j, e_1\rangle e_1 - ... - \langle x_j, e_{j-1}\rangle e_{j-1}\|}, e_k \right\rangle = \frac{\langle x_j, e_k \rangle - \langle x_j, e_k \rangle}{\|x_j - \langle x_j, e_1\rangle e_1 - ... - \langle x_j, e_{j-1}\rangle e_{j-1}\|} = 0. \]

Дакле, e₁, ..., e_j је ортонормиран низ.

Из дефиниције e_j видимо да x_j ∈ span(e₁, ..., e_j). Комбинујући то са следећим горе, налазимо такође да је тачно и span(x₁, ..., x_j) ⊂ span(e₁, ..., e_j). Оба та низа су линеарно независна, оба исте димензије j и чине исти простор. ∎

Приметимо да Грам-Шмитов поступак неће мењати низ вектора x₁, ..., x_m ортонормиранe базe. Наиме, први корак био би \(e_1 = x_1/\|x_1\| = x_1 \), јер по претпоставци \( \|x_1\| = 1\). Затим \( \langle x_j, e_k\rangle = 0\), за k = 1, ..., j-1, па је сваки од вектора x_k = e_k.

15. Задатак. Наћи ортонормалну базу простора полинома \(\mathcal{P}_2(\mathbb{R})\), са унутрашњим производом

\[ \langle f, g\rangle = \int_{-1}^1 f(x)g(x)\ dx. \]

Решење: Примењујемо Грам-Шмитов поступак на базу 1, x, x². Први корак је:

\[ \|1\|^2 = \int_{-1}^1 1^2\ dx = 2 \quad \to \quad \|x\| = \sqrt{2} \quad \to \quad e_1 = \frac{1}{\sqrt{2}}. \]

Други корак. Називник за e₂ и квадрат норме другог вектора дате базе су:

\[ x - \langle x, e_1\rangle e_1 = \left( \int_{-1}^1 x \frac{1}{\sqrt{2}}\ dx \right) \frac{1}{\sqrt{2}} = x, \quad \|x\|^2 = \int_{-1}^1 x^2\ dx = \frac23, \]

па је \( \|x\| = \frac23 \) и \( e_2 = \sqrt{\frac23}x \).

Трећи корак. Називник за e₃ је:

\[ x^2 - \langle x^2, e_1 \rangle e_1 - \langle x^2, e_2\rangle e_2 = \] \[ = x^2 - \left(\int_{-1}^1 x^2\frac{1}{\sqrt{2}}\ dx\right) \frac{1}{\sqrt{2}} - \left(\int_{-1}^1 x^2 \sqrt{\frac32} \ x\ dx\right)\sqrt{\frac32} \ x \] \[ = x^2 - \frac13. \]

Квадрат норме трећег вектора је:

\[ \|x^2 - \frac13\|^2 = \int_{-1}^1 (x^4 - \frac23 x^2 + \frac13)\ dx = \frac{8}{45}. \]

Тако смо добили \( \|x^2 - \frac13\| = \sqrt{\frac{8}{45}} \), те \( e_3 = \sqrt{\frac{45}{8}}(x^2 - \frac13) \).

Коначно, излази да је ортонормирана база:

\[ \sqrt{\frac12}, \quad \sqrt{\frac32}\ x, \quad \sqrt{\frac{45}{8}}(x^2 - \frac13), \]

листа дужине три, за полиноме до другог степена, \( \mathcal{P}_2(\mathbb{R}) \). □

3.6. Следећи став говори о егзистенцији ортонормиране базе коначно-димензионалних векторских простора, а већ из доказа се види да сличан не мора важити за бесконачно-димензионалне.

16. Став. Сваки коначно-димензионални простор са унутрашњим производом има ортонормалну базу.

Доказ: У коначно-димензионалном простору X изаберимо базу и на њу применимо Грам–Шмитов поступак. Резултат је ортонормалан низ дужине dim X и такав да је према претходно установљеном ортонормална база X. ∎

Сада знамо да постоје ортонормиране базе сваког коначно-димензионалног векторског простора, а следећим ставом утврђујемо да се сваки ортонормиран низ вектора да продужити до ортонормиране базе припадног простора.

17. Став. Ако је X коначно-димензионалан, онда се сваки ортонормиран скуп вектора у X може проширити на ортонормирану базу X.

Доказ: Нека је e₁, ..., e_m ортонормирана низ у X. Он је линеарно независан и може се продужити до базе e₁, ..., e_m, x₁, ..., x_n. Затим применимо Грам-Шмитов поступак за генерисање ортонормирание базе e₁, ..., e_m, f₁, ..., f_n, када ће овај поступак оставити првих m вектора непромењених, јер су они већ ортонормирани. Остали ће то постати и имаћемо ортонормирану базу. ∎

3.7. Знамо да у коначно-димензионалном комплексном простору сваки оператор T у некој бази тог простора има горњу троугаону матрицу (Троугаона матрица, 13. став). Настављајући, упознајемо се са унутрашњим просторима производа и проширићемо то сазнање на егзистенцију ортонормалне базе у односу на коју оператор има горњу троугласту матрицу. Погледајмо прво један пример, а затим став који га поопштава.

18. Пример. Троугаона матрица (11. пример) има колоне независне векторе:

\[ x_1 = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}, \quad x_2 = \begin{pmatrix} 1 \\ 2 \\ 0 \end{pmatrix}, \quad x_3 = \begin{pmatrix} 0 \\ -3 \\ 4 \end{pmatrix}. \]

Примењујемо Грам-Шмитов поступак и налазимо:

\[ e_1 = \frac{x_1}{\|x_1\|} = x_1 = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}, \quad e_2 = \frac{x_2 - \langle x_2, e_1\rangle e_1}{\|x_2 - \langle x_2, e_1\rangle e_1} = \begin{pmatrix} 0 \\ 2 \\ 0 \end{pmatrix} / \left\|\begin{pmatrix} 0 \\ 2 \\ 0 \end{pmatrix}\right\| = \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix}, \] \[ e_3 = \frac{x_3 - \langle x_3, e_1\rangle e_1 - \langle x_3, e_2\rangle e_2}{\|x_3 - \langle x_3, e_1\rangle e_1 - \langle x_3, e_2\rangle e_2\|} = \begin{pmatrix} 0 \\ 0 \\ 4 \end{pmatrix} / \left\|\begin{pmatrix} 0 \\ 0 \\ 4 \end{pmatrix}\right\| = \begin{pmatrix} 0 \\ 0 \\ 1 \end{pmatrix}. \]

Резултат је јединична матрица, стандардна база. □

19. Став. Ако је \( T \in \mathcal{L}(X) \), онда ако T има горњу троугласту матрицу у односу на неку базу X, онда T има горњу троугласту матрицу и у односу на неку ортонормалну базу X.

Доказ: Ако T има горњу троугласту матрицу у односу на базу x₁, ..., x_n ∈ X, онда је разапети подпростор span(x₁, ..., x_j) инваријантан оператору T за свако j = 1, 2, ..., n (Троугаона матрица, 12. став).

Примена Грам-Шмитовог поступка на x₁, ..., x_n произвешће неку ортонормирану базу e₁, ..., e_n ∈ X. Јер је span(e₁, ..., e_j) = span(x₁, ..., x_j) за свако j = 1, 2, ..., n, закључујемо да је span(e₁, ..., e_j) инваријантан под T за свако j = 1, 2, ..., n. Отуда T има горњу троугаону матрицу обзиром на ортонормирану базу e₁, ..., e_n (опет, 12. став). ∎

Следећи резултат је Шурова теорема (Issai Schur, 1875–1941, немачки математичар) из 1909.

20. Став. Ако је \( T \in \mathcal{L}(X) \) и X је коначно-димензионалан простор, онда T има горњу троугаону матрицу обзиром на неку ортонормирану базу X.

Доказ: Подсетимо се да T има горњу троугаону матрицу у односу на неку базу X (Троугаона матрица, 12. став), затим применимо претходни став. ∎

3.8. Линеарна функционела је линеарно пресликавање вектора на скаларе. Другим речима, линеарна функционела је елеменат \(\mathcal{L}(V, \Phi)\). Функционеле су посебна тема Банахових простора, уосталом као и ове алгебре, или примена.

21. Примери. (i) Функција φ : Φ³ → Φ дефинисана са φ(z₁, z₂, z₃) = 4z₁ - 3z₂ + z₃ је линеарна функционела. Можемо је писати у облику унутрашњег производа φ(x, y) = ⟨x, y⟩.

(ii) Функција \(\phi : \mathcal{P}_2(\mathbb{R}) \to \mathbb{R} \) дефинисана са

\[ \phi(p) = \int_{-1}^1 p(t)\cos(\pi t)\ dt \]

је линеарна функционела на \(\mathcal{L}(\mathbb{R})\), иако није очигледно да постоји полином \(q \in \mathcal{P}_2(\mathbb{R})\) такав да је \(\phi(p) = \langle p, q\rangle\) за сваки полином \(p \in \mathcal{P}_2(\mathbb{R})\). Не иде \(q(t) = \cos(\pi t)\), јер то није елеменат \(\mathcal{P}_2(\mathbb{R})\). □

Информација перцепције, у ужем смислу када је збир парова производа количина неизвесности, линеарна је функционела.

Ако x ∈ X, онда је пресликавање x → ⟨x, y⟩ линеарна функционела на X. Резултат који следи, а показује да свака линеарна функционела на X има облик скаларног производа, нарочито је важан због примера као што је претходни. Потиче од Риса (Frigyes Riesz, 1880 - 1956), мађарског математичара. Овај алгебарски став треба разликовати од Рисове леме функционалне анализе и који тамо наводимо као 4.2. Став.

22. Став. Ако је φ функционела на коначно-димензионалном простору X, онда постоји јединствен вектор y ∈ X такав да је φ(x) = ⟨x, y⟩ за свако x ∈ X.

Доказ: Прво покажимо да постоји вектор y ∈ X такав да је φ(x) = ⟨x, y⟩ за свако x ∈ X. Нека је e₁, ..., e_n ортонормирана база у X. Тада, полазећи од 13. става:

\[ \varphi(x) = \varphi(\langle x, e_1 \rangle e_1, ..., \langle x, e_n \rangle e_n) = \langle x, e_1\rangle \varphi(e_1) + ... + \langle x, e_n \rangle \varphi(e_n) = \] \[ = \langle x, \varphi^*(e_1)e_1 + ... + \varphi^*(e_n)e_n\rangle, \quad \forall x \in X. \]

Дакле, постоји вектор \( y = \varphi^*(e_1)e_1 + ... + \varphi^*(e_n)e_n \) за који важи \(\varphi(x) = \langle x, y\rangle \) за сваки вектор x ∈ X.

Даље, докажимо да само један вектор y ∈ X има жељену особину. Претпоставимо да за два вектора y₁ и y₂ из X важи \( \varphi(x) = \langle x, y_1\rangle = \langle x, y_2\rangle \) за свако x ∈ X. Тада 0 = ⟨x, y₁⟩ - ⟨x, y₂⟩ = ⟨x, y₁ - y₂⟩ за свако x ∈ X, па и за x = y₁ - y₂, што значи y₁ = y₂. ∎

23. Задатак. Наћи полином \( q \in \mathcal{P}_2(\mathbb{R}) \) такав да је

\[ \int_{-1}^1 p(t)\cos(\pi t)\ dt = \int_{-1}^1 p(t)q(t)\ dt, \]

за сваки полином \( p \in \mathcal{P}_2(\mathbb{R}) \).

Решење: Нека је \( \varphi(p) = \int_{-1}^1 p(t)\cos(\pi t)\ dt \). Користећи ортонормирану базу 15. задатка, израчунавамо:

\[ q(x) = \left(\int_{-1}^1 \sqrt{\frac12}\cos(\pi t)\ dt\right)\sqrt{\frac12} + \left(\int_{-1}^1 \sqrt{\frac32}t\cos(\pi t)\ dt\right)\sqrt{\frac32}x + \] \[ + \left(\int_{-1}^1 \sqrt{\frac{45}{8}}(t^2 - \frac13)\cos(\pi t)\ dt\right)\sqrt{\frac{45}{8}} = ... = \frac{45}{2\pi^2}(x^2 - \frac13). \]

Дакле, тражени полином је \( q(x) = \frac{45}{2\pi^2}(x^2 - \frac13) \). □

Овај задатак био је одговор 22. става на проблем (ii) 21. примера. Међутим, тај нам је Рисов став много кориснији за разумевање јединствености (Uniqueness) опажања објекта од стране субјекта, а и обрнуто самог субјекта. Он истиче индивидуалност и објективност предмета (моје) теорије информације.

Рисов став нам са једне стране говори о поопштењу Паулијевог принципа искључења за фермионе и о значају фермиона за егзистенцију простора стања X, а са друге, пошто је \( y = \varphi^*(e_1)e_1 + ... + \varphi^*(e_n)e_n \) јединствен, десна је страна те једначине иста без обзира на то која је ортонормална основа e₁, ..., e_n из X изабрана, Рисов став нам говори и о објективности света информација перцепција.

4. Комплемент

4.1. Ортогонални комплемент U^⊥ чине сви вектори из V који су ортогонални на U. Прецизније речено, ортогонални комплемент је U^⊥ = {v ∈ V : ⟨v, u⟩ = 0, ∀u ∈ V}.

На пример, ако је Y права линија у ℝ³, онда је Y^⊥ раван окомита на ту праву и обрнуто, ортогоналан комплемент равни у ℝ³ је права линија (в. пример равни 3.3). Ортогонални комплемент ℝⁿ је {0}, јер нула вектор је окомит на сваки вектор. Из истог, {0}^⊥ = ℝⁿ.

24. Став. За ортогонални комплемент важе следеће ставке.

1. Ако је Y подскуп X, онда је Y^⊥ ⊂ X^⊥.
2. {0}^⊥ = X.
3. X^⊥ = {0}.
4. Ако је Y подскуп X, онда је Y ∩ Y^⊥ ⊂ {0}.
5. Ако су Y и Z подскупови X и Y ⊂ Z, онда је Z^⊥ ⊂ X^⊥.

Доказ: I: Ако је Y поскуп X, онда је ⟨0, y⟩ = 0 за све y ∈ Y, па 0 ∈ Y^⊥. Из x, z ∈ Y^⊥ и y ∈ Y следи доказ адитивности: \( \langle x + z, y\rangle = \langle x, y\rangle + \langle z, y\rangle = 0 + 0 = 0 \). Дакле, x + z ∈ Y^⊥, ортогонални комплемент је затворен на сабирање. Слично доказујемо хомогеност. Нека је λ ∈ Φ и x ∈ Y^⊥, а поред тога y ∈ Y, па имамо: ⟨λx, y⟩ = λ⟨x, y⟩ = λ⋅0 = 0, па је λx ∈ Y^⊥. Другим речима, Y^⊥ је затворен на скаларно множење. Укупно, Y^⊥ је подпростор X.

II: Нека је x ∈ X. Тада ⟨x, 0⟩ = 0, што значи x ∈ {0}^⊥. Дакле {0}^⊥ = X.

III: Нека је x ∈ X^⊥. Тада ⟨x, x⟩ = 0, што значи x = 0. Дакле X^⊥ = {0}.

IV: Нека је Y подскуп X и x ∈ U ∩ U^⊥. Тада је ⟨x, x⟩ = 0, што значи x = 0. Отуда U ∩ U^⊥ ⊂ {0}.

V: Нека су Y и Z подскупови X и Y ⊂ Z. Ако x ∈ Z^⊥, онда ⟨x, y⟩ = 0 за свако y ∈ Z, одакле ⟨x, y⟩ = 0 за свако y ∈ Y. Према томе, x ∈ Y^⊥, па Z^⊥ ⊂ Y^⊥. ∎

Могућност додавања нових димензија без ограничења суштина је „објективне неизвесности“ и једна од основа теорије информације овде узгред помињане.

4.2. Знамо (Базе, 3.3) да ако су U, W подпростори од V, онда је V директан збир U и W (пишемо U ⊕ W) ако се сваки елемент V може написати на тачно један начин као вектор у U плус вектор у W. Да коначне-димензије подпростор од V води до природне декомпозиције директног збира V, видећемо у наставку.

25. Став. Ако је Y коначно-димензионалан подпростор X, онда је X = Y ⊕ Y^⊥.

Доказ: Прво покажимо да је X = Y + Y^⊥. Нека је e₁ + ... + e_m ортонормирана база у X. Пишемо

\[ x = (\langle x, e_1\rangle e_1 + ... + \langle x, e_m\rangle e_m) + (x -\langle x, e_1\rangle e_1 - ... - \langle x, e_m\rangle e_m) = y + z \]

и тиме дефинишемо векторе y ∈ Y и z. Због \(\langle z, e_k\rangle = \langle y, e_k\rangle - \langle x, e_k\rangle = 0 \), вектор z је ортогоналан на сваки вектор базе. Другим речима, z ∈ Y^⊥, чиме је први део потврђен.

Друго, из претходног и познатог Y ∩ Y^⊥ = {0} следи X = Y ⊕ Y^⊥. ∎

26. Пример. Ако је Y векторски подпростор коначно-димензионалног векторског простора X, онда је dim Y^⊥ = dim X - dim Y. Формула следи непосредно из претходног става и става о димензији производа просттора (Димензија простора, 17. став). □

27. Пример. Ако је Y коначно-димензионалног подпростор X, доказати да је (Y^⊥)^⊥ = Y.

Доказ: Прво, покажимо да је Y ⊆ (Y^⊥)^⊥. Ако је y ∈ Y, онда је ⟨y, x⟩ = 0 за свако x ∈ Y^⊥, а онда је y ∈ (Y^⊥)^⊥.

Да докажемо обрнуту импликацију, претпоставимо x ∈ (Y^⊥)^⊥. Тада можемо писати x = y + z, где је y ∈ Y, а z ∈ Y^⊥, према 25. ставу, па је x - y ∈ Y^⊥. Имамо и x ∈ (Y^⊥)^⊥ са y ∈ (Y^⊥)^⊥ што даје x - y ∈ (Y^⊥)^⊥. Зато је та разлика ортогонална на себе, те је x - y = 0. Дакле, x ∈ Y и (Y^⊥)^⊥ ⊆ Y. □

5. Пројекција

5.1. Ортогонална пројекција простора V на U је оператор \( P_U \in \mathcal{L}(V) \) дефинисан са: За векторе v ∈ V пишемо v = u + w, где је u ∈ U и w ∈ U^⊥; тада \( P_Uv = u \).

На пример, у ℝ³ раван W (Декартово z = 0) окомита је на W^⊥ (z-осу, апликату), тако да је декомпозиција у односу на овај W:

\[ x = \begin{pmatrix} 2 \\ 1 \\ 3 \end{pmatrix} \ \rightarrow \ x_W = \begin{pmatrix} 2 \\ 1 \\ 0 \end{pmatrix} \ \rightarrow \ x_{W^\perp} = \begin{pmatrix} 0 \\ 0 \\ 3 \end{pmatrix}. \]

На слици лево види се ортогонална пројекција тачке x на раван W у тачку x_W, при чему је x_W^⊥ тачка на апликати.

Корак од оваквих ортогоналних декомпозиција су ортогоналне пројекције. Међутим, оне могу бити и посебне ортографске пројекције попут једне на следећој слици десно. Приказано је 3-дим тело, блок или кладић, пројектовано на различите супротне стране ради прецизније обраде.

Да је горње P_U(v) добро дефинисано види се из декомпозиције директне суме V = U ⊕ U^⊥ где се свако v ∈ V, са u ∈ U и w ∈ U^⊥, може јединствено написати у облику v = u + w.

28. Пример. Ако x ∈ V, где x ≠ 0 и U = span(x), онда је

\[ P_U(v) = \frac{\langle v, x\rangle}{\|x\|^2}x. \]

Доказ: Из x ∈ V следи

\[ v = \frac{\langle v, x\rangle}{\|x\|^2}x + \left( v - \frac{\langle v, x\rangle}{\|x\|^2}x \right) \]

где је први сабирак span(x) ∈ U, а други је ортогоналан на x ∈ U^⊥. Према томе, P_U(v) јесте речено. □

5.2. У наставку погледајмо неке важне особине пројекције: линеарност, идемпотентност (сталност), ортогоналност, кодомен, нула простор, ограниченост и представљање ортогоналном базом. Подсећам да за ознаке простора X, Y, Z и тела скалара Φ можемо користити редом V, U, W и F.

29. Став. Ако је U коначно-димензионалан подпростор из V и v ∈ V, онда је:

1. \( P_U \in \mathcal{L}(V) \);
2. \( P_U u = u, \quad \forall u \in U \);
3. \( P_U w = 0, \quad \forall w \in U^\perp \);
4. \( P_U(U) = U \), кодомен оператора P_U је U;
5. \( \ker P_U = U^\perp \), нула простор оператора P_U је U^⊥;
6. \( v - P_Uv \in U^\perp \);
7. \( P_U^2 = P_U \);
8. \( \|P_Uv\| \le \|v\| \);
9. \( P_Uv = \langle v, e_1 \rangle e_1 + ... + \langle v, e_m \rangle e_m \), за сваку ортонормирану базу \( e_1, ..., e_m \in U\).

Доказ: (a) Претпоставимо v₁, v₂ ∈ V. Пишимо v_i = u_i + w_i, са u_i ∈ U и w_i ∈ U^⊥, па је:

\[ P_U(v_1 + v_2) = (u_1 + u_2) + (w_1 + w_2) = u_1 + u_2 = P_Uv_1 + P_Uv_2. \]

Слично, за λ ∈ F, биће \( P_U(\lambda v) = \lambda P_U(v) \). Према томе, имамо линеарно пресликавање \( P_U : V \to V \).

(b) Из u ∈ U и u = u + 0, где 0 ∈ U^⊥, следи P_U u = u (идемпотентност).

(c) Из w ∈ U^⊥ и w = 0 + u, где 0 ∈ U, следи P_U w = 0 (ортогоналност).

(d) Из дефиниције је P_U ⊆ U, а из (b) је U подскуп кодомена P_U. Отуда је кодомен P_U једнак U.

(e) Из (c) следи \( U^\perp \subseteq \ker P_U \). За обрнуту инклузију приметимо, \( v \in \ker P_U \) повлачи \( v = 0 + v \), где \( 0 \in U \) и \( v \in U^\perp \), па \( \ker P_U \subseteq U^\perp \).

(f) За v = u + w, са u ∈ U и w ∈ U^⊥, је v - P_U v = v - u = w ∈ U^⊥.

(g) За v = u + w, са u ∈ U и w ∈ U^⊥, је (P_U²)v = P_U(P_U v) = P_U u = u = P_U v.

(h) За v = u + w, са u ∈ U и w ∈ U^⊥, је \( \|P_Uv\|^2 = \|u\|^2 \le \|u\|^2 + \|w\|^2 = \|v\|^2 \), где последња једнакост долази из Питагорине теореме.

(i) Формула за P_U v следи из разлагања 25. става. ∎

5.3. Поставља се следећи важан проблем примене. За дати подпростор U ⊆ V и тачку v ∈ V, пронаћи тачку u ∈ U такву да је ∥v - u∥ што је могуће мање. Показује се да тај минимум постиже u' = P_U v.

На слици лево, V је простор равни слике, а U је права линија. Тачка v ∈ V пројектована је на праву U у тачку P_U v. Било која друга тачка u ∈ U дате праве даља је од тачке v, него што је то тачка P_U v ∈ U. Симболима писано ∥v - P_U v∥ ≤ ∥v - u∥.

30. Став. Ако је U коначно-димензионални подпростор од V, а v ∈ V и u ∈ U, тада је \( \|v - P_Uv\| \le \|v - u\| \), где једнакост важи ако и само ако је \( u = P_Uv \).

Доказ: Из особине норме и ортогоналности следи:

\[ \|v - P_Uv\|^2 \le \|v - P_Uv\|^2 + \|P_Uv - u\|^2 = \] \[ = \|(v - P_Uv) + ( P_Uv - u)\|^2 = \| v - u \|^2, \]

а то је оно што је требало доказати. ∎

5.4. Знамо како разлагањем функције у Тејлоров полином са довољно првих сабирака постижемо било коју задату тачност њене вредности у тачки x = a. Подсетимо се опште формуле и неколико примера:

\[ f(x) = f(a) + \frac{f'(a)}{1!} + \frac{f''(a)}{2!} + \frac{f^{(3)}(a)}{3!} + ... + \frac{f^{(n)}(a)}{n!} + ... \] \[ \sin x = x - \frac{x^3}{3!} + \frac{x^5}{5!} - ... + (-1)^n \frac{x^{2n+1}}{(2n+1)!} + ... \] \[ \cos x = 1 - \frac{x^2}{2!} + \frac{x^4}{4!} - ... + (-1)^n \frac{x^{2n}}{(2n)!} + ... \] \[ e^x = 1 + \frac{x}{1!} + \frac{^2}{2!} + ... + \frac{x^n}{n!} + ... \]

Проверите непосредним сабирањем ових редова да је \( e^{ix} = \cos x + i \sin x \), где за имагинарну јединицу важи једнакост i² = -1.

31. Пример. Користећи претходни став нађимо најбољу апроксимацију синусне функције полиномом петог степена.

Решење: У унутрашњем простору реалних непрекидних функција \( f = f(x) \) и \( g = g(x) \) на интервалу једног периода [-π, π] скаларни производ је

\[ \langle f, g \rangle = \int_{-\pi}^{\pi} f(x)g(x)\ dx, \]

а ми тражимо минималну вредност норме

\[ \int_{-\pi}^{\pi} |\sin x - u(x)|^2 \ dx , \]

држећи се простора полинома.

Грам-Шмитовим поступком (14. став) преводимо базу 1, x, ..., x^m-1 ∈ U у ортогоналну e¹, e², ..., e^m истог простора. Узимајући m = 5, након извесног израчунавања, налазимо функцију \( P_Uv \) облика

\[ u(x) = 0,987862 x - 0,155271 x^3 + 0,00564312 x^5 \]

чији је црвени граф на слици десно. Видимо да он боље апроксимира синусну функцију од много већег бираног броја m → ∞, када бисмо добили Тејлоров ред синусне функције око нуле (a = 0), али узели само прва три сабирка. Та апроксимација је са првих шест општих чланова Тејлоровог реда

\[ \sin(x) \approx f_6(x) = x - \frac{x^3}{6} + \frac{x^5}{12}. \]

Она је представљена плавом кривом на истом графу. □