Метода најмање квадрата једна је од најважнијих апликација у приближавању функција. Идеја је пронаћи кривуљу такву да, с обзиром на скуп уређених парова, ова функција најбоље апроксимира податке. Функција може бити линија, квадратна кривуља, кубика итд.
Идеја методе састоји се у минимизирању зброја квадрата разлика у ординати (И компоненти), између тачака генерисаних одабраном функцијом и тачака које припадају скупу података.
Метода најмање квадрата
Пре него што дамо методу, прво морамо бити јасни шта значи „бољи приступ“. Претпоставимо да тражимо линију и = б + мк која је она која најбоље представља скуп од н тачака, наиме {(к1, и1), (к2, и2)…, (кн, ин)}.
Као што је приказано на претходној слици, ако су променљиве к и и повезане линијом и = б + мк, тада би за к = к1 одговарајућа вредност и била б + мк1. Међутим, ова вредност се разликује од праве вредности и, која је и = и1.
Запамтите да је у равнини удаљеност између две тачке дата следећом формулом:
Имајући то у виду, за одређивање начина избора линије и = б + мк који најбоље апроксимира дате податке, чини се логичним да се као критеријум користи избор линије која минимизира суму квадрата удаљености између тачака и равно.
Пошто је удаљеност између тачака (к1, и1) и (к1, б + мк1) и1- (б + мк1), наш проблем се своди на проналажење бројева м и б тако да је следећа сума минимална:
Линија која испуњава овај услов позната је као «приближавање линије најмањег квадрата тачкама (к1, и1), (к2, и2),…, (кн, ин)».
Једном када се проблем добије, преостаје само да одаберемо методу за проналажење најмањих апроксимација квадрата. Ако су тачке (к1, и1), (к2, и2),…, (кн, ин) све на линији и = мк + б, имали бисмо да су колинеарне и:
У овом изразу:
Коначно, ако тачке нису колинеарне, онда је и-Ау = 0 и проблем се може превести у проналажење вектора у таквом да је еуклидска норма минимална.
Проналажење вектора за минимизирање у није тако тешко као што можда мислите. Пошто је А нк2 матрица и у је 2 × 1 матрица, имамо да је вектор Ау вектор у Р н и да припада слици А, која је подпростор Р н са димензијом не већом од две.
Претпоставићемо да је н = 3 да покаже који поступак треба следити. Ако је н = 3, слика А ће представљати равнину или линију кроз исходиште.
Нека је в вектор који минимизира. На слици опажамо да је и-Ау минимизиран када је ортогонално на слици А. То јест, ако је в минимизирајући вектор, тада се дешава да:
Затим, горе наведено можемо изразити на овај начин:
То се може догодити само ако:
Коначно, решавајући за в, имамо:
То је могуће учинити пошто је А т А обрнуто све док н бодова који су наведени као подаци нису колинеарни.
Сада, ако бисмо тражили линију, желели смо да нађемо параболу (чији би израз био облика и = а + бк + цк 2 ) која би била боља апроксимација н податаканих тачака, поступак би био описан у наставку.
Да је н података у овој параболи, имали бисмо:
Онда:
Слично можемо написати и и = Ау. Ако све тачке нису у параболи, имамо да је и-Ау различит од нуле за било који вектор у, а наш проблем је поново: пронађите вектор у Р3 тако да је његова норма --и-Ау-- што је мања .
Понављајући претходни поступак, можемо доћи до тога да је тражени вектор следећи:
Решене вежбе
Вежба 1
Пронађите линију која најбоље одговара тачкама (1,4), (-2,5), (3, -1) и (4,1).
Решење
Морамо да:
Онда:
Стога закључујемо да линију која најбоље одговара точкама даје:
Вежба 2
Претпоставимо да је објекат пао са висине од 200 м. Како пада, предузимају се следећи кораци:
Знамо да висину наведеног објекта, након што прође време т, даје:
Ако желимо да добијемо вредност г, можемо пронаћи параболу која је боља апроксимација пет тачака које су дате у табели, и стога бисмо имали да ће коефицијент који прати т 2 бити разумна апроксимација на (-1/2) г ако је мерења су тачна.
Морамо да:
А касније:
Дакле, тачке података се уклапају у следећи квадратни израз:
Дакле, морате:
Ово је вредност која је поприлично близу тачне, а то је г = 9,81 м / с 2 . Да би се добила тачнија апроксимација г, требало би кренути од прецизнијих опажања.
За шта је то?
У проблемима који се јављају у природним или друштвеним наукама, прикладно је писати односе који постоје између различитих променљивих помоћу неког математичког израза.
На пример, у економији можемо да повезујемо трошкове (Ц), приходе (И) и добит (У) помоћу једноставне формуле:
У физици можемо да повежемо убрзање изазвано гравитацијом, време пада објекта и висину предмета по закону:
У претходном изразу с о је почетна висина наведеног објекта, а в о његова почетна брзина.
Међутим, проналазак оваквих формула није лак задатак; Обично је дежурни професионалац да ради са пуно података и опетовано изводи неколико експеримената (како би се уверило да ли су добијени резултати константни) да би пронашао однос између различитих података.
Чест начин да се то постигне је представљање података добијених у равнини као тачке и тражење континуиране функције која оптимално приближава те тачке.
Један од начина за проналажење функције која „најбоље апроксимира“ дане податке јесте методом најмање квадрата.
Поред тога, као што смо видели и у вежби, захваљујући овој методи можемо добити прилично приближне физичке константе.
Референце
- Цхарлес В Цуртис Линеарна алгебра. Спрингер-Веларг
- Каи Лаи Цхунг. Елементарна теорија изводљивости са стохастичким процесима. Спрингер-Верлаг Нев Иорк Инц
- Рицхар Л Бурден и Ј.Доуглас Фаирес. Нумеричка анализа (7ед). Тхомпсон Леарнинг.
- Станлеи И. Гроссман. Примене линеарне алгебре. МЦГРАВ-ХИЛЛ / ИНТЕРАМЕРИЦАНА ДЕ МЕКСИЦО
- Станлеи И. Гроссман. Линеарна алгебра. МЦГРАВ-ХИЛЛ / ИНТЕРАМЕРИЦАНА ДЕ МЕКСИЦО