A legkisebb négyzetek módszere az egyik legfontosabb alkalmazás a függvények közelítésében. Az ötlet az, hogy olyan görbét találjunk, amelyben rendezett párok halmaza alapján ez a funkció a legjobban megközelíti az adatokat. A függvény lehet egy vonal, egy kvadratikus görbe, egy köbméter, stb.
A módszer célja az, hogy a kiválasztott függvény által generált pontok és az adatkészlethez tartozó pontok között az ordinátában (Y komponens) mutatkozó különbségek négyzetének összegét minimalizáljuk.

A legkisebb négyzet módszer
A módszer megadása előtt tisztában kell lennünk azzal, hogy mit jelent a „jobb megközelítés”. Tegyük fel, hogy egy y = b + mx sort keresünk, amely a legjobban képviseli n pont halmazát, nevezetesen {(x1, y1), (x2, y2)…, (xn, yn)}.

Mint az előző ábrán látható, ha az x és y változók az y = b + mx vonalhoz kapcsolódnak, akkor x = x1 esetén a y értéke b + mx1. Ez az érték azonban különbözik az y valódi értékétől, amely y = y1.
Ne feledje, hogy a síkban a két pont közötti távolságot a következő képlet adja meg:

Ezt szem előtt tartva, hogy meghatározzuk az y = b + mx vonal kiválasztásának módját, amely a legjobban megközelíti az adott adatot, logikusnak tűnik kritériumként használni annak a vonalnak a kiválasztását, amely minimalizálja a pontok közötti távolság négyzeteinek összegét és az egyenes.
Mivel az (x1, y1) és (x1, b + mx1) pontok közötti távolság y1- (b + mx1), ezért problémánk m és b számokra történő lekérdezéssel csökken, így a következő összeg minimális:

Az a vonal, amely teljesíti ezt a feltételt, az úgynevezett «a legkisebb négyzetek vonalának közelítése a (x1, y1), (x2, y2),…, (xn, yn) pontokkal».
Miután megoldódott a probléma, csak a módszert kell választani a legkevesebb négyzetek közelítésének megtalálására. Ha az (x1, y1), (x2, y2),…, (xn, yn) pontok mind az y = mx + b vonalon vannak, akkor azt állíthatjuk, hogy ezek y vonalúak:

Ebben a kifejezésben:

Végül, ha a pontok nem egyenesek, akkor y-Au = 0 és a problémát le lehet fordítani olyan u vektor megtalálására, hogy az euklideszi norma minimális.

Az u minimalizáló vektor megtalálása nem olyan nehéz, mint gondolnád. Mivel A egy NX2 mátrix és u egy 2 × 1 mátrixot, van, hogy a vektor Au egy vektor R n és tartozik a kép egy, amely egy altér R n és szélessége nem lehet nagyobb, mint kettő.
Feltételezzük, hogy n = 3, hogy megmutatjuk, melyik eljárást kell követni. Ha n = 3, akkor A kép egy sík vagy egy vonal lesz az eredetnél.

Legyen v a minimalizáló vektor. Az ábrán megfigyeltük, hogy az y-Au értékre merőlegesen minimalizálódik, azaz ha az A képéhez merőleges, azaz ha v a minimalizáló vektor, akkor előfordul, hogy:

Ezután a fentiek kifejezése így történhet:

Ez csak akkor történhet meg, ha:

Végül, a v megoldására:

Ez megtehető, mivel A t A megfordítható, mindaddig, amíg az adatokként megadott n pont nem egyenes.
Most, ha egy sor keresése helyett olyan parabolt szeretnénk találni (amelynek kifejezése y = a + bx + cx 2 formájú lenne), amely jobban megközelíti az n adatpontot, az eljárás az alábbiakban ismertetett módon történik.
Ha az n adatpont ebben a parabolában lenne, akkor:

Azután:

Hasonlóképpen írhatjuk y = Au. Ha az összes pont nem a parabolában van, akkor az y-Au eltér nullától bármely u vektor esetében, és újra a problémánk: találjunk egy u vektort az R3-ban úgy, hogy normája - y-Au - a lehető legkisebb legyen.
Az előző eljárás megismétlésével megállapíthatjuk, hogy a keresett vektor a következő:

Megoldott gyakorlatok
1. Feladat
Keresse meg azt a vonalat, amely a legjobban illeszkedik a (1,4), (-2,5), (3, -1) és (4,1) pontokhoz.
Megoldás
Nekünk kell:

Azután:


Ezért azt a következtetést vonjuk le, hogy a pontokhoz legjobban illeszkedő vonal a következő:

2. gyakorlat
Tegyük fel, hogy egy tárgy 200 m magasról esik le. Amint esik, a következő lépéseket teszem:

Tudjuk, hogy az említett tárgy magasságát t idő eltelte után adja meg:

Ha meg akarjuk szerezni g értékét, akkor találhatunk egy parabolt, amely jobban közelíti a táblázatban megadott öt pontot, és így lenne, ha a t 2- t kísérő együttható ésszerű közelítés lesz (-1 / 2) g-hoz, ha a a mérések pontosak.
Nekünk kell:

És később:


Az adatpontok tehát illeszkednek a következő négyzetes kifejezéshez:

Tehát:

Ez egy érték, amely ésszerűen közel van a helyeshez, amely g = 9,81 m / s 2. A g pontosabb közelítésének érdekében pontosabb megfigyelésektől kell indulni.
Mire való?
A természettudomány vagy a társadalomtudományok során felmerülő problémáknál célszerű valamilyen matematikai kifejezéssel felírni a különböző változók között fennálló kapcsolatokat.
Például a közgazdaságtanban a költségeket (C), a jövedelmet (I) és a nyereséget (U) összekapcsolhatjuk egy egyszerű képlet segítségével:

A fizikában törvény szerint összekapcsolhatjuk a gravitáció által okozott gyorsulást, az objektum esésének idejét és a tárgy magasságát:

Az előző kifejezésben s o az objektum kezdeti magassága, és v o annak kezdeti sebessége.
Az ilyen képletek megtalálása azonban nem könnyű feladat; általában a szolgálatban lévő szakember feladata, hogy sok adatmal dolgozzon, és több kísérletet ismételten végezzen (annak ellenőrzése érdekében, hogy a kapott eredmények állandóak-e) a különféle adatok közötti kapcsolatok megtalálása érdekében.
Ennek elérésére egy általános módszer a síkban kapott adatok pontokként ábrázolása és folyamatos függvény keresése, amely optimálisan közelíti ezeket a pontokat.
Az adott adatok "legjobban megközelítő" funkciójának megtalálásának egyik módja a legkisebb négyzetek módszerével.
Ezen felül, amint azt a gyakorlatban is láttuk, ennek a módszernek köszönhetően meglehetősen közelítjük a fizikai állandókat.
Irodalom
- Charles W Curtis Lineáris Algebra. Springer-Velarg
- Kai Lai Chung. Elemi valószínűségi elmélet sztochasztikus folyamatokkal. Springer-Verlag New York Inc.
- Richar L Burden és J. Douglas Faires. Numerikus elemzés (7ed). Thompson Learning.
- Stanley I. Grossman. A Lineáris Algebra alkalmazásai. MCGRAW-HILL / INTERAMERICANA DE MEXICO
- Stanley I. Grossman. Lineáris algebra. MCGRAW-HILL / INTERAMERICANA DE MEXICO
