Gewichtete lineare Regression Formel?
Hallo,
ich habe den Vektor x und den Vektor y. Aus dem Vektor x bilde ich die Matrix A, wobei x die erste Spalte ist und in der zweiten Spalte jedes Element gleich 1 ist. Jetzt habe ich eine Funktion "bdcSvd" in meiner Programmiersprache, die aus der Matrix A und dem Vektor y die Lösung berechnet.
Fragen:
1) Wie kann ich da die Gewichte einbringen? Geht das überhaupt, werden die in der Matrix A oder im Vektor x mit eingebracht? Wenn nein,
2) wie ist die Formel, um aus A bzw. x und y (und einem Vektor w für die Gewichte?) die Lösung zu berechnen? Oder sollte man dafür einen raffinierteren Algorithmus verwenden (dann müsste ich danach suchen)?
Danke
1 Antwort
"bdcSvd" klingt ganz nach Singular value decomposition (Singulärwertzerlegung). Ich kann jedoch natürlich nicht wissen, was deine Funktion genau macht bzw. ausspuckt.
Jedenfalls, die Idee der Singulärwertzerlegung ist, die Systemmatrix A in Ax=b in eine bestimmt Form zu bringen (U S V'). U und V' sind Spaltenvektoren (glaube ich) und S eine Matrix mit Singulärwerten in der Diagonale. Mit den Singulärwerten kann man nette Sachen anstellen, unter anderem eine Lösung des Gleichungssystems Ax=b bieten oder approximieren (Truncated singular value decomposition).
Die gewichtete Lineare Regression ist mir nicht bekannt, ich komme halt nicht aus der Mathematik :). Ich kenne nur die Lineare Regression als |Ax-b|=minimal (oder so ähnlich), wobei A und b aus dem besteht, was du in deinen ersten 2 Sätzen bereits genannt hast.
Naja, hoffe, ich konnte zumindest ein wenig Klarheit schaffen bzw. dich in eine korrekte Richtung lenken.
|Ax-b| = minimal ist lineare Optimierung. Lineare Regression ist die lineare "Ausgleichsgerade". Durch Messpunkte wird eine Gerade gelegt, die insgesamt möglichst nahe an den Messpunkten liegt. Ich möchte, dass die Messpunkte unterschiedliche Gewichte haben, dass also mehr darauf geachtet wird, dass die gerade an "großen" Messpunkten liegt als an "kleinen".