Contenu principal
Algèbre linéaire
Cours : Algèbre linéaire > Chapitre 3
Leçon 2: Projections orthogonales- Projections sur des sous-espaces
- Visualiser une projection sur un plan
- Une projection sur un sous-espace vectoriel est une application linéaire
- Exemple d'une matrice de projection sur un sous-espace
- Un autre exemple d'une matrice de projection
- La projection est le plus proche vecteur dans le sous-espace
- Approximation des moindres carrés
- Exemples à propos des moindres carrés
- Un autre exemple de la méthode des moindres carrés
Exemples à propos des moindres carrés
Un exemple utilisant la méthode des moindres carrés pour un système unsoluble. Créé par Sal Khan.
Vous souhaitez rejoindre la discussion ?
Pas encore de posts.
Transcription de la vidéo
dans cette vidéo on va se placer dans l'espace affine à deux dimensions pour étudier l'intersection entre trois droites du plan dans r2 du coup donc on va avoir une première droite d'équations 2x moins y égale à 2 on va avoir une deuxième équation de droite qui est x + 2 y égal à 1 et une dernière qui est x plus y égal à 4 alors quand on a ces expressions comme ça nous ce qu'on aime bien faire c'est les mettre sous forme y il ya la xb donc si je fais ça pour la première je passais le 2x de l'autre côté donc j'ai moins y égales - 2 x + 2 ou une autre façon de l'écrire y égal 2 x + 2 ça c'est pour la première équation pour la 2eme équation donc je vais faire la même chose donc j'ai 2 y 2 y égales - x + 1 ou si je divise par deux y égales - 1/2 de x + 1/2 et la dernière équation donc si je passe le xo côté je vais écrire directement ici j' y qui est égal à moins-16 +4 donc j'ai mes trois équations pour mes trois droites et maintenant je vais les représenter sur à un graphique donc je vais dessiner mon plan ici j'ai lax y est ici gelac ce x6 gx alors maintenant si j'essaie de représenter mes trois droites la première droite je me rends compte que j'ai fait une erreur ici c'est pas 2 expliqué ici c'est 2x moins deux donc y égal de 10.2 donc l'intersection avec l'accis grecque il est à -2 et ensuite il ya une pente de 2 donc en fait tu vas voir y ils gagnent 0 pour x égal 1 donc comme ça donc ma première droite va être une droite comme ceux ci ça c'est pas ma première droite ma deuxième droite que j'ai écris ici un jaune donc c'est l'intersection elle est à un demi environ ici et pour xga linge et y 15 0 donc en fait avec une pente de 1,2 moins un demi donc ça va être quelque chose comme ceci ma deuxième droite va être comme ceci est la dernière ligue ricky galles - x + 4 donc avec une intersection à 4 1 2 3 et 4 et une pente de -1 donc en fait je vais avoir y est à zéro quand xo 4 donc 1 2 3 4 donc je avoir droite comme ceux ci j'ai juste agrandir celle là celle ci continue comme ça donc en fait on voit que l'idée de départ c'est de chercher l'intersection entre ces trois droites en fait elles n'existent pas parce que il va y avoir de droite qui vont dans l'intersection battre ici les deux autres ou 2 2 qui vont ça avant une intersection ici et encore un point d'intersection ici donc on n'a pas un point unique où les trois droite vont intercepter et alors si on pense à ce qu'on a fait dans la dernière vidéo qu'est ce que ça veut dire sûr mais ce système d'équations sous forme matricielle on va avoir quoi on va avoir une matrice à qu'on va multiplier par un vecteur x y x y qui va être égale le produit cette matrice par le vecteur xy va être égal à mon vecteur b qui aimons vecteur ici 2 1 4 et du coup c'est quoi un matrix a alors en fait la première équation ces 2 x - y ait deux jeux voire de -1 puis 1 2 et 1 1 1 1 donc ça c'est ma matrice à ça c'est un vecteur b est en fait comme on dit que c'est 3 droite n'ont pas d'intersections commune ça veut dire qu'il n'ya pas de solution à cette équation j à l'équation ax et galbées et fils est un vecteur qu'on appelle un vecteur ix et du coup ce qu'on a c'est c'est exactement quatre filières qu'on a vu la dernière vidéo où il n'y a pas de solution à l'équation ax et galbées et alors ce qu'on a fait rien dernière vidéo c'est que on a on s'est pas arrêté là on a dit qu'on allait chercher un x étoiles qui minimisent l'erreur dans la résolution d'équations donc ce qu'on avait dit c'est que si on peut par du fait qu' on a une équation ax et galbées qui n'a pas de solution pas de solution qu'est ce que ça veut dire qu'il ya pas de solution à cette équation ça veut dire que b n'appartient pas à l'image de 1 à ce moment là on a dit qu'on pouvait chercher une solution on va dire optimale à cette équation et on la trouve grâce aux vecteurs x étoiles et x étoiles commande tout grâce à l'équation la transposer de à foix à x x étoiles est égale à la transposer de à x b ici on connaît mais on connaît adam qu'on connaisse à transposer donc on connaît aussi le produit de la transposer de la fois un et du coup on va être capable de déterminer mon vecteur x étoiles où la solution des moindres carrés de cette équation donc moi on est parti on peut calculer pour commencer le produit de la transposer de à foix donc la transposer de à ça va être la matrice de - 1 1 2 1 1 fois matrice acquis et la matrice que j'ai écris ici 2 - 1 1 2 1 1 et du coup ici j'ai une matrice deux fois 3 2 x 3 ici j'ai une matrice 3 x 2 donc le produit de matrice à transposer fois matrice à ça va être une matrice 2 x 2 et à couettes à quoi ça va être égal alors si on regarde le premier coefficient ça va être deux fois 2 4 + 1 x 1 + 1 x 1 donc ça fait 6 ici j'ai un fils le deuxième collection ici ça va être deux fois moins 1 - 2 + 1 x 2 2 donc ici j'ai moins de +2 donc ça fait zéro plus une fois 1-1 donc il me reste un second chien ici ça va être quoi ça va être moins 1 x 2 - 2 + 2 x 1 2 donc figé moins de +2 ça va me faire zéro plus il me reste 1 x 1 1 et le dernier coefficient c'est quoi c'est moins fort moins 1 du coup un plus de x 2,4 plus une fois un donc ça fait 1 + 4 + 1 ça fait 6 du coup ma matrice transposer de la foi à ces cette matrice la très bien maintenant il faut que je calcule le produit de la matrice transféré de la fois mon vecteur b qui est le vecteur de 1,4 donc je vais faire le calcul donc ma matrice transposée c'est la matrice de 1 1 - 1 2 1 est le vecteur b on a dit que c'était le vecteur de 1,4 de 1,4 donc là j'ai une matrice deux fois trois là j'ai une matrice 3 x 1 donc je vais obtenir un vecteur ou une matrice deux fois 1 donc comme ceci alors quels sont les coups de chien le premier corruption ça va être deux fois 2 4 plus une fois un plus une fois 4 4 donc ça fait 4 + 1 + 4 ça fait neuf si j'ai un oeuf et les deuxièmes coefficient ça va être moins une fois 2 - 2 + 2 donc ça fait moins de plus de ce fait zéro et il me reste une fois 4 4 donc ça c'est le vecteur transposer de à x b donc l'équation que j'ai ici à quoi est-ce qu'elle est égal ça veut dire qu'on a la matrice à thé x a donc ça c'est la matrice 6 1 1 6 fois le vecteur x étoiles qui est égale à la trans'oise deux fois b donc le vecteur 9,4 9,4 donc une fois que j'ai ça je peux calculer maintenant la matrice augmenté correspondant à ce système et je sais ici je sais que je vois une solution à ce système donc si je regarde la matrice augmenté c'est quoi c'est la matrice 6 1 je vais rajouter ici le 9 et 1 6 4 donc la première chose que je vais faire pour obtenir cette matrice sous forme échelonné réduite c'est que j'ai inversé la ligne 1 et la ligne 2 donc si je fais ça qu'est-ce que je j'obtiens 1 6 4 et 6 1 9 maintenant je peux commencer à faire mon calcul donc je vais garder la première ligne constante et je vais calculer la deuxième ligne - six fois la première ligne donc ici je gagne 1 6 4 ici j'ai 6 x 6 moins une fois 6 donc ça fait six mois si ça fait zéro ici j'ai un moins six fois ci donc moins 36 donc ça fait moins 35 - 35 et ici je vais avoir neuf - 6 x 4 donc 9 - 24 9 - 24 ça fait moins 15 voilà ensuite ce que je voudrais savoir 1,1 ici du coup je vais diviser la deuxième ligne par 35 donc qu'est ce que j'ai essayé divise la deuxième ligne par 35 je vais avoir du coup je garde ma première ligne 1 6 4 0 et du coup se divisent moins 35 par mois 35 j'obtiens un c'est ce que je voulais et ici je vais avoir moins 15 / - 35 donc 15 / 35 et du coup 15 / 35 ça fait trois fois 5 / cette fois 5 donc ça ça fait 3 7e j'ai pas encore tout à fait fini maintenant il faudrait que j'obtienne un zéro ici donc je vais faire la première ligne - six fois la deuxième ligne donc qu'est ce que j'obtiens si je fais ça donc ici je vais avoir un moins six fois zéro j'ai 1 je vais écrire d'avoir la deuxième il donc ici j'ai 0 1 et ici j'ai 3 7e donc ici j'ai dit que j'ai obtenu mon un ici j'obtiens 6 moins une fois 6 donc ça me fait zéro ce que je voulais obtenir et pour le dernier coefficient je vais avoir 4 - 6 x 3 7e donc 4 - 18 7e et 4 x 7 ça fait 28 donc ça fait 28 7e - 18 7e but marqué ici ça fait 28 7e - 18 7e 18 7e donc ça me fait dix septième donc ça c'est ma matrice sous la forme et je venais réduite qu'est ce que ça veut dire ça veut dire que mon vecteur x étoiles qui est ce que je voulais obtenir il est égal à quoi il est égal à un vecteur dix septième 3 7e ça c'est non pas le résultat de la solution de l'équation ax et galbées mais c'est la solution qui minimisent l'erreur dans l'équation avec ses galbes et c'est là la solution la plus proche qu'il existe donc si je retourne sur mon graphique ici ou est ce qu'elle est ma ma solution j'ai dit que x étoiles c'est est égal aux vecteurs dix septième 3 7e donc ça veut dire que le premier coefficient ici sera très légèrement supérieur à 1 et le deuxième copiant inférieur 1 donc en fait ma solution optimale ma solution des moindres carrés c'est ce point ici en violet il va se situer ici est en fait ce ce résultat là c'est le résultat qui minimisent l'erreur dans la solution ax et galbées alors maintenant ce qu'on peut faire c'est que on a dit que ça minimiser les erreurs et on peut calculer l'erreur qu'on fait quand on dit que la solution c'est ça quelle est l'erreur qu'on fait et ça on a vu que l'erreur c'était la norme du vecteur ax - b donc je retourne ici donc on a dit que l'erreur qu'on faisait c'est la norme de ax kx étoiles - b ça vaut quoi cette norme de ax étoiles - b d'abord il faut calculer ax étoiles parce qu'on l'a jamais calculé donc ma batterie ça c'est la matrice de - 1 1 2 1 1 est le vecteur x et wallon vient de calculer c'est le vecteur 17e 3/7 dix septième 3 7e donc ça vaut quoi ax étoiles ça vaut le vecteur du coup pour le premier on va avoir alors là je vais faire le calcul pas à pas je vais avoir deux fois 17e donc vingt septième vingt septième moins une fois 3/7 donc moins 3 7e pour le 2ème coefficient je vais avoir une fois 17e donc dix septième plus deux fois 3 7e donc plus 6 7e +6 7e et pour le dernier je vais avoir dix septième plus 3/7 dix septième plus 3 7e donc ça vaut quoi ça vaut sur le premier coefficient je vais avoir 20 - 3 7e donc ça fait dix-sept 7e 17 7e le deuxième confiance avait 10 + 6 7e 16 7e 16 7e et le dernier je vais avoir 10 + 3 7e donc 13 7e du coup je connais le vecteur b donc cette norme ici ça vaut quoi ça vaut la norme de mon vecteur ax étoiles dont je réécris 17 7e 16 7e et 13 7e - mon victor b c'est quoi mon victor b ses lecteurs de 1,4 de 1,4 très bien donc mon vecteur ax étoiles - b il vaut quoi ivo si je fais le calcul ça va être le vecteur 17 7e - 2 donc deux ses 14 7e donc 17 - 14 7e donc ça fait 3 7e 3 7e ici je vais avoir 16 7e - 7/7 donc ça fait 9 7e 9 7e est ici j'aurais 13 7e - ar 4 x 7 ça fait 28 donc moins 28 centièmes donc ça fait moins 15 7e - 15 7e bien donc ça c'est mon vecteur ax étoiles b et du coup en fait moi ce que je vais faire ce que je vais pas ici regarder directement la norme je vais regarder la norme au carré parce que c'est plus facile à calculer donc ça vaut quoi ça vous 3/7 au carré donc ça fait 9 49e +9 au carré ça fait 80 1 49e +15 au carré ça fait 225 donc ça fait 225 225 49e et donc où ça ça fait quoi 9 + 85 90 +225 ça fait 315 315 49e et donc où ça c'était la norme au carré si je m'intéresse à la norme g que la norme de ax étoiles - b ça vaut quoi ça vous la racine carrée du coup de racine carrée de 315 49e 49 c'est cette au carré donc ça fait la racine de 315 sur 7 et 3 115 c'est quoi ces 9 x 35 donc ça fait trois racines de 35,3 racines de 35 / 7 donc ça c'est l'erreur que je fais quand je dis que la solution la plus proche c'est mon x étoiles je fais une erreur qui vaut exactement ça de quoi donc je suis parti d'un système qui n'avaient pas de solution ce système ici qu'ils aient essayé de trouver l'intersection entre les trois droite de mon plan que j'ai trouvé que la solution optimale c'est à dire la solution la plus approcher qui minimisent mon erreur c'est mon vecteur x étoiles qui est situé ici et j'ai été même capable de déterminer de l'erreur que je fais quand je prends cette solution ici