Master ASE1 – Identification des Processus – P.

Bonnet
1
MODELISATION IDENTIFICATION
DES PROCESSUS
MASTER ASE 1ère année

Master ASE1 – Identification des Processus – P. Bonnet
2
Pierre BONNET
2009-2010

Master ASE1 – Identification des Processus – P. Bonnet
3
 Présentation
- objectifs du cours et domaines d'application
PLAN DU COURS
 Notion de modèle
- modèle paramétrique
- modèle de connaissance/modèle de comportement
- modèle de signal/modèle de système
 Rappel des méthodes de base en Automatique
- réponse temporelle d'un système
- identification directe à partir de la réponse temporelle
- approche fréquentielle
 Principe d'ajustement du modèle
- modèle linéaire par rapport aux paramètres
- minimisation du critère d'ajustement et calcul de la solution optimale
- écriture matricielle de la méthode des moindres-carrés
 Analyse de la méthode des moindres-carrés
- Biais d'estimation
- Variance de l'estimation
- estimateur du maximum de vraisemblance
- rejet des mesures aberrantes

Master ASE1 – Identification des Processus – P. Bonnet
4
 Extension aux modèles non-linéaires
- méthode de Gauss
- analyse et améliorations
PLAN DU COURS
 Moindres-carrés récursifs
- principe du calcul récursif
- mise en oeuvre de la méthode récursive
- facteur de pondération, facteur d'oubli
 Modélisation d'un système
- choix d'un modèle discret ARMA
- mise en place de la méthode des moindres-carrés
- comportement du modèle vis à vis du bruit
- le modèle ARMAX

Master ASE1 – Identification des Processus – P. Bonnet
5
 Bibliographie
- Identification des systèmes - Ioan D. Landau - Hermès – 1998
- Estimation Prédiction - E. Duflos & Ph. Vanheeghe - Technip – 2000
- Identification et commande numérique des procédés industriels - R. Ben
Abdennour , P. Borne, M. Ksouri & F. M'sahli - Technip -2001
- Modélisation et Identification des Processus - P. Borne - Technip – 1992
- Cours d'Identification de l'Université de Lund (Suède)
http://www.control.lth.se/course/FRT041/
- Cours d'identification de l'EPFL (Suisse)
http://lawww.epfl.ch/page4230.html
PLAN DU COURS

Master ASE1 – Identification des Processus – P. Bonnet
6
OBJECTIFS DU COURS
 Donner les principes fondamentaux de la modélisation et de l'estimation
de paramètres appliqués aux systèmes rencontrés dans de nombreux
domaines scientifiques :
 l'Automatique pour laquelle la connaissance du modèle est indispensable
pour synthétiser une loi de commande
 les Sciences Expérimentales, lorsque la validation d'une théorie se fait par
des manipulations expérimentales (physique atomique, microélectronique...)
 la Biologie, l'Economie, les Statistiques
 partout où des observations sont validées par un principe de
fonctionnement (règles mathématiques)

Master ASE1 – Identification des Processus – P. Bonnet
7
Système réel
Sorties
réelles
Erreur de
modélisation
 Principe de la modélisation/estimation
Modèle
+
-
Ajustement du modèle
Critère
d'évaluation
Critère
d'évaluation
Sorties
calculées
Entrées
OBJECTIFS DU COURS

Master ASE1 – Identification des Processus – P. Bonnet
8
Variables
endogènes
entrées sorties
+
Bruit sur les
entrées
+
Bruit sur les
sorties
Evolution des paramètres
caractéristiques
Perturbations du
système
Variables
exogènes
Observations
 Différence entre modèle et système réel
 Le modèle ne prend pas en compte les grandeurs non mesurables
OBJECTIFS DU COURS

Master ASE1 – Identification des Processus – P. Bonnet
9
 Intérêt de la modélisation:
Fournir un modèle mathématique acceptable pour un système dont on peut
"dériver" de nombreuses informations relatives à son fonctionnement dynamique :
 calculer la dérivée du signal de sortie, les dérivées successives
 déterminer un extremum (local) du signal
 évaluer des grandeurs endogènes (observateur d'état)
 évaluer la dérive d'un système
 détecter la défaillance d'un système
 donner des valeurs estimées/filtrées du signal de sortie
 extrapoler/prédire le fonctionnement au delà des observations faites
 interpoler le fonctionnement entre deux points observés
OBJECTIFS DU COURS
 donner des valeurs pour certains paramètres
caractéristiques du processus étudié

Master ASE1 – Identification des Processus – P. Bonnet
10
 Note importante:
Si vous estimez que ce cours manque d'exemples ou d'applications, il vous suffit
d'assister aux exposés en Amphi Maxwell ! (pas de grasse matinée, le cours est à
8h)
Les exemples vous sont présentés, avec démonstration sur Matlab/Scilab et le
tableau noir est largement utilisé pour compléter ces transparents.
OBJECTIFS DU COURS

Master ASE1 – Identification des Processus – P. Bonnet
11
NOTION DE MODELE

NOTION DE MODELE
NOTION
DE
MODELE

Master ASE1 – Identification des Processus – P. Bonnet
12
NOTION DE MODELE
 Modèle
Un modèle est une structure mathématique pouvant représenter le système
étudié. Cette structure doit comporter des éléments d'ajustement.
 la structure du modèle représente la connaissance à priori que l'utilisateur
souhaite placer dans le modèle
F¦ p) =
N ¦ p)
D¦ p)
avec N ¦ p) et D¦ p) polynôme en p
Exemple : les fonctions de transfert du type
peuvent représenter une partie des systèmes linéaires différentiels à
coefficients constants (systèmes SISO)

Master ASE1 – Identification des Processus – P. Bonnet
13
NOTION DE MODELE
 Modèle quantitatif
Un modèle est quantitatif lorsque les fonctions qui définissent les équations
sont spécifiées analytiquement.
Dans un modèle quantitatif, une suite d'opération permet le calcul de la valeur
numérique des fonctions du modèle à partir de leurs arguments [et des
entrées du système]
Exemple : l'équation différentielle d'un système est un modèle quantitatif
(domaine temporel), de même que la fonction de transfert d'un système
différentiel à coefficients constants (domaine symbolique de Laplace).
 les systèmes aléatoires sont régis par des modèles stochastiques ; la
valeur d'une variable aléatoire ne peut être calculée à un instant t .

Master ASE1 – Identification des Processus – P. Bonnet
14
NOTION DE MODELE
 Modèle paramétrique
Un modèle quantitatif est paramétrique lorsque son expression analytique
comporte un nombre fini de constantes non-précisées numériquement appelés
paramètres .
L'expression générale d'un modèle paramétrique est:
avec variable explicative du modèle
Les paramètres représentent les constantes d'ajustement du modèle aux
mesures
X ¦t ) = f ¦t , a
1,
a
2,
... , a
k
)
t
K
t
p
F¦ p) =
K
1 +t p
Exemple : La fonction de transfert d'un système différentiel du premier
ordre est un modèle paramétrique, tout comme son équation différentielle.
et sont les paramètres du modèle,
variable explicative du modèle (variable complexe de Laplace)


Master ASE1 – Identification des Processus – P. Bonnet
15
NOTION DE MODELE
 Modèle de connaissance
Un modèle de connaissance est un modèle dont les paramètres représentent
des grandeurs caractéristiques de la structure étudiée.
Exemple : réponse impulsionnelle d'un système du 1
er
ordre
représente le gain statique du système
représente la constante de temps
 les paramètres du modèle seront déterminés par quelques caractéristiques
graphiques de la réponse ou des méthodes plus complexes
s¦t ) = K e
−t /t
K
t

Master ASE1 – Identification des Processus – P. Bonnet
16
NOTION DE MODELE
 Modèle de connaissance
Certains éléments du modèle peuvent ne pas être accessibles à l'identification.
Exemple : système électrique du 1
er
ordre
s¦t ) = K ¦1 − e
−t / t
)
K =
R
2
R
1
+ R
2
R
1
R
2
C
t =¦ R
1
// R
2
). C
 La réponse indicielle (échelon unité) permet de déterminer K et
mais pas la valeur des 3 composants.
t

Master ASE1 – Identification des Processus – P. Bonnet
17
NOTION DE MODELE
 Modèle de comportement
Un modèle de comportement est un modèle dont la structure et les
paramètres sont sans rapport avec le système réel
s¦t) = a
0
+a
1
t +a
2
t
2
+...+a
k
t
k
Exemple : réponse impulsionnelle d'un système du 2
ème
ordre modélisé par un
développement en série limité à coefficients réels.
 aucun des coefficients du modèle ne représente les paramètres
caractéristiques d'un second ordre (gain, amortissement et fréquence
naturelle), même pour un calcul d'ordre fini.

Master ASE1 – Identification des Processus – P. Bonnet
18
NOTION DE MODELE
 Modélisation d'un système sans entrée
La détermination des paramètres d'un système sans entrée se fait à partir de
l'observation de sa sortie (signal de sortie)
 l'outil de modélisation intègre la connaissance à priori du processus
générateur.
Système
Système
Modèle
Modèle
Sorties Sorties
Sorties
modélisées
Erreur de
modélisation
+
-
Critère
Critère

Master ASE1 – Identification des Processus – P. Bonnet
19
NOTION DE MODELE
 Modélisation d'un système avec entrée
La détermination des paramètres d'un système se fait à partir de
l'observation de sa sortie, compte-tenu de l'entrée appliquée.
Système
Système
Modèle
Modèle
Entrée
externe
Sorties Sorties
Sorties
modélisées
Erreur de
modélisation
+
-
Critère
Critère
 l'outil de modélisation doit donc prendre en compte
le signal de sortie ET le signal d'entrée.
Le degré de complexité est donc augmenté.


Master ASE1 – Identification des Processus – P. Bonnet
20
METHODES DE BASE
METHODES
DE
BASE

Master ASE1 – Identification des Processus – P. Bonnet
21
METHODES DE BASE
 Principe des méthodes de base
 Les méthodes de base (graphique, Broïda, Strecj, réponse harmonique...)
donnent usuellement un modèle de comportement . Pour les systèmes simples,
le modèle de comportement correspond au modèle de connaissance.
 La détermination des paramètres se fait à partir de la seule observation
de la sortie . Ces méthodes s'apparentent donc à des méthodes de modélisation
de signaux ou de données expérimentales.
 Elles s'appuient sur l'analyse graphique des courbes expérimentales en
quelques points particuliers et ne tiennent pas compte de l'ensemble des mesures.
Leur robustesse au bruit de mesure est faible.

Master ASE1 – Identification des Processus – P. Bonnet
22
METHODES DE BASE
 Relation entrée, sortie et système
 La sortie d'un système linéaire est le produit de convolution entre le
signal d'entrée et la réponse impulsionnelle du système.
 La sortie est caractéristique du système pour des signaux élémentaires
tels que l'impulsion de Dirac, l'échelon ou la rampe
.
h¦t )
s¦t )
e¦t )
s¦t ) =e∗h =

0
t
e¦t)h¦t − t) d t

Master ASE1 – Identification des Processus – P. Bonnet
23
METHODES DE BASE
 Relation entrée, sortie et système
 Le signal d'excitation le plus courant est l'échelon. L'identification se
fait donc à partir de la réponse indicielle.
Remarque : on peut passer de la réponse impulsionnelle à la réponse indicielle
par intégration [numérique] des mesures
 Si le système présente une intégration dans sa fonction de transfert
(pôle nul), il suffit de dériver [numériquement] les mesures pour obtenir la
réponse d'un système équivalent sans intégration.

Master ASE1 – Identification des Processus – P. Bonnet
24
METHODES DE BASE
 Relation entrée, sortie et système
 Exemple du circuit du 1er ordre de la forme :
La réponse impulsionnelle est :
D'où :
L'intégration de la réponse impulsionnelle donne la réponse indicielle:
.
L¦ p) =
1
1 +t p
S ¦ p) = 1.
1
1 +t p
=
1/t
p +1/ t
s¦t ) =
1
t
e
−t /t

0
t
s¦ u) du =
1
t
|−te
−t /t
¦
0
t
= 1 −e
−t /t

Master ASE1 – Identification des Processus – P. Bonnet
25
METHODES DE BASE
 Méthode graphique directe
 1er ordre soumis à un échelon

.
s¦t ) = K e
1
¦1 −e

t
t
) + s
0
H ¦ p) =
K
¦1 + t p)
t
0
Réponse
s
s
0
63%
s
0
+ Ke
1
t
Ke
1
e¦t ) = e
1
u¦t )
Le temps de réponse à 95% est environ de 3
t
Le temps de montée est:

Master ASE1 – Identification des Processus – P. Bonnet
26
METHODES DE BASE
 Méthode graphique directe
 1er ordre soumis à une rampe

.
s¦t ) = a Kte

t
t
+ a K¦t − t)
H ¦ p) =
K
¦1 + t p)
e¦t ) = a t u¦t )
t
0
t
Réponse
s¦t )
s
0
s
0
+ a K t
s
0
+ a K¦t −t)

Master ASE1 – Identification des Processus – P. Bonnet
27
METHODES DE BASE
 Méthode de Broïda
 réponse indicielle du 1er ordre avec retard

.
H ¦ p) = K
e
−Tp
¦1 +t p)
t
0
s¦t )
s
0
s
0
+ Ke
1
28%
40%
t
28
Ke
1
t
40
T = 2.8t
28
−1.8t
40
t =5.5¦t
40
−t
28
)

Master ASE1 – Identification des Processus – P. Bonnet
28
METHODES DE BASE
 Méthode de Strejc
 réponse indicielle du 1er ordre

.
H ¦ p) =
K
¦1 + t p)
n
t
0
s¦t )
s
0
s
0
+ Ke
1
T
u
Ke
1
T
a

Master ASE1 – Identification des Processus – P. Bonnet
29
METHODES DE BASE
 Méthode de Strejc
La méthode définit une valeur de n
non-entière ;
généralement, on arrondit cette
valeur à l'entier le plus proche.

.

Master ASE1 – Identification des Processus – P. Bonnet
30
METHODES DE BASE
 Méthode fréquentielle
La méthode fréquentielle s'appuie sur la réponse harmonique du système.
t
A
t
0
=0
Excitation
Réponse
h¦t )
s¦t )
e¦t ) = Asin¦ot )
s¦t ) = AH¦ j o)e
j ot
Ecriture complexe de l'entrée :
Le régime permanent de la sortie est :
e¦t ) = Ae
j ot

Master ASE1 – Identification des Processus – P. Bonnet
31
METHODES DE BASE
 Méthode fréquentielle
Elle permet de réaliser une excitation dans une large gamme de fréquences,
contrairement à l'échelon qui possède un spectre réduit. Le nombre de points
de mesure est élevé. L'analyse est donc beaucoup plus performante que
l'analyse temporelle.
Log o
∣H¦ j o)∣
dB
o
c
=1/t
∣H
0

dB
Log o
arg H¦ j o)
o
c
= 1/t
−45°
−90°
 la détermination des paramètres du système se fait généralement
graphiquement (asymptotes, coupure, résonance...)

Master ASE1 – Identification des Processus – P. Bonnet
32
METHODES DE BASE
 Méthode fréquentielle
 Utilisation d'un signal d'excitation large bande pour déterminer
directement la réponse fréquentielle en une seule mesure :
La transformée de Fourier de la réponse impulsionnelle s'obtient par :
Il suffit donc de déterminer les transformées de Fourier de l'entrée et la
sortie pour déterminer la réponse fréquentielle du système
 La méthode est valide sous réserve d'absence de zéro dans le spectre
du signal d'excitation.
 On utilise un bruit blanc ou une SBPA pour l'excitation
s¦t ) = e∗h =

0
t
e¦t) h¦t −t) d t
S ¦o) = E¦o). H¦o)
H ¦o) =
S ¦o)
E¦o)

Master ASE1 – Identification des Processus – P. Bonnet
33
MODELE AJUSTE
MODELE
AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
34
 Objectif
L'idée est de reproduire le travail de l'homme lorsqu'il "ajuste" manuellement
/graphiquement le modèle qu'il souhaite appliquer.
Exemple : soit un ensemble de mesures expérimentales qui devraient suivre une loi affine
L'utilisateur trace le graphe des mesures, puis prend une règle (le modèle de la loi affine
ajustable en ordonnée et en pente) et tente l'ajuster "au mieux". La "qualité" de
l'ajustement diffère d'un opérateur à l'autre: le critère d'ajustement n'est pas
clairement exprimé; il est du domaine subjectif.
0 1 2
t
y
0
y
1
y
2
modèle ajustable x ¦t )
y
3
3 4
....
y
4
MODELE AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
35
 Critère d'évaluation de l'erreur de modélisation
Soient : les observations faites sur le système
les valeurs prises par le modèles aux instants
d'observation
y¦t
i
)
x¦t
i
, a
1
, a
2
...)
e
i
y¦t
i
) = x¦t
i
, a
1
, a
2
...) +e
i
 Posons écart [erreur] entre les mesures et le modèle

e¦ a
1
, a
2
...) =

n
1
n
2
¦ y¦t
i
) − x ¦t
i
, a
1,
a
2
...))
2
 L'erreur quadratique cumulée est :
e¦ a
1
, a
2
...) =

n
1
n
2
e
i
2
MODELE AJUSTE
Note : il existe d'autres critères possibles (distance généralisée par exemple)

Master ASE1 – Identification des Processus – P. Bonnet
36
 Minimum du critère
 Le critère présente une dépendance quadratique vis à vis des
paramètres .
0 2 4 6 8 1 0 1 2 1 4 1 6
0
2 0
4 0
6 0
8 0
1 0 0
1 2 0
0
5
1 0
1 5
0
5
1 0
1 5
0
2 0 0 0
4 0 0 0
6 0 0 0
8 0 0 0
1 0 0 0 0
´ a
1
e
min
´ a
1
´ a
2
e
MODELE AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
37
 Recherche du minimum de
On suppose qu'il y a indépendance/orthogonalité des paramètres :
Le critère d'erreur présente un minimum pour :

et

∂e
∂a
1
=0
∂e
∂a
2
=0 ....
∂e
∂a
k
=0

2
e
∂a
1
2
>0

2
e
∂a
2
2
>0 ....

2
e
∂a
k
2
>0
e
e
Note : Les méthodes de base ne tiennent pas compte des équations de contrainte;
ceci peut être une source d'erreur.
MODELE AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
38
 Resolution
Le minimum est obtenu pour un jeu de valeurs dites optimales pour le critère
considéré (critère des moindres-carrés)

Le modèle le plus proche des mesures au sens du critère d'erreur est :
∂e
∂a
i
= 0
´ a
1
, ´ a
2,
... , ´ a
k
´ x¦t ) = x ¦t , ´ a
1
, ´ a
2
, ... ´ a
k
)
Résolution des k équations
Note : Selon la nature du modèle (linéaire ou non-linéaire par rapport aux
paramètres), la résolution des équations peut poser problème . Ce cours porte
essentiellement sur les méthodes de base applicable aux modèles linéaires.
MODELE AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
39
 Exemple d'application
Modélisation de 3 mesures successives par un modèle affine de la forme

0 1 2 t
y
0
=1
y
1
=2
y
2
=2
´ x¦t )
x¦t ) = a + bt
t = 0,1,2
y
0
, y
1
, y
2
∂e
∂a
,
∂e
∂b
´ a ,
´
b
Méthode :
1°) Déterminer les valeurs prises par le modèle pour
2°) Exprimer à partir des valeurs de x(t) et des mesures
3°) Former les dérivées partielles
4°) Résoudre le système (Cramer) pour obtenir
e
MODELE AJUSTE

Master ASE1 – Identification des Processus – P. Bonnet
40
AJUSTEMENT DU
MODELE

Master ASE1 – Identification des Processus – P. Bonnet
41
x¦t ) = a
1
f
1
¦t ) + a
2
f
2
¦t ) +...
f
1
¦t ) , f
2
¦t )...
 Un modèle linéaire par rapport à ses paramètres a une expression du type:
Les sont les "formants" du modèle
Exemples :
x¦t ) = a
0
+a
1t
+a
2
t
2
... x¦t ) = A cos ¦10t ) + Bsin¦10t )
 Choix du modèle
Soit un modèle de variable explicative t caractérisé par un jeu de
paramètres
 Modèle linéaire
Le modèle est linéaire par rapport à ses paramètres s'il vérifie :

p =¦a
1
, a
2
, ... , a
k
¦
x¦t , \
1
p
1
+ \
2
p
2
) = \
1
x¦t , p
1
) +\
2
x ¦t , p
2
)
x¦t )
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
42
 Cas du modèle linéaire/paramètres d'ajustement
 Modèle linéaire à k paramètres :
 Instants de n mesures :
 Mesures de la sortie du système :
 Expression du modèle aux instants de mesures :
 Critère d'erreur cumulée à optimiser

x¦t ) = a
1
f
1
¦t ) + a
2
f
2
¦t ) +...+ a
k
f
k
¦t )
t
1
, t
2
, ... , t
n
y¦t
1
) , y¦t
2
) , ... , y¦t
n
)
x¦t
1
) , x¦t
2
) , ... , x¦t
n
)
e¦ a
1
, a
2
...) =

i=1
n
¦ y¦t
i
) − x ¦t
i
))
2
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
43


n abcisse mesure modèle
1 t
1
y¦t
1
) x¦t
1
) = a
1
f
1
¦t
1
) + a
2
f
2
¦t
1
) +...+ a
k
f
k
¦t
1
)
2 t
2
y¦t
2
) x¦t
2
) = a
1
f
1
¦t
2
) + a
2
f
2
¦t
2
) +...+ a
k
f
k
¦t
2
)
... ... ... ......
n t
n
y¦t
n
) x¦t
n
) = a
1
f
1
¦t
n
) + a
2
f
2
¦t
n
) +...+ a
k
f
k
¦t
n
)
e =

i=1
n
| y ¦t
i
) − a
1
f
1
¦t
i
) − a
2
f
2
¦t
i
) −... − a
k
f
k
¦t
i

2
 Présentation des données du problème
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
44
 Calcul des dérivées du critère quadratique
∂e
∂a
1
= − 2

i=1
n
f
1
¦t
i
)| y¦t
i
) − a
1
f
1
¦t
i
) − a
2
f
2
¦t
i
) −... − a
k
f
k
¦t
i

∂e
∂a
2
= − 2

i=1
n
f
2
¦t
i
)| y ¦t
i
) − a
1
f
1
¦t
i
) − a
2
f
2
¦t
i
) −... − a
k
f
k
¦t
i

....
∂e
∂a
k
= − 2

i=1
n
f
k
¦t
i
)| y¦t
i
) − a
1
f
1
¦t
i
) − a
2
f
2
¦t
i
) −... − a
k
f
k
¦t
i

∂e
∂a
1
=0
∂e
∂a
2
=0 ....
∂e
∂a
k
=0 - ´ a
1
, ´ a
2
, ... , ´ a
k
Minimisation du critère d'erreur quadratique
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
45
 Présentation homogène du problème
Equations de minimisation :
a
1

i=1
n
f
1
2
¦t
i
) + a
2

i=1
n
f
1
¦t
i
) f
2
¦t
i
) + ... + a
k

i=1
n
f
1
¦t
i
) f
k
¦t
i
) =

i=1
n
f
1
¦t
i
) y ¦t
i
)
a
1

i=1
n
f
1
¦t
i
) f
2
¦t
i
) + a
2

i=1
n
f
2
2
¦t
i
) + ... + a
k

i=1
n
f
2
¦t
i
) f
k
¦t
i
) =

i=1
n
f
2
¦t
i
) y¦t
i
)
.....
a
1

i=1
n
f
1
¦t
i
) f
k
¦t
i
) + a
2

i=1
n
f
1
¦t
i
) f
2
¦t
i
) + ... + a
k

i=1
n
f
k
2
¦t
i
) =

i=1
n
f
k
¦t
i
) y ¦t
i
)
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
46
 Présentation homogène du problème

Vecteur des Vecteur des
paramètres mesures
à identifier pondérées
Matrice de
pondération
symétrique
0 =
¦
a
1
a
2
...
a
k
)
Q =
¦

i=1
n
f
1
¦t
i
) y
i

i =1
n
f
2
¦t
i
) y
i
...

i=1
n
f
k
¦t
i
) y
i
)
R =
¦

i =1
n
f
1
2
¦t
i
)

i =1
n
f
1
¦t
i
) f
2
¦t
i
) ...

i =1
n
f
1
¦t
i
) f
k
¦t
i
)

i=1
n
f
2
¦t
i
) f
1
¦t
i
)

i=1
n
f
2
2
¦t
i
) ...

i=1
n
f
2
¦t
i
) f
k
¦t
i
)
... ... ... ...

i =1
n
f
k
¦t
i
) f
1
¦t
i
)

i=1
n
f
k
¦t
i
) f
2
¦t
i
) ...

i=1
n
f
k
2
¦t
i
)
)
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
47
 Présentation homogène du problème

Les équations de minimisation peuvent s'écrire:
La résolution de cette équation matricielle donne la solution optimale pour le
modèle :
sous réserve que la matrice R soit inversible
R0 = Q
´
0 = R
−1
Q
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
48
 Ecriture matricielle du problème des moindres-carrés :

Soit x(t) le modèle linéaire par rapport à ses paramètres:

Soit X l'ensemble des valeurs prises par le modèle et Y les mesures:


Posons:
x¦t ) = a
1
f
1
¦t ) + a
2
f
2
¦t ) +...+ a
k
f
k
¦t )
X =
¦
x ¦t
1
)
x¦t
2
)
...
x¦t
n
)
)
=
¦
a
1
f
1
¦t
1
)+a
2
f
2
¦t
1
)+...+a
k
f
k
¦t
1
)
a
1
f
1
¦t
2
)+a
2
f
2
¦t
2
)+...+a
k
f
k
¦t
2
)
................
a
1
f
1
¦t
k
)+a
2
f
2
¦t
k
)+...+a
k
f
k
¦t
k
)
)
H =
¦
f
1
¦t
1
) f
2
¦t
1
) ... f
k
¦t
1
)
f
1
¦t
2
) f
2
¦t
2
) ... f
k
¦t
2
)
... ... ... ...
f
1
¦t
n
) f
2
¦t
n
) ... f
k
¦t
n
)
)
0 =
¦
a
1
a
2
...
a
k
)
Y =
¦
y¦t
1
)
y¦t
2
)
...
y¦t
n
)
)
⇒ X = H0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
49
 Ecriture matricielle du problème des moindres-carrés :
L'erreur quadratique cumulée s'écrit:


Sachant que : et que :
L'erreur cumulée s'écrit :

La minimisation du critère se fait pour :
e =
¦
e
1
e
2
... e
n
)
¦
e
1
e
2
...
e
n
)
e =

i=1
n
¦ y¦t
i
) − x¦t
i
))
2
=

i=1
n
e
i
2
e = Y − X X = H 0
e = ¦Y − H 0)
T
¦Y − H 0)
∂e
∂0
=
¦
∂e
∂a
1
∂e
∂a
2
...
∂e
∂a
k
)
= 0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
50
 Ecriture matricielle du problème des moindres-carrés :
La solution optimale sera obtenue pour :

En remarquant que est scalaire , on obtient :
La solution optimale est :
∂e
∂0
= −2 H
T
¦Y − H 0)
∂e
∂0
= −H
T
¦Y − H 0) − ¦Y − H 0)
T
H
´
0 = ¦ H
T
H)
−1
H
T
Y
e
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
51
 Exemple d'application
Modélisation de 3 mesures successives
par un modèle affine de la forme

x¦t ) = a + bt
t = 0,1,2
0 = ¦a , b)
T
Méthode matricielle:
1°) Déterminer les valeurs prises par le modèle pour
2°) Construire le tableau des valeurs prises par le modèle
aux instants de mesure, le vecteur des observations.
3°) En déduire les matrices/vecteurs Y , H et
4°) Calculer la solution optimale
´
0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES
0 1 2 t
y
0
=1
y
1
=2
y
2
=2
´ x¦t )

Master ASE1 – Identification des Processus – P. Bonnet
52
ANALYSE DES MOINDRES-CARRES ANALYSE DES MOINDRES-CARRES
ANALYSE DE LA METHODE
DES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
53
 Pondération du critère J :
définition du critère d'erreur quadratique pondéré :
Avec Q matrice de pondération
- définie positive : toutes ses valeurs propres sont
positives strictement
- symétrique
Exemple :
avec
On remarque que :
e = e
T
Q e
Q =
¦
\
1
0 ... 0
0 \
2
... 0
... ... ... ...
0 0 ... \
n
)
\
1
>0 , \
2
>0 , ... , \
n
>0
e = 0 si et seulement si e=0
ANALYSE DES MOINDRES-CARRES ANALYSE DES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
54
 Pondération du critère d'erreur quadratique cumulée :

Minimisation du critère J par ajustement des paramètres :


La solution optimale est :
e = e
T
Q e
e = ¦Y − H 0)
T
Q ¦Y − H 0)
∂e
∂0
= −H
T
Q¦Y − H0) − ¦Y − H0)
T
Q H
∂e
∂0
= =−2 H
T
Q¦Y−H 0) = 0
´
0 = ¦ H
T
Q H)
−1
H
T
QY
ANALYSE DES MOINDRES-CARRES

Master ASE1 – Identification des Processus – P. Bonnet
55
ANALYSE DES MOINDRES-CARRES
 Biais de l'estimation des paramètres:
Le biais d'un estimateur est l'espérance de l'écart entre l'estimation et les vraies valeurs.

L'estimateur non-biaisé fournit une valeur non-décalée par rapport à la vraie valeur
´
0 = ¦ H
T
H)
−1
H
T
| H
¯
0 + v¦
¯
0
X = H
¯
0
Y = H
¯
0 + v
v
´
0−
¯
0 = ¦ H
T
H)
−1
H
T
v
 Soit la valeur théorique des paramètres.

 Le modèle parfait a pour valeur :
 Les mesures ont pour valeur : avec bruit de mesure
 L'écart entre l'estimation et la vraie valeur des paramètres du modèle est :

Master ASE1 – Identification des Processus – P. Bonnet
56
 Biais de l'estimation des paramètres:
E|
´
0−
¯
0¦ = E|¦ H
T
H)
−1
H
T

¯ 0
E|
´
0−
¯
0¦ = ¦ H
T
H)
−1
H
T
E| v¦
ANALYSE DES MOINDRES-CARRES
 Pour un bruit de mesure non corrélé à H , l'espérance sera :
Dans les cas usuels (bruit à valeur moyenne nulle), l'estimateur des
moindres-carrés est non-biaisé : la valeur estimée des paramètres est
proche de la vraie valeur en moyenne.
Il fournit une estimation non-décalée par rapport aux vraies valeurs.
 L'espérance de l'erreur d'estimation est :

Master ASE1 – Identification des Processus – P. Bonnet
57
 Variance de l'estimation des paramètres:
o
c
2
¦o) = E|¦o−
¯
o)
2
¦ avec
¯
o = E|o¦
I
A
= E|¦ A −
¯
A)¦ A −
¯
A)
T
¦
A =
¦
o
1
o
2
...
o
n
)
I
A
= E
|
¦
¦o
1

¯
o
1
)
2
¦o
1

¯
o
1
)¦o
2

¯
o
2
) ... ¦o
1

¯
o
1
)¦o
n

¯
o
n
)
¦o
2

¯
o
2
)¦o
1

¯
o
1
) ¦o
2

¯
o
2
)
2
... ¦o
2

¯
o
2
)¦o
n

¯
o
n
)
... ... ... ...
¦o
n

¯
o
n
)¦o
1

¯
o
1
) ¦o
n

¯
o
n
)¦o
2

¯
o
2
) ... ¦o
n

¯
o
n
)
2
)
¦
Terme de variance
Terme de covariance
ANALYSE DES MOINDRES-CARRES
 Variance d'une variable scalaire :
 Matrice de variance/covariance d'une grandeur vectorielle

Master ASE1 – Identification des Processus – P. Bonnet
58
 Variance de l'estimation des paramètres:
I
0
= E|¦
´
0 −
¯
0)¦
´
0 −
¯
0)
T
¦
I
0
= E||¦ H
T
H)
−1
H
T
v¦|¦ H
T
H)
−1
H
T

T
¦
I
0
= E|¦ H
T
H)
−1
H
T
v v
T
H¦¦ H
T
H)
−1
)
T
¦
I
0
= |¦ H
T
H)
−1
H
T
¦ E| v v
T
¦| H¦¦ H
T
H)
−1
)
T
¦
ANALYSE DES MOINDRES-CARRES
 Variance de l'estimateur des moindres-carrés (pour un bruit centré):



 Pour un bruit non-corrélé à la matrice H , la matrice de variance-covariance de
l'estimation est :

Master ASE1 – Identification des Processus – P. Bonnet
59
 Variance de l'estimation des paramètres:
Cas du bruit blanc sur les mesures
I
0
= c
Y
2
| ¦ H
T
H)
−1
¦
T
ANALYSE DES MOINDRES-CARRES
E| v v
T
¦ = E
|
¦
v
t1
2
0 ... 0
0 v
t2
2
... 0
... ... ... ...
0 0 ... v
tn
2
)
¦
=
¦
c
1
2
0 ... 0
0 c
2
2
... 0
... ... ... ...
0 0 ... c
n
2
)
c
Y
2
 chaque mesure est supposée entachée d'un bruit blanc additif
 il n'y a pas de corrélation du bruit de mesure entre 2 mesures

 Pour un bruit constant sur chaque mesure, de variance , le bruit sur
l'estimation des paramètres du modèle est :

Master ASE1 – Identification des Processus – P. Bonnet
60
 Estimateur du maximum de vraisemblance
On prend comme matrice de pondération l'inverse de la matrice de
variance-covariance du bruit, ce qui a pour effet de minimiser le poids des
mesures à bruit élevé.
ANALYSE DES MOINDRES-CARRES
I
bruit
= E| v v
T
¦
e = e
T
Q e = e
T
I
bruit
−1
e
´
0 = ¦ H
T
I
bruit
−1
H)
−1
H
T
I
bruit
−1
Y




Master ASE1 – Identification des Processus – P. Bonnet
61
 Rejet des mesures aberrantes
 Le calcul des paramètres du modèle permet de calculer
ANALYSE DES MOINDRES-CARRES
´
X
´
X = H
´
0
E|
´
X
´
X
T
¦ = E| H
´
0
´
0
T
H
T
¦
E|
´
X
´
X
T
¦ = c
´
X
2
= c
Y
2
H|¦ H
T
H)
−1
¦
T
H
T
E|
´
X
´
X
T
¦ = H I
0
H
T
y¦t
i
) ´ x¦t
i
)
c
´
X

 La variance de l'estimation est :
 Pour des mesures bruitées par un bruit blanc :
 Rejet des mesures dont l'écart avec le modèle est supérieur
à avec K fixé par l'utilisateur ( de l'ordre de 2 à 3)

Master ASE1 – Identification des Processus – P. Bonnet
62
MOINDRES-CARRES RECURSIFS
MOINDRES CARRES
RECURSIFS

Master ASE1 – Identification des Processus – P. Bonnet
63
MOINDRES-CARRES RECURSIFS
 Calcul sur n mesures :

Y
n
=
¦
y¦t
1
)
y¦t
2
)
...
y¦t
n
)
)
e
n
= ¦Y
n
−X
n
)
T
¦Y
n
−X
n
)
X
n
= H
n
0 =
¦
f
1
¦t
1
) f
2
¦t
1
) ... f
k
¦t
1
)
f
1
¦t
2
) f
2
¦t
2
) ... f
k
¦t
2
)
... ... ... ...
f
1
¦t
n
) f
2
¦t
n
) ... f
k
¦t
n
)
)
0
´
0
n
= ¦ H
n
T
H
n
)
−1
H
n
T
Y
n
 la solution optimale calculée sur les n mesures est :
 elle minimise le critère calculé sur ces n mesures :
 On dispose de n observations auxquelles correspondent n valeurs du modèle

Master ASE1 – Identification des Processus – P. Bonnet
64
MOINDRES-CARRES RECURSIFS
 Inconvénients de la méthode classique:

 La dimension (nxk) de la matrice H croît avec le nombre n de mesures
 L'ajout d'une (n+1)
ème
mesure impose de recommencer la totalité du calcul
´
0
n
= ¦ H
n
T
H
n
)
−1
H
n
T
Y
n
´
0
n
= R
n
−1
Q
n
Q
n
= H
n
T
Y
n
R
n
= H
n
T
H
n
 Mise en évidence de la solution
 Utiliser la technique de calcul
avec de dimension (kxk)

et de dimension (kx1)

Master ASE1 – Identification des Processus – P. Bonnet
65
MOINDRES-CARRES RECURSIFS
 Ajout de la (n+1)
ème
mesure :

 On dispose de n+1 observations auxquelles correspondent n+1 valeurs du
modèle :
 Posons :
Y
n+1
=
¦
y¦t
1
)
y¦t
2
)
...
y¦t
n
)
y ¦t
n+1
)
)
X
n+1
= H
n+1
0 =
¦
f
1
¦t
1
) f
2
¦t
1
) ... f
k
¦t
1
)
f
1
¦t
2
) f
2
¦t
2
) ... f
k
¦t
2
)
... ... ... ...
f
1
¦t
n
) f
2
¦t
n
) ... f
k
¦t
n
)
f
1
¦t
n+1
) f
2
¦t
n+1
) ... f
k
¦t
n+1
)
)
0
h
n+1
T
= | f
1
¦t
n+1
) f
2
¦t
n+1
) .... f
k
¦t
n+1


Master ASE1 – Identification des Processus – P. Bonnet
66
MOINDRES-CARRES RECURSIFS
 Ajout de la (n+1)
ème
mesure :

 On dispose de n+1 observations auxquelles correspondent n+1 valeurs du
modèle
´
0
n+1
= ¦ H
n+1
T
H
n+1
)
−1
H
n+1
T
Y
n+1
Y
n+1
=
¦
Y
n
y¦t
n+1
)
)
X
n+1
=
¦
X
n
x
n+1
)
=
¦
H
n
h
n+1
T
)
0
 Posons :

Master ASE1 – Identification des Processus – P. Bonnet
67
MOINDRES-CARRES RECURSIFS
 Calcul de :


¦ H
n+1
T
H
n+1
)
H
n+1
T
Y
n+1
= H
n
T
Y
n
+ h
n+1
y
n+1
H
n+1
T
H
n+1
= H
n
T
H
n
+ h
n+1
h
n+1
T
¦ H
n+1
T
Y
n+1
)
H
n+1
T
H
n+1
=
¦
H
n
T
h
n+1
)
¦
H
n
h
n+1
T )
H
n+1
T
Y
n+1
=
¦
H
n
T
h
n+1
)
¦
Y
n
y
n+1
)
 Calcul de :

Master ASE1 – Identification des Processus – P. Bonnet
68
h
n+1
T
= | f
1
¦t
n+1
) f
2
¦t
n+1
) .... f
k
¦t
n+1

R
n+1
= R
n
+ h
n+1
h
n+1
T
Q
n+1
=Q
n
+ h
n+1
y
n+1
0
n+1
= R
n+1
−1
Q
n+1
Itérer pour passer du rang n au rang n+1 :
Déterminer
Calculer (kxk) puis (kx1)
Et en déduire
MOINDRES-CARRES RECURSIFS
 Expression récursive de base:
´
0
n+1
= ¦ H
n
T
H
n
+ h
n+1
h
n+1
T
)
−1
¦ H
n
T
Y
n
+ h
n+1
y
n+1
)
´
0
n
= R
n
−1
Q
n
R
n
= H
n
T
H
n
Q
n
= H
n
T
Y
n
 Construire la matrice H au rang n
Calculer de dimension (kxk)
Calculer de dimension (kx1)
En déduire estimation initiale au rang n

Master ASE1 – Identification des Processus – P. Bonnet
69
MOINDRES-CARRES RECURSIFS
 Calcul récursif évolué :

 Posons et
´
0
n+1
= ¦ H
n
T
H
n
+ h
n+1
h
n+1
T
)
−1
¦ H
n
T
Y
n
+ h
n+1
y
n+1
)
P
n
= ¦ H
n
T
H
n
)
−1
P
n
P
n+1
= ¦ H
n
T
H
n
+ h
n+1
h
n+1
T
)
−1
P
n+1
A = B + C A
−1
= B
−1
− B
−1
C B
−1
| I + B
−1

−1
P
n+1
= ¦ H
n
T
H
n
)
−1
−¦ H
n
T
H
n
)
−1
h
n+1
h
n+1
T
¦ H
n
T
H
n
)
−1
| 1+ h
n+1
T
¦ H
n
T
H
n
)
−1
h
n+1
¦
−1
= P
n
− P
n
h
n+1
h
n+1
T
P
n
| 1+ h
n+1
T
P
n
h
n+1
¦
−1
= P
n
− P
n
h
n+1
| 1+ h
n+1
T
P
n
h
n+1
¦
−1
h
n+1
T
P
n
P
n+1
 Quelle est la relation entre et ?
 Lemme d'inversion :
Soit 
 Appliquons le lemme à

Master ASE1 – Identification des Processus – P. Bonnet
70
MOINDRES-CARRES RECURSIFS
 Calcul récursif évolué :
P
n+1
= P
n
− P
n
h
n+1
| 1+ h
n+1
T
P
n
h
n+1
¦
−1
h
n+1
T
P
n
K
n+1
= P
n
h
n+1
|
1 + h
n+1
T
P
n
h
n+1
¦
−1
¦1)
´
0
n+1
= ¦ H
n
T
H
n
+ h
n+1
h
n+1
T
)
−1
¦ H
n
T
Y
n
+ h
n+1
y
n+1
)
P
n+1
= P
n
− K
n+1
h
n+1
T
P
n
P
n+1
=¦ I − K
n+1
h
n+1
T
) P
n
¦3)
= ¦ P
n
− K
n+1
h
n+1
T
P
n
) ¦ H
n
T
Y
n
+ h
n+1
y
n+1
)
= P
n
H
n
T
Y
n
+ P
n
h
n+1
y
n+1
− K
n+1
h
n+1
T
P
n
H
n
T
Y
n
− K
n+1
h
n+1
T
P
n
h
n+1
y
n+1

Master ASE1 – Identification des Processus – P. Bonnet
71
MOINDRES-CARRES RECURSIFS
 Calcul récursif évolué :
´
0
n+1
=
´
0
n
+ K
n+1
¦ y
n+1
− h
n+1
T
´
0
n
)
K
n+1
= P
n
h
n+1
|
1 + h
n+1
T
P
n
h
n+1
¦
−1
P
n+1
=¦ I − K
n+1
h
n+1
T
) P
n
 Récurrence finale
 est le gain matriciel de correction
K
n+1
 Le gain de correction diminue à mesure que n augmente
 Les termes de la matrice P tendent vers 0 lorsque n augmente

Master ASE1 – Identification des Processus – P. Bonnet
72
MOINDRES-CARRES RECURSIFS
 Calcul récursif évolué :
´
0
n+1
=
´
0
n
+ P
n+1
h
n+1
¦ y
n+1
− h
n+1
T
´
0
n
)
P
n+1
= P
n

P
n
h
n+1
h
n+1
T
P
n
1 + h
n
T
P
n
h
n+1
 Autre expression de la récurrence finale
 est le gain matriciel de correction
P
n+1
 Le gain de correction diminue à mesure que n augmente et tend vers 0

Master ASE1 – Identification des Processus – P. Bonnet
73
MOINDRES-CARRES RECURSIFS
 Utilisation pratique de la récurrence évoluée:

 Poser les conditions initiales :
matrice carrée kxk
vecteur colonne kx1
P
00
´
0
00
 Choix de : la matrice a pour définition
avec inexistante (absence de ligne).
P
00
P
00
= ¦ H
00
T
H
00
)
−1
H
00
 Choix de : on propose le plus souvent
´
0
00
´
0
00
= 0
P
00
= G I
k
G = 10ou 100
P étant de dimension constante kxk , on propose le choix :
avec G gain d'adaptation ( par exemple)

Master ASE1 – Identification des Processus – P. Bonnet
74
MOINDRES-CARRES RECURSIFS
Pierre BONNET Modélisation Identification 72
 Utilisation pratique de la récurrence évoluée:


K
1
= P
00
h
1
|1 + h
1
T
P
00
h
1
¦
−1
´
0
1
=
´
0
00
+ K
1
¦ y
1
− h
1
T
´
0
00
)
P
1
= ¦ I − K
1
h
1
T
) P
00
 Itérer une première fois
K
2
= P
1
h
2
| 1 + h
2
T
P
1
h
2
¦
−1
´
0
2
=
´
0
1
+ K
2
¦ y
2
− h
2
T
´
0
1
)
P
2
= ¦ I − K
2
h
2
T
) P
1
 Itérer une deuxième fois
 Appliquer la récurrence générale

Master ASE1 – Identification des Processus – P. Bonnet
75
MOINDRES-CARRES RECURSIFS
 Loi proposée:
Avec et
A chaque étape de la récurrence, on multiplie le "poids" des anciennes mesures par le
facteur
P
n+1
= ¦\
1
H
n
T
H
n
+\
2
h
n+1
h
n+1
T
)
−1
0\
1
1 0\
2
2
 Pondération de la récurrence
 Objectif : - éviter la décroissance de ou vers 0
- diminuer le "poids" des anciennes mesures au profit des plus
récentes
K
n+1
P
n+1
P
n+1
=
1
\
1
¦
P
n

P
n
h
n+1
h
n+1
T
P
n
\
1
/ \
2
+ h
n+1
T
P
n
h
n+1
)

Master ASE1 – Identification des Processus – P. Bonnet
76
MOINDRES-CARRES RECURSIFS
 Loi résultante:
A chaque étape de la récurrence, on multiplie le "poids" des anciennes mesures par le
facteur d'oubli
´
0
n+1
= ¦\ H
n
T
H
n
+ h
n+1
h
n+1
T
)
−1
¦ H
n
T
Y
n
+h
n+1
y
n+1
) avec 0\<1
\
 Introduction d'un facteur d'oubli
 choix :
diminution du "poids" des anciennes mesures au profit des plus récentes
d'où le principe du "facteur d'oubli" du passé
\
2
= 1 \
1
= cste
\
¦ n−1)
\
n
\
A la (n+1) ième étape:
- la 1
ère
estimation est pondérée par
- la 2
ème
est pondérée par
- la n
ième
est pondérée par
- la nouvelle est pondérée par 1
La pondération suit une loi exponentielle

Master ASE1 – Identification des Processus – P. Bonnet
77
MOINDRES-CARRES RECURSIFS
 Introduction d'un facteur d'oubli

 Le facteur d'oubli est choisi de l'ordre de 0.95\1
 Récurrence obtenue :
K
n+1
=
P
n
h
n+1
\ +h
n+1
T
P
n
h
n+1
´
0
n+1
=
´
0
n
+ K
n+1
| y
n+1
− h
n+1
T ´
´
0
n
¦
P
n+1
=
1
\
¦ I − K
n+1
h
n+1
T
) P
n
 Principale application : suivi des paramètres d'un système évoluant dans le temps
Exemple : suivi des paramètres d'un modèle linéaire par morceaux , pour
des données présentant des discontinuités de modèle .
x =at +b

Master ASE1 – Identification des Processus – P. Bonnet
78
MOINDRES-CARRES RECURSIFS
 Algorithme à trace constante
 si , on aura avec la matrice "explose" h
n+1
-0 P
n+1
≃ P
n
/\ \1 P
n
trace¦ P
n+1
) = tr ¦ P
n
) = tr¦ P
0
)=Cste
L'algorithme à trace constante a pour objectif de maintenir la somme des éléments
diagonaux à une valeur non nulle à tout instant :
On choisit comme valeur de trace kG avec G gain initial et k nombre de paramètres
(valeurs typiques G = 1 à 4 ) :
tr ¦ P
n+1
) =
1
\
1
tr
¦
P
n

P
n
h
n+1
h
n+1
T
P
n
\
1
/ \
2
+ h
n+1
T
P
n
h
n+1
)
Les valeurs de et sont déduites de cette équation, le rapport / étant fixé à
une valeur constante
\
1
\
2
\
1
\
2

Master ASE1 – Identification des Processus – P. Bonnet
79
MOINDRES CARRES NON-LINEAIRES
MOINDRES-CARRES
NON-LINEAIRES

Master ASE1 – Identification des Processus – P. Bonnet
80
MOINDRES CARRES NON-LINEAIRES
 Position du problème
Dans de nombreuses applications , la fonction modèle n'est pas linéaire par rapport à ses
paramètres.
Exemple : réponse indicielle d'un circuit du 1er ordre


0 1 2
t
y
0
y
1
y
2
´
f ¦t , 0)
3 4 5
y
3
y
5
y
5
L'expression du modèle est :
avec
f ¦t , 0) = K¦1 −e

t
t
)
0 = | K , t¦
T
 la dépendance vis à vis du paramètre est non-linéaire , il n'est plus possible de
résoudre le système par la méthode linéaire (pas de matrice H )
t

Master ASE1 – Identification des Processus – P. Bonnet
81
MOINDRES CARRES NON-LINEAIRES
 La proposition est de partir d'une valeur initiale des paramètres et de modifier
itérativement la valeur de d'un incrément de façon à minimiser le critère d'erreur
quadratique cumulée à chaque étape.
0
0
6
0
e
0
Pour , le modèle prend les valeurs : 0
0
=
|
a
10
, a
20
, ...
¦
T
F¦t , 0
0
) =
|
f ¦t
1,
0
0
)
f ¦t
2,
0
0
)
...
f ¦t
n
, 0
0
)
¦
L'erreur entre le modèle et les mesures est :
e = Y − F¦t , 0
0
)
L'erreur quadratique cumulée est :
e¦0
0
) = e
T
e = ¦Y − F¦t , 0
0
))
T
¦Y − F¦t , 0
0
))
 Méthode de Gauss-Newton (méthode de gradient)
Etape initiale
Généralement, l'erreur cumulée sera importante , les conditions initiales étant éloignées
de la solution optimale.

Master ASE1 – Identification des Processus – P. Bonnet
82
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
 modification de la valeur de d'un incrément de façon à minimiser le critère
d'erreur quadratique cumulée
0
0
6
0
e
Pour , le modèle prend les valeurs et l'erreur
0 = 0
0
+6
0
F¦t , 0
0
+6
0
)
e¦0
0
+6
0
)
6
0
∂e¦0
0
+6
0
)
∂6
0
=0
 Pour se placer au minimum d'erreur , on choisit tel que
Calcul du minimum de l'erreur cumulée :

∂e¦0
0
+6
0
)
∂6
0
= −2
|
∂ F¦t , 0
0
+6
0
)
∂6
0
¦
T
¦
Y −F¦t , 0
0
+6
0
)
)
= 0
Incrémentation

Master ASE1 – Identification des Processus – P. Bonnet
83
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Le développement de Taylor du 1er ordre du modèle permet d'approximer la nouvelle
valeur du modèle à chaque instant d'observation :
avec gradient de f en ligne
f ¦t
i
, 0
0
+6
0
) = f ¦t
i
, 0
0
) + J
i
¦0
0
). 6
0
J
i
¦0
0
) = ∇¦ f ¦t
i
, 0
0
))
T
F¦t , 0
0
+6)=F¦t , 0
0
) + J ¦0
0
). 6
0
L'extension à l'ensemble des points de calculs prend la forme matricielle suivante :
Avec :

jacobienne de f/paramètres
J ¦0
0
) =
∂ F ¦t , 0
0
+6
0
)
∂6
0
=
|
∂ f ¦t
1
)
∂a
1
∂ f ¦t
1
)
∂ a
2
...
∂ f ¦t
1
)
∂a
k
∂ f ¦t
2
)
∂a
1
∂ f ¦t
2
)
∂ a
2
...
∂ f ¦ t
2
)
∂a
k
... ... ... ...
∂ f ¦t
n
)
∂a
1
∂ f ¦t
n
)
∂ a
2
...
∂ f ¦t
n
)
∂a
k
¦
Calcul de F¦t , 0
0
+6
0
)

Master ASE1 – Identification des Processus – P. Bonnet
84
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
D'où :
−2 J
T
¦
Y −¦ F¦t , 0
0
)+J ¦0
0
). 6
0
)
)
= 0
Calcul du minimum de l'erreur cumulée :

∂e¦0
0
+6
0
)
∂6
0
= −2
|
∂ F¦t , 0
0
+6
0
)
∂6
0
¦
T
¦
Y −F¦t , 0
0
+6
0
)
)
= 0
On en déduit la valeur de l'accroissement à faire sur les paramètres pour minimiser l'erreur:
Itération
On itère en définissant les nouvelles valeurs des paramètres et les
nouvelles valeurs du modèle . La correction suivante à faire sera :

0
1
= 0
0
+6
0
F¦t , 0
1
)
6
0
=
|
J ¦0
1
)
T
. J ¦0
1
)
¦
−1
. J ¦0
1
)
T
¦
Y−F¦t , 0
1
)
)
6
0
=
|
J ¦0
0
)
T
. J ¦0
0
)
¦
−1
. J ¦0
0
)
T
¦
Y −F¦t , 0
0
)
)

Master ASE1 – Identification des Processus – P. Bonnet
85
J
T
J
6
0
= | J
T
. J +\ I ¦
−1
. J
T
¦Y −F¦t , 0))
\
\
0
= t. max | J
T
J ¦
t
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Limitation : l'inversion de la matrice peut poser problème (matrice singulière).
Pour éviter ce blocage, l'algorithme a été modifié par Levenberg-Marquardt:
Le paramètre joue le rôle d'un amortissement de la correction; il doit être ajusté à
chaque pas de calcul. Dans les cas simples, on peut se contenter d'un amortissement
constant, dont la valeur initiale a été proposée par Marquardt:
est un paramètre de gain à choisir convenablement (!)

Master ASE1 – Identification des Processus – P. Bonnet
86
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton

Exemple d'application : soit un système du 1er ordre dont désire connaître les paramètres
caractéristiques (gain et constante de temps) par l'observation de la réponse indicielle.

Temps en s 0 1 2 3 4 5
y(t) 0.05 0.45 0.59 0.64 0.64 0.69
0 = | K , t¦
T
f ¦t , 0) = K ¦1 −e

t
t
) Le modèle de la réponse indicielle est : avec

La matrice du Jacobien est construite à partir des dérivées partielles de f par rapport à

0
∂ f ¦t , 0)
∂K
= 1 −e
−t
t
∂ f ¦t , 0)
∂t
= −K
t
t
2
e
−t
t
Contrairement au cas d'un modèle linéaire/paramètres, les dérivées partielles dépendent
des paramètres eux-mêmes.
Il faut fixer une valeur initiale de K et pour donner une valeur à la matrice Jacobienne 0
Valeurs initiales proposées :
K
0
=1
t
0
=1
L'observation directe montre que le gain (valeur finale) est proche de 0.7 et la constante
de temps de l'ordre de la seconde (échelle de temps)

Master ASE1 – Identification des Processus – P. Bonnet
87
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
La matrice Jacobienne est : les valeurs du modèle : J ¦0
0
) =
|
0. 0.
0.63 −0.37
0.86 −0.27
0.95 −0.15
0.98 −0.07
0.99 −0.03
¦
F ¦0
0
) =
|
0.
0.63
0.86
0.95
0.98
0.99
¦
L'incrément à faire sur les paramètres est :
6
0
=¦ J
T
J )
−1
J
T
¦Y −F ¦0
0
)) =
|
−0.33
−0.06
¦
La nouvelle valeur des paramètres est : 0
1
=
|
0.67
0.94
¦
Après 10 itérations , la valeur des paramètres converge vers :
0
10
=
|
0.67
0.92
¦
L'erreur quadratique cumulée est de : e=0.42
L'erreur quadratique cumulée est de : e=0.0035

Master ASE1 – Identification des Processus – P. Bonnet
88
MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Attention : certaines valeurs initiales ne permettent pas à l'algorithme de converger (par
exemple K = .1 et tau = .1 )!

Master ASE1 – Identification des Processus – P. Bonnet
89
MODELISATION DES SYSTEMES
MODELISATION
DES
SYSTEMES

Master ASE1 – Identification des Processus – P. Bonnet
90
 Modélisation d'un système discret
La détermination des paramètres d'un système à partir de l'observation de sa
sortie, compte-tenu de l'entrée appliquée.
 le modèle doit traduire la relation entrée-sortie caractéristique du
système
Système
Modèle
Entrée
externe
Sorties Sorties
Sorties
modélisées
Erreur de
modélisation
+
-
MODELISATION DES SYSTEMES

Master ASE1 – Identification des Processus – P. Bonnet
91
MODELISATION DES SYSTEMES
 Système discret :
 modèle de récurrence


y
m
¦ n) +a
1
y
m
¦ n−1) + a
2
y
m
¦ n−2) +...+ a
p
y
m
¦ n−p)
= b
0
u¦ n) + b
1
u¦ n−1) +...+ b
q
u¦ n−q)

Master ASE1 – Identification des Processus – P. Bonnet
92
MODELISATION DES SYSTEMES
 Modèle de récurrence
 la sortie du système à l'instant n se déduit
de la sortie aux instants ( n-1, n-2, ... ,n-p)
et de l'entrée aux instants (n, n-1,n-2, ... ,n-q )
Ce modèle est dit "Autorégressif à moyenne mobile" ou modèle ARMA
y
m
¦ n) = −a
1
y
m
¦n−1) − a
2
y
m
¦n−2) −...−a
p
y
m
¦n−p)
+ b
0
u¦n) + b
1
u¦n−1) +...+ b
q
u¦ n−q)

Master ASE1 – Identification des Processus – P. Bonnet
93
MODELISATION DES SYSTEMES
 Exemple de modèle de récurrence discrète :
 Soit un système du premier ordre de fonction de transfert :
L¦ p) =
Y ¦ p)
U¦ p)
=
K
p + o
˙
y +o y = K u
Ce système correspond à une équation de récurrence de la forme :
En approximant la dérivée par Euler :
y
n+1
− y
n
T
e
+ o y
n
= K u
n
Le système discrétisé est décrit par la récurrence :
y¦n+1) = ¦1 − oT
e
) y¦n) + KT
e
u¦n)
Ou :
y¦n) = ¦1 −oT
e
) y¦n−1) + KT
e
u¦n−1)

Master ASE1 – Identification des Processus – P. Bonnet
94
MODELISATION DES SYSTEMES
 modèle de récurrence :

La récurrence s'applique aux mesures au bruit près:
y¦ n) = −a
1
y¦n−1) − a
2
y ¦n−2) −...− a
p
y¦ n−p)
+ b
0
u¦n) + b
1
u¦n−1) +...+ b
q
u¦n−q) + e¦ n)
Le membre de droite représente le modèle . Il est défini à partir des mesures , et non à
partir des valeurs modélisées précédentes. On remarque que c'est un modèle avec
erreur (la somme pondérée des erreurs faites sur chacune de observations faites aux
instants n-1, ...,n-p ) . De ce fait, le modèle est biaisé (erreur systématique si les
mesures sont corrélées)

Master ASE1 – Identification des Processus – P. Bonnet
95
MODELISATION DES SYSTEMES
 Observation du système sur k échantillons :
 instant N :
y ¦ N) = −a
1
y ¦ N−1) − a
2
y¦ N−2) −...−a
p
y ¦ N−p)
+ b
0
u¦ N) + b
1
u¦ N−1) +...+ b
q
u¦ N−q) +e¦ N)
y ¦ N−1) = −a
1
y¦ N−2) − a
2
y ¦ N−3) −...− a
p
y ¦ N−p−1)
+ b
0
u¦ N−1) + b
1
u¦ N−2) +...+ b
q
u¦ N−q−1) +e¦ N−1)
 instant N-1
y¦ N−k) = −a
1
y¦ N−1−k) − a
2
y¦ N−2−k) −...− a
p
y¦ N−p−k)
+ b
0
u¦ N−k) + b
1
u¦ N−1−k) +...+ b
q
u¦ N−q−k) + e¦ N−k)
 instant N-k:

Master ASE1 – Identification des Processus – P. Bonnet
96
MODELISATION DES SYSTEMES
 Observation du système sur k échantillons :
 écriture matricielle
Les mesures sont liées à l'entrée par la relation :
|
y¦ N)
y¦ N−1)
. . .
y¦ N−k)
¦
=
|
−y¦ N−1) ... −y¦ N−p) u¦ N) u¦ N−q)
−y¦ N−2) ... −y¦ N−p−1) u¦ N−1) u¦ N−q−1)
... ... ... ... ...
−y¦ N−1−k) ... −y¦ N−p−k) u ¦ p+1) u¦ N−q−k)
¦
|
a
1
.
a
p
b
0
.
b
q
¦
+
|
e¦ N)
e¦ N−1)
...
e¦ p+1)
¦

Master ASE1 – Identification des Processus – P. Bonnet
97
MODELISATION DES SYSTEMES
 Observation du système sur k échantillons (ou plus):

 Posons : vecteur vecteur des
des mesures para mètres
0 =
|
a
1
.
a
p
b
0
.
b
q
¦
Y =
|
y¦ N )
y¦ N−1)
. . .
y¦ N−k )
¦
H =
|
−y¦ N−1) ... −y¦ N−p) u¦ N) u¦ N−q)
−y¦ N−2) ... −y¦ N−p−1) u¦ N−1) u¦ N−q−1)
... ... ... ... ...
−y¦ N−1−k ) ... −y¦ N−p−k) u¦ p+1) u¦ N−q−k )
¦
Y = H 0 + e
Les mesures suivent la loi :
 C'est un problème classique de résolution par les moindres-carrés

Master ASE1 – Identification des Processus – P. Bonnet
98
MODELISATION DES SYSTEMES
 Modélisation par les moindres carrés simples:

 solution de base non récursive
´
0 = ¦ H
T
)
−1
H
T
Y
 Exciter le système avec un signal d'entrée et relever la réponse :
- échelon
- bruit blanc
- signal binaire pseudo-aléatoire (voir TP)
 Déterminer par les moindres-carrés:
- former le vecteur des mesures Y
- former la matrice H à partir des mesures et des valeurs d'entrée
(tenir compte d'un retard éventuel)
- résoudre le système
´
0

Master ASE1 – Identification des Processus – P. Bonnet
99
MODELISATION DES SYSTEMES
 Modélisation par les moindres carrés simples:

 Exemple d'un premier ordre soumis à un échelon
Valeurs relevées pour une réponse à un échelon d'amplitude 1 :
Y= [0 .4 .7 .95 .98 1 .97 .99 1.02 ]';
 Le modèle retenu est :
La matrice H est :
Les valeurs obtenues sont :
y
n
=−a
1
y
n−1
+b
1
u
n−1
H =
|
−y ¦1) u¦1)
−y ¦ 2) u¦2)
... ...
−y ¦n−1) u¦ n−1)
¦
´
0 =
|
−0.577
0.444
¦

Master ASE1 – Identification des Processus – P. Bonnet
100
MODELISATION DES SYSTEMES
 Résolution par les moindres carrés récursifs:

 La résolution par les moindres-carrés récursif apporte un outil de calcul efficace,
et surtout un moyen d'identification en ligne ,c'est à dire au fur et à mesure que les mesures
sont faites
 Fixer l'ordre du modèle, son retard et choisir les valeurs initiales :
- par exemple

´
0
00
=0
P
00
=1000
 Exciter le système avec un signal d'entrée (échelon...)
- relever la réponse (et l'entrée) dès le premier instant d'échantillonnage
- ajuster le modèle par les MCR
- itérer pour obtenir les
´
0
n

Master ASE1 – Identification des Processus – P. Bonnet
101
MODELISATION DES SYSTEMES
 Résolution par les moindres carrés récursifs:
 Exemple du système du premier ordre précédent sans retard
Y= [0 .4 .7 .95 .98 1 .97 .99 1.02 ]';
 Modèle à 2 paramètres a1 et b1 :
Valeurs initiales:

´
0
00
=| 0 0¦
T
P
00
=
|
1000 0
0 1000
¦
 Récurrence avec le vecteur
h
n+1
=|−y¦ n) u¦ n)¦
T
 Les valeurs de convergent vers la valeur finale précédente
La simulation "colle" aux mesures pour les premiers instants (réajustement du
modèle sur les mesures) puis produit un effet de filtrage (le modèle a convergé)
´
0
n

Master ASE1 – Identification des Processus – P. Bonnet
102
MODELISATION DES SYSTEMES
 Les problèmes non traités dans ce cours :
 La méthode introduit un biais d'estimation : les résultats sont décalés lorsque le bruit
est important.
Il devient nécessaire d'introduire un modèle du bruit pour "blanchir" l'erreur ou de
décorréler observation/erreur (ARMAX, MCR généralisés, variable instrumentale...)
 La méthode de base suppose que le retard et l'ordre du système sont connus.
Il est possible de déterminer automatiquement ces valeurs par minimisation de l'erreur
de modélisation.
 La méthode peut s'appliquer à un système bouclé déjà régulé (régulateur
classique). L'identification se fait sans intervention sur le process existant.
Le bouclage provoque un biais important des mesures. Des algorithmes permettent de
résoudre cette problématique.

Pierre BONNET
2009-2010
Master ASE1 – Identification des Processus – P. Bonnet

2

PLAN DU COURS
 Présentation 
- objectifs du cours et domaines d'application

Notion de modèle
- modèle paramétrique - modèle de connaissance/modèle de comportement - modèle de signal/modèle de système

 Rappel des méthodes de base en Automatique
- réponse temporelle d'un système - identification directe à partir de la réponse temporelle - approche fréquentielle

Principe d'ajustement du modèle
- modèle linéaire par rapport aux paramètres - minimisation du critère d'ajustement et calcul de la solution optimale - écriture matricielle de la méthode des moindres-carrés

Analyse de la méthode des moindres-carrés
- Biais d'estimation - Variance de l'estimation - estimateur du maximum de vraisemblance - rejet des mesures aberrantes
Master ASE1 – Identification des Processus – P. Bonnet

3

PLAN DU COURS
 Extension aux modèles non-linéaires
- méthode de Gauss - analyse et améliorations

Moindres-carrés récursifs
- principe du calcul récursif - mise en oeuvre de la méthode récursive - facteur de pondération, facteur d'oubli

Modélisation d'un système
- choix d'un modèle discret ARMA - mise en place de la méthode des moindres-carrés - comportement du modèle vis à vis du bruit - le modèle ARMAX

Master ASE1 – Identification des Processus – P. Bonnet

4

PLAN DU COURS
 Bibliographie
- Identification des systèmes - Ioan D. Landau - Hermès – 1998 - Estimation Prédiction - E. Duflos & Ph. Vanheeghe - Technip – 2000 - Identification et commande numérique des procédés industriels - R. Ben Abdennour , P. Borne, M. Ksouri & F. M'sahli - Technip -2001 - Modélisation et Identification des Processus - P. Borne - Technip – 1992 - Cours d'Identification de l'Université de Lund (Suède) http://www.control.lth.se/course/FRT041/ - Cours d'identification de l'EPFL (Suisse) http://lawww.epfl.ch/page4230.html

Master ASE1 – Identification des Processus – P. Bonnet

5

OBJECTIFS DU COURS
 Donner les principes fondamentaux de la modélisation et de l'estimation de paramètres appliqués aux systèmes rencontrés dans de nombreux domaines scientifiques :

 l'Automatique pour laquelle la connaissance du modèle est indispensable
pour synthétiser une loi de commande

 les Sciences Expérimentales, lorsque la validation d'une théorie se fait par
des manipulations expérimentales (physique atomique, microélectronique...)

 la Biologie, l'Economie, les Statistiques  partout où des observations sont validées par un principe de
fonctionnement (règles mathématiques)

Master ASE1 – Identification des Processus – P. Bonnet

6

Bonnet 7 .OBJECTIFS DU COURS  Principe de la modélisation/estimation Entrées Système réel Sorties réelles + Modèle Erreur de modélisation Critère Critère d'évaluation d'évaluation Sorties calculées Ajustement du modèle Master ASE1 – Identification des Processus – P.

OBJECTIFS DU COURS  Différence entre modèle et système réel Bruit sur les entrées Variables exogènes entrées Bruit sur les sorties Observations + Variables endogènes + sorties Evolution des paramètres caractéristiques Perturbations du système  Le modèle ne prend pas en compte les grandeurs non mesurables Master ASE1 – Identification des Processus – P. Bonnet 8 .

OBJECTIFS DU COURS  Intérêt de la modélisation: Fournir un modèle mathématique acceptable pour un système dont on peut "dériver" de nombreuses informations relatives à son fonctionnement dynamique :  donner des valeurs pour certains paramètres caractéristiques du processus étudié  évaluer des grandeurs endogènes (observateur d'état)  donner des valeurs estimées/filtrées du signal de sortie  extrapoler/prédire le fonctionnement au delà des observations faites  interpoler le fonctionnement entre deux points observés  calculer la dérivée du signal de sortie. Bonnet 9 . les dérivées successives  déterminer un extremum (local) du signal  évaluer la dérive d'un système  détecter la défaillance d'un système Master ASE1 – Identification des Processus – P.

Bonnet 10 . avec démonstration sur Matlab/Scilab et le tableau noir est largement utilisé pour compléter ces transparents. Master ASE1 – Identification des Processus – P. il vous suffit d'assister aux exposés en Amphi Maxwell ! (pas de grasse matinée. le cours est à 8h) Les exemples vous sont présentés.OBJECTIFS DU COURS  Note importante: Si vous estimez que ce cours manque d'exemples ou d'applications.

NOTION DE MODELE NOTION DE MODELE Master ASE1 – Identification des Processus – P. Bonnet 11 .

 la structure du modèle représente la connaissance à priori que l'utilisateur souhaite placer dans le modèle Exemple : les fonctions de transfert du type F  p = N  p D p avec N  p et D  p polynôme en p peuvent représenter une partie des systèmes linéaires différentiels à coefficients constants (systèmes SISO) Master ASE1 – Identification des Processus – P. Cette structure doit comporter des éléments d'ajustement.NOTION DE MODELE  Modèle Un modèle est une structure mathématique pouvant représenter le système étudié. Bonnet 12 .

Dans un modèle quantitatif.  les systèmes aléatoires sont régis par des modèles stochastiques . Master ASE1 – Identification des Processus – P. de même que la fonction de transfert d'un système différentiel à coefficients constants (domaine symbolique de Laplace).NOTION DE MODELE  Modèle quantitatif Un modèle est quantitatif lorsque les fonctions qui définissent les équations sont spécifiées analytiquement. la valeur d'une variable aléatoire ne peut être calculée à un instant t . une suite d'opération permet le calcul de la valeur numérique des fonctions du modèle à partir de leurs arguments [et des entrées du système] Exemple : l'équation différentielle d'un système est un modèle quantitatif (domaine temporel). Bonnet 13 .

variable explicative du modèle (variable complexe de Laplace) Master ASE1 – Identification des Processus – P. a 2.. Bonnet 14 . a 1. . . tout comme son équation différentielle.. F  p = K 1 p K p et  sont les paramètres du modèle.NOTION DE MODELE  Modèle paramétrique Un modèle quantitatif est paramétrique lorsque son expression analytique comporte un nombre fini de constantes non-précisées numériquement appelés paramètres . L'expression générale d'un modèle paramétrique est: X t = f t . a k  avec t variable explicative du modèle Les paramètres représentent les constantes d'ajustement du modèle aux mesures Exemple : La fonction de transfert d'un système différentiel du premier ordre est un modèle paramétrique.

NOTION DE MODELE  Modèle de connaissance Un modèle de connaissance est un modèle dont les paramètres représentent des grandeurs caractéristiques de la structure étudiée. Exemple : réponse impulsionnelle d'un système du 1er ordre s t  = K e K  −t / représente le gain statique du système représente la constante de temps  les paramètres du modèle seront déterminés par quelques caractéristiques graphiques de la réponse ou des méthodes plus complexes 15 Master ASE1 – Identification des Processus – P. Bonnet .

Exemple : système électrique du 1er ordre R1 R2 C st  = K 1 − e−t /  R2 K= R1  R2  =  R 1 // R 2 . K et  Master ASE1 – Identification des Processus – P.NOTION DE MODELE  Modèle de connaissance Certains éléments du modèle peuvent ne pas être accessibles à l'identification. Bonnet 16 . C  La réponse indicielle (échelon unité) permet de déterminer mais pas la valeur des 3 composants.

.. a k t 2 k  aucun des coefficients du modèle ne représente les paramètres caractéristiques d'un second ordre (gain. st = a0  a1 t  a2 t . même pour un calcul d'ordre fini. Master ASE1 – Identification des Processus – P.NOTION DE MODELE  Modèle de comportement Un modèle de comportement est un modèle dont la structure et les paramètres sont sans rapport avec le système réel Exemple : réponse impulsionnelle d'un système du 2ème ordre modélisé par un développement en série limité à coefficients réels. amortissement et fréquence naturelle). Bonnet 17 .

NOTION DE MODELE  Modélisation d'un système sans entrée La détermination des paramètres d'un système sans entrée se fait à partir de l'observation de sa sortie (signal de sortie) Sorties Système Système + Sorties modélisées Erreur de modélisation Critère Critère - Modèle Modèle  l'outil de modélisation intègre la connaissance à priori du processus générateur. Master ASE1 – Identification des Processus – P. Bonnet 18 .

Entrée externe Sorties Système Système + Sorties modélisées Erreur de modélisation Critère Critère - Modèle Modèle  l'outil de modélisation doit donc prendre en compte le signal de sortie ET le signal d'entrée.NOTION DE MODELE  Modélisation d'un système avec entrée La détermination des paramètres d'un système se fait à partir de l'observation de sa sortie. Master ASE1 – Identification des Processus – P. compte-tenu de l'entrée appliquée. Le degré de complexité est donc augmenté. Bonnet 19 .

METHODES DE BASE METHODES DE BASE Master ASE1 – Identification des Processus – P. Bonnet 20 .

 La détermination des paramètres se fait à partir de la seule observation de la sortie . Pour les systèmes simples.) donnent usuellement un modèle de comportement .. Ces méthodes s'apparentent donc à des méthodes de modélisation de signaux ou de données expérimentales. le modèle de comportement correspond au modèle de connaissance. Strecj. Bonnet 21 . Leur robustesse au bruit de mesure est faible..METHODES DE BASE  Principe des méthodes de base  Les méthodes de base (graphique.  Elles s'appuient sur l'analyse graphique des courbes expérimentales en quelques points particuliers et ne tiennent pas compte de l'ensemble des mesures. Broïda. Master ASE1 – Identification des Processus – P. réponse harmonique.

sortie et système  La sortie d'un système linéaire est le produit de convolution entre le signal d'entrée et la réponse impulsionnelle du système. Master ASE1 – Identification des Processus – P. l'échelon ou la rampe . e t  h t  t s t  s t  = e∗h = ∫ e h t −  d  0  La sortie est caractéristique du système pour des signaux élémentaires tels que l'impulsion de Dirac.METHODES DE BASE  Relation entrée. Bonnet 22 .

il suffit de dériver [numériquement] les mesures pour obtenir la réponse d'un système équivalent sans intégration. Master ASE1 – Identification des Processus – P. Bonnet 23 . L'identification se fait donc à partir de la réponse indicielle.METHODES DE BASE  Relation entrée. sortie et système  Le signal d'excitation le plus courant est l'échelon. Remarque : on peut passer de la réponse impulsionnelle à la réponse indicielle par intégration [numérique] des mesures  Si le système présente une intégration dans sa fonction de transfert (pôle nul).

METHODES DE BASE  Relation entrée. D'où : 1 1/ = 1p p  1/ s t = 1 −t / e  L'intégration de la réponse impulsionnelle donne la réponse indicielle: t 1 −t / ∫ s  u du =  [− e ] 0 = 1 − e−t / 0 t . sortie et système  Exemple du circuit du 1er ordre de la forme : L p = 1 1 p La réponse impulsionnelle est : S  p = 1 . Bonnet 24 . Master ASE1 – Identification des Processus – P.

Bonnet . s0  Ke1 63% Ke 1 s0 0  t Le temps de réponse à 95% est environ de 3 Le temps de montée est:  25 Master ASE1 – Identification des Processus – P.METHODES DE BASE  Méthode graphique directe  1er ordre H  p = − t  K soumis à un échelon e t  = e 1 u t 1   p st = K e1 1 − e   s0 Réponse s .

METHODES DE BASE  Méthode graphique directe  1er ordre H  p = K soumis à une rampe e t = a t ut 1   p st  = a K  e Réponse − t   a K t −  s0  a K t . Bonnet t 26 . st  s0 s0  a K t −  0  Master ASE1 – Identification des Processus – P.

METHODES DE BASE  Méthode de Broïda  e réponse indicielle du 1er ordre H  p = K avec retard 1   p st s0  Ke 1 −Tp .8 t 40  = 5. 40% 28% Ke 1 s0 0 t 28 t 40 T = 2.8 t 28 − 1.5t 40 − t 28  t Master ASE1 – Identification des Processus – P. Bonnet 27 .

Ke 1 s0 0 Tu Ta t Master ASE1 – Identification des Processus – P. Bonnet 28 .METHODES DE BASE  Méthode de Strejc  réponse indicielle du 1er ordre H  p = K n 1   p st s0  Ke 1 .

. on arrondit cette valeur à l'entier le plus proche.METHODES DE BASE  Méthode de Strejc La méthode définit une valeur de n non-entière . généralement. Bonnet 29 . Master ASE1 – Identification des Processus – P.

Bonnet j t 30 . e t  = A sin  t ht  st Excitation Réponse A t t0=0 Ecriture complexe de l'entrée : e t  = A e j t Le régime permanent de la sortie est : st = A H  j e Master ASE1 – Identification des Processus – P.METHODES DE BASE  Méthode fréquentielle La méthode fréquentielle s'appuie sur la réponse harmonique du système.

∣H  j ∣dB arg H  j  c = 1/ Log Log  ∣H 0∣dB  −45 ° c = 1/ −90°  la détermination des paramètres du système se fait généralement graphiquement (asymptotes. Bonnet 31 . résonance.. coupure.) Master ASE1 – Identification des Processus – P. Le nombre de points de mesure est élevé.METHODES DE BASE  Méthode fréquentielle Elle permet de réaliser une excitation dans une large gamme de fréquences.. contrairement à l'échelon qui possède un spectre réduit. L'analyse est donc beaucoup plus performante que l'analyse temporelle.

METHODES DE BASE  Méthode fréquentielle  Utilisation d'un signal d'excitation large bande pour déterminer directement la réponse fréquentielle en une seule mesure : t st = e∗h = ∫ e  h t −  d  0 La transformée de Fourier de la réponse impulsionnelle s'obtient par : S  = E . Bonnet 32 . H  H  = S  E  Il suffit donc de déterminer les transformées de Fourier de l'entrée et la sortie pour déterminer la réponse fréquentielle du système   La méthode est valide sous réserve d'absence de zéro dans le spectre du signal d'excitation. On utilise un bruit blanc ou une SBPA pour l'excitation Master ASE1 – Identification des Processus – P.

MODELE AJUSTE MODELE AJUSTE Master ASE1 – Identification des Processus – P. Bonnet 33 .

Bonnet .. t 34 Master ASE1 – Identification des Processus – P. puis prend une règle (le modèle de la loi affine ajustable en ordonnée et en pente) et tente l'ajuster "au mieux". La "qualité" de l'ajustement diffère d'un opérateur à l'autre: le critère d'ajustement n'est pas clairement exprimé. y0 y1 y2 y3 y4 modèle ajustable x t  0 1 2 3 4 .MODELE AJUSTE  Objectif L'idée est de reproduire le travail de l'homme lorsqu'il "ajuste" manuellement /graphiquement le modèle qu'il souhaite appliquer... Exemple : soit un ensemble de mesures expérimentales qui devraient suivre une loi affine L'utilisateur trace le graphe des mesures. il est du domaine subjectif.

 = ∑ i n1 n2 n1 n2 2  a 1 . a 2 . a 1 .. les valeurs prises par le modèles aux instants d'observation   Posons i écart [erreur] entre les mesures et le modèle y t i  = x t i .... a 2 .. Bonnet .MODELE AJUSTE  Critère d'évaluation de l'erreur de modélisation Soient : y t i  les observations faites sur le système x t i ..  i L'erreur quadratique cumulée est : a 1 . a 2 .. a 2 .2 35 Note : il existe d'autres critères possibles (distance généralisée par exemple) Master ASE1 – Identification des Processus – P.. a 1.. = ∑  y t i  − x t i . a 2 . a 1 ..

MODELE AJUSTE  Minimum du critère  Le critère présente une dépendance quadratique vis à vis des paramètres .  1 2 0 1 0 0 0 0 1 0 0 8 0 0 0 8 0 6 0 0 0 4 0 0 0 2 0 0 0 0 0  min 4 2 0 0 6 0 0 0 2 4 6 8 1 0 1 2 1 4 1 6 a2  5 1 0 1 5 0 1 0 5 1 5 a1  a1  Master ASE1 – Identification des Processus – P. Bonnet 36 .

ceci peut être une source d'erreur.MODELE AJUSTE  Recherche du minimum de  On suppose qu'il y a indépendance/orthogonalité des paramètres : Le critère d'erreur  présente un minimum pour : ∂ =0 ∂ a2 ∂2  ∂a 2 2  et ∂ =0 ∂ a1 ∂2  ∂a 2 1 .... Master ASE1 – Identification des Processus – P. Bonnet 37 . 0 Note : Les méthodes de base ne tiennent pas compte des équations de contrainte.. ∂ =0 ∂ ak ∂2  ∂a 2 k  0 0 ...

a k   Le modèle le plus proche des mesures au sens du critère d'erreur est : x t  = x t . a 1 . Ce cours porte essentiellement sur les méthodes de base applicable aux modèles linéaires. .. a k      Note : Selon la nature du modèle (linéaire ou non-linéaire par rapport aux paramètres). Bonnet 38 . . a 2 . . Master ASE1 – Identification des Processus – P. a2.. la résolution des équations peut poser problème ...MODELE AJUSTE  Resolution Le minimum est obtenu pour un jeu de valeurs dites optimales pour le critère considéré (critère des moindres-carrés) ∂ = 0 ∂ ai Résolution des k équations  a 1 .

y2  à partir des valeurs de x(t) et des mesures ∂ ∂ 3°) Former les dérivées partielles .b   39 Master ASE1 – Identification des Processus – P. Bonnet .MODELE AJUSTE  Exemple d'application Modélisation de 3 mesures successives par un modèle affine de la forme x t  = a  b t y 1 =2 y 0 =1 0 1 2 y 2=2 x t  t Méthode : 1°) Déterminer les valeurs prises par le modèle pour 2°) Exprimer t = 0. y1 .1 .2 y0 . 4°) Résoudre le système (Cramer) pour obtenir ∂a ∂b a .

Bonnet 40 .AJUSTEMENT DU MODELE Master ASE1 – Identification des Processus – P.

.. a k }  Modèle linéaire Le modèle est linéaire par rapport à ses paramètres s'il vérifie : x t . a 2 . f 1 t  . p1   2 x t .. 1 p1  2 p 2  = 1 x t .. x t  = A cos 10t   B sin 10t  Exemples : Master ASE1 – Identification des Processus – P. f 2 t .. Bonnet 41 . p2   Les Un modèle linéaire par rapport à ses paramètres a une expression du type: x t  = a 1 f 1 t   a 2 f 2 t  .AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Choix du modèle Soit un modèle x t de variable explicative t caractérisé par un jeu de paramètres p = {a 1 ... . sont les "formants" du modèle x t  = a 0  a 1t a 2 t 2 ...

... .AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Cas du modèle linéaire/paramètres d'ajustement      Modèle linéaire à k paramètres : x t  = a1 f 1 t  a 2 f 2 t  ... . x t 2  . . x t n  Critère d'erreur cumulée à noptimiser  a 1 . Bonnet .. ak f k t Instants de n mesures : t 1 . = ∑  y t i  − x t i 2 i=1 42 Master ASE1 – Identification des Processus – P. y t 2  . y t n  Expression du modèle aux instants de mesures : x t 1  . . ... a 2 .. t n Mesures de la sortie du système : y t 1  .. . t 2 .

....... a k f k t n   = ∑ [ y t i  i=1 n − a 1 f 1 t i  − a 2 f 2 t i  −. n abcisse t1 t2 ... tn mesure y t 1  y t 2  . a k f k t 1  xt 2  = a 1 f 1 t 2   a 2 f 2 t 2  . Bonnet 43 .. y t n  modèle xt 1  = a 1 f 1 t 1   a 2 f 2 t 1  ... x t n  = a 1 f 1 t n   a 2 f 2 t n  ..... − a k f k t i ] 2 Master ASE1 – Identification des Processus – P..AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Présentation des données du problème n 1 2 . a k f k t 2  ...

− a k f k t i ] ∂ ak i=1 Minimisation du critère d'erreur quadratique ∂ =0 ∂ a1 ∂ =0 ∂ a2 .. − a k f k t i ] ∂ a1 i=1 n ∂ = − 2 ∑ f 2 t i [ y t i  − a 1 f 1 t i  − a 2 f 2 t i  −..... Bonnet .. a 2 . n ∂ = − 2 ∑ f k t i [ y t i  − a 1 f 1 t i  − a 2 f 2 t i  −.... ..AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Calcul des dérivées du critère quadratique n ∂ = − 2 ∑ f 1 t i [ y t i  − a 1 f 1 t i  − a 2 f 2 t i  −. − a k f k t i ] ∂ a2 i=1 ...... ∂ =0 ∂ ak  a 1 . a k    44 Master ASE1 – Identification des Processus – P.

a 1 ∑ f 1 t i  f k t i   a 2 ∑ f 1 t i  f 2 t i   ...  a k ∑ f 1 t i  f k t i  = n i=1 n ∑ f 1 t i  y t i i=1 n i=1 n a 1 ∑ f 1 t i  f 2 t i   a 2 ∑ f 2 t i   .. Bonnet 45 ....  a k ∑ f t i  = i=1 i=1 i=1 2 k n Master ASE1 – Identification des Processus – P..  a k ∑ f 2 t i  f k t i  = i=1 n i=1 2 ∑ f 2 t i  y t i  ∑ f k t i y t i  i=1 ...AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Présentation homogène du problème Equations de minimisation : n i=1 n 2 1 n i=1 n i=1 n n a1 ∑ f t i   a 2 ∑ f 1 t i  f 2 t i   ..

....... Bonnet 46 . i=1 . ∑ f 1 t i  f k t i  ∑ f 2 t i  f k t i  i=1 n i=1 n ∑ f 2 t i  f 1 t i  ∑ f 2 t i  2 ... ∑ f 2 t i  k i=1    ∑ f 1 t i  yi i=1 n n ∑ f 2 t i  yi i=1 n . ∑ f k t i  f 1 t i  ∑ f k t i  f 2 t i  . .. ∑ f k t i  yi i=1 Matrice de pondération symétrique Master ASE1 – Identification des Processus – P. ak n i=1 n i=1 n Vecteur des mesures pondérées Q = R =  n n ∑f i=1 n i=1 n 2 1 t i  ∑ f 1 t i  f 2 t i  .AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Présentation homogène du problème Vecteur des paramètres à identifier  =  a1 a2 ...... i=1 .. ...

Bonnet 47 .AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Présentation homogène du problème Les équations de minimisation peuvent s'écrire: R = Q La résolution de cette équation matricielle donne la solution optimale pour le modèle :   = R−1 Q sous réserve que la matrice R soit inversible Master ASE1 – Identification des Processus – P.

.. Bonnet 48 .. . ..a k f k t 2  ........ f 2 t n  . x t n    H = Posons:  f 1 t 1  f 1 t 2  . f k t n  x t 1  X = x t 2  ........ f 1 t n      yt 1  Y = yt 2  . a k f k t  Soit X l'ensemble des valeurs prises par le modèle et Y les mesures: = a1 f 1 t 1 a 2 f 2 t 1 ... .....a k f k t 1  a1 f 1 t 2 a2 f 2 t 2 . a1 f 1 t k a 2 f 2 t k .....AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Ecriture matricielle du problème des moindres-carrés : Soit x(t) le modèle linéaire par rapport à ses paramètres: x t  = a1 f 1 t   a2 f 2 t  . f k t 1  f k t 2  ...ak f k t k  f 2 t 1  f 2 t 2  ....... ak ⇒ X = H Master ASE1 – Identification des Processus – P..... yt n  a1  = a2 ....

. Bonnet  ∂ ∂a 1    49 ..AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Ecriture matricielle du problème des moindres-carrés : L'erreur quadratique cumulée s'écrit:  = ∑  yt i  − xt i 2 i=1 n = ∑ i2 i=1 n  =  et que : T 1 2 . n  Sachant que :  = Y − X X = H  1 2 .. ∂ ∂ ak Master ASE1 – Identification des Processus – P... n L'erreur cumulée s'écrit :  = Y − H  Y − H   La minimisation du critère se fait pour : ∂ ∂ = = 0 ∂ a2 ∂ ..

AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Ecriture matricielle du problème des moindres-carrés : La solution optimale sera obtenue pour : ∂ T T = − H Y − H  − Y − H  H ∂ En remarquant que  est scalaire . on obtient : ∂ T = −2 H Y − H  ∂ La solution optimale est :   =  H T H −1 H T Y Master ASE1 – Identification des Processus – P. Bonnet 50 .

Bonnet . 3°) En déduire les matrices/vecteurs 4°) Calculer la solution optimale T Y . le vecteur des observations.2 2°) Construire le tableau des valeurs prises par le modèle aux instants de mesure.1.AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES  Exemple d'application Modélisation de 3 mesures successives par un modèle affine de la forme x t  = a  bt y 2=2 y 1 =2 y 0 =1 0 1 2 x t  Méthode matricielle: t 1°) Déterminer les valeurs prises par le modèle pour t = 0. b   51 Master ASE1 – Identification des Processus – P. H et  = a .

ANALYSE DES MOINDRES-CARRES ANALYSE DE LA METHODE DES MOINDRES-CARRES Master ASE1 – Identification des Processus – P. Bonnet 52 .

...symétrique Exemple :  = T Q  1 0 0 2 Q = .. .. 0 .définie positive : toutes ses valeurs propres sont positives strictement .. Bonnet 53 .... 0 0  . n  avec On remarque que : 10 .... ... 20 .. 0 .ANALYSE DES MOINDRES-CARRES  Pondération du critère J : définition du critère d'erreur quadratique pondéré : Avec Q matrice de pondération . .. n 0  = 0 si et seulement si =0 Master ASE1 – Identification des Processus – P. ..

ANALYSE DES MOINDRES-CARRES  Pondération du critère d'erreur quadratique cumulée :  = T Q  Minimisation du critère J par ajustement des paramètres :  = Y − H    T Q Y − H  ∂ = − H T QY − H  − Y − H T Q H ∂ ∂ = =−2 H T QY − H  = 0 ∂ La solution optimale est :   =  H T Q H −1 H T Q Y 54 Master ASE1 – Identification des Processus – P. Bonnet .

L'estimateur non-biaisé fournit une valeur non-décalée par rapport à la vraie valeur    Soit   la valeur théorique des paramètres. Bonnet 55 .ANALYSE DES MOINDRES-CARRES  Biais de l'estimation des paramètres: Le biais d'un estimateur est l'espérance de l'écart entre l'estimation et les vraies valeurs. Le modèle parfait a pour valeur : Les mesures ont pour valeur :  X = H v bruit de mesure  Y = H   v avec T −1 T    = H H  H [H   v]  L'écart entre l'estimation et la vraie valeur des paramètres du modèle est : T −1 T   − =  H H  H v Master ASE1 – Identification des Processus – P.

ANALYSE DES MOINDRES-CARRES  Biais de l'estimation des paramètres:   L'espérance de l'erreur d'estimation est :   E [ − ] = E [ H T H −1 H T v ]  Pour un bruit de mesure non corrélé à H . Bonnet 56 . l'estimateur des moindres-carrés est non-biaisé : la valeur estimée des paramètres est proche de la vraie valeur en moyenne. l'espérance sera :   E [ − ] =  H T H −1 H T E [v] Dans les cas usuels (bruit à valeur moyenne nulle). Il fournit une estimation non-décalée par rapport aux vraies valeurs. Master ASE1 – Identification des Processus – P.

.. Bonnet .. .. 1− 1  n −n    ..ANALYSE DES MOINDRES-CARRES    Variance de l'estimation des paramètres: Variance d'une variable scalaire 2  : 2   = E [−  ] avec  = E []   Matrice de variance/covariance d'une grandeur vectorielle T   A = E [ A − A  A −   ] A 1 A = 2 ... .... ....  n −n 1 −1  n − n 2 − 2      [ ... 2− 2 n − n    .. n − n 2  ] 57 Terme de covariance Master ASE1 – Identification des Processus – P. n  Terme de variance A 1 −1 2 1−1 2 −2     2 2 −2 1−1   2− 2     = E .

la matrice de variance-covariance de l'estimation est :   = [  H H  H ] E [v v ] [ H  H H   T −1 T T T −1 T ] Master ASE1 – Identification des Processus – P. Bonnet 58 .ANALYSE DES MOINDRES-CARRES    Variance de l'estimation des paramètres: Variance de l'estimateur des moindres-carrés (pour un bruit centré):       = E [  −   −  T ]   = E [ [ H H  H v][ H H  H v] T −1 T T −1 T T ]   = E [  H H  H v v H  H H   T −1 T T T −1 T ]  Pour un bruit non-corrélé à la matrice H .

..ANALYSE DES MOINDRES-CARRES  Variance de l'estimation des paramètres: Cas du bruit blanc sur les mesures   chaque mesure est supposée entachée d'un bruit blanc additif il n'y a pas de corrélation du bruit de mesure entre 2 mesures  0 v t2 .. 2 0 0 . v tn T [ ]   v t1 2 0 ....  n 2  Pour un bruit constant sur chaque mesure... Bonnet 59 ... 2 0 0 . 0 1 2 0 ..... .... .... . 0 E [v v ] = E . .. de variance l'estimation des paramètres du modèle est :  2 . .. le bruit sur Y  =  [ H H  2 Y T −1 T ] Master ASE1 – Identification des Processus – P. 0 2 0  2 . .... 0 = ....

Bonnet 60 .ANALYSE DES MOINDRES-CARRES  Estimateur du maximum de vraisemblance On prend comme matrice de pondération l'inverse de la matrice de variance-covariance du bruit.     bruit = E [ v v T ]  = T Q  = T  −1  bruit   =  H T  −1 H −1 H T −1 Y bruit bruit Master ASE1 – Identification des Processus – P. ce qui a pour effet de minimiser le poids des mesures à bruit élevé.

ANALYSE DES MOINDRES-CARRES  Rejet des mesures aberrantes  Le calcul des paramètres du modèle permet de calculer  X    X = H  La variance de l'estimation est :    E [ X X T ] = E [ H  T H T ]   E [ X X T ] = H  H T   Pour des mesures bruitées par un bruit blanc : 2 2 T −1 T T  T E [ X X ] =  X =  Y H [ H H  ] H  Rejet des mesures y t i  dont l'écart avec le modèle x t i  est supérieur   X avec K fixé par l'utilisateur ( de l'ordre de 2 à 3) à  Master ASE1 – Identification des Processus – P. Bonnet 61 .

MOINDRES-CARRES RECURSIFS MOINDRES CARRES RECURSIFS Master ASE1 – Identification des Processus – P. Bonnet 62 .

....MOINDRES-CARRES RECURSIFS  Calcul sur n mesures :  On dispose de n observations auxquelles correspondent n valeurs du modèle yt 1  Y n = y t 2  . .. y t n   X n = Hn =  T f 1 t 1  f 1 t 2  .. ..... f 2 t n  . f k t n    la solution optimale calculée sur les n mesures est :  n =  H T H n −1 H T Y n n n  elle minimise le critère calculé sur ces n mesures : n = Y n− X n  Y n − X n  63 Master ASE1 – Identification des Processus – P. .. Bonnet .. f k t 1  f k t 2   . f 1 t n  f 2 t 1  f 2 t 2  .....

MOINDRES-CARRES RECURSIFS  Inconvénients de la méthode classique:   La dimension (nxk) de la matrice H croît avec le nombre n de mesures T −1 T  n =  H n H n  H n Y n L'ajout d'une (n+1)ème mesure impose de recommencer la totalité du calcul  Mise en évidence de la solution  Utiliser la technique de calcul avec −1  n = R n Q n T Rn = H n H n de dimension (kxk) T et Q n = H n Y n de dimension (kx1) Master ASE1 – Identification des Processus – P. Bonnet 64 .

. .... f k t 1  . Bonnet 65 .  .. y t n  y t n1  X n1 f 1 t 1  f 2 t 1  f 1 t 2  f 2 t 2  = H n1  = ...... f k t n  . .. f k t 2  ... f k t n1    Posons : hT = [ f 1 t n1  f 2 t n1 .MOINDRES-CARRES RECURSIFS  Ajout de la (n+1)ème mesure :  On dispose de n+1 observations auxquelles correspondent n+1 valeurs du modèle : Y n1 y t 1  y t 2  = .. f k t n1 ] n1 Master ASE1 – Identification des Processus – P. f 1 t n  f 2 t n  f 1 t n1  f 2 t n1   ........

MOINDRES-CARRES RECURSIFS  Ajout de la (n+1)ème mesure :  On dispose de n+1 observations auxquelles correspondent n+1 valeurs du modèle Y n1 =   Yn y t n1  X n1 =   Xn = Hn x n1 hT n1   Posons :  n1 =  H T H n1 −1 H T Y n1 n1 n1 Master ASE1 – Identification des Processus – P. Bonnet 66 .

Bonnet .MOINDRES-CARRES RECURSIFS  Calcul de  H n1 H n1  T :  H T n1 H n1 =  : H T n h n1  Hn hn1 T T  67 H n1 H n1 = H n H n  hn1 h n1  Calcul de T T  H n1 Y n1  T H T n1 Y n1 =  H T n h n1  Yn y n1  H T Y n1 = H T Y n  hn1 y n1 n1 n Master ASE1 – Identification des Processus – P.

MOINDRES-CARRES RECURSIFS  Expression récursive de base: T T −1 T  n1 =  H n H n  h n1 h n1   H n Y n  h n1 y n1   Construire la matrice H au rang n Calculer Calculer R n = H T H n de dimension (kxk) n Q n = H T Y n de dimension (kx1) n En déduire  n = R−1 Q n estimation initiale au rang n n Itérer pour passer du rang n au rang n+1 : Déterminer hT = [ f 1 t n1  f 2 t n1  .... Bonnet 68 . f k t n1 ] n1 T Calculer R n1 = R n  h n1 h n1 Et en déduire (kxk) puis Q n1 = Q n  hn1 y n1 (kx1) n1 = R−1 Q n1 n1 Master ASE1 – Identification des Processus – P.

Bonnet 69 .MOINDRES-CARRES RECURSIFS  Calcul récursif évolué :   n1 =  H T H n  hn1 hT −1  H T Y n  hn1 y n1  n n n1  Posons P n =  H n H n T −1 et P n1 =  H n H n  hn1 hn1  T T −1  Quelle est la relation entre  Lemme d'inversion : Soit A = B  C P n et P n1 ? A−1 = B−1 − B−1 C B−1 [ I  B−1 C ]−1  P n1  Appliquons le lemme à T P n1 =  H T H n −1 −  H T H n −1 h n1 h T  H T H n −1 [ 1 hT  H T H n −1 h n1 ]−1 n n n1 n n1 n = P n − P n h n1 h n1 P n [ 1 h n1 P n h n1 ] T −1 = P n − P n h n1 [ 1 h T P n h n1 ]−1 h T P n n1 n1 Master ASE1 – Identification des Processus – P.

MOINDRES-CARRES RECURSIFS  Calcul récursif évolué : P n1 = P n − P n h n1 [ 1 hT P n hn1 ]−1 hT P n n1 n1 K n1 = P n h n1 [ 1  h n1 P n hn1 ] T −1 1 P n1 = P n − K n1 hT P n n1 P n1 =  I − K n1 hT  P n n1 T T −1 T   n1 =  H n H n  h n1 h n1  H n Y n  h n1 y n1  3 =  P n − K n1 hT P n   H T Y n  h n1 y n1 n1 n = P n H n Y n  P n h n1 y n1 − K n1 h n1 P n H n Y n − K n1 hn1 P n h n1 y n1 Master ASE1 – Identification des Processus – P. Bonnet T T T T 70 .

Bonnet .MOINDRES-CARRES RECURSIFS  Calcul récursif évolué :  Récurrence finale K n1 = P n hn1 [ 1  h T n1 P n hn1 ] −1  n1 = n  K n1  y n1 − hT n     n1 P n1 =  I − K n1 hn1  P n T  K n1 est le gain matriciel de correction  Le gain de correction diminue à mesure que n augmente  Les termes de la matrice P tendent vers 0 lorsque n augmente 71 Master ASE1 – Identification des Processus – P.

Bonnet 72 .MOINDRES-CARRES RECURSIFS  Calcul récursif évolué :  Autre expression de la récurrence finale  n1 = n  P n1 hn1  y n1 − hT n     n1 P n1 = P n − P n hn1 h T n1 Pn 1  hT P n hn1 n  P n1 est le gain matriciel de correction  Le gain de correction diminue à mesure que n augmente et tend vers 0 Master ASE1 – Identification des Processus – P.

Bonnet 73 . on propose le choix : P 00 = G I k avec G gain d'adaptation ( G = 10 ou 100  Choix de  00 : on propose le plus souvent  00 = 0 Master ASE1 – Identification des Processus – P.MOINDRES-CARRES RECURSIFS  Utilisation pratique de la récurrence évoluée:  Poser les conditions initiales : P 00  00 matrice carrée kxk vecteur colonne kx1  Choix de P 00 : la matrice a pour définition P 00 =  H T H 00 −1 00 avec H 00 inexistante (absence de ligne). par exemple) P étant de dimension constante kxk .

MOINDRES-CARRES RECURSIFS  Utilisation pratique de la récurrence évoluée:  Itérer une première fois K 1 = P 00 h1 [1  hT P 00 h1 ]−1 1 T    1 =  00  K 1  y 1 − h1 00  P 1 =  I − K 1 hT  P 00 1  Itérer une deuxième fois K 2 = P 1 h2 [1  h2 P 1 h 2 ] T    2 = 1  K 2  y 2 − h 2 1  P 2 =  I − K 2 h2  P 1 T T −1  Appliquer la récurrence générale Pierre BONNET Modélisation Identification Master ASE1 – Identification des Processus – P. Bonnet 72 74 .

on multiplie le "poids" des anciennes mesures par le facteur P n h n1 hT P n 1 n1 P n1 = Pn − T 1 1 / 2  h n1 P n h n1   75 Master ASE1 – Identification des Processus – P. Bonnet .diminuer le "poids" des anciennes mesures au profit des plus récentes  Loi proposée: Avec P n1 = 1 H T H n   2 hn1 h T −1 n n1 02 2 011 et A chaque étape de la récurrence.MOINDRES-CARRES RECURSIFS  Pondération de la récurrence  Objectif : .éviter la décroissance de K n1 ou P n1 vers 0 .

on multiplie le "poids" des anciennes mesures par le facteur d'oubli  A la (n+1) ième étape: .la nième est pondérée par  .la 2ème est pondérée par  .la nouvelle est pondérée par 1 La pondération suit une loi exponentielle Master ASE1 – Identification des Processus – P.MOINDRES-CARRES RECURSIFS  Introduction d'un facteur d'oubli 2 = 1  choix : 1 = cste diminution du "poids" des anciennes mesures au profit des plus récentes d'où le principe du "facteur d'oubli" du passé  Loi résultante:  n1 =  H T H n  hn1 hT −1  H T Y n  h n1 y n1  n n1 n avec 01 A chaque étape de la récurrence.la 1ère estimation est pondérée par  n−1 . Bonnet  n 76 .

MOINDRES-CARRES RECURSIFS  Introduction d'un facteur d'oubli  Le facteur d'oubli est choisi de l'ordre de 0. pour des données présentant des discontinuités de modèle . Master ASE1 – Identification des Processus – P.951  Récurrence obtenue : T     n1 =  n  K n1 y n1 − hn1 n [ ] K n1 = P n1 = P n hn1   hT P n h n1 n1 1  I − K n1 hT  P n n1   Principale application : suivi des paramètres d'un système évoluant dans le temps Exemple : suivi des paramètres d'un modèle linéaire par morceaux x = at  b . Bonnet 77 .

MOINDRES-CARRES RECURSIFS  Algorithme à trace constante  si h n1  0 . Bonnet 78 . on aura P n1 ≃ P n / avec 1 la matrice P n "explose" L'algorithme à trace constante a pour objectif de maintenir la somme des éléments diagonaux à une valeur non nulle à tout instant : trace P n1  = tr  P n  = tr P 0 =Cste On choisit comme valeur de trace kG avec G gain initial et k nombre de paramètres (valeurs typiques G = 1 à 4 ) : P n h n1 h T P n 1 n1 tr  P n1  = tr P n − T 1 1 / 2  h n1 P n h n1   Les valeurs de 1 et 2 sont déduites de cette équation. le rapport 1 / 2 étant fixé à une valeur constante Master ASE1 – Identification des Processus – P.

Bonnet 79 .MOINDRES CARRES NON-LINEAIRES MOINDRES-CARRES NON-LINEAIRES Master ASE1 – Identification des Processus – P.

Exemple : réponse indicielle d'un circuit du 1er ordre y1 y0 0 1 y2 y3 y5 y5  t . = K 1 − e t −  t   = [ K . ] T  la dépendance vis à vis du paramètre  est non-linéaire . il n'est plus possible de résoudre le système par la méthode linéaire (pas de matrice H ) 80 Master ASE1 – Identification des Processus – P. f 2 3 4 5 L'expression du modèle est : avec f t .MOINDRES CARRES NON-LINEAIRES  Position du problème Dans de nombreuses applications . la fonction modèle n'est pas linéaire par rapport à ses paramètres. Bonnet .

les conditions initiales étant éloignées de la solution optimale. 0 T Y − F t . a 20 . T le modèle prend les valeurs : F t . 0  = L'erreur entre le modèle et les mesures est : L'erreur quadratique cumulée est : 0  = Y − F t .MOINDRES CARRES NON-LINEAIRES  Méthode de Gauss-Newton (méthode de gradient) La proposition est de partir d'une valeur initiale 0 des paramètres et de modifier itérativement la valeur de  d'un incrément  de façon à minimiser le critère d'erreur quadratique cumulée à chaque étape. Master ASE1 – Identification des Processus – P. l'erreur cumulée sera importante . . 0  f t 2.... 0  . 0  81    =   = Y − F t .0  Généralement..   Etape initiale Pour 0 = [ a 10 . Bonnet . ] . 0  T [ ] f t 1. f t n .

MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Incrémentation

 modification de la valeur de 0 d'un incrément
d'erreur quadratique cumulée Pour

 de façon à minimiser le critère

    
0  

 = 0   , le modèle prend les valeurs F t , 0   et l'erreur ∂

Pour se placer au minimum d'erreur , on choisit  tel que

    =0
0

∂ 

Calcul du minimum de l'erreur cumulée :

   
0 

∂ 

= −2

[

∂ F t ,0  ∂ 

]

T

 Y −F t ,0 

= 0

Master ASE1 – Identification des Processus – P. Bonnet

82

MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Calcul de

F t , 0  

Le développement de Taylor du 1er ordre du modèle permet d'approximer la nouvelle valeur du modèle à chaque instant d'observation :

f t i , 0   = f t i , 0   J i 0 .
avec

J i 0  = ∇  f t i , 0 T

gradient de f en ligne

L'extension à l'ensemble des points de calculs prend la forme matricielle suivante :

F t , 0 =F t ,0   J 0 .
∂ f t 1  ∂ a1 ∂ f t 2  ∂ F t , 0   = Avec : J 0  = ∂ a1 ∂  ... jacobienne de f/paramètres ∂ f t n  ∂ a1

[

∂ f t 1  ∂ a2 ∂ f t 2  ∂ a2 ... ∂ f t n  ∂ a2

... ... ... ...

∂ f t 1  ∂ ak ∂ f  t2 ∂ ak ... ∂ f t n  ∂ ak

]
83

Master ASE1 – Identification des Processus – P. Bonnet

MOINDRES CARRES NON-LINEAIRES
 Méthode de Gauss-Newton
Calcul du minimum de l'erreur cumulée :


D'où :

   
0 

∂ 

= −2

[

∂ F t , 0  ∂ 

]

T

 Y −F t ,0 

= 0

−2 J T  Y − F t , 0 J 0 .    = 0

On en déduit la valeur de l'accroissement à faire sur les paramètres pour minimiser l'erreur:

 = [ J 0  . J 0  ] . J 0   Y −F t , 0 
T T

−1

Itération On itère en définissant les nouvelles valeurs des paramètres 1 = 0   nouvelles valeurs du modèle F t , 1  . La correction suivante à faire sera :

et les

 = [ J 1  . J 1  ] . J 1   Y − F t , 1  
Master ASE1 – Identification des Processus – P. Bonnet

T

−1

T

84

max [ J T J ]  est un paramètre de gain à choisir convenablement (!) Master ASE1 – Identification des Processus – P. il doit être ajusté à chaque pas de calcul. dont la valeur initiale a été proposée par Marquardt: 0 =  . Bonnet 85 . J   I ] .MOINDRES CARRES NON-LINEAIRES  Méthode de Gauss-Newton Limitation : l'inversion de la matrice J T J peut poser problème (matrice singulière).  T T −1 Le paramètre  joue le rôle d'un amortissement de la correction. l'algorithme a été modifié par Levenberg-Marquardt:  = [ J . Pour éviter ce blocage. J  Y −F t . on peut se contenter d'un amortissement constant. Dans les cas simples.

 ] La matrice du Jacobien est construite à partir des dérivées partielles de f par rapport à  ∂ f t . Bonnet 86 .MOINDRES CARRES NON-LINEAIRES  Méthode de Gauss-Newton Exemple d'application : soit un système du 1er ordre dont désire connaître les paramètres caractéristiques (gain et constante de temps) par l'observation de la réponse indicielle. les dérivées partielles dépendent des paramètres eux-mêmes.7 et la constante de temps de l'ordre de la seconde (échelle de temps) t − T  Le modèle de la réponse indicielle est : f t . t = −K 2 e  ∂  −t Contrairement au cas d'un modèle linéaire/paramètres.64 4 0. Temps en s y(t) 0 0. = K 1 − e  avec  = [ K . K et  pour donner une valeur à la matrice Jacobienne 0 = 1 Valeurs initiales proposées : K 0 = 1 Il faut fixer une valeur initiale de Master ASE1 – Identification des Processus – P.45 2 0.59 3 0.64 5 0.69 L'observation directe montre que le gain (valeur finale) est proche de 0. = 1−e ∂K −t  ∂ f t .05 1 0.

−0. Bonnet .98 0.03 0. 0.94 Après 10 itérations .99 [ ] 0.86 J 0  = 0.95 0. la valeur des paramètres converge vers : 10 = L'erreur quadratique cumulée est de : [ ] 0.0035 Master ASE1 – Identification des Processus – P.07 −0.67 0.86 les valeurs du modèle : F 0 = 0.27 −0.06 ] [ ] 0.67 0.37 −0. 0.33 −0.63 0.95 0.MOINDRES CARRES NON-LINEAIRES  Méthode de Gauss-Newton La matrice Jacobienne est : 0.63 0.92  = 0.98 0.15 −0.42 T −1 T L'incrément à faire sur les paramètres est :  =  J J  J Y −F 0  = La nouvelle valeur des paramètres est : 1 = [ −0.99 [] 87 L'erreur quadratique cumulée est de :  = 0.

1 et tau = .MOINDRES CARRES NON-LINEAIRES  Méthode de Gauss-Newton Attention : certaines valeurs initiales ne permettent pas à l'algorithme de converger (par exemple K = . Bonnet 88 .1 )! Master ASE1 – Identification des Processus – P.

Bonnet 89 .MODELISATION DES SYSTEMES MODELISATION DES SYSTEMES Master ASE1 – Identification des Processus – P.

MODELISATION DES SYSTEMES  Modélisation d'un système discret La détermination des paramètres d'un système à partir de l'observation de sa sortie. Bonnet 90 . Entrée externe Sorties Système + Sorties modélisées Erreur de modélisation - Modèle  le modèle doit traduire la relation entrée-sortie caractéristique du système Master ASE1 – Identification des Processus – P. compte-tenu de l'entrée appliquée.

 a p y m n− p = b 0 u n  b1 u  n−1 .. Bonnet 91 . bq u n−q Master ASE1 – Identification des Processus – P..MODELISATION DES SYSTEMES  Système discret :  modèle de récurrence y m n a1 y m n−1  a2 y m n−2 ...

n-q ) y m n = −a1 y m n−1 − a 2 y m n−2 −... . n-1.n-2..MODELISATION DES SYSTEMES  Modèle de récurrence  la sortie du système à l'instant n se déduit de la sortie aux instants ( n-1..− a p y m n− p  b0 u n  b1 u n−1 . Bonnet 92 . bq un−q Ce modèle est dit "Autorégressif à moyenne mobile" ou modèle ARMA Master ASE1 – Identification des Processus – P. .. .. .n-p) et de l'entrée aux instants (n... n-2.

MODELISATION DES SYSTEMES  Exemple de modèle de récurrence discrète :  Soit un système du premier ordre de fonction de transfert : L p = Y  p K = U  p p Ce système correspond à une équation de récurrence de la forme : y y = Ku ˙ En approximant la dérivée par Euler : y n1 − y n   y n = K un Te Le système discrétisé est décrit par la récurrence : y n1 = 1 −  T e  y n  K T e u n Ou : y n = 1 −  T e  y n−1  K T e u n−1 Master ASE1 – Identification des Processus – P. Bonnet 93 .

. De ce fait. le modèle est biaisé (erreur systématique si les mesures sont corrélées) Master ASE1 – Identification des Processus – P.MODELISATION DES SYSTEMES  modèle de récurrence : La récurrence s'applique aux mesures au bruit près: y n = −a 1 y n−1 − a 2 y n−2 −... et non à partir des valeurs modélisées précédentes. Il est défini à partir des mesures ... bq u n−q  n Le membre de droite représente le modèle .n-p ) . On remarque que c'est un modèle avec erreur (la somme pondérée des erreurs faites sur chacune de observations faites aux instants n-1. Bonnet 94 ..− a p y n− p  b0 u n  b1 u n−1 ...

− a p y  N − p  b0 u  N   b1 u  N −1 ..... b q u N −q−k    N −k  95 Master ASE1 – Identification des Processus – P.. bq u N −q−1   N −1  instant N-k: y  N −k  = −a1 y N −1−k  − a 2 y  N −2−k  −...− a p y  N − p−k   b 0 u  N −k   b 1 u N −1−k  ..MODELISATION DES SYSTEMES  Observation du système sur k échantillons :  instant N : y  N  = −a1 y  N −1 − a 2 y  N −2 −..− a p y  N − p−1  b 0 u N −1  b1 u  N −2 ... b q u  N −q   N   instant N-1 y  N −1 = −a 1 y  N −2 − a 2 y  N −3 −.. Bonnet .

...MODELISATION DES SYSTEMES  Observation du système sur k échantillons :  écriture matricielle Les mesures sont liées à l'entrée par la relation : [ ][ yN  − y  N −1 y  N −1 − y  N −2 = ... ...... − y  N − p−1 u  N −1 u  N −q−1 ... . ...... − y  N − p uN  u  N −q . Bonnet . bq Master ASE1 – Identification des Processus – P. .. y  N −k  − y  N −1−k  . .  p1 .  N  ap  N −1  b0 .. − y  N − p−k  u  p1 u  N −q−k  ] [ ] 96 [] a1 . .

... . − y N − p−k  u  p1 u N −q−k  Y = H   C'est un problème classique de résolution par les moindres-carrés Master ASE1 – Identification des Processus – P. .. − y  N − p uN  u N −q ........ − y  N −1−k  Les mesures suivent la loi : [ .... − y  N − p−1 u N −1 u  N −q−1 . . bq [] ] 97 − y N −1 − y  N −2 H = . ap vecteur des  = para mètres b0 . Bonnet .. y  N −k  [ ] a1 . ..MODELISATION DES SYSTEMES  Observation du système sur k échantillons (ou plus):  yN  Posons : vecteur y  N −1 Y = des mesures ...

former le vecteur des mesures Y .MODELISATION DES SYSTEMES  Modélisation par les moindres carrés simples:  solution de base non récursive   =  H T −1 H T Y  Exciter le système avec un signal d'entrée et relever la réponse : .bruit blanc .former la matrice H à partir des mesures et des valeurs d'entrée (tenir compte d'un retard éventuel) .échelon .signal binaire pseudo-aléatoire (voir TP)   Déterminer  par les moindres-carrés: .résoudre le système 98 Master ASE1 – Identification des Processus – P. Bonnet .

.97 ..99 1. Bonnet Les valeurs obtenues sont :   = −0.. − y n−1 u n−1 [ ] Master ASE1 – Identification des Processus – P. Le modèle retenu est :  y n = −a 1 y n−1  b 1 u n−1 La matrice H est : − y 1 u 1 −y  2 u 2 H= .577 0.444 [ ] 99 .MODELISATION DES SYSTEMES  Modélisation par les moindres carrés simples:  Exemple d'un premier ordre soumis à un échelon Valeurs relevées pour une réponse à un échelon d'amplitude 1 : Y= [0 .98 1 .95 .02 ]'. ..7 .4 .

.) . Bonnet 100 .par exemple  = 0 00 : P 00 = 1000  Exciter le système avec un signal d'entrée (échelon. et surtout un moyen d'identification en ligne . son retard et choisir les valeurs initiales .MODELISATION DES SYSTEMES  Résolution par les moindres carrés récursifs:  La résolution par les moindres-carrés récursif apporte un outil de calcul efficace.c'est à dire au fur et à mesure que les mesures sont faites  Fixer l'ordre du modèle.relever la réponse (et l'entrée) dès le premier instant d'échantillonnage ..ajuster le modèle par les MCR  .itérer pour obtenir les  n Master ASE1 – Identification des Processus – P.

02 ]'. Bonnet 101 .95 .MODELISATION DES SYSTEMES    Résolution par les moindres carrés récursifs: Exemple du système du premier ordre précédent sans retard Y= [0 .4 .99 1. Modèle à 2 paramètres a1 et b1 : Valeurs initiales: T  00 = [0 0] P 00 = [ 1000 0 0 1000 ]   Récurrence avec le vecteur h n1 = [− y  n u n]T  Les valeurs de n convergent vers la valeur finale précédente La simulation "colle" aux mesures pour les premiers instants (réajustement du modèle sur les mesures) puis produit un effet de filtrage (le modèle a convergé) Master ASE1 – Identification des Processus – P.97 .98 1 .7 .

. Master ASE1 – Identification des Processus – P.. Le bouclage provoque un biais important des mesures. Bonnet 102 . Il devient nécessaire d'introduire un modèle du bruit pour "blanchir" l'erreur ou de décorréler observation/erreur (ARMAX. L'identification se fait sans intervention sur le process existant.)   Les problèmes non traités dans ce cours :  La méthode de base suppose que le retard et l'ordre du système sont connus. Des algorithmes permettent de résoudre cette problématique. Il est possible de déterminer automatiquement ces valeurs par minimisation de l'erreur de modélisation. MCR généralisés.  La méthode peut s'appliquer à un système bouclé déjà régulé (régulateur classique). variable instrumentale.MODELISATION DES SYSTEMES La méthode introduit un biais d'estimation : les résultats sont décalés lorsque le bruit est important.

Sign up to vote on this title
UsefulNot useful