You are on page 1of 80

1

Slide 1
Tópicos em Ciência de
Alimentos A e B -
Validação de métodos:
aplicação em análises de
alimentos – Módulos 1 e 2
ALM 826 e 879
Profa. Scheilla Vitorino C. de Souza
PPGCA
NOV 2012
Slide 2
Conteúdo
Por que validar.
O que é validação.
Quando validar.
Seleção de métodos de ensaio.
Como validar (processos intralaboratoriais versus interlaboratoriais).
Parâmetros de desempenho.
Abrangência da validação em função dos diferentes tipos de métodos.
Termos e definições aplicados à validação de métodos.
Procedimentos de validação de métodos intralaboratoriais (delineamento
experimental, estatísticas para análise de dados e premissas relacionadas,
critérios de aceitabilidade para avaliação dos resultados):
linearidade / faixa linear / sensibilidade;
efeitos de matriz / seletividade;
exatidão / precisão (repetitividade e reprodutibilidade parcial);
limite de detecção / limite de quantificação.
Exemplos.
Exercícios.
2
Slide 3
Por que validar?
Slide 4
Resultados de ensaios químicos
 Dão suporte a decisões nos mais diversos segmentos da
sociedade.
Confiabilidade.
Comparabilidade.
Implementação de forte estrutura
metrológica com foco no
reconhecimento mútuo e eliminação
de barreiras.
3
Slide 5
Principais medidas técnicas que devem ser
tomadas para assegurar que os laboratórios
de ensaios produzem dados com a qualidade
requerida
Acreditação
 Comprovação de rastreabilidade.
 Estimativa de incerteza.
 Uso de métodos de ensaio validados.
 Uso de procedimentos de controle de qualidade internos.
 Uso de procedimentos de controle de qualidade externos
(participação em programas de comparação interlaboratorial).
No contexto de Sistemas de Gestão da
Qualidade em Laboratórios (SGQL)
Slide 6
SGQL conforme ABNT ISO/IEC 17025 -
Requisitos da direção
Organização
4.1
Sistema de
gestão
4.2
Aquisição de
serviços e
suprimentos
4.6
Auditorias
internas
4.14
Análise
crítica
pela
direção
4.15
Análise crítica
de pedidos,
propostas e
contratos
4.4
Subcontratação
4.5
Atendimento
ao cliente 4.7
Reclamações
4.8
Controle de trabalhos
não-conformes
4.9
Melhoria 4.10
Ação corretiva 4.11
Ação preventiva 4.12
Controle de
documentos 4.3
Controle de
registros 4.13
4
Slide 7
Acomodações e
condições
ambientais
5.3
Equipamentos
5.5
Amostragem
5.7
Manuseio de
itens de
ensaio
5.8
Pessoal
5.2
Padrões e
materiais de
referência
5.6.3
Apresentação dos
resultados
5.10
Rastreabilidade
5.6
Métodos de
ensaio e
validação
5.4
Garantia da
qualidade
5.9
SGQL conforme ABNT ISO/IEC 17025 -
Requisitos técnicos
Slide 8
O que é validação?
5
Slide 9
Validação
 Confirmação, por exame e evidência objetiva, de
que os requisitos para um determinado uso
pretendido são atendidos.
Objetivos da validação de métodos
 Conhecer o potencial aplicativo e limitações de um
método de ensaio, visando decidir sobre sua
adequação para uso (fitness for purpose).
Slide 10
Quando validar?
6
Slide 11
De acordo com a
ABNT NBR ISO/IEC 17025 (2005)
 Métodos não normalizados.
 Métodos desenvolvidos pelos laboratórios.
 Métodos normalizados adaptados ou utilizados fora de
seu escopo.
 Para métodos normalizados a validação é dispensada.
Entretanto, o laboratório deve confirmar que tem
condições de operar adequadamente o método normalizado
antes de implementar o ensaio na rotina.
 Neste contexto, acredita-se que os métodos
normalizados tenham sido submetidos à validações prévias,
em estudos interlaboratoriais.
Slide 12
Métodos normalizados
 Aqueles desenvolvidos por um organismo de normalização ou
outras organizações cujos métodos sejam aceitos pelo setor
técnico em questão.
 Aqueles desenvolvidos pelo próprio laboratório (ou outras
partes) ou adaptado a partir de métodos normalizados e
validados.
Métodos não normalizados
7
Slide 13
De acordo Eurachem (1998) e Thompson et
al (2002)
 Novos métodos desenvolvidos para problemas
particulares.
 Métodos estabelecidos revisados para incorporar
melhorias ou estendidos a um novo problema.
 Para demonstrar a equivalência entre dois
métodos.
 Quando o controle de qualidade indicar que um
método estabelecido esteja mudando com o tempo.
 Quando um método estabelecido for utilizado em
um laboratório diferente, ou por diferentes
analistas, ou empregando diferentes equipamentos.
R
e
v
a
l
i
d
a
ç
ã
o
(
p
r
o
c
e
s
s
o

m
a
i
s

s
i
m
p
l
e
s

q
u
e

a
v
a
l
i
d
a
ç
ã
o

o
r
i
g
i
n
a
l
)
Slide 14
Confirmação de
condições
para operação
Validação
Método de ensaio
Normalizado?
Não
Sim
Testes de implantação – confirmação de que é capaz de
alcançar as características de performance
publicadas (estudos de precisão, tendência, linearidade)
8
Slide 15
Seleção de métodos Seleção de métodos Seleção de métodos
Slide 16
Seleção de métodos
 Métodos devem atender necessidades dos clientes e ser
apropriados para os ensaios em questão.
Sempre que possível e prático, o laboratório deve usar um
método de ensaio que tenha seus parâmetros de desempenho
avaliados por um estudo interlaboratorial de acordo com
protocolos internacionais.
Laboratórios que trabalham com
controles oficiais nem sempre têm a
liberdade para selecionar os
métodos, os quais geralmente são
regulamentados (estabelecidos em
legislações específicas).
9
Slide 17
Dar preferência para métodos publicados
Em normas internacionais, regionais ou nacionais.
Por organizações técnicas respeitáveis.
Em textos ou jornais científicos relevantes.
Métodos desenvolvidos pelo laboratório.
Somente devem ser utilizados se
estiverem validados.
O laboratório deve utilizar sempre a última edição
válida de uma norma (a não ser que isto não seja
apropriado ou possível).
N
o
r
m
a
l
i
z
a
d
o
s
N
ã
o

n
o
r
m
a
l
i
z
a
d
o
s
Slide 18
Como validar?
10
Slide 19
Processos de validação
 Interlaboratoriais / estudos colaborativos (avaliação do
método envolvendo mais de um laboratório) ou
intralaboratoriais / single-laboratory validation / in-house
validation (avaliação do método por um único laboratório).
Slide 20
Avaliação do método por meio de ensaios com uma mesma
amostra (ou amostras idênticas), por um mesmo método, em
diferentes laboratórios.
Vantagens
 Permitem avaliar o parâmetro de desempenho precisão
nas suas condições extremas (repetitividade e
reprodutibilidade).
Consideradas por muitos um “padrão ouro de validação” ou
“validação completa”.
Validações interlaboratoriais
11
Slide 21
Desvantagens
 Requer uma validação intralaboratorial prévia para avaliação
de outros parâmetros de desempenho como
linearidade/faixa/sensibilidade, efeitos de matriz, seletividade,
exatidão e limites.
 Dificuldades para cobrir todas as combinações
analito/matriz/concentração, devido aos custos relativos ao
preparo de material e organização.
 Dificuldades no preparo das amostras, pois o material deve
ser homogêneo e estável.
 Limitações de escolha aleatória dos colaboradores e de
garantia que estes laboratórios operem de acordo com as
mesmas prescrições.
Validações interlaboratoriais
Slide 22
Validações interlaboratoriais - Referências
AOAC - Association of Official Analytical Chemists. “Guidelines for
collaborative study procedures to validate characteristics of a method
of analysis”. J. Assoc. Off. Anal. Chem., Appendix D, p. 1-12, 2002.
HORWITZ, W. “Protocol for the design, conduct and interpretation of
method performance studies”. Pure & Appl. Chem., v. 67, p. 331-343,
1995.
 ISO - International Standards Organization. “ISO 5725-2. Accuracy
(trueness and precision) of measurement methods and results. Part 2:
Basic method for the determination of repeatability and reproducibility
of a standard measurement method”. 1994.
 ISO - International Standards Organization. “ISO 5725-4. Accuracy
(trueness and precision) of measurement methods and results. Part 4:
Basic method for the determination of the trueness of a standard
measurement method”. 1994.
12
Slide 23
Validações interlaboratoriais - Referências
Slide 24
Principais pontos críticos - Organizador
Distribuição do material
Análise estatística
dos resultados
Procedimentos
específicos, testes
de homogeneidade
e estabilidade.
Garantia da
integridade
(matriz/analito) e
manutenção de
materiais para
controle.
Tratamento de outliers e
ANOVA para estimar
repetitividade e
reprodutibilidade (processos
diretos) e teste de t
emparelhado ou correlação
(processos comparativos).
Clareza,
objetividade e
descrição do
processo.
Definição das regras
Apresentação dos
resultados
(relatórios, publicações)
Apresentação dos
resultados
(relatórios, publicações)
A
c
r
e
d
i
t
a
ç
ã
o
Preparo do material
Método, prazos, forma
de reportar os
resultados.
13
Slide 25
Principais pontos críticos - Colaborador
Realização dos ensaios
Cálculos, transferência
e envio dos resultados
Manutenção da
integridade até
realização dos
ensaios.
Atendimento às
determinações do
organizador.
Relato de desvios aos
procedimentos e
correções.
Recebimento do material
Recebimento dos
relatórios
Recebimento dos
relatórios
A
c
r
e
d
i
t
a
ç
ã
o
Slide 26
Procedimentos de validação interlaboratoriais estão
bem estabelecidos e harmonizados:
número de materiais 5, podendo ser reduzido para 3;
número de laboratórios 8, podendo ser reduzido para 5;
número de replicatas 2, podendo ser um nível dividido,
replicatas cegas, outros;
tratamento de valores extremos (outliers) pelo teste de
Cochran (unicaudal) e Grubbs (bicaudal), sendo 2,5% de
significância para AOAC e IUPAC e 5% para ISO 5725;
análise de variância para estimativa de precisão sob
condições de repetitividade e reprodutibilidade.
14
Slide 27
Validações interlaboratoriais - Exemplos
Determination of Semicarbazide in Baby Food by Liquid
Chromatography/ Tandem Mass Spectrometry: I nterlaboratory
Validation Study
Author(s): Richard Ginn
1
, | Lesley Wilson
2
, | Scheilla V.C. De Souza
3
, |
Maria B. Dela Calle
4
Collaborators: J . Barbosa; B. Berendsen; I. Bockhorn; M. Brandtner; P.
Delahaut; T. Doering; P. Fuerst; C. Griffin; T. Gude; A. J anosi; A. J aus; G.
Kennedy; M. Mandix; E. Matencio Hilla; S. Plonevez; A. Posyniak; L. Saari;
M. van Bruijnsvoort; E. Verdon; R. Wohlfarth
J ournal of AOAC INTERNATIONAL
Print ISSN: 1060-3271
Volume: 89 | Issue: 3
Cover date: May/J une 2006
Page(s): 728-734
Abstract text
An interlaboratory validation study funded by the European Commission, Directorate General for
Health and Consumer Protection (DG SANCO), was conducted to evaluate the effectiveness of a
liquid chromatography/tandemmass spectrometry (LC/MS/MS) method for the determination of
semicarbazide (SEM) in different types of baby food at a possible future European regulatory
limit (10 ng/g). The test portion of the sample was extracted with hydrochloric acid, and the
analyte was derivatized with 2-nitrobenzaldehyde, with 1,2-[
15
N2,
13
C] SEM as an internal
standard. The extract was neutralized and then purified on a solid-phase extraction cartridge.
The SEM was determined by reversed-phase LC with detection by MS/MS. Apple puree, rice
pudding, and meat/vegetable meal baby food materials, spiked with SEM at levels of about 3,
10, and 30 ng/g, respectively, were sent to 20 laboratories in 12 different European countries,
which submitted results from17 participants. Recoveries ranged from88.8 to 106.1%. Based
on results for spiked samples (blind pairs at 3 levels), the relative standard deviations for
repeatability (RSDr) ranged from4.2 to 6.9% and the relative standard deviations for
reproducibility (RSDR) ranged from16.6 to 24.3%. The method showed acceptable within- and
between-laboratory precision for all 3 matrixes, as evidenced by HorRat values, at the target
levels for the determination of SEM.
Slide 28
Avaliação do método por meio de ensaio com uma mesma
amostra (ou amostras idênticas), por um mesmo método, em um
único laboratório, sob diferentes condições, em curtos
intervalos de tempo.
Vantagens
 Permitem realizar um número considerável de experimentos
utilizando diferentes combinações de
analito/matriz/concentração.
 Fornecem resultados rápidos para caso de novos métodos.
 Permitem avaliar parâmetros como linearidade/faixa,
sensibilidade, efeitos de matriz, seletividade, exatidão,
precisão (repetitividade e reprodutibilidade parcial) e limites.
Validações intralaboratoriais
15
Slide 29
Validações intralaboratoriais
Internacionalmente aceitas em situações como:
 para garantir a viabilidade de um método antes de
realizar uma dispendiosa validação interlaboratorial;
 para fornecer evidências da confiabilidade de um método
quando validações interlaboratoriais não forem disponíveis
ou praticáveis.
Desvantagens
 Restritas em informações relativas à comparabilidade como
precisão sob condições de reprodutibilidade.
Slide 30
Validações intralaboratoriais - Referências
THOMPSON, M.; ELLISON, S.L.R.; WOOD, R. “Harmonized guidelines
for singlelaboratory validation of methods of analysis”. Pure & Appl.
Chem., v. 74, p. 835-855, 2002.
EURACHEM. “The fitness for purpose of analytical methods. A
laboratory guide to method validation and related topics”. 1998.
 INMETRO – Instituto Nacional de Metrologia, Normalização e
Qualidade Industrial. “Orientação sobre validação de métodos analíticos”.
Rev. 03. 2010.
EC - European Commission. “Commission Decision 2002/657/EC of 12
August 2002 implementing Council Directive 96/23/EC concerning
performance of analytical methods and the interpretation of results”.
Official Journal of the European Communities, 2002, L 221/8.
(Específico para resíduos em alimentos de origem animal).
16
Slide 31
Validações intralaboratoriais - Referências
Slide 32
Apesar dos esforços nacionais e internacionais para
definição e harmonização de procedimentos de
validação intralaboratoriais, a maioria dos
protocolos possui:
definição dos parâmetros de desempenho;
roteiros gerais pouco detalhados, que não aprofundam
no delineamento experimental e nas estatísticas
aplicáveis;
pontos de contradição;
equívocos conceituais.
17
Slide 33
Validações intralaboratoriais - Exemplos
Analysis of semicarbazide in baby food by liquid
chromatography tandem mass spectrometry (LC-MS-MS) – In-
house method validation
Author(s): Scheilla V. C. De Souza
1
, | Roberto G. Junqueira
1
, | Richard Ginn
2
Journal of Chromatography A
Volume: 1077
Cover date: 2005
Page(s): 151-158
Abstract text
A method for detection of semicarbazide (SEM) in baby food was validated. SEM was extracted with
hydrochloric acid and derivatised with 2-nitrobenzaldehyde, using [15N2,13C] semicarbazide as internal
standard. The extract was neutralised, purified on a solid phase extraction cartridge and SEM was
determined by reversed phase LC-MS-MS. Linearity was demonstrated in the ranges from 0.1 ng ml-1 to
1 ng ml-1 and from 2 ng ml-1 to 80 ng ml-1. Matrix effects were non significant for meat-based and
significant for apple and rice-based baby foods, in both ranges. Mean recoveries ranged from 87.8 % to
107.2 % with relative standard deviation from 0.2 % to 9.1 %, considering both ranges. Limits of detection
and quantification were 0.1 µg kg-1 and 0.25 µg kg-1, respectively. The results of the validation process
demonstrated the method suitability for use in food control.
Slide 34
Parâmetros de
desempenho
18
Slide 35
Parâmetro Experimento Análise de dados
Linearidade/Faixa
Linear/
Sensibilidade
Curva de calibração usual Regressão linear simples
Seletividade/Efeitos de
matriz
Curva de calibração usual (sem matriz) e
curva de calibração com matriz
Ensaios com amostras brancas e de
concentrações conhecidas do analito (MR
ou amostras adicionadas) na presença e
ausência de interferentes
Regressão linear simples para cada curva e teste de
t para comparação das inclinações e interseções das
duas curvas
Avaliação influência dos interferentes nos
resultados (teste de t)
Exatidão
Ensaios com amostras brancas e de
concentrações conhecidas do analito
(MRC, MR ou amostras adicionadas)
Teste de t, erro normalizado ou z-escore (MRC) ou
porcentagem de recuperação aparente (MR ou
amostras adicionadas)
Precisão
Ensaios com amostras brancas e de
concentrações conhecidas do analito (MR
ou amostras adicionadas) com repetições
em condições de repetitividade,
reprodutibilidade parcial e
reprodutibilidade
Análise de variância (ANOVA) para obtenção dos
desvios padrão de repetitividade, reprodutibilidade
parcial e reprodutibilidade
Limites
Ensaio com amostras brancas e de
concentrações conhecidas e baixas do
analito (MRC, MR ou amostras
adicionadas)
Avaliação dos resultados de exatidão e precisão em
cada nível de concentração (para limite de
quantificação). Avaliação da capacidade de
distinguir do branco (para limite de detecção)
Slide 36
 Linearidade / Faixa linear
Sensibilidade
Seletividade
Exatidão
Precisão
Limite de detecção teórico
e do método
Limite de quantificação
teórico e do método
Robustez
Estimativa da incerteza
Principais parâmetros ou características de
desempenho ou figuras de mérito
Adequação ao uso
(fitness for purpose)
Acurácia
19
Slide 37
Principais parâmetros ou características de
desempenho ou figuras de mérito
 Linearidade / Faixa linear
 Sensibilidade
 Limite de detecção teórico
 Seletividade / Efeitos de matriz
 Limite de detecção do método
 Limite de quantificação do
método
 Exatidão
 Precisão
Parâmetros relacionados
com análise quantitativa
instrumental
Parâmetros relacionados
com identificação e
determinação
Parâmetros de
avaliação dos resultados
Slide 38
Abrangência
20
Slide 39
Abrangência da validação
 A abrangência de um procedimento de validação deve ser
suficiente para atender as necessidades de uma determinada
aplicação.
 Dependente de:
 balanço entre necessidades, possibilidades, custos e prazos;
 propósito de uso do método (pesquisa, controle de qualidade, etc.);
 experiência acumulada na técnica em questão;
 tipo de método (quantitativo ou qualitativo, medição direta do
analito ou uso de curva de calibração, determinação de analitos traços
ou do principal componente).
Slide 40
O processo de
validação
21
Slide 41
Princípios básicos de validações
 Determinação do escopo da validação.
 Analito(s).
 Matriz(es).
 Faixa de concentração.
 Técnica.
 Propósito ou aplicação.
 Verificação de premissas.
 Como os estudos de validação são baseados em testes de hipóteses
estatísticas, uma verificação básica das premissas relacionadas aos
testes é fundamental para garantir que os princípios dos testes não
sejam afetados.
 Fontes de erro.
 Erros aleatórios (repetitividade – precisão).
 Erros sistemáticos (bias ou tendência - exatidão).
 Efeitos de variações de matriz.
Slide 42
Demanda do ensaio
Condições para validação de métodos
Seleção do método
Sistema de gestão
da qualidade
implementado
Inexistência de método normalizado.
Adaptação de método normalizado.
Uso de método normalizado fora
do escopo.
Desenvolvimento de novo método.
Validação
Intra ou interlaboratorial
Existe a necessidade e possibilidade de envolvimento de
mais laboratórios?
22
Slide 43
Delineamento experimental para validação
direta de métodos quantitativos
Experimento 1
(ensaios com curvas de calibração usuais)
Adequação para uso
(fitness for purpose)
Efeitos de matriz
1
Experimento 2
(ensaios com curvas de calibração usuais e em
matriz)
Seletividade
Exatidão
Precisão
Limites do método
2
Experimento 3
(ensaios com curvas de calibração,
MRC, MR e/ou amostras adicionadas )
1
Análise instrumental com curvas
de calibração.
2
Determinação de analitos traços.
Linearidade
1
Faixa linear
1
Sensibilidade
1
Limites teóricos
1
Slide 44
Avaliação de adequação ao uso (fitness for purpose)
Possibilidade de
desenvolvimento
Avaliação da
Adequação ao uso
Atendimento aos
requisitos analíticos
Possibilidade
de relaxar requisitos
Adequado ao uso
Impossibilidade
de atender à demanda*
Sim Não
* Subcontratar?
Sim
Não
Não
Sim
23
Slide 45
Validação processo dinâmico
Otimização e
Pré-validação
Desenvolvimento
Procedimento
analítico
Versão N
Validação
Registros
da validação
Procedimento
analítico
Versão N + 1
Revalidação
Aplicação do
método validado
Ferramentas de
garantia da qualidade
Registros dos
ensaios
Cartas de
controle
Testes de robustez e seletividade preliminares
Slide 46
Maioria das referências sobre validação
intralaboratorial limita-se a:
Grandes dificuldades
 Definições dos parâmetros de desempenho.
 Descrição superficial de experimentos
e ferramentas análise de dados.
 Laboratórios interessados em validar seus métodos.
24
Slide 47
Termos, definições e
procedimento proposto para
métodos quantitativos
Slide 48
Linearidade, faixa linear e
sensibilidade
25
Slide 49
Métodos de ensaio em química analítica
Uso de relações
lineares
Avaliação de
linearidade
Atividades de rotina
Validações
de métodos
Slide 50
Linearidade, faixa linear e sensibilidade
Definições: Tabelas 1 a 12
Linearidade: habilidade de um método produzir resultados
proporcionais à concentração do analito na amostra, em uma dada faixa
de concentração.
Faixa linear: faixa de concentração do analito ao longo da qual o
método fornece resultados proporcionais à concentração do analito.
Faixa de trabalho: faixa de concentração do analito na qual o método
pode ser aplicado.
Sensibilidade: parâmetro que demonstra a variação da resposta em
função da concentração do analito, expresso pela inclinação da curva
obtida por regressão linear.
Recomendações para avaliação: Tabela 13
26
Slide 51
Teoria
Estatísticas da Regressão
Slide 52
Modelo de regressão linear simples
Equação de regressão linear simples estimada
sendo:
Y = variável dependente
X = variável independente
β
0
= coeficiente linear (interseção)
β
1
= coeficiente angular (inclinação)
ε = resíduo (erro ou desvio)
x
i
= concentração conhecida
= variável dependente estimada pela equação da regressão
a = estimativa de β
0
b = estimativa de β
1
(DRAPER & SMITH, 1998)
0 1 i i i
Y X β β ε = + +
ˆ
i i
y a bx = +
ˆ y
Regressão linear simples (ou
método dos mínimos quadrados ordinários - MMQO)
27
Slide 53
Variável independente X
Regressão linear simples
b’ >b
a’ <a
ˆ
i i
y a bx = +
e
1
e
3
e
6
e
8
e
10
2 2
1 1
ˆ ( )
n n
i i
i i
e y y
= =
= ÷
_ _
Slide 54
2
(0, )
i
N ε σ ÷
2
(0, )
i
N ε σ ÷
( , ) 0
i j
Cov ε ε = ( , ) 0
i j
Cov ε ε =
2
( )
i
Var Y σ =
2
( )
i
Var Y σ =
, ) ƒ , X Y , ) ƒ , X Y
2
x
2
x
1
x
1
x
3
x
3
x
4
x
4
x
XX
YY
--
--
--
--
1
| y x
µ
1
| y x
µ
2
| y x
µ
2
| y x
µ
3
| y x
µ
3
| y x
µ
4
| y x
µ
4
| y x
µ
| 0 1 Y X
X µ β β = +
| 0 1 Y X
X µ β β = +
0 1 i i i
Y X β β ε = + +
ˆ
i i
y a bx = +
ˆ
i i
e y y = ÷
28
Slide 55
Modelo :
medidas analíticas que seguem a lei de Lambert-Beer;
correções cuidadosas para o branco.
(STRONG, 1979; LEARY & MESSICK, 1985)
Escolha do modelo
versus
ˆ
i i
y a bx = + ˆ
i i
y bx =
ˆ
i i
y bx =
Modelo é recomendado:
apesar de justificado sob um ponto de vista puramente
teórico, a omissão de um parâmetro do modelo é uma
premissa muito forte que apresenta conseqüências
práticas como aumento do .
(ELLERTON, 1980; MEYER & ZUND, 1993; DRAPER & SMITH, 1998)
2
res
s
ˆ
i i
y a bx = +
Slide 56
 Variável Y é sujeita a erros e a magnitude de erro da
variável X é considerada negligenciável. Se a incerteza
do valor de referência for considerável, regressão
linear simples não será aplicável. Alguns modelos são
sugeridos: (DRAPER & SMITH, 1998)
- método dos mínimos quadrados ortogonais;
(DANZER & CURRIE, 1998)
- método da máxima verossimilhança.
(RIPLEY & THOMPSON, 1987; RIU & RIUS, 1995)
Premissas da regressão linear simples
29
Slide 57
A relação entre e é linear.
(DRAPER & SMITH, 1998)
O resíduo de uma observação é não-correlacionado com o
resíduo em outra observação .
Os resíduos são homoscedásticos, com distribuição
constante ao longo dos valores de .
Os resíduos seguem a distribuição normal .
Premissas da regressão linear simples
 Os resíduos são variáveis aleatórias com média zero
e variância desconhecida .
i
ε
( ) 0
i
E ε =
2
( )
i
V ε σ =
2
(0, )
i
N ε σ
i
X
i
X
i
Y
cov( , ) 0
i j
ε ε =
Slide 58
Teoria
Delineamento experimental
30
Slide 59
Número de níveis
 Número de observações disponíveis deve ser maior do
que o número de parâmetros da equação de regressão.
Para ajustar a regressão linear são necessárias, no
mínimo, 3 observações.
(HOFFMANN & VIEIRA, 1987)
 Maioria das referências sugere um mínimo de 5 a 6
níveis de concentração.
 O equilíbrio dos pontos ao longo do eixo X irá
influenciar no leverage e, conseqüentemente, na detecção
de outliers.
 Importante que os pontos sejam igualmente espaçados.
(THOMPSON et al., 2002)
Slide 60
Nível zero
 O nível zero é
freqüentemente utilizado
para ajustar o zero do
instrumento de medição.
 A inclusão do zero na análise
de regressão não é
recomendada:
- pontos próximos dos
extremos da faixa de
trabalho são sujeitos a
maiores oscilações que os
pontos centrais;
- desvio de linearidade é
comum no extremo inferior
da uma equação de calibração
estimada.
(MONTGOMERY & RUNGER, 1994; DRAPER & SMITH, 1998)
(RCS/AMC Technical Brief, 2001)
Estimativa dos parâmetros,
distribuição dos resíduos e
Afeta
2
res
s
31
Slide 61
Replicatas
 Replicatas de cada nível fornecem informações
sobre a variabilidade das respostas das medidas
(erro puro) em condições de repetitividade e não
reprodutibilidade parcial.
 Replicatas devem ser “verdadeiras” não somente
repetições de leituras de uma mesma solução,
preparadas independentemente.
(DRAPER & SMITH, 1998)
Indicação de
desvios de linearidade
não existentes
Subestimam
2
res
s
Indicação de
modelos lineares
não existentes
Superestimam
2
res
s
Slide 62
Leituras
 Importante que seja feita em ordem aleatória:
(THOMPSON et al., 2002)
- evita influência de efeitos temporais (flutuações);
(RCS/AMC Technical Brief, 2000)
- depende da eficiência da programação analítica
para “limpeza” do sistema entre leituras de
diferentes pontos.
32
Slide 63
Teoria
Coeficientes de correlação
e de determinação
Slide 64
Coeficiente de correlação ou de
determinação
 Apesar do amplo uso, não é adequado
como teste de linearidade e deve ser
evitado.
(THOMPSON et al., 2002)
 R
2
não mede a adequação de um modelo,
uma vez que pode ser inflado pela adição
de termos ao modelo.
(MONTGOMERY & RUNGER, 1994; MULHOLLAND & HIBBERT ,
1997)
 Se os pontos de uma calibração
estiverem bem ajustados à curva,
certamente o valor experimental de R
2
será próximo de 1. Contudo, R
2
próximo
de 1 não é necessariamente resultado de
uma relação linear.
2
R
(RCS/AMC Technical Brief, 2000)
r
33
Slide 65
Coeficiente de correlação ou de
determinação
 A significância do
coeficiente de correlação é
dependente do número de
observações da regressão.
(BURKE, 2001A)
2
R
r
Graus de liberdade
(n-2)
Nível de confiança
95% (o=0,05) 99% (o=0,01)
2 0,950 0.990
3 0,878 0,959
4 0,811 0,917
5 0,754 0,875
6 0,707 0,834
7 0,666 0,798
8 0,632 0,765
9 0,602 0,735
10 0,576 0,708
11 0,553 0,684
12 0,532 0,661
13 0,514 0,641
14 0,497 0,623
15 0,482 0,606
20 0,423 0,537
30 0,349 0,449
40 0,304 0,393
60 0,250 0,325
Slide 66
Coeficiente de correlação ou de
determinação
 Exemplo clássico de ANSCOMBE (1973):
- 4 grupos de dados, com 11 observações cada;
- mesmos valores numéricos para: inclinação, interseção,
coeficiente de determinação, soma de quadrados do
resíduo e soma de quadrados da regressão.
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
2
R
r
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
y = 0,5x + 3
R
2
= 0,667
0
5
10
15
0 5 10 15 20
Figura 1 Figura 2 Figura 3 Figura 4
34
Slide 67
Teoria
Análise de dados
Slide 68
Inspeção visual de gráficos de resíduos
e
i
Variável
independente X
Variável
independente X
e
i
Variável
independente X
e
i
Variável
independente X
e
i
Variável
independente X
e
i
Variável
independente X
e
i
Variável
independente X
e
i
heteroscedasticidade
Desvio de linearidade
Leverage
Outlier
35
Slide 69
 Regressão linear tem o inconveniente de ser muito
sensível à presença de pontos outliers e/ou leverages.
 Valores dispersos: observações de uma amostra tão
separadas das demais que sugerem que possam
pertencer a uma população diferente ou serem
resultados de um erro de medição.
- Valores dispersos detectados entre os níveis de
confiança de 95% e 99%: Stragglers.
- Valores dispersos detectados a níveis de confiança
maiores que 99%: Outliers.
(BURKE, 2001B)
Variável
independente X
e
i
Outlier
Diagnóstico de outliers
Slide 70
Diagnóstico de outliers
(STATSOFT)
36
Slide 71
Diagnóstico de outliers
(STATSOFT)
Slide 72
 Gráfico de resíduos informativo sobre a presença
de outliers.
 Testes formais para detecção de outliers:
- distância de Cook;
- resíduo padronizado;
- resíduo “Studentizado”;
- resíduo padronizado “Jacknife”.
Resíduos maiores
Estimativa de
Inflam
2
res
s
Subestimam
Estimativa do desvio padrão
excluído o ponto suspeito
Dificuldade na
detecção de outliers
Diagnóstico de outliers
(BELSLEY et al., 1980)
Resíduos padronizado
e “Studentizado”
37
Slide 73
Normalidade
Validade de procedimentos baseados em estatísticas
paramétricas depende crucialmente do modelo de
distribuição.
Distribuição normal é necessária para utilização das
distribuições de t e F para testar hipóteses a
respeito dos valores dos parâmetros e para construir
intervalos de confiança.
(HOFFMANN & VIEIRA, 1987; DUFOUR et al., 1998)
Slide 74
Normalidade
 Se variável não segue a distribuição normal é possível
criar uma variável transformada: raiz quadrada, logaritmo,
inverso.
(BOX & COX, 1964)
 Mais de 40 tipos diferentes de testes de normalidade:
- gráficos
- testes de hipóteses
(MARDIA, 1980; D’AGOSTINO & STEPHENS, 1986; BARINGHAUS et al., 1989)
histogramas
Kolmogorov-Smirnov
Anderson-Darling
Shapiro-Wilk
Jarque-Bera
D’Agostino
Filliben
Ryan-Joiner
Combina gráfico e
teste de hipótese,
baseado em correlação,
simples, fácil de calcular e
dispensa tabelas especiais
(RYAN & JOINER, 1976)
38
Slide 75
Homoscedasticidade
 Muitos métodos de ensaio produzem dados
heteroscedásticos.
 Em caso de heteroscedasticidade, a regressão linear
simples não é recomendada.
Regressão
ponderada
e
i
Variável
independente X
Homoscedasticidade Heteroscedasticidade Heteroscedasticidade
Variável
independente X
e
i
Variável
independente X
e
i
Slide 76
Homoscedasticidade
 Testes para avaliação da homoscedasticidade:
- F
máx
(teste de Hartley)
- teste de F
- Bartlett
- Levene
- Brown & Forsythe
Sensíveis à premissa de
distribuição normal,
requerem mesmo número
de replicatas entre grupos e
não utilizam todos os pontos
Sensível à premissa de
distribuição normal e permite
diferente número de replicatas
Permite diferente número
de replicatas e perde a validade
com poucas observações
Adaptações ao Levene utilizando
estatística mais robusta
(mediana)
(BROWN & FORSYTHE, 1974)
39
Slide 77
Independência
 Em caso de autocorrelação, a regressão linear simples
não é recomendada.
 Teste de Durbin-Watson.
e
i e
i
e
i
e
i-1
e
i-1
e
i-1
Independência
Autocorrelação
negativa
Autocorrelação
positiva
Regressão
generalizada
(DURBIN & WATSON, 1951)
Slide 78
Ajuste ao modelo
 Muitos métodos de ensaio produzem dados em que o
modelo linear não é aplicável, sendo melhor ajustados a
modelos polinomiais ou outros modelos.
 Não é possível testar a linearidade o que se faz é
demonstrar que o desvio de linearidade não é
significativo, por ANOVA.
e
i
Variável
independente X
Variável
independente X
e
i
Variável
independente X
e
i
Necessidade de
replicatas em cada nível
Modelo linear Modelo não linear Modelo não linear
(DRAPER & SMITH, 1998)
40
Slide 79
Procedimento proposto
linearidade, sensibilidade e
faixa
Slide 80
Linearidade - Delineamento
experimental
 Determinação da faixa de interesse (concentração esperada
próxima do centro da faixa ou considerar o LQ do equipamento
para definir a faixa de analitos proibidos ou analitos traços).
 Preparo de curva com soluções padrão em:
 pelo menos 6 níveis de concentração;
 níveis igualmente espaçados (ou evitando pontos de
alavanca);
 pelo menos 3 replicatas independentes de cada nível;
 preparo do ponto zero como ferramenta de controle,
para avaliação do ruído e do zero do instrumento.
 Leituras e preparo em ordem aleatória.
Obs.: quando for inviável estudar todos os analitos de um
método que é aplicável a múltiplos analitos, pode ser necessário
delinear experimentos com analitos representativos dos grupos
que se pretende validar.
41
Slide 81
Continuar
Linearidade – Análise de dados
MMQO e Tratamento de outliers
Outliers
(o = 0,05)
Outliers
(resíduos
padronizados Jacknife)
Exclusão do dado
(até um máximo de
22,2% dos dados)
Dados
experimentais
MMQO
(inclinação,
interseção, resíduos,
variâncias e R
2
)
Inspeção visual dos
dados e de
gráficos (x-y e resíduos)
Sim
Não
Slide 82 Métodos robustos
Resíduos
do MMQO
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Transformação
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Continuar
Linearidade – Análise de dados
Testes de premissas MMQO –
Normalidade dos resíduos
42
Slide 83 MMQP
Homoscedasticidade
(teste Brown-Forsythe)
Variâncias
homogêneas
(o = 0,05)
Não
Sim
Transformação
dos dados
(raiz, log, inverso)
Variâncias
homogêneas
(o = 0,05)
Não
Sim
Continuar
Linearidade – Análise de dados
Testes de premissas MMQO –
Homoscedasticidade dos resíduos
Homoscedasticidade
(teste Brown-Forsythe)
Slide 84 MMQG
Independência
(teste Durbin-Watson)
Autocorrelação
(o = 0,05)
Sim
Não
Transformação
dos dados
(raiz, log, inverso)
Autocorrelação
(o = 0,05)
Sim
Não
Continuar
Linearidade – Análise de dados
Testes de premissas MMQO –
Independência dos resíduos
Independência
(teste Durbin-Watson)
43
Slide 85 Outro modelo
Dados
experimentais
Significância da
regressão
(teste de F – ANOVA)
Regressão
(o = 0,05)
Sim
Não
Ajuste ao modelo
(teste de F - ANOVA)
Desvio da
linearidade
(o = 0,05)
Sim
Linearidade – Análise de dados
Testes de premissas MMQO
Adequação ao modelo (desvio da linearidade)
LINEARIDADE
Não
Respostas
não explicadas
Slide 86
Estimativa dos parâmetros
xy
xx
S
b
S
=
a y bx = ÷
, ) , )
1 1 1 1
n n n n
xy i i i i i i
i i i i
S x x y y x y x y n
= = = =
= ÷ ÷ = ÷
_ _ _ _
, )
2
2
2
1 1 1
n n n
xx i i i
i i i
S x x x x n
= = =
| }
= ÷ = ÷
]
\ ¹
_ _ _
1
n
i
i
y
y
n
=
=
_
1
n
i
i
x
x
n
=
=
_
2
2 res
b
xx
s
s
S
=
2
2 2 1
n
i
i
a res
xx
x
s s
nS
=
=
_
Inclinação ou coeficiente angular, variância e desvio padrão
Interseção ou coeficiente linear, variância e desvio padrão
, )
, )
2
2
2
1 1 1
n n n
YY i i i
i i i
S Y Y Y Y n
= = =
= ÷ = ÷
_ _ _
, )
, )
2
2
2
1 1 1
n n n
YY i i i
i i i
S Y Y Y Y n
= = =
= ÷ = ÷
_ _ _
2
a a
s s =
2
b b
s s =
Inclinação ou coeficiente angular, variância e desvio padrão
Interseção ou coeficiente linear, variância e desvio padrão
44
Slide 87
Estimativa dos parâmetros
ˆ
i i i
e y y = ÷
, )
2
2 1
ˆ
2
n
i i
i
res
y y
s
n
=
÷
=
÷
_
, )
, )
2
2
2 1
2
1
ˆ
n
i
i XX
n
YY
i
i
y y
b S
R
S
y y
=
=
÷
= =
÷
_
_
Resíduo e variância
Coeficiente de determinação
Obs.: R
2
mede a fração da variação total em torno da média
de Y (S
YY
) que é explicada pela regressão (b
2
S
XX
).
Obs.: R
2
mede a fração da variação total em torno da média
de Y (S
YY
) que é explicada pela regressão (b
2
S
XX
).
2
0 1 R s s
2
0 1 R s s
Slide 88
Resíduo padronizado Jacknife - Outliers
Resíduo Jacknife
2
1
i
e i
i
n p
J r
n p r
÷ ÷
=
÷ ÷
i
i
i
e
e
r
s
=
1
i
e res i
s s h = ÷
, )
2
1
i
i
xx
x x
h
n S
÷
= +
p
= leverage
(hcrítico
=p*2/n)
= erro padrão do resíduo
= resíduo padronizado
= número de parâmetros
J
ei
segue distribuição de t
= o ponto suspeito é
considerado outlier
ei critico
J J >
(1 / 2)( 1) ei critico critico n p
J J t
α = ÷ ÷ ÷
÷
45
Slide 89
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner – Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n
φ
÷
¦ ¹ ÷
= =
´ `
+
¹ )
Coeficiente de correlação entre e
i
(ordenados) e q
i
(percentis da normal)
, ) , )
1 1 1 1
n n n n
eq i i i i i i
i i i i
S e e q q e q e q n
= = = =
= ÷ ÷ = ÷
_ _ _ _
, )
2
2
2
1 1 1
n n n
ee i i i
i i i
S e e e e n
= = =
| }
= ÷ = ÷
]
\ ¹
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= ÷ = ÷
]
\ ¹
_ _ _
1
n
i
i
e
e
n
=
=
_
1
n
i
i
q
q
n
=
=
_
eq
eq
ee qq
S
R
S S
=
×
2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
= não rejeição da hipótese
nula de normalidade dos
resíduos
eq critico
R R >
Interpolação polinomial para cálculo dos valores críticos
i
p
Slide 90
Teste de Brown-Forsythe – Homoscedasticidade
Estatística t
L
L critico
t t s
= não rejeição da
hipótese nula de
homoscedasticidade
1 2
2
1 2
1 1
L
p
d d
t
s
n n
÷
=
| }
+
]
\ ¹
| |
k k kj k
d e e n = ÷
_

k
n
k
e
, )
, )
1 2 2
1 2
2
p
SQD SQD
s
n n
+
=
+ ÷
= número de observações de cada grupo
= mediana de cada grupo
= variância combinada
= soma dos quadrados dos
desvios das diferenças
1 2
(1 / 2)( 2) L critico n n
t t
α ÷ + ÷
÷
tL segue distribuição de t
2
1
( )
k
n
k kj k
j
SQD d d
=
= ÷
_
kj
d
46
Slide 91
Teste de Durbin-Watson – Independência
Estatística d
2
1
2
2
1
( )
n
i i
i
n
i
i
e e
d
e
÷
=
=
÷
=
_
_
Interpolação polinomial
2
( )
critico
b c d
d a
n n n
α ~ + + +
d
L
d
U
o 0,050 0,025 0,010 0,050 0,025 0,010
a 1,96930 1,98448 1,99344 1,98323 1,94801 1,97836
b -2,86066 -3,68748 -4,59292 -3,05473 -3,16468 -4,29742
c -3,41482 -2,61362 -1,32284 1,38625 -0,64722 1,08124
d 16,64003 20,63934 20,22882 16,36623 31,57725 29,68625
= rejeição da hipótese
nula de não
autocorrelação
L
d d < = não rejeição da
hipótese nula de não
autocorrelação
4
L
d d > ÷
L U
d d d < <
= resultado
inconclusivo
4
U U
d d d < < ÷
4 4
U L
d d d ÷ < < ÷
Slide 92
XX
YY
 
i
Y
i
Y
 
i i i
Y Y e ÷ =
i i i
Y Y e ÷ =
YY
 
i
Y Y ÷
i
Y Y ÷
   
( ) ( ) ( )
i i i i
Y Y Y Y Y Y ÷ = ÷ + ÷
 
( ) ( ) ( )
i i i i
Y Y Y Y Y Y ÷ = ÷ + ÷
Quadrados Quadrados
Somas de Somas de
(SQ) (SQ)
, ) , ) , )
2 2
2
1 1 1
ˆ ˆ
n n n
i i i i
i i i
Y Y Y Y Y Y
= = =
÷ = ÷ + ÷
_ _ _
, ) , ) , )
2 2
2
1 1 1
ˆ ˆ
n n n
i i i i
i i i
Y Y Y Y Y Y
= = =
÷ = ÷ + ÷
_ _ _
SQ Regressão SQ Regressão
SQ Resíduo SQ Resíduo
SQ Total SQ Total
ˆ
Y a bX = +
ˆ
Y a bX = +
i
Y
i
Y
i
X
i
X
--
i
Y Y ÷
i
Y Y ÷
Variação dos valores de Y em torno de sua média Variação dos valores de Y em torno de sua média
ANOVA – Adequação ao modelo linear
47
Slide 93
SQTotal (considerando os níveis) SQTotal (considerando os níveis)
SQTotal = SQRegressão + SQResíduo SQTotal = SQRegressão + SQResíduo
Partições da Soma de Quadrados Total Partições da Soma de Quadrados Total
SQTotal (considerando a regressão) SQTotal (considerando a regressão)
SQTotal = SQEntre níveis + SQDentro dos níveis (Erro Puro) SQTotal = SQEntre níveis + SQDentro dos níveis (Erro Puro)
SQResíduo = SQDesvio da linearidade + SQErro puro SQResíduo = SQDesvio da linearidade + SQErro puro
Slide 94
QM
Resíduo
n-2 GL
QM da
Regressão
1 GL
SQ devida à
Regressão
2-1 GL
SQ em torno da
Regressão ou
Resíduo
n-2 GL
ANOVA da regressão ANOVA da regressão
Estima
(variabilidade
explicada pela
regressão)
2
Reg
σ
Estima
(variabilidade
não explicada)
2
res
σ
SQ Total
n-1 GL
COMPARAÇÃO
Testa a
significância
da regressão
Fornece
Fornece
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
n: número de pontos
48
Slide 95
SQ Resíduo
n-2 GL
QM Erro
Puro
n-u GL
QM Desvio da
linearidade
u-2 GL
SQ Desvio da
linearidade
u-2 GL
(diferença)
SQ Erro
Puro
n-u GL
(replicatas)
ANOVA do desvio da linearidade ANOVA do desvio da linearidade
Estima σ
2
(modelo correto)
Estima
σ
2
+tendência
(modelo incorreto)
Estima σ
2
Fornece
Fornece
(“Falta de Ajuste”) (“Falta de Ajuste”)
Testa o desvio
da linearidade
COMPARAÇÃO
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
u: número de níveis
n: número de pontos
Slide 96
ANOVA – Regressão e Desvio da linearidade
F
FV
GL SQ
QM
Entre níveis u - 1
Total
2
1
( )
n
i YY
i
y y S
=
÷ =
_
n - 1
Resíduo
Regressão QMRegr/QMres 2 2 2
1
( )
n
i XX
i
b x x b S
=
÷ =
_
SQRegr/GLRegr
SQres/GLres
1
n - 2
(res)
(Regr)
FV: fonte de variação
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
u: número de níveis
n: número de pontos
Desvio da
linearidade
QMDesvio/QMErroPuro
u - 2
(Desvio)
SQ Desvio/GL Desvio
Erro Puro
n - u
SQErroPuro/GLErroPuro
(1 ; 2; ) critico u n u
F
α ÷ ÷ ÷
critico
F F s
= não rejeição da
hipótese nula de
modelo linear simples
correto
(1 ;1; 2) critico n
F
α ÷ ÷
critico
F F >
= rejeição da hipótese
nula de regressão não
significativa
2 2
2
k k
k 1 k 1 1 k 1 1 k
k 1
1 1
( )
u u nk u nk
kj kj u
j j
k
n y y y y
n
n
= = = = =
=
| } | }
÷ = ÷
] ]
\ ¹ \ ¹
_ _ _ __
_
Re Total gr
SQ SQ ÷
res ErroPuro
SQ SQ ÷
Total EntreNiveis
SQ SQ ÷
49
Slide 97
Efeitos de matriz
Seletividade
Slide 98
Seletividade
Recomendações para avaliação: Tabelas 14 e 15
Definições: Tabelas 1 a 12
Seletividade: habilidade de um método em determinar o analito
acuradamente, na presença de interferentes (ou outros componentes
de comportamento similar).
50
Slide 99
Seletividade versus Especificidade
Slide 100
Efeitos de matriz
Afeta
significativamente
Inclinação ou interseção da curva
de calibração
Efeito de matriz
A avaliação de outros
parâmetros de validação
51
Slide 101
Variável independente X
ˆ
i i
y a bx = +
Efeito sobre a inclinação
b´ > b
b´´ < b
ˆ
i i
y a b x ' ' = +
ˆ
i i
y a b x '' '' = +
Indica presença de interferente(s)
relacionado(s) com a quantidade de matriz e
com a concentração do analito.
Slide 102
Variável independente X
ˆ
i i
y a bx = +
a´ > a
a´´ < a
ˆ
i i
y a bx ' ' = +
ˆ
i i
y a bx '' '' = +
Efeito sobre a interseção
A matriz continha o analito (não era branca)? Ou seria
efeito de interferente(s) relacionado(s) somente com a
quantidade de matriz? Ou os dois ?
52
Slide 103
Variável independente X
ˆ
i i
y a bx = +
a´ > a e b´ > b
a´´ < a e b´´ < b
ˆ
i i
y a b x ' ' ' = +
ˆ
i i
y a b x '' '' '' = +
Efeito sobre a inclinação e a interseção
Slide 104
Teoria
Delineamento experimental
53
Slide 105
Efeitos de matriz
 O experimento deve simular situações em que o analito esteja na presença de
interferentes da matriz. Por exemplo: duas curvas, sendo uma curva de
calibração usual (como feito no experimento para avaliar linearidade) e outra
curva do analito em matriz (método de adição aplicado a uma solução teste
derivada de amostra típica).
 Os interferentes da matriz estudados devem representar a realidade em
termos de espécies e quantidade.Por isso, este experimento deve ser feito
para todas as matrizes do escopo (ou matrizes representativas) e a adição do
analito deve ser feita de forma a evitar diluição dos interferentes e,
consequentemente, a não identificação de efeitos de matriz existentes.
 As concentrações do analito devem ser idênticas nas duas curvas. Para evitar
que as perdas de analito devidas ao processo analítico sejam erroneamente
interpretadas como efeito de matriz, a adição do analito deve ser feita,
sempre que possível, na solução final derivada das amostras.
 O preparo e leitura das curvas deve ser feito em uma única bateria analítica.
Para evitar que a variabilidade devida a diferentes ensaios seja erroneamente
interpretada como efeito de matriz. Quando não for possível conduzir o
experimento de efeito de matriz em uma única bateria analítica, os pares de
pontos das duas curvas devem ser analisados de forma emparelhada.
Obs.: quando for inviável estudar todas as matrizes de um método que é
aplicável a múltiplas matrizes, pode ser necessário delinear experimentos com
matrizes representativas dos grupos que se pretende validar.
Slide 106
Teoria
Análise de dados
54
Slide 107
R
e
q
u
e
r
e
m
d
i
s
t
r
i
b
u
i
ç
ã
o

n
o
r
m
a
l
Efeitos de matriz
 Teste de t emparelhado é indicado para faixas estreitas de
concentração ou nos casos em que o erro analítico devido à
concentração for negligível. Isto porque em faixas amplas o
erro pode ser dependente da concentração do analito.
 Teste de t para comparação das médias das respostas para
cada nível de concentração estudado.
 Teste de t para comparação das inclinações e interseções,
todos os níveis de concentração estudados são considerados.
Teste de F para verificar homogeneidade
das variâncias das duas curvas (uso da variância
combinada ou das variâncias
distintas no cálculos)
Um único teste para toda a faixa.
O que é uma faixa estreita?
Um único teste para toda a faixa.
Aplicável somente quando for
demonstrado que as calibrações são lineares.
Para modelos não lineares,
uma comparação visual dos gráficos é indicada
Vários testes para cobrir
a faixa
(SNEDECOR & COCHRAN, 1989; ARMITAGE & BERRY, 1994)
Slide 108
Procedimento proposto
efeitos de matriz
55
Slide 109
Preparo de 2 curvas, na mesma bateria analítica, sendo:
-uma curva de calibração usual e outra curva do
analito em matriz;
-pelo menos 6 níveis de concentração;
-níveis igualmente espaçados (ou evitando pontos de
alavanca);
-pelo menos três replicatas independentes de cada
nível (adaptações possíveis em função da capacidade
analítica);
-preparo do nível zero como ferramenta de controle,
para avaliação do ruído e do zero do instrumento;
-leituras e preparo em ordem aleatória.
Efeitos de matriz - Delineamento experimental
Slide 110
Dados experimentais
(curva usual)
Confirmação
das premissas
(o = 0,05)
Efeitos de matriz – Análise de dados
Dados experimentais
(curva em matriz)
Avaliação da
linearidade*
Avaliação da
linearidade*
Não
Continuar
Estatísticas mais
complexas ou comparação
visual dos gráficos
Sim
* Verificação das premissas do MMQO para
cada curva separadamente.
56
Slide 111
Homoscedasticidade
das variâncias dos
resíduos das curvas
(teste de F)
Variâncias
homogêneas
(o = 0,05)
Sim
Não
Efeitos de matriz – Análise de dados
Diferenças
significativas
(o = 0,05)
Sim Não
HÁ EFEITOS
DE MATRIZ
NÃO HÁ EFEITOS
DE MATRIZ
Comparações entre
inclinações e interseções
(teste de t variâncias combinadas)
Comparações entre
inclinações e interseções
(teste de t variâncias distintas)
Uso de curvas com
matriz ou do método de
adição nas etapas
seguintes da validação e
na rotina
Uso de curvas usuais nas
etapas seguintes da
validação e na rotina
Slide 112
Teste de t – Efeitos de matriz
Teste de F - Homoscedasticidade
2
2
res
res
s
F
s
>
<
=
min
(1 / 2; 2; 2)
numerador deno ador
critico n n
F
α ÷ ÷ ÷
1 2
2 2
1 2
b
p p
b b
t
s s
Sxx Sxx
÷
=
+
1 2
2 2 2 2
1 2
1 1 2 2
a
p p
a a
t
s x s x
n Sxx n Sxx
÷
=
+
_ _
2 2
2 1 1 2 2
1 2
( 2) ( 2)
4
res res
p
n s n s
s
n n
÷ + ÷
=
+ ÷
1 2
2 2
1 2
1 2
b
res res
b b
t
s s
Sxx Sxx
÷
'
=
+
1 2
2 2 2 2
1 1 2 2
1 1 2 2
a
res res
a a
t
s x s x
n Sxx n Sxx
÷
'
=
+
_ _
(1 / 2; )
t
α ν ÷
critico
F F s
= não rejeição da
hipótese nula de
homoscedasticidade
Teste de t -
Comparação de a e b
(homoscedasticidade)
Teste de t -
Comparação de a e b
(heteroscedasticidade)
(1 / 2; )
t
α ν ÷ (1 / 2; )
t
α ν ÷ (1 / 2; )
t
α ν ÷
= não rejeição da hipótese
nula de que inclinações e
interseções não diferem
, ) , )
2
2 2
1 2
1 2
2 2
2 2
1 1 2 2
1 2
2 2
res res
res res
s s
n n
s n s n
n n
ν
| }
+
]
\ ¹
=
+
÷ ÷
(1 / 2; ) critico
t
α ν ÷
'
ab critico
t t s
= não rejeição da hipótese
nula de que inclinações e
interseções não diferem
1 2
(1 / 2; 4) critico n n
t
α ÷ + ÷
ab critico
t t s
M
a
i
o
r

v
a
r
i
â
n
c
i
a


n
o
n
u
m
e
r
a
d
o
r
= não rejeição da hipótese
nula de que inclinações e
interseções não diferem
1 2
(1 / 2; 4) critico n n
t
α ÷ + ÷
ab critico
t t s
= não rejeição da hipótese
nula de que inclinações e
interseções não diferem
1 2
(1 / 2; 4) critico n n
t
α ÷ + ÷
ab critico
t t s
= não rejeição da hipótese
nula de que inclinações e
interseções não diferem
1 2
(1 / 2; 4) critico n n
t
α ÷ + ÷
57
Slide 113
Teoria
Delineamento experimental
e Análise de dados
Slide 114
Seletividade (experimentos complementares)
 O experimento deve simular
situações em que o analito
esteja na presença de
potenciais interferentes.
Depende da disponibilidade do
interferente, de amostras
com e sem analito (amostras
brancas).
 A análise dos resultados é
embasada no efeito dos
interferentes sobre as
respostas obtidas para
amostras brancas e para
amostras com analito.
Depende de conhecimento
sobre o LD do método. Por
exemplo:
Depende de conhecimento sobre
os possíveis interferentes
Tipo de amostra
Resultado esperado
Quantitativo
Resultado esperado
Qualitativo
Amostra sem analito Não detectado Não detectado
Amostra sem analito
+ Interferente
Não detectado Não detectado
Amostra com analito
Detectado em
concentração próxima
à estabelecida para o
material
Detectado
Amostra com analito
+ interferente
Detectado em
concentração próxima
à estabelecida para o
material
Detectado
2 2
2 1 1 2 2
1 2
( 1) ( 1)
2
c
n s n s
s
n n
÷ + ÷
=
+ ÷
, )
1 2
2 2
1 2
c c
X X
t
s s
n n
÷
=
+
critico
t t s
= não rejeição da hipótese
nula de que as respostas
ou concentrações não
diferem
1 2
(1 / 2; 2) critico n n
t
α ÷ + ÷
58
Slide 115
Exatidão e precisão
Slide 116
Exatidão e precisão
Avaliação: Tabelas 16 e 17
Definições: Tabelas 1 a 12
Exatidão: proximidade de concordância entre o valor médio obtido de
um conjunto de resultados com o valor de referência aceito. A medida
de exatidão é geralmente expressa em termos de tendências.
Precisão: proximidade de concordância entre resultados
independentes obtidos sob condições estipuladas. Depende somente da
distribuição de erros aleatórios e não está relacionada ao valor
especificado. Usualmente expressa em termos de imprecisão como
desvio padrão ou desvio padrão relativo.
Acurácia: proximidade de concordância entre o resultado e o valor
verdadeiro. Geralmente envolve erros sistemáticos e aleatórios, sendo
normalmente estudada como dois componentes: exatidão e precisão.
59
Slide 117
Incerteza
Incerteza: parâmetro, associado ao resultado de uma MEDIÇÃO, f
medição, que caracteriza a dispersão dos valores que podem ser
fundamentadamente atribuídos a um mensurando.
Slide 118
Exatidão, precisão e acurácia
Melhorando a precisão
M
e
l
h
o
r
a
n
d
o

a

e
x
a
t
i
d
ã
o
60
Slide 119
Precisão
Sob condições de
Reprodutibilidade
Precisão
Reprodutibilidade
parcial
Repetitividade
Precisão intra-ensaio
Precisão inter-ensaio
Precisão intermediária
Reprodutibilidade intralaboratorial
Reprodutibilidade interlaboratorial
Reprodutibilidade total
Slide 120
Limite de detecção e
limite de quantificação do
método
Limite de detecção e
limite de quantificação do
método
61
Slide 121
Limites
Avaliação: Tabelas 18 e 19
O experimentos que envolvem curva de calibração ou
aqueles com amostras brancas fornecem limites
teóricos, que podem não representar os limites reais
do método para amostras verdadeiras.
Definições: Tabelas 1 a 12
Limite de detecção: menor concentração do analito que pode ser
detectada (distinguida do zero), mas não necessariamente
quantificada.
Limite de quantificação: menor concentração do analito que pode ser
determinada com um nível aceitável de precisão e exatidão.
Slide 122
Teoria
Delineamento experimental
e Análise de dados
62
Slide 123
Exatidão – Delineamento experimental
 O experimento depende do conhecimento sobre um valor de referência da
concentração do analito no material analisado. Diferentes tipos de materiais
podem ser utilizados, mas a qualidade destes materiais segue a seguinte
hierarquia:
- material de referência certificado (MRC), caracterizado por um produtor de
material de referência, com incerteza conhecida. Neste caso, é importante
que a incerteza do material seja suficientemente pequena para garantir a
detecção de tendências;
- material de referência (MR), caracterizado por um produtor de material de
referência, sem reportagem da incerteza, ou materiais caracterizados por um
fabricante ou pelo próprio laboratório, ou materiais distribuídos em ensaios
de proficiência;
- amostras adicionadas ou formulações.
Obs.: devido aos elevados custos e à pouca disponibilidade de MRC, a avaliação
da exatidão é usualmente conduzida por experimentos que combinam
diferentes tipos de materiais.
Único material
que garante uma avaliação
adequada da exatidão
Não garantem uma avaliação
da exatidão, mas fornecem
informações sobre inexatidão
Slide 124
R
e
q
u
e
r
e
m

d
i
s
t
r
i
b
u
i
ç
ã
o

n
o
r
m
a
l
Exatidão – Análise de dados
 Para MRC:
- teste de t, quando os valores de incerteza certificados forem pequenos;
- erro normalizado, considerando a incerteza do resultado obtido pelo
laboratório e a incerteza associada ao valor verdadeiro do certificado;
- índice z-escore, sem considerar a incerteza do resultado obtido pelo
laboratório, mas considerando o desvio padrão de reprodutibilidade.
Obs.: estas estatísticas podem ser obtidas após tratamento de outliers, pelo
teste de Grubbs, nas concentrações obtidas para replicatas independentes do
MRC, conforme recomendações do ISO Guide 33.
 Para MR ou amostras adicionadas ou formulações:
- média de porcentagem de recuperação aparente, após tratamento de
outliers, pelo teste de Grubbs.
Enquanto boas recuperações
não são garantia de exatidão,
pobres recuperações são indicativas
de falta de exatidão
Exatidão é dependente da concentração do analito.
63
Slide 125
Slide 126
Precisão – Delineamento experimental
 O experimento depende de repetições, independentemente do valor de
referência da concentração do analito no material analisado.
 O material deve representar aqueles ensaiados na rotina do laboratório. O
uso de MRC nestes experimentos pode subestimar a variabilidade dos
resultados.
 As repetições devem ser analisadas sob diferentes condições, dependendo da
capacidade operacional do laboratório:
Sob condições de
Reprodutibilidade
Precisão
Reprodutibilidade
parcial
(Precisão intermediária)
Repetitividade
Requer experimentos
interlaboratoriais
Deve representar a maior
variabilidade no
laboratório
Deve representar menor
variabilidade no
laboratório
64
Slide 127
Precisão – análise de dados
 Estimativa dos desvios padrão relativos nas diferentes condições por ANOVA,
conforme estabelecido na série ISO 5725.
 Premissas para ANOVA:
- os resíduos são variáveis aleatórias, normalmente distribuídas ;
- os resíduos são homoscedásticos, com distribuição constante ao longo dos
valores de Xi;
- o resíduo de uma observação não é correlacionado com o resíduo em outra
observação, com ;
- os efeitos dos diferentes fatores são aditivos.
 Precisão é dependente da concentração do analito.
Testes de Ryan-Joiner
e Brown-Forsythe
2
(0, )
i
N ε σ
cov( , ) 0
i j
ε ε =
Testes de Ryan-Joiner
e Brown-Forsythe
Teste de Tukey
Controle experimental
Slide 128
Limites de detecção e de quantificação do método –
Delineamento experimental e análise de dados
 O experimento depende de ensaios com amostras brancas ou de concentração
baixa do analito, em pelo menos 6 replicatas independentes.
 Para limite de detecção:
 Teórico = correspondem a média mais três desvios padrão das respostas
obtidas para as amostras brancas ou três desvios padrão das respostas
obtidas para amostras de concentração baixa do analito ou três vezes o
maior sinal obtido para amostras brancas.
Obs.: sem supressão de valores negativos.
 Do método = a análise dos resultados é embasada na comparação dos
sinais (ou concentrações) obtidos para amostras de concentrações
conhecidas, dos experimentos de exatidão e precisão, com os limites
teóricos.
 Para limite de quantificação:
 Teórico = correspondem a média mais dez desvios padrão das respostas
obtidas para as amostras brancas ou dez vezes o maior sinal obtido para
amostras brancas.
Obs.: sem supressão de valores negativos.
 Do método = a análise dos resultados é embasada na avaliação da exatidão
e da precisão para amostras de concentrações conhecidas.
65
Slide 129
Procedimento proposto
seletividade, exatidão,
precisão e limites do método
Slide 130
Seletividade, exatidão, precisão e limites do método
Delineamento experimental
 Condições de repetitividade e reprodutibilidade parcial
 Preparo de amostras adicionadas de padrão do(s) analito(s)
ou MR, sendo:
pelo menos 3 níveis de concentração (na faixa de
interesse ou na faixa em que linearidade foi
demonstrada para métodos que utilizam curva), mais o
branco ou amostra não adicionada;
pelo menos 6 replicatas independentes de cada nível;
replicatas analisadas independentemente em condições
de repetitividade (mínimo triplicata) e reprodutibilidade
parcial (dependendo da realidade operacional do
laboratório);
leitura em ordem aleatória (junto com a curva de
calibração para métodos que utilizam curva).
66
Slide 131
Condições de repetitividade e reprodutibilidade parcial
Exemplo 12 replicatas por nível
Analistas 1 e 2
equipamento 1
(seis replicatas de cada nível)
Período de
tempo 1
(três replicatas de cada nível)
Analistas 1 e 2
equipamento 2
(seis replicatas de cada nível)
Período de
tempo 2
(três replicatas de cada nível)
Período de
tempo 3
(três replicatas de cada nível)
Período de
tempo 4
(três replicatas de cada nível)
Amostras adicionadas ou MR
(5 níveis mais o branco,
em doze replicatas)
Slide 132
 Ensaios complementares para avaliação da seletividade
 Quando houver conhecimento prévio sobre potenciais interferentes,
preparar amostras brancas e adicionadas de padrão do analito ou
materiais de referência, com e sem padrão do interferente (no
mínimo triplicata).
 Não há necessidade de testes complementares no caso de métodos
multianalitos.
 Ensaios complementares para avaliação da exatidão
 Quando houver disponibilidade, analisar MRC do escopo e faixa de
concentração do método em validação. Se possível, em pelo menos 11
replicatas independentes.
 Sempre que possível, usar outras referências externas.
Seletividade, exatidão, precisão e limites do método
Delineamento experimental
67
Slide 133
Continuar
Outliers
(o = 0,05)
Outliers
(teste de Grubbs)
Exclusão do dado
(até um máximo de
22,2% dos dados)
Dados
experimentais
Estimativas de
C
iMRC
Inspeção visual dos
dados
Sim
Não
Exatidão – Análise de dados para MRC
Slide 134 Métodos robustos
Resíduos
das concentrações
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Transformação
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Exatidão – Análise de dados para MRC
Testes de premissa para z – Normalidade
Continuar
68
Slide 135
z
Exatidão – Análise de dados para MRC
Comparação com
valores críticos
Não
Não há exatidão
Sim
EXATIDÃO
* Requisitos:
-
2 z s
Atendimento aos
requisitos analíticos*
Slide 136
Continuar
Outliers
(o = 0,05)
Outliers
(teste de Grubbs)
Exclusão do dado
(até um máximo de
22,2% dos dados)
Dados
experimentais
Inspeção visual dos
dados
Sim
Não
Seletividade, exatidão, precisão e limites –
Análise de dados para MR ou amostras adicionadas
(por nível de concentração estudado)
Estimativas de
C
iB
ou C
iNA
,C
iA
e R
i
69
Slide 137
R
i
e registros de
detecção/quantificação
Seletividade – Análise de dados
Análise qualitativa dos
resultados e registros
Não
Não há seletividade
Sim
SELETIVIDADE
= recuperação aparente
i
R
Atendimento aos
requisitos analíticos*
Tipo de amostra Resultado esperado
Amostra sem analito Não detectado (sinal/ruído < 3)
Amostra sem analito +
Interferente
Não detectado (sinal/ruído < 3)
Amostra com analito
Detectado (sinal/ruído > 3)
para níveis maiores ou iguais ao
LD e com recuperação
aceitável para níveis maiores
ou iguais ao LQ
Amostra com analito +
interferente
Detectado (sinal/ruído > 3)
para níveis maiores ou iguais ao
LD e com recuperação
aceitável para níveis maiores
ou iguais ao LQ
* Requisitos:
Slide 138
Exatidão – Análise de dados
Comparação com
valores críticos
Não
O método é inexato
Sim
O MÉTODO
NÃO É INEXATO
* Requisitos:
- Exemplo de critérios de aceitabilidade para de amostras
adicionadas (EC, 2002):
R
R
Atendimento aos
requisitos analíticos*
Fração de massa
Faixa de R aceitável
(%)
c s 1,0 x 10
-9
50 a 120
1,0 x 10
–9
< c < 1,0 x 10
-8
70 a 110
c > 1,0 x 10
-8
80 a 110
R = média de recuperação aparente, c = concentração do analito adicionado à matriz
expressa como fração de massa (por exemplo 10
-9
para 1 µg/kg ou 1 µg/L).
70
Slide 139 Métodos robustos
Resíduos
das recuperações
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Transformação
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuição
normal
(o = 0,05)
Não
Sim
Precisão – Análise de dados
Testes de premissas para ANOVA -
Normalidade
Continuar
Slide 140
Métodos ponderados
Homoscedasticidade
(teste Brown-Forsythe)
Variâncias
homogêneas
(o = 0,05)
Não
Sim
Transformação
dos dados
(raiz, log, inverso)
Variâncias
homogêneas
(o = 0,05)
Não
Sim
Precisão – Análise de dados
Testes de premissas para ANOVA-
Homoscedasticidade
Homoscedasticidade
(teste Brown-Forsythe)
Estimativa de
DPR
r
e DPR
R
(ANOVA)
71
Slide 141
e
Precisão – Análise de dados
Comparação com
valores críticos
Não
Não há precisão
Sim
PRECISÃO
* Requisitos:
-Exemplo de critérios de aceitabilidade para DP
R
(EC, 2002) .
- Para DPR
r
são aceitos valores de até 2/3 os desvios aceitos para
DPR
R
.
r
DPR
R
DPR
Atendimento aos
requisitos analíticos*
Concentrações de analito
DPR máximo aceitável
(%)
<120ppb 0, 22
T
c
mr
σ =
>120ppb e s13,8%
0,8495
0, 02
H
c
mr
σ =
>13,8% 0,5
0, 01
T
c
mr
σ =
DPR= desvio padrão sob condições de reprodutibilidade parcial, c = concentração teórica adicionada do
analito expressa como fração de massa (por exemplo 10
-9
para 1 µg/kg ou 1 ppb), mr = fração de massa
(por exemplo 10
-9
para µg/kg ou ppb),
T
σ = desvio padrão de reprodutibilidade estimado pela equação de
THOMPSON (2000),
H
σ = desvio padrão de reprodutibilidade estimado pela equação de HORWITZ (1982).
Slide 142
Atendimento aos
requisitos analíticos*
, e
Limite de quantificação do método –
Análise de dados
Comparação com
valores críticos
Não
DETECÇÃO?
Sim
QUANTIFICAÇÃO
* Requisitos:
-Definidos para exatidão e precisão
Sendo
= média de recuperação aparente
DPR
r
= desvio padrão relativo sob condições de repetitividade
DPR
R
= desvio padrão relativo sob condições de reprodutibilidade
r
DPR
R
DPR
R
R
72
Slide 143
e
Limite de detecção do método –
Análise de dados pelas leituras
Comparação com
valores críticos
Não
NÃO DETECÇÃO
Sim
DETECÇÃO
*Requisitos:
- ou
- Sendo
Yi
A
= sinais medidos para o analito nas amostras adicionadas ou MR
= média dos ruídos medidos para o analito nas amostras brancas
ou brancos de solventes
sy
B
= desvio padrão dos ruídos medidos para o analito nas amostras
brancas ou brancos de solventes
iA
y
iB
y
3
iA B yB
y y s > +
Atendimento aos
requisitos analíticos*
3
iA B
y y >
B
y
Slide 144
e
Limite de detecção do método –
Análise de dados pelas concentrações
Comparação com
valores críticos
Não
NÃO DETECÇÃO
Sim
DETECÇÃO
*Requisitos:
Sendo
Ci
A
= concentração calculada para o analito nas amostras adicionadas
ou MR
= concentração média calculada para o analito nas amostras
brancas
s
B
= desvio padrão das concentrações calculadas para o analito nas
amostras brancas
iA
C
iB
C
3
iA B B
C C s > +
Atendimento aos
requisitos analíticos*
B
C
73
Slide 145
Estimativas das concentrações
i
iA iNA iB iMRC
y a
C C C C
b
÷
= = = =
Curva de calibração obtida
para cada conjunto de
amostras analisadas em
condições de
repetitividade
Para métodos que não utilizam curva de calibração, as
concentrações das amostras adicionadas ou MR (C
iA
),
amostras brancas (C
iB
) ou amostras não adicionadas (C
iNA
) e
MRC (C
iMRC
) são obtidas diretamente.
Para métodos que utilizam curva de calibração, estas
concentrações são estimadas por:
Slide 146
Teste de Grubbs
G1
L
Dois valores extremos
polares.
Um valor extremo.
Dois valores extremos
vicinais.
Valores críticos tabelados para 95%
Um valor extremo.
G1
U
G2
G3
U
G3
L
(BURKE, 2001B)
n
1
G 2
G
3
G
3 1,153 2,00 -
4 1,463 2,43 0,9992
5 1,672 2,75 0,9817
6 1,822 3,01 0,9436
7 1,938 3,22 0,8980
8 2,032 3,40 0,8522
9 2,110 3,55 0,8091
10 2,176 3,68 0,7695
12 2,285 3,91 0,7004
13 2,331 4,00 0,6705
15 2,409 4,17 0,6182
74
Slide 147
1
1
MRC
L
C C
G
s
÷
=
1
MRC n
U
C C
G
s
÷
=
1
2
n
C C
G
s
÷
=
, )
, )
2
2
3 2
3
1
1
n
U
n s
G
n s
÷
| } ÷
= ÷
]
]
÷
\ ¹
, )
, )
2
2
3 2
3
1
1
n
L
n s
G
n s
÷
| } ÷
= ÷
]
]
÷
\ ¹
= dado suspeito é
outlier
critico
G G >
Teste de Grubbs para resultados de MRC – Outliers
1
n
iMRC
i
MRC
C
C
n
=
=
_
2
( )
1
iMRC MRC
C C
s
n
÷
=
÷
_
2
2
2
( )
2 1
iMRC MRC
n
C C
s
n
÷
÷
=
÷ ÷
_
2
2
( )
1
iMRC MRC
C C
s
n
÷
=
÷
_
n: número de replicatas independentes do MRC
C1: menor concentração
Cn: : maior concentração
= média das concentrações
= desvio padrão das concentrações
= variância das concentrações, excluindo dois valores
extremos (inferiores ou superiores)
= variância das concentrações
Slide 148
Estimativa dos resíduos das concentrações para
verificação da premissa para z – Normalidade*
i iMRC MRC
e C C
'
= ÷
Resíduos das recuperações
aparentes
iMRC
C
MRC
C
= i-ésima concentração
= média das concentrações, após tratamento de
outliers
75
Slide 149
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner – Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n
φ
÷
¦ ¹ ÷
= =
´ `
+
¹ )
Coeficiente de correlação entre e
i

(ordenados) e q
i
(percentis da normal)
, )
, )
1 1 1 1
n n n n
e q i i i i i i
i i i i
S e e q q e q e q n
'
= = = =
' ' '
' = ÷ ÷ = ÷
_ _ _ _
, )
2
2
2
1 1 1
n n n
e e i i i
i i i
S e e e e n
' '
= = =
| }
' '
' ' = ÷ = ÷
]
\ ¹
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= ÷ = ÷
]
\ ¹
_ _ _
1
n
i
i
e
e
n
=
'
' =
_
1
n
i
i
q
q
n
=
=
_
e q
e q
e e qq
S
R
S S
'
'
' '
=
×
2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
Interpolação polinomial para cálculo dos valores críticos
= não rejeição da
hipótese nula de
normalidade dos resíduos
e q crit
R R
'
>
i
p
Slide 150
Índice z-escore
( )
MRC iC
L
C C
z
σ
÷
=
2 2
( )
laboratorio certificado
MRC iC
C C
En
U U
÷
=
+
2 z s
1 En s
σ
L
= desvio padrão de reprodutibilidade, podendo ser substituído pelo desvio padrão
interlaboratorial certificado para o material ou pelo desvio padrão obtido sob condições de
precisão intermediária
C
iC
= concentração certificada para o analito
= média das concentrações obtidas para replicatas independentes do MRC, após tratamento de
outliers
Estimativas de z-escore ou erro normalizado
para MRC
MRC
C
Erro normalizado
76
Slide 151
Estimativas das recuperações aparentes para
MR ou amostras adicionadas
Recuperação aparente
, ) 100
iA NA
i
iTeorica
C C
R
C
÷ ×
=
Quando for utilizado
MR ou a adição for
feita em amostras
brancas, considerar
C
iNA
igual a zero.
Slide 152
1
1L
R R
G
s
÷
=
1
n
U
R R
G
s
÷
=
1
2
n
R R
G
s
÷
=
, )
, )
2
2
3 2
3
1
1
n
U
n s
G
n s
÷
| } ÷
= ÷
]
]
÷
\ ¹
, )
, )
2
2
3 2
3
1
1
n
L
n s
G
n s
÷
| } ÷
= ÷
]
]
÷
\ ¹
= dado suspeito é
outlier
critico
G G >
Teste de Grubbs para resultados de recuperação–
Outliers
1
n
i
i
R
R
n
=
=
_
2
( )
1
i
R R
s
n
÷
=
÷
_
2
2
2
( )
2 1
i
n
R R
s
n
÷
÷
=
÷ ÷
_
2
2
( )
1
i
R R
s
n
÷
=
÷
_
n: número de observações do nível
R1: menor porcentagem de recuperação aparente
Rn: : maior porcentagem de recuperação aparente
= média das recuperações aparentes
= desvio padrão das recuperações aparentes
= variância das recuperações aparentes, excluindo dois
valores extremos (inferiores ou superiores)
= variância das recuperações aparentes
77
Slide 153
Estimativas das médias de recuperações
aparentes
Média de recuperação aparente
após tratamento de outliers
1
n
i
i
R
R
n
=
=
_
Slide 154
100
r
s
DPR
R
×
=
2
( )
1
i
R R
s
n
÷
=
÷
_
Estimativa de desvio padrão relativo se o
experimento for conduzido somente sob
condições de repetitividade
Desvio padrão relativo após
tratamento de outliers
78
Slide 155
Estimativa dos resíduos das recuperações
aparentes para verificação de premissas para
ANOVA – Normalidade e Homoscedasticidade
i kj k
e R R
'
= ÷
Resíduos das recuperações
aparentes
kj
R
k
R
= j-ésima recuperação aparente do k-ésimo ensaio, no
nível de concentração estudado
= média das recuperações aparentes de cada ensaio, no
nível de concentração estudado
Slide 156
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner – Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n
φ
÷
¦ ¹ ÷
= =
´ `
+
¹ )
Coeficiente de correlação entre e
i
'
(ordenados) e q
i
(percentis da normal)
, )
, )
1 1 1 1
n n n n
e q i i i i i i
i i i i
S e e q q e q e q n
'
= = = =
' ' '
' = ÷ ÷ = ÷
_ _ _ _
, )
2
2
2
1 1 1
n n n
e e i i i
i i i
S e e e e n
' '
= = =
| }
' '
' ' = ÷ = ÷
]
\ ¹
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= ÷ = ÷
]
\ ¹
_ _ _
1
n
i
i
e
e
n
=
'
' =
_
1
n
i
i
q
q
n
=
=
_
e q
e q
e e qq
S
R
S S
'
'
' '
=
×
2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
Interpolação polinomial para cálculo dos valores críticos
= não rejeição da
hipótese nula de
normalidade dos resíduos
e q crit
R R
'
>
i
p
79
Slide 157
Teste de Brown-Forsythe – Homoscedasticidade
Estatística F
L
L critico
F F s
= não rejeição da
hipótese nula de
homoscedasticidade
| |
kj k kj
d e e
' ' '
= ÷ 
k
e
= mediana de cada ensaio
(1 / 2; 1; ) L critico u n u
F F
α ÷ ÷ ÷
÷
FL segue distribuição de F
pois são mais de 2 grupos, ou
seja, tantos grupos quantos os
ensaios do experimentos de
reprodutibilidade parcial
QM FV
GL
SQ
Entre ensaios
Total
2
1
( )
n
i
i
d d
=
'
' ÷
_
n - 1
Dentro dos ensaios n - u
SQDEnsaio/GLDEnsaio
SQEEnsaio/GLEEnsaio
u – 1
2 2
k 1 1 k 1 1 k
k 1
1 1
u nk u nk
kj kj u
j j
k
d d
n
n
= = = =
=
| } | }
' '
÷
] ]
\ ¹ \ ¹
_ _ __
_
FL
Q
M
E
E
n
s
a
i
o
/
Q
M
D
E
n
s
a
i
o
FV: fonte de variação
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
u: número de ensaios ou tratamentos
nk: número de replicatas em cada ensaio
n: número total de replicatas
Total EntreEnsaios
SQ SQ ÷
Slide 158
QMRepetitividade
QMEnsaio
SQ Ensaio
u - 1 GL
SQ
Repetitividade
n - u GL
Estima
(variabilidade de
ensaio)
Estima
(variabilidade de
repetitividade)
2
Ensaio
σ
SQ Total
n - 1 GL
2
r
σ
Fornece
Fornece
FV: fonte de variação
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
u: número de ensaios ou tratamentos
n: número total de replicatas
ANOVA – Estimativa dos desvios padrão relativos
(DPR) se o experimento for conduzido sob
condições de repetitividade (r) e
reprodutibilidade parcial (R)
80
Slide 159
ANOVA – Estimativa dos DPR
r
e DPR
R
QM
FV
GL SQ
Ensaio
Total
2
1
( )
n
i
i
R R
=
÷
_ n - 1
Repetitividade n - u SQRepetitividade/GLRepetitividade
SQEnsaio/GLEnsaio u – 1
FV: fonte de variação
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados médios
u: número de ensaios ou tratamentos
n: número total de replicatas
2 2
2
k k
k 1 k 1 1 k 1 1 k
k 1
1 1
( )
u u nk u nk
kj kj u
j j
k
n R R R R
n
n
= = = = =
=
| } | }
÷ = ÷
] ]
\ ¹ \ ¹
_ _ _ __
_
Total Ensaio
SQ SQ ÷
Slide 160
Variância Expressão
Repetitividade s
2
r
QM
Repetitividade
Entre ensaios s
2
EntreEnsaio
(QM
Ensaio
– QM
Repetitividade
) / n*
Reprodutibilidade parcial s
2
R
s
2
r
+ s
2
EntreEnsaio
2
100
r
r
s
DPR
R
= ×
2
100
R
R
s
DPR
R
= ×
Estimativa da incerteza
(top-down)
QM: quadrados médios
n*: média das replicatas estudadas nos
diferentes ensaios
ANOVA – Estimativa dos DPR
r
e DPR
R