Professional Documents
Culture Documents
2010
DIRECCIÓN ISP
EDICIÓN GENERAL
COMUNICACIONES Y RR. PP. ISP
DISEÑO Y DIAGRAMACIÓN
CLAUDIO MATEOS S.
PRESENTACIÓN
Este libro es una especie de caja de herramientas, una tool box según el sentido del
humor anglosajón. La selección de métodos escogidos por el autor lo muestra, no
sólo como un estadístico sino además, como un hombre que ha trabajado muchos
años en laboratorios de microbiología y de pruebas de potencia de inmunobiológicos.
Esta combinación de disciplinas, explicadas, deliberadamente, sin usar elegantes ni
ininteligibles formalismos matemáticos, hace que este libro sea comprendido por el
lector, ayudado por los programas computacionales que acompañan a la mayoría de
los temas.
El capítulo 2 puede ser un deleite para los que trabajan en ensayos biológicos de
potencia de vacunas, sueros antivenenos de reptiles y arácnidos, puesto que los
programas comentados por el autor permiten entender a los lectores las intrincadas
penumbras de los Probits y Logits. El último capítulo se refiere a técnicas de empleo
menos frecuente, pero no menos importantes, como es el caso de los estimadores
robustos y de los ensayos de antibióticos y de mutagenicidad.
Por alguna misteriosa razón, el autor colocó el Trimmed S-K en un apéndice en vez
de ponerlo en el capítulo 2, y no quiso agregar temas como “Slope Ratio” o usos
de métodos Bayesianos, talvez porque ello habría exigido un excesivo número de
páginas.
En resumen, este libro fue escrito para todos los profesionales que trabajan con
alguno de los métodos descritos en él, no sólo en el ISP sino en todos los institutos
similares de Latinoamérica.
PRÓLOGO
En fin, este libro puede ser útil para organismos como: el Instituto de Salud Pública
de Chile, los laboratorios del Servicio Agrícola y Ganadero; SEREMIS, los laborato-
rios de los Servicios de Salud; plantas productoras de vacunas de uso veterinario,
laboratorios destinados al control de potencia de vacunas de uso humano, y otros
análogos, tanto públicos como privados, chilenos y extranjeros, incluyendo aquellos
que, perteneciendo a diferentes firmas de la Industria Farmacéutica, están destina-
dos al control interno de calidad.
vii
ÍNDICE DE CONTENIDOS
Presentación v
Prólogo vii
Capítulo 1
1 La Distribución de Poisson 1
Capítulo 2
2.1.4 Probits 49
Capítulo 3
ix
Apéndice 1
Referencias 109
EJEMPLO
EJEMPLO3: 3:
Con los mismos datos, ¿Cuál es la probabilidad de detectar por lo menos tres
Con los mismos datos, ¿cuál es la probabilidad de detectar por lo menos tres ampo-
ampollas
llas contaminadas?
contaminadas?
& e '0.01*20 (0.01 * 20) 0 e '0.01*20 (.01 * 20)1 e '0.01*20 (0.01 * 20) 2 #
P( X ( 3) = 1 ' $ + + ! = 0.00115
% 0! 1! 2! "
Del
Delejemplo
ejemplo1 se concluye
1 se que que
concluye con una
con muestra de tan de
una muestra sólotan
20 sólo
unidades, hay un hay un
20 unidades,
81.87 % de probabilidades de NO detectar una contaminación que está presente,
81.87 % de probabilidades de NO detectar una contaminación que está presente, lo lo
que es un grave riesgo para la salud si esta situación afecta a un producto farma-
céutico.
Si bien las últimas ediciones de la Farmacopea de Estados Unidos -que son oficiales 5
en Chile-, indican el uso de una muestra de 20 unidades (ampollas, frascos, etc.)
para las pruebas de esterilidad que el Control Nacional pueda efectuar en muestras
de productos farmacéuticos, eso no es obligatorio para las Unidades de Control de
Calidad de las empresas productoras. De hecho, éstas debieran calcular un tamaño
de muestra que combine una probabilidad alta de detección con costo bajo de la
prueba de control, como forma de protegerse contra un eventual rechazo del pro-
ducto por parte de Control Nacional.
EJEMPLO 4:
Sabemos ya, que la probabilidad de detectar por lo menos una ampolla contaminada
es:
1 − e − p*n
Si “ecuacionamos” la expresión anterior a (P) que es el nivel de confianza de detec-
ción, tendremos:
1 − e − p*n = P
De donde:
e − n* p = 1 − P
Tomando logaritmos naturales (ln) a ambos miembros, obtenemos:
− n * p = ln(1 − p)
! n* p
e 1!!−PP1
ln(11=
nnn***ppp===!!−ln(
ln( P))) ! P
ln(11""..80
""ln( 80))
nn == ! ln( !!1161
161 P)
ampollas
!ampollas
n =00..0101
p
EJEMPLO 5:
EJEMPLO
Que es la5: expresión
¿Qué tamaño de muestra
requerida. deberemos
Con valores tomar(ps
numéricos
¿Qué tamaño de muestra deberemos tomar si queremos una probabilidad de 50%
probabilidad
obtenemos:de 50% de detección?
de detección?
""ln(11""0.80
ln( .5))
n n= = 70, ampollas
! 161
! ampollas
00.01
.01
FIGURA 1 :
3841MetodosEstadisticos correguido.indd 4 22/4/10 10:44:47
Si multiplicamos cada una de estas probabilidades por un tamaño muestral
cualquiera como, por ejemplo : 1000, tendremos: 370 casillas con cero partículas,
15 casillas con 4 partículas, etc.
σ2 =µ
La imagen del centro corresponde a lo que en la práctica microbiológica no ocurre
jamás; que la distribución de bacterias o virus sea absolutamente homogénea por
unidad de volumen.
σ2 >µ
La demostración de igualdad entre media y varianza de la distribución de Poisson
se puede obtener haciendo uso de la llamada, Función Generatriz de Momentos
(fgm).
! e # de
Si escribimos la distribución x Poisson:
x! #
∞
∑ λ
x =0
"
Que#representa la sumaede lasλ probabilidades
x! x
resultantes para X, desde cero
!x =0
e # x
x ! x =0
hasta infinito para un cierto valor de �. Esta suma es igual a 1.
Que representa la
Que representa lasuma
sumadedelaslas probabilidades
probabilidades resultantes
resultantes parapara X, desde
X, desde cero cero
hasta
# sumatx es"! xa 1. # t x
hasta infinito para un cierto valor
infinito para un cierto valor de tx de �. Esta igual
λ. Esta suma es igual a 1. e e ! "! (e ! ) t
Mx(t ) = E (e ) = $ =e $ = e e ! "!
#
e tx e "x!=!0 x x"!! # (e t ! ) x x =0 e ! "x!! t
Mx(t ) = E (e tx ) = $ =e $ =e
x =0 x! x =0 x!
Donde la función generatríz (fgm) es:
Donde la función generatriz (fgm) es:
Donde la función generatríz (fgm) es:
e t " ! "t e λ −λ " λ( (eett !
−11) )
e (e =
!1e
et " !"
e "= e ) t
e =e
Obteniendo
Obteniendo la primeraladerivada
primerade
derivada de la fgm, tenemos:
la fgm, tenemos:
Obteniendo la primera derivada de la fgm, tenemos:
d ( fgm) t " (e t
!1)
d ( fgm) t =" ( e"
t e e
!1)
= "e e
dt
dt
Donde, evaluando en t=0, resulta E(x), es decir el valor esperado, o en otr
Donde, evaluando en t=0,
palabras, resulta E(x), es decir el valor esperado, o en otras pala-
la media:
bras, la media:
0
!.e 0 .eλ! (.ee 0"1.e) λ=( e0E−1() X=)E=( !X ) = λ 8 8
Derivando
Derivando por segunda por
vez segunda vez la fgm, tenemos:
la fgm, tenemos:
0 λ ( e 0 −01) λ ( e 0 −01)
λ!.e.eλ!.e.eee
0
0 0 ! ( e "1) ++ee ! ( e "1)λ!.e.e0 0==EE( (xx2 2) )==λ!2 2++λ!
V ( X ) = E ( X 2 ) ! E 2 ( X6 )
V (X ) = λ2 + λ. − λ2 = λ V ( X ) = E( X 2 ) − E 2 ( X )
Con lo cual se demuestra por qué la distribución de Poisson tiene su media igual a
su varianza.
EJEMPLO 6:
EJEMPLO 7:
V ( NX ) = N 2V ( X )
¿Por qué? Veamos lo que ocurre si usamos
¿Por qué?. la expresión
Veamos lo quede la varianza
ocurre descritalamás
si usamos expresión de la va
arriba, en la que incluiremos ahora la constante N.
más arriba, en la que incluiremos ahora la constante N.
V ( NX ) = E7 ( N 2 X 2 ) ! E ( NX ) * E ( NX )
V ( NX ) = 2E ( N 22X 2 ) ! E ( NX ) * E ( NX )
N E ( X ) ! NE ( X ) * NE ( X )
N 2 E (Que
X 2 )se!puede
NE ( Xescribir:
) * NE ( X )
Que se puede escribir: 2 2
E( X
N escribir:
Que se puede ) ! N 2E2 (X )
N 2 E( X 2 ) − N 2 E 2 ( X )
N 2 EExpresión
( X 2 ) !deNla2 E
cual,
2 por factoración, resulta:
(X )
Expresión de la cual, por factoración, resulta:
2 2
[ 2
N E( X ) ! E ( X ) ]
Expresión de la cual, por factoración, resulta:
(Como
N 2 elE término
Como ya sabemos, [
X 2 ) !yapodemos
Esabemos,
lo tantoentre
lo tanto podemos escribir:
2
(paréntesis
X ) escribir: ]
el término entre paréntesis corresponde a la varian
corresponde a la varianza de X, por
Quedemostrar.
Qué es lo que deseábamos es lo que2 deseábamos demostrar.
V ( NX ) = N V ( X )
En estadística, la desviación estándar de una muestra se suele escribir con la letra S
en tanto que, Que
la desviación estándar
es lo que de la Media
deseábamos se denota con:
demostrar.
S
Sx =
n
Expresión muy conocida por los que estiman un intervalo de confianza-de la media
aritmética, por ejemplo-. Ella, además de ser llamada Desviación Estándar de la Me-
dia, recibe el nombre de Error Estándar, aunque, con mordacidad, algunos estadísti-
cos dicen que tal nombre es inadecuado porque “ …no es ni error ni estándar…”.
EJEMPLO 8: Medio A: 87 , 80 , 77 , 90 , 85
Tenemos 5 recuentos de colonias bacterianas por cada medio de cultivo. La idea tras
Medio B: 80 , 70 , 68 , 70 , 65
la prueba es decidir cuál de los medios es más sensible (mayor número de colonias)
dado que la suspensión bacteriana es la misma.
¿Existe alguna evidencia basada en estos pocos valores de que e
más sensible?
Medio A: 87, 80, 77, 90, 85
83.8 ! 70.6
Z= = 2.3754
83.8 70.6
+
5 5
Veremos
Veremosenen la Figura22 loloque
la Figura quesignifica
significa el número
el número 2.3754
2.3754 obtenido
obtenido con la fórmula
con la fórmula
dedeDetre
Detreyy White.
White.
FIGURA 2 FIGURA 2
C UR VA NOR MAL
CURVA NORMAL
.22
FRACCION
.
0
-2.3754 0 2.3754
z
La figura Nº 2 ha sido hecha en el paquete estadístico Stata 6.0, con los siguientes
comandos:
.generate z = invnorm(uniform( ))
Con esto, se generaron 500 números aleatorios normales (seudoaleatorios por pro-
ceder de un algoritmo computacional), distribuidos en 10 barras de un histograma
con la curva normal superpuesta (Rabe - Hesketh y Everitt, 2000).
Pueden observarse en esa misma figura, cuatro líneas verticales; las dos internas
corresponden a las condiciones del problema, es decir: -1.96 y 1.96, entre las cua-
les el área bajo la curva normal es 0.95 (95%), dejando una cola a cada lado de
10
la región central con tamaño 0.025 (ambas, sumadas dan el 0.05 impuesto por las
condiciones del problema). Todo valor Z mayor que el que hemos adoptado en este
caso: 1.96 o menor que –1.96 permite no aceptar la hipótesis H0 y aceptar, por lo
tanto, la hipótesis alternativa H1: ambas medias son diferentes entre ellas. Ese es
precisamente el caso actual en que hemos obtenido el valor Z = 2.3754. Conside-
rando que la media del grupo A es más alta, podemos decidir que tenemos evidencia
muestral suficiente para continuar usando el Medio de Cultivo A por su aparente
mayor sensibilidad diagnóstica.
La determinación del tamaño del área de la curva normal entre: -Z y +Z, se puede
hacer empleando tablas estadísticas o bien usando un programa computacional. El
siguiente programa está escrito en lenguaje BASIC para calculadora CASIO FX - 880
P, que es fácilmente traducible a Quick Basic, Visual Basic; C++, etc.
PROGRAMA 1
11
EJEMPLO 9:
Placa 1 = 120 colonias
¿Puede tenerse algún indicio de que crecieron más colonias en la placa 1 y que eso
no ocurrió por azar?
Por lo que sabemos, a partir del ejemplo 8 concluimos que, para fines prácticos, las
dos placas pueden considerarse iguales.
El Índice de Dispersión (D) se obtiene a partir del siguiente teorema, también atri-
buido a Fisher.
( n − 1) S 2
≈ χ n2−1
σ 2
12
! XX − i
∑ i
i
i
2
n
n
∑X
i
!X i
i = 87 + 80 + 77 + 90 + 85 = 419
!X
i
i
2
= 87 2 + 80 2 + 77 2 + 90 2 + 85 2 = 35223
5 * 35223
! 419 = 1.322
419 13
5 * 35223
− 419 = 1.322
419
Este resultado debe cotejarse con los valores de Ji cuadrado de la siguiente tabla,
con grados de libertad iguales al número de recuentos –1, y con α = 0.05 según
el uso recomendado por la Organización Mundial de la Salud en varios manuales
sobre Rabia o vacuna contra tuberculosis (BCG). La tabla 1 está diseñada sólo para
hasta 10 recuentos; si fuese necesario, deberá consultarse una tabla estándar de
Ji cuadrado.
TABLA 1
Número de Recuentos(n) 2 3 4 5 6 7 8 9 10
Grados de Libertad (n-1) 1 2 3 4 5 6 7 8 9
Ji cuadrado 3.84 5.99 7.81 9.49 11.07 12.59 14.07 15.51 16.92
EJEMPLO 11:
14
*n'
P( X = x) = (( %% p x q n " x
) x&
* n ' x n" x
! P* ( X != 'x) = (( %% p xq n " x
si, p = , q = (1 " %, ) x &
n ) n&
! * ! ' n" x
si, pn=" x ,+q1)= !(1x "
n(n " 1)(n " 2)....( * %!, '
n ) x (1n"& %
x! n ) n& x
n(n " 1)(n " 2)....(n " x + 1) !n * ! '" x
xx nn""cambiando
xx x! por n
n(n " 1)(n " 2)...(n " x + 1) ! x * ! ' xx*(1 "! '%
K= x! (1 " %n (1) " n%&
nx x! ) n & ) n & nn ""xx
cambian
cambian
n(n " 1)(n " 2)...(n " x + 1) ! * ! ' * ! '
xx
lim n$# K K= (1 " % (1 " %
n xx x! ) n & ) n &
! x
= e "! lim nn$$## K
x!
""!! !
xx
=e
* ! x'!
n
x
cambiandoNota:
x! por n n $ # (1 " % = e " !
Lim
) n& nn
n * !'
Nota: λ Nota: Nota:− λLim nn$ 1" = e ""!!
# ( para%estimar el tamaño de la muestra en prueba
n →∞
LimLo 1 −
demostrado = e
tiene $#
importancia n&
n dado que, en )ese caso,
de esterilidad también puede usarse la distribució
binomial.
Lo
Lo demostrado
Lo demostrado tiene importanciademostrado tiene
tiene
para estimar importancia
importancia
el tamaño para
para estimar
estimar
de la muestra el
el tamaño
en pruebastamaño de
de la
la mue
mue
de esterilidad dado que,
EJEMPLO de
de esterilidad
esterilidad dado
dado que,
que, en
en ese
ese caso,
caso, también
también
12:en ese caso, también puede usarse la distribución bino- puede
puede usarse
usarse
mial. binomial.
binomial.
Con los datos del ejemplo 4, la binomial se usa de la siguiente manera:
EJEMPLO 12: EJEMPLO
EJEMPLO 12:
12:
Con los datos
Log10 (4,1Con
! Plos
Con ) datos
los datos del
del ejemplo
ejemplo 4,
4, la
la binomial
binomial se usa de la siguiente man
manera: se usa de la siguiente man
n del
= ejemplo la binomial se usa de la siguiente
Log10 (1 ! p )
Log1010
(1 ! P )
n=
Log10 (1 " .8) Log10 (1 ! p )
n= ! 16110, ampollas
Log10 (1 " .01)
Log1010
(1 " .8)
n= ! 161, ampollas
Tal como se vio en elLog
ejemplo
(1 "4..01)
10
10
EJEMPLO 1.2.-
13: Estimaciones
1.2.- Estimaciones de de Concentración
Concentración de de Microorganismos:
Microorganismos:
El
El número
número 15más
más probable
probable (NMP).
(NMP).
Se disponen 12 tubos de cultivo con un medio líquido en una gradilla. Los
primeros son sembrados, cada uno, con 10 ml de la muestra. Los 4 siguientes s
siembran con 1EJEMPLO
EJEMPLO 13:
13: cada uno, y los 4 últimos son sembrados con 0.
ml de muestra
3841MetodosEstadisticos correguido.indd 15
ml. Después de Se disponen
Seladisponen 12
12 tubos
incubación, tubos
por de
de cultivo
ejemplo, a 35con
cultivo con un
un medio
grados medio líquido
líquido
22/4/10
Celsius elen una
entiemp
10:44:55
por una
Métodos estadísticos en microbiología y ensayos biológicos
Se disponen 12 tubos de cultivo con un medio líquido en una gradilla. Los 4 pri-
meros son sembrados, cada uno, con 10 ml de la muestra. Los 4 siguientes se
siembran con 1 ml de muestra cada uno, y los 4 últimos son sembrados con 0.1 ml.
Después de la incubación, por ejemplo, a 35 grados Celsius por el tiempo indica-
do porpresencia de opacidad
Normaspresencia
oficiales, los que
detubos indica
son
opacidad quemultiplicación
examinados bacteriana
indicavisualmente (tubosdepositivos).
por presencia
multiplicación bacteriana En
(tubos positivos
este ejemplo,
opacidad que indica los resultados
multiplicación
este ejemplo, fueron los siguientes:
bacteriana (tubos
los resultados fueronpositivos). En este ejemplo, los
los siguientes:
resultados fueron los siguientes:
Inóculo(ml) Tubos Positivos
Inóculo(ml) Tubos PositivosTubos Sembrados
Tubos Sembrados
10
Inóculo(ml) Tubos
10 + + + + Tubos
+ + + + Positivos 4 4 Sembrados
1 10 1 + + + + + ++ + + + 4 4 4
0.1 1 0.1 + + +++ 4 4 4
0.1 + 4
¿Cuál es¿Cuál
la concentración de microorganismos
es la concentración por ml en
de microorganismos la ml
por muestra original?original?
en la muestra
¿Cuál es la concentración de microorganismos por ml en la muestra original?
La respuesta puede obtenerse
La respuesta mediante
puede obtenerse la siguiente expresión : (Hurley y Roscoe,
nmediante la siguiente expresión : (Hurley y Ros
1983) (Best, n
1990). α i pi
∑ = ∑ α i ni
1983) (Best, 1990).
αi X
n
#ni pi i#=1i 1p−i e n i =1
n
!
La respuesta
i =1 1
!
puede #
=!
obtenerse
iX
#
= i!
mediante
"i =e1 1 " e i =1 i =1
# i X
nlai siguiente
# i ni expresión: (Hurley y Roscoe,
1983) (Best, 1990).
Ahora,Ahora, desarrollando
desarrollando el algoritmo,
Ahora,eldesarrollando
algoritmo, tenemos: tenemos:
el algoritmo, tenemos:
40 40 3 3 0.1 0.1
+
!10 X !10 X + !1 X
+ + = 44.4
.1 X ! 0.1 X = 44.4
1 ! e 1 ! e 1 ! e 1 ! e !11X! e !10! e
Donde el quid del
Donde problema
el quid consisteconsiste
del problema en darleenvalores por tanteo
darle valores poratanteo
X hasta
a Xque el q
hasta
miembromiembro
de la izquierda sea igual a 44.4. Intentar encontrar el valor de X por
de la izquierda sea igual a 44.4. Intentar encontrar el valor de X
álgebra,álgebra,
es empresa sin destino.
es empresa sin destino.
16
Supongamos que empezamos
Supongamos con X = con
que empezamos 0.5, XMiembro Izquierdo
= 0.5, Miembro = 49.95 =¡muy
Izquierdo 49.95alto!
¡muy a
Con X =Con
1.2, XMiembro
3841MetodosEstadisticos correguido.indd 16 Izquierdo
= 1.2, Miembro = 45.18,=todavía
Izquierdo alto.
45.18, todavía alto. 22/4/10 10:44:56
Luis Rodríguez Aguayo
Donde el quid del problema consiste en darle valores por tanteo a X hasta que el
miembro de la izquierda sea igual a 44.4. Intentar encontrar el valor de X por álge-
bra, es empresa sin destino.
Supongamos que empezamos con X = 0.5, Miembro Izquierdo = 49.95 ¡muy alto!
Por lo tanto, X = 1.62 es el Número Más Probable (NMP) de bacterias /ml de mues-
tra.
Todo esto es tan laborioso que, evidentemente se requiere una herramienta compu-
tacional para alcanzar la estimación buscada.
Cuando se desea comparar dos NMP’s entre ellos, es indispensable calcular los inter-
valos de confianza, aunque las comparaciones no siempre sean correctas superpo-
niendo intervalos. Los algoritmos para este cálculo han sido modificados varias veces
a lo largo de la historia desde 1915. En 1990 se publicó un trabajo (Best, 1990), que
parece definitivo respecto de este tema, y que permite declarar “improbables” algu-
nos resultados. El algoritmo de Best puede aplicarse mediante el siguiente programa
en BASIC para calculadora CASIO FX - 880P.
PROGRAMA 2
17
6100 NEXT I
6110 L=ABS(T1 / T2): PRINT “Lambda inicial”;L
6120 GOSUB 8115
6130 L=L-A1/B1
7111 JK=L
7112 FOR J=L TO 1000
7115 S=0
7120 FOR I=1 TO K
7130 B=(X(I, 2)-X(I, 3))*X(I, 1)*EXP(-L*X(I, 1)): C=(1-EXP(-L*X(I, 1)))
7135 D=X(I, 3)*X(I, 1)
7140 A=B/C-D
7150 S=S+A
7160 NEXT I
7170 PRINT “ “;S;
7180 IF ABS(S) <=2E-9 THEN 7400 ELSE 7240
7240 GOSUB 8115
7250 L=ABS(L+A1/B1)
7300 NEXT J
7400 CLS:PRINT “ Número Más Probable=”;L
7410 JI=0
7415 FOR I=1 TO K
7420 EI=X(I, 2)*EXP(-L*X(I, 1))
7422 IF EI=0 THEN EI= 1.2E-37
7425 JI=JI+(X(I, 3)-EI)^2*(1/EI+(X(I, 2)-EI^-1)
7430 NEXT I
7440 GOSUB 8200
7450 PRINT “JI Cuadrado=”;JI; “ con gl=”;K-1,”P0=”;1-P0
7460 GOSUB 8115
7470 CG=LOG(L):DG=1.96/(SQR(B1)*L)
7480 LS=EXP(CG+DG):LI=EXP(CG-DG)
7500 PRINT “Límite Superior de Confianza del NMP=”;LS
7510 PRINT “Límite Inferior de Confianza del NMP=”;LI
8000 END
8115 A1=0: B1=0
8120 FOR I=1 TO K
8125 A1=A1+((X(I,2)-X(I, 3))*X(I, 1))/ (1-EXP(-L*X(I, 1)))-X(I, 2)*X(I, 1)
8130 B1=B1+((X(I, 2)-X(I, 3))*X(I, 1)^2*EXP(-L*X(I, 1)))
/ (1-EXP(-L*X(I, 1)))^2
8135 NEXT I
8150 RETURN
8200 K1=K-1:H=JI
8320 W1=H/2: K1=K1/2
8330 WK=K1+1
8340 GOSUB 8470
8350 G2=0
18
8360 AK=EXP(K1*LOG(W1)-G1-W1)
8370 IF AK=0 THEN 8460
8380 T=1:G2=1: K0=K1
8400 K0=K0+1
8410 T=T*W1 / K0
8420 G2=G2+T
8430 IF (T / G2)>1E-6 THEN 8400
8440 P0=G2*AK
8460 RETURN
8470 G1=0
8480 WK=WK-1
8490 IF WK<=0 THEN 8520
8500 G1=G1*LOG(WK)
8510 GOTO 8480
8520 IF WK=0 THEN 8540
8530 G1=G1+0.5723649429
8540 RETURN
(Nota: LOG es Log base 10)
Con los datos del ejemplo 13, este programa entrega los siguientes resultados:
Con gl = 2, P0 = 0.8249048425
EJEMPLO 14:
Con los mismos volúmenes de inóculo usados en el ejemplo 13, pero empleando
grupos de número diferente de tubos, se obtuvieron los siguientes resultados:
Con estos datos, las tablas de NMP resultan inútiles. Calcule el NMP con el programa
2.
Ji cuadrado = 0.5108049756
19
Con gl = 2
P0 = 0.7746046667
EJEMPLO 15:
Casi todo igual al ejemplo 14, excepto que en la última dosis hay 5 (+) de 9 sem-
brados.
El método fue desarrollado por Farmiloe (Jarvis, B., 1989), y es considerado como el
procedimiento estándar, tanto en bacteriología como en virología.
20
El método fue desarrollado por Farmiloe (Jarvis, B., 1989), y es considerado como
el procedimiento estándar, tanto en bacteriología como en virología.
Luis Rodríguez Aguayo
EJEMPLO
EJEMPLO16: 16: Figura 3: Colonias bacterianas.
Calcularla la concentración Fotografía.
bacteriana
Calcular concentración bacteriana (m) y(m)
susylímites
sus límites de confianza
de confianza 95% con95%
los con los
datos de la tabla 2.Instituto de Salud Pública de Chile
datos de la tabla 2.
1047
EJEMPLO
m = 16: = 241x10 4 = 2.41x10 6 UFC / vol. de Inóculo
In!culo
Calcular la 4
concentración
.345 bacteriana (m) y sus límites de confianza 95% con los
datos de la tabla 2.
L.Superior (95%) = 241 + 1.96 2 / 2 + 1.96 x 241 + 1.96 2 / 4 = 273
1047 6 2
m = L.Inferior
= 241 %)4 == 241
(95x10 1.96
2.41+x10 UFC/ 2 !/ 1vol
.96. de 241 + 1.96 2 / 4 = 212
x In!culo
4.345
Inóculo
Es decir : 2.12 x10 6 y 2.732x10 6 UFC / vol. de In!culo
L.Superior (95%) = 241 + 1.96 / 2 + 1.96 x 241 + 1.96 2 / 4 = 273
Nótese
Nóteseque
quese se
ha ha
multiplicado todotodo
multiplicado
2 por 10
porelevado a 4, con
10 elevado signo
a 4, conpositivo porque porque
signo positivo
L.Inferior
ya
yanono
(95 %)de
hablamos 241 + 1sino
= dilución
hablamos
.96de
de dilución
/concentración
2sino
! 1.96 241 + 1.96Así2 microbiana.
x microbiana.
de concentración
/mismo,
4 = 212
adviértase
Así mismo,
que el título (m)
adviértase que y6elsutítulo
intervalo
(m) de confianza
y6 su están
intervalo expresados
confianza por
de In!culo el volumen
están de por el
expresados
Es decir
inóculo : 2que,
.12enx10la y 2.73es
práctica x10 UFC
pequeño / vol
(0.1 ml .óde
0.2 ml por placa), de modo que
volumen de inóculo que, en la práctica es pequeño (0.1 ml ó 0.2 ml por placa), de
para expresarlo en colonias por ml, basta con una sencilla operación aritmética.Nó-
modo que para expresarlo en colonias por ml, basta con una sencilla operación
teseque
Nótese quese losha
límites de confianza
multiplicado todo hanporsido
10decalculados
elevado acon la expresión
4, con de Pearson.
aritmética.Nótese que los límites confianza hansigno
sidopositivo porque
calculados con la
( X hablamos
ya no + Z / 2 ±Z X + Z / 4
2 de 2
dilución )sino2
de concentración
2
microbiana. Así mismo,
expresión
adviértase que de Pearson.(
el título (m) yX su / 2 ± Z de
+ Zintervalo Z / 4 ) están expresados por el
X +confianza
Este
volumen tipo
Estedetipode cálculo
de cálculo
inóculo se
que, en puede
selapuede resolver rápidamente
resolver
práctica con ml
rápidamente
es pequeño (0.1 el con
siguiente
mlprograma
el siguiente
ó 0.2 en de en
programa
por placa),
BASIC para calculadora CASIO FX - 880 P.
modoBASIC
que paraparaexpresarlo
calculadora enCASIO
colonias FX por
- 880
ml,P.basta con una sencilla operación
aritmética.Nótese que los límites PROGRAMA de confianza 3 han sido calculados con la
PROGRAMA 3 2 2
expresión de Pearson.( X + Z / 2 ± Z X + Z / 4 )
UFC (Unidades Formadoras de Colonias)
30 de
Este tipo CLEAR: CLS se puede resolver rápidamente con el siguiente programa en
cálculo
60 PRINT
BASIC para “No. de Diluciones
calculadora CASIO “;: INPUT
FX -N880 P. 22
63 A=0: B=0
PROGRAMA 3
21
22
Métodos 30 CLEAR en
estadísticos : CLS
microbiología y ensayos biológicos
El intervalo de confianza
El intervalo usado enusado
de confianza el programa anterior, se
en el programa calculase
anterior, con el método
calcula demétodo
con el
Pearson,decuya ecuación
Pearson cuyaresulta de resulta
ecuación resolverde
la resover
ecuación
la cuadrática:
ecuación cuadrática:
( X ! µ)2 /µ = a
Donde : a = Ji 2 con " = 0.05 y 1 grado de libertad
−4 si esa es la
Cuando el programa pide la dosis inicial, ésta debe teclearse:
primeraCuando
dosis. el programa pide la dosis inicial, ésta debe teclearse:
!4 1E 1E
si esa es la
primera dosis.
23
22
H=número
H=númerodede
partículas de virus
partículas (Ejemplo:
de virus 1) 1)
(Ejemplo:
" = DD ! H
Sean K diluciones con n placas de Petri cada una. El número de áreas líticas se
Sean K diluciones con n placas de Petri cada una. El número de áreas líticas se
suman a través de las n placas pertenecientes a una determinada dilución
suman a través de las n placas pertenecientes a una determinada dilución obtenién-
obteniéndose
dose el valor Y. el valor Y.
EJEMPLO 17:
EJEMPLO 17:
Sean
SeanK=3
K=3diluciones con con
diluciones n0= n0=
n1= n1=
n2= n2=
2 placas y recuentos
2 placas sumados:
y recuentos Y0= 122,
sumados : Y0= 122
Y1= 10, Y2=2. El factor de dilución es: 3.16227766, conocido como de “medio loga-
Y1= 10 Y2=2. El factor de dilución es: 3.16227766, conocido como de “medio
ritmo“ porque el antilogaritmo de 0.5 es, precisamente, 3.16227766.
logaritmo “ porque el antilogaritmo de 0.5 es, precisamente, 3.16227766.
23
24
El algoritmo es elElsiguiente:
El algoritmo es el siguiente:
algoritmo es el siguiente:
X = Y0 +XY1=+YY02 ++Y......
1 +Y +2 Y+K ...... + YK
T = Y1 + T2Y=2 Y+1 3+Y32Y+2.....
+ 3+Y3KY
+ .....
K + KYK
' XA'$ XA $
S = !% T S! = !%"T(log
! e DD ) e DD )
"(log
& B &# B #
(log e DD )2 e DD )2
2 (log
( ()
II =! XA DB ! A2
II = X DB 2
)
B B2
UsandoUsando
los datos dedatos
los Kalbfleisch
Usando y Sprott,
de datos
los Kalbfleisch vamos a verificar
y Sprott,
de Kalbfleisch yvamos si vamos
Sprott,a H= 2 partículas
verificar
a si H= 2vira-
verificar partículas
si H= 2 partículas
les: virales: virales:
" = (3"
.16227766 ) !2 = 0).!12 = 0.1
= (3.16227766
X = 122 +X10 + 2 =+134
= 122 10 + 2 = 134
T = 10 + T
2(=
2)10
= 14
+ 2(2) = 14
B = 2 + 2B(0=.1)2++22((00..11))2+=22(0.22
.1) 2 = 2.22
A = 2(0.1A))=+ 22(20(.01.))1)+2 2=2 0(0.24
.1) 2 = 0.24
.1))2 +=80(0.28
D = 2(0.1D) +=82((00.1 .1) 2 = 0.28
( 134( * 0.24 % * 0.24 %
134
S = !&14S!= !&14 ! #(1.1512925 #(1.)1512925
= 0.5601
) = 0.5601
' ' .22 $ 2.22 $
2
2 2
2 1.1512925 1.1512925
II = 134(II
0.28 * 2.(22
= 134 ! 0*.24
0.28 2.22) ! 0.24 2 )2 = 202.32 = 20.32
2.22 2.22
S 0.5601 S 0.5601
" = = " = == 0.0275639
DELTA =DELTA = 0.0275639
I 20.32I 20.32
H2 = H H +" 2=H2 ++0" .0275639 = 2.0275639
= 2 + 0.0275639 = 2.0275639
Lím.
Lim.Sup.
Sup.(Lim
H ).Sup
= H.(2H+)1= H/2 +II1.=
.96 962/.462297229
II = 2.462297229
Lím.
Lim.Inf. H ) .=InfH.(2H!)1=
Inf .(Lim .96H/2 !II1.=
961./592813624
II = 1.592813624
! = (3.16227766 ) 2.027555426
! = (3.16227766 )242.027555426
= 0.0968763
= 0.0968763
PROGRAMA 4
25
Con los datos básicos de este ejemplo, el programa 4 dará los resultados que se
precisan:
S = 0.56
II = 20.32587917
DELTA = 0.02755542632
Nuevo H = 2.027555426
Lím. Sup. = 2.462297229
Lím. Inf. = 1.592813624
Z = 0.1242315215 (El modelo de 2 partículas se ajusta bién a los datos )
Iteración:
DELTA = 0.0004837581873
Nuevo H = 2.028039185
Lím. Sup. = 2.470304856
Lím. Inf. = 1.585773513
Z = 0.1242619656
Como se ve, el DELTA se ha achicado, y por eso, el valor H no ha variado mucho. Con
estos datos, no cabe duda que 2 partículas virales parecen vinculadas a la formación
de las áreas de lisis celular.
26
loglog (− log
e (" elog e p)e p ) = log
= log e ! e λ
Cuando esta expresión
Cuando seaesta
igualexpresión
a cero, entonces λ=1,a ycero,
sea igual por loentonces
tanto: �=1 , y por lo tanto :
3841MetodosEstadisticos correguido.indd 27 Encontrar el tiempo en minutos cuando ln(-ln p)=0. 22/4/10 10:45:01
Métodos estadísticos en microbiología y ensayos biológicos
Usando cualquier calculadora científica o paquete estadístico para efectuar una re-
gresión lineal por el método de los mínimos cuadrados con los pares de observacio-
nes de la tabla (TIEMPOi, ln(-ln p)i, tendríamos:
Pendiente= -0.2593078
La nueva regresión será ponderada, esto es, con factores de peso. Para obtener los
La nueva
pesos y la nueva variable regresión será
independiente ponderada,
o predictiva (Yw), esto es , con
deberemos factores
calcular los de peso. Para
siguientes valores:los pesos y la nueva variable independiente o predictiva (Yw), deberemos
los siguientes valores:
Y
P = eY − e = EXP(− EXP(Y )
P = e !e = P EXP(! EXP (Y ))
W =
P1 − P
(log e P2 )2
W = (log e P )
1! P ( p − P)
Yw = Y +
( p ! P)
Yw = Y + ( P * log e P )
( P * log e P )
Donde EXP es la forma computacional de e (e=2.71828182…)
Donde EXP es la forma computacional de e,(e=2.71828182…).
Puede observarse que la nueva variable independiente(Yw) resulta de sumarle a Y
Puede
todo un nuevo término, observarse
como queenlalanueva
puede verse terceravariable independiente(Yw)
expresión recién presentada resulta de sum
arriba. Todos estostodo un senuevo
cálculos término,
presentan como
en la Tabla 4. puede verse en la tercera expresión
presentada arriba. Todos estos cálculos se presentan en la Tabla 4.
TABLA 4 :
P Y P W Yw
0.028 1.1774 0.03893 0.427 1.4855
0.2 0.4 0.225 0.646 0.4745
0.533 -0.377 0.5036 0.477 -0.462
3841MetodosEstadisticos correguido.indd 28 0.733 -1.1542 0.7296 0.268 22/4/10 -1.169
10:45:02
Luis Rodríguez Aguayo
TABLA 4
P Y P W Yw
0.0 1.1774 0.03893 0.427 1.4855
0.2 0.4 0.225 0.646 0.4745
0.533 -0.377 0.5036 0.477 -0.462
0.733 -1.1542 0.7296 0.268 -1.169
0.867 -1.9314 0.865 0.1348 -1.947
0.933 -2.7086 0.936 0.064 -2.66
1.0 -3.4858 0.97 0.03 -4.5
Después de estos laboriosos cálculos, se efectua una nueva regresión con la siguien-
tes variables:
(TIEMPO, Yw, W)
PROGRAMA 5
810 CLEAR:CLS
815 PRINT “DECAE <exe>”
820 INPUT “No.de Observaciones”; N: DIM X(N, 9): A=0: B=0: C=0: D=0: E=0: F=0: KK=0
830 FOR I= 1 TO N
840 PRINT “ TIEMPO(“; I; “)”;: INPUT X( I, 1 )
850 PRINT “ NEGATIVOS(“; I; “)”;: INPUT X( I, 2 )
860 PRINT “ TOTAL(“; I; “)”;: INPUT X( I, 3 )
870 X(I, 4)=X(I, 2)/ X(I, 3)
880 IF X(I, 4)=0 OR X(I, 4)=1 THEN 910 ELSE 895
895 X(I, 5)=LN(-LN(X(I, 4))): F=F+1
900 A=A+X(I, 1): B=B+ X(I, 5): C=C + X(I, 1)^2: D=D+ X(I, 5)^2: E=E+ X(I, 1)* X(I, 5)
910 NEXT I
920 MX=A/F: MY=B/F: SX=C-A^2/F: SY= D-B^2/F: SXY=E=A*B/F
930 BB=SXY/SX: AA=MY-BB*MX
935 PRINT “Pendiente Preliminar=”; BB,”Intercepto Preliminar=”; AA
940 FOR I=1 TO N
950 X(I, 6)=BB*X(I, 1)+AA
29
960 NEXT I
970 PRINT “BB=”; BB, “AA=”; AA:KK=KK+1
971 IF KK=1 THEN 980 ELSE IF KK>1 THEN 972
972 TIEMPO=(0-AA)/ BB: PRINT “TIEMPO CUANDO Y=0 =”; TIEMPO
973 SE= SQR(1/ G)
974 LS=TIEMPO+1.96*SE: LI=TIEMPO-1.96*SE
975 PRINT “Lim.Superior=”; LS, “ Lim.Inferior=”; LI
980 A1=0: B1=0:C1=0: D1=0: E1=0: G=0
985 FOR I= 1 TO N
990 X(I, 7)=EXP(-EXP(X(I, 6)))
1000 X(I, 8)=X(I, 7)/(1-X(I, 7))*(LN(X(I, 7)))^2
1010 X(I, 9)=X(I, 6)+(X(I, 4)-X(I, 7))/(X(I, 7)*LN(X(I, 7)))
1020 NEXT I
1030 FOR I=1 TO N
1040 A1=A1+X(I, 1)*X(I, 8): B1=B1+X(I, 9)*X(I, 8)
1050 C1=C1+X(I, 1)^2*X(I, 8): D1=D1+X(I, 9)^2 *X(I, 8)
1060 E1=E1+X(I, 1)*X(I, 9)*X(I, 8): G=G+ X(I, 8)
1070 NEXT I
1080 MX=A1/G:MY=B1/G: SX=C1-A1^2/G: SY=D1-B1^2/G
1090 SXY=E1-A1*B1/G: BB=SXY/SX: AA=MY-BB*MX
1094 PRINT “ OTRA ITERACIÓN (S)(N)”;: INPUT K$
1095 IF K$=”S” THEN 940 ELSE 1110
1110 END
No de Observaciones? 7
Tiempo ? 15
Negativos? 0
Total?15
:
:
Tiempo? 33
Negativos? 15
Total? 15
Pend.Prelim.= -0.2593077831
Interc.Prelim.= 5.067986291
Otra It.(S)(N)? S
BB= -0.2924488803
AA= 5.783526508
TIEMPO / Y=0 = 19.776
LS= 21.15
LI= 18.4
Otra It.(S)(N)? S
BB= -0.3
30
AA= 5.96883
TIEMPO/Y=0 = 19.836
LS= 21.275
LI= 18.397
Otra It.(S)(N)? S
BB=-0.32
AA= 5.99
TIEMPO/Y=0 = 19.843
LS= 21.3
LI= 18.385
Otra Iteración.(S)(N)? N
En la práctica, la diferencia puede ser muy importante y eso hace necesario usar un
número grande de iteraciones hasta obtener convergencia satisfactoria.
Sin duda existe siempre el peligro de usar un modelo inadecuado; eso obliga al
investigador a no usar métodos estadísticos mecánicamente ni procedimientos que,
se sabe, son aproximados.
Este último caso se denomina: Análisis de Dilución Límite (COPE Cytokines Online
Pathfinder Encyclopedia).
31
e "1 ! 0.37
Cuando podemos interpolar el punto correspondiente
Cuando podemosa interpolar
37% de cavidades
el puntosin correspondiente
colo- a 3
nias, estaremos conociendo qué concentración de células sembradas
colonias, estaremos contendrá,
conociendo qué porconcentración de
lo menos UNA stem cell viva. contendrá, por lo menos UNA stem cell viva.
¿Por qué hay que usar las frecuencias de cavidades negativas? Si hubiésemos usado
¿Por qué hay que usar las frecuencias de cavidades nega
las positivas, nunca habríamos sabido si una o más células precursoras en una cavi-
usado las positivas, nunca habríamos sabido si una o más c
dad eran responsables por una respuesta positiva.
una cavidad eran responsables por una respuesta positiva.
EJEMPLO 19:
EJEMPLO 19:
En la Tabla 5 se muestran: el número de Tabla
En la cavidades negativas
5 se y el número
muestran: de cavi-
el número de cavidades nega
dades sembradas con las concentraciones usadas.
cavidades sembradas con las concentraciones usadas.
Estos datos proceden de un caso publicado en la página Web (copewithcytokines.de/
cope.cgi?3735) aunque, para este Estos
ejemplo, datos
han sido proceden de un caso
ligeramente modificados. publicado e
(copewithcytokines.de/cope.cgi?3735) aunque, para este
¿Cuál es la concentración de células que permite
ligeramente asegurar que, en ella hay por lo
modificados.
menos una célula troncal (Stem cell)?.
¿Cuál es 5la concentración de células que permite asegurar q
Tabla
menos una célula troncal (Stem cell)?.
Concentración celular Nº Cavidades Negativas Nº Cavidades Sembradas
20000 9 24
40000 5 18
60000 4 18
80000 3 18
100000 1 18
Tiempo1? 20000
Negativas1? 9
Total1? 24
:
:
Tiempo5? 100000
Negativas5? 1
Total5? 18
Pendiente Prelim.= 0.00001248546
Intercepto Prelim.= -0.292928735
32
Otra It.(S)(N)? S
BB= 0.000012228383
AA= -0.28455963
Tiempo/ Y=0 = 23270 células
LS= 23271 células
LI= 23269 células
Otra It.(S)(N)? S
BB= 0.00001222171
AA= -0.28414062
Tiempo/ Y=0 =23249 células
LS= 23250 células
LI= 23248 células
Otra It.(S)(N)? N
33
En el caso que nos interesa, se aplican dosis decrecientes del biológico de interés
a grupos de animales de laboratorio, y luego, a lo largo de un número estipulado
de días, se cuentan las proporciones de animales que dieron respuesta positiva:
Muertes si interesa la letalidad del biológico o sobrevivientes si interesa la capacidad
protectora como ocurriría con vacunas o algún suero antitetánico. Así, la respuesta
es dicotómica, ya que sólo tiene dos posibles resultados: uno positivo al que se le
otorga valor 1, y uno negativo que se codifica como cero.
TABLA 6
Con un número muy grande de dosis se obtiene una curva sigmoídea al graficar la
proporción de animales positivos contra la dosis expresada logarítmicamente. Esa
35
Figura 4
FIGURA 4
1
0.9
0.8
0.7
0.6
P
0.5
0.4
0.3
0.2
0.1
0
0 2 4 6 8
Logdosis
Puede advertirse que hay una parte central de la curva, a la cual se podría ajustar
una línea recta. Los extremos son aplanados, y en ellas el paso de una dosis a otra
Puede advertirse
muestra que haydeuna
poco aumento parte central
la respuesta de la curva,que
P. Considerando a lael cual
50% se
de podría ajustar
positividad
unase línea
produce en el centro del segmento más recto de la sigmoidea, es intuitivamente a
recta. Los extremos son aplanados , y en ellas el paso de una dosis
otra,deseable
muestra pocolaaumento
estimar dosis que de la respuesta
generó P. de
esa respuesta Considerando que elDe50%
50% de positividad. ahí de
positividad
lo que sese produce
conoce comoen DEel50%,
centro del segmento
y la necesidad más con
de trabajar rectolosde la sigmoidea,
logaritmos de las es
intuitivamente
dosis puestodeseable estimar
que, de otra manera, la ladosis
curvaque
seríageneró esa asimétrica
fuertemente respuestay depor 50%
ello, de
positividad.
inadecuada Depara
ahí lo que se conoce
la estimación como DE 50%, y la necesidad de trabajar con
requerida.
los logaritmos de las dosis puesto que, de otra manera, la curva sería fuertemente
Generalmente,
asimétrica las dosis
y por ello, se diluyen:
inadecuada paradela
2 en 2, de 5 enrequerida.
estimación 5; de 10 en 10, según un fac-
tor de dilución (D), que se determina experimentalmente para obtener respuestas
(P) que abarquen el rango: 0≤ P ≤1. Las diluciones de 2 en 2, se dice que son de
Generalmente, las dosis se diluyen : de 2 en 2, de 5 en 5; de 10 en 10, según un
factor de dilución 2–en inglés:”twofold dilution”–; las otras son de factor 5 (“fivefold”),
factor de dilución (D), que se determina experimentalmente para obtener
de factor 10 (“tenfold”) etc.
respuestas (P) que abarquen el rango: 0� P �1 . Las diluciones de 2 en 2, se dice
queExisten
son demuchos
factor de dilución
métodos 2-en
para inglés:”twofold
estimar dilution”-;
la DE 50 como: las otras son
Reed-Muench, de factor
Dragsted-
Behrens; Spearman-Karber(S-K),
5 (“fivefold”), de factor 10 (“tenfold”)Probits,
etc. Logits; Transformación Angular, y otros
de más reciente desarrollo: Weybits, Aranda-Ordaz,etc. (Morgan,B.,1992).
Existen muchos métodos para estimar la DE 50 como: Reed-Muench, Dragsted-
El de Reed-Muench ha sido usado con porfía por los virólogos pese a que los es-
Behrens; Spearman-Karber(S-K), Probits, Logits; Transformación Angular, y otros
tadísticos lo han criticado severamente y no lo recomiendan (Finney,D.,1971) y
de más reciente desarrollo: Weybits , Aranda-Ordaz ,etc. (Morgan,B.,1992).
también Govindarajulu (Govindarajulu, Z.,1988) quien hasta lo declara ineficiente
junto con el Dragsted-Behrens que le está muy relacionado. Todos estos autores
El de Reed-Muench
destacan la calidadha
delsido usado con porfía método
Spearman-Karber(S-K), por los no-paramétrico
virólogos pesebastante
a que los
estadísticos
robusto. lo han criticado severamente y no lo recomiendan, (Finney,D.,1971)y
también Govindarajulu,(Govindarajulu,Z.,1988) quién hasta lo declara ineficiente
junto con el Dragsted-Behrens que le está muy relacionado. Todos estos autores
destacan la calidad del Spearman-Karber(S-K), método no-paramétrico bastante
robusto.
Los métodos: Probit, Logit y Transformación Angular han sido empleados profusa-
mente en ensayos biológicos, y son recomendados por la Organización Mundial de
la Salud (OMS. Serie de Informes Técnicos 800).
#1
[
P = 1 + e # $ ( x#µ ) ] , µ = #% / $
Xk K Xi +D / 2
K
µ # ! [( X i + D / 2) Pi " ( X i "1 + D / 2) Pi "1 " DPi ]
i =1
K
µ = X K + D / 2 " D ! Pi , factorizando :
i =1
K
µ = X K " D ! [Pi " 1 / 2]
i =1
Donde: Xk=Donde:Xk=
Log10 de la Log10
dosis más
de concentrada
la dosis másque genera 100%
concentrada de genera
que positividad o de positividad
100%
casi 100%. casi 100%.
EJEMPLO 20:
Con los datos de la Tabla 6, tenemos:
37
Log10(DE50)=Log10(1/10)-Log10(2)*(20/20+13/20+6/18+1/24-0.5)
3841MetodosEstadisticos correguido.indd 37 22/4/10 10:45:05
Métodos estadísticos en microbiología y ensayos biológicos
EJEMPLO 20:
Log10(DE50)=Log10(1/10)-Log10(2)*(20/20+13/20+6/18+1/24-0.5)
Log10(DE50)= -1- 0.30103*( 2.025- 0.5)= - 1.45907075
QQ"
PQ
"
SE"
PP
=D i
i
i
i
i
i i
Lím.
Lim.SupSup. = 10 ( !+11..45907075
( !1..45907075
+1.96*0.04926 )
96*0.04926 ) = 0.0434
Lim.Sup
Lim.Sup . = 10
. =Inf.
10 ( !1.45907075+1.96*0.04926= ) 0.0434
!1.96*0= 0.0434
Lím.
Lim.Inf = 10 ( !!11..45907075
( !1..45907075 96*0.04926 )
.04926 )
= 0.02782
Lim. Inf . = 10
Lim.InfEn. =el 10 ( !1.45907075!1.96*0.04926=
Apéndice 1 se presenta el =
) 0.02782
0.02782
método Spearman – Karber Trimmed ,
EnEn el el
elEn Apéndice
Apéndice 1 se1presenta
Apéndice se presenta
1 se el el
método
el método
presenta Spearman
Spearman
método – Karber–Trimmed,
Spearman Karber Trimmed
– Karber , ,
Trimmed
2.1.2. El Método
2.1.2. Logit
El Método Logit.
2.1.2.
2.1.2. ElEl Método
Método Logit.
Logit.como veremos, dos usos diferentes; el primero de ellos es
El programa 6 tiene,
El programa
para estimar la DE50 por el 6 Método
tiene, como veremos,el dos
Logit mediante usos“Score
llamado: diferentes;
Method”. el El
primero de ellos
El
segundo programa para 6
tiene que6 ver
El programa tiene,
estimar
tiene, como
la
con comoDE50veremos,
por
la estimación
veremos,el dos
Método
del valorusos diferentes;
Logit mediante
D, quediferentes;
dos usos es el tiempo el elprimero
llamado:
el en de
minutosde
primero ellos
“Score elloses
Method”.
es
para
en para estimar
que una la
segundo DE50
concentración
estimar la DE50detieneporporel
que Método
ver
esporas con Logit
la mediante
estimación
termorresistentes
el Método Logit mediante el
del llamado:
valor
es reducida
el llamado:D “Score
que
en una es, Method”. El
unidadMethod”.enElminut
“Score el tiempo
segundo
logarítmica
segundo tiene
entiene
cuandoque queuna
está
que ver con
sometida
ver conla la
aestimación
concentración una deldel
de esporas
temperatura
estimación valor
muy
valorD
altaque
D en
que es,es,
termorresistentes
un el eltiempo
autoclave.es enen
reducida
tiempoEsto minutos
en una unida
minutos
en
es, en que
porque una
ejemplo, concentración
bajar desde, digamos:
logarítmica
una concentración cuando de esporas
está
de esporas termorresistentes
cien mil
sometida esporas a diez mil
a una es
temperatura
termorresistentes reducida
esen en
un tiempo
reducidamuy una unidad
en t,una unidad
alta en un autoclav
logarítmica
estando a 180°
logarítmica cuando
EstoC. es, porestá
cuando está sometida
ejemplo,
sometida a una
bajara desde, temperatura
digamos: cien
una temperatura muy alta
muy mil en un
altaesporas autoclave.
a diez mil en u
en un autoclave.
Esto es,
Esto es, por
tiempo ejemplo,
t
por ejemplo,, bajar
estando a
bajar desde,
180° C. digamos:
desde, digamos: cien
cienmil esporas
mil esporas a diez
a diez mil milenenunun
Eltiempo
núcleo de cálculo
t , testando del “score”
a 180° fue
C.C. desarrollado por Byron Morgan (citado) para ve-
tiempo
rificar la calidad , estando
del ajuste a 180°
del modelo a los datos (líneas 1160 a 1420). El resto del
El núcleo de cálculo del “score” fué desarrollado por Byron Morgan (citado) pa
programa ha sido agregado por el autor de este librito para calcular una DE50 con
ElEl núcleo dedecálculo
verificar deldel“score” fué desarrollado porlosByronByronMorgan (citado) para
límites núcleo
de confianza, ylaelcalidad
cálculo valor del
paraajuste
D“score” fué
estudios del demodelo
desarrollado a
inactivaciónpor datos,(lineas
térmica. Morgan
El 1160
programa a 1420).
(citado) paraEl res
verificar
verificardella calidad
programa
la calidad del ajuste
delha del
sido del
ajuste modelo
agregado
modelopora los datos,(lineas
el autor
a los 1160
de este 1160
datos,(lineas a 1420).
librito apara
1420). El resto
calcular
El restouna DE5
deldel programa con ha sido
límites agregado
de confianza,por el
y autor
el de
valor este
D paralibrito
programa ha sido agregado por el autor de este librito para calcular una DE50 para
estudios calcular
de una
inactivación DE50 térmica.
con conlímites dedeconfianza,
programa
límites 7 que yseyeldetalla
confianza, elvalor
valorD Dpara
paraestudios
posteriormente,
estudios dadede inactivación
inactivacióntérmica.
exactamente mismoElresultad
eltérmica. El
programa 7 7que
pero quesesedetalla
permite detallaposteriormente,
explicar como da procedimiento
exactamente
exactamenteeliterativo.elmismo
mismoresultado,
programa 38funciona elda
posteriormente, resultado,
peropero permite
permite explicar
explicar como
como funciona
funciona el el
procedimiento
procedimiento iterativo.
iterativo.
PROGRAMA 6:
PROGRAMA
PROGRAMA 6:
3841MetodosEstadisticos correguido.indd 38 6: 22/4/10 10:45:06
Luis Rodríguez Aguayo
PROGRAMA 6
39
1450 L=0
1460 CLS: FOR I=1 TO K
1470 PRINT “ Dosis(“;I; “)”; X(I), “:Frecuencia Observada:”; R(I); “:F.Esperada=”; Q(I)
1480 C1=C1+(R(I)-Q(I)*N(I))*(R(I)-Q(I)*R(I)) / (Q(I)*N(I))
1490 L=L-(R(I)*LN(Q(I))-(N(I)-R(I))*LN(1-Q(I))
1500 NEXT I
1510 CLS: PRINT “Ji cuadrado de Ajuste=”; C1
1520 PRINT “ Logaritmo de Verosimilitud=”; L
1522 PRINT “Intercepto=”; A,” Pendiente=”; B
1523 PRINT “LOG10 DE50%=”; -A/B,” DE 50%=”; 10^(-A/B)
1524 PRINT “Valor D=”; (-A/B) / QWE
1530 XX(1,1)= B1: XX(1,2)=B2: XX(2,1)=B2: XX(2,2 )=B4: BB(1,1)=A: BB(2,1)=B
1540 FOR I=1 TO 2
1545 FOR J=1 TO 1
1550 S=0
1555 FOR V=1 TO 2
1560 S=S+XX(I,V)*BB(V,J)
1565 NEXT V
1570 XY(I,J)=S
1575 NEXT J
1577 NEXT I
1580 MY=XY(1,1) / XX(1,1): SX=XX(2,2)-(XX(1,2))^2 / XX(1,1)
1585 SE= (1/XX(1,1)+(MY/B)^2 / SX)/B^2: SEX=SQR(SE): PRINT “Error Estándar de la Potencia=”;
INT(SEX*10000000+0.5)/10000000
1590 LS=10^((-A/B)+1.96*SEX): LI=10^((-A/B)-1.96*SEX)
1595 PRINT “LS=”, LS, “ LI=”; LI
1600 PRINT “Lim.Sup. del Valor D=”; LOG(LS)/QWE
1610 PRINT “Lim.Inf. del Valor D=”; LOG(LI)/QWE
1617 END
EJEMPLO 21:
TABLA 7
40
Las dosis se entrarán como están escritas en la tabla porque son logaritmos, y por
ello, ya se encuentran a una distancia igual entre ellas.
Dosis(1)? -4
Dosis(2)? –5
Dosis(3)? –6
Dosis(4)? –7
Posit. (1)? 10
Inocul.(1)? 10
:
:
Inocul.(4)
Ji cuadrado: 0.1303760973
Log Verosimilitud= 15.80890593
Intercepto= 11.77
Pendiente= 2.03991489
Log10 DE50= -5.76992, que se expresa como: 5,76992
DE50= 0.00000169855
Valor D= - 1.77498, (Sólo interesa cuando se trabaja con inactivación de esporas)
Lim.Sup.= 0.00000458, log10= -5.34,( 5.34, con signo(+))
Lim Inf.= 0.00000063, log10= -6,2, ( 6.2 “ “ “)
L.Sup.de D= -1.6425
L.Inf. de D= -1.90746
Dosis(1)? –1.0
Dosis(2)? –1.301
Dosis(3)? –1.602
Dosis(4)? –1.903
Positivos(1)? 20
Inocul(1)? 20
:
:
Incul(4)? 24
41
Ji cuadrado= 0.4986
Log Verosimilitud= 30.03
Intercepto= 9.872
Pendiente= 6.775
Log10 de la DE50= -1.457
DE50= 0.0349, (Compárese con la DE50 obtenida con el método S-K )
:
Lim.Sup.de la DE50= 0.0434
Lim.Inf.de la DE50= 0.028
EJEMPLO 22:
TABLA 8
42
ri ! ri +1
ri − ri +1 , Donde r denota la variable de interés (vivos en este caso), y n denota
ni + ni +1
ni + ni +1 , Donde r denota la variable de interés (vivos en este caso), y n denota
los inculados.
los inoculados.
Cada vez que el P desciende en vez de seguir aumentando como se ve entre las
Cada vez que el P desciende en vez de seguir aumentando, como se ve entre las
dosis 128 y 256, se suman los vivos , y el valor resultante se divide por la suma de
dosis 128 y 256, se suman los vivos, y el valor resultante se divide por la suma de
los inculados:
los inoculados:
6 + 5 11
= , después se substituyen los datos originales otorgando 11 vivos a cada
6 + 6 12 , después se substituyen los datos originales otorgando 11 vivos a cada
dilución,y 12
dilución, y 12 “inoculados”
“inoculados” a una
a cada cadade una de las
las dosis dosis involucradas,
involucradas, como puede
como puede verse
en la última
verse columna
en las últimaacolumna
la derecha de derecha
a la la tabla 8.de la tabla 8.
TABLA 9
Supongamos que las 120 ampollas fueron llenadas con 1 millón de esporas cada
una. Las esporas pertenecen a un microorganismo termorresistente (B. stearother-
mophylus). Se colocan todas las 120 ampollas en un baño de glicerina a una tempe-
ratura semejante a la de un autoclave, y luego se retiran 20 de ellas cada 2 minutos;
se enfrían rapidamente, se siembran individualmente en un medio de cultivo ade-
cuado, y después de algunos días se anota el número de ampollas que no generaron
crecimiento (esporas muertas).
43
Nota: El rango de tiempos usado en el cálculo fue de 18 a 30 minutos porque los dos
extremos (18 y 32 minutos) generaron respuestas redundantes.
TABLA 10
Nótese que las dosis están a distancia constante y que por eso no es necesaria la
transformación logarítmica
PROGRAMA 7
44
1500 END
45
Se dará con el mayor detalle posible todo el desarrollo del método debido a que éste
no se explica con claridad en la literatura disponible.
Como no hay Logits para P= 1 ó P=0, el programa ignora estos casos en la línea
1280 y crea un sumador (F=F+1) que acumula el número de observaciones para las
n
cuales se pudieron calcular Logits. PP es
P=1 y P=0.
∑ P , usando TODOS los P, incluyendo los
i =1
A, B, C, D y E son sumatorias de: X(I,1), X(I,1)^2, del Logit X(I,5), X(I,5 )^2,
En las líneas 1320 a 1335 se calculan: Las medias de X(I;1) y X(I,5), la suma de
cuadrados (SX) de X(I,1), (SY) de X(I, 5 ); la suma de productos cruzados (SXY) de
X(I,1) y X(I,5), y la pendiente(BB) e intercepto (AA) de la regresión preliminar.
En el segundo paso, con los estimadores preliminares BB y AA, se calculan los Lo-
gits esperados X(I,6)=AA+BB*X(I,1) a partir de los cuales se obtienen los nuevos
valores P=1/(EXP(-(X(I,6)) y Q=1-P que son almacenados en los vectores X(I,7) y
X(I,2) respectivamente. Los factores de ponderación(w), son alojados en el vector
X(I,8)=P*Q= X(I,7)*X(I, 2) en la línea 1350. Nótese que cuando se alcanza una con-
vergencia adecuada, y el operador responde (N) a la proposición de otra iteración,
los factores de ponderación (W) se multiplican por X(I;3) en la línea 1355. Ésta es la
única forma de obtener un intervalo de confianza para la Dosis Efectiva (DE).
∑X
n 2
líneas 1390 y 1430, en las cuales, = A=A + X(I,1)*X(I,8), y
∑ Xw
i =1
i =1
w
46
!X 2
w =B=B+X(I,1)^2*X(I,8), son sumas ponderadas con X(I,8)n como pesos(w).
i =1 La suma no ponderada de P es:
n
!
P =C=C+X(I,7) .
i =1
La suma no ponderada de P es: !
P =C=C+X(I,7) . n
Luis Rodríguez Aguayo2
La suma
i =1 ponderada de los cuadrados de P es :
n
Pw = D=D+X(I,7)^2 !
i =1
La suma ponderada de los cuadrados de P es : ! P = D=D+X(I,7)^2*X(I,8).
n
2
45
47
Elerror
El errorestándar
estándardede –a/b,
–a/b, (Govindarajulu,1988)
(Govindarajulu,1988) es: es:
& 2 #
&Y #
+ $ ! / SX ! , donde b es la pendiente dosis-repuesta y (Wi) es
1 $ 1
SCx = 2 $
b ' Wi % b " !
$% i !"
, donde b es la pendiente dosis-repuesta y (W ) i
el el
es factor
factordedeponderación paracada
ponderación para cadanivel
nivel
dede
las las K dosis.
K dosis. La sumatoria
La sumatoria de Wi, de
estáWi , está
declarada como G=G+X(I,8) en la línea 1358 del programa
declarada como G=G+X(I,8) en la línea 1358 del programa Logit. Logit.
EJEMPLO
EJEMPLO24: 24:
Usando los datos de la tabla 10 que fueran presentados por Berkson en 1957, y
Usandoel los
usando datos 7,
programa decalcular
la tabla 10 que
la dosis letalfueran presentados por Berkson en 1957, y
50% (DE50).
usando el programa 7, calcular la dosis letal 50% (DE50).
No.Observaciones? 7
Dosis1? 9
No.Observaciones? 7
Positivos1?
Dosis1? 9 8
Inoculados1?88
Positivos1?
Dosis2? 8
Inoculados1? 8
Positivos2?
Dosis2? 8 7
Inoculados2?78
Positivos2?
Dosis3? 7
Inoculados2? 8
Positivos3? 3
Dosis3? 7
Inoculados3? 8
Positivos3?
Dosis4? 6
3
Inoculados3?
Positivos4? 3 8
Dosis4? 6 8
Inoculados?
Positivos4?
Dosis5? 5 3
Inoculados?
Positivos5? 2 8
Dosis5? 5 8
Inoculados5?
Positivos5?
Dosis6? 4 2
Inoculados5?
Positivos6? 0 8
Inoculados6?
Dosis6? 4 8
Dosis7? 3 0
Positivos6?
Positivos7? 0 8
Inoculados6?
Inoculados7?
Dosis7? 3 8
Ecuación
Positivos7? Preliminar=
0 0.9133567313 X+(-5.9804071)
BB=1.13499518
Inoculados7? 8
AA= -7.519916908
OTRA ITERACIÓN(S)(N)?
Ecuación Preliminar=S0.9133567313 X+(-5.9804071)
BB=1.20004023
BB=1.13499518
AA= -7.972286217
AA= -7.519916908
OTRA ITERACIÓN(S)(N)? S
BB= 1.204430145
OTRA ITERACIÓN(S)(N)? S
AA= -8.002786691
BB=1.20004023
AA= -7.972286217
48
OTRA ITERACIÓN(S)(N)? S
OTRA ITERACIÓN(S)(N)? S
BB= 1.204448388
AA= -8.002913303
OTRA ITERACIÓN(S)(N)? S
BB= 1.204448389
AA= -8.002913307
OTRA ITERACIÓN(S)(N)? N
BB=1.2043, AA= -8.002 y DE50= 6.6445, partiendo de una ecuación inicial esti-
mada gráficamente: BB=1.04 y AA= -6.94. NOTA: Si las dosis hubiesen sido
transformadas a logaritmos, tendríamos que obtener el antilogaritmo del
valor de DE50 que entrega este programa.
Empleando las propiedades del Modelo Lineal General podemos usar los siguientes
comandos:
Estos resultados pueden compararse con los obtenidos por los programas 6 y 7 y
comprobar que hay una aceptable concordancia entre ellos. Debe agregarse que,
pese al frecuente uso de este método, nunca ha habido un acuerdo internacional
sobre el número “óptimo” de iteraciones que deben aplicarse a un conjunto deter-
minado de datos. La idea de permitir al usuario del programa decidir si desea o no
una nueva iteración, concede la posibilidad de observar la marcha del proceso de
convergencia hasta su culminación. Este criterio se aplicó a casi todos los otros pro-
gramas descritos en el presente libro.
2.1.4. Probits
Un método similar al Logit, aunque más antiguo (1934), es el de Probits debido al
estadístico norteamericano Chester Bliss (Finney, D.,1972)(Bliss,1938, 1945,1951).
49
El desarrollo del análisis probit fue consecuencia directa de un método propuesto por
J.H.Gaddum (Gaddum,1933), el que ahora es conocido como método Normit, y que
cayó definitivamente en el olvido. En la puesta a punto del método Probit, participó
hasta Sir Ronald Fisher.
P=28 / 30.
C7=SGN(0.5-P), donde SGN toma los valores: -1, cero ó +1 según signo de (0.5-P)
C7= -1
C8= 2.014403146
C8= 2.252737759
Probit (C8)= 6.5012
Z= 5.5012
PROGRAMA 8
Las líneas 1000 - 1040 muestran el algoritmo de Derenzo que, a partir de una
proporción P, obtiene directamente el Probit = (Z+5), declarado como C8 en el
programa.
Este pequeño programa forma parte de aquel que ejecuta el método PROBIT más
abajo.
50
ni " i2 ni ς i2
(Pi (w1 !=P(iP))i (1 − Pi )) , donde:ζ es la ordenada en Z de la curva normal estandarizada
wOrdenada
= en el punto Z =es0.12934
, donde:� la ordenada en Z de la curva normal estandarizada
N(0; 1) para
N(0;
2cada dosis , i=1,2,...,K dosis.
ni "1)
i para cada dosisi, i=1,2,...,K dosis.
i
w= , donde:� es la ordenada en Z de la curva normal estandarizada
(Pi (1 ! Pi ))
30 * 0.12934 2
N(0; 1)
Según Según para cada
estosestos dosis
datos, , i=1,2,...,K
datos,i w = dosis. = 8.061945691 ,, para
para la corres-
la dosis dosis
pondiente. 0 . 9333 * 0.0667
correspondiente.
30 * 0.12934 2
SegúnEstos factores
estos de ponderación
datos, w = (w) se usan en =las8.iteraciones
061945691ponderadas
, para dela mane-
dosis
ra análoga
Estos factores dea la 0(w)
ya vista con el
ponderación .9333
se* usan
método 0Logit.
.0667en las iteraciones ponderadas de
correspondiente.
manera análoga a la ya vista con el método Logit.
PROGRAMA 9
Estos Elfactores
PROGRAMA Método de ponderación (w) se usan en las iteraciones ponderadas de
9 PROBIT
manera
El Método PROBIT análoga a la ya vista con el método Logit.
10 CLEAR:10CLS CLEAR: CLS
PRINT 12
12PROGRAMA PRINT 9 “PROBIT<exe>”
“PROBIT<exe>”
El Método
15 PRINT “NÚMERO 15 PRINT
PROBIT “NÚMERO DE DE OBSERVACIONES”;:INPUT;:INPUT
OBSERVACIONES” N N
10 CLEAR: 17 PRINT
CLS “Quiere usar Logaritmo
17 PRINT “Quiere usar Logaritmo Decimal de las Dosis Decimal de las Dosis (S)(N);: (S)(N)
INPUT FR$
; : INPUT FR$
12 PRINT 20“PROBIT<exe>”
DIM A(N, 12)
20 DIM A(N, 12)
30 FOR I=1 TO N DE OBSERVACIONES” ;:INPUT N
3015FORPRINT I=1 “NÚMERO
TO N
PRINT40
4017PRINT
PRINT “DOSIS(“;
“Quiere
“DOSIS(“; usar I; “)”;: INPUT X:A(I,1)=X
I ; “)”Logaritmo
;: INPUT X Decimal
:A(I,1)=Xde las Dosis (S)(N) ; : INPUT FR$
41 IF FR$=” S “ THEN 42 ELSE 44
4120IFDIM
FR$=” A(N, S 12)
“ THEN 42 ELSE 44
42 A(I, 1)=LOG(X): GOTO 50 (En computador es: LOG(X)/LOG10)
4230A(IFOR I=1 TO N
44 A( I, 1)=X GOTO 50 (En computador es: LOG(X)/LOG10)
, 1)=LOG(X):
40 PRINT
44 A( I , 1)=X “DOSIS(“; I ; “)” ;: INPUT X :A(I,1)=X
50 PRINT “POSITIVOS(“; I; “)”;: INPUT R: A(I,2)=R
41 IF
50 PRINT 60FR$=” S “
“POSITIVOS(“ THEN 42
; I ;ELSE 44
“)”I; “)”;:
;: INPUT R :A(I,
A(I,2)=R
PRINT “INOCULADOS(“; INPUT NN: 3)=NN
42 A(I
60 PRINT 70 , 1)=LOG(X):
“INOCULADOS(“ GOTO ; 50
I ; (En
“)”
A(I, 4)= A(I,2)/A(I,3), calcula P=r/n ;: computador
INPUT NN es:, LOG(X)/LOG10)
: A(I 3)=NN
7044A(IA(, I4)=, 1)=X
A(I,2)/A(I,3),
80 NEXT I calcula P=r/n
8050NEXT
PRINT I85“POSITIVOS(“
A=0:B=0:C=0:D=0: E=0: ; I ;FF=0
“)” ;: INPUT R : A(I,2)=R
60 PRINT
85 A=0:B=0:C=0:D=0: “INOCULADOS(“
90 FOR I=1 TO N E=0: FF=0 ; I ; “)” ;: INPUT NN : A(I , 3)=NN
70 A(I
90 FOR I=1 , 4)=
92 TOA(I,2)/A(I,3),
IF A(I,4)=0 calcula
N OR A(I,4)=1 THEN 120 P=r/n
ELSE FF=FF+1
80 NEXT
92 IF A(I,4)=0 I
95 C7=SGN(0.5-A(I,4))
OR A(I,4)=1 THEN 120 ELSE FF=FF+1
9585C7=SGN(0.5-A(I,4))
A=0:B=0:C=0:D=0: E=0: FF=0
90 C8=
100 FOR -LN(1-C7+2*C7*A(I,4)),
I=1 TO N en un computador, LN es: LOG, el logaritmo
92 IF A(I,4)=0 OR A(I,4)=1 THEN 120 ELSE FF=FF+1
natural. 51
95 C8=((4*C8+100)*C8+205)*C8*C8/(((2*C8+56)*C8+192)*C8+131)
105 C7=SGN(0.5-A(I,4))
100A(I,5)=
110 C8= -LN(1-C7+2*C7*A(I,4)),
5-C7*SQR(C8), el probit encorrespondiente
un computador, alLN es: según
p=r/n LOG, el logaritmo
Derenzo.
natural.
115 A=A+ A(I,1):
3841MetodosEstadisticos B=B+
correguido.indd 51 A(I,1)^2: C=C+ A(I, 5): D=D+ A(I,5)^2: E=E+ A(I,1)*A(I,5) 22/4/10 10:45:12
Métodos estadísticos en microbiología y ensayos biológicos
165 P1=EXP(-((83*A(I,8)+351)*A(I,8)+562)*A(I,8)/(165*A(I,8)+703)
170 A(I,9)=0.5*(1+SGN(A(I,7))*(1-P1))
52
Todos los valores que se muestran en las líneas 295 y 296 sirven para ser com-
binados según se explica en los párrafos venideros que se refieren a ensayos
de Potencia de vacunas.
Tanto: B2 como C2 y LAM, están descritos en la línea 296 del programa. Por su
La línea 305 evalúa el ajuste lineal mediante Ji2; los que procuren efectuar un test de
razón de varianzas (F), encontrarán que la varianza residual es: cero.
53
El valor Probit que se pide en la línea 285, será 5 para obtener DE50. Para otras
DE’s, tenemos la siguiente lista: 5.8417(DE80), 6.2816(DE90), 6.645(DE95) y
7.3265(DE99). Es muy frecuente que, en las pruebas de eficacia de insecticidas, se
desee saber qué dosis “garantizará” la muerte del 99% de las moscas (DE99) o la
del 99.99%(Probit=8.719).
TABLA 11
Dosis Control 1 mg 2 mg 3 mg 4 mg 5 mg
r 18 40 95 200 276 300
n 300 300 300 300 300 300
P 0.06 0.133 0.317 0.67 0.92 1.00
P* 0.00 0.078 0.27 0.65 0.915 1.00
Puede observarse en el grupo control, que murieron 18 moscas del total de 300
(P=0.06). Es lógico suponer que, en los otros grupos, no todas las muertes se pue-
dan imputar a la acción de la dosis correspondiente de insecticida. Así, es necesario
corregir las proporciones de muertos en los grupos tratados. Para ese propósito se
emplea la fórmula de Abbott (Fall,1998 Entomology 128 Section 001 02. Bioassay).
La fórmula es la siguiente:
54
* PP−!CC
PP* == 1 ! C, , donde C es la proporción de muertes en el grupo control. Ejemplo:
1 − C donde C es la proporción de muertes en el grupo control. Ejemplo:
Con C= 0.06 y P= 0.133, tenemos:
Con C= 0.06 y P= 0.133, tenemos:
0.133 ! 0.06
P* = = 0.078 , última línea y tercera columna desde la izquierda de la
1 ! 0.06 , última línea y tercera columna desde la izquierda de
latabla
tabla.
SiSimultiplicamos
multiplicamos cadacada
P* porP*
cadapor(n=300),
cada estableceremos el “número” de
(n=300), estableceremos elsobre-
“número” de
vivientes
sobrevivientes que usaremos para el análisis Probit. Los datos finalesen
que usaremos para el análisis Probit. Los datos finales se muestran selamuestran
siguiente tabla.
en la siguiente tabla.
TABLA 12
TABLA N° 12 0 mg 1 mg 2 mg 3 mg 4 mg 5 mg
r 0 0 mg
23.4 1 mg 2 mg
81 3 mg 4 mg 5 mg
195 274.5 300
n 300 r 0 300 23.4 81
300 195 274.5 300300
300 300
n 300 300 300 300 300 300
Usando el probit 6.645 resulta una DE95=4.23 mg con intervalo de
confianza:(4.08;4.39).
Usando el probitNo6.645 se usaron logaritmos
resulta unade las dosis porquemg
DE95=4.23 éstascon
ya estaban
intervalo de
separadas por distancias iguales.
confianza:(4.08;4.39). No se usaron logaritmos de las dosis porque éstas ya
estaban separadas por distancias iguales.
Hay observaciones que imposibilitan o dificultan el uso de Logits o Probits. Estas
dificultades se originan en la rígida simetría de esos modelos que, en ocasiones,
impide el ajuste de ellos a conjuntos de datos que presentan gruesas y largas colas
(“tails”).
52
Para esos casos se recomienda el uso del llamado “Trimmed Spearman Karber”
(TSK); una modificación del método no paramétrico ya descrito en este capítulo.
Escogiendo estas proporciones desde 0.1 hasta 0.9 como se ve en la tabla 13, te-
nemos:
55
TABLA 13
P Z W(pesos)
0.1 -1.2816 0.342176
0.16 -0.9946 0.44036
0.2 -0.8417 0.4898
0.25 -0.6746 0.53849
0.3 -0.5244 0.5757
0.35 -0.3853 0.60307
0.4 -0.2532 0.62197
0.45 -0.1255 0.633
0.5 0.0 0.63662
0.55 0.1255 0.633
0.6 0.2532 0.62197
0.65 0.3853 0.60307
0.7 0.5244 0.5757
0.75 0.6746 0.53849
0.8 0.8417 0.4898
0.84 0.9946 0.44036
0.9 1.2816 0.342176
Donde lo pesos (w) han sido calculados sin incluir (n) en el numerador, suponiendo
que todas la dosis tienen el mismo número de individuos.
2 * 1.96 1.86286
L = 2 * 1.96 1.86286 , donde si conocemos BB, por ejemplo: 1.2
L = BB N , donde si conocemos BB, por ejemplo: 1.2
BB N , donde si conocemos BB, por ejemplo: 1.2
yy sisise
sepide
pideque
queel el
límite superior
límite de confianza
superior 95% sea
de confianza 95%elsea
120% (1.2) de(1.2)
el 120% la DE50,
de la DE50,
y si se pide
tenemos, que el
después de límite superior
resolver la de confianza
expresión anterior 95%N:sea el 120% (1.2) de la DE50,
para
tenemos, después de resolver la expresión anterior para N:
tenemos, después de resolver la expresión anterior para N:
28.6254519
N= 28.6254519 = 48 animales para el total de dosis. Por lo
N = 1.2 22 [log (1.2) ! log (1 / 1.2)]22 = 48 animales para el total de dosis. Por lo
1.2 [log10 10 (1.2) ! log 10 (1 / 1.2) ]
10
tanto, si se van a usar 4 dosis, cada56una de ellas tendrá 12 animales inoculados.
tanto, si se van a usar 4 dosis, cada una de ellas tendrá 12 animales inoculados.
Nótese que la expresión entre corchetes del denominador es L al cuadrado.
Nótese que la expresión entre corchetes del denominador es L al cuadrado.
El método descrito es una excelente aproximación (DeArmon and Lincoln,22/4/10
1959)
El método descrito es una excelente aproximación (DeArmon and Lincoln, 1959)
3841MetodosEstadisticos correguido.indd 56 10:45:14
2 * 1.96 1.86286
LL==
2*Z
*
1/ w , donde
, donde Z= 1.96 y BB = lasipendiente
conocemos BB, por
de una prueba ejemplo:
anterior. 1.2
BB BB N N
Si substituimos los valores que conocemos hasta aquí, tenemos:
y si se pide que el límite superior de confianza 95% sea el 120% (1.2) de la DE50,
Luis Rodríguez Aguayo
tenemos, después
2 * 1.96 1.86286 de resolver la expresión anterior para N:
L= , donde si conocemos BB, por ejemplo: 1.2
BB N
28.6254519
yNsi se
= pide2que el límite superior de confianza 295%= sea
48 elanimales para
120% (1.2) de el
la DE50, total de dosis. Por lo
tenemos, [
1.2después
log de(1resolver
10
la expresión
.2) ! log ]
(1 / 1.anterior
10 2) para N:
= 48 animales para el total de dosis. Por lo
tanto, sisise
tanto, se28 van
van a ausar
usar 4 4 dosis,
dosis, cadacada
una una
de el de ellas
ellas tendrá 12 animales inoculados.
totaltendrá 12Por
animales inoculados.
.6254519
N= = 48 animales para de dosis. lo
Nótese
Nótese que
1.2 [que
2
log (1.la
10 la ) !expresión
2expresión 2)] entre
log10 (1 / 1.entre
2
corchetes
corchetes del denominador
del denominador es L al es L al cuadrado.
cuadrado.
tanto, si se van a usar 4 dosis, cada una de ellas tendrá 12 animales inoculados.
El
Elmétodo
Nótese que la descrito
método expresión
descritoes es
entreuna excelente
corchetes
una aproximación
del denominador
excelente (DeArmon
es L al cuadrado.
aproximación (DeArmonand Lincoln, 1959) 1959)
and Lincoln,
pero
pero sus
sus autores
autoressubestimaron la media de los valores w, obteniendo un nume-
El método descrito es una subestimaron la (DeArmon
excelente aproximación media and de Lincoln,
los valores
1959) w, obteniendo un
rador
pero = 39
numerador
sus que
= 39
autores resulta en un
que resulta
subestimaron Neninnecesariamente
la media un
de N grande.
losinnecesariamente
valores w, La grande.
obteniendo forma
un descrita aquí descrita
La forma
corresponde
numerador = 39aque
aquícorresponde
correspondeuna modificación
resulta del método
en un N innecesariamente
a una modificación original
grande. La
del que
métodoque permite
forma satisfacer
descrita bien los
aquí
requisitos de la aOMS.
una modificación del método original permiteoriginal
satisfacer que permite satisfacer
biénloslos
bién requisitos
requisitos de la
de la OMS. OMS.
En elcaso
En el casodedeunauna prueba
prueba de potencia
de potencia con una
con una vacuna vacuna yde
de referencia referencia
una vacuna y una vacuna
En el caso
desconocida,
desconocida , lade
la una prueba
expresión
expresión dedepotencia
L es: de L con
aproximada
aproximada es: una vacuna de referencia y una vacuna
desconocida , la expresión aproximada de L es:
2 Z 1.86286 1.86286
L= +
86286N s = N x y Z y BB tienen el mismo signifi-
, donde : N s = N x y Z y BB tienen el mismo
BB2 Z N1S .86286 Nx 1 , .donde:
L =indicado
significado
cado indicado paraelel caso
para +una
caso de
de una sola preparación.
sola preparación.
, donde : N s = N x y Z y BB tienen el mismo
BB S N
A partir de esta última expresión, x
el numerador
Nes: 58 , y suponiendo una
Apendiente
partir de esta
(BB) última
yindicado
límites expresión,
de confianza el numerador es: 58,
un y suponiendo una pendiente
significado para el : caso
200% y 50%,
de unaobtenemos valor
sola preparación.
(BB) y límites de confianza: 200% y 50%, obtenemos un valor de N:
de N:
58
A
N =partir2 de esta última 2expresión, el numerador es:= 58
92 , y suponiendo una
BB [log10 (258
, con BB =1.32 obtendríamos N
) ! log10 (1 / 2)]
N = 2 (BB) y límites de2 confianza : 200% y 50%, obtenemos un valor de N:
pendiente
animales {log
BB por (2) -92/3
vacuna,
2
logdosis=
10
(½)}
30 animales por cada dosis de vacuna.
, con BB =1.32 obtendríamos N = 92 animales por
vacuna, 92/3
En el caso de ladosis= 3058
vacunas animales
contra por cadacada
tos convulsiva, dosis de vacuna.
vacuna tiene tres dosis
decrecientes de la respectiva preparación. Por eso, cada dosis tendría 30 ratones
N=
que es lo habitualmente usado para garantizar 2un, intervalo
con BB confianza
=1.32 con obtendríamos N = 92
En el caso de2 la vacunas contra tos convulsiva, cadadevacuna
BB [log (2) ! log (1 / 2)] tiene tres dosis decre-
límites: 200% y 50% del10 valor central 10
de potencia. El valor 1.32 para la pendiente,
cientes
es muy de la respectiva
frecuente preparación.
en las pruebas Por eso,
de potencia cada dosis
de vacunas tendríay 30 ratones, que
antipertussis
animales
es
antirrábicas. por vacuna,
lo habitualmente
Para usado92/3
estas últimas dosis=
para
debieran 30unos
garantizar
usarse animales
un por por
intervalo
23 animales cada dosis
dedosis
confianza
de decon
vacuna.
límites:
vacuna.
200% y 50% del valor central de potencia. El valor 1.32 para la pendiente, es muy
En el caso
frecuente depruebas
en las la vacunas contradetos
de potencia convulsiva,
vacunas cada yvacuna
antipertussis tienePara
antirrábicas. tres dosis
decrecientes de la respectiva preparación. Por eso, cada dosis
estas últimas debieran usarse unos 23 animales por dosis de vacuna. tendría 30 ratones
que es lo habitualmente usado para garantizar un intervalo de confianza con
En general
límites: podemos
200% y 50%decir
delque, para
valor reducirde
central a lapotencia.
mitad el ancho del
El valor54 intervalo de con-
1.32 para la pendiente,
fianza,
es muy deberíamos aumentar
frecuente en las en cuatro
pruebasveces
deel número
potenciade de
animales.
vacunas Por otro lado,
antipertussis y
un intervalo de confianza de ancho cero sólo se conseguiría con infinitos
antirrábicas. Para estas últimas debieran usarse unos 23 animales por dosis de animales.
vacuna.
Los métodos in vitro no son recomendados aún por la OMS para determinar potencia
en las vacunas como: anticoqueluche, antitetánica o antidiftérica, porque solamente
los ensayos en ratones o cobayos pueden medir protección; los otros sólo miden
presencia del antígeno pero no su capacidad de inducir respuesta inmune. Un caso
dramático es el rechazo por parte de la OMS, de la glicoproteína del virus rábico,
que parecía ser un excelente reemplazante de las pruebas de potencia de vacunas 54
antirrábicas en animales (WHO.TRS 822,1992). En esos casos las reducciones del
57
DE 50.Vacuna de Referencia
Re ferencia
Potencia = Vac.
* UI / Dosis[Vac de Referencia
. de Re ferencia ]
Problema
DE 50.Vacuna Pr oblema
Donde
Donde DE50
DE50 es es la
la dosis
dosis efectiva
efectiva50%,
50%,es
esdecir
deciraquella
aquellaque
queprotegió
protegióalal50%
50%dedeloslos
animales y UI/Dosis (Vacuna
animales y UI/Dosis (Vacuna de Referencia) son las Unidades Internacionalesque
de Referencia) son las Unidades Internacionales que
la
la OMS
OMS oo la
la Autoridad
Autoridad Nacional
Nacionalde deControl
Controlde
deCalidad
Calidadde
deun
unpaís
paísleleotorgaron
otorgarona alala
Vacuna de Referencia.
Vacuna de Referencia.
La potencia se puede estimar usando el programa 6, combinando los valores de las
La potencia se puede estimar usando el programa 6, combinando los valores de
sumas de cuadrados:
las sumas Sx, Sy,
de cuadrados: Sx,Sxy,
Sy etc.,
Sxy para
etc., obtener pendiente
para obtener e intercepto
pendiente y otros y
e intercepto
valores intermedios que conducen a la expresión de la potencia.
otros valores intermedios que conducen a la expresión de la potencia. Debe Debe recalcarse
aquí, que tendremos
recalcarse aquí , quedos líneas dedos
tendremos regresión,
líneas de una para la ,vacuna
regresión una parade referencia
la vacuna yde
otra para la vacuna problema. Estas líneas deben ser, digamos,
referencia y otra para la vacuna problema. Estas líneas deben ser ,digamos, “estadísticamente”
paralelas. La falta deparalelas.
“estadísticamente” paralelismoLa puede
falta de conducir a repetir
paralelismo la prueba
puede entera
conducir puestola
a repetir
que,
prueba entera puesto que, en ese caso, la potencia es considerada inconfiable.esLa
en ese caso, la potencia es considerada inconfiable. La falta de paralelismo
puesta
falta deaparalelismo
prueba mediante una dócima
es puesta a prueba –como se denominan
mediante las pruebas
una dócima-como de signifi-
se denominan
cación–, de Ji cuadrado con grados de libertad = No. de vacunas –
las pruebas de significación -, de Ji cuadrado con grados de libertad = No. de 1.
vacunas – 1.
Por su parte, la dócima de falta de linealidad de las líneas de regresión de cada va-
cuna tiene grados de libertad = Suma del número de dosis de ambas vacunas-4.
Las combinaciones que se indican a continuación llevan sufijos: (s) para la vacuna
de referencia y (u) para la vacuna problema. Usando en primer lugar el programa 9
(PROBIT) con la vacuna de referencia, y luego con la vacuna problema, obtendre-55
mos todas las sumas de cuadrados que se requieren para los cálculos de poten-
cia.
58
! SY = SY + sy!
SY = s
SY = SY + sy
s u
u
!
! SY = SY + sy s u
s u
59 56
56
56
3841MetodosEstadisticos correguido.indd 59 22/4/10 10:45:19
El Ji cuadrado para docimar los desvíos de paralelismo es:
MElétodos
Ji cuadrado para docimar los desvíos de paralelismo es:
estadísticos en microbiología y ensayos biológicos
El Ji2 cuadrado para docimar los desvíos de paralelismo es:
" (21) = bs SXYs + bu SXYu ! BC22 , donde las bi, son las pendientes de ambas
" (21) = bs SXYs + bu SXYu ! BC2 , donde las bi, son las pendientes de ambas
vacunas.
" (1) = bs SXYs + bu SXYu ! BC , donde las bi, son las pendientes de ambas
vacunas. , donde las bi, son las pendientes de am-
vacunas.
bas
Y vacunas.
donde, B2=(SXY)2/SX
Y donde, 2B2=(SXY) 2
/SX
YLadonde, B =(SXY)
dócimaBpara
Y donde, 2
=(SXY) /SX
2 2
/SX de linealidad se estima con:
desvíos
Ladócima
La dócimapara para desvíos
desvíos de de linealidad
linealidad se estima
se estima con: con:
La 2 dócima para desvíos 2de linealidad se estima con:
# [ K ! 4 ] = SYs + SYu ! BC , donde :
" ! K , es la suma del número de observaciones
de
# ["ambas
K !4]
= vacunas. donde :
SYs + SYu ! BC , donde: ∑!
# [22 K ! 4 ] = SYs + SYu ! BC22 , donde : KK , es la suma del número de observaciones
! , es
K, es la la suma
suma del del número
número de observaciones
de observacio-
de " ambas
nes de ambas vacunas.
vacunas.
de potencia
La ambas vacunas.
se programó como sigue:
La
Lapotencia
potenciasese programó
programó como sigue:
como sigue:
La potencia se programó como sigue:
M = X ! X ! (((YYYss −!!YYYuu )))
M == XXss −! XXuu −! (Yssbb!c Yuu )
M s u
M = X s ! X u ! bcc
El error estándar de M es: c
b
El error estándar de M es:
El error estándar de M es:
El error estándar de M es:
1 1 1 (Ys ! Yu )2 2
M ±± tt **C
22
=
22
C
C ** M C ** SS M , donde:
M , donde:
C C = 2 2BC2 2 2
2
C * M ± t *C * S
2 C 2
=
M , donde: C 2 = CC2 C 2
BB −!t t
B
C * M ± t *C * S
C 2 es un evaluador del empinamiento M , donde: B C2 ! t 2
2
de la B
pendiente
C !t
de regresión común. En
es un evaluador
laCnomenclatura del (citado),
de Finney empinamiento de lacon
es denotado pendiente de regresión
(g). La relación común. En la
entre ambas
2
nomenclatura es lade
C 2 es un evaluador
expresiones Finney (citado), es denotado
del empinamiento
siguiente: con (g).deLaregresión
de la pendiente relación común.
entre ambas
En la
C es un evaluador
expresiones
nomenclatura esde del empinamiento
la siguiente:
Finney de la pendiente
(citado), es denotado con (g).deLaregresión
relación común. En la
entre ambas
1
nomenclaturaesde Finney (citado), es denotado con (g). La relación entre ambas
gexpresiones
= 1− 2 la siguiente:
expresiones es la siguiente:
C , Finney recomienda diseñar el experimento de forma tal que g sea
1
g = 1 ! 0.1, , Finney recomienda diseñar el experimento de forma tal que, g sea
menor deC1 2 e idealmente menor que 0.05.
g = 1 ! 12 , Finney recomienda diseñar el experimento de forma tal que, g sea
menor
g = 1 !de C 20.1, e idealmente
, Finney menordiseñar
recomienda que 0.05. el experimento de forma tal que, g sea
menor de C 0.1, e idealmente menor que 0.05.
menor
El de 0.1,10e idealmente
programa que se detallamenormásque 0.05. efectua una estimación de potencia
adelante,
con límites de confianza 95%, estimaciones
El programa 10 que se detalla más adelante, efectua de desvíos de paralelismo
una estimación y de
de potencia
El programa
linealidad;
con límitesvalor 10
de g que se detalla
según la 95%,
confianza más
versión adelante,
de Finney y de
estimaciones efectua
el erroruna estimación
estándar
desvíos de potencia
de la pendiente
de paralelismo y de
con
común. límitesvalor
linealidad; de confianza
g según la 95%,
versiónestimaciones
de Finney yde
60 desvíos
el error de paralelismo
estándar y de
de la pendiente
linealidad; valor g según la versión de Finney y el error estándar de la pendiente
común.
común.
3841MetodosEstadisticos correguido.indd 60 22/4/10 10:45:21
Luis Rodríguez Aguayo
El programa 10, que se detalla más adelante, efectúa una estimación de potencia
El
con análisis
El límites se
se realiza
de confianza
análisis por
95%,
realiza por los
los tres
tres demétodos
estimaciones recomendados
desvíos de
métodos paralelismo y depor
recomendados la
lineali-
por la OMS:
OMS:
transformación
dad; angular
valor g según
transformación (A),
la versión
angular método
(A),demétodo probit
Finney probit (P)
y el error y método
(P)estándar
y método logit
de la (L).
pendiente
logit El ejemplo
(L). El común.
ejemplo que
que se
se
muestra
muestra después
después deldel listado
listado del
del programa;
programa; relacionado
relacionado concon lala vacuna
vacuna :: Pertussis
Pertussis 9-9-
El análisis sees
002-00-9, realiza
sólopor una
los tres métodos recomendados
simulación. En él por la verse
puede OMS: transforma-
que se usaron
002-00-9,
ción
es sólo una
angular (A), método
simulación.
probit (P) y método
En
logit
él puede verse
(L). El ejemplo
que se usaron
queincluye
se muestra
aproximadamente
aproximadamente 30
30 ratones
ratones por
por dosis
dosis de
de vacuna.
vacuna. El
El listado
listado incluye :: las
las dosis
dosis ,,
después
los del listado del
sobrevivientes, y programa;
los relacionado
inoculados ; con la
además sevacuna:
incluye Pertussis
el valor 9-002-00-9,
en UI/ 0.5 ml de la
lossólo
es sobrevivientes,
una y losEninoculados
simulación. ; además
él puede verse que se se usaron
incluyeaproximadamente
el valor en UI/ 0.5 30 ml de la
vacuna de referencia.
vacuna de referencia.
ratones por dosis de vacuna. El listado incluye: las dosis, los sobrevivientes, y los
inoculados; además se incluye el valor en UI/ 0.5 ml de la vacuna de referencia.
La
La potencia
potencia (P)
(P) por
por probit
probit es:
es: 5.5
5.5 UI/
UI/ dosis
dosis de
de 0.5
0.5 ml
ml de
de inyección,
inyección, redondeando
redondeando
cifras.
La potencia
cifras. (P) por probit es: 5.5 UI/ dosis de 0.5 ml de inyección, redondeando
La
La pendiente
pendiente probit
cifras. probit es es :: 1.878465,
1.878465, con con g=0.058;
g=0.058; dócimadócima de de desvíos
desvíos dede
paralelismo=
paralelismo= 0.02
0.02 (excelente);
(excelente); y
y linealidad
linealidad =
= 7.67
7.67 con
con 2
2 grados
grados de
de libertad;
libertad; esta
esta
La pendiente
última no probit es: un
1.878465, con g=0.058; dócima de desvíos de paralelismo=
última
0.02 no constituye
constituye
(excelente); y un motivo
motivo
linealidad = 7.67
de
decon
rechazo
rechazo
2 grados
de
de
de
la prueba
lalibertad;
pruebaestaaunque
aunque
última
,de
,de
no
hecho,
hecho, indica
consti- indica
que
que la
la alineación
alineación de las observaciones con respecto a la línea de regresión, no es
tuye
muy un motivo de rechazo de la prueba, aunque,de hecho, indica que la alineación no es
buena.
de las observaciones con respecto a la línea de regresión,
muy buena.
de las observaciones con respecto a la línea de regresión, no es muy buena.
Si
Si verificamos
verificamoselel
Si verificamos cumplimiento
cumplimiento
el de
de las
cumplimiento las
las recomendaciones
de recomendaciones de
de la
de la OMS
recomendaciones OMS
lasobre sobre
OMSlímites límites
límites de
sobrede de
confianza,
confianza, tenemos:
tenemos:
confianza, tenemos:
1
1..51886
51886 * 100 = 174.29% , que es menor que 200%
0 . 871438 * 100 = 174.29% , que es menor que 200%
0.871438 , que es menor que 200%
0
0..4958631
4958631 * 100 = 56.9% , que es mayor que 50%
0 * 100 = 56.9% , que es mayor que 50%
0..871438
871438 , que es mayor que 50%
Con
Con todos
Con todos estosestos
todos resultados
resultados
estos podemos podemos
resultados concluir que,concluir
podemos la prueba que,
concluir cumplela
que, prueba
prueba cumple
lasatisfactoria- cumple
satisfactoriamente
mente
satisfactoriamente los requisitos
los requisitos importantes de un
los requisitos importantes de
buen diseño,de
importantes un
y que buén
un la diseño,
vacuna
buén yy que
problema
diseño, la
la vacuna
pasa
que vacuna
problema
el ensayo de
problema pasa el
el ensayo
potencia
pasa dado que
ensayo de
desupotencia
valor 5.5 dado
potencia superaque,
dado su
el valor
que, valor
valor 5.5
su mínimo supera
supera4 el
aceptable:
5.5 el valor
valor
mínimo
UI/ dosis aceptable:
establecido 4 UI/
por El dosis
Comitéestablecido
de Expertos por
en El Comité
Ensayos de Expertos
Biológicos
mínimo aceptable: 4 UI/ dosis establecido por El Comité de Expertos en Ensayos de la en
OMS Ensayos
Biológicos
(WHO,TRS de
de la
Biológicos 800, OMS
OMS (WHO,TRS
la1990). (WHO,TRS 800, 800, 1990).
1990).
El
El programa
programa1010fue escrito
fue en en
escrito MicrosoftQuick BasicBasic
Microsoft�Quick comocomo
versión autoejecutable.
versión autoejecutable.
El programa 10 fue escrito en Microsoft�Quick Basic como versión autoejecutable.
La
La idea
La idea de
ideade emplear
deemplear
emplear loslos tres
tres
los métodos
métodos
tres mencionados
mencionados
métodos para
para analizar
para analizar
mencionados la
la potencia
la potencia
analizar de una de
potencia de una
una
vacuna,
vacuna, puede
puede añadir
añadir más más seguridad
seguridad a la hora a
de la hora
estimar unade
vacuna, puede añadir más seguridad a la hora de estimar una potencia estimar
potencia una potencia
peligrosa-
peligrosamente
mente cercana al cercana
peligrosamente al
al valor
valor crítico
cercana crítico
crítico de
de aprobación.
valor de aprobación.
aprobación.
Se
Se puede comentar que no existe no
un programa probit estandarizado internacional-
Se puede
puede comentar
comentar que que no existeexiste un un programa
programa probitprobit estandarizado
estandarizado
mente; existen muchos
internacionalmente; programas
existen de
muchos uso oficial
programas en susdepaíses
uso de origen,
oficial en y no países
sus es
internacionalmente;
inusitado que den existen
resultados quemuchos
no son programas
exactamente de uso
iguales oficial
entre en
ellos, sus
dado países de
que de
origen,
origen, y
y no
no es
es inusitado
inusitado que
que den
den resultados
resultados que
que no
no son
son exactamente
exactamente iguales
iguales entre
entre
no se ha acordado
ellos, el número “ideal” de iteraciones para obtener los estimadores obtener
ellos, dado
dado que
requeridos. que nono se
se ha
ha acordado
acordado el el número
número “ideal”
“ideal” de
de iteraciones
iteraciones para
para obtener
los
los estimadores
estimadores requeridos.
requeridos.
Como
Como autocrítica
autocrítica puedopuedo denunciar
denunciar que
que elel programa
programa 10 10 usa
usa una
una dede las
las últimas
últimas
iteraciones
iteraciones efectuadas por el método Logit para iniciar las correspondientes al
efectuadas por el método61 Logit para iniciar las correspondientes al
método
método Probit; Probit; esto esto no
no es
es muy
muy elegante
elegante pero
pero hasta
hasta ha
ha sido
sido sugerido
sugerido por
por algunos
algunos
autores
autores (Cornfield
(Cornfield y y Mantel.1950),
Mantel.1950), que
que llegaron
llegaron aa recomendar
recomendar el el uso
uso del
del Spearman
Spearman
-- Karber
Karber para obtener el primer ciclo de cálculos requeridos por el análisis Probit.
3841MetodosEstadisticos para
correguido.indd obtener
61 el primer ciclo de cálculos requeridos por el análisis 22/4/10 10:45:22
Probit.
Métodos estadísticos en microbiología y ensayos biológicos
Como autocrítica puedo denunciar que el programa 10 usa una de las últimas itera-
ciones efectuadas por el método Logit para iniciar las correspondientes al método
Probit; esto no es muy elegante pero hasta ha sido sugerido por algunos autores
(Cornfield y Mantel.1950), que llegaron a recomendar el uso del Spearman - Karber
para obtener el primer ciclo de cálculos requeridos por el análisis Probit.
PROGRAMA 10
62
63
64
END SELECT
K%(k) = a (k, 2): s%(k) = a (k, 3)
NEXT k
af = 1
tt = mc
q =q1
CALL calc
Mx1 = m1: my1 = m2
Sx1 = t1
Sy1 = t2
Sxy1 = t3
Jk = yy
Kk = n
CALL max
la2 = 0
lb2 = 0
lc2 = 0
ld2 = 0
le2 = 0
lf2 = 0
pa2 = 0
pb2 = 0
pc2 = 0
pd2 = 0
pe2 = 0
pf2 = 0
FOR i = jk TO KK
lxx = b (i, 1): 1yy = LOG(q (i) / (1 – q (i)))
lww = q (i) * (1)) * a (i, 3)
c77 = SGN(.5 – q (i))
c88 = -LOG(1 – c77 + 2 * c77 * q (i))
ptt = ((4 * c88 + 100) * c88 + 205) * c88 * c88 / (((2 * c88 +56) * c88 + 192)
* c88 + 131)
c99 = 5 – c77 * SQR(ptt)
pzz = c99 – 5
pfii = 1 / SQR(2 * 3.141592654) * exp(-.5 * (pzz * pzz))
pwkk = c99 – 1 / pfii * (q (i) – (a (i, 2) / a (i, 3)))
pww = a (i, 3) * (pfii * pfii) / (q (i) * (1 – q (i)))
la2 = la2 + lxx * lww
lb2 = lb2 + lyy * lww
lc2 = lc2 + lxx *lyy * lww
ld2 = ld2 + lxx * lxx *lww
le2 = le2 + lyy * lyy * lww
lf2 = lf2 + lww
pa2 =pa2 + lxx * pww
65
66
67
PRINT “-------------------------------------------------------------------------------“
PRINT “DOSIS”; SPC(6); “SOBREV:”; SPC(2); “VACUNADOS “; SPC(1);m “SE50 (A)=”; INT(e
D1 * 100+.5) / 100; SPC(1); “(L)=”; INT(led1 * 100 +.5) / 100; SPC(1); “(P)=”
; INT(ped1 * 100 +.5) / 100
FOR i = 1 TO mc
PRINT a (i, 1); TAB(12); k%(i); TAB(23); s (i)
NEXT i
PRINT
PRINT “V.PROBLEMA=”; vac$; SPC(2); “ Protocolo=”; prot$; SPC(2); “ Responsable=”;
lra”
PRINT “-------------------------------------------------------------------------------“
PRINT “DOSIS”; SPC(6); “SPC(2); “VACUNADOS”; “DE50(A)=”; INT(e
D2 * 10000 +.5) / 10000; “(L)=”; INT(led2 * 10000 +.5) / 10000; SPC(1)
; “(P)=”; INT(ped2 * 10000 +.5) / 10000
FOR i = yy TO n
PRINT a (i, 1); TAB(12); k (i); TAB(23); s (i)
NEXT i
PRINT “-------------------------------------------------------------------------“
PRINT “POTENCIA(A)= “; pot; “ (“; li; “;”; ls; “)”; “ U.I./ 0.5 ml=”; pot * ui
PRINT “POTENCIAL(L):”; lpot; “ (“; lli; “;”; lls; “)”; “ UI/0.5 ml=”; lpot * ui
PRINT “POTENCIAL(P):”; ppot; “ (“; pli; “;”; pls; “)”; “ UI/0.5 ml=”; ppot * ui
PRINT “Pendiente(A)=”; bc / 19.59; “(L)=”; lsl; “(P)=”; psl
PRINT “Se(pendiente(P)=”; psb; “,”; “g(P)=”; INT(pg * 10000 +.5) / 10000; “ S p
Ot=”; INT(pspot * 10000 +.5) / 10000
PRINT “Desvíos de Paralelismo=”; ppar; “ con:1 g.libertd”
PRINT “Otra vacuna (s)(n)”;: INPUT sw$
SELECT CASE sw$
CASE IS = “s”
CLS
GOTO test
CASE IS = “n”
PRINT
END SELECT
END
SUB calc
SHARED b ()
SHARED q,af, tt, t1, t2, t3, w1, w2, m1, m2, n
g1 = 0
g2 = 0
FOR i = af TO tt
g1 = g1 +b (i. 1) * b (i, 3)
g2 = g2 + b (i, 2) * b (i, 3)
NEXT i
m1 = g1 / q
m2 = g2 / g
68
t1 = 0
t2 = 0
t3 = 0
FOR i = af TO tt
w1 = b (i, 1) – m1
w2 = b (i, 2) – m2
t1 = t1 + (w1 * w1) * b (i, 3)
t2 = t2 + (w2 * w2) * b (i, 3)
t3 = t3 + (W1 * w2)* b (i, 3)
NEXT i
END SUB
SUB max
SHARED b (), a (), P (), q ()
SHARED ao, bo, mc, n, yy, jk, kk, i
Ao = 1: bo= 0
DO
LET d11 = 0
LET d22 = 0
LET B11 = 0
LET b22 = 0
LET b44 = 0
LET c44 = 0
LET c22 = 0
FOR i = jk TO kk
A11 = EXP(-ao)
P (i) = 1 / (1 + a11 * EXP(-bo * b (i, 1)))
z = a (i, 2) – a (i, 3) * P (i)
d11 = d11 + z
d22 = d22 + z * b (i, 1)
q (i) = P (i)
P (i) = P (i) * (1 – P (i)) * a (i, 3)
b11 = b11 + P (i)
b22 = b22 + P (i) * b (i, 1)
b44 = b44 + P (i) * (b (i, 1)) ^ 2
NEXT i
w = b11 * b44 - b22 * b22
c11 = b44 / w
c22 = -b22 / w
c44 = b11 / w
a0 = a0 + c11 * d11 + c22 * d22
b0 = b0 + c22 * d11 + c44 * d22
IF q (jk) >=.999999 THEN EXIT DO
LOOP UNTIL (ABS(d11) <.00001)
END SUB
DATOS(V.PATRON) 60 UI por 0.5 mal; (A)Angulo (L)logit (P)Probit
69
-------------------------------------------------------------------------------------
DOSIS SOBREV: VACUNADOS DE50(A)=.01 (L)=.01 (P)=.01
.04 14 14
.02 10 13
.01 4 12
.005 1 14
V.PROBLEMA=Test.9-125-01-9 Protocolo=Test 000254 Responsabilidad=LRA
----------------------------------------------------------------------------------------
DOSIS SOBREV: VACUNADOS DE50(A)=.012 (L)=.0118 (P)=.0118
.04 11 12
.02 10 14
.01 6 13
.005 2 14
-----------------------------------------------------------------------------------
POTENCIA(A}=.9511936 (.6534711, 1.370755 ) U.I./ 0.5 ml= 57.07161
POTENCIA(L): 1.043974 (.6426728, 1.719148 ) UI/0.5 ml=62.63842
POTENCIA(P): 1.021612 (.6490658, 1.611374 ) UI/0.5 ml= 61.29671
Pendiente(A)= 3.563082 (L) 5.295885 (P)= 3.176738
Se (pendiente(P)=.5187308,g(P)=.1024
Desvios de Paralelismo= 1.719548 con:1 g.libertad
Linealidad= 2.203226 con: 4 g.libertad
Otra vacuna (s) (n)?
Datos(V.PATRON) 6.3 UI por 0.5 ml; (A)Ángulo (L)Logit (P)Probit
---------------------------------------------------------------------------
DOSIS SOBREV: VACUNADOS DE50(A)=.01 (L)=.02 (P)=.01
.1 30 30
.02 13 29
.004 6 30
V.PROBLEMA =Pert.9-002-00-9 Protocolo=Pert. 000211 Responsable=LRA
-----------------------------------------------------------------------------------------
DOSIS SOBREV: VACUNADOS DE50(A)=.0164 (L)=.0175 (P)=.017
.1 28 29
.02 14 31
.004 5 30
------------------------------------------------------------------------------------------
POTENCIA(A)=.7819685 (.4871446, 1.234808 ) U.I./0.5 mL= 4.926402
POTENCIA(L):.8815936 (.4858211, 1.567723 ) UI/0.5 mL= 5.55404
POTENCIA(P):.871438 (.4958631, 1.51886 )UI/0.5 mL= 5.49006
Pendiente(A)= 2.165344 (L)= 3.178618 (P)= 1.878465
Se(pendiente(P)=.2264558, g(P)=.0558
Desvío de Paralelismo= 2.026612E-02 con:1 g.libertad
Linealidad= 7.671425 con: 2 g.libertad
Otra vacuna (s) (n)?
70
5.6, 9.7, 5, 11.4, 3.4, 7.2, 3.5, 7.4, 5.6, 5.2, 3.4, 6.2, 4.4, donde los valores inferiores
a 4 UI / dosis indican rechazo de la vacuna por potencia insuficiente. Es verdad que
a juzgar por los intervalos de confianza, esas pruebas se efectuaron con un número
de animales relativamente bajo, pero la variación no mejora mucho con más rato-
nes. Esto debiera generar humildad en el experimentador ante una naturaleza que
muestra una especie de permanente estremecimiento probabilístico que impide una
alta reproducibilidad, y debiera también inducir a extremar las medidas de control
de calidad en el laboratorio.
71
CAPÍTULO 3
Nunca,
CAPÍTULO 3 la inferencia estadística puede
reducirse a un conjunto
Nunca, la fijo de reglas
inferencia de puede
estadística
aplicación rutinaria a cualquier
reducirse problema.
a un conjunto fijo de reglas de
Toda circunstancia siempre –aunque
aplicación rutinaria a cualquier problema.
Toda circunstancia siempre – aunque
sea por poco–, seadifiere de otras.
por poco-, difiere de otras.
Julian Simon.
Julian Simon.
3.1.- Transformaciones de Recuentos de Microorganismos.
3.1. Transformaciones de Recuentos de
Microorganismos
Se debe considerar que el primer propósito de la transformación es aproximar el
“contorno” de los datos a la distribución de la Curva Normal, como se observa en
Se figura
la debe considerar que elque,
2, y conseguir primer propósito de
al aumentar la transformación
el tamaño de la mediaes aproximar
no crezcaeltambién
“contorno” de los datos a la distribución de la Curva Normal, como
la varianza; un fenómeno indeseable que se conoce como heterocedasticidad se observa en la que
ocurre con los recuentos de colonias bacterianas, en los cuales, al crecer lala media
figura 2, y conseguir que, al aumentar el tamaño de la media no crezca también
varianza;
crece un fenómeno
también indeseable
la varianza. que se conoce
Es importante quecomo heterocedasticidad
no haya que ocu- entre
diferencia significativa
las varianzas de los grupos que se comparan, como ocurre en un crece
rre con los recuentos de colonias bacterianas, en los cuales, al crecer la media Análisis de
también la varianza.
Varianza; Es importante
este método es sensible que anolahaya diferencia significativa
heterocedasticidad, la queentrelelas va- perder
hace
rianzas de los
confiabilidad. grupos que se comparan, como ocurre en un Análisis de Varianza; este
método es sensible a la heterocedasticidad, la que le hace perder confiabilidad.
Algunas delas
Algunas de lastransformaciones
transformaciones usadas
usadas son: son:
3.1.2). XX
3.1.3). XX ++ 00..55
3.1.4). X + 3/8
3.1.4). X + 3 / 8 ,, llamada
llamadaTransformación
Transformación de Ascombe
de Ascombe (Das y(Das
Giri.1979), muy
y Giri.1979), muy
recomendada por sus propiedades estabilizantes de la varianza, y por mantener
recomendada por sus propiedades estabilizantes de la varianza, y por mantener esas
propiedades con recuentos pequeños.
esas propiedades con recuentos pequeños.
No obstante
obstantetodas estasestas
todas opciones, en la práctica
opciones, en lase usa la transformación
práctica se usa lalogarítmica
transformación
de recuentos microbiológicos
logarítmica de recuentos (3.1.1) para estudios(3.1.1)
microbiológicos colaborativos,
para ensayos
estudiosdecolaborativos,
estan-
darización de
ensayos de métodos diagnósticos
estandarizaciòn deo métodos
valoración diagnósticos
externa de calidad.
o valoración externa de
calidad.
Debe recalcarse que no basta transformar logarítmicamente los recuentos para que
los datos así obtenidos pertenezcan a una distribución lognormal. De hecho hay
Debe recalcarse
datos así que no
transformados, quebasta
no se transformar logaritmicamente
ajustan a la distribución lognormallos recuentos
porque, ha- para
que los datos así obtenidos pertenezcan a una distribución lognormal.
biendo tenido una marcada asimetría derecha antes de la transformación, adquieren De hecho
hay datos
fuerte así transformados,
asimetría izquierda después que
deno seSe
ella. ajustan
aceptaaquela distribución
los datos de lognormal
contaminan-porque ,
habiendo
tes industriales suelen tener una distribución lognormal pero, eso no es la
tenido una marcada asimetría derecha antes de transformación,
un dogma y,
adquieren fuerte asimetría izquierda después de ella. Se acepta
centíficamente tal afirmación debe ser comprobada mediante los métodos de explo-que los datos de
contaminantes industriales
ración de datos contenidos en suelen tener
la mayoría de una distribución
los paquetes lognormal
estadísticos. Los pero,
métodoseso no es
estadísticos tienen, con frecuencia, exigencias en cuanto al tipo de distribución de
los datos a los que aquellos deben aplicarse y, muchas de las mentiras que, injusta-
mente, se le atribuyen a la estadística, proceden de la liviandad con que se ignoran 68
dichas exigencias. Por otra parte, se puede mentir con cualquier disciplina; basta con
que se la use mal.
X = 226.5
S = 470.608
Según lo observado en la figura Nº 1, si la varianza (S2) es mayor que la media,
entonces, la distribución de los datos no podría considerarse poisoniana. Si desea-
mos emplear alguna dócima paramétrica, como el test de t, deberíamos pensar en
usar alguna transformación; ya sea la de raíz cuadrada o la logarítmica, y luego
observar cuál de ellas aproxima mejor los datos a una distribución normal. Esto
puede hacerse con un paquete estadístico como Statgraphics 5.0, como se muestra
a continuación.
74
FIGURA N° 5
Normal
Normal Probability
Probability Plot
Plot
percent
cumulativepercent 99,9
99,9
99
99
95
95
80
cumulative
80
50
50
20
20
5
5
1
1
0,1
0,1 0 300 600 900 1200 1500 1800
0 300 600 900 1200 1500 1800
Recuentos
Recuentos
Con la raíz cuadrada de los datos:
Con la raíz cuadrada de los datos:FIGURA N°6
Con la raíz cuadrada de los datos:FIGURA N°6
FIGURA N°6
Normal
Normal Probability
Probability Plot
Plot
percent
cumulativepercent
99,9
99,9
99
99
95
95
80
cumulative
80
50
50
20
20
5
5
1
1
0,1
0,1 0 10 20 30 40 50
0 10 20 30 40 50
SQRTREC
SQRTREC
YY finalmente,con
Yfinalmente,
con
finalmente, conloslos logaritmos
logaritmos
los dede
logaritmos loslos
de
datos: FIGURA N°7
datos:
los datos: FIGURA N°7
75
FIGURA N°7
76
2.31374
( 3.42115+1.96* )
Lím. Superior = e
L.Superior 17
= 91.93
2.31374
( 3.42115!1.96* )
Lím.
Lim.Inferior
Inferior = e 17
= 10.19
El intervalo geométrico de confianza 95% quedará constituido por:
El intervalo
(10.19, 91.93) con geométrico
media geométrica: de confianza 95% quedará constituido por:
30.6
(10.19, 91.93) con media geométrica: 30.6
3.2. Programas de Evaluación Externa de Calidad
3.2.- Programas de Evaluación Externa de Calidad (PEEC) y Estu
(PEEC) y Colaborativos.
Estudios Colaborativos
Un estudio colaborativo es aquel en que una misma muestra, cuidadosamente ho-
Un estudio colaborativo es aquel en que una misma muestra, cuidadosam
mogeneizada, es analizada por varios laboratorios, generalmente más de 8, y en el
homogeneizada, es analizada por varios laboratorios, generalmente más de
que cada uno de ellos efectúa el análisis usando rigurosamente el mismo método
enevaluación
analítico. En una el que cada unodede
externa ellos la
calidad, efectua
muestraelpuede
análisis
ser usando rigurosamente el m
idéntica para
método analítico. En una evaluación externa de calidad,
todos los laboratorios; pero éstos, no necesariamente usarán el mismo método ana- la muestra puede
lítico. idéntica para todos los laboratorios; pero éstos, no necesariamente usará
mismo método analítico.
Veamos los resultados de un PEEC (Programa de Evaluación Externa de Calidad)
en el que 34 laboratorios
Veamos loschilenos efectuaron
resultados de un elPEEC
recuento de colonias
(Programa de Bacillus Externa de Cal
de Evaluación
cereus, contenidas en ampollas remitidas por el Instituto de Salud Pública
en el que 34 laboratorios chilenos efectuaron el recuento de Chile,
de colonias de Ba
organismo responsable de ese programa.
cereus, contenidas en ampollas remitidas por el Instituto de Salud Públic
Chile, organismo responsable
TABLA 14 de ese programa.
Nº RECUENTO Nº RECUENTO
1 410 18 380
2 600 19 560
3 894 20 660
4 748 21 750
5 TABLA Nº 12:300 22 620
Nº RECUENTO Nº RECUENTO
6 580 23 800
1 410 18 380
7 370 24 350
2 600 19 560
8 710 25 510
3 894 20 660
9 570 26 690
4 748 21 750
10 390 27 740
5 300 22 620
11 460 28 420
6 580 23 800
7 370 24 350
77
8 710 25 510
9 570 26 690
3841MetodosEstadisticos correguido.indd 77 22/4/10 10:45:28
10 390 27 740
12 460 29 600
13
12 630
460 30
29 620
600
Métodos estadísticos en microbiología
14
13 y ensayos810
biológicos
630 31
30 700
620
15
14 340
810 32
31 460
700
12 16460 540 29 33 600
4400
15 340 32 460
13
16630
17 530
540 30 34
33 620
700
4400
14
17810 530 31
34 700700
Puede verse
15 que la observación
340 nN 33, es aparentemente
32 un “outlier”,
460 es decir,
un valor que no parece formar parte del grupo de 34 observaciones que
16
Puede verse 540 33 4400
aparecen en laque
tablala observación nN 33, es aparentemente un “outlier”, es decir,
un valor17que no parece formar 530 parte del grupo
34 de 34 observaciones
700 que
N° 12.
aparecen en la tabla
Puede
N° 12.verse que nola observación nN 33, es aparentemente un “outlier”, es decir, un
Ciertamente, es fácil eliminar una observación extrema. Algunos
valor que no parece formar parte del grupo de 34 observaciones que aparecen en
investigadores
la tabla 14. usan el criterio de emplear el “score” Z:
Ciertamente, no es fácil eliminar una observación extrema. Algunos
investigadores es
Ciertamente, usan eleliminar
criteriouna
de emplear el “score” Z:Algunos investigadores
Z = ( X i ! Xno) / S ,fácil observación
donde S= Desviación extrema.
Estándar de las observaciones.
usan el criterio de emplear el “score” Z:
Z = ( X i ! X ) / S , donde S= Desviación Estándar de las observaciones.
Si
Z= un( X
Z es igual o mayor que 3.0, la observación Xi es eliminada. Este criterio que
i − X ) / S , donde S= Desviación Estándar de las observaciones.
parece tan prometedor, adolece de varios errores :
Si un Z es igual o mayor que 3.0, la observación Xi es eliminada. Este criterio que
Siparece
un Z es igual
tan o mayor que
prometedor, 3.0, lade
adolece observación
varios Xi es eliminada.
errores : como el Este criterio que
1). La media aritmética no es robusta, y en
parece tan prometedor, adolece de varios errores: casos de la tabla Nº 12, se
verá arrastrada en dirección al “outlier”, agrandando la distancia existente entre
1). restantes
1)
las La media
La mediaaritmética
aritméticanono
observaciones es es y robusta,
robusta, y enycasos
la media en casos
hastacomo como laeltabla
el de en
el punto de la
que 14,tabla Nºresultar
se verá
pueden 12, se
verá arrastrada
arrastrada
valores en
Z muyenaltos dirección
dirección al “outlier”, agrandando
al “outlier”, agrandando
que perjudicarán la
la distancia
a laboratorios distancia
que no existente existente
generaron las entre
entrerecuentos
las restantes observaciones y la media hasta el punto en que pueden resultar va-resultar
restantes
extremos. observaciones y la media hasta el punto en que pueden
valores
lores ZZ muy altosque
muy altos queperjudicarán
perjudicarán a laboratorios
a laboratorios quegeneraron
que no no generaron recuentos
recuentos
extremos.
extremos.
Se han desarrollado varios métodos para evitar uno o más de estos problemas. Aquí
trataremos sólo el caso de la media robusta.
X = 4.28
S = 5.2974
X = 4.28
S = 5.2974
Métodos estadísticos en microbiología y ensayos biológicos
La desviación estándar (S) es mayor que la media, y ésta última está desplazada
La desviación estándar
a un (S) es mayor
lugar situado entreque
laslaobservaciones
media, y ésta última
22 y está
23. desplazada
Éste es una caso típico que
un lugar situado entre las observaciones 22
requiere estimadores robustos. y 23. Éste es un caso típico que requiere
estimadores robustos.
Para
Para empezar, empezar, hacemos :
hacemos:
X = 3.5836
X = 3.5836
S = 1.95975
S = 1.95975
Con estos datos podemos repetir el cálculo de U y L:
Con
Conestos
estosdatos podemos
datos repetir
podemos el cálculo
repetir de U ydeL:U y L:
el cálculo
U = 3.5836 + 1.5 * 1.95975 = 6.523225
U = 3.5836 + 1.5 * 1.95975 = 6.523225
L = 3.5836 ! 1.5 * 1.95975 = 0.643975
L = 3.5836 ! 1.5 * 1.95975 = 0.643975
El
Elvalor
valorextremo
extremo deldel
paso anterior
paso (12.2261),
anterior es mayor
(12.2261), que 6.523225,
es mayor por lo por
que 6.523225 que lo que
El valor
tendrá
tendrá queextremo
que adoptar
adoptar del
el elpaso
nuevo
nuevoanterior
valor (12.2261),
U =U
valor 6.523225.
= 6.523225.es mayor
ComoComo que
no hay 6.523225
no valores
hay por
menores
valores lo que
menores
tendrá
que que
que0.643975, adoptar
0.643975,las las el nuevo
restantes valor U
observaciones
restantes = 6.523225.
permanecerán
observaciones Como no hay valores
sin modificaciones.
permanecerán menores
Estos
sin modificaciones.
que
pasos 0.643975,
deben las
repetirse restantes
hasta
Estos pasos deben repetirse que observaciones
dos sucesivas permanecerán
medias sean sin
prácticamente
hasta que dos sucesivas medias sean modificaciones.
iguales.
Estos
Cuando pasos
eso
prácticamente deben
ocurra, la media
iguales. repetirse
resultante
Cuando hasta
esoserá que
un estimador
ocurra, la mediados sucesivas
robusto (Media
resultante medias
Robusta).
será sean
un estimador
prácticamente
La última iguales.
Desviación Cuando
Estándar deberáeso ocurra, la
multiplicarse media
por el resultante
factor 1.134 será
para
robusto (Media Robusta). La última Desviación Estándar deberá multiplicarse por un
ser estimador
con-
robusto
siderada (Media
el factorrobusta. Robusta).
1.134 para La última Desviación
ser considerada robusta. Estándar deberá multiplicarse por
el factor 1.134 para ser considerada robusta.
El procedimiento de rebajar paulatinamente el valor de las observaciones extremas
El procedimiento
mediante de rebajar
el proceso iterativo, paulatinamente
se denomina el valor de las observaciones
“winsorización”.
El procedimiento de rebajar paulatinamente el valor de las observaciones
extremas mediante el proceso iterativo, se denomina “winsorización”.
extremas
El siguientemediante
programa el
enproceso iterativo,
BASIC para CASIO se
FX denomina “winsorización”.
– 880 P permite obtener estimado-
res
El siguiente programa en BASIC para CASIO FX – 880 para
robustos por el método recién descrito que ha sido recomendado analistasobtener
P permite
El siguiente
químicos. programa en BASIC para CASIO FX – 880 P permite
estimadores robustos por el método recién descrito que ha sido recomendado obtener
estimadores
para analistasrobustos por el método recién descrito que ha sido recomendado
químicos.
para analistas químicos.
PROGRAMA N° 11
PROGRAMA N°
ESTIMADORES 11
ROBUSTOS
ESTIMADORES ROBUSTOS
10 CLEAR:CLS
10 CLEAR:CLS
20 PRINT “ROBUSTOS(ARITMÉTICA)”
20
25 PRINT “ROBUSTOS(ARITMÉTICA)”
PRINT 80 ;: INPUT N
“Número de Observaciones”
25 PRINT
30 DIM X(N) “Número de Observaciones” ;: INPUT N
30
35 A=0:DIM X(N) B=0
35
40 FOR A=0:
3841MetodosEstadisticos B=0
correguido.indd
I=1 TO 80 N 22/4/10 10:45:33
Luis Rodríguez Aguayo
PROGRAMA 11
ESTIMADORES ROBUSTOS
10 CLEAR:CLS
20 PRINT “ROBUSTOS(ARITMÉTICA)”
25 PRINT “Número de Observaciones”;: INPUT N
30 DIM X(N)
35 A=0: B=0
40 FOR I=1 TO N
50 PRINT “X(“;I;”)=”;:INPUT X(I)
60 A=A+X(I): B=B+X(I)^2
70 NEXT I
80 MX=A/N: S=SQR((B-A*A/N)/ (N-1)): PRINT “ Media=”; MX, “S=”; S
90 SS= 1.134*S: PRINT “S*1.134=”; SS
95 U=MX+1.5*S: L=MX-1.5*S: PRINT “U=”; U, “L=”; L
97 A=0: B=0
100 FOR I=1 TO N
110 IF X(I) >U THEN X(I)=U ELSE 120
120 IF X(I) <L THEN X(I)=L ELSE 130
130 IF X(I)<U OR X(I)>L THEN X(I)=X(I)
135 A=A+X(I): B=B+X(I)^2
140 NEXT I
150 GOTO 80
160 END
Usando este programa con los datos de la tabla 15, resultan las siguientes estima-
ciones por iteración:
TABLA 16
Iteración Media S S* U L
1 4.28042 5.2974 6.0 12.2265 -3.6657
2 3.5836 1.95975 2.22 6.5232 0.64398
3 3.346 0.9537 1.0815 4.77655 1.91538
4 3.2522 0.6905 0.783 4.288 2.2164
5 3.2129 0.6029 0.6837 4.1172 2.3085
6 3.2063 0.5646 0.6403 4.05326 2.3594
7 3.2052 0.5489 0.6225 4.02861 2.3818
8 3.205 0.54266 0.61537 4.019 2.391
9 3.205 0.54 0.61257 4.0153 2.39473
10 3.205 0.5392 0.61147 4.01382 2.3962
11 3.205 0.53883 0.61104 4.01325 2.39675
12 3.205 0.53868 0.6109 4.013 2.39697
13 3.205 0.53863 0.6108 4.01294 2.39706
81
Las dos primeras iteraciones, ya las habíamos calculado manualmente más arriba.
En esta tabla: S*= 1.134 S.
Nuestra Media Robusta es: 3.205, y la Desviación Estándar Robusta es: 0.61.
4.2, 4.5, 4.9, 5.2, 5.6, 6.2, 9,9, donde la Mediana = 5.2 es un hallazgo inmediato.
Como segundo paso, obtenemos las diferencias o distancias entre cada observación
y la Mediana, como se ve en el siguiente listado:
El valor 1.4826 es el recíproco de 0.6745. Ese valor fue escogido porque el área bajo
la curva normal entre: -0. 6745 y 0.6745 es: 0.5.
Si empleamos Stata 6.0 creando una columna denominada var1 que contenga las 24
observaciones de la tabla 13, podemos obtener los estimadores robustos como se
indica a continuación (Hamilton, L., 1998):
.rreg var1
Con estos comandos logramos una Media Robusta = 3.14502, con Límites de Con-
fianza 95%: (3.424819; 2.865221) y Desviación Estándar = 0.6626
Para este resultado, Stata 6.0 usó cuatro iteraciones con factores de ponderación,
seguidas de otras tres con biponderación (Biweighted). Puede observarse que la di-
ferencia, entre estos estimadores con aquellos generados por el programa 11, según
las recomendaciones de Lowthian y Thompson, no es alarmante.
Después de obtener los estimadores robustos, es posible eliminar los valores extre-
mos, empleando “Scores” Z, como se indica a continuación:
82
Z=
[X i − X R ]
SR , donde:Xi es el valor de cada observación original; X R es la me-
dia robusta y SR es la desviación estándar robusta. Lowthian y Thompson sugieren
eliminar aquellas observaciones que generen Z≥2.5.
Una vez que esa eliminación ha sido realizada, se deben obtener nuevos estima-
dores robustos con los cuales se evalúa la calidad diagnóstica de cada laboratorio
participante con sus respectivos “scores” Z. Uno de los programas más importantes
en control externo de calidad es FEPAS (FOOD EXAMINATION PERFORMANCE
ASSESSMENT) del Reino Unido.UK (FEPAS. 1998). Algunos laboratorios de Chile
participan en ese programa, En él, se indica el uso de estimadores robustos tal
como se acaba de describir, para establecer el Valor de Consenso que es el pro-
medio de los resultados de todos los laboratorios participantes. Los “scores” Z, se
grafican como distancias entre cada laboratorio y la media robusta (de consenso);
cuando un laboratorio genera un Z ≥3, se entiende que ha tenido un pobre desem-
peño analítico.
Tendremos así una tabla de ceros y unos como la que se muestra a continuación:
83
TABLA 17
2 1 1 1 1 0 1
3 0 1 1 1 0 1
4 1 0 1 1 1 1
5 0 0 0 1 1 0
6 0 1 0 0 1 0 NEGATIVAS
7 0 0 0 0 0 0
Primero, construiremos una tabla con la nueva codificación de los datos en términos
de aciertos y desaciertos ( 1; 0).
TABLA 18
Laboratorios
Muestras 1 2 3 4 5 6
Sj
S 2j
1 1 1 1 0 0 1 4 16
2 1 1 1 1 0 1 5 25
84
Muestras 1 2 3 Luis
4 Rodríguez
5 6 ASguayo
j S2 j
1 1 1 1 0 0 1 4 16
3 0 1 1 1 0 1 42 1 1 116 1 0 1 5 25
4 1 0 1 1 1 1 53 0 1 125 1 0 1 4 16
5 1 1 1 0 0 1 44 1 0 116 1 1 1 5 25
6 1 0 1 1 0 1 45 1 1 116 0 0 1 4 16
7 1 1 1 1 1 1 66 1 0 136 1 0 1 4 16
6 5 7 5 2 7 327 1 1 1150 1 1 1 6 36
Ti 6 5 7 5 2 7 32 150
Ti
2 36 25 49 25 4 49 188 36 25 49 25 4 49 188
Ti Ti 2
Ti muestra
La filalas muestra
Ti sumas las sumas de aciertos por laboratorio; la suma de esas suma
La fila de aciertos por laboratorio; la suma de esas sumas
es=32. Puede observarse que el laboratorio 5, Ttiene = sólo 2 aciertos ( Ti = 2),
es=32. Puede observarse que el laboratorio 5, tiene sólo 2 aciertos ( i 2), y puede
puede pensarse que es unS “outlier”. Por su parte S j , presenta la suma de lo
pensarse que es un “outlier”. Por su parte j , presenta la suma de los aciertos de
aciertos
cada laboratorio de muestra;
con cada cada laboratorio
la suma de con cada muestra;
esas sumas la suma de esas sumas e
es también=32.
también=32.
2
Ti y S contienen
2
j Ti y de S j , respectivamente. El total de la
2 los
2 cuadrados de:
T y S contienen los cuadrados de: Ti y de S j , respectivamente. El total de
S 2j
2 i j
T
fila i es 188,
filay Tlai de
2
esla188,
columna
y la de la, es 150, ambas
columna S 2j ,en
esnegrilla.
150, ambas en negrilla.
Sabiendo queSabiendo
tenemos: Lque
= 6tenemos:
laboratorios,
L =podemos calcular podemos
6 laboratorios, el estadístico Q con el
calcular la estadístico Q co
siguiente expresión:
la siguiente expresión:
(L ! 1)(Ti 2 ! (Ti )2 / L )
Q=
(S ! S / L ) j
2
j
Q=
(6 ! 1)(188 ! 32 / 6)= 12.38095238 2
(32 ! 150 / 6)
La Hipótesis de
La Nulidad es: Tde
Hipótesis 1
=TNulidad
2
=,......,=TL,es:
y laTHipótesis Alternativa
1 =T2 =,...... ,=TL, y lapuede expre- Alternativa pued
Hipótesis
sarse como: “Hay por lo menos
expresarse como:una diferencia”
Sabiendo que Q se distribuye aproximadamente Ji2, con (L-1) grados de libertad, y
Hay por lo menos una diferencia.
especificando α = 0.05, obtenemos un p= 0.03 que nos sugiere que hay por lo me-
nos un laboratorio que no tuvo la misma eficiencia diagnóstica que sus pares.
85
PROGRAMA 12
Q de COCHRAN
350 CLEAR: CLS
355 PRINT “Q COCHRAN”
360 INPUT “NÚMERO DE LABORATORIOS”; L
370 INPUT “NÚMERO DE MUESTRAS(BLOQUES)”; N
380 DIM A(N,L): A=0: B=0: A1=0: B1=0
390 FOR I=1 TO N
400 FOR J=1 TO L
410 PRINT “Muestra(“;I; “, Laborat.”; J; “)”;: INPUT A(I,J)
412 NEXT J, I
413 FOR I=1 TO N
414 FOR J=1 TO L
420 A(I, 0)= A(I, 0)+ A(I,J): A(0, J)= A(0, J)+ A(I,J)
430 NEXT J
440 NEXT I
450 FOR I=1 TO N: A=A+A(I,0): B=B+ A(I,0)^2: NEXT I
455 FOR J=1 TO L:A1=A1+ A(0,J): B1=B1+ A(0,J)^2: NEXT J
460 PRINT “Sj=”; A, “Sj2=”; B, “Ti=”; A1, “Ti2=”; B1
470 Q=(l-1)*(B1-A1^2/L)/ (A-B/L)
480 PRINT “Q COCHRAN=”;Q; “con G.L.(“;L-1; “)”
485 GOSUB 1000
487 CLS: P=1-J*K*L: PRINT “p=”; P
490 END
1000 V=L-1: W=Q
1760 IF V=0 THEN GOTO 350
1770 R=1
1800 FOR I=V TO 2 STEP-2
1810 R=R*I: NEXT I
1830 K=W^(INT((V+1)/2))*EXP(-W/2)/ R
1840 IF INT(V/2)= V/2 THEN 1870
1850 J=SQR(2/W/3.14159
1860 GOTO 1880
1870 J=1
1880 L=1: M=1
1900 V=V+2: M=M*W/V
1920 IF M<0.0000001 THEN 1950
1930 L=L+M
1940 GOTO 1900
1950 RETURN
Usando este programa con los datos de la tabla 16, se obtiene Q=12.38095238 con
G.L.=5, y p=0.029925, como fue calculado anteriormente en forma manual.
86
En la subrutina contenida entre las líneas: 1000 y 1950, se calcula el valor p del Q
de Cochran.
En la subrutina contenida entre las líneas: 1000 y 1950, se calcula el valor p del
3.4.1. Verificación de la presencia de “Outliers”
Q de Cochran.
Como se sospecha que el laboratorio 5 puede ser un “outlier”, se aplicará otra dóci-
3.4.1.- ma
Verificación de la
para constatar quepresencia de es
esa sospecha “outliers”.
efectiva. Para eso, dividiremos los laborato-
rios en dos grupos: el primero formado –en este caso–, por sólo el laboratorio 5, y
elComo se constituido
segundo sospecha porqueelelresto
laboratorio 5, puede ser un “outlier”, se aplicará otra
de los laboratorios.
dócima para constatar que esa sospecha es efectiva. Para eso, dividiremos los
Datos requeridos
laboratorios endel
dosgrupo “outlier”
grupos: el (Laboratorio 5):
primero formado –en este caso-, por sólo el
Tlaboratorio
1
=2, la suma5,de
y el segundo constituido por el resto de los laboratorios.
aciertos.
LDatos
1
= 1, sólo un laboratorio.
requeridos del grupo “outlier” (Laboratorio 5):
ST==2,
7, número
la sumadedemuestras analizadas por el laboratorio 5.
aciertos.
1
RL11=
= 1,
T1 sólo un laboratorio.
/ (L1S)= 2/(1*7)= 0.286
S = 7, número de muestras analizadas por el laboratorio 5.
Datos
R1 = Trequeridos
1 / (L1S)=del grupo formado
2/(1*7)= 0.286 por los cinco laboratorios restantes.
T2= 6+5+7+5+7= 30, la suma de aciertos del grupo.
Datos requeridos del grupo formado por los cinco laboratorios restantes.
LT2 2== 5,
6+5+7+5+7= 30, la suma de aciertos del grupo.
número de laboratorios.
L2 = 5, número de laboratorios.
SS==7,7,número
númerodede muestras
muestrasanalizadas por cada
analizadas laboratorio.
por cada laboratorio.
R = T /(L S)= 30 / (5*7)
R = T /(L S)= 30 / (5*7) = 0.857
2 2 2 = 0.857
2 2 2
La
Ladócima
dócimaindicada porpor
indicada F. McClure para comparar
F. McClure ambas ambas
para comparar proporciones es:
proporciones es:
Q1 =
((L ! 1)/ L1 L2 )( L1T2 ! L2T1 ) 2
(LS j ! S 2j )
Q1 =
((6 ! 1)/ 1 * 5)(1 * 30 ! 5 * 2)2 = 9.524
(6 * 32 ! 150)
Como Q1 se distribuye aproximadamente Ji2, con 1 grado de libertad ,(no de
Como Q1 se distribuye
grupos-1), obtenemos aproximadamente
el valor p = Ji0.002028.
2
, con 1 grado Con de esta
libertad, (no de gru-
evidencia muestral,
pos-1),
podemos obtenemos el valor
concluir que p la
= 0.002028.
proporciónCon deesta aciertos
evidencia muestral, podemos 5, es
del laboratorio
concluir que la proporción
significativamente de aciertos
inferior del laboratorio
a la que muestra el 5 esresto
significativamente inferior Ese
de los laboratorios.
alaboratorio
la que muestra el resto de los laboratorios. Ese laboratorio es, por
es, por lo tanto, un “outlier” que debe excluirse de subsiguienteslo tanto, un
“outlier” que debe excluirse de subsiguientes comparaciones. Llama
comparaciones. Llama la atención que, si se comparan las dos proporciones: la atención que,
siRse=2/7
comparan
y R2 las
= dos proporciones:
30/35 mediante Rla 1
=2/7
Pruebay R2 =Exacta
30/35 mediante
de Fisher,la Prueba Exac-
se obtenga p =
1
ta de Fisher, se obtenga p = 0.00488 (una cola).
0.00488,(una cola).
Para poder substituir valores en esta expresión, debemos entender la simbología que
sePara
expone a continuación:
poder substituir valores en esta expresión, debemos entender la simbología
L=que se exponeiniciales.
6 laboratorios a contiuación:
L 2=
L=5 6laboratorios restantes
laboratorios después de eliminar el n° 5.
iniciales.
∑LT= 5=laboratorios
2
2 i2 restantes
184, es la suma de los después
T eliminar
valores dede la tablael
2
16,n°excluyendo
i 5. el del “out-
lier”.
!T 2
= 184, es la suma de los valores Ti 2 de la tabla 16, excluyendo el del
(T“outlier”.
i) =
2 i2
Ti
2
30 , es el total de los valores ,sin el del “outlier”, y elevado al cuadrado=
900.
(T 302 , es el total de los valores Ti ,sin el del “outlier”, y elevado al
i) =
2
∑ cuadrado=
Sj =
32,
900.
es la suma de todos los aciertos por muestra
Sj
en laStabla 16.
! S j = 32, es la suma de todos los aciertos por muestra j en la tabla 16.
∑!S S = 150,
2 2
= 150, es la suma de la columna
j j
es la suma de la columna
2
S S de la tabla 16.
j
de la tabla 16.
2
j
Con
Con estos
estos datos,
Q3 nos
datos, Q3 nos
da: da:
Q3 =
(6(6 ! 1)/ 5)(5 *184 ! 30 2 )= 2.857 con 4 grados de libertad,(L2-1); p=0.582
(6 * 32 ! 150) con 4 grados de libertad (L2-1);
p=0.582
Con hipótesis análogas a las planteadas en el caso de Q1 , podemos aceptar
que
Con no hay
hipótesis diferencias
análogas significativas
a las planteadas en elentre losQ15, podemos
caso de laboratorios queque
aceptar quedaron
nodespués de la eliminación
hay diferencias significativasdel laboratorio
entre n° 5.
los 5 laboratorios que quedaron después de
la eliminación del laboratorio n° 5.
3.4.2.- Sensibilidad y Especificidad.
3.4.3. Sensibilidad y Especificidad
Volvamos ahora a la tabla n° 15. Nos interesan el número de respuestas
Volvamos ahora a la tabla 17. Nos interesan el número de respuestas positivas
(a)positivas
y el total (a) y el totalanalizadas
de muestras de muestras analizadas
(m), por (m), por
cada laboratorio. cada
Para laboratorio.
determinar la Para
determinar la sensibilidad del método analítico que estamos probando,
empleamos la porción de muestras sabidamente positivas, excluyendo el
laboratorio n° 5. 88
TABLA 19
1 1 1 0 1 4 3
2 1 1 1 0 4 3 Positiva
3 1 1 1 1 4 4
4 0 1 1 1 4 3
6 1 1 1 1 4 4
∑ m = 20
20
∑ a = 17
17
∑ m = 20
802
∑ a = 59
59 2
∑"a a −!(∑
("aa))/ L/ L
2 2
2 2
Error
Error Est!ndar( p( +p)+ )==
Estándar
(L(L−!1)1)
mm2 L2 L
5959−!17172 2/ 5/ 5
ErrorEst!ndar ( +p + ) = 16 * 5 + 4 ==0.006124
ErrorEstán dar ( p ) = .06124
16 * 5 +*4
Los límites aproximados de confianza se pueden calcular usando t
α=0.025; (4)
=2.7764,
Los límites aproximados de confianza, se pueden calcular usando
resultando: t�=0.025;
(4) =2.7764, resultando:
Límites= 0.85±2.7764*0.06124; (0.68; 1.0)
Límites= 0.85±2.7764*0.06124; (0.68; 1.0)
Para el cálculo de la Especificidad se debe construir otra tabla con la porción nega-
tiva de la tabla 17.
Para el cálculo de la Especificidad se debe construir otra tabla con la porción
negativa de la tabla 15
TABLA N° 18
Laboratorio Respuestas m a Porción
1 0 0 0 3 3
2 0 1 0 3 2
3 0 0 0 89 3 3 Negativa
4 1 0 0 3 2
6 0 0 0 3 3
3841MetodosEstadisticos correguido.indd 89 22/4/10 10:45:41
m = 15 a = 13
Los límites aproximados de confianza, se pueden calcular usando t�=0.025;
(4)=2.7764, resultando:
Laboratorio
TABLA N° 18 Respuestas m a Porción
Laboratorio Respuestas m a Porción
1 0 0 0 3 3
2 10 1 0 0 0 3 0 32 3 Negativa
3 20 0 0 0 1 3 0 33 2
4 31 0 0 0 0 3 0 32 3 Negativa
6
40 0 0
1 0 3
0 33 2
6 0 0 0 3 3
∑ m = 15
15 ! m = 15 ! a = 13
∑ a =13
13
∑ m = 45 2
45
! m = 45 ! a = 35
2 2
∑ a = 35
352
! a 13 = 0.867
Especificidad ( p " ) = ∑ a =13
13
Especificidad ( p − ) = ! m = 15 = 0.867
∑ m 1515
" aa −! ((∑
∑ aa)) // LL
2 2
2
Error Est!ndar(( pp−! )) ==
ErrorEstándar
2
"
0.85
m 2 LL((LL −!11))
2
m
3535 −!131322 // 55
ErrorEstán dar ( p ) =
ErrorEst!ndar ( p−! ) = = 0.08165
99 ** 55 ++ 44 = 0.08165
ElElejemplo
ejemplooriginal
original del
del trabajo
trabajo dede McClure
McClureteníatenía1515
laboratorios, cinco
laboratorios, muestras
cinco muestras
positivas y cinco negativas. Se remite al lector a ese trabajo para la demostración
positivas y cinco negativas. Se remite al lector a ese trabajo para la demostración
dedeque,
que elelnúmero
númeroóptimo de laboratorios
óptimo y muestras
de laboratorios y positivas
muestrasdebe ≥362. ser
ser: Lm2debe
positivas
Para
2 el presente ejemplo, con L=7, y m=4, tenemos: 112, un número
:Lm �362. Para el presente ejemplo, con L=7 , y m=4, tenemos: 112 , un número insuficiente
para valorar un método analítico de manera confiable. Con los datos de McClure,
resulta: 15*52= 375.
90
Esta prueba fue desarrollada en los años 70 por Bruce Ames y se ha popularizado
por ser ingeniosa, confiable y comparativamente barata.
Se agregan entre 107-108 células de Salmonella a placas Petri que contienen medio
de cultivo con trazas de histidina, para permitir un muy limitado crecimiento de la
bacteria; la substancia mutagénica y S9, si se considera adecuado. Las placas se
cultivan por dos o tres días a 37°C. Sólo las mutantes continuarán multiplicándose
hasta que sus colonias sean visibles a simple vista (Kirkland, 1989). El diseño ha-
bitual de la prueba incluye un control negativo, un control positivo, y cinco concen-
traciones del mutágeno en duplicado o triplicado. Las diluciones van separadas por
factores de dilución 2; 3; 4 ó 5.
TABLA 21
91
3.8 152 11
3.8 159 12 37 82
5 178 15
5 149 10
5 163 13 38 -
L=174.5
El valor L= 174.5 es menor que el valor crítico = 184 que aparece en la tabla de
Wahrendorf en negrilla, por lo que se puede concluir que el crecimiento de las su-
mas de rangos, a medida que aumentan las concentraciones del mutágeno, no
debe ser un mero resultado del azar. Eso significa confiabilidad de la prueba.
TABLA 22
Diseño 1% 5%
222 - 14
2222 37 40
22222 79 87
222222 147 159
422 32 34
4222 73 80
42222 140 150
422222 235 252
333 29 33
3333 85 93
33333 184 199
333333 340 363
633 74 79
6333 170 182
63333 322 342
633333 543 574
444 54 60
4444 155 168
44444 334 357
92
TABLA 23
Diámetro mm Diámetro mm
Patrón. Problema.
S1 S2 S3 T1 T2 T3
Bloque 1.25 2.5 5.0 1.25 2.5 5.0
1 7 10 12 6 11 12
2 6 11 13 6 10 12
3 7 10 14 6 9 12
4 6 11 12 7 12 13
5 6 10 14 6 11 13
Suma 32 52 65 31 53 62
93
Las dosis: 1.25 2.5 5.0 son crecientes por un factor de dilución: 2.
Las sumas que aparecen en la línea inferior de la tabla n° 21, se multiplican por
cada línea de factores de la siguiente tabla de coeficientes ortogonales.
TABLA 24
Varianzas
EFECTOS S1 S2 S3 T1 T2 T3 fx2 Rx (Rx)2/fx2
Patrón vs. Problema -1 -1 -1 1 1 1 30 -3 (-3)2/30=0.3
Regresión -1 0 1 -1 0 1 20 64 642/20=204.8
Falta de Paralelismo 1 0 -1 -1 0 1 20 -2 (-2)2/20=0.2
Curvatura 1 -2 1 1 -2 1 60 -20 (-20)2/60=6.67
Curvaturas Opuestas -1 2 -1 1 -2 1 60 -6 (-6)2/60=0.6
32 52 65 31 53 62
∑ de Respuestas (R)
Rx = -1*32-1*52-1*65+1*31+1*53+1*62= -3
94
PROGRAMA 13
LÍNEAS PARALELAS
S1, S2, S3 son las tres dosis del Patrón; T1,T2 y T3 son las dosis de la pre-
paración Problema.
497 PRINT “SC prep.=”; PRE, “SC regresión=”; REG, “SC paralelismo=”; PAR, “SC cuadráticas=”;
CUA, “SC curvas opuestas=”; OP
500 BB=(S3-S1+T3-T1)/(4*N*II): MS=(S1+S2+S3)/3: MT=(T1+T2+T3)/3: MM=(T1+T2+T3-S1-S2-
S3) / (S3-S1+T3-T1)*(4*II/3)
510 CO=0: FOR I=1 TO N
520 CO=CO+(A(I,0)^2): NEXT I
530 COB=CO/6-FC: BLO=COB/(N-1)
540 SSE=SST-COB-(PRE+REG+PAR+CUA+OP): TRA=(PRE+REG+PAR+CUA+OP): GL= 5*(N-1): SS2=
SSE/GL
95
560 GG=1-(4*N*T^2*SS2)/(S3-S1+T3-T1)^2
570PP=MM/GG:VPP=(T*SQR(SS2)) / (BB*GG)*(GG*2/(3*N)+MM^2/(4*N*II^2))^0.5
580 LU= 10^(PP+VPP): LI=10^(PP-VPP)
590 PRINT “F regresión=”; REG/SS2; “(1:”;GL;”)”
600 PRINT “F paralelismo=”;PAR/SS2;”(1:”;GL;”)”
610 PRINT “F preparaciones=”; PRE/SS2; “(1:”;GL;”)”
620 PRINT “F cuadráticas=”; CUA/SS2;”(1:”;GL;”)”
630 PRINT “F cuadr.opuestas=”; OP/SS2;”(1:”;GL;”)”
635 K1=1: K2=GL:P=0.95:GOSUB 1040
637 PRINT “F (valor crítico)”; F
640 PRINT “F Bloques=”;BLO/SS2;(“;N-1;”,”;GL;”)”
645 K1=N-1: K2=GL:P=0.95:GOSUB 1040
647 PRINT “F (valor crítico)”; F
650 PRINT “POTENCIA=”; 10^(MM),”Límite Superior=”; LU,”Límite Inferior=”;LI
660 END
1000 A=A+A(I,J): B=B+A(I,J)^2
1010 RETURN
1040 AK=SGN(0.5-P):BK= -LN(1-AK+2*AK*P)
Nótese que la subrutina contenida entre las líneas:1040 y 1160, calcula los valo-
res críticos de los F (Razones de Varianzas) mediante una aproximación (Cooke,
Craven, Clarke,1984), que fue mejorada en este libro, con el algoritmo de Derenzo
(líneas: 1040 a 1050).
96
TABLA 25
N t GL
4 2.1314 15
5 2.086 20
6 2.0595 25
7 2.0423 30
8 2.0301 35
9 2.0211 40
10 2.0141 45
11 2.0086 50
12 2.004 55
LÍNEAS PARALELAS<exe>
Número de Bloques? 5
A(1, 1) PATRÓN: 7
A(1, 2) PATRÓN: 10
A(1, 3) PATRÓN: 12
A(1, 4) PROBLEMA: 6
A(1, 5) PROBLEMA: 11
A(1, 6) PROBLEMA: 12
Factor de Dilución: 2
SC total= 226.166......
SC preparaciones= 0.3
SC regresión= 204.8
SC falta de paralelismo= 0.2
SC curvas = 6.66....
SC curvas opuestas= 0.6
T Student, alfa:0.025, gl(20)? 2.086, tomado de la tabla N° 23.
F regresión= 333.9130433 (1; 20)
F paralelismo = 0.326...(1; 20)
F preparaciones = 0.489...(1; 20)
F curvas = 10.869...(1; 20)
F curvas opuestas= 0.6 (1; 20)
97
Todo valor F observado (Regresión, etc.) que supera al valor crítico (4.35 en este
caso), es considerado motivo de interpretación cuidadosa. El único F que siempre
DEBE superar al valor crítico es el de regresión, dado que, en caso contrario significa
que el diseño escogido no fue capaz de detectar el aumento de dosis para dar res-
puestas también crecientes.
Si el F de paralelismo es mayor que el F crítico, significa que las dos líneas de regre-
sión NO son paralelas; un problema que obliga a declarar inválida la prueba.
No hay vacuna que sea totalmente efectiva ni que sea absolutamente inefectiva. La
vacuna contra el Sarampión, por ejemplo, es efectiva en 80-95% siempre que su
temperatura de almacenamiento sea la adecuada, y que se la administre apropia-
damente.
El estudio de eficacia ideal es un ensayo clínico que parte tomando personas sus-
ceptibles a la enfermedad. En un ensayo aleatorizado, controlado con un placebo, y
doble ciego, la mitad de los individuos recibe la vacuna, y la otra mitad un placebo.
Para calcular la eficiencia, se practica un seguimiento para determinar las tasas de
incidencia en ambos grupos.
98
ambos grupos, ellos siguen siendo una muestra, y como tal, tiene una variación
implícita que puede generar desagradables sorpresas en eventuales repeticiones
posteriores del ensayo.
TABLA 26
Casos No Casos
Vacunados 4 (a) 41996 (b) 42000
No Vacunados 21 (c) 41979 (d) 42000
ARU=c/(c+d)=21/42000= 0.0005
11−! ARV
ARV 11−! ARU
ARU
RR±±11..9696
lnln R ++
Limites =
Limites
Límites = ee aa cc
11−!00..000095238
000095238 11−!00..0005
0005
−!11..6581
6581±±11..9696 ++
Limites =
Limites
Límites = ee 44 2121
Los
Loslímites
límitesdel
delRiesgo Relativo
Riesgo son:son
Relativo 0.555 y 0.0654.
: 0.555 y 0.0654.
En cuanto a los límites de la eficacia, ellos se calculan:
En cuanto a los límites de la eficacia, ellos se calculan:
Límite Inferior de la Potencia = 1-0.555 = 0.445, (44.5%)
Límite Inferior de la Potencia = 1-0.555 = 0.445, (44.5%)
Límite Superior de la Potencia = 1-0.0654 = 0.9346, (93.46%)
Limite
Es Superior de
desilusionante quelaelPotencia = 1-0.0654
límite inferior nos diga =que
0.9346, (93.46%)
la vacuna no es tan buena como
sugería la potencia de 80.95%. De ahí la importancia de no olvidar jamás el cálculo
Es intervalo
del desilusionante que el límite inferior nos diga que la vacuna no es tan buena
de confianza.
como sugería la potencia de 80.95%. De ahí la importancia de no olvidar jamás el
cálculo del intervalo de confianza.
99
APÉNDICE 1
TABLA 27
DE 50 = 40.48 mg/L, con límites de confianza 95%: (40.44 a 41.25 ). Además, tene-
mos un Ji2 con 3 grados de libertad = 52.125, que es un valor enorme que supera
largamente el valor crítico ( 7.8147 para α = 0.05 ), por lo que tendríamos fuertes
razones para sospechar que los datos no pudieron ser ajustados a un modelo lineal,
y que el método Probit ha fallado lastimosamente.
Si observamos los datos de la tabla 27, veremos que hay oscilaciones de positivi-
dad-negatividad, y una fuerte caída de la proporción de muertes; desde 1.00 a 0.158
para las dos concentraciones del extremo derecho de la tabla 27.
Por otra parte, las dosis están separadas por distancias variables; un verdadero
desastre.
101
En vista de que, tanto Probit como Logit dan resultados inconfiables, los investi-
gadores probaron con el método de Spearman-Karber confiando en su reconocida
robustez, pero éste también mostró algún grado de sensibilidad a tanta dificultad.
Hamilton y colaboradores (Hamilton, Russo and Thurston, 1977), desarrollaron un
método que usa el ABERS ( Ver Capítulo 2 ) y un podado o recortado de los extremos
más influyentes.
La siguiente tabla resume los pasos que deben seguirse para llegar a calcular una
DE 50 más confiable.
TABLA 28
Grupo i 1 2 3 4 5
Concentración Mg/L 15.54 20.47 27.92 35.98 55.52
Loge Concentración Xi 2.7434 3.019 3.3293 3.583 4.0167
No de Peces ni 20 20 20 19 20
No de Muertos pi 0 1 0 3 20
Prop. De Muertes 0.0 0.0 0.05 0.0 0.159 1.00
Prop. Corregida ABERS
Los 0.0 pasos0.0 usarán
siguientes 0.025los logaritmos
0.025 0.158 1.00 de las dosis y
naturales
proporciones ~
p que han sido
Puede observarse que el ABERS ha creado una corregidas comode
serie sin altibajos sepositividad.
muestra en la fila inferior d
tabla 25.
Los siguientes pasos usarán los logaritmos naturales de las dosis y las proporciones
~
p que han sidoHamilton
corregidaspropuso
como seutilizar
muestraunenvalor
la filadenominado
inferior de la tabla
�, que25. debe ser escogido ent
(X + Xj)
Log e DE 50 = !
j "1
(~p j p j "1 )
"~
j 2
Log e DE 50 =
(2.7434 + 3.019)(0.025 ! 0.0)+ (3.019 + 3.3293)(0.025 ! 0.
2 2
+
(3.3293 + 3.583)(0102
.158 ! 0.025)+
(3.583 + 4.0167 )(1.0 ! 0.158) = 3.731
2 2
DE 50 = e 3.7312 = 41.73mg / L
3841MetodosEstadisticos correguido.indd 102 22/4/10 10:45:45
La fórmula general, válida para todos los casos es:
(X + Xj)
Log e DE 50 = !
j "1
(~p j p j "1 )
"~ Luis Rodríguez Aguayo
j 2
Log e DE 50 =
(2.7434 + 3.019)(0.025 ! 0.0)+ (3.019 + 3.3293)(0.025 ! 0.025)
2 2
+
(3.3293 + 3.583)(0.158 ! 0.025)+ (3.583 + 4.0167 )(1.0 ! 0.158) = 3.7312
2 2
DE 50 = e 3.7312 = 41.73mg / L
Si uno mira cuidadosamente la tabla 25, no debería tener dificultades para calcular
Si uno mira cuidadosamente la tabla 25, no debería tener dificultades para
la DE50.
calcular la DE50.
Veamos ahora cómo se recorta el S-K.
Veamos ahora como se recorta el S-K.
Casi siempre conviene empezar con α = 0.1, pero puede ser conveniente usar otro
valor.
Casi siempre conviene empezar con � = 0.1, pero puede ser conveniente usar
otro valor.
Ese valor: ( 0.1), significa que recortaremos simétricamente las probabilidades de
muerte en un 0.1),
Ese valor:( 10% en cada extremo.
significa que recortaremos simétricamente, las probabilidades
de muerte en un 10% en cada extremo.
Para ver el efecto del “podado”, tenemos que graficar los logaritmos de las dosis, y
~
p corregidos,
losPara como
ver el efecto delse“podado”,
ve en el gráfico
tenemossiguiente:
que graficar los logaritmos de las
dosis, y los ~
p corregidos, como se ve en el gráfico siguiente:
FIGURA Nº 8
FIGURA Nº 8 :
Spearman-Karber Recortado TSK
1
0.9 p:0.9 , X:3.9652
0.8
0.7
0.6 94
p
0.5
0.4
0.3
0.2 p:0.158 , X:3.583
p:0.1 , X:3.4724
0.1
0
2.72.82.9 3 3.13.23.33.43.53.63.73.83.9 4 4.14.2
Logdosis
Podemos observar que, las abscisas trazadas a nivel p: 0.1 y 0.9 cortan la línea que
une las observaciones en dos lugares. En el primero de ellos, a la probabilidad = 0.1,
le corresponde
Podemos un logaritmo
observar que, las= abscisas
3.4724 (leyendo en la
trazadas abscisa).
a nivel En ely segundo,
p : 0.1 a la
0.9 cortan la línea
que une las observaciones en dos lugares. En el primero de ellos, a la
probabilidad = 0.1, le corresponde un logaritmo = 3.4724 (leyendo en la abscisa).
En el segundo, a la probabilidad 0.9, le corresponde el logaritmo 3.9652.
Finalmente, la dosis que quedó al medio,
103 y que no fue afectada por los cortes,
conserva sus valores originales.
Las tres observaciones que quedaron a la izquierda y por debajo de p = 0.1, fueron
eliminadas, al igual que aquella que estaba por encima de p = 0.9.
P=
( p −α)
~
(1 − 2α )
Con ella, calcularemos los P definitivos como sigue.
TABLA No 27 : Loge Pi
Log
3.9652
e Pi 1.0
3.9652 1.0
3.583
3.583 0.0725 0.0725
3.4724
3.4724 0.0 0.0
Empleando finalmente
Empleando finalmentelalafórmula general,tenemos:
fórmula general, tenemos:
Log e DE 50 =
(3.4724 + 3.583)(0.0725 ! 0.0)+ (3.9652 + 3.583)(1.0 ! 0.0725) = 3.7562
2 2
3.7562
DE 50 = e = 42.79mg / L
Pese a que, Hamilton y colaboradores postulan que el TSK funciona bién en todos
los casos, hay algunos ejemplos en la literatura (Sanathanan, Gade and
104
Shipkowitz, 1987), que muestran varias excepciones.
Por otra parte, la varianza de la DE50 obtenida por el TSK es sólo aproximada, y
en las excepciones mencionadas, no fue posible calcularla.
3841MetodosEstadisticos correguido.indd 104 22/4/10 10:45:47
Luis Rodríguez Aguayo
Pese a que Hamilton y colaboradores postulan que el TSK funciona bien en todos
los casos, hay algunos ejemplos en la literatura (Sanathanan, Gade and Shipkowitz,
1987) que muestran varias excepciones.
Como esa varianza se pueden obtener expresiones que demandan gran paciencia
y laboriosidad, que no serán incluidas en este libro; sobre todo, atendiendo a las
críticas de Sanathanan y colaboradores.
El TSK es usado con frecuencia, pues permite obtener la DE50 en situaciones difíci-
les, aunque se debe reconocer que la necesidad de usar un buen método gráfico es
un pesado obstáculo.
Para calcular el valor de los logaritmos de las dosis correspondientes a los puntos de
corte resultantes del a = 0.1 que elegimos: 0.1 y 0.9 (ver figura 8), determinaremos:
la pendiente y el intercepto de cada recta que una dos puntos sucesivos.
TABLA 30
i ~
p Loge
1 1.0 4.0167
2 0.158 3.5830
3 0.025 3.3293
La pendiente (b) de la recta que une los dos primeros puntos, es:
b=
(4.0167 − 3.5830) = 0.515
(1.0 − 0.158)
El intercepto (a) se calculará como sigue, usando el primer logaritmo de la tabla
28:
105
Procediendo de igual manera con la recta que une los puntos: (0.158, 3.583) y
(0.025, 3.3293), obtendremos: 3.4724, tal como se ve en la tabla Nº 27.
106
ÍNDICE DE MATERIAS
Abbott (2.1) 54
AMES (3.5) 90
Berkson, J. 37
Colaborativo Cualitativo, estudio 83
DE 50 36
DE 95 54
DE 90 54
DE 99 54
Dispersión, Indice 12
D, Valor 43
Fisher, R. Sir 12
Homogeneidad Intragrupos 88
Hamilton, M.A. (A.1) 82
Insecticidas 54-55
Karber, Spearman-Karber 37
, Podado (TSK) 101
Líneas Paralelas 58 y 93
Logit 38-39
Logit, Programa 39-40
Mather, k 28
Mutagenicidad (3.5) 90
Media (Poisson) (1) 5
(Robusta) (3.3) 79
Programa 81
Número Óptimo De Animales (2.2) 55
Número Más Probable (NMP) (1.2) 16-20
NMP Programa (1.2) 17-19
Óptimo, Número De Animales (2.2) 55
“Outliers” (3.4.1) 78
Programa. Áreas Bajo C. Normal 11-12
Número Más Probable 17-19
Unidades Formadoras de Colonias 21-22
Número Partículas Por Placa 25
Diluciones Límite 31
Logit 44-45
Algoritmo Derenzo 50-52
Probit 51-53
Potencia de Vacunas 62-70
Estimadores Robustos 81
107
Q Cochran 86
Líneas Paralelas 95-96
Potencia 58
Poisson 1
Probits 55
Q Cochran 84
Recuentos 21-22
T Student, Tabla Parcial 97
Wahrendorf (Tabla) 92
Z, valor 52
108
REFERENCIAS
Altman, D.G. and Bland J.M. (1983). “Measurement in Medicine: The Analysis
of Method Comparison Studies”. The Statistician 32:317.
Bliss, C. (1938) “The Determination of The Dosage Mortality Curve From Small
Numbers”. Quart. J. Pharmacy and Pharmacology 11:192-216.
Das, M.N. and N.C. Giri (1979). Design and Analysis of experiments. Wiley Eas-
tern Limited. New Delhi.
Detre, K. And White, C. (1970). “The Comparison of the Two Poisson- Distribu-
ted Observations”. Biometrics 26:851-854.
109
Eisenhart, C. and P.W. Wilson (1943) “Statistical Methods and Control in Bacte-
riology”. Bacteriological Reviews 7(2): 57-137.
FEPAS (1998). “Organization and Analysis of Data”. 2nd Edition. Central science
laboratory Sand Hulton. UK.
Hamilton, M.A., R.C. Russo and R.V. Thurston (1977). “Trimmed Spearman-
Karber Method for Estimating Median Lethal Concentrations in Toxicity Bio-
assays”. Environmental Science And Technology 11(7): 714-719; Correction
(1978) 12(4):417.
Hogg, R.V., S.J. Ruberg and L.Yuh (1990). “Robust Data Analysis”, in “Statisti-
cal Methodology in the Pharmaceutical Sciences”. Donald Berry. Editor. Marcel
Dekker Inc.. New York.
Hurley, M.A. and M.E. Roscoe (1983). “Automated Statistical Analysis of Micro-
bial Enumeration by Dilution Series”. Journal of Applied Bacteriology 55:159-
164.
Kalbfleisch, J.G. and D.A. Sprott (1974) “Statistical Analysis of Data Bearing
on the Number of Particle Required to form a Plaque”. J. Hygiene, Cambridge
73:27-34.
110
Knudsen, Lila and J. Curtis (1947). “The Use of the Angular Transformation in
Biological Assays”. J. American Statistical Association 42:282-296.
Macken, C. (1999). “Design and Analysis of Serial Dilution Assays with Small
Sample Sizes”. J. Inmunol. Methods 222:13-29.
Mead R. And R.N. Curnow (1983). “Statistical Methods In Agriculture And Expe-
rimental Biology”, Chapman Hall. London. Pp. 267-273.
Perry, W.L.M. (1950). “The Design of Toxicity Test”. Special Reports Series Nº
270. Medical Research Council. Published by His Majesty´S Stationery Office.
London.
111
Sanathanan, l.P.; E.T. Gade, and N.L. Shipkowitz (1987). “Trimmed Logit Me-
thod for Estimating the ED 50 in Quantal Bioassay”. Biometrics (43):825-832.
WHO. Technical Report Series (TRS 800) (1990). “Requirements for Diphtheria,
Tetanus, Pertussis and Combined Vaccines” Geneva.
112