6ª Edição Revisada e Ampliada
O Autor:
William Costa Rodrigues é Agrônomo, Doutor em Fitotecnia e PósDoutor em Entomologia, pela Univ. Federal Rural do Rio de Janeiro. Prof. da Universidade Severino Sombra e no Instituto Superior de Tecnologia de Paracambi/ FAETEC-RJ, ministra aulas de Ecologia1, Toxicologia1, Climatologia1, Estudos de Impacto Ambiental1, Estatística Aplicada2 e Auditoria Certificação Ambiental2, Metodologia da Pesquisa Científica2 na graduação e de Estatística Ambiental1 e Biondicadores Ambientais1 na especialização de Planejamento e Gestão Ambiental1, onde também é Supervisor Pedagógico. Atua como desenvolvedor de softwares agrícolas e Científicos. Coordenador Geral do projeto Entomologistas do Brasil (www.ebras.bio.br). Coordenador e autor de capítulos no livro Citricultura Fluminense: Principais pragas e seus inimigos naturais. Trabalha ativamente com análise estatística em projetos na área agrícola e ambiental. O autor poderá ser contatado através do e-mail: wcostarodrigues@yahoo.com.br.

Esta Obra:
A apostila Estatística Ambiental foi inicialmente utilizada no programa de Pós-Graduação Lato Sensu, Planejamento e Gestão Ambiental e no Curso de graduação em Gestão Ambiental, na disciplina Estatística Aplicada, tendo como objetivo informar o discente sobre os princípios básicos da estatística, relacionando-a com a metodologia científica, possibilitando um entendimento básico sobre o assunto. Hoje a apostila é também utilizada em cursos de graduação. Capa: Fotos do Autor na Ilha da Marambaia. Foto superior Casulo de Plecoptera e foto inferior, córrego onde ao casulo foi coletado.

Esta obra é distribuída através da Creative Commons Licence. http://creativecommons.org/licenses/by-nc-sa/2.5/br

Copyright©2004-2008 Rodri Copyright©2004-2008, W.C. Rodrigues

1 2

Disciplina Ministrada na Universidade Severino Sombra Disciplina Ministrada no Instituto Superior de Tecnologia em Paracambi, RJ- Curso de Gestão Ambiental

Sumário
1 Introdução................................................................................................................. 1 1.1 Crescimento e Desenvolvimento da Estatística Moderna ................................ 1 1.2 Variação ao Acaso ............................................................................................ 1 Ensaio x Experimentação ......................................................................................... 2 Conceitos Estatísticos ............................................................................................... 2 3.1 Estatística Descritiva ........................................................................................ 2 3.2 Inferência Estatística......................................................................................... 2 3.3 Tipos de Dados ................................................................................................. 3 3.3.1 Variáveis Aleatórias Categorizadas.......................................................... 3 3.3.2 Variáveis Aleatórias Numéricas ............................................................... 3 Por que Utilizar a Estatística .................................................................................... 4 Planejamento Experimental...................................................................................... 4 5.1 Fases do Planejamento ..................................................................................... 4 5.1.1 Problema................................................................................................... 5 5.1.2 Informações Existentes............................................................................. 5 5.1.3 Noções Gerais Sobre Hipótese ................................................................. 5 5.1.4 Formulação das Hipóteses ........................................................................ 6 5.1.4.1 Elaborando as hipóteses........................................................................ 6 5.1.4.2 Hipótese Estatística x Hipótese Científica ........................................... 6 5.1.5 Testando as Hipóteses .............................................................................. 6 5.1.6 Riscos na Tomada de Decisão Através Teste de Hipóteses ..................... 6 5.1.7 Aleatorização ............................................................................................ 7 5.2 Erros de Observações ....................................................................................... 7 5.2.1 Erros do Observador................................................................................. 7 5.2.2 Erro do Método de Observação ................................................................ 8 5.2.3 Por Falta de Resposta ............................................................................... 8 5.3 Controle dos Erros nas Observações ................................................................ 8 5.4 Métodos de Coleta de Dados ............................................................................ 8 5.4.1 Fontes Primárias ....................................................................................... 8 5.4.2 Fontes Secundárias ................................................................................... 8 5.5 Pesquisa Observacional .................................................................................... 9 5.6 Pesquisa Experimental...................................................................................... 9 5.6.1 Princípios da Experimentação ................................................................ 10 5.7 Tipos de Amostras .......................................................................................... 10 5.7.1 Amostras Simples ao Acaso ................................................................... 10 5.7.2 Amostra Estratificada ............................................................................. 11 5.7.3 Amostra Sistemática ............................................................................... 11 5.7.4 Amostra por Área ................................................................................... 11 5.7.5 Amostra por Conglomeradas .................................................................. 11 5.7.6 Amostra Selecionada .............................................................................. 11 5.8 Determinação do Tamanho da Amostra ......................................................... 12 5.8.1 Tamanho da Amostra para Dados Discretos .......................................... 12 5.8.2 Tamanho da Amostra para Dados Contínuos ......................................... 13 Técnicas Estatísticas Para Análise de dados .......................................................... 14 6.1 Medidas de Tendência Central ....................................................................... 14 6.1.1 Média Aritmética Simples ( X ) .............................................................. 14 6.1.2 Média Aritmética Ponderada .................................................................. 14 6.1.3 Média Aritmética de Dados Agrupados em Intervalos .......................... 15

2 3

4 5

6

6.1.4 Mediana (Me) ......................................................................................... 16 6.2 Medidas de Variação ...................................................................................... 17 6.2.1 Desvio-Médio (DM) ............................................................................... 17 6.2.2 Desvio Padrão......................................................................................... 17 6.3 Variância ou Quadrado Médio ....................................................................... 18 6.4 Erro-Padrão da Média - s(x) ........................................................................... 19 6.5 Coeficiente de Variação.................................................................................. 19 6.6 Curva de Distribuição Normal........................................................................ 19 6.6.1 Limites de Confiança.............................................................................. 21 6.6.2 Erro Padrão ............................................................................................. 22 6.7 Teste de Normalidade dos Dados ................................................................... 22 6.8 Teste de Klomogorov-Smirnov (K-S) ............................................................ 22 6.9 Teste de Shapiro-Wilks (S-W) ....................................................................... 22 7 Testes Paramétricos e Não Paramétricos................................................................ 23 7.1 Teste t - Student.............................................................................................. 23 7.1.1 Dados Pareados (Amostras Dependentes).............................................. 24 7.1.2 Dados Pareados (Amostras Independentes) ........................................... 25 7.1.3 Dados Não-Pareados - Variâncias Desiguais (Heterocedásticas)........... 26 7.1.4 Dados Não-Pareados - Variâncias Iguais (Homocedásticas) ................. 27 7.2 Teste Qui-Quadrado (χ²) ................................................................................ 28 7.3 Tabela de Contingência .................................................................................. 28 7.4 Teste de Kruskal-Wallis ................................................................................. 29 7.5 Teste de Friedman (Análise da Variância) ..................................................... 31 8 Correlação Linear ................................................................................................... 32 8.1 Coeficiente de Correlação (r) ......................................................................... 32 8.1.1 Correlação de Pearson ............................................................................ 32 8.1.2 Correlação de Spearman......................................................................... 32 8.1.3 Aspectos Gerais da Correlação Linear ................................................... 33 8.2 Coeficiente de Determinação (r²) ................................................................... 34 8.3 Coeficiente de Alienação (K) ......................................................................... 34 8.4 Significância do Teste de Correlação ............................................................. 34 8.4.1 Significância Baseada nos Intervalos ..................................................... 34 8.4.2 Significância Baseada no Teste t para r (Pearson) ................................. 35 9 Análise de Regressão.............................................................................................. 35 9.1 Regressão Linear Simples .............................................................................. 36 9.2 Regressão Linear Múltipla.............................................................................. 36 9.3 Regressão Múltipla ......................................................................................... 37 10 Transformação de Dados .................................................................................... 37 10.1 Raiz Quadrada ................................................................................................ 38 10.2 Transformação Logarítimica .......................................................................... 38 10.3 Transformação Angular (Arcoseno)............................................................... 38 10.4 Considerações Gerais ..................................................................................... 38 11 Testes Específicos Para Análise de Populações e Comunidades ....................... 38 11.1 Índice de Diversidade e Dominância Populacional........................................ 38 11.1.1 Índice de Margalef (α)............................................................................ 39 11.1.2 Índice de Glason (Dg) ............................................................................. 39 11.1.3 Índice de Menhinick (Dm) ...................................................................... 39 11.1.4 Índice de Shanon-Wiener (H') ................................................................ 39 11.1.5 Índice de Dominância Berger-Parker (d)................................................ 39 11.2 Exemplo.......................................................................................................... 39

11.3 Índice de Similaridade entre Populações........................................................ 40 11.3.1 Quociente de Similaridade...................................................................... 40 11.3.2 Porcentagem de Similaridade ................................................................. 40 11.3.3 Índice de Afinidade ................................................................................ 41 11.3.4 Constância .............................................................................................. 41 11.3.5 Índice de Associação (IA) ...................................................................... 41 12 Bibliografia......................................................................................................... 42 13 Anexos ................................................................................................................ 43

.................... Duas comunidades com sua composição de espécies em percentagem ........... ..........05 a 0........ 46 Tabela 14................ 7 Tabela 2.............. Valores de t -student em níveis de 5% e 1% (α=0..... Série de dados da correlação da flutuação populacional do pulgão Toxoptera aurantii (Homoptera........................ 1971).......................................... Classificação do valor r através de intervalos de 0 a 1.... em quatro diferentes profundidades... ............... 45 Tabela 13..............................Índice de Tabelas Tabela 1............ Classificação do valor r através de intervalos de acordo com e Teste de Rugg. Dados de um experimento com a taxa de crescimento de mudas de duas leguminosas em sistema agro-silvo-pastoril...................... sob cultivo orgânico na Fazendinha Agroecológica................ significativos a 0.... Valores mínimos de j.............. 24 Tabela 3........... 2004)............. 35 Tabela 9..................................... 47 Tabela 15.......................... 1999)............... ................ Valores críticos para o Coeficiente de Correlação de Spearman (rs)........... Resultados das amostras de cinco diferentes áreas delimitadas pelas características edáficas do solo.................................................................................... 40 Tabela 11... em mg...................mm³ de β solo .............. ... 34 Tabela 7............... Exemplo para o Microsoft Excel.......... ............................. (dados fictícios).................................. Índices de diversidade de cochonilhas em agroecossiema cítrico............................................................... numa área de re-vegetação (dados fictícios)..................................... Resultados da interpretação de 500 fotos aéreas de diversas áreas com presença de mata.. Os dados apresentados referem-se a o poluente α-β-16-Imaginol-Poluentis......... 25 Tabela 4.......... 40 Tabela 10.............. Correlação de Spearman entre as notas brutas de matemática e biologia (Zar........... 48 .... Aphididae) em função da brotação foliar de tangerina cv Poncã..............................01) de α probabilidade ....................... no período de outubro de 2002 e outubro de 2003 (Extraído de Rodrigues... Dados do peso de 10 crianças antes e depois da administração a base de folhas de mandioca (dados fictícios).01) de α probabilidade....................... Valores de χ² (Qui-quadrado) em níveis de 5% e 1% (α=0.......................... 33 Tabela 6.....05 a 0................. 44 Tabela 12........................................................................................... 34 Tabela 8.................................5% (Southwood.......................................................... Valores para transformação arcsen % ........................ .................. .. 31 Tabela 5................

... isto é................ Correlação linear simples positiva (A)................ Poncã.... em cultivo orgânico de tangerina cv................ O gráfico à esquerda....... As áreas sob a curva assinaladas entre os traços verticais. baseado em apenas dois pares de valores anotados para X e Y (que definem os pontos A e B).................. A probabilidade (P) com que X possa ter valor menor que uma coordenada escolhida (C) é indicada pela área.... Poncã...... 36 Figura 11................... .. medidos em unidades de desvio-padrão............................. na Fazendinha Agroecológica....... no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues................ 4 Figura 3................ Regressão linear simples entre a flutuação populacional de T... 37 Figura 12... desvios padrões (s) diferentes. na Fazendinha Agroecológica.............. Curva de distribuição normal simétrica.................... onde µ é a média e s o desvio padrão..... aurantii e a brotação foliar de tangerina cv.... no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues...................... e inversa ou negativa (B). 20 Figura 6.... 2004)...... Interpretação dos dados experimentais.. apresentando a linha de tendência de regressão linear simples de dados fictícios. tendo a mesma média (µ) µ e diferentes graus de dispersão dos valores de X........ com seus diversos níveis de categorias. Curva normal padrão......... Janela de configuração da linha de tendência (linha de regressão) e configuração da equação de regressão no Microsoft Excel.................................. 33 Figura 9.. brotação (variável y) e a flutuação populacional de Toxoptera citricida (variável z)...................... no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues............................ 36 Figura 10.... situada à esquerda de C................................................................... em que foram registrados outros valores intermediários (definidos pelos pontos B e C)................ Poncã............. Poncã. 21 Figura 7.............. 3 Figura 2....................................... aurantii e a brotação foliar de tangerina cv......... em cultivo orgânico de tangerina cv...... 2004).. Correlação múltipla da amplitude térmica (variável x).................... Fluxograma Para Auxiliar na Escolha de Testes Estatísticos ...... 2004)........................................ entretanto no gráfico à direita... 20 Figura 5.. Curvas de distribuição normal das freqüências de X.. mostra que a relação entre X e Y obedece a uma lei mais completa............... 37 Figura 13..... ................. Regressão múltipla entre a flutuação populacional de T.......... 43 . Diagrama de tipos de dados .............................. sob a curva..... 10 Figura 4............... na Fazendinha Agroecológica...................... em cultivo orgânico de tangerina cv..................Índice de Figuras Figura 1................................. Diagrama de uma estatística descritiva.......... ............. .......... Os valores de Z (compreendidos entre -Z e +Z) correspondem aos afastamentos de X em relação à média µ................ indicam as percentagens de valores de X aí contidas..... Poncã..... tendo por parâmetros µ=0 e s= 1................ parece sugerir que Y cresce à medida que X cresce....... 22 Figura 8....................

o estudo da estatística justifica-se pela necessidade de desenvolver pesquisas. A estatística. Foram levantados dados através dos registros históricos. De fato. pois o principal objetivo desta ferramenta é auxiliar na tomada de decisão ou de avaliar uma determinada situação e poder melhor indicar o caminho para uma tomada de decisão. em todos os dados obtidos. variação nos intervalos de amostragem. obviamente que não podemos deixar a estatística dominar nossas vidas. ao comparar no campo duas paisagens. trata da coleta. realizar experimentos. quando o IBGE faz uma visita a sua casa para o censo. está fazendo parte da estatística. avaliando o crescimento populacional e a distribuição desta população no território nacional entre outros aspectos avaliados. etc. quando você é abordado na rua para responder qual o candidato irá votar na próxima eleição. ela representa um valioso instrumento de trabalho nos dias de hoje. Estudando os mais variados fenômenos das diversas áreas do conhecimento. como parte da matemática aplicada. quando seu salário aumenta. Na Idade Média. Assim. seja por exigências do próprio desenvolvimento do país. mas não é só desta forma que você faz parte do infinito mundo da estatística. variação no horário de coleta dos dados. eu disse quase tudo. uma interferência da luz solar.Apostila de Estatística Aplicada 1 1 Introdução Diariamente estamos envolvidos em análises estatísticas. você está fazendo parte da estatística. Isso levou ao desenvolvimento de computadores mainframe e finalmente a revolução dos computadores pessoais. sempre presentes. Durante as civilizações egípcias. realizar experimentos. se a avaliação for. e mesmo pela utilização dos resultados e pesquisas feitas. Esses efeitos. Quando você está desempregado ou empregado. poderá haver. O efeito dessa variação do acaso é tal que pode alterar completamente os resultados experimentais. 1. e mesmo pela utilização dos resultados e pesquisas feitas por aqueles que a isso se dediquem. faz parte também. seja visando o aprimoramento de métodos e técnicas de investigação. da análise e da interpretação de dados observados. Na área ambiental. As variações ao acaso podem ser exemplificadas como: temperatura ambiente. em dias diferentes. 1. não podem ser conhecidos individualmente e alteram pouco ou muito.2 Variação ao Acaso O que dificulta ao trabalho de pesquisador e exige a análise estatística é a presença. morte e casamentos. podemos ver que em quase tudo. Bom. a crescente necessidade dos censos ajudou a incentivar o desenvolvimento de equipamentos de tabulação no início do século XX. Eles são indicados pela designação geral de variação do acaso ou variação aleatória. Desta forma. de efeitos fatores não controlados (que podem ser controlados). o crescimento e o desenvolvimento da estatística moderna podem ser relacionados a três fatores isolados – a necessidade dos governos de coletar dados dos cidadãos. grega e romana. os resultados obtidos. No Brasil o censo é realizado a cada 10 anos. podemos empregar a estatística. que irá interferir na distinção das cores. por exemplo. aferição do aparelho utilizado para mensurar. os dados eram obtidos principalmente com o objetivo de recolherem impostos e para o recenseamento militar. o desenvolvimento da teoria da probabilidade e o advento da informática.1 Crescimento e Desenvolvimento da Estatística Moderna Historicamente. as instituições religiosas freqüentemente mantinham registros relativos a nascimentos. .

As variações ao acaso são parcialmente controlados. com margem de erro menor possível.1 Estatística Descritiva Pode ser definida como os métodos que envolvem a coleta. . A análise e interpretação dos dados deverão ser rigorosas e adequadas ao tipo de experimentação realizada. Para tornar mais claro esta definição. As variações ao acaso são controladas com rigor. Abaixo no Quadro 1 são listadas as diferenças entre os dois métodos. etc. Um parâmetro é a medida calculada para descrever uma característica de toda uma população. O número de amostra deverá ser suficiente para avaliar os dados com a maior precisão possível O tamanho do experimento deverá ser suficiente para avaliar os dados. que levou à ampla aplicação da estatística em todos os campos de pesquisas atuais. Experimentação O tempo de avaliação deverá ser o suficiente para que os dados coletado possam garantir uma avaliação. número de amostragens realizadas. A análise e interpretação dos dados não podem possuir muito rigor e deve se adequar ao tipo de ensaio realizado. objetivando somente uma pré-avaliação dos resultados. Embora os métodos estatísticos descritivos sejam importantes para a apresentação e a caracterização dos dados. como um produto de teoria da probabilidade.William Costa Rodrigues 2 2 Ensaio x Experimentação Existem diferenças básicas entre os dois métodos de avaliar um dado científico. a apresentação e a caracterização de um conjunto de dados de modo a descrever apropriadamente as várias características deste conjunto. Diferenças entre Ensaio e Experimentação. possibilitando assim menor erro amostral e na análise estatística. As diferenças vão desde a simples forma de avaliar e encarar a coleta dos dados até a forma de apresentação dos dados. Quadro 1. número de amostras. Uma amostra é a parte da população selecionada para análise. as definições seguintes são necessárias: Uma população (ou universo) é a totalidade dos itens ou objetos a ser considerado.2 Inferência Estatística Pode ser definida como os métodos que tornam possível a estimativa de uma característica de uma população ou a tomada de uma decisão referente à população com base somente em resultados de amostras (Figura 1). foi o desenvolvimento de métodos estatísticos de inferência. Uma estatística é a medida calculada para descrever uma característica de apenas uma amostra da população. não havendo rigor. 3. O número de amostras é reduzido. 3 Conceitos Estatísticos 3. O tamanho do experimento é reduzido. Ensaio Tempo de duração da avaliação é curta.

podendo ser números discretos ou contínuos.3. um aspecto principal da inferência é o processo que utiliza a estatística amostral para tomar decisões sobre os parâmetros da população. Desse modo. como é o caso dos seres humanos ou das plantas superiores ou das bactérias.3 Tipos de Dados Existem basicamente dois tipos de dados de características de variáveis aleatórias que podem ser estudadas e que produzem os resultados ou os dados observados: categorizados ou numéricos (Figura 2). você tem Sim Não. como é o caso das irmandades com mais de um indivíduo. com seus diversos níveis de categorias. carro? 3. é geralmente dispendioso demais.1 Variáveis Aleatórias Categorizadas Este tipo de variável produz respostas categorizadas. A resposta para pergunta: "Quantos livros você possui?". Por exemplo. População/Universo Amostra Parâmetro Estatística Figura 1. A necessidade da inferência estatística deriva da necessidade da amostragem. sendo a população a fonte de observações. enquanto a reposta para "Qual a sua altura?".2 Variáveis Aleatórias Numéricas Produz respostas numéricas. ou por elementos coletivos. 3. 3. A população. . Decisões pertinentes às características da população devem ser baseadas na informação contida numa amostra da população. Isto seria alcançado utilizando-se as estatísticas obtidas da amostra de estudantes para estimar atitudes ou características de interesse da população.3. digamos que há uma necessidade de saber a opinião da qualidade de vida no campus de sua faculdade.Apostila de Estatística Aplicada 3 Para melhor elucidar estes conceitos. enquanto a amostra consistirá os estudantes selecionados para participar da pesquisa. segundo determinadas regras e critérios. Quando a população se torna grande. O objetivo da pesquisa é descrever várias atitudes ou características de toda a população (os parâmetros). é contínua. das famílias. A população pode ser constituída de elementos simples. Diagrama de uma estatística descritiva. será todos os alunos da faculdade. consome muito tempo e é muito cansativo obter informações sobre a população inteira. A amostra pode ser definida também como o conjunto de observações extraídas de uma fonte (população). a resposta é discreta. ou universo. ou das pessoas que habitam uma casa.

"uma área será condenada por poluição de metais pesado no solo". pois os dados poderão apresentar falhas ou nada representaram para o estudo do problema ou para a elaboração das hipóteses a serem formuladas. O que pode ocorrer é que a estatística irá indicar uma diferença numérica. . quanto para aleatórias numéricas (discretas e contínuas). primeiro consideramos sua importância. Em suma. Na Figura 2. por exemplo. A Estatística nada mais é que uma ferramenta que poderá auxiliará na interpretação dos resultados e poderá confirmar a hipótese a ser testada ou simplesmente recusá-la. traçamos os objetivos que pretendemos alcançar e a finalidade de sua realização. como a ferramenta que irá dizer se.William Costa Rodrigues 4 Dados discretos são respostas numéricas que surgem a partir de processo de contagem e dados contínuos são repostas numéricas que surgem a partir de um processo de medição. caberá ao profissional avaliar os parâmetros não previsíveis no modelo matemático e tomar a decisão. Desta forma devemos ter muito cuidado ao utilizar à estatística. segue exemplos de variáveis tanto para aleatórias categorizadas. Se houver alguma informação que possa auxiliar como ponto de partida. Diagrama de tipos de dados 4 Por que Utilizar a Estatística A Estatística é uma área da matemática muito utilizada hoje em dia. diremos que os dados selecionados devem ser os estritamente necessários. esta poderá fornecer alguns indicadores ou ensinar novas técnicas que servirão para complementar nossa experiência. Em seguida.75m Figura 2. 5 Planejamento Experimental 5. Estas informações deverão ser avaliadas e criticadas. Tipos de Dados Categorizadas Numéricas Discretas Você possui carro? Quantas revistas você assina? Contínuas Qual sua altura? Sim Não 5 1. entretanto o uso inadequado e fanático desta ferramenta torna muito difícil a compreensão dos resultados e levam-na ao descrédito.1 Fases do Planejamento Quando realizamos um estudo.

Será impossível o planejamento das etapas subseqüentes se não ficar claramente evidenciado o problema a investigar. na elaboração de um plano de observação. enquanto Y. de tal forma que se possa demonstrar a existência de uma relação constante entre os valores de X e Y.2 Informações Existentes Antes de empreender o experimento.1. se necessário. p. pois provavelmente nenhum pesquisador terá possibilidade e capacidade de abordar todos os aspectos da biodiversidade ou da poluição. como observar e medir seus valores e como analisar as relações qualitativas e quantitativas que possam existir entre eles (ver item Pesquisa Observacional. Sabemos que a veracidade de uma hipótese nunca pode ser demonstrada ou provada definitivamente. A revisão bibliográfica sobre o assunto deverá sofrer cuidadosa seleção para que os resultados mais afins possam ser aproveitados no conforto e discussão posteriores à da pesquisa. podemos encontrar duas situações. Na prática. é a variável dependente. 5. Uma própria de fenômenos sobre os quais não podemos influir nem exercer qualquer controle. deverá ser dada especial atenção aos seguintes pontos: Definição da importância do problema que se estuda. que precede a outra. 9). Muitas vezes. Dela deduzimos as conseqüências ou fazemos previsões. ou alterações dos valores de Y quando varia X. por mais justa e sólida que possa parecer. destinado a contestar determinada hipótese.1. para ver se a hipótese adotada ainda se mantém ou não. Por sua vez. A variável X. Enquanto não se possa demonstrar que ela é incorreta.1. O que se faz é verificar se ela não seria falsa. A estratégia para isso depende da natureza do problema em causa. o efeito da poluição do rio Paraíba do Sul. A outra seria a interdependência das duas variáveis. 5. o que se tem em vista é verificar uma relação de causa e efeito: queremos saber se a variável X e a variável Y. Determinação do(s) objetivo(s) e finalidade da investigação. Definir a importância do problema que se estuda é explicar o que vamos estudar. o que nos levaria a rejeitá-la e a formular outra. mantém-se a hipótese como boa. requer demonstração ou prova de sua adequação. essas conseqüências e previsões serão testadas. É importante também especificar sua extensão. ou de experimentação. Não basta. peculiares a determinado fenômeno. então. guardam entre si relações de causa e efeito (direta ou indiretamente). . por exemplo. resultado de um raciocínio indutivo (consciente ou subconsciente). é chamada variável independente. Decerto serão encontrados vários subsídios que fornecerão valiosa colaboração para o estudo. portanto.Apostila de Estatística Aplicada 5 5. limitando-se o estudo científico à observação de como X e Y se apresentam espontaneamente. o pesquisador deve revisar tudo o que diz respeito ao fato em estudo. teremos de montar uma observação ou uma experiência em que se possa verificar o aparecimento de Y quando ocorre X. O planejamento de pesquisa consiste. Do ponto de vista operacional. que se supõe depender de X. com a finalidade de saber o que já se conhece sobre o assunto.3 Noções Gerais Sobre Hipótese A hipótese.1 Problema Ao planejar o problema que se vai pesquisar. dizer que se vai estudar a biodiversidade da floresta atlântica.

4 Formulação das Hipóteses A estatística. 5.5 Testando as Hipóteses Existem várias formas de testar as hipóteses elaboradas. . que se dividem basicamente em Teste Paramétricos e Não Paramétricos. H a : X1 ≠ X 2 ≠ X 3 ≠ . Normalmente testa-se através de modelos matemáticos.1 Elaborando as hipóteses O pressuposto a hipótese estatística é sempre testar a nulidade dos dados. Desta forma. Um erro do tipo II ocorre se a hipótese nula H0 for rejeitada quando de fato é falsa e não deveria ser rejeitada. testa a falta de nulidade ou falta de diferenças aleatórias entre os tratamentos. 5.1.4. testa duas hipóteses.6 Riscos na Tomada de Decisão Através Teste de Hipóteses Quando se utiliza uma estatística para tomar decisão sobre um parâmetro da população. seja ela: biológica.2 Hipótese Estatística x Hipótese Científica A hipótese estatística testa somente os dados numéricos obtidos através de um modelo matemático fixo e contendo restrições. Já a H1.. que serão visto no item Técnicas Estatísticas Para Análise de dados. X n Já a hipótese alternativa.4. H 0 : X1 = X 2 = X 3 = . A hipótese científica poderá ser a mesma hipótese estatística ou basear-se nela.1.. em um experimente está sendo testada a capacidade de duas substâncias possuírem o mesmo poder de reação química. que não o permite avaliar variáveis complexas e multáveis (clima. uma boa revisão bibliográfica e uma interpretação imparcial dos dados. dois tipos de erro podem ocorrer quando aplicamos a metodologia do teste de hipóteses: Um erro do tipo I ocorre se a hipótese nula H0 for rejeitada quando de fato é verdadeira e não deveria ser rejeitada. efeito antrôpico.1. social. existe um risco de se chegar a uma conclusão incorreta.. somada com uma facilidade de concluir de acordo não somente pelos números. As hipóteses estatísticas não necessariamente deverão ser idênticas à hipótese científica. p. que são denominados testes estatísticos. etc.1.. Por exemplo.1.). A H0 deverá ser a seguinte: As substâncias possuem a mesma capacidade de reação. Na verdade. será As substâncias não possuem a mesma capacidade de reação. 14. não será somente baseada em um modelo matemático. que geralmente são denominadas de H0 ou Hipótese nula e H1 ou Hipótese alternativa. etc. X n 5.William Costa Rodrigues 6 5. porém a resposta para entendimento dos resultados. A hipótese nula admite que os resultados sejam iguais ou com diferenças aleatórias entre os tratamentos. 5. valerá além da experiência do pesquisador. mas pela descrição do fato. nas proporções utilizadas.

ou seja. Como exemplo. tais discordâncias não refletem uma variação real. Devemos concluir que.2. haverá sempre uma discrepância entre as amostragens realizadas. Com este processo o erro experimental poderá ser mensurado através do modelo matemático utilizado para analisar os dados. 5.Apostila de Estatística Aplicada 7 5. O mesmo foi verificado em relação a cada um dos observadores que apresentaram resultados diferentes entre as duas leituras.7 Aleatorização Na oportunidade em que organizamos os ensaios devemos proporcionar condições idênticas para cada tratamento. e sim cometida por quem procedeu à leitura do material fotográfico. ou seja. possibilitando que se houver algum erro este seja atribuído ao acaso. não tendencioso. Erros cometidos pelo observador deverão ser considerados no modelo matemático escolhido para análise dos dados. que examinaram em épocas separadas por um período de dois meses. Resultados da interpretação de 500 fotos aéreas de diversas áreas com presença de mata. Tabela 1. São os erros experimentais oriundos de fatores que não podem ser controlados. com a finalidade de verificar a degradação ambiental acentuada das áreas fotografadas. As fotos foram interpretadas separadamente por cada técnico conforme a Tabela 1. seu estado físico e condições ambientais podem ser as principais causas de erros das observações. 5. o excesso de trabalho.1 Erros do Observador O grau de treinamento dos observadores. Entretanto se estes erros forem muito distantes. . o pesquisador terá a oportunidade de verificar a existência de diferenças entre os mesmos.1. Assim o treinamento dos observadores deverá ser de forma a permitir um menor erro experimental possível. poderíamos citar a experiência de que participaram cinco técnicos especializados em análise de foto aérea (foto interpretação).2 Erros de Observações Quanto aos componentes de uma população. as mesmas 500 fotos. (dados fictícios) Observador A B C D E Fotos onde a degradação foi considerada positiva (nº) 1ª leitura 2ª leitura 118 139 69 78 83 88 96 89 106 92 Observa-se pela tabela acima que em nenhuma das duas ocasiões os diferentes observadores coincidiram quanto ao número de fotos consideradas positivas para o referido diagnóstico. forem muito discrepantes. Através da observação ou coleta de dados. o modelo matemático poderá não prevê erro tão grande. seja por falha no aparelho utilizado ou pela desatenção do observador.

devemos ir a acampo para obtê-lo. pois irão permitir uma flexibilidade de estimar o dado faltoso. não sendo utilizados dados previamente coletados por outro pesquisador. dentro da metodologia. na coleta de informações a respeito da poluição de um determinado córrego. Devemos lembrar que eles são bastante independentes. Os modelos matemáticos que prevêem erros por falta de resposta são apropriados. Por isso há uma preocupação natural de todo pesquisador em aperfeiçoá-los ou substituí-los por outros métodos mais eficientes a fim de aumentar a exatidão dos resultados.2. Qualquer que seja a causa dos erros anteriormente abordados. Este tipo de fonte é chamado secundário. assim como por uma melhoria das condições físicas e de trabalho. podemos utilizá-las. houve uma seca muito intensa secando a água no ponto de coleta pré-determinado. A coleta esta sendo realizada no campo. Os erros causados pelos métodos de observação podem ser reduzidos selecionando-se o funcionamento dos aparelhos utilizados. já que a metodologia previu que aquele era o ponto a ser amostrado. houve um erro por falta de resposta.2 Erro do Método de Observação Os métodos de observação possuem erros mais ou menos importantes. 5. consideramos que a informação foi recolhida de fonte primária e no segundo caso dizemos que a fonte é secundária. No primeiro caso.William Costa Rodrigues 8 5.4. Em experimento.4 Métodos de Coleta de Dados Embora a maioria das experimentações as informações devam ser retiradas diretamente no "campo". 5. Cada método em particular pode ter uma série de fatores que conduzem à distorção dos resultados. assim a metodologia deverá prever a coleta de dados na fonte primária. que constituem blocos e parcelas.3 Controle dos Erros nas Observações Apesar da distinção que procuramos dar ás diferentes fontes de erros. o dado que irá compor o conjunto de informações a serem analisadas. o erro por falta de resposta ocorrerá através da perda de uma parcela.3 Por Falta de Resposta Este tipo de erro poderá ou não ocorrer no experimento. Um exemplo deste tipo de fonte é a coleta de água para a análise de poluição de um determinado córrego. 5. estes poderão ser reduzidos ou eliminados de acordo com as coisas que os determinam. da coleta dos dados ter sido realizada por outra pessoa. Por exemplo. Ele ocorrerá se não houver a possibilidade de obter. assim não poderá o observador coletar em outro ponto. pelo simples fato. Os erros dependentes dos observadores podem ser minimizados por uma preparação e por um treinamento mais eficientes.4. 5. desta forma. em muitas ocasiões podem-se aproveitar dados previamente obtidos por outras pessoas.2. 5.2 Fontes Secundárias Quando as informações que nos interessa já foram coletadas por outro pesquisador.1 Fontes Primárias Quando não há informações dos dados que queremos estudar. É óbvio que a qualidade deverá ser .

Apostila de Estatística Aplicada 9 levada em consideração. bem definidos. Exige que o pesquisador seja curioso. para o estudo em causa. apenas duas condições da variável são testadas (por exemplo: duas temperaturas.5 Pesquisa Observacional Em certos campos da biologia e das ciências sociais. torna-se em geral necessário experimentar três ou mais valores de variável independente. Em sua essência. e os inúmeros outros que se apresentam concomitantemente. 5.Y). A viagem de Darwin ao redor do mundo permitiulhe coligir tal quantidade de informações que pôde consubstanciar a hipótese formulada por Lamarck. sobre um atributo do organismo ou material que é objeto da pesquisa. As condições. os métodos experimentais podem ser difíceis ou mesmo impossíveis de aplicar. Por isso deve ser atenta. completa. Em experiências mais simples. são as variáveis independentes. etc. Então a observação científica adquire grande importância e deve ser feita com o máximo de cuidado.X). as observações devem ser corretamente registradas. Mas. sob condições particulares estabelecidas pelo pesquisador. Saint Hilaire e outros naturalistas sobre a evolução dos seres vivos.6 Pesquisa Experimental A experimentação ou experimento ou simplesmente experimento é um método científico e de observação dos fatos ou fenômenos naturais. capaz de com os olhos isentos de preconceitos e a cabeça livre das fórmulas tradicionais. e o crescimento em peso ou altura. Suas observações sobre as relações entre organismos e o meio contribuíram decisivamente para a criação da ecologia.). precisa e metódica. portanto. porém analítica. partindo-se de medidas rigorosas que permitam a análise estatística dos dados. (Figura 3). para que se possa apreciar seu efeito e estabelecer a lei do fenômeno. de idéias fixas ou baseadas em dogmas ou em autoridades que não demonstraram cabalmente. paciente. objetivo e imparcial. por exemplo. Darwin buscou correlacionar as características próprias das espécies com as condições do meio em que vivia cada uma delas. . duas concentrações de uma substância. para saber se esta poderá responder ao questionamento que a pesquisa propõe-se a responder. são confrontados com os dados da variável dependente (eixo das ordenadas . a administração ou não de um medicamento. repetidas e quantificadas. os valores de uma variável independente (eixo das abscissas . que o pesquisador seleciona ou manipula na experiência. enquanto que as mudanças observadas em conseqüência. Deve ser persistente. na praticam a validade de suas bases. devemos verificar a metodologia utilizada. Sempre que possível. A observação deve ser inteligente e sagaz. Teorias tão fundamentais como a da evolução forma estabelecidas com base exclusiva na observação da natureza. Assim. no atributo. são geralmente denominadas variáveis independentes. a experimentação deve permitir comparar o efeito de suas ou mais condições ou tratamentos. em estudos de dietas ou os alimentos administrados seriam as variáveis independentes. a presença ou a ausência de luz. corresponderiam às variáveis dependentes. Por vezes. 5. além do que. como a resposta do organismo ou do fenômeno pode não ser diretamente proporcional à intensidade do fator ensaiado. de modo permitir clara distinção entre os fatos que são relevantes.

5. vento. d. encontra para estimar os dados da pesquisa que irá realizar. ou seja. mostra que a relação entre X e Y obedece a uma lei mais completa. b.1 Princípios da Experimentação A experimentação é a forma que o pesquisador. seja na área científica ou social. etc. Os modelos estatísticos a serem utilizados na experimentação deverão ser adequados ao que se pretende responder. em que foram registrados outros valores intermediários (definidos pelos pontos B e C). Amostragens regulares. g. deverá haver uma adequação da metodologia (objetivos) com o modelo. caso não seja possível. quando possíveis. Interpretação dos dados experimentais. caso a área experimental não apresente uniformidade. 5.6.). f. e. para assegurar que a resposta não foi obtida por mera casualidade e sim por inerência do tratamento. A experimentação deverá ter impreterivelmente repetições. temperatura. Os princípios básicos da experimentação científica são: a. h. pouca variação no conjunto dos elementos. para que os resultados possam levar o pesquisador a uma resposta coerente e segura. variância próxima ou igual à média. baseado em apenas dois pares de valores anotados para X e Y (que definem os pontos A e B). ou seja.William Costa Rodrigues 10 30 25 20 Y 15 10 5 A X B A Y B 35 30 25 20 15 10 5 A B X C D A B D C Figura 3. O gráfico à esquerda. esta deverá ser experimentada antes de ser utilizada na experimentação. c. O controle das variáveis aleatórias (chuva. O experimento deverá ser realizado de acordo com uma técnica já conhecida e testada. deverá ser controlado. Caso a técnica a ser utilizada seja original.7 Tipos de Amostras 5. Assim as parcelas dos tratamentos deverão ser distribuídas ao acaso pelo experimento. A casualização é um princípio fundamental. recomenda-se que o efeito seja igual para todos os tratamentos ou itens testados. pois permitem uma melhor análise dos dados.7. pois permite que o experimento possa ser regido por efeitos gerais a todos os experimentos. Certificação de que as pessoas envolvidas na experimentação possuam treinamento e conhecimento a cerca do modelo estatístico e da metodologia a ser empregada. efeito antrópico.1 Amostras Simples ao Acaso Um dos métodos mais usados. Emprega-se este processo. isto é. quando dispomos de uma população que apresenta características homogêneas. parece sugerir que Y cresce à medida que X cresce. entretanto no gráfico à direita. .

isto é. O tamanho da amostra será determinado em função da variância de característica a estudar em cada estrato. Embora a subdivisão da população seja em estratos. escolhem-se os demais. . 5. A população heterogênea é transformada em subpopulações homogêneas.7. ou então considerando o número de seus elementos e procedendo-se a um percentual de cada estrato. Outros métodos de seleção poderão ser associados para determinação dos elementos de cada conglomerado para compor a fração amostral. obtendo-se 10. e assim por diante. neste caso. só farão parte do estudo indivíduos portadores de enfermidade a ser pesquisada.3 Amostra Sistemática Aplicada quando a população apresenta um número finito de elementos e os dados estão distribuídos aleatoriamente. As unidades que comporão a amostra serão sorteadas em função das condições de variabilidade existentes. Portanto. 5. a partir dele.7. o uso de amostragem nos conduz a ganhar em precisão.7.7. uma amostra estratificada proporcional. por exemplo. observando-se que se o número sorteado for. compensado apenas pela diminuição das tarefas. sorteiam-se aleatoriamente os conglomerados que irão participar da amostra. hepatite. o segundo deverá ser 15. entre outras. tuberculose. na área de saúde é comum a realização de pesquisas de que são selecionados os pacientes portadores de determinadas enfermidades. podendo a seqüência ser obtida através de sorteio de ruas e residências. cinco. pela estratificação. assim. para que. A família poderá ser a unidade mais simples a ser pesquisada. até obterem-se os 50 elementos que constituirão a amostra. Por exemplo.4 Amostra por Área Utiliza mapas geográficos de cidades e municípios. em seguida. considerando que os mesmos apresentam pelo menos uma característica em comum. Estas subpopulações têm nome de estratos. Considera-se este tipo de amostra que possibilita maior precisão quanto aos resultados. 5.6 Amostra Selecionada Este tipo de amostra se caracteriza por elementos que o pesquisador seleciona para avaliar o perfil de seus componentes. no entanto. onde N = 500 e n = 50 dividem-se N por n. de cada um.Apostila de Estatística Aplicada 11 5.2 Amostra Estratificada Utilizada quando dispomos de informações de que a população apresenta características heterogêneas.7. O número de elementos da amostra será obtido da seguinte forma: Numa população constituída por 500 elementos e a amostra por 50 elementos. o terceiro será 25.5 Amostra por Conglomeradas Visto que. 500 por 50. sorteia-se um número da primeira dezena e. 5. grande número de fatores ou variáveis que podem comprometer as conclusões se não eliminados. isto é. Após a determinação dos conglomerados da população. Poderia ser a doença de Parkinson. o que é. utiliza-se uma quantidade de elementos – o que torna o método de seleção um pouco mais trabalhoso – ele redunda conseqüentemente em ganho de precisão. através de um procedimento correto. Obtém-se.

Deve-se imaginar que. 3. N= 3. uma diferença. que é.000). (P-p): erro arbitrado pelo pesquisador. ao apresentarmos um valor percentual. ou seja. 4. ora usamos a variância. Na população finita. p + q = 100%. e por 2. entende-se que a amostra obtida apresentará um determinado valor para a taxa de prevalência de certo evento. Variância ou porcentual. Na obtenção do tamanho amostral será importante esta informação. A determinação do tamanho da amostra depende de alguns fatores: 1. referente à taxa de prevalência do fenômeno estudado na amostra observada. aquele valor tem. Chamamos q o valor complementar de p para 100%. q: 100%-p. N tamanho da população.8. ora usamos a percentagem.96. laboratório ou uma simples investigação.1 Tamanho da Amostra para Dados Discretos Quando dispomos de variáveis discretas. o nível de confiança de que aquela diferença arbitrada realmente ocorra até o limite de diferença proposto. Z: nível e confiança. a qual geralmente é arbitrada pelo pesquisador.58 quando o nível de confiança é de 99%. ou seja. Nível de confiança (α). quando o nível de confiança corresponde a 95%.8 Determinação do Tamanho da Amostra É muito comum um pesquisador indagar qual o número de amostras a serem estabelecidas para uma determinada pesquisa de campo. Normalmente é esperada uma diferença em relação à taxa de prevalência da população-alvo. em relação ao valor percentual da população. a priori. observamos a percentagem de certas características em um conjunto. Tamanho da população alvo. a obtenção da amostra se torna menos complexa do que nos casos de populações infinitas de (N= 800. Simbolizado pela letra z. 5. Esta diferença é conhecida como erro de amostragem. Os níveis de confiança propostos rotineiramente são de 95% e 99% de confiança. p: valor obtido de trabalho anteriormente realizado. Em outros casos. Quanto ao número de elementos que compõe. por exemplo. Em alguns casos são empregadas características que apresentam determinada variabilidade. Toda pesquisa a realizar em que investigamos a taxa de prevalência que fenômeno apresenta. Informação da literatura (p). Ao procedermos às técnicas de amostragem para determinação do tamanho da amostra (n). Erro de amostragem ou precisão. resultados os quais utilizaremos quando da determinação do valor de n em relação ao valor de p. Dependendo do tipo de investigação. 5.000. este valor é substituído na fórmula (1) por uma constante 1. podemos classificar em finitas e infinitas. utilizamos as seguintes fórmulas: n z2 × p × q (1) e n = 0 (2) n0 = 2 n (P − p ) 1+ 0 N Onde n0: número inicial.William Costa Rodrigues 12 5. Esta diferença arbitrada é considerada tendo em conta um nível de acerto que normalmente consideramos de 95% ou 99% de confiança. 2. . arbitrada pelo pesquisador. na literatura.

96 2 × 20 × 80 3. 5.000 indivíduos. Face a isto. e (P-p)= 4% 1.0000 O número de indivíduos que deveríamos examinar para a determinação da prevalência é de 384 para uma população infinita e 380. ( X X ): erro arbitrado pelo pesquisador. Considerando uma prevalência de anos anteriores igual a 20% com valor z = 1. Não sendo encontrado um desvio padrão em outro trabalho.000 pessoas. Desta forma temos: Z = 1. S: desvio padrão obtido de trabalho anteriormente realizado. A utilização das fórmulas (1) e (2). deparamos com o problema de definir o tamanho da amostra.0096 1+ 40. a fórmula a empregar para determinação do tamanho da amostra será a fórmula 1 deste item.Apostila de Estatística Aplicada 13 Quando se trata de trabalho original e não se dispõe de nenhum valor usamos p=50%. Para tal estudo. .84 × 100 = 384 2 4 16 384 384 n= ∴n = = 380. tem procedimento semelhante ao amostrado para variáveis discretas. resolvemos determinar o número de elementos que comporão a amostra.600 n0 = ∴ n0 = ∴3.2 Tamanho da Amostra para Dados Contínuos Para variáveis quantitativas contínuas. dispomos das seguintes fórmulas: n z 2 × S2 (1) e n = 0 (2) n0 = 2 n X−X 1+ 0 N ( ) Onde n0: número inicial. Selecionamos ao acaso 30 elementos. Para populações infinitas e para as que N seja um valor muito elevado. deste item. para uma população finita. X : média da população alvo.96. apenas a fórmula (1) deve ser utilizada. Exemplo: com a finalidade para verificar a incidência de doença de Chagas em uma população de certa região. N: tamanho da população.84 × 1. são utilizadas as fórmulas (1) e (2). qual seria o número de elementos que a amostra deveria conter? A fórmula adequada para mensurar o tamanho da amostra é a equação 1.35 384 1. o que torna impraticável utilizar todos os elementos. Em populações finitas. q = 80%. retirando-se 30 observações da população e calculando-se o desvio padrão da característica a ser estudada.96 (α=5%) e sendo estabelecida um erro de 4%. procede-se a uma pré-amostragem. Apenas sabemos que a população desta comunidade é de aproximadamente de 25. cujo valor foi igual a 9mg2. desejamos determinar o tamanho da amostra. p = 20%. determinamos o valor do teor de hemoglobina de cada um e calculamos a variância (medida de dispersão). X : média da amostra. z: nível de confiança. sendo o tamanho da população igual a 40. Exemplo: numa pesquisa para determinar a taxa média de hemoglobina dos indivíduos de uma comunidade.8.

ponderada.1 Medidas de Tendência Central Os fenômenos quando estudados estatisticamente. 25. n = 10 292 X= ⇒ 29. pode-se calcular a média aritmética ponderada.25 138.5mg e o valor z= 1. Os valores típicos de um conjunto de dados tendem a se localizar no centro da série. Usam-se. 26. A importância das medidas de tendência central é dupla: Representam ou resumem todos os valores obtidos pelo grupo e.25 0.48 ≅ 137 138. Permitem o confronto de dois ou mais grupos. e o n o números de indivíduos ou elementos.56 1.84 × 9 n0 = ∴n 0 = ∴n 0 = ∴ n 0 = 138. 26.000 Para o estudo a será realizado recomenda-se que o número mínimo de indivíduos será igual a 138 para populações infinitas e 137 para populações finitas. são traduzidos por um conjunto de dados numéricos. e. Substituindo na fórmula teremos: 34. Exemplo: deseja-se saber o valor médio do seguinte conjunto de dados: 32.24 ≅ 138 2 0. ∑ x : a soma das variáveis.1 Média Aritmética Simples ( X ) A media aritmética simples é a soma dos valores ou medidas. 6. São. três medidas de tendência central: média aritmética (simples. A forma de apresentação da distribuição de freqüência seria: .2 10 6.0055 1+ 25. como tal.24 n= ∴n = ∴ n = 137. mediana e moda. 30.5 0. 29 e 33. ∑ x : 32 + 25 + 32 + 30 + 26 + 30 + 29 + 26 + 29 + 33.1.2 Média Aritmética Ponderada Quando se tem uma séria de valores sucessivos com a respectiva distribuição de freqüência. 30. 6 Técnicas Estatísticas Para Análise de dados 6. Essas medidas dão-nos o valor típico do conjunto de dados. Sendo representado pela fórmula: ∑x X= n Onde X : representa a média.24 138.24 1.William Costa Rodrigues 14 A precisão considerada para esta pesquisa foi de 0. por isso.96. de dados agrupados em intervalos). fornecem uma descrição precisa da execução do grupo como um todo. 32. chamados medidas de tendência central. em geral. A descrição desse conjunto de dados torna-se mais clara quando se obtêm medidas que resumem as informações necessárias.1. divididas pela quantidade destes. 29.96 2 × 9 3.

1. Neste caso.0 Aplicando a fórmula para calcular a média ponderada teremos: . .Apostila de Estatística Aplicada 15 Variável X1 X2 . + 9 × 4 250 = = 5 anos 10 + 8 + .. + f n Exemplo: Calcular a média de idade de crianças até 9 anos de uma determinada localidade.5 – Freqüência (f) 4 2 3 1 10 X. Xn Freqüência f1 f2 . + x n f n X= n f 1 + f 2 + . fn A expressão da média ponderada será: ∑ xf = x 1f1 + x 2 f 2 + . .. + 4 50 6. Idade (anos) Freqüência 2 10 3 8 4 6 5 5 6 5 7 5 8 7 9 4 X= 2 × 10 + 3 × 8 + ..5 7... mas são representados por uma classe que pode ter um determinado intervalo. . procede-se da seguinte forma: Idade (anos) Freqüência (f) 0 |– 5 4 5 |– 10 2 10 |– 15 3 15 |– 20 1 Idade (anos) 0 |– 5 5 |– 10 10 |– 15 15 |– 20 Σ Valor central (X) 2. operamos da mesma maneira do caso anterior.5 17. Considerando que o intervalo não tem um valor definido e sim um conjunto de valores. a distribuição de freqüência abaixo..5 12.0 37.0 15.5 80. Por exemplo. .f 10.. Utilizaremos como representante o ponto médio de cada intervalo..3 Média Aritmética de Dados Agrupados em Intervalos Há vezes em que os dados não são verificados com seu verdadeiro valor individual.5 17.

n n Como o número de observações é par utilizam-se as duas fórmulas e + 1 . . Desvantagens: o Não servir para séries variáveis assimétricas. quando o número de observações é par. com a finalidade de estimar a mediana referente ao número de alunos. de forma crescente. o Unir em um valor todas as observações do conjunto.William Costa Rodrigues 16 n 10 Desta forma a média da população avaliada é oito anos. Quando os dados apresentam homogeneidade. Exemplo: a) Em determinada localidade foram selecionadas oito escolas. 2 2 para obter os dois valores centrais. quando o número de ob2 n n servações (n) for ímpar e e + 1 .4 Mediana (Me) É um valor situado no centro da distribuição de freqüências. Me= 190 alunos. 180. isto é. o Não expressar variações dentro da distribuição de dados. o 2 2 que corresponde à média dos valores centrais. X= ∑ xf ∴ 80 = 8 anos 6. A mediana é especialmente útil quando se trata de séries assimétricas. é possível o uso da média aritmética. como objetivo encontrar um valor que permita conter 50% dos dados acima deste valor e 50% abaixo.500. 250 e 2.1. Tendo verificado o seguinte quadro: Escola Nº de alunos A 150 B 180 C 230 D 2. 170. que tem como: Vantagens: o Ser fácil de calcular e entender. 200. A mediana não é influenciada pela magnitude de cada uma dessas séries. 160. n +1 Localiza-se o valor central mediante a fórmula: . Para o cálculo da mediana devemos previamente realizar alguns ajustes aos dados como segue: Ordenam-se todos os valores. A distribuição tem. portanto. quando alguns valores são elevados ou baixos em relação aos demais. que corresponde à mediana.500 E 200 F 160 G 250 H 170 Inicialmente ordenam-se os dados: 150. Determina-se o total de valores (n). Assim os valores centrais para este conjunto de dados são 180 (4º) e 200 (5º). portanto o valor médio destes dois valores é igual a 190.

11 + 9 . já o σ (desvio padrão absoluto ou verdadeiro) é calculado para populações com valor n.11 6 ∴ D. = 34 6 ∴ D. que o conjunto de dados contém.11 + 14 .11 + 25 .2 Medidas de Variação 6. conforme o quadro a seguir: Municípios Amostras Poluídas A 48 B 42 C 52 D 95 E 46 Após ordenar os dados teremos: 42. ou seja. = 9 + 6 + 2 + 0 + 3 + 14 6 6. levando-se em conta os valores absolutos desses desvios. 14 e 25 2 + 5 + 9 + 11 + 14 + 25 66 X= ∴X = = 11 6 6 D.11 + 5 .Apostila de Estatística Aplicada 17 b) Em coletas de amostra de solo em cinco cidades. ou seja. = 5. onde não se conhece com precisão o valor absoluto de n. 9.6 D. 2 o valor central é 48. para encontra o valor central. Para um conjunto de observações: 2.M. foram verificadas amostras poluídas com metais pesados. 14 e 25 Σx= 2+ 5 + 9 + 11 + 14 + 25 = 66 .M.2. Me= 48 amostras poluídas 6. o erro amostral. O desvio padrão é o afastamento atribuído ao acaso. bem conhecido.2. 5. 52 e 95. Σ: somatório.11 + 11 . Desta forma. que corresponde ao valor da mediana.M. 11. Exemplo: Calcular o desvio padrão do seguinte conjunto de dados: 2. e n: número de observações. Este erro refere-se à diferença do valor s calculado e a média aritmética. Para calcular o Desvio Padrão utiliza-se a seguinte fórmula: s= ∑x 2 (∑ x ) − n 2 n −1 Onde: x: valores do conjunto de dados. O Desvio padrão estimado (s) é utilizado em populações infinitas. 11. 9. o chamado desvio padrão estimado ou s e o desvio padrão absoluto ou σ. em populações finitas. 48. ou seja.1 Desvio-Médio (DM) Considerado que num conjunto de dados cada valor apresenta um afastamento em relação à média. 5.M. O desvio-médio será a média aritmética destes afastamentos. Como o número de obsern +1 vações é ímpar utilizaremos a fórmula . = 2 . 46.2 Desvio Padrão Existem dois tipos de desvio padrão.

eliminando um elemento do conjunto de observações. são representados pela sua freqüência.1429 2 ∴s = 60.052 − 6 ∴s = 6 ∴s = 1. utiliza-se a seguinte fórmula: s= ∑ fx n 2  ∑ fx   −  n  . uma série de valores que se repetem e. Desta forma lança-se mão de um novo quadro de dados para facilitar os cálculos x f fx fx² 2 2 4 8 3 2 6 36 4 4 16 256 5 4 20 400 6 2 12 144 14 58 852 Total Para calcular o desvio padrão desta distribuição.052 − 1.356 1.07 É importante ressaltar que no cálculo do desvio padrão utilizou-se o denominador (n-1). pois como o valor s é uma estimativa. no caso de populações finitas o denominador será n e o desvio passa ser o σ (desvio padrão absoluto ou verdadeiro).   2 s= 852  58  −   ∴ s = 60.8571 − 4.William Costa Rodrigues 18 Σx²= 2² + 5² + 9² + 11² + 14² + 25² ∴Σx²= 4 + 25 + 81 + 121 + 196 + 625 = 1.3 Variância ou Quadrado Médio É o valor do desvio padrão estimado ao quadrado. ou o valor do desvio padrão populacional.1636 ∴ s = 43. σ . devemos ajustar o erro desta estimativa. Observamos agora uma série de dados agrupados. x f fx 2 2 4 3 2 6 4 4 16 5 4 20 6 2 12 14 58 Total Temos um total de 14 valores agrupados em cinco categorias. o grau de liberdade. originando a variância estimada (s²).8571 − 17. ou seja. ou seja.052 − 726 ∴ s = 326 ∴s = 65.6935 ∴ s = 6.20 s= 5 6 −1 5 6 −1 ∴s = 8.6101 14  14  2 6. Vale ressaltar que.052 n=6 66 2 4. originando a variância populacional (σ²). isto é. por conseguinte.

V. Pode ser também interpretado com uma medida de precisão alcançada das estimativas dos dados em relação aos valores reais.V. Classificação C. cujo cálculo é expresso pela fórmula: s s (x ) = n Onde: s: desvio padrão da amostra e. análise da variância entre outras análises. em especial os biológicos. Desta forma. Quanto maior for a dispersão no conjunto de observações. pois alguns experimentos em campo podem ter o valor C.V. 6. apresentam variações dentro de um intervalo definido. n: número de observações do conjunto de dados. . dos quais haveria pequena quantidade de baixos e altos.Apostila de Estatística Aplicada 19 A variância é a medida estimada ou calculada que determina a variação dos valores entre si. e grande quantidade em torno dos valores centrais. quanto menor este valor menor será a diferença entre os valores dos elementos do conjunto de dados.5 Coeficiente de Variação O coeficiente de variação (CV) é uma medida abstrata que independe das unidades em que foram medidas os dados. baseadas na estimativa de dados. < 10% Ótimo 11% < C.25 1. obteve-se um valor s igual a 1. da seguinte forma: C. mais preciso será os resultados em relação à estimativa da média. Se coletássemos os dados quanto ao peso de mil indivíduos.V.6 Curva de Distribuição Normal A maioria dos fenômenos da natureza. <20% Bom 21% < C. ou seja.4 Erro-Padrão da Média .< 30% Regular É importante ressaltar que valores acima de 30% não significam um C. encontraríamos diversos valores. 6. maior será o valor do coeficiente de variação. podemos classificar o C. o erro-padrão da média será: 1.25 s (x ) = ∴ s (x ) = ∴ s(x ) = 0. = × 100 x Onde: s: desvio padrão da amostra. x : média aritmética da amostra.V.125 10 100 É importante ressaltar que quanto menos o valor do erro-padrão da média.s(x) Quando uma investigação científica é realizada através de amostra.V. de até 65% e serem considerados bons. insatisfatório.V. Exemplo: em uma amostra com 100 observações. Para se determinar a média destes afastamentos utilizaremos o erro padrão da média. 6.25. a média aritmética teria outros afastamentos (erros) em relação média populacional ou real.V. Este parâmetro é estimado pela fórmula: s C. Ele expressa o desvio padrão que obteríamos se a média representasse o índice 100.

onde µ é a média e s o desvio padrão. desvios padrões (s) diferentes. de um e outro lado da média (µ). que é simétrica). tendo a mesma média (µ) e diferentes graus de dispersão dos valores de X. isto é. Figura 4. Curvas de distribuição normal das freqüências de X. que serão tanto mais próximos de µ quanto menor for o desvio padrão (Figura 6). à esquerda e a direita da média (µ) corresponde ao valor do desvio padrão(s) (Figura 4). O ponto máximo da função ocorre no valor médio (situado ao centro da curva. . A curva de distribuição normal ou simplesmente curva normal é caracterizada por dois parâmetros: a média e o desvio padrão (ou a variância). A área da figura sob a curva compreendida entre valores iguais a s. A forma desta curva depende do desvio padrão. sendo tanto mais alta e estreita quanto menor for o valor de s (Figura 5). Figura 5.2% dos valores de X. a distância entre ele e cada um dos pontos em que muda a direção da curvatura. Curva de distribuição normal simétrica.William Costa Rodrigues 20 Numa representação gráfica dos dados obtidos encontraríamos uma distribuição normal conforme a figura abaixo. contém 68.

portanto duas áreas extremas. Curva normal padrão.96s).6. Assim. concluiremos que ele não pertence à população cuja média é µ. entretanto. por exemplo).1 Limites de Confiança Quando se desconhece o valor de determinado parâmetro de uma população (sua média. consideram-se como sendo seus limites de confiança. As propriedades da curva normal permitem seu uso para o cálculo de probabilidade com que determinados valores obtidos durante as observações. podemos estimá-lo a partir de uma amostra extraída dessa população. Um afastamento maior que 2s indica uma probabilidade menor que 1 para 20 de que os valores encontrados pertençam a uma mesma população. A amplitude entre esses valores limites denomina-se domínio de confiança ou intervalo de confiança. indicam as percentagens de valores de X aí contidas. se o valor médio (m) de uma observação comportar um desvio ou erro padrão maior que 1. 6. A estimativa.Apostila de Estatística Aplicada 21 Figura 6. aqueles valores entre os quais fica incluído. com uma alta probabilidade. por convenção. mais precisamente. pode ser inexata e não saberemos o quanto ela é incorreta. A probabilidade P= 0. As áreas sob a curva assinaladas entre os traços verticais. que corresponde a um desvio ou erro padrão de aproximadamente 2s (ou. com grande probabilidade.5% das observações ou eventos medidos.05 (ou 5%). 1. em relação ao valor hipotético da média verdadeira (µ). Na Figura 7. o valor exato desse parâmetro. possam ocorrer em função das variações. tendo por parâmetros µ=0 e s= 1. apenas 4. o valor do parâmetro em causa. como limite para decidir se um resultado afastado da média (ou a diferença entre duas médias) é significativo ou não.5% dos valores de X.96s. . é geralmente aceita. restando. A área compreendida entre -2s e +2s abrange cerca de 95. os limites de confiança são representados pelos valores de -C e +C que circunscrevem. Para a estimativa de um parâmetro. ou as medições.

ou teste S-W.9 Teste de Shapiro-Wilks (S-W) Este teste é uma boa opção para se testas a normalidade de uma distribuição. . às vezes nem é possível decidir se determinada variável possui ou não distribuição normal (na prática a amostra deve ter o valor n > 100). 6.7 Teste de Normalidade dos Dados Os testes empregados para verificar a distribuição normal dos dados. Nesse caso o desvio padrão de uma distribuição de médias ou de diferenças entre médias é também chamado de erro padrão.6. vem sendo empregado cada vez com maior freqüência.8 Teste de Klomogorov-Smirnov (K-S) Este teste compara a distribuição real dos dados (amostra) com uma distribuição normal gerada por uma média e um desvio padrão supostamente conhecidos (populacionais). 6. 6. 6. Os valores de Z (compreendidos entre -Z e +Z) correspondem aos afastamentos de X em relação à média µ. Nos últimos anos o teste SW tem sido preferido ao teste K-S pela capacidade de adaptação a uma variada gama de problemas sobre a variação de normalidade. Por outro lado. é conveniente trabalhar com a média das médias amostrais. ou teste K-S. situada à esquerda de C.2 Erro Padrão Em alguns casos. É necessário explorar um pouco mais a idéia sobre a distribuição de variáveis. o teste pode ser usado em amostra de até 2. sob a curva. Testes estatísticos com grandes amostras mostram que nem sempre as suposições de normalidade de confirmam. se um teste paramétrico ou não paramétrico.William Costa Rodrigues 22 Figura 7. medidos em unidades de desvio-padrão. têm por objetivo direcionar o pesquisador a saber qual o tipo de teste será utilizado. Os testes comumente utilizados são Klomogorov–Smirnov. como nem sempre se dispões de um número elevado de casos para estudo. Uma questão que pode ser levantada primeiramente é se a maioria das variáveis é normalmente distribuída e.000 observações. A probabilidade (P) com que X possa ter valor menor que uma coordenada escolhida (C) é indicada pela área. que é um teste tradicional de normalidade e o teste de Shapiro-Wilks. portanto poder ser empregados testes paramétricos sem preocupação quantos às suas restrições.

Os testes não-paramétricos . estaremos indiretamente comparando as duas populações. O valor t . Definir se. poderíamos proceder a um experimento em que um grupo receberia uma droga (grupo tratado). uma alternativa é a transformação de dados dos seus valores (vide item Transformação de Dados.Student Há certas ocasiões em que o pesquisador deseja a comparação de suas amostras que provêm de populações diferentes.Apostila de Estatística Aplicada 23 7 Testes Paramétricos e Não Paramétricos De acordo com a distribuição dos dados. utilizam-se testes de duas categorias: Os testes paramétricos .são menos exigentes quanto à natureza da distribuição dos dados experimentais. ao constatar as médias destas amostras para verificar se há a diferença entre elas. Estes testes são. se trata de um teste mono ou bicaudal. calcular a média (µ). consulte o Fluxograma Para Auxiliar na Escolha de Testes Estatísticos. Se os dados experimentais não estiverem de acordo com os pressupostos para a aplicação de provas paramétricas (por exemplo. suscetíveis de tratamento matemático. O efeito do tratamento aplicado seria verificado pela comparação dos dois grupos. além de exigirem que as medidas sejam feitas em escalas numéricas intervalares. onde essa diferença existirá. Neste caso. enquanto outro grupo nada receberia (grupo controle). as regiões críticas de aceitação de H0. 7. Os elementos necessários para a utilização de um teste são: Formular as duas hipóteses: a de nulidade (H0). Para maiores detalhes e saber com escolher um teste. são em geral menos potentes. p. os de maior potência. A transformação mais utilizada é a conversão dos dados em logaritmos decimais. p. o teste t seria indicado para tal comparação salientando que a variável em análise teria que apresentar os dados em distribuição normal ou aproximadamente normal. E por analogia. de tal forma que os pressupostos possam ser satisfeitos. Estabelecer o nível de significância α e. em geral. a variância (s²) e o desvio padrão (s) e. Tomar as amostras de tamanho n e registrar os valores. Escolher o teste estatístico adequado.student calculado é dado pela fórmula: X t= s2 n Onde: X : média.aplicam-se a amostras extraídas de populações com distribuição normal e variâncias iguais ou muito próximas. podendo ser aplicados mesmo quando ocorram pequenos desvios de normalidade ou da variância entre as amostras. s²= variância e N: número de observações As formas de utilização deste teste apresentam situações diferentes como mostras os subitens abaixo: . 37). 43.1 Teste t . se não seguirem a distribuição normal). que supõe não haver diferença significativa entre os valores encontrados e os esperados. conseqüentemente. Nesses casos. e a hipótese alternativa (H1).

William Costa Rodrigues 24 7.7 4. Em um estudo foi separada uma população de 10 crianças para os testes com administração da dieta de folha de mandioca.student. tratado e não-tratado. Item 1 2 3 4 5 6 7 8 9 10 Total Peso (Kg) Antes Depois 24 28 23 25 24 25 23 29 30 32 31 34 31 38 14 19 20 22 18 23 !Configuração não !Configuração não válida de caractere válida de caractere Diferença 4 2 1 6 2 3 7 5 2 5 !Configuração não válida de caractere Procedimento: a) Obtêm-se as diferenças entre os valores antes e depois (quadro acima). n= 10 173 − 1369 10 = 173 − 136.401 = 3.1 Dados Pareados (Amostras Dependentes) Trata-se do estudo de um tipo de tratamento em que se utilizam pares de indivíduos ou animais ou plantas. 44) e compara-se o valor do t calculado com o valor crítico da tabela em função de α com n-1 graus de liberdade. Há a uma preocupação em que haja um pareamento entre indivíduos para que eles difiram somente no aspecto.01 9 9 9 =t= 3.1.1 = 4.7 = 5.9 = 39. .84 0. Dados do peso de 10 crianças antes e depois da administração a base de folhas de mandioca (dados fictícios). d) Aplica-se o teste t .01 10 O próximo passo e recorrer à tabela do teste t .7 10 c) Σd²=173.6332 s2 = d) t = 3. Σd=37. c) Verifica-se a variância das diferenças e. obtivemos os seguintes dados: Tabela 2.student (Tabela 11. b) Verifica-se a média aritmética das diferenças. p. 37 b) X d = = 3.7 0.

Para o nosso exemplo acima temos o GL = 26 + 26 – 2 = 50 ou (26–1) + (26– 1)=50.26 (5% ou α=0.student calculado é dado pela fórmula: X1 − X 2 t= 2 2 s1 s 2 − n1 n 2 Onde: X1 e X 2 : médias das amostras. respectivamente (Tabela 11.5317 52 6 2 + + 26 26 26 26 Para calcular o Grau de Liberdade. 44).01).2 Dados Pareados (Amostras Independentes) Neste caso os dados são tratados de forma diferente.25 (1% ou α=0.3846 2.94) com os valores tabelados verifica-se que há diferença estatística a 5% e a 1% de probabilidade. mesmo o as duas amostras possuindo valores n iguais. concluímos que há 99% de probabilidade de que a leguminosa A. encontramos os valores 2.9615 + 1. Concluímos pela rejeição de H0 (hipótese nula) em nível de 1% de probabilidade (α=0.5 4.5 4.9379 ≅ 2.84 é maior do que os valores da tabela. e n1 e n2: número de observações das amostras.5 4.94 25 36 0. s1= e s2= desvios-padrão das amostras. Os valores a 5% e 1% de probabilidade são 2. Exemplo: Tabela 3. portanto.33.5 t= = = = = = 2. devemos verificar os valores críticos com nove graus de liberdade. quando se conhece a variância populacional (σ²). Leguminosa A Leguminosa B X1 = 38 cm X 2 = 33. O teste t utilizado nesta situação pressupõe variâncias diferentes.5 4.68 e 2. ou seja. Comparando o valor calculado (2. p.1. Esta equação deve ser utilizada.01. 7. n= 10. Dados de um experimento com a taxa de crescimento de mudas de duas leguminosas em sistema agro-silvo-pastoril.Apostila de Estatística Aplicada 25 No exemplo acima. procedemos da seguinte forma: GL= n1 + n2 –2 ou (n1–1) + (n2–1). mas não pertencem ao mesmo tratamento ou não há comparação entre antes e depois.3461 1. Conclui-se que a adição do farelo de mandioca na alimentação contribuiu para o aumento do peso corpóreo das crianças.01). Desta forma. O valor encontrado (calculado) de t= 5.05) e 3.5 cm s1= 5 cm s2= 6 kg n1= 26 n2= 26 Calculado o valor de t teremos: 38 . possuem o mesmo valor n. Desta forma. . O valor t . possuam taxa de crescimento média mais elevada que a leguminosa B. numa área de re-vegetação (dados fictícios).

4 5 s2 Seguindo o critério estabelecido. que as amostras são independentes e que apresentam variâncias desiguais.26 2 20 32  g=  2 = = 24. Exemplo: temos duas amostras de água em que os dados quanto ao nível de contaminação de mercúrio apresentam os seguintes valores: Amostra A Amostra B X 1=160 ppm X 2=148 ppm s²1 =74 ppm s²2 =18 ppm n1 = 20 n2 = 32 O valor do teste t será obtido através da expressão: X − X2 t= 1 2 s1 s 2 + 2 n1 n 2 Calculado o valor de t teremos: 160 − 148 12 12 t= = = = 5. podendo as mesmas apresentarem tamanhos diferentes (n1 e n2).73 2  74   18       20  +  32  20 − 1 32 − 1 .1. Por exemplo: s²1= 27 e s²2= 5 2 s1 27 Portanto = 2 = = 5. Supõe-se.William Costa Rodrigues 26 7. neste caso. em que g é calculado através da fórmula: 2  s1 s 2   + 2  n1 n 2    2 g=  s2   1  n1    2 n1 − 1 +  s2   2  n2    2 n2 −1 Para nosso exemplo seria: 2  74 18   +  4.3 Dados Não-Pareados .26 2. devemos calcular o grau de liberdade para o conjunto de dados. o teste T será aplicado baseando-se na diferença entre as médias das duas amostras. Se a relação entre as variâncias apresentarem valor maior do que quatro. Há uma regra prática que identifica tal desigualdade a ponto de justificar tal procedimento.8 ≅ 25 2 0.82 74 18 4. as amostras serão comparadas de acordo com este resultado.Variâncias Desiguais (Heterocedásticas) Caso os dados não pertençam às amostras não pareadas.06 + 20 32 Para verificar a significância deste valor. isto justifica a conduta sugerida.

11 nA= 10 nB = 7 A variância ponderada é dada pela fórmula: (n A − 1) × s 2 + (n B − 1) × s 2 2 A B s = nA + nB − 2 Para nosso exemplo teríamos: (10 − 1)× 0.5 1.7 1. concluise que o valor obtido pata t = 5. Na tabela iremos obter o valor de 2.1 1. respectivamente.0673 s2 = 10 + 7 − 2 15 15 15 Em seguida aplica-se a fórmula para o teste t.5 1. para verificar os valores críticos nos níveos de 5% e 1% de probabilidade para 25 graus de liberdade. Desta forma. Exemplo: para verificar se duas amostras de água mineral de duas marcas possuem a mesma quantidade sulfatos.42 X B= 1.0 1.6 1. aceitando-se a hipótese alternativa.01 = 0.Variâncias Iguais (Homocedásticas) A aplicação do teste t de Student para este caso é realizada quando comparamos as médias aritméticas de duas amostras independentes. respectivamente.2 1.4 Dados Não-Pareados .8 1.66 = 1.4 1.06 (5%) e 2. XA − XB t=  1 1   s2  + n nB   A  Assim temos: .5 1. 44).8 1. o procedimento metodológico consiste em se utilizar uma variância ponderada.1.11 = 9 × 0. Ainda neste caso.4 1.Apostila de Estatística Aplicada 27 Consulta-se então a tabela do teste t-student (Tabela 11. possuíam 10 e 7 caixas no lote selecionado.01).5 sA²= 0.2 1. Ou seja. considerando também o número de graus de liberdade de cada uma das amostras.4 1.L) Marca A Marca B 1. um pesquisador separou ao acaso.3 1. foram avaliados os conteúdos de 10 e 7 garrafas.04 + 6 × 0.36 + 0. 7. Exemplo: Amostra (mg.04 sB²= 0.4 X A= 1.04 + (7 − 1)× 0. p. nas quais as variâncias apresentam valores aproximadamente iguais.82 é significativo no nível de 1% (1% ou α=0.11 = 0. devido à diferença significativa entre as médias das duas amostras.79 (1%). A marca A e marca B.9 1. um lote de caixa de cada marca e ao acaso avaliou o conteúdo de uma garrafa de cada caixa.

2 Teste Qui-Quadrado (χ²) O teste não-paramêtrico de qui-quadrado foi desenvolvido por Pearson.13 e 2. 2. Portanto o valor do desvio é elevado ao quadrado e dividido pela freqüência esperada.95. No primeiro caso a probabilidade de lançarmos 10 vezes uma moeda e cair cara é de 50% (freqüência esperada) e o valor real após os lançamentos será a freqüência observada.3 Tabela de Contingência Em muitos trabalhos experimentais. Desta forma. p. conclui-se que as duas marcas de água mineral não apresentam diferentes proporções de sulfatos em sua composição. 7. O grau de liberdade para o teste de χ² é o número de observações/ classes menos 1. A H0 é que não diferença entre as faixas etárias em relação a ter diabete.1. Estas tabelas têm como objetivo estudar a possível associação entre duas variáveis que classificam os dados. é necessário que tenhamos as freqüências teóricas. 7. Exemplo: Num Shopping Center.1634 0.4043 Os valores de t tabelado para 15 graus de liberdade a 5 e 1% são respectivamente. A comparação entre os valores calculados de χ². sendo que a marca B possui maiores concentrações em relação à marca A. Os dados coletados ao final do experimento foram: Faixa Etária Pessoas* (anos) Com diabete Sem diabete A: 10-15 2 (11. para verificar a significância pode ser obtido na tabela de χ² (Tabela 12. Em muitos casos utiliza-se este teste em experimentos probabilísticos. os dados colhidos representam ocorrência de certos fenômenos que se podem classificar numa tabela. foram coletadas amostras de sangue. No segundo caso a freqüência esperada deverá ser corrigida (calculada) através da Tabela de Contingência.74) 75 (65.42 .5  1 1 0. fe= freqüência esperada. Em tal situação a H0 (hipótese nula) será testar a independência entre as variáveis.0673 +   10 7  = − 0.8 − 0. 45). Para poder calcular o χ².98 0. foram escolhidas ao acaso pessoas com três diferentes faixas etárias. A fórmula utilizada para calcular o χ² é: ∑ (fo . sendo muito utilizado em pesquisas biológicas. chamada tabela de contingência. para verificar a incidência de diabete. lançamentos de moedas ou proporção de doentes após uma epidemia.26) Σ 77 . por exemplo.fe )2 2 χ = fe Onde: fo= freqüência observada e.8 = ≅ − 1.William Costa Rodrigues 28 t= 1. o que se faz admitindo-se a hipótese de que todos os grupos reajam da mesma maneira diante da condição a elas imposta. Para tal.

26 11. Para calcular o χ² do conjunto de dados utilizaremos a fórmula vista anteriormente. O Grau de liberdades para tabelas de contingências será calculado pela seguinte fórmula: GL = (n s − 1) × (n g − 1) .87 + 0.72 10.45 + 0.72) 20 (10. Ele é utilizado para que se verifique o contraste entre k amostras independentes. 4. ou seja. respectivamente. Da mesma forma que nos outros testes. 45). Os valores obtidos nas diversas amostras diferem entre si e.36 + 81.36 ∴ 61..01 + 7. Desta forma.98 (52 − 61. pois temos duas situações as serem testadas (com ou sem diabete) em três grupos (faixas etárias).28)2 + (62 − 62.41 + 1. . No teste de Kruskal-Wallis todas as observações recebem uma pontuação através dos números 1. o valor χ² para 2 graus de liberdade a 5 e 1% de probabilidade seriam 5.21. Assim teremos: (2 − 11.99 e 9.34 De acordo com a Tabela 12 (p.02)2 ∴ χ 2 = 94.26 11. segundo o teste de χ² a 5 e 1% de probabilidade. que receberá a maior pontuação. 2. portanto. ao menor valor se atribuirá o valor 1. No nosso exemplo teremos: GL = (2 − 1) × (3 − 1) ∴ GL = 1 × 2 ∴ GL = 2 Para calcular as freqüências realiza-se uma regra de três simples como segue: 34 –––––––––––––––– 223 fe –––––––––––––––– 77 Ou seja. .02 χ 2 = 8.26 )2 + (12 − 11. Os demais valores da linha subseqüentes são obtidos com a realização da regra de três para cada valor da 2ª coluna.Apostila de Estatística Aplicada 29 Faixa Etária (anos) B: 16-21 C: 22-40 Σ Pessoas* Com diabete Sem diabete 12 (11.98 61.02) 34 189 Σ 74 72 !Configuração não válida de caractere * Valores entre parênteses e em negrito representam as freqüências calculadas Neste caso temos uma tabela de contingência de 2 x 3.28) 62 (62. serão consideradas sempre duas hipóteses (H0 e H1).28 62.5184 + 81.72)2 + (20 − 10.98)2 + χ2 = 11.74)2 + (75 − 65. fe A = 34 × 77 a fe da terceira coluna (sem diabete) é calculada pela diferença 223 entre os valores da fe da 2ª coluna (com diabete) e o valor da coluna total (Σ).n. a ocorrência de diabete depende da faixa etária.74 65. 3.4 Teste de Kruskal-Wallis Este teste foi criado como substitutivo à análise de variância paramétrica (Teste F).74 65.02 11.28 62.5184 + 0.98) 52 (61.71 10. e assim sucessivamente até atingir o maior valor.87 + 94. será uma maneira se verificar se estas diferenças são devidas ao acaso ou se as amostras provêm de populações diferentes. 7. Assim.09 + 1. conclui-se que há diferença entre as faixas etárias.05 + 0.33∴ χ 2 = 18..

Desta forma. com k-1 graus de liberdade. Assim sendo.249 4. os graus de liberdade correspondem a 2.95 Como já foi dito este teste segue a distribuição do teste χ². foram coletadas diversas amostras de água com diversas concentrações de sal. considerase que nos casos de empate entre duas ou mais observações.14 + 603. testou-se o tempo de dessalinização dos três métodos. Desta forma. considera-se que o teste tem uma distribuição aproximada de χ². ni = número de observações em cada tratamento k e.5 21 13 6 4 2 1 45 21 15 10 11 7 50 23 22 14 47 22 RA=57.78) − 3 × 24 ∴ 552 12 H= × (3. Portanto. p. a tabela para comparar os valores é a tabela de χ² (Tabela 12.21. Para calcular H teremos:  57 2 69. N = número total de observações em todos os tratamentos k.861.25 DD= dias para dessalinização.793.70 ) − 72 ∴ H = 0. os valores da tabela χ². 45). ou seja. sendo k = 3 (métodos).99 e 9.50 x C= 36.0217 × 3. pois GL= k-1. supomos que foram testados ou experimentados três métodos para dessalinização de água. Para exemplificarmos o teste de Kruskal-Wallis.5 29 16 34 18. correspondem a 5 e 1%.830. Para verificação de significância quanto às diferenças observadas entre tratamentos k. .5 2 12 H= × + + 23 (23 + 1)  7 8 8    − 3 (23 + 1)∴   12  3. Os resultados do experimento seguem abaixo: Métodos A B C DD posto DD posto DD posto 17 11 20 12 32 17 14 9 5 3 35 20 4 2 9 6 26 15 8 5 13 8 34 18.5 RC= 149. calcula-se a média das ordens que seria atribuída a elas se não houvesse o empate.25 22. k =corresponde ao número de tratamentos a comparar.861. Na ordenação global que se faz para atribuição dos postos aos dados. respectivamente.25  H= × + +  − 3 × 24 ∴ 23 × 24  7 8 8  12 H= × (464.0 RC= 69.5 2 149.350.5 nA= 7 nC = 8 nC = 8 x A= 13.William Costa Rodrigues 30 Para o cálculo do valor H do teste de Kruskal-Wallis utiliza-se a fórmula: 2 12 k R H= × ∑i =1 i − 3 (N + 1) N (N + 1) ni Onde: Ri = a soma das ordens atribuídas ao tratamento i.78 + 2.29 x B= 14. que não vem ao caso no exemplo a ser testado. são 5.70 − 72 552 H = 11.

este teste é um substitutivo ao teste F para análise de variância paramétrica. 7. k = o número de tratamentos. formula-se a H0 e a H1.mm³ de solo Blocos Área A Área B Área C Área D Área E Total 0-10 12 (2) 8 (2) 14 (2) 17 (3) 12 (2) R1= 11 Profundidade (cm) 11-20 21-30 13 (3) 16 (4) 9 (3) 12 (4) 20 (3) 22 (4) 16 (2) 21 (4) 15 (3) 16 (4) R2= 14 R3= 20 31-50 7 (1) 5 (1) 6 (1) 11 (1) 10 (1) R4 = 5 *Os valores entre parênteses e em negrito correspondem à ordenação dos tratamentos dentro dos blocos (linhas). Assim sendo. nos blocos n. Para testar a H0. Substituindo os valores na fórmula para o cálculo do valor χ²r. em mg. Os dados apresentados referem-se a o poluente α-β-16-Imaginol-Poluentis. delimitados pelas características edáficas do solo (blocos).Apostila de Estatística Aplicada 31 Considerando que o valor calculado H=11. em quatro diferentes profundidades. cujas observações podem verificar valores com acentuada variação e em cada tratamento são constituídos blocos com a intenção de que isto resulte em um pareamento considerável entres os diversos tratamentos. Para os casos de empate entre observações de mesmo bloco. co grau de liberdade k-1. A ordenação dos valores se dá dentro dos blocos. calcula-se a média aritmética das ordens. Sendo o valor Ri a somas dos valores de ordenação nos tratamentos (colunas). Pelos valores R encontrados nos resultados verifica-se que o método A e mais eficiente no processo de dessalinização. as concentrações do poluente são iguais em todas as profundidades (Hipótese Nula ou H0). pois leva menos tempo em comparação aos demais.95 é maior que os valores tabelados. Este solo foi exposto há poluentes de uma determinada fábrica. Os resultados da análise foram as seguintes: ( ) Tabela 4. Exemplo: Foram coletadas cinco amostras em quatro profundidades (tratamentos) em cinco áreas diferentes. De forma análoga aos demais testes. teremos: . assim aceita a H1. Resultados das amostras de cinco diferentes áreas delimitadas pelas características edáficas do solo. ou seja. quer saber se o poluente está distribuído de forma igual entre as profundidades avaliadas. utiliza-se tabela de χ². sendo utilizado quando as amostras. O valor do teste de Friedman (Xr2) é calculado através da seguinte equação: 12 k χ2 = × ∑i =1 R i2 − 3n (k + 1) r nk (k + 1) Onde: n = número de blocos. rejeitamos H0 (não há diferenças entre os métodos testados no tempo de dessalinização das amostras).5 Teste de Friedman (Análise da Variância) Da mesma forma que o teste de Kruskal-Wallis. Ri = a soma das ordens atribuídas aos dados do tratamento i.

ΣX x ΣY= produto da soma dos valores de X e Y. quando há variação positiva da variável independente (X) vice-versa.32. nas áreas onde foram coletadas amostras. Trata-se de um valor abstrato que dá uma idéia sobre a dependência entre os dados apresentados. n = número de pares de dados. a dependência entre duas séries de variáveis. ( ) 8 Correlação Linear A correlação linear é utilizada para verificar. a profundidade de 21-30 cm tem uma maior concentração do poluente que as demais profundidades avaliadas. . n = número de amostras de X e Y.1 Correlação de Pearson Utilizado na análise de dados que possuem distribuição normal.2 Correlação de Spearman Este coeficiente de correlação baseia-se no rank dos valores X e Y e é largamente utilizado em analise de correlação e dados não paramétricos.1. Pode ser utilizado para dados normais (Correlação de Pearson) e para dados não normais (Correlação de Spearman). 6 ∑ d i2 rs = 1 − 3 n −n Onde: rs= coeficiente de correlação de Spearman. Quando positiva há a variação positiva da variável dependente (Y). num determinado conjunto. têm-se 3 graus de liberdade. 8.04 − 75 ∴ r 100 χ 2 = 14.82 e 11. ΣXY = soma dos produtos entre os valores de X e Y. A correlação pode ser denominada positiva ou negativa. quando há variação positiva de X e vice-versa. 45). p.1. Sendo o valor de χ²r calculado maior que os valores da tabela de χ². rejeita-se a hipótese nula (H0) e aceita a hipótese alternativa (H1). respectivamente. Os valores para 5 e 1% de probabilidade são 7. Quando negativa há a variação negativa de Y. sX e sY= desvios padrões de X e Y 8.04 r χ2 = r Como valor de graus de liberdade é igual a k-1 graus de liberdade e sendo k=4 (tratamentos). 8. d1 = é a diferença entre cada valor X e cada valor Y correspondente. Ou seja. A partir da tabela χ² (Tabela 12. ∑X×∑Y ∑ XY − n r= (n − 1) × s X × s Y Onde: r= coeficiente de correlação de Pearson.1 Coeficiente de Correlação (r) O coeficiente de correlação e designado pela letra r.William Costa Rodrigues 32 12 × 112 + 14 2 + 20 2 + 5 2 − 3 × 5 × 5∴ 5 × 4(4 + 1) 12 χ2 = × (121 + 196 + 400 + 25) − 75 r 5 × 4(4 + 1) 12 χ2 = × 742 − 75 = 89.

22).3 Aspectos Gerais da Correlação Linear Os valores de r variam entre -1 (associação negativa completa) e +1 (associação positiva completa). Correlação de Spearman entre as notas brutas de matemática e biologia (Zar. é apresentado de forma negativa dizemos que a correlação é negativa e significativa. Assim sendo. através do teste de t para r. Estudante 1 2 3 4 5 6 7 8 9 10 Notas de Matemática 57 45 72 78 53 63 86 98 59 71 Rank de Xi 3 1 7 8 2 5 9 10 4 6 Notas de Biologia 83 37 41 84 56 85 77 87 70 59 Rank de Yi 7 1 2 8 3 9 6 10 5 4 di –4 0 5 0 –1 –4 3 0 –1 2 Total di 2 16 0 25 0 1 16 9 0 1 4 72 n= 10.5 2 1. p. quer dizer que com o aumento dos valores de X. 3 2.5 1 0. quando um valor é negativo. dizemos que a correlação é positiva e significativa. Σdi2=72 6 (72 ) 432 432 ∴1 − ∴1 − ∴1 − 0. A utilização de um ou outro coeficiente dependerá da normalidade dos dados (veja o tópico Teste de Normalidade dos Dados.5 2 1. Y diminuem e quando o valor é positivo.Apostila de Estatística Aplicada 33 Exemplo: Tabela 5.5 1 0. Correlação linear simples positiva (A).1. caso o valor seja positivo. apresentando a linha de tendência de regressão linear simples de dados fictícios. 1999).4364 ∴ 0.5636 3 10 − 10 1000 − 10 990 Para verificar se há significância na correlação rs = 1 − 8.5 0 0 20 40 60 Figura 8.5 0 0 20 40 60 A B 3 2. existe uma proporcionalidade direta entre as variáveis. Quando um valor é significativo. ou seja. . e inversa ou negativa (B). quando aumenta os valores de X aumenta os valores de Y (Figura 8). Para melhor entender melhor a explanação anterior. deve-se ter em mente que a variável Y é quem sofre variação em função de X.

Sendo r²= 0. 8. Intervalo 0.49 r >0.0 – 0. expresso pela fórmula: K = 1− r2 Este coeficiente exprime a ausência de relação entre X e Y. quanto na de Spearmann. logo 30% da variação de Y são atribuídas a X.1 Significância Baseada nos Intervalos A classificação é simples e basea-se nas Tabela 6 e Tabela 7. 8. o valor r² encontrado em determinada análise é igual a 0.2 Coeficiente de Determinação (r²) Ao valor encontrado de r elevado ao quadrado (r²) denomina-se coeficiente de determinação. que acordo com a necessidade de com uma maior precisão intervalar ( Tabela 6) pode ser utilizada um ou outra tabela.41 – 0.30.50 Significância r desprezível r baixo r apreciável r acentuado A significância das tabelas acima poderá ser utilizada tanto na correlação de Pearson. a mais simples baseia-se simplesmente nos intervalos de valores de r.3 Coeficiente de Alienação (K) Este coeficiente é função do coeficiente de correlação. Por exemplo.8367 Desta forma.21 – 0.William Costa Rodrigues 34 8. Intervalo r < 0.90 0.30 ∴ K = 0.20 0. .70 0.40 0. a outra considera o teste t. Classificação do valor r através de intervalos de 0 a 1.15 0.91– 1. Classificação do valor r através de intervalos de acordo com e Teste de Rugg. Tabela 6.4 Significância do Teste de Correlação Existem basicamente duas formas de verificar a significância do var r.29 0.0 Significância Correlações nulas Correlações fracas Correlações substâncias Correlações fortes Correlações extremamente Fortes Tabela 7. conhecido como teste t para r.71 – 0. Por exemplo.70 ∴ K = 0.15 < r < 0. 8.4. Este coeficiente expressa a porcentagem de variação dos valores de Y em função do valor X. r²= 0. concluímos que há mais ausência de relação do que intensidade de relação entre X e Y.30 < r < 0.30. K = 1 − 0.30.

2 Significância Baseada no Teste t para r (Pearson) O teste de t para r é calculado através da seguinte equação: r tr = × n−2 1− r2 Para este teste compara-se o valor de tr calculado com o valor de t. selecionando a caixa de seleção: Exibir equação no gráfico Exibir valor de R-quadrado no gráfico . Série de dados da correlação da flutuação populacional do pulgão Toxoptera aurantii (Homoptera. o peso de crianças de acordo coma dieta oferecida em diferentes dosagens.00 2. ou seja. Sabe-se que determinadas dietas têm interferência no ganho ou na redução do peso de indivíduos da raça humana. no período de outubro de 2002 e outubro de 2003 (Extraído de Rodrigues.00 7..00 2. Aphididae) em função da brotação foliar de tangerina cv Poncã.4. 44). A mostra como montar uma série de dados para criação de um gráfico de dispersão no Microsoft Excel. com n-2 graus de liberdade. 9 Análise de Regressão É freqüente o estudo da relação entre duas séries de variáveis. Após criar o gráfico selecione um dos pontos e em seguida clique no botão direito de mouse e selecione a opção Adicionar linha de tendência. Hoje em dia os programas (softwares) de planilha de cálculo e de estatística. a 0. Exemplo para o Microsoft Excel.00 100. 2004).00 B C D E F G H I J L M 4 Para criação do gráfico de dispersão basta selecionar os dados das linhas 2 e 3 Gráfico e selecionar o gráfico Dispersão (XY) (Tabela 1) e selecionar o menu Inserir em seguida clique em Avançar > para configurar o gráfico ou em Concluir para finalizar a criação.00 2.. O tipo de linha será de acordo com a equação que melhor de adeqüei a distribuição dos dados.. A 1 2 3 T.00 25. lembrando que um evento biológico somente poderá ser explicado até uma equação de segundo grau. para verificar a com o próprio nome diz. basta organizar os dado de forma correta e selecionar a criação de um gráfico de dispersão.00 0. Desta forma.50 60. na Tabela 11 (p.00 100.00 5. torna-se bastante eficaz a construção de um diagrama que se obtém em sistemas de eixos cartesianos.00 12.50 50.00 40.00 0. a dispersão dos dados de Y em função de X. Por exemplo. Portanto há um interesse de expressar essa relação sob a forma matemática. Tabela 8.50 100. Será exibida uma janela com mostra a Figura 9.00 10. através da apresentação de uma função.50 40.Apostila de Estatística Aplicada 35 8.50 0. caos opte por linha do tipo polinomial a ordem para eventos biológicos deverá ser 2. A exibição da equação e do valor de R² é feita através da seleção da Aba Opções.00 30. Para identificação de uma possível correlação entre séries de variáveis. fornecem a equação da reta ou de outro tipo de regressão que se queira plotar. sob cultivo orgânico na Fazendinha Agroecológica.00 60.00 20.

Janela de configuração da linha de tendência (linha de regressão) e configuração da equação de regressão no Microsoft Excel. Poncã. neste caso uma das varáveis independentes (X) poderá parcialmente interferir na outra variável independente (Y). aurantii e a brotação foliar de tangerina cv. 2004). Regressão linear simples entre a flutuação populacional de T. X independente e Y dependente. Como pode ser visto na Figura 11.William Costa Rodrigues 36 Figura 9. aurantii 70 60 50 40 30 20 10 0 -10 0 20 40 60 80 100 120 y = 0. na Fazendinha Agroecológica. com duas variáveis independentes (X e Y). no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues. em cultivo orgânico de tangerina cv.2. . T.3984 Figura 10.1 Regressão Linear Simples Neste tipo de regressão é possível verificar a associação entre as séries de dados.3095x . 9. Poncã.2 Regressão Linear Múltipla Este tipo de regressão possibilita a associação de uma variável dependentes (Z). 9. plotar a linha e a equação da reta de duas variáveis.3472 R2 = 0.

10 Transformação de Dados Para uma aplicação válida dos testes de significância. Poncã. X independente e Y dependente. Vamos apresentar nesta apostila algumas das principais transformações de dados empregadas na normalização dos dados e as situações que cada uma se aplica. é necessário que o dados tenham uma distribuição normal (Figura 4.0046x2 . Figura 12. exigem quase sempre essa transformação. Correlação múltipla da amplitude térmica (variável x). 2004).4695 30 rina cv. auran70 tii e a brotação foliar de 60 tangerina cv. Poncã.0. em 50 y = 0. no 10 período de outubro de 0 2002 a outubro de 2003 0 20 40 60 80 100 120 (Adaptado de Rodrigues.Apostila de Estatística Aplicada 37 Figura 11. no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues. As porcentagens. baseados nas propriedades das curva normal.3 Regressão Múltipla Neste tipo de regressão é possível verificar a associação entre as séries de dados. na Fazendinha Agroecológica. em cultivo orgânico de tangerina cv.1984 40 cultivo orgânico de tangeR2 = 0. Figura 5 e Figura 6). brotação (variável y) e a flutuação populacional de Toxoptera citricida (variável z). Poncã. 9. . as contagens e as notas dadas a certas características qualitativas. 2004). plotar a linha de tendência polinomial e a equação de segundo graus das duas variáveis.2141x + 7. aurantii múltipla entre a flutuação populacional de T. Regressão T. na Fazen20 dinha Agroecológica.

quando os dados consistem em ocorrências aleatórias de objetos ou eventos). mas o método pode também ser utilizado quando esse número não é rigorosamente igual é sugerido na literatura que valores de 0 e 100%. tendem a serem proporcionais.3 Transformação Angular (Arcoseno) Essa transformação é utilizada quando os dados estão associados a uma distribuição binomial (presença-ausência). É o caso. 10. nesse caso. sendo a primeira mais utilizada. 11 Testes Específicos Para Análise de Populações e Comunidades 11. todas as comparações entre médias são realizadas na escala transformada. os dados finais devem ser transformados novamente para escala original. como muitas vezes que um determinado caráter aparece num total definido. Nesse tipo de transformação. desde que. em seguida. ou a riqueza de espécie. antes de entrar na tabela. 10. do número de plantas sobreviventes em relação ao número total de plantas que deveriam estar presentes se nenhuma tivesse morrido após a poluição de um determinado solo.1 Raiz Quadrada Essa transformação é utilizada quando a variância e proporcional a média. utilizando-se uma tabela apropriada.William Costa Rodrigues 38 10.¼n. quando há uma redução dos valores de média e variância diminui simultaneamente.4 Considerações Gerais Quando é utilizada uma transformação de dados. A base 10 para os logaritmos é utilizada normalmente. É utilizada. o número total de indivíduos em todas as espécies (Brower et al.5 ou x ' = x + 1 ou x ' = x . A medida mais simples de diversidade de espécie é o número de espécie (s). são calculados os valores através da fórmula p' = arcsen % . ou seja. quando os dados são representados por números positivos. por exemplo. sendo. Quando se achar preferível não se apresentar os resultados na escala transformada. Transformando os dados utilizando suas raízes quadradas resulta em uma amostra cuja distribuição é normal. Por exemplo. elevar ao quadrado os valore submetido à transformação de raiz quadrada. 1997). ou porcentagens que abrangem uma grande amplitude de variação. Quando aparece o valor zero.1 Índice de Diversidade e Dominância Populacional Existe uma série de índice de diversidade. ainda. O dados que se recomenda utilizar este tipo de transformação são dados de percentagens e contagens (números inteiros). Vários índices de diversidade foram propostos que incorporam ambos S e N. porém qualquer outra base poderá ser utilizada. respectivamente. por conveniência. utiliza-se a transformação x' = log (x+1). os coeficientes de variação aproximadamente iguais. 10. sejam substituídos por ¼n e 100. que podem ser utilizados em diversas situações.2 Transformação Logarítimica Este transformação é utilizada principalmente quando as médias e os desvios padrões (erros). É freqüentemente utilizado em dados biológicos quando amostras são tiradas da distribuição de Poisson (isto é. todos os dados deveriam estar baseados em um número de observações iguais. As equações normalmente utilizadas são: x ' = x + 0. . seja especificada. Os dados são transformados em percentagens e.

1.2 Índice de Glason (Dg) É semelhante ao índice anterior.2 Exemplo O exemplo hipotético abaixo da diversidade de cochonilhas em agroecossistema cítrico ilustra os índices de diversidade das cochonilhas de um pomar de citros.1. tendendo a dominância de uma determinada espécie. S Dg = log N Onde: S = Número de espécies levantadas e N = Número de indivíduos total 11. S Db = N Onde: S = Número de espécies levantadas e N = Número de indivíduos total 11. verifica se há ou não dominância de uma determinada espécie numa comunidade. .5 Índice de Dominância Berger-Parker (d) Este índice estima a dominância dentro de uma comunidade.4 Índice de Shanon-Wiener (H') É considerado o índice de diversidade mais completo. Este índice é dado pela fórmula abaixo: S −1 α= log N Onde: S: Número de espécies levantadas. ou seja. porém quando há um aumento deste índice. entretanto utiliza a raiz quadrada do número de indivíduos total de cada amostra. Normalizando os dados e diminuindo a probabilidade de erro dos cálculos. há um indicativo de que o local é bastante diversificado. porém considera todas as espécies da amostra. N d = Max N total Onde: NMax= é o número de indivíduos da espécie mais abundante e NTotal= é total de indivíduos amostrados.1. H ' = .Apostila de Estatística Aplicada 39 Quando o índice de diversidade diminui. considera a proporção de cada espécie em relação ao todo. 11. N: Número de indivíduos total 11. mesmo que o número de indivíduos seja reduzido.1. indica que há competição interespecífica e que o local é menos diversificado. pois além de considerar o número de espécies.1 Índice de Margalef (α) Este índice foi proposto por Margalef (1951) e tem como objetivo estimar o número de espécies e o número de indivíduos de uma comunidade. 11.∑ p i × log p i' Onde: p = proporção da espécie em relação ao número total de indivíduos 11. numa tentativa de normalizar os dados.1.3 Índice de Menhinick (Dm) Este índice é semelhante aos dois anteriores.

pois se calcula pelo somatório dos menores valores das percentagens observadas de cada espécies em relação ao total de indivíduos. Tabela 10. como também o número de indivíduos. para espécies c e % n = idem. simultaneamente.790 !Configura Média 10 1.479 0.609 4. ou número de levantamentos com a espécie a..611 0. b = Número de espécies presente no habitat ou comunidade B.1 Quociente de Similaridade O objetivo deste quociente é verificar a similaridade entre duas comunidades ou habitat.3.556 0.045 ção não válida de caractere Dm 0. % c = idem. % b = idem.481 3.118 1995 10 235 1.574 4. porém leva em conta não somente a composição das espécies.557 3. Sorensen QS = 11.218 1996 10 323 1.985 1997 10 435 1. ou número de levantamentos com a espécie b e j = Número de espécies presente nos dois habitats ou comunidades ou número de levantamentos contendo.2 Porcentagem de Similaridade Expressa os resultados semelhantes ao do Quociente de Similaridade.William Costa Rodrigues 40 Tabela 9.3.. podemos calcular a %S: % S = (15 + 14 + 27 + 17 )∴ % S = 73% . Índices de diversidade de cochonilhas em agroecossiema cítrico.3 Índice de Similaridade entre Populações 11. nas duas comunidades (Southwood. + % n ) Onde: % a = menor porcentagem da espécie a observada no confronto das comunidades. no que se refere a composição específica (espécies). para espécies b. para espécies n. Existem duas fórmulas para calcular o QS propostas por Jaccard (1912) e Sorensen (1948). % S = ∑ (% a + % b + % c + . Duas comunidades com sua composição de espécies em percentagem Comunidade A B Espécies a 15 33 b 35 14 c 27 36 d 23 17 A partir dos dados da Tabela 10.575 11. que são as seguintes: j Jaccard QS = (a + b − j ) 2j (a + b ) Onde: a = Número de espécies presente no habitat ou comunidade A. Período S N Dg α 1994 10 268 1.652 0. as duas espécies.648 4. 1971).

A significância de j pode ser observada através da Tabela 15. 46.3. nB = Número de ocorrência da espécie B e j = Número de ocorrência conjunta das espécies A e B. para espécies B e J = Número de indivíduos da espécie A e B nos levantamentos em que ocorrem simultaneamente. Foi proposto por FAGER (1957).3. B = Idem. É dado pela fórmula: n × 100 C= N Onde: n = Número de coletas contendo a espécies em estudo e N = Número total de coletas realizadas. Os valores mínimos de j significativos a 0. p.5% de probabilidade são dados na Tabela 15.5 Índice de Associação (IA) Verifica o índice de o nível de associação existente entre duas espécies. p.3.Apostila de Estatística Aplicada 41 11. 11.5 A+ B Onde: A = Número total de indivíduos da espécie A coletados ou amostrados em todos os levantamentos. J IA = − 0. A Constância de uma espécie poderá ser classificada da seguinte forma: a) Espécies constantes – presentes em mais de 50% dos levantamentos. 46. . 11. b) Espécies acessórias – presentes entre 25–50% dos levantamentos.4 Constância Este parâmetro indica a percentagem de uma determinada espécie em relação a todos os levantamentos realizados. c) Espécies Acidentais – Presentes em menos de 25% dos levantamentos. baseiase no total do número de indivíduos de ambas as espécies que ocorrem simultaneamente nos levantamentos realizados.3 Índice de Afinidade Este índice estima a freqüência com que duas espécies ocorrem simultaneamente em determinada comunidade ou habitat. É dado pela fórmula: 2j I AB = n A + nB Onde: nA = Número de ocorrência da espécie A.

F.. Science. 2002. 3ª ed. L. I. Barbin. 38:586595. 126p.. & Villa Nova. W. Agriculture. 2003. The Ecology of insect Populations in Theory and Practice. 5:1-34 Southwood. Piracicaba: Nobel. S. London. & Morris. 1997. 1999. 3ª ed. Ecologia: princípios e métodos: Petrópolis: Vozes. Magnusson. P.L. Centeno. 2000. Dauber. H.R.William Costa Rodrigues 42 12 Bibliografia Arango.M & Prado. 811p. Agronômica Ceres. 1948. D. Hirsch. W. UFRuralRJ.N. Levine. Quebecor: MC Graw Hill. Hughes.. B. Campinas: UNICAMP. Curso de Estatística Aplicada à Biologia. Biostatistical Analysis. & Wolters. N. C.W.. Manual de Ecologia de Insetos. T. A method of establishing groups of equal amplitude in plant sociology basead an similarity of species. Chapman and Hall Ltd.. Da UFG. 318p. Tese de Doutorado. W. Confidence interval estimation of overlap: equal means case.. Skr. F. S. Siegel. Métodos estatísticos elementares em sistemática zoológica. M. P. & Mishra. & Parker. Ed. R. S. 169p. P.E. 339p. Lara. 1995. J.H. Bioestatística Teórica e Computacional. D. Poncã (Citrus reticulata Blanco) em cultivo orgânico e a interação com predadores e formigas. 331 p. The distribution of the flora in the alpine zone. 235p. 197p. Niterói: EdUFF. 1970. 63f.. 98: 321-329. Rodrigues. 3): Ed.L & Stephan. Rio de Janeiro: LTC. New Jersey: Prentice Hall.R.1993.. 34: 121-137. 2ª ed. Seropédica. Clark. 1912. Princípios de Entomologia. Curso de Estatística Experimental. P. 419 p. Fager. 2004. Zar. M. Planejar e redigir trabalhos científicos. Jaccard. Ribeirão Preto: FUNPEC. Estatística não paramétrica. Simmering.. 2002. 391p. ícone. Field and Laboratory Methods for General Ecology. O..G. Mulekar.. 273p and software included. R. & Mourão. 2000. A.P (Trad. 2000.P. E. A. Biol.. 168: 1345-1347. Ecological Methods.M. 4th ed. Nakano. 1990. Goiânia (Coleção Didática. 43p. Determination and analysis of recurrent groups. 467p. Estatística [Sem] Matemática: A ligação entre as questões e a análise. 1957. Ed.J. Londrina: Planta. Curso prático de bioestatística. & von Ende. 1976. 5ª Ed. 1967. V. . Geier. Silveira Neto.). Souza.. 1979.E. Berenson. Beiguelman. Landscape structure as an indicator of biodiversity: matrix effects on species richness.H. D. São Paulo: Edgard Blücher. Huirtec. Estatística: teoria e Aplicações usando Microsoft® Excel em português. Zar. T. 13ª ed (revista e ampliada).. 130p. 663p and index included. 234p. 1992. Rodrigues.C. Rio de Janeiro: Guanabara –Koogan. F. T.C. Computational Statistics & Data Analysis.E.T.L. Homópteros (Homoptera: Sternorrhyncha) associados à tangerina cv. 1998. G. 4th ed. Sorensen. M. J. J. 2001. Methuen & Co. Vanzolini. 1971. 232p. NeroPhytal. Rey.W. Bioestatística. T. Gomes. R. 11:37-50.S. Caderno V. São Paulo: MC Graw Hill do Brasil.M. 2002.D. Laroca.. 272p. K. Lewinsohn. 2003. (revista e ampliada). Waldhardt.C. Berger. Ecosystems and Environment. S. Ecology.H. E. D. 2ª ed. L. Otte A. J.F. P. 2ª reimpr.O uso de análise multivariadas ecológicas em estudos ambientais interdisciplinares. São Paulo. Brower. Diversity of Planktonic Foraminifera in Deep-Sea sediments.

Apostila de Estatística Aplicada 43 13 Anexos Figura 13. Fluxograma Para Auxiliar na Escolha de Testes Estatísticos Dados com Distribuição Normal Dados com Distribuição Não Normal 2 Tratamentos 2 Tratamentos > 2 Tratamentos Dados Numéricos divididos em Categorias Teste T ANOVA Teste F Teste 2 (Qui-Quadrado) Não dividido em blocos (Amostras compostas) Dividido em Bloco Dados Pareados Dados não Pareados Não será abordado Calcula Valor 2 S2Maior S2Menor < 4 S2Maior S2Menor 4 Teste de KruskalWallis Teste de Friedman Calcula Valor H Variâncias iguais (Homocedásticas) Variâncias desiguais (Heterocedásticas) Calcula Valor 2r Calcula Variância Ponderada Compara com valor 2 Tabelado ( = 5%) Se 2calc 2tab Rejeita H0 Coloca * Se 2calc < 2tab Aceita H0 Coloca ns Calcula Valor T Se Tcalc Ttab Rejeita H0 Coloca * Compara com T tabelado ( =5%) Compara com 2 tabelado ( =1%) Compara com T tabelado ( =1%) Se Tcalc < Ttab Aceita H0 Coloca ns Se 2calc 2tab Coloca ** Se 2calc < 2tab Mantém * Se Tcalc Ttab Coloca ** Se Tcalc < Ttab Mantém * Conclui textualmente .

25 3.01) 63.60 4.30 3. . (1998).36 2.16 2.04 2. Grau de liberdade 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 25 30 50 100 500 ∞ 5% (α=0.79 2.William Costa Rodrigues 44 Tabela 11.26 2.58 3 A tabela completa poderá ser encontrada em Gomes (1990) e Levine et al.05) 12.96 1.09 2.84 2.57 2.09 2.66 9.13 2.98 1.11 2.98 2.01 1.20 2.06 2.06 3.12 2.11 3.88 2.78 2.10 2.01) de probabilidade3.14 2.96 1% (α=0.75 2.50 3.95 2.84 4.45 2. Valores de t -student em níveis de 5% e 1% (α=0.92 5.18 2.05 a 0.23 2.03 3.68 2.18 2.17 3.01 2.90 2.59 2.86 2.71 3.92 2.31 2.71 4.36 3.63 2.

60 50.Apostila de Estatística Aplicada 45 Tabela 12.28 15.68 21.77 44.05) 3.81 18.06 57.64 42.80 36.41 32.01) 6.98 44.00 33.07 15.65 38.34 42.17 36.09 21.48 20. Valores de χ² (Qui-quadrado) em níveis de 5% e 1% (α=0.98 40.40 48.89 48.67 23.57 55.96 48.30 43.09 16.62 59.60 49.34 58.07 12.49 11.49 54.41 34.30 27.36 23.05 a 0.99 46.92 35. Grau de Liberdade 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 5% (α=0. (1998).14 31.78 56.19 53.67 33.68 25.22 27.69 29.43 63.57 38.01) de probabilidade4.51 16.64 9.58 32.16 62.69 4 A tabela completa poderá ser encontrada em Gomes (1990) e Levine et al.23 49.38 54.31 45.19 47.99 7.84 5.92 18.64 46.34 13.29 41.19 37.42 37.59 28. .00 26.76 1% (α=0.80 50.21 24.21 11.03 22.88 40.89 61.59 14.87 30.11 41.72 26.28 49.82 9.31 19.99 52.14 30.

401 0.267 0.600 0.082 0.881 0.362 0.118 0.500 0.654 0.503 0.227 0.738 0.414 0.213 0.01 – – 1.727 0.070 0.287 0.446 0.264 0.370 0.467 0.255 0.189 0.000 0.391 0.000 0.306 0.128 0.584 0.429 0.152 0.382 0.182 0.405 0.755 0.536 0.648 0.786 0.110 0.076 0.829 0.50 0.093 0.257 5 A tabela completa poderá ser consultada em Zar (1999).294 0.511 0.264 0.197 0.05 – 1.170 0.200 0.000 0.165 0.600 0.929 0.103 0.198 0.297 0.415 0.433 0.600 0.794 0.165 0.10 1.618 0.435 0.833 0.248 0.714 0.318 0.310 0.484 0.344 0.503 0. Valores críticos para o Coeficiente de Correlação de Spearman (rs) 5 n 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 30 35 40 45 50 55 60 65 70 75 80 85 90 95 100 α(2) 0.556 0.176 0.615 0.085 0.089 0.209 0.279 0.532 0.485 0.570 0.068 0.398 0.321 0.635 0.307 0.097 0.074 0.521 0.148 0.079 0.346 0.144 0.353 0.214 0.William Costa Rodrigues 46 Tabela 13.244 0.235 0.643 0.703 0.224 0.279 0.538 0.156 0.142 0.447 0.206 0.460 0.560 0.700 0.266 0.217 0.220 0.174 0.335 0.587 0.371 0.380 0.202 0.180 0.191 0.207 0.072 0. .472 0.271 0.425 0.170 0.564 0.236 0.337 0.361 0.283 0.161 0.886 0.544 0.248 0.185 0.331 0.900 0.406 0.313 0.679 0.521 0.464 0.363 0.235 0.

56 84.34 16.00 % 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 0 45.4549.02 81.0 99.23 39.87 48.4 0.3 0.57 74.55+ 42.35+ 25.34 60.98 41.84 26.90 65.74 8.0 0.79 23.85 44.18 50.28 43.40 40.13 42.65 66.9 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 0 0 1.00 30.43 45.18 15.67 61.21 33.94 52.28 27.57 46.26 84. seguindo ângulos terminados em 5.6 0. 6 A tabela completa poderá ser consultada em Zar (1999).5 0.73 54.8 0.47 38.27 36.86 87.82 77.45 80.34 62.66 29.66 31.31 31.42 58.33 30.56 85.72 63.2 99.00 - Os sinais (+) e (-).71 43.53 53.56 72.66 75.98 11.58 24.27 21.87 85.02 49.2 0.42 67.8 99.08 78.14 3.44 5.87 69.06 38.37 86.13 21.3 99.7 99.44 19.05+ 58.33 54.20 85.06 35.9 100.13 53.37 20.97 28.46 18.79 57.9586.72 47.5 99.03 68.97 22.6 99.56 % 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 0 27.58 32.87 37.63 71.6539. .21 68.87 84.56 3.0 0 64.05+ 4.Apostila de Estatística Aplicada 47 Tabela 14.00 60.19 90.29 47.43 17.54 73.73 70.4535.55+ 56.82 40.54 12.63 4.80 5.60 50.1 0.17 56.16 64.81 2.44 4.13 9.9532.03 62.13 5.69 59.67 36.7 0.10 25.44 88.92 14.77 51.1546. Valores para transformação arcsen % 6 % 0. são orientações para arredondamento a uma decimal.94 55.83 34.1 99.4 99.35+ 51.44 % 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99.

significativos a 0. 1971). Valores mínimos de j.0 5 5 6 7 7 8 14 19 25 29 36 41 46 52 57 nB/na 1.5 5 6 7 8 8 9 16 22 29 35 42 48 55 61 67 2.William Costa Rodrigues 48 Tabela 15. nA 5 6 7 8 9 10 20 30 40 50 60 70 80 90 100 1.5% (Southwood.0 – 6 7 8 9 10 17 24 32 39 46 53 59 67 74 .

p. porque dele depende todo o seu futuro. O amanhã ainda não chegou. Preste atenção ao que está fazendo. O ontem já lhe fugiu das mãos. C. tirando todas as vantagens que puder. Torres Pastorinho Minutos da Sabedoria. 154 ************* . Viva o momento presente. onde quer que você esteja.Apostila de Estatística Aplicada 49 ************* O minuto que você está vivendo agora é o mais importante de sua vida. Procure aproveitar ao máximo o momento que está vivendo. para seu aperfeiçoamento.

Sign up to vote on this title
UsefulNot useful