Há relação estatísticamente significativa entre X e Y?. A mais famosa é a Regressão que determina 0ºK. Um pressuposto no uso da Análise da regressão linear é que a haja evidências de Linearidade nos parâmetros. Em outras palavras, o adjetivo "linear" é usado para indicar que o modelo é linear nos parâmetros b₁,..., b_k e não porque Y seja função linear dos X’s. Tem ainda o problema dos coeficientes padronizados.
      1- Médodo de ajuste (estimativa) dos parâmetros do modelo (cálculo dos coeficientes 'a' e 'b')...
      2- Medidas de correlação: Coeficiente de correlação 'r' de Pearson, Coeficiente de determinação r²...

         2.1- Coeficiente de correlação 'r' de Pearson

Dica: se acostume com o uso da matriz de correlação (Análise de dados)

, coeficiente de correlação de Pearson, coeficiente de correlação linear de Pearson, coeficiente de correlação paramétrico de Pearson ou coeficiente de correlação produto-momento (-1 ≤ (correlação negativa) r ≤ 1 (correlação positiva)) r = 0 indica ausência de correlação, é uma medida do grau de relação linear entre duas variáveis quantitativas. A significância do coeficiente 'r' de Pearson: H0: r = 0. H1: H0 é falsa. 1º- Determinar t = r*RAIZ[(n-2) / (1 - r²)]. 2º- Deterninar t_c = t(α; gl), onde α = 0,05 e gl = n - 1 - variáveis independentes. 3º- Se Stat t > t_c, então P < 0,05.
         2.2- Coeficiente de determinação r²: Indica quanto da variação total é comum aos elementos que constituem os pares analisados, portanto, a qualidade da regressão é indicada por este coeficiente. r² = Variação explicada de Y / Variação total de Y. É importante notar que r² varia entre 0 (zero) e 1 (um), e, quanto mais próximo da 1, maior a validade da regressão. Exemplo: r² = 0,296, explica 29,6% da variação da variável dependente, o restante, 70,4%, é explicado por variáveis não estudadas. ATENÇÃO: r² NÃO é uma medida apropriada para avaliar a linearidade do modelo. O r² ajustado, corrige o valor do coeficiente de determinação r² levando em conta inclusive, o número de preditoras, já que qualquer adição de uma varíável expúria SEMPRE aumenta o r².

      4- Análise dos resíduos: Gráficos e Teste de Durbin-Watson...

         Na análise de regressão linear os erros E₁, E₂, ..., E_n são as diferenças entre o valor observado e o estimado calculado pela equação. O Objetivo da Análise dos resíduos é detectar violações nos seguintes pressupostos:
         1º- seguem uma distribuição Normal - Avaliação: Teste de Kolmogorov-Smirnov, Teste da Normalidade de Lilliefors ou uso de gráfico de probabilidade normal (Normal P-P Plot ou Normal Q-Q Plot) onde se os erros tiverem distribuição Normal, os pontos devem posicionarem-se quase numa reta. Alternativa: ANOVA não-paramétrica;
         2º- têm média zero e variância semelhantes (homocedasticidade) - Avaliação: Teste de Levene, Teste de Brown Forsythe, Teste de Bartlett ou uso de gráfico de probabilidade Normal;
         4º- os resíduos também são independentes independentes - Avaliação: Teste de Durbin-Watson para a medida da autocorrelação (dependência) nos resíduos de uma regressão: 1º- Valores próximo de 0: existe uma autocorrelação positiva. 2º- Valores próximo de 2: não existe autocorrelação dos resíduos. 3º- Valores próximo de 4: existe uma autocorrelação negativa.

Quando uma ou as duas são categóricas temos que transformá-las. Quando a variável independente categórica é nominal, ela pode ter mais de duas classes e para isso cria-se variáveis codificadas chamadas de variáveis dummies.
Problemas quando a variável resposta é binária
1. Os erros não tem distribuição normal.
2. Variâncias heterogêneas.
3. Restrição na função resposta.

         3.1- ANOVA
            3.1.1- A variável contínua é Normal e NÃO HÁ covariadas para serem controladas: ANOVA - two-way
            3.1.2- A variável contínua é Normal e HÁ covariadas para serem controladas: Análise de covariância...
            3.1.3- A variável contínua NÃO é Normal, n > 5, não-pareado: ANOVA não-paramétrica de Kruskal-Wallis.

      A covariável tem que estar correlacionada com a variável resposta para que se possa fazer uso da ANCOVA. como se fosse a média das retas de amostras não-pareadas aos pares...

C. 2 ou mais desfechos: Análises multivariadas (mais de uma variada) com Y_i ~ N(Y_xi, X_Y/Xi)

      1- MANOVA ou Análise Mutivariada de Variância, Stat F, desfecho numérico e preditores categóricos.

      O teste Λ* (lambda) de Wilk é o mais utilizado para testar a hipótese H0 da MANOVA. Outros testes também são utilizados, tais como Pillai, Hotelling-Lawley e o teste de Roy, os quais podem apresentar resultados diferentes para a mesma análise.

   Regressão Logística múltipla (≥ 2 preditoras) dicotômica ou politômica (>2 classes de desfecho ordinal)...

Pressupostos: 1- ausência de colinearidade, 2- singularidade e ausência de observações aberrantes, 3- Homoscedasticidade, 4- normalidade dos erros e erros independentes, 5- linearidade.
1- Exclusão de estudo de variáveis importantes para a explicação do fenômeno em questão, as quais podem estar correlacionadas com uma variável multicolinear.
1 e 2- No caso da inclusão de variáveis multicolineares ou singulares, perde-se graus de liberdade com diminuição do poder de teste estatístico.
3- a homogeneidade variâncias pode ser reduzida por intermédio da transformação de variáveis que não possuem distribuição normal (e.g., assimetria positiva ou negativa).
4- A violação do pressuposto de normalidade (teorema do limite central) pode ser atenuada por meio do aumento do tamanho da amostra da população pesquisada.
Quando o pressuposto da linearidade é violado, deve-se estar ciente de que o modelo de regressão linear não é o melhor modelo explicativo para o estudo das variáveis envolvidas, e que outros modelos (e.g. o quadrático) devem ser utilizados.
A qualidade do modelo é avaliada pelo valor do coeficiente de determinação, r² e da distribuição dos resíduos. Em outras palavras, o R2 é a quantidade da variância da variável dependente que é explicada conjuntamente pela(s) variável(is) independente(s) e é a estatística mais utilizada para interpretar os resultados da regressão.
Mediação: No caso do uso da regressão para verificar se o relacionamento entre as variáveis é linear ou não, a RM pode ser empregada na identificação de variáveis mediadoras e moderadoras. O conceito de mediação implica suposição de relacionamentos causais entre as variáveis envolvidas. Uma variável mediadora é aquela que, ao estar presente na equação de regressão, diminui a magnitude do relacionamento entre uma variável antecedente e uma variável dependente ou critério. Para melhor ilustrar a definição de uma variável mediadora, podemos analisar o relacionamento entre três variáveis hipotéticas, sendo a variável B a mediadora do relacionamento de A com C (A -> B -> C). Note-se que a relação entre as variáveis A e C ficará enfraquecida na presença da variável B. No caso de uma variável mediadora pura, o relacionamento entre A e C deixa de existir na presença da variável B. A identificação de variáveis mediadoras pode ser feita, por exemplo, com base na observação dos padrões assumidos pelos pesos b das variáveis envolvidas. No caso de uma variável mediadora pura, tem-se um b significativo de A para C, antes da entrada de B na equação. Contudo, uma vez que B é adicionado à equação, o b de B torna-se significativo, enquanto a significância do b de A desaparece. No caso de uma mediação pura, o B captura totalmente a relação entre A e C. Contudo, quando a mediação não é total, pode ainda existir uma relação entre A e C mesmo na presença de B.
Moderação: o conceito de moderação implica influência entre as variáveis e não suposição de causalidade, como no caso da mediação. Para testar a moderação, o pesquisador deve observar a interação entre A e B. Para tal, procurase observar se A é um bom preditor de C. Em caso positivo, verifica-se se A e B predizem C, e se a interação entre A e B, calculada por meio do produto A x B, também prediz C. Caso a interação seja uma preditora estatisticamente significativa de C, diz-se que B é uma variável moderadora. A existência de uma interação entre A e B só é um indicador de moderação quando, adicionada à equação, é preditora do critério. Logo, na moderação, o relacionamento entre A e C depende do valor assumido pela variável B. Vale salientar que, no caso da mediação, a relação entre A e C fica enfraquecida com a entrada de B na equação. No caso do moderador, além da interação A x B tornar-se um preditor significativo, a relação entre A e C poderá aumentar ou diminuir, dependendo do valor de B. Pedhazur (1982) discute detalhadamente a diferença entre moderadores e mediadores. Os trabalhos de Gordon (2000) e Torres (1999) exemplificam o uso da RM na identificação de mediadores e moderadores, respectivamente. O´Connor (1998), comparando testes e programas estatísticos, discutiu detalhadamente procedimentos para identificação de moderadores por meio da regressão múltipla.
Redundância: este fenômeno refere-se à entrada de preditores correlacionados positivamente entre si na equação, acarretando perda de parcimônia na explicação de um critério. A redundância pode ser observada quando os pesos b e os Sr2 (i.e., soma das contribuições únicas de cada variável) para cada preditor são menores do que a correlação ivariada entre cada um desses preditores e o critério. Por exemplo, Abbad (1999) identificou redundância em variáveis preditoras que mantinham fortes correlações (0,70 £ r ³ 0,50) com a variável critério e que, ao entrarem na equação de regressão múltipla, resultaram em coeficientes de correlação múltipla muito menores (e.g., bs variando de 0,11 a 0,23 e Sr2s de 0,07 a 0,14). Este fenômeno reflete que cada preditor explica parte da variância do critério que já foi explicada por outro preditor. Nas Ciências Sociais, em geral (Cohen & Cohen, 1975), grande parte das variáveis são correlacionadas entre si. Na Psicologia Organizacional, em particular, este fato se deve ao uso de múltiplas medidas edundantes (Dunlap & Landis, 1998), estratégia esta considerada ecessária para conferir validade de conteúdo e consistência interna aos instrumentos.
Complementaridade: refere-se a um padrão pouco freqüente de associação entre preditores e critério, em que a soma da contribuição única de um conjunto de preditores excede a soma das contribuições individuais de cada preditor na explicação do critério. Na complementaridade, dois preditores (x1 e x2) devem ter uma alta correlação negativa entre si (Tabachnick & Fidell, 1996), bem como uma correlação bivariada positiva com a variável critério (Keppel, 1991). Em alguns casos, observa-se um decréscimo no valor do b de x1, podendo o mesmo assumir valores negativos quando a variável x2 entra na equação. Nestes casos, os dois preditores (x1 e x2) são considerados interdependentes ou complementares. A conseqüência da complementaridade é uma diminuição no poder estatístico da pesquisa devido à inclusão de duas variáveis que, juntas, acrescentam pouca explicação à variância do critério e, portanto, representam uma diminuição nos graus de liberdade. Um exemplo de complementaridade pode ser observado na pesquisa de Torres (1999), que utilizava, como preditores da preferência por estilos de liderança (y), as variáveis padrão cultural (x1) e país de origem (x2) dos participantes, medidas por escala intervalar de altitude (x1) e dados categóricos (x2). Torres observou uma correlação negativa (rx1x2 = - 0, 11) entre x1 e x2 e correlações positivas entre x1 e y (rx1y = 0, 22) e entre x2 e y (rx2y = 0,29). Na análise de regressão hierárquica, foi observado um forte decréscimo com inversão de sinal do bx1 depois que a variável x2 entrava na equação (de 0,29 para - 0,61). Neste caso, x1 foi caracterizado como uma variável complementar a x2. Complementaridade, na verdade, é um caso especial do fenômeno de supressão, que será descrito a seguir.
Supressão: refere-se à situação na qual uma variável (x1), que mantém uma fraca correlação bivariada com a variável critério (y), entra como preditora na equação de regressão múltipla com um b de sinal oposto ao da correlação bivariada que mantém com y. Trata-se de um fenômeno estatístico raro. A supressão pode ser um sinal de relações complexas entre variáveis preditoras na explicação da variável critério. Esse fenômeno é inicialmente identificado por meio da análise do padrão assumido pelos coeficientes de regressão e de correlação de cada preditor com o critério. Entre os sinais de supressão, deve-se observar, segundo Tabachnick e Fidell, os dois seguintes: (1) o valor absoluto da correlação simples entre as variáveis x1 e y deve ser substancialmente menor que o peso b para a variável supressora x1; e (2) a correlação simples e o peso b dessa variável devem ter sinais opostos. Para Cohen e Cohen (1975), há mais dois indicadores importantes da supressão: (1) a soma das contribuições únicas de cada variável (Sr2) na explicação da variável critério excede o valor assumido por R2; e (2) em alguns casos, o valor de b pode ser maior do que 1. Uma variável supressora é identificada quando se observa que esta variável aumenta a importância de outras variáveis preditoras ao se suprimir parte da variância irrelevante em outros preditores, ou na variável critério (Tabachnick & Fidell, 1996). Um exemplo de supressão pode ser encontrado na pesquisa de Abbad (1999), que investigou o relacionamento entre variáveis organizacionais, características do treinamento, características do treinando, satisfação com treinamento e aprendizagem, com a variável critério impacto do treinamentono trabalho (y). A variável aprendizagem (x1) mantinha uma correlação próxima de zero com o critério (rx1y = 0,002). Na análise de regressão múltipla stepwise, encontrou- se que x1, apesar de não se correlacionar com y, entrou na equação com o peso b de sinal negativo (b = - 0,07), suprimindo a variância de outro(s) preditor(es). Neste caso, observou-se ainda que a soma dos Sr2 era superior ao valor do R2 (Sr2 = 0,94 > R2 = 0,61), caracterizando assim o fenômeno da supressão.

   1- Regressão Logística múltipla dicotômica (padrão), desfecho binário, p(x) = 1/(1 + e^{-( β₀ + β₁x₁ + β₂x₂ + ... + β_kx_k)})...

      Onde β_i são os parâmetros do modelo, estimados pelo método de máxima verossimilhança. O primeiro teste de significância importante na regressão logística é o teste da razão de verossimilhança, onde a hipótese de que pelo menos um dos parâmetros β_ij é diferente de zero (exceto os interceptos – parâmetros β_i0) é testada.
      É equivalente à Regressão Linear Múltipla para 2 ou mais variáveis preditoras não-paramétricas. Permite que a variável desfecho seja predita a partir de duas ou mais variáveis independentes (covariadas ou determinantes).
Antes de iniciar a análise de regressão múltipla deve-se calcular os coeficientes de correlação de todas as variáveis tomadas aos pares. Se houver duas ou mais variáveis com coeficientes de correlação muito altos (r igual ou superior a 0,95) elas interferirão nos cálculos de regressão múltipla, neste caso deve-se escolher apenas uma delas.
Exemplo: H1 - Amostra de 36 hansenianos de sexo masculino há correlação entre a quantidade de uma determinada droga presente no sangue 6 hs após a sua ingestão (variável dependente) com a idade (x1), peso corporal (x2), duração da doença (x3), anos de sulfonoterapia (x4), valor do hematócrito (x5), taxa de hemoglobina (x6), nível de globulinas (x7) e nível de albumina (x8). Conclui-se que o nível sanguíneo da droga após 6 hs de ingestão depende apenas da variável x5 pois entre todos os coeficientes de regressão calculados somente o b (-0,2317) dessa variável é significativamente diferente de zero (pois t(27) = -2,340), que determina um P < 0,05.

   Regressão stepwise introduz os preditores passo-a-passo no modelo, começando com a variável independente mais correlacionada com y. Depois do primeiro passo, o algoritmo seleciona a amostra de variáveis remanescentes aquela que dá a maior redução na variâncial residual (não-explicada) da variável dependente, i.e. a variável cuja correlação parcial com y é a maior. O programa então executa um teste-F parcial na entrada para checar se a variável absorverá uma quantidade significante da variação em relação aquela removida por variáveis já na regressão. O usuário pode especificar um valor de F mínimo para a inclusão de qualquer variável; o programa avalia se o valor de F obtido em um dado passo satisfaz o mínimo, e se satisfizer, a variável entrará. Similarmente, o programa decide a cada passo se qualquer variável previamente incluída ainda satisfaz um mínimo (também fornecido pelo usuário) e, caso contrário, remove-se tal variável. Em qualquer passo do procedimento, os resultados são os mesmos de como seriam em uma regressão padrão usando-se um conjunto particular de variáveis; portanto, o passo final de uma regressão stepwise mostra os mesmos coeficientes que uma execução normal usando as variáveis que sobreviveram" ao procedimento stepwise.
É um modelo de regressão que permite selecionar as variáveis independentes por ordem decrescente de intensidade de correlação com a variável dependente. matemáticamente se chega à formula do coeficiente de determinação r2, que mede o componente da regressão que decorre da variação concomitante das variáveis estudadas. (Como já foi visto, a expressão 1 - r2 indica o quanto da variância não depende dessas variáveis em estudo). Nessa análise se ordena as variáveis independentes de acordo com o valor de bSP. E, depois desse ordenamento se faz a análise de regressão simples da variável dependente sobre a independente que apresentou o maior valor de bSP. Finalmente,inicia-se a análise de regressão múltipla introduzindo as outras variáveis independentes pela ordem de grandeza decrescente do valor de bSP. Ao final, verifica-se se o acréscimo de r2 é significativo ou não por meio de um teste t : t = (b / sb). A tabela que se segue mostra o resultado da análise de regressão múltipla escalonada aplicada aos mesmos dados que foram usados para a tabela anterior.

Visão geral: Logistic Organ Dysfunction System (LODS)
Fluxograma recursivo de análise de bloco onde o nome de cada bloco é um desfecho.
   Modelo empírico...
   ...diagrama de bloco...
   ...modelo clínico epidemiológico...

: Use the MHC test to conditionally test the associations of two binary variables in the presence of a third categorical variable.