Introduksjon til Logistic Regression

Forskere er ofte interessert i å sette opp en modell for å analysere forholdet mellom noen prediktorer (dvs. uavhengige variabler) og respons (dvs. avhengig variabel). Lineær regresjon brukes vanligvis når responsvariabelen er kontinuerlig. En antagelse av lineære modeller er at restfeilene følger en normalfordeling. Denne forutsetningen svikter når responsen variabelen er kategorisk, så en vanlig lineær modell er ikke riktig. Dette nyhetsbrevet presenterer en regresjonsmodell for en responsvariabel som er dikotom ha to kategorier. Eksempler er felles: om en plante lever eller dør, om en undersøkelse respondent er enig eller uenig med en uttalelse, eller om en utsatte barn nyutdannede eller faller ut fra videregående skole

I ordinær lineær regresjon, responsen. variabel (Y) er en lineær funksjon av koeffisientene (B0, B1, etc.) som tilsvarer forutsiger variablene (X1, X2, etc.). En typisk modell vil se ut:

Y = B0 + B1 * X1 + B2 * X2 + B3 * X3 + ... + E

For en dikotom responsvariabel, vi kunne sette opp en lignende lineær modell for å forutsi individers kategorien medlemskap hvis tallverdier blir brukt til å representere de to kategoriene. Vilkårlige verdier av 1 og 0 er valgt for matematisk bekvemmelighet. Bruke det første eksemplet, vil vi tildele Y = 1 hvis en plante lever og Y = 0 hvis en plante dør.

Denne lineære modellen ikke fungerer godt for et par grunner. Først respons verdier, 0 og 1, er vilkårlig, så modellerer de faktiske verdiene av Y er ikke akkurat av interesse. For det andre er det egentlig sannsynligheten for at hvert individ i befolkningen svarer med 0 eller 1 som vi er interessert i modellering. For eksempel kan vi finne at planter med et høyt nivå av en soppinfeksjon (X1) faller i kategorien "anlegget bor» (Y) sjeldnere enn de planter med lavt nivå av infeksjon. Således, som infeksjonsnivået stiger, minsker sannsynligheten for at en plante levende.

Dermed kan vi vurdere modellering P, den sannsynlighet som responsvariabelen. Igjen, det er problemer. Selv om den generelle nedgangen i sannsynlighet er ledsaget av en generell økning i infeksjonsnivå, vet vi at P, som alle sannsynligheter, kan bare falle innenfor grensene av 0 og 1. Derfor er det bedre å anta at forholdet mellom X1 og P er sigmoidal (S-formet), i stedet for en rett linje.

Det er imidlertid mulig å finne et lineært forhold mellom X1 og en funksjon av P. Selv om en rekke funksjoner som virker, en av de mest nyttig er logit-funksjonen. Det er den naturlige logaritmen av sjansen for at y er lik 1, noe som er ganske enkelt forholdet mellom sannsynligheten for at Y er en delt av sannsynligheten for at Y er 0. Forholdet mellom logit av P og P i seg selv er sigmoidal form . Regresjonsligningen som resulterer er:

ln [P /(1-P)] = B0 + B1 * X1 + B2 * X2 + ...

Selv venstre side av denne ligningen ser skremmende, denne måte å uttrykke sannsynlighets resultatene i den høyre side av ligningen er lineær og ser kjent for oss. Dette hjelper oss til å forstå betydningen av regresjonskoeffisientene. Koeffisientene kan lett bli transformert slik at deres tolkning er fornuftig.

Den logistisk ligning kan forlenges utover tilfelle av en dikotom responsvariabel til tilfeller av bestilte kategorier og polytymous kategorier (mer enn to kategorier).
.