Tikėtinumo funkcija

Tikėtinumo funkcija statistikoje – statistinio modelio parametro ar parametrų funkcija. Parametro ar parametrų θ verčių tikėtinumas L, yra lygus tikimybei stebimo rezultato x esant tam tikrai modelio parametro θ vertei: ${\displaystyle {\mathcal {L}}(\theta |x)=P(x|\theta )}$.

Tikimybės ir tikėtinumo sąvokos savo prasme labai artimos. Kartais jos netgi vartojamos, kaip sinonimai. Panagrinėkime du teiginius:

• Jei tikra moneta metama 10 kartų, kokia tikimybė, jog iš eilės 10 kartų iškris herbas?
• Kiek tikėtina, kad moneta tikra, jei metant 10 kartų iš eilės iškrenta herbas.

Pirmuoju atveju tikimybė nusako stebimų ar išmatuotų verčių funkciją esant fiksuotam parametrui (šiuo atveju parametras – moneta tikra). Antruoju atveju tikėtinumas irgi nusako tikimybę, bet tik tikimybę, kad moneta tikra esant stebėjimo/matavimo rezultatui – 10 kartų iš eilės iškrenta herbas.

Kitais žodžiais, tikimybė leidžia prognozuoti matavimo rezultatus, kai žinomi modelio parametrai, o tikėtinumas leidžia įvertinti modelio (nežinomus) parametrus, esant žinomiems matavimo rezultatams.

Terminas „tikėtinumas“ (angl. likelihood) anglų kalboje vartojamas bent jau nuo vėlyvosios vidurinės anglų kalbos. Formaliai jį naudoti nurodant konkrečią matematinės statistikos funkciją pasiūlė britų matematikas Ronaldas Fišeris.

Pavyzdys

Tarkime, kad turime n kažkokio dydžio ${\displaystyle x_{1},\ldots ,x_{n}}$ matavimų, kurie pasiskirstę pagal normalųjį dėsnį su vidurkiu ${\displaystyle \mu }$ ir dispersija ${\displaystyle \sigma ^{2}}$:

${\displaystyle f\left(x;\mu ,\sigma ^{2}\right)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp {\left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)}.}$

Tikėtinumo funkcija šiuo atveju bus tokio pavidalo:

${\displaystyle {\mathcal {L}}(\mu ,\sigma ^{2}|{x_{i}})=\prod _{i=1}^{n}f\left(x_{i};\mu ,\sigma ^{2}\right)=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left(-{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{\sigma ^{2}}}\right)}$

Tai yra neneigiama funkcija. Kadangi visada patogiau skaičiuoti sumas, o ne sandaugas, dažnai naudojama logaritminė tikėtinumo funkcija:

${\displaystyle \log {\mathcal {L}}(\mu ,\sigma ^{2}|{x_{i}})=-{\tfrac {n}{2}}\log(2\pi \sigma ^{2})-{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{2\sigma ^{2}}}.}$

Logaritmas yra monotoniškai didėjanti funkcija, todėl ${\displaystyle {\mathcal {L}}}$ ir ${\displaystyle \log {\mathcal {L}}}$ maksimumai sutampa. Norėdami įvertinti modelio parametrus ${\displaystyle \mu }$ ir ${\displaystyle \sigma ^{2}}$ toliau galime naudoti didžiausio tikėtinumo metodą. Šis metodas taip pat yra pagrindas.

Šaltiniai

1. "likelihood", Shorter Oxford English Dictionary (2007).
2. Hald, A. (1999), "On the history of maximum likelihood in relation to inverse probability and least squares", Statistical Science 14(2): 214–222, doi:10.1214/ss/1009212248