ํƒœ๊ทธ ๋ณด๊ด€๋ฌผ: maximum-likelihood

maximum-likelihood

์ตœ๋Œ€ ๊ฐ€๋Šฅ์„ฑ ์ถ”์ •๊ธฐ-์‹ ๋ขฐ ๊ตฌ๊ฐ„ ์‹ค์ œ ๋ชจ์ˆ˜์— ๋Œ€ํ•œ ์ ๊ทผ ์ 

ํ•ด๋‹น ๋ชจ์ˆ˜์— ๋Œ€ํ•œ MLE๋ถ€ํ„ฐ ์‹œ์ž‘ํ•˜์—ฌ ์‹ค์ œ ๋ชจ์ˆ˜์— ๋Œ€ํ•œ ์ ๊ทผ ์  ์‹ ๋ขฐ ๊ตฌ๊ฐ„์„ ์–ด๋–ป๊ฒŒ ๊ตฌ์„ฑ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?



๋‹ต๋ณ€

ํฌ๊ธฐ ์˜ iid ํ‘œ๋ณธ์— ๋Œ€ํ•ด ๊ทœ์น™ ์„ฑ ์กฐ๊ฑด์ด ์ฃผ์–ด์ง„ ๊ฒฝ์šฐ MLE ๋Š” ์‹ค์ œ ๋ชจ์ˆ˜ ๋ฐ ๊ทธ ๋ถ„ํฌ์˜ ์˜ ์ผ๊ด€๋œ ์ถ”์ •๊ฐ’ ์ด๋ฉฐ, ํ”ผ์…” ์ •๋ณด :ฮธ ฮธ 0

n

ฮธ^

ฮธ0

I1(ฮธ0)I(ฮธ)

n(ฮธ^โˆ’ฮธ0)โ†’N(0,1I1(ฮธ0))


์—ฌ๊ธฐ์„œ ์€ ๋‹จ์ผ ์ƒ˜ํ”Œ์˜ Fisher ์ •๋ณด์ž…๋‹ˆ๋‹ค. MLE ์—์„œ ๊ด€์ธก ๋œ ์ •๋ณด ๋Š” ์˜ˆ์ƒ๋˜๋Š” ์ •๋ณด์™€ ๋ฌด๊ด€ํ•˜๊ฒŒ ๊ฒฝํ–ฅ์ด ์žˆ์œผ๋ฏ€๋กœ ๋‹ค์Œ๊ณผ ๊ฐ™์ด ์‹ ๋ขฐ ๊ตฌ๊ฐ„์„ ๊ณ„์‚ฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค (์˜ˆ : 95 %)

I1(ฮธ0)

I(ฮธ^)

ฮธ^ยฑ1.96nI1(ฮธ^)

์˜ˆ๋ฅผ ๋“ค์–ด, ๊ฐ€ 0์œผ๋กœ ์ž˜๋ฆฐ ํฌ์•„์†ก ๋ณ€์ˆ˜ ์ธ ๊ฒฝ์šฐ MLE (์ˆ˜์ ์œผ๋กœ ๊ณ„์‚ฐํ•ด์•ผ ํ•จ) ์ธก๋ฉด์—์„œ ๊ด€์ธก ๋œ ์ •๋ณด์— ๋Œ€ํ•œ ๊ณต์‹์„ ์–ป์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

X

f(x)=eโˆ’ฮธฮธxx!(1โˆ’eโˆ’ฮธ)

โ„“(ฮธ)=โˆ’ฮธ+xlogโกฮธโˆ’logโก(1โˆ’eโˆ’ฮธ)

dโกโ„“(ฮธ)dโกฮธ=โˆ’1+xฮธโˆ’eโˆ’ฮธ1โˆ’eโˆ’ฮธ

I1(ฮธ^)=โˆ’d2โกโ„“(ฮธ^)(dโกฮธ^)2=xฮธ^โˆ’eโˆ’ฮธ^(1โˆ’eโˆ’ฮธ^)2

๊ทœ์น™ ์„ฑ ์กฐ๊ฑด์—์„œ ์ œ์™ธ๋˜๋Š” ์ฃผ๋ชฉํ• ๋งŒํ•œ ์‚ฌ๋ก€๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  • ๋งค๊ฐœ ๋ณ€์ˆ˜ ๋Š” ๋ฐ์ดํ„ฐ์˜ ์ง€์›์„ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด Naught์™€ ์‚ฌ์ด์˜ ๊ท ์ผ ํ•œ ๋ถ„ํฌ์—์„œ ์ƒ˜ํ”Œ๋ง
    ฮธ

    ฮธ

  • ์ƒ˜ํ”Œ ํฌ๊ธฐ์— ๋”ฐ๋ผ ๋ฐฉํ•ด ๋งค๊ฐœ ๋ณ€์ˆ˜์˜ ์ˆ˜๊ฐ€ ์ฆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.

๋‹ต๋ณ€