likelihood 函数探析

1. 似然函数基本定义

令 X1,X2,…,Xn 为联合密度函数 f(X1,X2,…,Xn|θ)，给定观测值 X1=x1,X2=x2,…,Xn=xn，关于 θ 的似然函数（likelihood function） 定义如下：

似然函数该怎么理解呢：

• 似然函数不是概率密度函数；
• 似然函数既可作为 frequentist 也可作为 Bayesian 分析的重要组件；
• It measures（似然函数是一种度量） the support provided by the data（给定观测数据对 θ 的支持程度） for each possible value of the parameter. If we compare the likelihood function at two parameter points（似然函数是关于 θ 的函数） and find that L(θ1|x)>L(θ2|x) then the sample we actually observed is more likely to have occurred（更可能发生于） if θ=θ1 than if θ=θ2. This can be interpreted as θ1 is a more plausible value for θ than θ2.

references

• Lecture notes on likelihood function
• Likelihood and all that（R 语言解释）