生成模型与判别模型

生成模型与判别模型

1.生成模型表示了给定输入X产生输出Y的生成关系。它由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测模型,即生成模型:

P(Y|X)=P(X,Y)/P(X)

生成模型关心的是生成关系。典型的生成模型有朴素贝叶斯法和隐式马尔科夫模型。
生成模型:无穷样本==》概率密度模型 = 产生模型==》预测

2.判别模型由数据直接学习决策函数f(X)和条件概率分布P(Y|X)作为预测的模型。它关心的是给定一个输入X,应该预测什么样的输出Y。
典型的判别模型有:knn,SVM,感知机等。

判别模型:有限样本==》判别函数 = 预测模型==》预测

r