博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【cs229-Lecture4】GLMS:选定指数分布族,如何用它来推导出GLM?
阅读量:4355 次
发布时间:2019-06-07

本文共 587 字,大约阅读时间需要 1 分钟。

在Lecture4中有3部分内容:

  • Newton’s method        牛顿方法
  • Exceponential Family        指数分布族
  • Generalized Linear Models        广义线性模型(GLMS)

牛顿法上一篇随便中已经讲过了,是平行于梯度下降算法的另一种最优化算法。

然后,视频中证明了伯努利分布和高斯分布都属是指数分布族中的特例的证明,实际上就是把这两种分布转化为指数分布族的形式,然后一一去对照,判断是否符合。

接下来,就讲到了当我们选定了一个指数分布族之后,如何用它来推导出一个广义线性模型(GLM),也就是本文想要讲述的内容。

首先,给出三个假设,同时我们以伯努利分布为例(01问题建模)来进行说明:

给定一个指数分布族,之前我们已经证明了伯努利分布是指数分布族的特例,因此,它满足第一个假设。

给定X,目标是求出以X为条件的T(y)的期望E[T(y)|x],即让学习算法输出h(x)=E[T(y)|x],在此处,这个期望值就等于因变量取1的概率,一般就写成P了。这个P涵盖了0-1因变量的信息,同时也能够用来比较直观地理解我们的问题:当自变量发生变化时,我们的目标变量取1的概率是怎样变化的。

假设因变量取1的概率跟自变量是线性关系。

 

之后会补充例子。

转载于:https://www.cnblogs.com/XBWer/p/3966859.html

你可能感兴趣的文章
Test
查看>>
C# 整理
查看>>
AngularJS中使用$resource
查看>>
[poj3261]Milk Patterns(后缀数组)
查看>>
[luogu3369]普通平衡树(fhq-treap模板)
查看>>
题解 P2799 【国王的魔镜】
查看>>
写写代码,注意注意细节
查看>>
css Backgroud-clip (文字颜色渐变)
查看>>
安装 OpenSSL 工具
查看>>
用长微博工具发布长微博
查看>>
大庆金桥帆软报表案例
查看>>
方维分享系统,个人中心杂志社显示我的、关注的、推荐的数量
查看>>
JavaScript BOM加载事件
查看>>
Java复习总结——详细理解Java反射机制
查看>>
Navicat for MySQL10.1.7注册码
查看>>
Proxy模式
查看>>
读书多些会怎样
查看>>
浏览器好用的技术
查看>>
HDU 2188------巴什博弈
查看>>
tp5任务队列使用supervisor常驻进程
查看>>