线性回归、多项式回归与逻辑回归(12.15)

源码分析来源:datawhalechina

https://github.com/datawhalechina/machine-learning-toy-code/blob/main/ml-with-sklearn/LinearRegression/LinearRegression.ipynb

一、线性回归语法备注补充及重点:

1.* np.random.seed(0):每次运行代码时设置相同的seed,则每次生成的随机数也相同,如果不设置seed,则每次生成的随机数都会不一样。

https://zhuanlan.zhihu.com/p/32857565https://zhuanlan.zhihu.com/p/266472620

2.* np.sort:排序

3. * np.random.rand(数量):随机样本在 [0,1) 范围中取值。https://blog.csdn.net/qq_40130759/article/details/79535575

注:与np.random.randn(数量)使用方法相同,(0,1)的正态分布

4. *np.linspace(0, 1, 100):序列生成器(均匀步长生成数字序列),即numpy.linspace(start, end, num=num_points)。这里的意思是生成0-1的100个length的序列。https://m.w3cschool.cn/article/54960412.html

5. *np.newaxis:增加一个维度。将一维的数据转变成一个矩阵,为了与权重矩阵进行相乘。https://blog.csdn.net/weixin_42866962/article/details/82811082

二、多项式回归语法备注补充及重点:

1. * np.cos:三角函数.   e.g.  np.cos(a*np.pi/180) # 通过乘 pi/180 转化为弧度

2. * plt.figure(figsize=(14,5)):表示figure 的大小为宽、长(单位为inch)

3. * plt.subplot(2,2,1):也可以简写plt.subplot(221)表示生成一个共2*2(共4张)的图阵列,“1”代表第一行第一列第一个图。https://www.jianshu.com/p/de223a79217a

4. * plt.setp(ax, xticks=(), yticks=()):图的显示模式。

5. * # 使用交叉验证:scores=cross_val_score(pipeline,X[:,np.newaxis],y,scoring="neg_mean_squared_error",cv=10) 

🔺 以上一、二的重要知识点以及疑点:

① 交叉验证:

② 过拟合与欠拟合(图一欠拟合、图三过拟合):

pipeline的用法还不太理解:在代码中,用pipeline串联起的这两个模型最终得出的又是什么模型呢?

三、逻辑回归语法备注补充及重点 (二分类):

1. 假设函数(Hypothesis function):(我的理解)就是用找到相关的复合函数描述自变量和因变量之间的关系。

如:历史数据近似在一条直线左右,我们假设函数为下图公式,我们需要找到最优的 θ0 和 θ1 来使这条直线更能准确地代表所有数据。

2. 损失函数(loss function)-代价函数:用来评价模型的预测值和真实值不一样的程度,损失函数越好,通常模型的性能越好。损失函数类型若干,如0-1损失函数,绝对损失函数,log对数损失函数,指数损失函数等(具体详见https://zhuanlan.zhihu.com/p/58883095)。

3. 梯度下降(哎哟天呐,这部分算法太难了,只能理解意思,完全无法明白公式推算):

用来计算函数最小值。想象在山顶放了一个球,一松手他就会顺着山坡最陡峭的地方滚到谷底。

* 说白了就是找最优解

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,236评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,867评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,715评论 0 340
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,899评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,895评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,733评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,085评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,722评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,025评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,696评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,816评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,447评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,057评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,254评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,204评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,561评论 2 343

推荐阅读更多精彩内容