数学基础(高等数学)

一些在机器学习中可能用到的数学基础以及常用的数学公式

机器学习中常见的函数

符号函数

$y = sgnx= \begin{cases} 1 & x > 0 \\ 0 & x = 0 \\ -1 & x < 0 \\ \end{cases}$

取整函数

$y = [x]$

狄利克雷函数

$y = D(x)= \begin{cases} 1 & x 为有理数 \\ 0 & x 为无理数 \\ \end{cases}$

取最值函数

$y = max[{f(x),g(x)}]$
$y = min[{f(x),g(x)}]$

对数函数

$x =\log_a{N}$

指数函数

$N = a^x$

泊松分布

$P(X=k) = \frac{\lambda^k}{k!} e^{-\lambda},k = 0,11...$

高斯分布(正态分布)

$f(x) = \frac{1}{\sqrt{2\pi}\sigma}exp(-\frac{(x-\mu)^2}{2\sigma^2})$

sigmoid函数

$S(x) = \frac{1}{1+e^{-x}}$

幂函数

$y = \begin{cases} x \\ x^2 \\ x^3 \\ x^4 \\ \end{cases}$

一元一次函数

$y = ax +b$

三角函数

$y = \begin{cases} sinx & 正弦函数\\ cosx & 余弦函数 \\ tanx & 正切函数\\ \end{cases}$

反三角函数

$y = \begin{cases} arcsinx & 反正弦函数\\ arccosx & 反余弦函数 \\ arctanx & 反正切函数\\ \end{cases}$

导数与微积分

切线斜率

某点的导数即为该点的斜率
$k = \lim_{x\rightarrow x_0}{\frac{f(x)-f(x_0)}{x - x_0}}$

常见的导数

$y' = \begin{cases} 0 & (C)' \\ cosx & (sinx)' \\ -sinx & (cosx)' \\ nx^{n-1} & (x^n)'\\ \frac{1}{xlna} & (log_a x)'\\ \frac{1}{x} & (lnx)'\\ a^x lna & (a^x)'\\ e^x & (e^x)'\\ \end{cases}$

微分

$dy = f'(x_0)\Delta x = f'(x_0)dx$

导数的运算法则

$[f(x)\pm g(x)]' = f'(x) \pm g'(x)$
$[f(x) \ast g(x)]' = f'(x)g(x) + f(x)g'(x)$
$[\frac{f(x)}{g(x)}]' = \frac{f'(x)g(x) - f(x)g'(x)}{[g(x)]^2}(g(x) \neq 0)$

定积分

$\int^b_a f(x)dx = \lim_{\lambda \rightarrow 0} \sum^n_{i=1} f(\xi _i)\Delta x_i$

规定

$\int^b_a f(x)dx = \begin{cases} 0 & a = b\\ -\int^a_b f(x)dx & b < a\\ \end{cases}$

性质

$\int^b_a[f(x)+g(x)]dx = \int^b_a f(x)dx + \int^b_a g(x)dx$
$\int^b_a kf(x)dx = k\int^b_af(x)dx$
$\int^b_a [\alpha f(x) + \beta g(x)]dx = \alpha \int^b_a f(x)dx + \beta \int^b_a g(x)dx$
$\int^b_a f(x)dx = \int^c_a f(x)dx + \int^b_c f(x)dx$
$\int^b_a f(x)dx \geq 0$
$若f(x)在[a,b]上连续,则存在\xi \in [a,b] ,使 \int^b_a f(x)dx = f(\xi)(b-a)$
$设M,m分别是f(x)在区间[a,b]上的最大值及最小值,则m(b-a) \leq \int ^b_a f(x)dx \leq M(b-a)$

向量代数及空间解析几何

定义

既有大小又有方向的量

两非零向量的关系
- 相等 : 大小相等且方向相同
  $\vec a = \vec b$
- 平行或共线 : 方向相反或相同的两个非零向量
  $\vec a // \vec b$
- 垂直 : 方向成90°夹角的量非零向量
  $\vec a \bot \vec b$
向量的运算

$\vec a + \vec b = \vec b + \vec a$
$\vec a + \vec b + \vec c = (\vec a + \vec b ) + \vec c = \vec a + (\vec b + \vec c)$
$\vec a +(- \vec a) = \vec 0$
$\vec a -\vec b = \vec a +(- \vec b)$
$\lambda (\mu \vec a) = \mu (\lambda \vec a) = (\mu \lambda)\vec a$
$(\lambda + \mu) \vec a = \lambda \vec a + \mu \vec a$
$\lambda(\vec a + \vec b ) = \lambda \vec a + \lambda \vec b$

数量积

$\vec a \cdot \vec b = |\vec a||\vec b |cos \theta$

数量积的性质
- $a \cdot a = |a|^2$
- $对于两个非零向量a,b 如果a \cdot b =0,则a \bot b,反之,若a \bot b,则a \cdot b =0$
数量积的运算

$a \cdot b = b \cdot a$
$(a+b)\cdot c = a \cdot c + b \cdot c$
$(\lambda a) \cdot b = a \cdot (\lambda b) = \lambda(a \cdot b)$
$(\lambda a ) \cdot (\mu b) = \lambda \mu (a \cdot b)$

数量积的坐标表示
- $设a = (a_x,a_y,a_z), b = (b_x,b_y,b_z),则a \cdot b = a_xb_x+a_yb_y +a_zb_z$
向量夹角的余弦的坐标表示

$cos \theta = \frac{a \cdot b}{|a||b|}=\frac{a_xb_x+a_yb_y+a_zb_z}{\sqrt{a_x^2+a_y^2+a_z^2} \sqrt{b_x^2+b_y^2+b_z^2}}$

球面的方程

$(x-x_0)^2+(y-y_0)^2+(z-z_0)^2 = R^2$

椭球面的方程

$\frac{x^2}{a^2} + \frac{y^2}{b^2} + \frac{z^2}{c^2} = 1$

梯度

定义

$函数z=f(x,y)在平面区域D内具有一阶连续偏导数,则对于点P_0(x_0,y_0) \in D,都可以定出向量 \frac{\alpha f}{\alpha x} \vec i+\frac{\alpha f}{\alpha y} \vec j,$ $这向量称为函数z = f(x,y) 在点P_0(x_0,y_0)的梯度,记为$ $gradf(x_0,y_0) = \nabla f(x_0,y_0) = f_x(x_0,y_0) \vec i +f_y(x_0,y_0) \vec j$ $它的模等于方向导数的最大值$ $|gradf(x,y)| = \sqrt{(\frac {\alpha f}{\alpha x})^2 + (\frac {\alpha f}{\alpha y})^2}$

梯度下降

$\Theta^1 = \Theta^0 - \alpha \nabla J(\Theta) evaluated at \Theta^0$
假设有一个单变量的函数 $J(\theta) = \theta^2$ ,函数的导数是 $J'(\theta)=2\theta$ ,起点为 $\theta^0 = 1$ ,学习率 $\alpha = 0.4$ ,开始计算下降梯度 $\theta^0=1$ $\theta^1 = \theta^0-\alpha *J'(\theta^0)=1-0.4*2=0.2$ $\theta^2 = \theta^1-\alpha *J'(\theta^1)=0.2-0.4*0.4=0.04$

二重积分

性质

$\int \int_Dkf(x,y)d \sigma = k\int\int_Df(x,y)d \sigma$
$\int \int_D[f(x,y) \pm g(x,y)]d \sigma = \int\int_Df(x,y)d \sigma + \int\int_Dg(x,y)d \sigma$
$\int \int_Df(x,y)d \sigma = \int\int_{D_1} f(x,y)d \sigma + \int\int_{D_2} f(x,y)d \sigma$

结束语

如果您对这篇文章有什么意见或者建议,请评论与我讨论.
如果您觉得还不错的话~可以点个喜欢鼓励我哦.
如果您想和我一起学习,请毫不吝啬的私信我吧~

最后编辑于：2018.09.27 10:44:25

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 203,772评论 6赞 477
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 85,458评论 2赞 381
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 150,610评论 0赞 337
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 54,640评论 1赞 276
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 63,657评论 5赞 365
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 48,590评论 1赞 281
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 37,962评论 3赞 395
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,631评论 0赞 258
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 40,870评论 1赞 297
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,611评论 2赞 321
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 37,704评论 1赞 329
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,386评论 4赞 319
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 38,969评论 3赞 307
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 29,944评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,179评论 1赞 260
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 44,742评论 2赞 349
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,440评论 2赞 342

数学基础(高等数学)

机器学习中常见的函数

符号函数

取整函数

狄利克雷函数

取最值函数

对数函数

指数函数

泊松分布

高斯分布(正态分布)

sigmoid函数

幂函数

一元一次函数

三角函数

反三角函数

导数与微积分

切线斜率

常见的导数

微分

导数的运算法则

定积分

规定

性质

向量代数及空间解析几何

定义

两非零向量的关系

向量的运算

数量积

数量积的性质

数量积的运算

数量积的坐标表示

向量夹角的余弦的坐标表示

球面的方程

椭球面的方程

梯度

定义

梯度下降

二重积分

性质

结束语

推荐阅读更多精彩内容