kkt条件的推导思路以及八卦

kkt条件的推导思路以及八卦

KKT条件是用来判断一个解是否属于一个非线性最优化问题的。

这个条件也是推导出来的

我们知道,我们要求解一个最优化问题,其实就是求解一个函数在某些变量取值不定情况下的最值。首先要看这个函数是不是凸函数,如果是,就是可以用求导求极值的方法求的几个局部最优,然后在局部最优中选出最优即可

如果要求解的这个函数带有等式约束,可以引入拉格朗日乘子,把这些等式约束巧妙的变化到函数中,等效于在函数中多加了几个变量,这个变量就是拉格朗日乘子,然后用求导求极值的方法求的最优值。

如果要求解的这个函数不仅仅带有等式约束,还带有不等式约束,那就可以先想个办法把不等式约束变成等式约束,然后再引入拉格朗日乘子,把这些等式约束变化到函数去,再利用求导数求极值的方法求出最优值。

其实就是这么一个过程:


优化问题中的不等式约束转化过程

那么这个KKT条件就是用来被判断这种带有不等式约束问题解的。把不等式约束变为等式约束,而后又把等式约束巧妙的变化到函数中后,利用求倒求极值的计算时,就把这个条件推导出来了。

KKT条件是这个过程中必然经过的一个点,所以,推导过程中,也可以直接写到这一步,利用这个条件,简化推导过程。

其实KKT条件从功能上可以叫做:不等式约束的极值必要条件

这个条件为什么叫KKT,我们可以八卦一下:

KKT来源于一个人名,Karush-kuhn-Tucker 最优化条件,由于人名Karush-kuhn-Tucker有时候可以别称为Kuhn-Tucker,所以又叫 Kuhn-Tucker条件,Kuhn-Tucker最优化条件,又叫库恩塔克条件

这个人是谁?他是做什么的?

原来这是3个人,karush[1939],kuhn-tucker[1951]先后独立发表出来的,由于这组优化条件再kuhn和tucker发表之后才受到重视,因此许多书只记载成了Kuhn-tucker最优化条件,库恩塔克最优化条件。

刚开始人们只知道kuhn-tucker的文章,后来发现karush在1939年就发表了相关文章。

1939年,德国闪击波兰,人类历史上最波澜壮阔的二战开始了

先来了解下karush

http://en.academic.ru/dic.nsf/enwiki/1140736

karush 全称william karush ,生日1917年3月1日,所以1939年时,他是22岁。卒年1997年2月22日。活了80年。 美国加里弗尼亚大学名誉教授

当年发表的文章为

* Minima of functions of several variables with inequalities as side conditions. (1939), William Karush, Thesis (S.M.)--University of Chicago, Department of Mathematics (UoC).

再来看看Kuhn,这个最有意思了

全名:harold w.Kuhn 1925年生,美国数学家,研究博弈论。与David Gale 和 Albert W.Tucker一起,赢得了诺依曼理论奖。普林斯顿大学数学名誉教授。他发明了有名的库恩扑克,作为分配问题的匈牙利描述方法。

他与John Forbes Nash长期合作过,他们曾经是研究生同事,一生的朋友和同事。是让1994年诺贝尔经济学奖委员会关注到Nash的关键人物。Kuhn和Nash都和Albert W. Tucker长期合作过。Tucker是Nash的导师。普林斯顿再电影 A Beautiful Mind(美丽心灵)采用了Nash的生活。



现实中的nash和他老婆


美丽心灵 电影剧照

《美丽心灵》是由朗·霍华德执导,罗素·克劳、詹妮弗·康纳利等主演的剧情片,该片于2001年12月21日在美国上映。该片讲述了患有精神分裂症的数学家约翰·福布斯·纳什,在博弈论和微分几何学领域潜心研究,最终获得诺贝尔经济学奖的故事。

影评在这里:https://www.zhihu.com/question/19770573

写到这里不得不说,我们常用的一个解题条件的作者,竟然有这么大的社会影响力

这些作者真不敢随便八卦,一八卦就是一个大牛。

下面这位更牛,Tucker,

全名:Albert W.Tucker,加拿大籍美国人。1928年多伦多大学毕业,1932年在普林斯顿大学博士毕业。带了很多有名的博士生,在剑桥,哈弗,芝加哥大学游学多年,1933年到达普林斯顿,一直呆到1970年。他主持了普林斯顿数学系长达20年时间。1905年出生,1995年去世,寿命为90年。他的导师叫Lefschetz,1884年9月3日生于莫斯科,1972年卒于普林斯顿。

这些大牛门在学校一直做学术研究,而中国这边却经历了清朝,中国民国,中国等大历史时代。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,271评论 5 466
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,725评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,252评论 0 328
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,634评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,549评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 47,985评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,471评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,128评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,257评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,233评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,235评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,940评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,528评论 3 302
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,623评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,858评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,245评论 2 344
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,790评论 2 339

推荐阅读更多精彩内容