什么是ChatGPT
示例
首先我们来先看两张图
大象装冰箱,说明chatGPT能理解这个笑话,并且还是正能量的,提示把大象装进冰箱是不道德,残忍的。
狗为什么叫三万,说明chatGPT对上下文的理解能力非常强。
OpenAI
在正式介绍ChatGPT产品之前,我们先来介绍一下他的公司--OpenAI。
OpenAI 是2015年由Sam Altman 和马斯克(2018年退出了OpenAI)等人成立的一个非营利性的研究机构和技术公司,,其致力于推进人工智能技术的发展让其造福于人类。
非营利性的研究机构是指即使盈利了,股东们也不能将盈利的钱进行分配,只能将盈利继续投入研发中;由于AI非常烧钱,而非营利机构又很难获得大量的资金捐赠,所以OpenAI成立了一个营利的子公司;这个营利是有上限的,投资利润不超过投资额的100倍;
之后,微软分别投资OpenAI 10亿、20亿、100亿美元,微软会获得一定比例的股份,同事拥有优先使用OpenAI产品的权利,若OpenAI盈利,则优先按一定比例给微软回报,直到得到约定的回报后,微软需将股份重新还给OpenAI的非营利基金会。
这个投资结构也是前所未有的。
ChatGPT简介
ChatGPT是基于GPT模型的聊天机器人,由OpenAI开发。它能够进行自然语言交互,回答用户提出的问题、生成自然语言文本等,已应用于多种场景中,例如客户服务、教育、娱乐等。
ChatGPT利用大规模数据集进行预训练,能够对自然语言进行深入理解,提供高质量的自然语言交互服务。但它也存在一些局限性,例如仅能基于已有的知识库和经验生成回答,需要在使用时进行谨慎考虑和监督。
这是我问ChatGPT,他给的答案。说明我们可以利用他去学习和了解一些东西。
而其中GPT模型是其中的技术核心,GPT是Generative Pre-trained Transformer的缩写,意思为 生成式预训练Transformer,Transformer我们放到后面去解释,暂且给他翻译成变形金刚。
ChatGPT 是用户破亿最快的产品。
为什么ChatGPT这么智能
都说之前的AI是人工智障,那么为什么到了ChatGPT他变成了人工智能了呢?
技术-GPT
注意变形金刚要变大
- 2018年GPT-1模型拥有1.17亿个参数
- 2019年GPT-2模型拥有15亿个参数
- 2020年GPT-3模型拥有1750亿个参数
现在ChatGPT就是在GPT-3模型基础上进行了微调,普遍认为是GPT-3.5模型,而在ChatGPT之前,人类历史上最大的 AI 语言模型,是170 亿个参数,据说GPT-4模型会比GPT-3参数还要多很多倍,大家认为在GPT-4的时候,AI会通过图灵测试 。
参数是个什么概念呢,用我们的手机举例,可能我们告诉电脑长、宽、高参数,则电脑只能判断出来他是个长方体,当我们再告诉电脑颜色参数,则电脑就会知道他是一个什么颜色的长方体,当参数增多,电脑就能判断出来这个是否是手机了。
人类大概有1000多亿个神经元,狗大概有6亿个神经元,从某种角度说,可能人类进化的过程中,由于神经元的数量增多,自然而然的形成了智人;AI在参数也达到了了一定数量后,开始变得智能。
“注意”
那么注意变形金刚要变大里的”注意”指的是什么呢?首先我们需要来解释一下Transformer。
Transformer是谷歌2017年提出的,一种基于注意力机制的神经网络架构。并广泛用于自然语言处理(NLP)领域的各种任务,如语言建模、翻译、问答和摘要等。
神经网络大家或多或少都应该知道一些,他是模拟人脑神经系统的结构,由多个相互连接的神经元组成。
我们来重点说一下注意力机制是什么
我们来用一个例子简单说明一下
当成人看一颗大树时,我们可能会忽略掉一些细枝末节,只看到一个树干,就知道他是一棵大树。因为我们的注意力在大树上,忽略到细枝末节并不影响我们知道他是一颗大树。
当小孩子看到一颗大树时,可能不光看到了大树,甚至还看到了上面的鸟窝。因为小孩子对所看到的的画面上每个像素的注意力都是相等的,所以他能看到树上的鸟窝。
所以注意力是可以通过后天的培养的。通过这个Transformer架构可以让AI更好地理解我们说的话。
成本
大概可以分为“交给机房”(算力和数据)的钱--4. 16 亿美金,折合人民币约28亿元,和“交给人”(工程师、专家等)的钱--8000 多万美金,折合人民币约5亿元。
1750亿个参数修改后的训练成本是百万甚至千万美元。
1. 据摩根士丹利估计,ChatGPT每回复一次的成本,大约是Google传统搜索查询成本的7倍。
2. 据美国《财富》杂志报道,2022年OpenAI公司净亏损总额为5.45亿美元,折合人民币约37亿元。
总结
为什么ChatGPT这么智能
- 模型参数数量变大
- 投入资金额度变大
总体来说,ChatGPT就是一个 大力出奇迹 的结果
ChatGPT发展现状
不能做什么
- 数学能力差,计算器计算6543*3456=22612608,而ChatGPT计算每次都会不一样
- 内容不是实时的,学习的内容只到2021年9月
- 一本正经的胡说
能做什么
- 回答问题:ChatGPT可以回答各种各样的问题,包括一般性的知识问答、实用技巧、娱乐休闲等等。
- 生成文本:ChatGPT可以根据给定的话题或者问题生成相应的文本,比如文章、诗歌、小说等等。
- 对话交互:ChatGPT可以与用户进行自然的对话,帮助用户解答问题、获取信息、进行娱乐等等。
- 语言翻译:ChatGPT可以进行多语言之间的翻译,包括文本翻译和语音翻译。
ChatGPT+
重要性不亚于互联网的发明,将改变我们的世界。---比尔·盖茨
ChatGPT相当于互联网上的浏览器,或者iPhone的诞生,我们要做的应该是基于浏览器的网站或者手机的APP。
对于个人来说,ChatGPT是我们的工具,可以让他来编写一个复杂的sql,可以让他帮着理解某一段话的含义等等。
国内现状
- 复旦大学:2月20日发布国内第一个对话式大型语言模型MOSS--百亿参数 https://moss.fastnlp.top/
- 百度:将于3月推出类似ChatGPT的聊天机器人
- 昆仑万维:今年内发布中国版类ChatGPT代码开源
- 360:计划推出类ChatGPT技术的demo版产品
- 水滴:公司内部已经开展类ChatGPT应用测试
- 阿里:正研发类ChatGPT产品,目前正内测
- 华为:在类似 ChatGPT 方向的布局
- 讯飞:类ChatGPT技术将于5月落地
- 王慧文:带资5000万刀打造中国版ChatGPT
- 北京市:支持头部企业打造对标ChatGPT的大模型
人工智能有创造力吗?
有一种观点认为,创造力和想象力人工智能目前无没法超越人类。
但是看了刘润老师和王建硕老师的直播后,有了一种新的观点,刘润老师说,想象力就是旧元素的新组合,而创造力就是新组合中有价值的部分,而旧元素的新组合,没有什么会比计算机实现的更快的了,最笨的办法,计算机可以快速的用穷举法全部列举出来。
创意,就是旧元素的新组合 ---美国广告大师詹姆斯·韦伯·扬
未来的交互方式
随着ChatGPT的推出,以后我们的交互方式可能会从GUI(Graphical User Interface 图形交互)转变为NUI(Natural User Interface 自然交互)或者叫LUI(Language User Interface 自然语言交互),以前都是我们迁就着机器,比如必须点击这个按钮才能关闭页面;以后可能和机器说句话,他就可以明白我们的意图,来迁就我们。
GUI
传递介质:图形和动画
操作方式:点击、滑动
使用门槛:学习操作使用逻辑
反馈方式: 通过文字、图像等方式,展示固定程序运行逻辑
LUI:
传递介质:自然语言
操作方式:文字、声音
使用门槛:会说话就行
反馈方式: 可通过内容、语音和语调等人类的方式根据场景和上下文生成反馈。
参考文件
ChatGPT幕后:微软与OpenAI“复杂的交易”谁是赢家谁是傻瓜?
微软向OpenAI砸100亿美元!巨头AI大棋下4年,谁是大赢家?
你的工作可能被ChatGPT取代。但你真的在乎吗?
ChatGPT吹牛逼大赛,谁能胜出?