Facebook最近发布了Llama大模型,号称赶超GPT4,而且可以普通电脑本机安装,免费离线使用!
几分钟就能安装成功!
第一步:安装Ollama大模型安装器
点这里下载Ollama软件,下载后一路默认,不要做修改,直接安装。
第二步:安装Llama 3
打开命令行(windows的power shell右键管理员打开;macos的终端),粘贴下面命令
ollama run llama3
这个模型比较大,大约相当于两三部高清电影,可能需要下载几分钟,看你的网速情况了。
下载完成后自动在命令行进入聊天模式,在>>后面直接输入问题,你已经可以在这里和Llama 3对话了!
如果你想要一个聊天页面来和你的Llama 3对话,那就继续下面两步。
第三步:安装docker容器
点击这里下载Docker软件,下载后一路默认,不要做修改,直接安装。
第四步:安装聊天网站Open WebUI
打开命令行(windows的power shell右键管理员打开;macos的终端),粘贴下面命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
稍等一下就下载安装好了,安装完成后,您可以通过访问http://localhost:3000
来打开Open WebUI的Web界面。您可能需要先进行注册和登录。点击“Sign Up”创建一个新账户,然后使用您的邮箱和密码登录。登录后,您可以在界面中选择已安装的LLam3模型。点击“Select a model”旁边的加号来添加模型,然后从下拉列表中选择LLam3进行交互。
选择模型后,您就可以开始与LLam3模型进行聊天了。输入您的问题或提示,然后按Enter发送消息。
小提示:llama3经常说英文,我们可以点击右上角三个小点,弹出选setting设置,然后语言language选简体中文Chinese(simplified)`,建议在下面的系统提示里面也填写一下,要求它用中文回答,别忘了点保存之后再关闭。
更多
我个人使用感觉,llama3在科学知识、数学、编程方面还不错,勉强也有GPT3.5水平;但在聊天、小说、创意方面,还是不太行,不能成篇,聊天也很尬。大家如果想体验更好的剧本创作或场景化聊天,可以访问我的实验项目:
情景式对话/互动剧本创作 airen.life,体验智能人生
希望你能喜欢,如果使用中遇到什么问题,也可以在这里给我留言。
END