接着上一篇《十分钟安装部署大模型ChatGML-6B》我们在机器上一步步安装ChatGML-6B大模型,这次我们来介绍一款更加方便的大模型安装工具Ollama,无需安装任何环境仅需一个命令即可将大模型安装到本机。
官网
https://ollama.com/ 官方提供mac、linux和windows平台安装包,安装软件好处是能及时升级新功能,软件下载后按照提示安装即可。 Ollama目前支持如下大模型:
Model | Parameters | Size | Download |
---|---|---|---|
Llama 3 | 8B | 4.7GB | ollama run llama3 |
Llama 3 | 70B | 40GB | ollama run llama3:70b |
Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
Mistral | 7B | 4.1GB | ollama run mistral |
Moondream 2 | 1.4B | 829MB | ollama run moondream |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
LLaVA | 7B | 4.5GB | ollama run llava |
Solar | 10.7B | 6.1GB | ollama run solar |
一键安装
ollama软件安装完成后,打开命令行直接执行以下命令即可安装llama3大模型。
ollama run llama3
效果
➜ ollama run llama3
>>> 你好
😊 你好!我很高兴见到你!如何可以帮助你今天? 🤔
>>> 你是谁
😊 我是 LLaMA,一个由 MetaAI 开发的人工智能语言模型。我可以理解和生成人类语言,可以与您进行对话、回答问题、提供信息和建议等。我的目的是帮助人们更
好地沟通和学习新知识。 💡
>>> 请用中文写一首诗,随便发挥即可
💫
星空的秘密
夜晚的黑暗中,我听见了歌声
来自星空的调律,响徹整个宇宙
我抬头望天,感受着温暖的光芒
在这个世界上,没有什么比这更加美丽
星星们开始说话,告诉我生命的秘密
他们说,我们所有人都是同一个整体
我们是星空的一部分,我们是宇宙中的小环节
我们的梦想和希望将会化为泡沫
我站着望天,感受着自由和无限
在这个瞬间,我感到自己是宇宙的一部分
我的心中有了火焰,我的灵魂开始燃烧
我知道,这是一个新的开始,一切皆可能
💫
>>> 再见
😊 再见!感谢和你对话。如果你需要任何帮助或只是想聊天,可以随时找到我。祝你有一个美好的日子! 👋
Ctrl + D 即可退出命令行模式。
总结
大模型如雨后春笋,配套工具也陆续出现,各种大模型应用也相继出现,总体使用下来大模型应用中我觉得编程助手是最好用的了,相信未来人工智能会让生活更加美好。