Llama 3 + Ollama + Open WebUI打造本机强大GPT
本文是Youtube影片的辅助文档,在观看完成Youtube原影片后,使用本文档效果会更佳。
Youtube完整影片
Llama3是目前最强大的开源大语言模型LLM。ollama是一个可以运行各种开源大语言模型的容器。目前已经支持几十种开源模型,包括Meta最新发布的Llama 3 微软的phi3和Google的Gemma等等 。除此以外,Ollama也支持个性化Fine-Tunning模型。Open WebUI是基于Ollama的一款Wrapper,其最大的特点是和ChatGPT的UI几乎完全一样,让用户可以快速上手。
Ollama安装
下载地址: https://ollama.com/download
支持模型: https://ollama.com/library
Ollama命令
下载:
ollama pull <model-name>
运行:
ollama run <model-name>
删除:
ollama del <model-name>
model-name 可以从https://ollama.com/library获取
Open WebUI安装
Docker下载地址: https://www.docker.com/products/docker-desktop/
安装命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
本机访问地址:
提示词
请用列表形式罗列单词challenge的词性、解释和实例。返回结果为中文。
80的平方根是多少?
请参考前面两首如梦令,编写第三首如梦令用于表达对爱人的思念。
第一首如梦令: 昨夜雨疏风骤,浓睡不消残酒。试问卷帘人,却道海棠依旧。知否,知否,应是绿肥红瘦。
第二首如梦令:常记溪亭日暮,沉醉不知归路。兴尽晚回舟,误入藕花深处。争渡,争渡,惊起一滩鸥鹭。
返回结果为中文, 不需要英文翻译。
Please use a data table to show the top 20 GDP countries. The data should contains the country name, population, GDP and GDP per capita
Please create a REST API with Flask framework.
Llama 3官方文档
Tag:ai大模型, docker安装, gemma, GPT翻墙, Llama 3, llama 3 8b, llama 3 模型, llama model, Llama3 安装, llama3模型, llama模型使用, llama模型安装, Ollama, Ollama安装, Open WebUI, phi3, 本地GPT