使用Python和OpenPlayground轻松探索大语言模型

开发 前端
用OpenPlayground在笔记本电脑上轻松探索大语言模型,使用简单的UI来试验各种大语言模型。

大语言模型或LLM是一种深度学习语言模型,旨在理解、解释和生成人类语言;它通常由数百万到数十亿的神经网络参数组成,并使用自我监督进行训练。著名的LLM的例子包括GPT-4、BERT和LLAMA。

获取LLM有时很棘手,因为必须遵守环境要求和规范,这成为学习LLM的把关人。幸运的是可以使用一个名为OpenPlayground的Python软件包在笔记本电脑上有效地试验各种LLM。

图片

逐步探索OpenPlayground

Python软件包OpenPlayground是一个可以在笔记本电脑上运行的LLM游乐场,可以在这里试验模型、调整参数、进行模型比较,并通过友好的UI追踪日志历史记录。他们还使用了几个实体的著名LLM,如OpenAI、HuggingFace等等。

怎么才能开始使用OpenPlayground呢?首先,安装该软件包。

pip install openplayground

然后在终端上运行以下命令。

openplayground run

在终端上,将获得以下信息。

图片

OpenPlayground正在运行,必须访问本地主机才能使用playground UI。

图片

在UI中会看到三个部分:Playground,Compare和Settings。先去看看“Settings”选项卡,因为不提供必要的信息就无法工作。

当打开“Settings”时,会有一个需要选择的“Providers”部分。对于本文的例子,将使用来自OpenAI的那个。点击OpenAI,并提供API密钥,使openplayground可以访问所有模型,类似于下面的图片。

图片

启用想要的模型,然后回到“Playground”选项卡。当已经选择了一个模型,可以在右侧使用其他参数。

图片

该参数的存在是为了让用户轻松地探索和试验LLM模型的结果。尝试一个简单的提示:“给我创作一个关于公主和魔法王国的小故事”。

图片

生成的文本将以绿色显示。如果启用“Show Probabilities”,如果模型允许可以得到标记生成概率。例如,“text-DaVinci-03”模型可以显示概率。再提交一次提示,并查看结果。

图片

悬停在该标记上会显示该标记出现的概率有多高。此外,还有关于前5个标记的信息,这些信息可以成为可能生成的文本。

进入“Compare”选项卡,可以比较具有相同参数的各种LLM模型生成的文本。用之前例子的相同提示进行尝试。

图片

“Compare”选项卡提供了同时生成文本的两个或多个不同LLM模型的信息。这些信息包括标记、模型生成文本的速度、所花的时间以及多少个字符。

尝试使用来自多个提供商的各种模型进行试验,以从使用OpenPlayground中获得更多价值。

总结

大语言模型或LLM是一个能够理解、解释和生成人类文本的模型。通过使用OpenPlayground,可以有一个简单的UI来探索和实验多个LLM。

责任编辑:武晓燕 来源: Python学研大本营
相关推荐

2024-02-26 08:15:43

语言模型低代码

2023-08-31 17:23:48

ChatGPT人工智能

2022-01-21 09:31:37

PythonLinux视频

2024-01-02 07:15:59

大模型数据库企业知识管家

2023-08-07 08:41:45

自然语言模型因果推理

2023-04-27 13:46:08

2017-07-31 09:20:52

Elastic seaKibana数据

2024-01-12 10:29:26

2024-02-06 17:57:06

Go语言任务

2023-09-06 12:11:21

ChatGPT语言模型

2019-10-23 08:00:00

Flask机器学习人工智能

2023-05-26 00:43:08

2024-01-26 11:11:11

携程模型

2024-03-19 13:12:36

自动驾驶模型

2023-11-27 14:48:34

人工智能深度学习大语言模型

2022-12-05 09:25:17

Kubernetes网络模型网络通信

2023-06-24 19:59:40

点赞
收藏

51CTO技术栈公众号