• 正文
  • 推荐器件
  • 相关推荐
申请入驻 产业图谱

使用PerfXCloud快速搭建一个ChatGPT-Web

2024/07/04
664
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

一、准备

本项目使用 www.perfxcloud.net 大模型平台,网站上有详细的说明文档。

快速开始 | PerfXCloud​docs.perfxlab.cn/docs/tutorial-basics/get-started/

注意:PerfXCloud的API接口兼容 OpenAIChatGPT,可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果还没有PerfXCloud的账号,可以登录网站创建一个。

2.PerfXCloud目前支持:

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B (还在持续更新中)

二、ChatGPT-Web

ChatGPT-Web 是一个基于 Express 和 Vue3 搭建的第三方 ChatGPT 前端页面,通过PerfXCloud API实现。这个项目的目标是让用户能够自定义提示词、访问提示词商店,并且无需 API 密钥。本项目基于github.com/Chanzhaoyu/c进行开发。

三、程序部署

Node

node 需要 ^16 || ^18 || ^19 版本(node >= 14 需要安装 fetch polyfill),使用 nvm 可管理本地多个 node 版本

node -v   #查看版本号

PNPM

如果你没有安装过 pnpm

npm install pnpm -g

下载源码

git clone https://gitee.com/PerfXCloud-APP/chatgpt-web.git
cd chatgpt-web/

填写密钥

获取 PerfXCloud API 令牌并填写本地环境变量

# service/.env 文件
OPENAI_API_KEY=
OPENAI_API_BASE_URL='https://cloud.perfxlab.cn/v1'
OPENAI_API_MODE='Qwen2-72B-Instruct-GPTQ-Int4'

环境变量

API 可用:

OPENAI_API_MODEL 设置模型

OPENAI_API_BASE_URL 设置接口地址

OPENAI_API_DISABLE_DEBUG 设置接口关闭 debug 日志,可选,默认:empty 不关闭

通用:

AUTH_SECRET_KEY 访问权限密钥,可选

MAX_REQUEST_PER_HOUR 每小时最大请求次数,可选,默认无限

TIMEOUT_MS 超时,单位毫秒,可选

SOCKS_PROXY_HOST 和 SOCKS_PROXY_PORT 一起时生效,可选

SOCKS_PROXY_PORT 和 SOCKS_PROXY_HOST 一起时生效,可选

HTTPS_PROXY 支持 http,https, socks5,可选

ALL_PROXY 支持 http,https, socks5,可选

安装依赖

后端

进入文件夹 /service 运行以下命令

pnpm install

前端

根目录下运行以下命令

pnpm bootstrap

项目运行

后端服务

进入文件夹 /service 运行以下命令

pnpm start

前端网页

pnpm dev

以下命令部署完成后,打开项目的网页链接如下图:

项目演示视频

https://www.bilibili.com/video/BV1an4y1o7iS​www.bilibili.com/video/BV1an4y1o7iS

项目代码地址

PerfXCloud_APP/chatgpt-web​gitee.com/PerfXCloud-APP/chatgpt-web

项目在线体验连接

ChatGPT Web​app.perfxlab.cn:7088/chatgpt_web

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
MBRA160T3G 1 onsemi 1.0 A, 60 V, Schottky Power Rectifier, Surface Mount, SMA, 5000-REEL

ECAD模型

下载ECAD模型
$0.47 查看
262-75ABE-01 1 Wakefield-Vette Heat Sink, Fin, Aluminum, Anodized
$0.47 查看
AD8675ARZ 1 Rochester Electronics LLC OP-AMP, 240 uV OFFSET-MAX, 10 MHz BAND WIDTH, PDSO8, ROHS COMPLIANT, MS-012AA, SOIC-8
$3.51 查看

相关推荐