免费做二建题的网站,WordPress新闻采集插件,wordpress lay,行业网站有建设价值吗随着硅基流动#xff08;SiliconFlow#xff09;提供的InternLM2.5-7B-Chat服务的免费开放#xff0c;我们迎来了MindSearch部署的全新篇章。这一服务的免费提供#xff0c;不仅极大地降低了部署门槛#xff0c;还为MindSearch的使用者带来了纯CPU版本的便利。本文将为您详…随着硅基流动SiliconFlow提供的InternLM2.5-7B-Chat服务的免费开放我们迎来了MindSearch部署的全新篇章。这一服务的免费提供不仅极大地降低了部署门槛还为MindSearch的使用者带来了纯CPU版本的便利。本文将为您详细介绍如何利用硅基流动的API来部署MindSearch。
快速开始
首先您需要访问硅基流动的官方网站并注册一个账号。如果您已经注册过直接登录即可。 注册/登录硅基流动账号 访问 硅基流动云平台 进行注册或登录。 获取API Key 完成注册后前往 API密钥管理 页面。在这里您需要创建一个新的API密钥并复制它以便后续使用。
配置MindSearch
硅基流动的API接口与OpenAI的API接口完全一致这使得配置过程变得异常简单。首先您需要克隆MindSearch到本地并安装所需的依赖项。具体的安装指南可以参考 MindSearch的GitHub仓库。
接下来您需要修改MindSearch的配置文件以便接入硅基流动的API。 修改配置文件 打开/path/to/MindSearch/mindsearch/models.py文件并添加以下配置 internlm_silicon dict(typeGPTAPI,model_typeinternlm/internlm2_5-7b-chat,keyos.environ.get(SILICON_API_KEY, YOUR SILICON API KEY),openai_api_basehttps://api.siliconflow.cn/v1/chat/completions,meta_template[dict(rolesystem, api_rolesystem),dict(roleuser, api_roleuser),dict(roleassistant, api_roleassistant),dict(roleenvironment, api_rolesystem)],top_p0.8,top_k1,temperature0,max_new_tokens8192,repetition_penalty1.02,stop_words[|im_end|])启动MindSearch
配置完成后您可以开始启动MindSearch。 启动后端 设置硅基流动的API Key并启动MindSearch的后端服务 # 设置API Key
export SILICON_API_KEY您复制的密钥
# 启动服务
python -m mindsearch.app --lang en --model_format internlm_silicon --search_engine DuckDuckGoSearch启动前端 使用Gradio前端启动MindSearch。如果您使用的是其他前端请参考MindSearch的README文档。 python frontend/mindsearch_gradio.py体验效果
启动完成后您可以开始体验MindSearch的强大功能。响应速度非常快用户体验极佳。 部署到HuggingFace Space
您还可以选择将MindSearch部署到HuggingFace的Space中。 创建Space 访问 HuggingFace Space 创建一个新的Space。 设置API Key 创建成功后进入Space的设置页面配置API Key。 上传文件 将MindSearch目录、requirements.txt和app.py文件上传到Space中。 app.py的具体内容请访问 HuggingFace Space上的MindSearch_X_SiliconFlow 查看。
