{"repo":"baidubce/bce-qianfan-sdk","free":true,"listed":false,"github":"https://github.com/baidubce/bce-qianfan-sdk","clone":"git clone https://github.com/baidubce/bce-qianfan-sdk.git","description":"Provide best practices for LMOps, as well as elegant and convenient access to the features of the Qianfan MaaS Platform. (提供大模型工具链最佳实践，以及优雅且便捷地访问千帆大模型平台）","language":"Jupyter Notebook","stars":382,"topics":["chat","embeddings","finetuning","llm","baidu","bce","ernie-bot","qianfan","lmops","maas"],"license":"Apache-2.0","category":"chat-messaging","readme_excerpt":"百度千帆大模型平台 SDK 简介 千帆 SDK 提供大模型工具链最佳实践，让 AI 工作流和 AI 原生应用优雅且便捷地访问千帆大模型平台。SDK 核心能力包含三大部分：大模型推理，大模型训练，以及通用和扩展: - 大模型推理 ：实现了对一言（ERNIE）系列、开源大模型等模型推理的接口封装，支持对话、补全、Embedding 等。 - 大模型训练 ：基于平台能力支持端到端的大模型训练过程，包括训练数据，精调/预训练，以及模型托管等。 - 通用与扩展 ：通用能力包括了 Prompt/Debug/Client 等常见的 AI 开发工具。扩展能力则基于千帆特性适配常见的中间层框架。 如何安装 目前千帆Python SDK 已发布到 PyPI ，用户可使用 pip 命令进行安装，Python需要 3.7.0 或更高的版本。 在安装完成后，用户可以参考 文档 在命令行中快速使用千帆平台功能，或者在代码内引入千帆 SDK 并使用 更多安装选项见文档 多语言SDK 其它语言见如下文档： + Go + Java + JavaScript 快速使用 在使用千帆 SDK 之前，用户需要 百度智能云控制台 - 安全认证 页面获取 Access Key 与 Secret Key，具体流程参见平台 说明文档。在获得了 Access Key 与 Secret Key 后，用户即可开始使用 SDK： 除了通过环境变量设置外，千帆 SDK 还提供了通过 DotEnv 加载 .env 文件和通过代码配置的方式，详细参见 SDK 配置 部分。 （方案二）通过应用接入进行鉴权 这里是一些其他认证方式，请仅在无法获取 Access Key 与 Secret Key 时使用。这些认证方式已经过时，将在未来从 SDK 中移除。 API Key ( AK ) 和 Secret Key ( SK ) 是用户在调用千帆模型相关功能时所需要的凭证。具体获取流程参见平台的应用接入使用说明文档，但该认证方式无法使用训练、发布模型等功能，若需使用请使用 Access Key 和 Secret Key 的方式进行认证。在获得并配置了 AK 以及 SK 后，用户即可开始使用 SDK： 适用范围： 功能 API Key Access Key :--- :---: :---: Chat 对话 ✅ ✅ Completion 续写 ✅ ✅ Embedding 向量化 ✅ ✅ Plugin 插件调用 ✅ ✅ 文生图 ✅ ✅ 大模型调优 ❌ ✅ 大模型管理 ❌ ✅ 大模型服务 ❌ ✅ 数据集管理 ❌ ✅ 功能导览 我们提供了数个 cookbook，可以快速了解如何使用 SDK 以及与第三方组件进行交互。 大模型推理 目前千帆 SDK 支持用户使用如下大模型预测能力 + Chat 对话 + Completion 续写 + Embedding 向量化 + Plugin 插件调用 + Text2Image 文生图 + Image2Text 图生文 + Reranker 重排序 如下是使用千帆 SDK 调用 Chat 对话的例子，同时 SDK 还支持异步、流式调用和批量推理，详见 推理服务 OpenAI SDK兼容介绍 千帆模型服务提供了与OpenAI兼容的使用方式，用户只需调整api key、base url、model等参数，就可以通过OpenAI SDK调用千帆模型推理服务。 base url说明 base url指模型服务的请求地址。通过该地址，可以请求服务提供的功能或数据。当使用OpenAI兼容接口调用千帆模型服务","default_branch":null,"files":null,"tree":[],"storefront":"/r/baidubce","claimed":false,"request_supported":{"post":"https://gitbuyer.com/r/baidubce/bce-qianfan-sdk/request-supported","requests":0},"note":"indexed from public GitHub; nothing is for sale on this page. Clone it from GitHub. Paid listings live at /search."}