{"repo":"OpenRaiser/ProDa","free":true,"listed":false,"github":"https://github.com/OpenRaiser/ProDa","clone":"git clone https://github.com/OpenRaiser/ProDa.git","description":"📖 Data Engineering from Raw Corpora","language":"TypeScript","stars":150,"topics":["ai","artificial-intelligence","benchmark","data-engineering","data-generation","data-science","data-synthesis","ide","interactive-development-environment","software-engineering"],"license":null,"category":"data-pipelines","readme_excerpt":"面向垂直领域的 AI 数据构建与模型迭代工作台 从原始文档到 Benchmark / SFT / 微调 / 评测 / 诊断补数据，一站式闭环完成。 快速开始 · 效果展示 · 工作流 · 核心能力 · 模型微调 · OpenCompass 评测 · 诊断迭代 🌐 中文 · English --- ProDa 不是一个“数据生成脚本集合”，而是一个真正面向模型迭代的 VSCode 风格 Web IDE 。 集成文档解析、知识抽取、Benchmark 构建、SFT 数据生成、LLaMA-Factory 微调、OpenCompass 评测、错误诊断与二轮数据补强串成一个可追溯的项目工作流。 --- 📖 目录 - 🚀 为什么你会想试试 ProDa - 🖼️ 效果展示 - ✨ 你会得到什么 - 📦 快速开始 - 🔬 工作流建议 - 🏗️ 项目结构 - 📂 产物落盘位置 - ❓ 常见问题 - 🧭 当前状态 - 🙏 致谢 - ⭐ Star History - 🤝 贡献与交流 - 📝 引用 - 📄 License --- 🚀 为什么你会想试试 ProDa 你可能经历过这些痛点： - 原始领域文档很多，但很难稳定转成可训练数据 - Benchmark 构建、SFT 生成、训练、评测分散在多套脚本里 - 微调后只看一个总分，不知道模型到底错在哪、怎么修 ProDA 的目标就是：把这一切收敛到一个可视化、项目化、可追溯的闭环。 传统方式 ProDA --- --- 多个脚本手动串联 一个项目工作台贯穿全流程 数据、训练、评测产物分散 每个项目自动归档所有状态和产物 微调评测后只看总分 支持样本级结果、错误标注和诊断报告 二轮迭代依赖人工经验 基于错因生成补数据并合并训练集 训练产物难以即时验证 可直接选择模型 / checkpoint 流式对话 --- ✨ 你会得到什么 模块 你可以做什么 产物 --- --- --- 文档处理 上传领域文档并抽取知识核心 L1 / L2 / L3 知识结构 Benchmark 从推理链生成可评测题目 MCQ Benchmark SFT 数据 按题型比例生成训练数据 FineTune / ShareGPT 数据 模型微调 调用 LLaMA-Factory 训练模型 Checkpoint / LoRA 产物 模型对话 选择历史模型或 checkpoint 直接试聊 流式回答与参数验证 OpenCompass 评测本地模型/API模型 排行榜、对比图、样本明细 诊断补数据 分析错误样本并生成补强数据 诊断报告、二轮训练集 --- 🗂️ 1) 项目制工作空间（每个项目独立隔离） - 项目创建 / 切换 / 删除 - 项目状态和产物自动归档 - 历史训练与评测可回看 📄 2) 文档到知识核心（Step1） - 支持 pdf / txt / md / docx - 抽取三层知识表示： L1 concepts / L2 statements / L3 reasoning chains - 支持分块策略、并发提取、结果编辑导出 🧪 3) Benchmark 生成（Step2） - 基于 L3 链路自动生成选择题 Benchmark - 支持并发、重试、中断、续跑、结果预览与编辑 🧬 4) FineTune 数据生成（Step3） - QA / 单选 / 多选 / 判断题比例控制 - 支持采样窗口、约束参数、历史回看 🩺 5) 诊断报告 + 补数据（Step3 子流程） - 从 OpenCompass 错误样本生","default_branch":null,"files":null,"tree":[],"storefront":"/r/OpenRaiser","claimed":false,"request_supported":{"post":"https://gitbuyer.com/r/OpenRaiser/ProDa/request-supported","requests":0},"note":"indexed from public GitHub; nothing is for sale on this page. Clone it from GitHub. Paid listings live at /search."}