{"repo":"ForceInjection/AI-fundamentals","free":true,"listed":false,"github":"https://github.com/ForceInjection/AI-fundamentals","clone":"git clone https://github.com/ForceInjection/AI-fundamentals.git","description":"AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及AI Agent 相关知识。","language":"HTML","stars":2270,"topics":["ai-infra","ai-agent","cuda"],"license":"Apache-2.0","category":"ai-agents","readme_excerpt":"AI Fundamentals 本仓库是一个全面的人工智能基础设施（AI Infrastructure）学习资源集合，涵盖从硬件基础到高级应用的完整技术栈。内容包括 GPU 架构与编程、CUDA 开发、大语言模型、AI 系统设计、性能优化、企业级部署等核心领域，旨在为 AI 工程师、研究人员和技术爱好者提供系统性的学习路径和实践指导。 - 适用人群 ：AI 工程师、系统架构师、GPU 编程开发者、大模型应用开发者、技术研究人员。 - 技术栈 ：CUDA、GPU 架构、LLM、AI 系统、分布式计算、容器化部署、性能优化。 --- Star History : --- 1. 硬件架构与互连技术 涵盖单机基础计算芯片（GPU、TPU）设计原理，PCIe、NVLink 高速互连总线协议，GPUDirect 跨节点直通技术，以及 NVIDIA GB300 NVL72 等异构融合超级芯片的系统级架构与延迟金字塔模型。详细内容请访问： 硬件架构与互连技术 。 - 基础计算芯片架构 - 深入理解 GPU 架构 - TPU 101：深度学习专用加速器架构解析 - GPGPU vs NPU：大模型推理训练对比 - 高速互连与数据传输技术 - PCIe 总线技术大全 - Linux PCIe P2PDMA 技术介绍 - NVLink 技术入门 - NVIDIA GPUDirect P2P 技术详解：节点内 GPU 高速互联 - NVIDIA GPUDirect RDMA 与 Storage 技术详解 - 异构融合架构与系统性能评估 - NVLink-C2C：芯片级高速互连技术详解 - NVIDIA GB300 NVL72：机架级计算系统架构解析 - AI 基础设施延迟金字塔 --- 2. AI 集群运维与高性能通信 构建高吞吐 AI 计算集群的完整运维体系，涵盖基于 Device Query、nvidia-smi 和 nvtop 的 GPU 状态监控，InfiniBand (IB) 网络架构与健康检查，以及 NCCL 分布式通信库的基准测试与多节点部署实战。详细内容请访问： AI 集群运维与通信 。 - GPU 基础运维 - 设备查询：Device Query - 误区解读：GPU 利用率指标分析 - 状态监控：nvidia-smi 指南 - 状态监控：nvtop 指南 - InfiniBand 高性能网络 - 理论基础：IB 网络架构与协议 - 网络运维：健康检查与性能监控实战 - NCCL 分布式通信测试 - 理论基础：NCCL 教程 - 实战指南：基准测试与多节点部署 --- 3. 云原生 AI 基础设施 基于 Kubernetes 的 AI 基础设施构建方案，涵盖 NVIDIA Container Toolkit 与 Device Plugin 底层机制、Kueue/HAMi 细粒度 GPU 资源切分与池化、LWS/llm-d 分布式推理调度，以及 JuiceFS、DeepSeek 3FS 等高性能分布式存储系统的架构实践。详细内容请访问： 云原生 AI 平台 。 3.1 Kubernetes AI 基础设施 解析 Kubernetes AI 场景核心组件，包括容器运行时 GPU 支持底层机制、设备插件源码分析、Kueue 调度整合，以及基于 LWS 的大模型分布式训练与推理架构。 - Kubernetes GPU 管理与 AI 工作负载：云原生 AI 基础设施建设指南与技术导图 - NVIDIA Container Toolkit 原理：容器使用 GPU ","default_branch":null,"files":null,"tree":[],"storefront":"/r/ForceInjection","claimed":false,"request_supported":{"post":"https://gitbuyer.com/r/ForceInjection/AI-fundamentals/request-supported","requests":0},"note":"indexed from public GitHub; nothing is for sale on this page. Clone it from GitHub. Paid listings live at /search."}