Pytorch Compiler Introduction
本文介绍了 Pytorch 的编译功能，我们从代码示例开始展示使用编译对代码执行的加速效果，随后补充介绍了pytorch
FX 相关基础知识，最后整体介绍了 TorchDynamo相关内容，包括对 Python 字节码的调整、Guard、Cache等。Pytorch Cuda Streams Introduction
本文探讨了Cuda **流(Stream)的基本概念、并行执行和多GPU同步策略。我们分析了使用多个Cuda流的优势，以及如何通过Cuda事件(Event)**确保任务同步，利用Cuda流优化程序性能。
Overview of PyTorch Distributed Training
本文提供了一个关于PyTorch分布式训练能力的全面概述，涵盖了
torch.distributed的核心组件，深入探讨了Distributed Data-Parallel Training (DDP)、RPC-Based Distributed Training、Collective Communication (c10d) 等内容。MallocLab
在malloc lab中，我们将开发我们自己的
malloc、free、realloc函数。通过这个实验，我们能更好理解内存布局与管理，并在空间利用率和时间效率上做权衡，实现一套高效内存管理机制。Introducton to Pytorch Broadcast
这篇文章介绍了pytorch broadcast机制的基本概念与开发细节，包含前向和反向的详细计算过程。
Unraveling PyTorch: Tensor Indexing and Assignment
这篇文章深入探讨了PyTorch张量索引和赋值的机制，包含将Python索引转化为C++的TensorIndex、
handleDimInMultiDimIndexing、index_put等内容。Deep Dive to Pytorch AutoGrad(2)
本文深入pytorch autograd底层，详细介绍了autograd机制的实现细节。
Deep Dive to Pytorch AutoGrad(1)
本文深入pytorch autograd底层，详细介绍了autograd机制的实现细节。
ShellLab
在shell lab中，我们将通过开发一个简洁但完整的unix shell程序来对进程控制、信号机制等概念有进一步的认知。源码：[https://github.com/yewentao256/CSAPP_15213/tree/main/shelllab]
Deep Dive to Pytorch Contiguous Operator(3)
本文以
contiguous算子为例，深入探究 PyTorch 的内部运作机制，包括Python接口如何调度到c++代码、算子调度和注册机制、算子执行等内容。