应用人工智能工程——深入研究软件、机器学习及其背后的系统。
深入探索软件工程、深度学习以及为现代系统提供动力的技术。
精选文章
向量分解和子空间:矩阵读取和擦除的内容
将激活向量分解为多个分量,并通过交互式图表探索矩阵的四个基本子空间。了解哪些输入方向影响输出,哪些方向消失在零空间中,以及为什么不同的激活向量可以产生相同的结果。
权重矩阵做了什么,以及为什么需要非线性
遵循从输入向量到隐藏表示的四个异或点。按行和列读取权重矩阵,将其计算连接到各个神经元,并使用交互式图表来查看非线性激活如何使类别可分离。
深入拆解:如何为 LLM 智能体组装上下文
每个代理 CLI 都会默默地决定每轮向 LLM 发送什么内容——整个成绩单、最近的 K、旧部分的摘要。同样的任务,不同的决定,成本也大不相同。我们在真实的错误修复装置上对四种代表性的上下文组装策略进行了基准测试,了解缓存失效时灾难性循环从何而来,并逐步了解 Claude Code、Codex 和 opencode 如何各自进行相同的权衡。
构建 Model Armor:面向 LLM 的多层安全过滤
谷歌的 Model Armor 将 gen-AI 调用包装在一个托管的安全管道中,您可以用一个标志打开它。本文从头开始重建该管道——基于规则的过滤器、分类器、LLM 判断、提示重写和输出审核——以便您了解每一层实际上为您带来了什么,以及当您将片段交换到自己的堆栈中时接缝在哪里。
读懂 CNN——卷积、特征图与池化
卷积实际计算什么,以及为什么堆叠它们可以让网络看到边缘,然后是纹理,然后是对象。通过交互式演示自下而上构建:您可以查看特征图,池化显示为实际的维度挤压。到最后,CNN 论文中的每个图表读起来都应该像英语一样。
神经网络如何学习:反向传播与梯度下降
大多数教程都采用梯度下降并跳过反向传播,或者将其隐藏在链式法则表示法中。这个是从下往上构建的:什么是梯度,为什么损失曲面弯曲,以及链式法则如何在网络中向后遍历错误 - 使用小部件,您可以擦洗以查看每个部分的移动。