AI 公司作为控制论系统：一项研究纲领

摘要

AI 公司被建模为一个开放的、依赖资源的系统，其观察、学习过程、部署行动和治理规则闭合了若干反馈回路。一个语境化的 -topos 为状态、可容许性证书以及实现的一致识别提供了语言；范畴与透镜保留了不可逆操作的方向。我们给出了关于经认证的更新保持、下降、观察性调节的极限，以及语义等价不足以识别学习动态的初步结果。在可微层面上，一个依赖优化器的神经正切核沿梯度流被精确导出。参数 jets、神经正切层级和输入-jet 正切核描述了不同的扩展。它们的阶数与同伦截断无关。光滑目标上的每个外延优化器都通过其全局完整 jets 表示进行分解，并保留运行时和预言机状态；通过单点处的 jet 进行分解则有一个单独的局部性条件。一个形式化的全景假设指定了迹覆盖以及观察、干预和治理能力之间的不等式。该构造将同一类型、单价性和 jets 结合为一个关于 AI 公司控制论的研究纲领，而不将经济集中、普遍监视或对每个神经系统的固定核描述视为数学推论。

关键词。组织控制论；同伦类型论；-topos；透镜；神经正切核；jets；约束更新。

1 范围与控制论问题

公司层面的应用是一项拟议的综合。其起始假设是：员工和客户的迹都可以成为生产性训练数据；反馈会改变被测量的行为；数据整合可以产生合并的激励。这些是有条件的经验和制度性主张。下面的数学结果涉及明确指定的模型；它们并不确立每个实际 AI 公司都会收集所有可用的迹，也不确立必然会出现单一公司。

Wiener 的控制与通信视角 [35]、Ashby 的必要多样性 [1] 以及 Beer 的组织控制论 [2] 为操作、协调、适应和政策的分离提供了动机。现代范畴控制论提供了组合式接口和控制器 [4, 27]；范畴学习提供了参数化映射、学习器和反向微分 [9, 7]。高阶群胚为被见证的等价及其一致性增添了精确的说明。它们不能替代经济证据或微分方程。

还有两条线索连接了架构与制度：范畴深度学习研究代数架构约束 [13, 12]，而组合博弈论对相互作用的决策者进行建模 [14]。Hedges 明确提出了对 AI 中介的市场和供应链进行范畴-控制论分析 [16]。该提议是一个研究议程，而不是关于 AI 公司的既定经验规律。

核心问题。一家企业能够执行哪些观察与干预，这些干预必须保留哪些规格，以及学习、治理与环境如何相互回应？当一个模型使这些问题变得可执行或可证伪，而不仅仅是将一家公司重新贴上一个类别标签时，它才是有用的。

2 身份、高阶群胚与语境语义学

2.1 基础约定与记号

一个范畴具有对象、带有指定源与靶的箭头、恒等箭头以及结合性复合。函子保持这些数据。自然变换由两个函子取值之间的箭头组成，这些箭头与源范畴的每个箭头交换。“小”意味着对象和箭头属于所选定的集合大小的宇宙。反转箭头，表示函子及其自然变换。一个群胚是箭头可逆的范畴。一个自同态具有相等的源与靶；一个自同构是可逆的自同态。一个终对象从每个对象都有一条箭头指向它，一个始对象到每个对象都有一条箭头，相应的映射空间在高阶范畴中是可缩的。积与极限由其泛映射性质定义。

对于精确的高阶模型，一个单纯集是一个函子，其中具有有限有序集和保序映射。角由除第个面之外的所有面组成。一个-范畴可以由填充每个内角的单纯集（）来建模；一个Kan复形填充所有角并建模一个-群胚。-范畴指空间，意为同伦类型，由Kan复形将弱同伦等价反转来建模。一个弱同伦等价诱导连通分支的双射以及所有同伦群的同构。群由从-球面到的带基同伦类映射组成，其中。以下所有高阶极限与拉回都是同伦一致的极限[25]。一个范畴的核心保留其对象与等价。

在内部类型语言中，一个宇宙 对所选定的小类型进行分类。一个依赖族 为每个 指派一个类型。其依赖和 包含对 ；其依赖积 包含为每个 指派这样一个 的截面。一个见证是所述类型的居留元。当存在 且对每个 存在路径 时，类型 是可收缩的。对于 ，其在 处的纤维是 。一个等价是具有可收缩纤维的映射； 是这些映射与见证的类型。从 到 的同伦是 的一个截面。内涵相等使用这样的同一类型，区别于求值规则中使用的外延相等。类型 由纯命题组成，定义如下； 有两个备选。命题 的可判定性意味着 的一个见证，而不仅仅是其类型 [32] 的形成。

空间的预层是一个函子 。一个site是一个带有 Grothendieck 拓扑的小范畴：指定的覆盖筛，其中筛是到某对象的、在前复合下封闭的箭头的集合。公理要求极大筛覆盖、拉回下的稳定性以及覆盖的传递性。一个层具有相容的局部截面，它们唯一地粘合，或在空间值情形下相合同伦地粘合。下降数据包括覆盖上的截面以及所有迭代重叠上的一致性。Čech 神经列出这些重叠；其极限是此类相合数据的空间。一个 -topos 是预层 -范畴的可达左正合局部化。这里局部化具有全忠实右伴随；左正合意味着保持有限极限，可达意味着对某个正则基数 保持 -滤过余极限。当一个图表的箭头少于 的每个子图表都有相容余锥时，该图表是 -滤过的。一个几何态射 是一个伴随对 ，其中 左正合 [25, 22]。

一个开放系统在选定的边界上交换输入与输出。一个控制器从观测以及可能的记忆中选取输入；反馈将输出馈入后续输入。治理规定谁可以更改控制器、目标、接口和可容许规则。资源是由操作消耗或补充的存量或容量。这些术语在下面的构造中获得显式的映射、状态变量和授权关系。

2.2 同一性塔

在内涵依赖类型论中工作，当使用单值性时选取一个单值宇宙。对于 ，一个同一性见证具有类型 ；对于 存在一个进一步的类型 ，并且这个过程迭代进行。自反性和同一性消去诱导出逆与复合，连同更高阶的相干性。同一性消去说的是，一个由 索引的族 ，一旦其自反实例 有截面，就对所有 都有截面，并带有相应的自反计算规则。它是用于相等见证的依赖替换规则。这个同一性塔容许一个弱的 -群胚结构 [24, 33]。它比不可区分性的二元关系是更强的信息。

群胚模型表明同一性证明的唯一性并非内涵类型论的一般推论 [17]。Martin-Löf 的基础性表述 [26] 和 Voevodsky 的同伦 -演算笔记 [34] 提供了基础背景。Grothendieck 的同伦视角 [15] 将高阶群胚的合适模型与同伦类型联系起来。

定义 2.1

截断层级

当一个类型中任意两个居留者都相等时，它是一个纯命题，或 -类型。当它的每个同一性类型都是纯命题时，它是一个集合，或 -类型。归纳地，当它的同一性类型是 -类型时，它是一个 -类型。到 -类型的反射写作 。

它的泛性质是：对每个 -类型 有 ； 表示映射空间。-类型是可缩类型。把一个命题称为“是或否”并不使它成为可判定的布尔值： 是构造性逻辑中的一个额外断言。同样地，本笔记中的“离散”意指同伦 -截断的；它不必意指作为拓扑空间或光滑空间的离散。当软件必须产生一个实际的证书时，这些区分很重要。

2.3 组织语境的一个拓扑斯

定义 2.2

语境化企业语义

选取一个小位点 。 的对象描述诸如团队、项目、部署、管辖范围或可访问接口之类的语境；箭头描述语境的限制。拓扑 指定哪些相容的局部视图共同覆盖一个语境。集合

企业状态、接口、规约和等价见证是 内部的对象或结构化对象。

这是一个实际的 -topos，通过可及左正合层化得到 [25]。所选 site 是语义的一种呈现。裸组织或任意神经网络范畴都不会自动构成 topos。-截断部分支持普通层逻辑和 Mitchell–Bénabou 语言 [22]；合适的 universe 和依赖类型论结构支持高阶同一性语言 [32]。任意的此类模型不会自动为证明助手提供所有所需的计算规则。

上下文 中的状态是一个广义元素 。全局状态是 。topos 的点，即普通设定中的几何态射 ，是一个不同的概念。局部居留、全局截面和可执行构造不应混为一谈：语义见证只有通过适当的构造性解释或实现才能成为有效过程。

对于微分，选择光滑参数空间和导数运算。光滑流形是 Hausdorff、第二可数的空间，由具有光滑转移映射的欧几里得图卡覆盖；光滑映射在这些图卡中是光滑的。一个具体选项是将上下文 site 替换为与笛卡尔空间和光滑映射的 site 的乘积，配备相应的乘积拓扑，并使用光滑有限维图卡作为参数对象。概率也是额外结构。标准 Borel 空间可测同构于完备可分度量空间的 Borel 空间。Markov 核 为每个 分配一个概率测度 ，且对每个可测 ， 可测。复合是 。Markov 范畴将这种复合打包在对称幺半范畴中，带有兼容的交换复制映射 和删除映射 ，后者是自然的且单位是终对象 [11]。张量表示并行复合；复制对随机映射不必是自然的。微积分和概率都不会仅仅从“topos”一词中得出。

备注 2.3

三种独立的分解

同伦阶 、微分 jet 阶 以及访问/能力分辨率 回答不同的问题。这里 标记一个观察-动作接口，而非数值维度；它与可及性约定中使用的基数无关。可表示光滑层是函子 ，对应光滑空间 。光滑可表示参数空间可以是 -截断层，同时拥有所有阶的导数。有限 groupoid 可以具有非平凡的同一性结构而不拥有任何微积分。增加带宽或获得载具会改变可访问的观察和动作；它本身不会提高同伦截断层级。

3 作为认证开放系统的企业

3.1 状态与容许转移

令环境状态对象为

其中 描述人类角色与能力， 描述数据与来源， 描述模型与参数， 描述优化器/运行时内存， 描述控制器， 描述资源， 描述治理。当例如优化器的状态依赖于架构时，积可以被依赖和所替代。指定一个谓词 并定义

因此 的一个居留元同时包含一个提议状态及其有效性见证。该谓词可以包括模式方程、授权、资源界限、部署测试以及所声明的契约条件。它们的实际含义必须被提供；对所选谓词的证明并不是对每一个理想社会结果的证明。

定义 3.1

经认证的更新

对于一个可容许的输入族 ，经认证的更新是一个过程，给定 、 和 ，返回 。一个可选的转移关系 可以被包含在证书中。当一个全实现根据接受与否进行分支时，它必须为其所选择的检查提供一个判定过程；任意的语义一致性并不因此就是可判定的。

命题 3.2

迭代下的保持性

假设一个初始状态有一个见证 ，并且每一个被接受的更新都是经认证的。那么由被接受更新的有限序列所到达的每一个状态都有一个 的见证。一个返回原始经认证状态的被拒绝更新也保持 。

证明。基础情形是 。在每一个后继步骤中，更新提供下一个见证。拒绝则复用已有的见证。对序列长度进行归纳即得该断言。不需要证书的唯一性或排中律。

这形式化了受约束的数据库更新和推测性更改。有效的回滚涉及被建模的状态：删除已经传输的信息，或逆转一个不可逆的物理行为，需要额外的操作，不能从本命题假定。

对于一个普通的范畴数据库模式 ，一个实例是一个函子 [31]。函子性强制实施该模式所声明的路径方程。超出这些方程的授权、统计有效性以及跨表条件必须单独指定。对于一个模式映射 ，限制 是沿 的前复合；当它们存在时，其左伴随和右伴随 和 分别是左 Kan 扩张和右 Kan 扩张。一个伴随是相应映射空间之间的自然等价。这些迁移构造并不是对附加条件的自动证明。

命题 3.3

经认证操作的下降

令 为一个覆盖。假设局部状态、转移映射和证书在它们各自的层对象中形成一个同伦一致的下降数据。那么它们确定一个在 上的经认证操作，该操作在该数据下降所规定的可缩空间的意义下唯一。

证明。将 上的截面与 Čech 神经上截面的极限之间的层等价应用于认证操作的结构化对象。该对象由依赖和、积以及指定的证书族组装而成。给定下降数据上的纤维是可缩的。

独立的局部批准是不够的。对共享数据、接口和更高相干性的一致性是前提的一部分。例如，两个资源请求可能各自在局部符合预算，但合在一起却超出预算；它们不构成有效的全局资源证书。

3.2 接口、透镜与反馈

一个确定性开放模块由一个状态对象 、一个输出映射 和一个更新 组成。闭合一个环境/控制器映射 得到

更一般地， 有自己的状态，而环境提供输入；此时必须保留完整的积状态。在随机解释中，更新是马尔可夫核，复合使用它们的积分复合律。

对于接口 和 ，一个简单透镜是一对

第二个分量通过接口携带响应、请求的更改或余切信号。对于 和 ，复合为

这是基本双向结构；依赖透镜允许响应类型依赖于当前输出。反向微分将光滑映射 送到前向求值和欧几里得坐标下的余切拉回 。链式法则使这一构造具有复合性。优化器闭合参数端口，如范畴学习 [7] 中那样。光滑点 处的切空间由光滑芽上的导子 组成，这些导子在 上线性并满足 ；它们是无穷小方向。其对偶，即余切空间，包含这些方向上的线性泛函。参数端口是接口中携带参数及其请求更改的部分。闭合它意味着为这些更改提供更新律。

参数化映射与架构约束。 一个带有参数 的层是一个映射 。将其与 复合，得到一个带有参数 、 的映射。一个重参数化 在 时将 与 关联起来。这类映射构成了双范畴 构造背后的基本结构；可逆重参数化只给出其等价部分。一个 -范畴具有对象、-箭头，以及 -箭头之间的 -箭头，并具有相容的垂直与水平复合；双范畴将结合律与单位律弱化为相干的不可逆 -箭头。一个 optic 通过一个剩余对象 表示双向行为，并带有映射 和 。代表元通过经由相容映射改变剩余对象所诱导的关系来识别。因此，剩余状态被保留用于反向响应 [12]。

代数架构约束也可以通过 monad 来表达。在普通范畴中，一个 monad 由一个自函子 以及自然变换 和 组成，满足

一个代数 满足 和 。这些方程约束了复合运算的实现方式。范畴深度学习将这种代数观点提升到适当的参数化映射 -范畴上，将模型约束与架构实现关联起来 [13]。这种提升以及所选的环境范畴是该构造的实质性部分。架构代数本身并不指定损失、优化器内存或公司的治理目标。

(2) 中的时间操作通常是不可逆的。它们属于一个转移或系统范畴。只有等价属于其极大的高阶 groupoid。在一个 -范畴中，高阶态射是可逆的；其普通 -态射则不必如此。一个关系的自反性、对称性和传递性本身并不提供整个同一性塔。

一个具有指定状态语义的可执行轨迹 在类型匹配时表示复合 。这使得可重复操作变得精确。一个无类型的日志或缺少因果上下文的轨迹并不规范地表示一个自同态。递归改进可以通过一类经认证的 agent 的自同态来建模；迭代还额外要求保持可容许性和可实现的运算，而不仅仅是一个自我描述。

4 单价性、等价性，以及等价性所遗忘的东西

单价性断言，典范映射

是一个等价 [32]。它允许沿给定的等价来传输类型依赖的性质和结构。同一性结构包含自同构；单价性并不会把所有等价见证都归约为一个证明。它也不能仅凭对莱布尼茨原理的口头援引而推导出来。结构主义解释为一种被选择的基础提供了动机；它并未为所有可能的基础确立唯一性定理。

对于企业或学习者而言，等价必须在结构化系统上定义。一个合适的对象包括 ；其等价保持所声明的接口和这些被选择的结构。仅底层状态类型的等价不会传输任何未指定的成本或控制策略。一个被选择的宇宙可能将它们完全遗忘。

例 4.1

相同预测，不同学习速度

令 和 ，二者都将 映射到 。重参数化 是一个光滑双射，且 。对于相同的输出损失 和每个坐标中的欧几里得梯度流，标量切核为 和 。因此

这两个模型具有相同的可实现预测和等价的参数空间，但从匹配的初始输出出发，其时间依赖预测不同。

命题 4.2

核不变性要求优化器几何

假设对于光滑微分同胚 有 ，并令 和 为半正定的余切到切预条件子。如果 ，则输出核在匹配参数处一致。

证明。链式法则给出 。因此 。在 例 4.1 中，当 时，等式由 恢复。

这为学习者表示的高阶群胚给出了一个具体需求：配备优化器的系统的等价必须保持相关几何。诸如隐藏单元置换之类的规范对称性可以组织成一个作用群胚，并且通过下降，得到一个商栈 。其稳定子记录了表示自同构。商不自动是光滑流形，而核只有在所需的不变性成立时才能下降。这里群作用是保持群乘法和单位元的映射 ；其作用群胚对每个 有一个箭头 。 的稳定子是 。栈是满足相干下降的群胚值层，而商栈是层化后的作用群胚。这里的规范对称性是指保持所声明学习者结构的重参数化。模空间对象将此类结构连同其等价一起分类；它保留自同构，而不仅仅是其轨道集合。

例 4.3

截断不能识别实现

对于每个 ，该点与 具有等价的 -截断，但不是等价空间，因为后者具有 。即使完全行为等价也不能固定一台机器：向确定性实现添加未使用的内存会使其观察到的行为保持不变，同时改变其物理状态数和可能的成本。

点 是单点同伦型。Eilenberg–Mac Lane 空间 ，对于 ，是连通的，具有 ，且所有其他正次数同伦群为零。行为等价意味着所声明的可观察输入-输出行为相等；额外的内部状态只有在属于该声明结构的一部分时才被保留。因此，一个唯一指定的操作类不必有唯一的实现。此外， 一般不是 -拓扑斯的左正合局部化。在空间中，

因此 -截断不能保持这个同伦拉回。因此，层化与同伦截断必须扮演不同的角色。

5 神经动力学：精确核恒等式

5.1 有限模型与连续时间优化

记号 表示直到 阶的导数存在且连续； 表示对每个有限 都如此。用 表示 Jacobian， 表示 线性导数， 表示在指定内积下的梯度， 表示其 Hessian。点号表示时间导数。实对称矩阵 是半正定的，记作 ，当且仅当对每个 都有 ； 表示 。Gram 矩阵的元素由所选向量的内积给出，并且是半正定的。下文中的神经正切核是矩阵值 Gram 核；其含义不同于概率 Markov 核。损失是衡量所选差异的标量目标。预条件子将其参数余向量映射为更新方向。

固定一个数据集，并将可微网络的训练输出拼接为 。对于向量值输出， 同时包含样本索引和输出索引。令 可微，设 和 ，并规定

这里 是参数坐标的数量， 是堆叠输出坐标的数量， 是使用样本归一化损失时的样本数。神经网络指所选的参数化映射 ； 将其在该样本上的输出堆叠起来。转置记作 ， 是所需大小的单位矩阵， 是欧几里得范数或其诱导的多线性算子范数。矩阵 是所选的预条件子， 是额外的参数漂移。用几何语言来说， 将余向量映射为切向量；转置使用所显示的欧几里得坐标。假设所考虑的轨迹具有足够的局部正则性以存在。以下内容是直接的链式法则计算，而非无限宽度近似。

定理 5.1

依赖于优化器的切动力学

沿 (4)，

矩阵 是半正定的。对于 ，固定输出损失非增。如果还有 和 ，那么在该界成立时 。

证明。将 (4) 乘以 得到 (6)。对任意 ，。损失链式法则给出 (7)。在平方损失情形下，残差 满足 ，因此 ；对该不等式积分。

对于 、，这是经验神经正切核（NTK）。在样本记号中，包括输出块结构，

Jacot、Gabriel 和 Hongler 在其假设 [19] 下建立了基础性的 NTK 观点以及常核无限宽度机制。线性化宽网络结果 [23] 以及针对广泛架构类别的张量程序计算 [36] 扩展了其适用范围。它们并不意味着任意有限 transformer 或其他部署网络具有常核。特征学习可以改变 和 ；惰性训练是一种特定的缩放机制 [5]，其中参数化映射在指定的训练区间内保持接近其在初始化时的线性化。

5.2 核演化与正切层级

对于 、 充分可微且 无显式时间依赖，

该演化已经涉及二阶参数导数和优化器几何的导数。对于 的特殊标量输出欧几里得流，递归地定义

标签 是固定的标量目标，，而 中的 是样本索引的有序 元组；此处的局部用法不同于单位矩阵记号。只要导数存在，链式法则就给出精确恒等式

这就是神经正切层级（NTH）的递归结构 [18]。这些高阶张量一般不是半正定的双输入核或完全对称张量。冻结有限层级是一种闭包近似；这些恒等式本身并不界定其误差。Huang 和 Yau 在指定的光滑性、宽度、初始化和数据假设下获得了受控截断。他们的近似定理在此并不针对每一种现代架构或优化器断言。

6 射流、高阶优化与射流正切核

6.1 芽、无限射流塔与完整截面

固定一个开参数域 ；相同的定义适用于流形图卡。对于标量目标，写作 。射流及其坐标变换的标准几何构造在 [30] 和 [21] 中展开。下面的分解结果是显式保留零阶值和运行时状态的初等推论。

定义 6.1

光滑芽与逐点射流

光滑函数在 处的芽 是其在 的某个开邻域上一致的等价类。芽代数是 ，其中映射是限制，余极限遍历邻域 。当两个芽在 处所有阶数至多为 的导数都一致时，它们具有相同的 阶射流。当这对每个有限阶都成立时，它们的无限射流一致。无限射流纤维是逆向极限

带有遗忘最高阶导数的粘合映射。

这里的逆向极限是在这些遗忘映射下的相容序列；芽的直接极限把在限制后一致的代表元等同起来。在 Taylor 坐标中，自然映射 把一个芽送到它的完整导数序列。它的核是平坦芽的理想，其各阶导数在 处都为零。它可以等同不同的光滑芽。在一元情形下， 对于 以及 对于 在零点有一个非零芽，但在该处的无穷射流为零。 在 上的每一阶导数都是逆幂多项式乘以指数函数，并在原点趋于零，这证明了平坦性。解析芽由局部收敛的幂级数表示；对于解析芽，Taylor 映射是单射。因此，光滑芽、形式无穷射流和解析芽需要不同的类型。

定义 6.2

全局完整射流表示

的延拓是它在整个定义域上的射流截面，。当一个截面是某个实际光滑函数的延拓时，它是完整的。令 恰为这些截面。零阶投影通过 定义 。因此 和 。全局截面在每一点都保留 。这与单点的导数序列不同。在未归一化坐标 下，完整性蕴含 ，其中 是第 个单位多重指标。反过来，满足这些方程的光滑分量函数通过归纳法是 的导数。任意的逐点形式系数赋值不必满足这种相容性。

赋值 是一个层：在重叠区域上一致的光滑函数粘合为一个光滑函数。芽是它的茎，即邻域上的直接极限。延拓和零阶投影与相应完整射流层上的限制可交换。这给出了光滑语境语义中客观数据的局部到全局组织。在开集 之外查询的算法不是仅由限制在 上的客观对象所决定的运算。

6.2 射流代数及其局限

在选定的参数图中， 映射 的 阶参数射流是其 Taylor 多项式模去次数为 的项：

在固定点处，它记录到 阶的导数，而不是整个映射。在坐标变换下，这些记录按链式法则变换。它们可以组织成射流丛，其纤维收集每个基点的射流，以及复合微分结构 [3, 30, 21]。这里 是一个多重指标，，，且 。对于特征零代数 上的单变量射流，归一化泰勒系数满足

等价地，使用未归一化导数，。因此乘法是卷积，而不是导数列表的逐点乘法。所示的乘积阶数对于非交换系数也成立，当变量是中心变量且 是导子时；不允许任意重排。这里的代数是指域上的结合代数；特征零确保所显示的整数系数具有其通常的非零值。

引理 6.3

微分降低有限射流阶数

对于 ，芽的微分诱导 ，但普通多项式微分不诱导特征零域 上 的自同态。

证明。如果两个代表元相差 ，它们的导数相差 的倍数，因此它们具有相同的 -射流。但 在商中为零，而其导数 在那里非零。因此，通过微分代表元定义的自同态不是良定义的。

无限射流，或形式幂级数，允许系数平移而没有这种有限阶损失。截断多项式代表元可以在选择代表元后进行微分，但那是芽的导数的一种选定近似。正则射流不自动包含在基点处有极点的洛朗级数。共享的微分公式并不等同于所有多项式、洛朗、光滑和形式理论。

6.3 优化算法的通用射流表示

定义 6.4

基于目标的有状态优化器

设 为运行时状态空间，包含当前参数以及算法所使用的任何记忆、查询历史、候选种群或随机种子。设 包含声明的辅助数据、约束、精度、调度、目标表示和预言机访问规则。确定性优化器步是一个可能为部分映射的映射 ，其中 包含后续状态或停止结果。对于单状态迭代，可以取 ，其中 是声明的终止答案与状态集合。当具有相同运行时状态和辅助数据的相等函数产生相同的定义域和输出时，它是在目标上外延的。随机步则是一个到 的马尔可夫核，并指定了其可测结构。优化算法是此类步的迭代，包括其查询、接受和停止规则；仅凭名称并不能断言最小化成功。

当代码检查和依赖于表示的成本影响算法时，它们是显式的辅助数据。随机程序可以等价地使用一个将其种子置于 中的确定性步。预言机是回答目标或导数查询的接口；黑盒算法通过这些答案而非闭式公式来了解目标。

定理 6.5

通用全局射流分解

定义 6.4 中光滑目标上的每个优化器在全局完整射流上都有唯一优化器，

对于部分映射，其定义域由 传输。同样的陈述对随机步也成立，其中完整截面上的可测结构从 传输而来。从匹配的初始运行时状态以及相应的目标和辅助输入流出发，停止行为和整个迭代轨迹都得以保持。

证明。定义 6.2 中的逆恒等式给出了所展示的分解。完整空间中的每个 都等于 ，因此任何分解都必须具有所展示的值和定义域；这证明了唯一性。对于随机步，在每个可测输出事件中使用相同的替换。传输后的可测结构使该替换可测。对步进行归纳可保持确定性轨迹；积分复合保持随机轨迹律和停止事件。

这正是每个指定的基于目标的优化算法都是全局射流构造的一个实例的精确含义。它包括无导数方法，因为目标的值是其零阶分量。该定理是一个表示结果：无限导数可以可用，而无需每个算法实际计算或使用它们。它对任意 的全局 阶完整截面也成立；提高阶数会丰富可访问的微分运算，而不是恢复已在零阶保留的函数所必需的。将优化器扩展到非完整形式截面是一个单独的建模选择，并非由该定理决定。

命题 6.6

优化器接口的组合等价性

固定辅助数据。令 以运行时状态空间为对象、总步数 为箭头，复合为 。将 替换为 得到一个与 同构的范畴，同构通过 给出。部分步骤和随机步骤具有相应的部分映射复合与核复合。

证明。恒等步骤返回 ；结合性由替换得出。由于 被两个复合步骤共享，。以 作前复合与以 作前复合互为逆。同样的论证可迁移定义域，而核复合使用已指定的积分律。

复合使得搜索、微分、过滤、接受、资源检查与发布门控能够使用一个带类型的目标表示，同时保留它们各自的运行时状态。

命题 6.7

逐点射流优化器的判据

固定 和一个总的芽局部规则 ，其中 是一个集合。它恰好通过可实现的 阶逐点射流（包括 ）分解，当且仅当对于每个固定的 ，其值在具有相同 -射流的芽上为常数。对于部分规则，其定义域也必须是这些等价类的并集。

证明。分解在射流映射的纤维上为常数。反之，为每个可实现的射流赋予任一代表芽的值。前提使该赋值与代表无关，从而给出唯一下降的规则。同样的推理恰好适用于部分规则，当且仅当有定义性也下降时。

这里 芽局部 意味着仅依赖于邻域上的一致；逐点射流决定 意味着仅依赖于基点处的导数数据。这是两个不同的条件。例如，选取一个支撑在 中且满足 的光滑函数 。目标 与 在零点处具有相同的芽。搜索候选 对 返回零，对 返回一。这种合法的基于值的搜索不能通过当前芽或当前逐点射流分解。它确实通过全局完整射流截面分解。同样，定义 6.1 中的平坦芽例子解释了为什么即使在芽局部问题中，无限逐点射流也可能遗忘信息。

订单、查询和优化器状态。 梯度方法在其查询点读取 的一阶 jet。牛顿方法读取二阶 jet。线搜索通过查询候选值，沿声明方向选择步长；它可以通过全局 jet 截面的零阶求值来表示。有限差分使用若干这样的求值来近似导数。拟牛顿方法根据连续的梯度和位移对更新近似 Hessian 或逆 Hessian，因此其记忆属于 。动量和 Adam 将一阶查询与保留的记忆相结合。群体和随机搜索方法保留若干候选点，并在每个点查询值。信赖域方法在带有 的界 下优化局部泰勒模型；高阶张量方法使用更高阶的多线性导数。约束和接受测试仍然是更新接口的一部分。

对于复合损失 ，使用网络表示的算法（如 Gauss–Newton）保留 和 作为辅助数据，或联合使用它们的 jet 截面。仅标量损失相等未必能识别这种表示。小批量方法同样指定采样的目标族和批量选择状态。图卡变换通过链式法则作用于 jet，而坐标不变的训练仍然需要像 命题 4.2 中那样传输优化器几何。

对于非光滑或离散目标，经典的无穷导数 jet 可能不存在。通用值接口仍然存在：函数 就是其全局零阶截面。次梯度、广义导数或代理导数可以是额外的声明预言数据。因此，每个基于目标的算法在其适当的正则性设置中都有一个全局值/jet 接口。这并不能将任意黑盒搜索与仅使用一个光滑芽的导数序列的规则等同起来。这种区别也是计算上的：运行时可以按需暴露有限 jet 查询，而无需存储无限数组或为不可计算目标提供预言。凸函数 在 处的次梯度是一个向量 ，对于其定义域中的每个 都有 。凸性意味着对于包含每条此类线段的定义域上的 ，有 。其他广义导数意味着显式选择的集值替换经典导数；代理导数是算法使用的显式提供的替换，例如来自光滑近似。

6.4 二阶及更高阶优化器

对于 ，参数 Hessian 是

牛顿型更新使用这个二阶 jet。一个阻尼正定近似可以在定理 5.1中提供 ，其中 是所声明的对称 Hessian 近似，阻尼 的选取使得 为正定。Gauss–Newton 保留 (11) 的第一项；原始的不定逆 Hessian 未必能产生下降。更高阶的 Taylor 模型、信赖域方法和张量方法可以使用更大的 jet，但 jet 本身并不是优化算法：目标、步长选择、约束和接受准则也必须被选定。

对于实际的有限参数步长 ，Taylor 定理给出

其中当第 阶导数在连接线段上被 界定时，有 。这量化了有限 jet 描述的步长限制。

6.5 一个显式定义的输入-jet 切核

“jet 切核”这一说法并未指定一个单一的通用对象。为了得到精确的版本，取连续输入 、向量输出和多指标 。定义 jet 可观测量 。假设下文所需的混合导数存在且可交换。将选定的采样可观测量堆叠为 并令

定义 6.8

$r$ 阶输入-jet 切核

对于参数预条件子 ，定义块核

此定义中的可观测量坐标是未归一化的导数；使用 Taylor 归一化坐标会重新缩放相应的块。

对于与输入无关的 ，对普通输出块核求导得到 。

命题 6.9

Jet 可观测量动力学

对于在 上以 进行的训练，堆叠的输入 jet 满足 和 。

证明。将链式法则和定理 5.1的 Gram 矩阵论证应用于 代替 。

这适用于导数匹配和 Sobolev 目标；Sobolev 训练是一个已确立的例子 [8]。例如，一个采样的 Sobolev 目标为 ，其中非负权重为 ，规定的导数目标为 。该术语意味着函数值和所选导数都进入损失。它不同于 (10) 中的参数-jet 塔和 (9) 中的 NTH。也可以从更高阶参数导数构造加权 Gram 矩阵，但如果没有优化器法则，此类矩阵无法确定训练。

对于离散 token，在 token 索引中没有普通的输入导数；当模型意图如此时，输入 jet 可以在连续嵌入变量中取。只要参数化是可微的，logits 的参数导数仍然有意义。

6.6 固定核无法确定的内容

对于动量，优化器记忆是必不可少的：匹配的参数可以有不同的速度。对于 Adam [20]，梯度为 ，

这里 ，学习率为 ，而 对除法进行正则化；运算是逐分量的， 对每个分量求平方，且在初始矩为零 时， 是偏差修正。更新通过 依赖于历史，而不仅仅依赖于 处的核。小批量、调度、权重衰减和架构变化会引入进一步的状态或漂移。如果指定了用于训练的扩散模型，，伊藤公式给出

这里 是标准布朗运动， 是指定的漂移向量， 是噪声幅度矩阵， 是矩阵的迹。确定性梯度流中不存在 Hessian 修正。ReLU，即修正线性单元 ，以及其他非光滑机制需要分段光滑分析、广义导数或选定的替代函数；在切换边界上，更高阶的经典 jet 未必存在。量化更新和采样需要离散语义。无导数优化契合全局零阶接口；它不必依赖于逐点导数。量化意味着一个声明到有限精度值集合的映射，而采样则从声明的分布中抽取结果。

As Definition 6.1 shows, the infinite jet at one point need not determine a smooth germ. Theorem 6.5 instead uses the global holonomic section and the full optimizer state. Analyticity restores local determination by a convergent Taylor series; it does not remove optimizer or environmental dependence. The justified differential statement is the chain-rule identity for differentiable parametrized models under specified update laws. A single fixed “jet kernel” does not determine all training, inference, deployment, and organizational dynamics.

7 Observation, trace capture, and organizational control

7.1 Capability-relative observation

For an actor , choose an observation map and an admissible action family . A capability change may refine , enlarge , or alter resource access. In a set-level deterministic model, states are observationally equivalent to when . In higher semantics, use the homotopy fibers of and retain witnesses when appropriate. This describes capability through accessible observations and actions, with no assumption that capability is literally a homotopy level.

Theorem 7.1

Observation-fiber obstruction to regulation

Let be a deterministic transition, restrict to the reachable observation image , and let be the desired safe region. Define . A controller using only regulates all states only if

Conversely, a supplied selection from these intersections defines a regulator. In constructive type theory, the converse requires an actual dependent selection, not merely an assertion that each intersection is nonempty.

Proof. If regulates, then for every with , proving (14). A given choice in each intersection, with its membership witnesses, defines and proves safety for each state.

In particular, if indistinguishable states need incompatible actions, no extra computation applied to the same instantaneous observation can solve the problem. Memory or new sensors can change the observation object. If a finite disturbance set requires a different unique action for each disturbance, any regulating observation must distinguish every disturbance: , or at least bits of distinguishable observation. This restricted theorem illustrates requisite variety; it is not a blanket entropy inequality for every control system. Conant and Ashby’s good-regulator result has its own optimality and modeling assumptions [6].

7.2 Employee traces, customer traces, and the panoptic hypothesis

An observational trace is a finite sequence of typed interaction events with declared times, participants, and outputs. An employee trace comes from work performed in an employee role; a customer trace comes from use of a product or service in a customer role. One person can occupy both roles. Data provenance specifies origin, transformations, and the permissions attached to the data. These traces become inputs to a learner only through a specified collection and data-processing map. This observational use of “trace” differs from an executable operation sequence.

Let be existing data, a newly captured work trace, and a future prediction target, all modeled as finite random variables on a declared probability space. The Shannon conditional entropy, in bits, is

Log loss for a predicted distribution is ; the Bayes-optimal predictor is the true conditional distribution, minimizing expected loss. Conditional mutual information is . Conditional relative entropy compares distributions through , averaged over the conditioning data. For finite random variables under log loss, the Bayes-optimal expected loss is conditional entropy. Hence the gain from adding the trace is

This follows directly from the definition of conditional mutual information and nonnegativity of conditional relative entropy. It gives a precise condition under which internal traces have predictive value. It does not establish equal value to customer data, a monetary valuation, or an incentive to capture every trace: acquisition cost, provenance, representativeness, permissions, and objective choice remain independent variables.

For worker and customer trace families , , equal predictive value would be the additional equation for the declared target, baseline, and data budget. It does not follow from both being traces. For example, with constant, a fair bit, an independent fair bit, and , these two quantities are zero and one bit, respectively. Information value, collection coverage, and authority must therefore be specified independently.

Definition 7.2

Observation refinement and authority

For a common state domain , observation maps and satisfy when for some map . Thus ’s view can be reconstructed from ’s. This is a preorder: reflexivity uses the identity and transitivity uses composition. Mutual refinement defines equivalence of information; the preorder is not assumed antisymmetric. For a common intervention interface , let be actor ’s authorized actions. For a common policy space , let be its authorized policy changes. Policies specify controllers, objectives, observation access, and update criteria. Authority domination means inclusion of the corresponding action and policy-change sets in each state. Strict domination means at least one inclusion is proper.

The channels and rights concern a declared organizational interface, rather than every fact an actor knows or every action an actor can perform. Controller inspection and challenges to updates are explicit observation or governance commands when included in this interface.

Definition 7.3

Trace coverage

Choose a finite operational state abstraction , including the relevant firm, environment, and interaction histories. Let be a finite set of employee and customer role instances, with weights and . For each choose a nonconstant trace observable , with finite, and an observation map . Write for the firm authority role and for its finite observation channel. Take each observation codomain to be its reachable image. Define

The number is informational trace coverage for these observables and weights; is a recovery witness. High coverage means for a declared threshold .

Recoverability is equivalent to being constant on each fiber of : this condition defines on the reachable image, and a recovery map immediately implies it. Nonconstant trace observables exclude uninformative constant functions from the coverage count. Recoverability does not by itself say that a particular storage or collection mechanism was used. For noisy channels one can instead declare a probability law and errors , requiring . Choosing below the best constant-predictor error ensures that this approximate recovery is informative.

Definition 7.4

Panoptic architecture and panoptic hypothesis

Let contain the state domain, roles, observation maps, trace observables, weights, actions, and governance relations just defined. It is a panoptic architecture at threshold , written , when:

• ;
• for every , and, in every state, and ;
• for some and state , at least one of these two authority inclusions is proper.

For a declared collection of firms and a fixed assessment period, the panoptic hypothesis is the empirical assertion . The literal claim about every AI company uses that entire declared class for ; a case study can instead test a restricted collection.

This is an operational definition inspired by the asymmetry of observation and authority in the historical account of panopticism [10]. It specifies the mathematical meaning of the term in this note. The threshold, role weights, trace scope, recovery errors, and authorization evidence are part of the hypothesis and must be reported. Positive predictive value alone proves none of its three conditions. A model can have full trace coverage and fail the definition when all action and policy-change rights are equal. Conversely, authority concentration does not establish high trace coverage. Controllability means the ability to reach declared target states through allowed inputs; observational predictability is a separate property.

Proposition 7.5

Panoptic status is invariant under structured equivalence

In the finite model, bijective changes of state, observation, trace, action, and policy coordinates preserving roles, weights, maps, and authorization relations preserve .

Proof. A recovery map transports by composing with the observation bijection’s inverse and the trace bijection. Hence exactly the same role instances contribute to . Observation factorizations transport in the same way. Bijections preserving the authorization relations preserve inclusion and proper inclusion of the corresponding sets. All three conditions are therefore preserved, in both directions.

In higher contextual semantics a recovery witness has the internal type

Mere recoverability is its -truncation, while the full type retains maps and coherence witnesses. Numerical coverage above uses a finite, decidable abstraction; a general higher recovery proposition is not automatically a decidable Boolean. An observation-only equivalence which forgets permissions need not preserve panoptic status. The structured equivalence must retain the authority data as well.

Deployment also changes data: write , , and . This feedback is related to performative prediction [28]. It can amplify, attenuate, or redirect effects; its sign and stability must be estimated, not inferred from the existence of a loop.

7.3 Composed decision-makers and shared providers

A company contains and connects decision-makers with distinct objectives. The set-based open-game formalism [14] represents a component by a strategy set , play , coplay , and a best-response relation

An equilibrium in context is a strategy with . Sequential and parallel composition retain the environmental continuation , rather than asserting that each isolated optimum remains optimal after composition. The type specifies the outcomes relevant to this component; returns outcomes to its environment. A deployment gate can thus expose actions forward and evaluation consequences backward. The formalism represents best responses, not a guarantee that a neural decision-maker implements them or converges to an equilibrium.

Hedges’s research proposal [16] highlights the dependence created when apparently separate economic decision-makers use a shared upstream AI provider. A minimal probabilistic example makes the distinction precise. Suppose a finite latent provider regime affects two otherwise conditionally independent action channels. Then

under the stated conditional-independence assumptions. This mixture generally does not factor into the two marginal channels. For and , it gives , whereas the product of marginals is . This is a shared-cause example, not evidence of actual collusion. Common providers, jointly updated policies, and correlated failures should therefore be represented as shared state in an industry model; corporate separation alone does not prove independence of decision channels.

8 Coupled stability, resources, and consolidation

8.1 Learning stability does not imply firm stability

An equilibrium is a state with zero time derivative. It is asymptotically stable when all sufficiently close initial states remain close and converge to it. For the linear systems below this is equivalent to every eigenvalue having negative real part. A kernel mode is an eigenvector with ; its eigenvalue is . Consider a local two-mode approximation with learning residual and an environmental or organizational response :

One possible frozen-kernel interpretation is for a learning mode, while encode the surrounding response and timescales.

Proposition 8.1

Two-mode closed-loop criterion

The equilibrium of (16) is asymptotically stable exactly when . If , it has a positive real eigenvalue.

Proof. The characteristic polynomial is . Its roots have negative real parts exactly when both coefficients after the leading term are positive. For negative determinant the roots are real and have opposite signs. At a zero eigenvalue prevents asymptotic stability.

Increasing an isolated learning rate, or making its loss decrease, does not by itself control and . Delays, switching releases, and nonlinear saturation require a richer model. A categorical wiring diagram specifies composition; it does not provide the missing stability estimates.

Resources can be made explicit through, for example,

with an available energy stock and a financial balance, together with material stocks and capacity constraints. Power is energy per unit time. A viability region includes resource floors as well as technical and institutional conditions. Maintaining that region is a control problem with disturbances; parameter-loss minimization proves only the narrower statement in Theorem 5.1.

Beer’s viable-system roles suggest a decomposition into operational model teams, coordination of shared infrastructure, allocation and audit, adaptation to the environment, and policy/identity [2]. This is a modeling correspondence, not evidence that an AI company is a biological organism or already a viable system in Beer’s technical sense.

8.2 A conditional consolidation comparison

Suppose compatible data objects admit a pushout in the chosen semantic category. This expresses a universal integration construction: for every test object ,

This defines the pushout as the gluing of the span through . It entails no improvement in statistical quality or profit. Permissions, shared identifiers, and interface compatibility are prerequisites for the construction to represent a real integration.

Let and be explicitly specified net objectives. Decompose their difference as

Here the terms are avoided duplication and complementary-data gains, while the terms are the respective additional costs. Under this accounting, integration is preferred for this objective precisely when the right side is positive. This is a conditional comparison, not a prediction: independent objectives, diseconomies, limited resources, failure concentration, and governance can reverse the sign. No date or inevitability of industry-wide consolidation follows from categorical universal properties or from (15).

9 Further analysis and a minimal research protocol

The framework supplies a starting point with several measurable extensions. For a first case study, choose one workflow from employee or customer interaction to training, evaluation, release, and subsequent observations. Record its state variables, time delays, optimizer memory, permissions, resource costs, and rejection paths. Specify before analyzing updates. Identify which equivalences are intended to preserve predictions only, and which must also preserve optimizer geometry, costs, or control rights.

Estimate empirical tangent-kernel modes or Jacobian-vector products on a declared sample; materializing a full kernel is often unnecessary. Track kernel change, jet approximation error over actual step sizes, and sensitivity of behavior to release and data-selection decisions. Estimate the coupled response terms in (16); test whether broader observations resolve the obstruction in Theorem 7.1. These measurements separate information capture, effective intervention, and governance.

Four theoretical extensions follow naturally:

• Compositional certificates. Give module contracts and prove that their shared-resource and interface witnesses assemble into the descent datum of Proposition 3.3. Arbitrary local tests do not suffice.
• A moduli object of learners. Define equivalences preserving specified forward behavior, losses, optimizer geometry, and permissions. Compute stabilizers and ask which kernels and costs descend to its quotient stack.
• Multiobjective and stochastic governance. Replace a single scalar company objective by stakeholder-indexed objectives and a specified mechanism for selecting actions. Add Markov kernels, delays, and resource-aware policies.
• Jet closure with error control. Derive architecture- and optimizer-specific truncation estimates, rather than importing a smooth fully-connected NTH bound into an unrelated runtime.

Relating cocycles to homotopies requires a specified complex or derived moduli problem. A cochain complex has vector spaces and maps with . Cocycles are , coboundaries are , and cohomology is . A cochain homotopy between maps is a degree- family with . In an ordinary cochain complex, cocycles are not automatically null-homotopic: two cocycles represent the same cohomology class when their difference is a coboundary. For a smooth quotient by a Lie group, the infinitesimal action gives a two-term complex

in degrees . Here a Lie group is a smooth manifold with smooth group operations, is its tangent space at the identity, and is the derivative of the action there. The cokernel is the target vector space modulo the image. Its kernel records infinitesimal stabilizers and its cokernel records tangent directions modulo the action. A derived enhancement can introduce genuine obstruction and higher-homotopy information, but it must be constructed [29]; it is not supplied by ordinary Taylor coefficients.

Finally, a one-point model exists for many purely equational algebraic theories, including the theory of groups, but not for every consistent theory. The theory of nontrivial fields, with , is a counterexample. An external model gives relative consistency through a sound metatheory; it does not automatically give an executable or physically realizable model. The practical aim is a hierarchy of explicitly presented models and checkable claims connecting formal semantics to observed organizational behavior. A model interprets the operations and predicates of a theory so that its axioms hold. A purely equational theory specifies operations and equations between their terms; logical consistency means that a contradiction is not derivable. Soundness of a metatheory means its derivations preserve truth in the models under consideration. A derived deformation problem, proposed here as a further extension, retains homotopy-valued families of perturbations and their higher relations; its actual complexes and obstruction maps must be specified before any additional claim is proved.

References

1. [1]

   W. Ross Ashby. An Introduction to Cybernetics. Chapman and Hall, London, 1956. Requisite variety: Chapter 11.

2. [2]

   Stafford Beer. Brain of the Firm. John Wiley and Sons, second edition, 1981.

3. [3]

   R. F. Blute, J. R. B. Cockett, and R. A. G. Seely. Cartesian differential categories. Theory and Applications of Categories, 22(23):622–672, 2009.

4. [4]

   Matteo Capucci, Bruno Gavranović, Jules Hedges, and Eigil Fjeldgren Rischel. Towards foundations of categorical cybernetics. Electronic Proceedings in Theoretical Computer Science, 372:235–248, 2022.

5. [5]

   Lénaïc Chizat, Edouard Oyallon, and Francis Bach. On lazy training in differentiable programming. Advances in Neural Information Processing Systems, volume 32, 2019.

6. [6]

   Roger C. Conant and W. Ross Ashby. Every good regulator of a system must be a model of that system. International Journal of Systems Science, 1(2):89–97, 1970.

7. [7]

   G. S. H. Cruttwell, Bruno Gavranović, Neil Ghani, Paul Wilson, and Fabio Zanasi. Categorical foundations of gradient-based learning. Programming Languages and Systems (ESOP 2022), LNCS 13240, pages 1–28. Springer, 2022.

8. [8]

   Wojciech Marian Czarnecki, Simon Osindero, Max Jaderberg, Grzegorz Swirszcz, and Razvan Pascanu. Sobolev training for neural networks. Advances in Neural Information Processing Systems, volume 30, 2017.

9. [9]

   Brendan Fong, David I. Spivak, and Rémy Tuyéras. Backprop as functor: A compositional perspective on supervised learning. 34th Annual ACM/IEEE Symposium on Logic in Computer Science, pages 1–13, 2019.

10. [10]

    Michel Foucault. Discipline and Punish: The Birth of the Prison. Vintage Books, 1995. Translated by Alan Sheridan. “Panopticism,” pp. 195–228.

11. [11]

    Tobias Fritz. A synthetic approach to Markov kernels, conditional independence and theorems on sufficient statistics. Advances in Mathematics, 370:107239, 2020.

12. [12]

    Bruno Gavranović. Fundamental Components of Deep Learning: A Category-Theoretic Approach. PhD thesis, University of Strathclyde, 2024.

13. [13]

    Bruno Gavranović, Paul Lessard, Andrew Joseph Dudzik, Tamara von Glehn, João Guilherme Madeira Araújo, and Petar Veličković. Position: Categorical deep learning is an algebraic theory of all architectures. Proceedings of the 41st International Conference on Machine Learning, PMLR 235, pages 15209–15241, 2024.

14. [14]

    Neil Ghani, Jules Hedges, Viktor Winschel, and Philipp Zahn. Compositional game theory. Proceedings of the 33rd Annual ACM/IEEE Symposium on Logic in Computer Science, pages 472–481, 2018.

15. [15]

    Alexander Grothendieck. Pursuing stacks. Circulated manuscript, 1983. Revised transcription edited by Mateo Carmona with Ulrik Buchholtz, 2021.

16. [16]

    Jules Hedges. AI safety meets value chain integrity. Cybercat Institute, December 11, 2023. Research proposal.

17. [17]

    Martin Hofmann and Thomas Streicher. The groupoid interpretation of type theory. In Twenty-Five Years of Constructive Type Theory, Oxford Logic Guides 36, pages 83–111. Oxford University Press, 1998.

18. [18]

    Jiaoyang Huang and Horng-Tzer Yau. Dynamics of deep neural networks and neural tangent hierarchy. Proceedings of the 37th International Conference on Machine Learning, PMLR 119, pages 4542–4551, 2020.

19. [19]

    Arthur Jacot, Franck Gabriel, and Clément Hongler. Neural tangent kernel: Convergence and generalization in neural networks. Advances in Neural Information Processing Systems, volume 31, pages 8571–8580, 2018.

20. [20]

    Diederik P. Kingma and Jimmy Ba. Adam: A method for stochastic optimization. International Conference on Learning Representations, 2015.

21. [21]

    Ivan Kolář, Jan Slovák, and Peter W. Michor. Natural Operations in Differential Geometry. Springer, 1993.

22. [22]

    Saunders Mac Lane and Ieke Moerdijk. Sheaves in Geometry and Logic: A First Introduction to Topos Theory. Universitext. Springer, 1992. Corrected reprint 1994. Internal language: Chapter VI.

23. [23]

    Jaehoon Lee, Lechao Xiao, Samuel S. Schoenholz, Yasaman Bahri, Roman Novak, Jascha Sohl-Dickstein, and Jeffrey Pennington. Wide neural networks of any depth evolve as linear models under gradient descent. Advances in Neural Information Processing Systems, volume 32, 2019.

24. [24]

    Peter LeFanu Lumsdaine. Weak ω-categories from intensional type theory. Logical Methods in Computer Science, 6(3:24), 2010.

25. [25]

    Jacob Lurie. Higher Topos Theory. Annals of Mathematics Studies 170. Princeton University Press, 2009.

26. [26]

    Per Martin-Löf. Intuitionistic Type Theory. Bibliopolis, Naples, 1984. Notes by Giovanni Sambin.

27. [27]

    David Jaz Myers. Categorical systems theory. Book draft, last updated September 3, 2023.

28. [28]

    Juan C. Perdomo, Tijana Zrnic, Celestine Mendler-Dünner, and Moritz Hardt. Performative prediction. Proceedings of the 37th International Conference on Machine Learning, PMLR 119, pages 7599–7609, 2020.

29. [29]

    J. P. Pridham. Unifying derived deformation theories. Advances in Mathematics, 224(3):772–826, 2010.

30. [30]

    D. J. Saunders. The Geometry of Jet Bundles. Cambridge University Press, 1989.

31. [31]

    David I. Spivak. Functorial data migration. Information and Computation, 217:31–51, 2012.

32. [32]

    The Univalent Foundations Program. Homotopy Type Theory: Univalent Foundations of Mathematics. Institute for Advanced Study, 2013. See especially Chapters 2, 3, and 9.

33. [33]

    Benno van den Berg and Richard Garner. Types are weak ω-groupoids. Proceedings of the London Mathematical Society, 102(2):370–394, 2011.

34. [34]

    Vladimir Voevodsky. A very short note on homotopy λ-calculus. Unpublished note, 2006. Revised version dated 2009 in the author’s archive.

35. [35]

    Norbert Wiener. Cybernetics: Or Control and Communication in the Animal and the Machine. MIT Press, second edition, 1961. First edition 1948.

36. [36]

    Greg Yang. Tensor programs II: Neural tangent kernel for any architecture. Preprint, 2020.