层 (数学)

层用于拓扑，代数几何和微分几何，只要想跟踪给定的几何空间的随着每个开集变化的代数数据，就可以用层。他们是研究局部有变化（依赖于所选开集的）的对象的全局工具。这样，它们是研究有局部本质的实体的全局行为的自然工具，例如开集，解析函数，流形，等等。

作为一个典型的例子，考虑拓扑空间X,对于每个X中的开集U，令F(U)为所有连续函数U → R的集合。如果V是U的开子集，则U上的函数可以限制到V上，而我们得到映射F(U) → F(V)。"粘合"描述了下列过程：假设U_i是给定的开集其并为U，对于每个i我们给定一个元素f_i ∈ F（U_i），一个连续函数f_i : U_i → R。如果这些函数在重合的地方相等，则我们可以一种唯一的方式把他们粘起来得到一个连续函数f : U → R，它和所有给定的函数f_i一致。所有集合F(U)的类和限制映射F(U) → F(V)成为一个X上的集合的层。进一步的，每个F(U)是一个交换环，而限制映射是环同态，这使F成为X上的环的层。

作为很相似的例子，考虑一个微分流形X，对于X的每个开集U，令F(U)为所有可微函数U → R的集合。这里同样的有粘合，并且我们得到X上的环的层。另一个X上的层是，对于X的每个开集U给定所有定义在U上的可微向量场的向量空间。限制和粘合向量场和函数上的操作一样，然后我们得到流形X上的向量空间的层。

要定义层，我们分两步进行。第一步是引入预层的概念，它抓住了把局部信息和拓扑空间联系起来的思想。第二步是引入额外的公理，称为粘合公理，它抓住了把局部信息粘合起来得到全局信息的想法。

预层的定义

假设X为一个拓扑空间，而C是一个范畴（这经常是集合的范畴，交换群的范畴，交换环的范畴，或是一个固定的环上的模的范畴)。一个C中的对象在空间X上的预层（presheaf）由如下数据给出：

• 对于每个X中的开集，给定C中一个对象F（U）
• 对于每个开集之间的包含关系V ⊂ U，给定范畴C中的一个态射res_U,V : F(U) → F(V)。这称为限制态射。该限制态射满足以下两点性质：
  • 对于X中每个开集U，我们有res_U,U = id_F(U)，也即，从U到U的限制是F(U)上的恒等态射。
  • 给定任何三个开集W ⊂ V ⊂ U，我们有res_V,W ○ res_U,V = res_U,W,也即从U到V再到W的限制和从U直接到W的限制相同。

这个定义可以用范畴论的术语很自然的表达。首先我们定义X上的开集的范畴为范畴Top_X，其对象是X的开集而其态射为包含映射。Top_X就成了和X的开子集上的偏序⊂相关的范畴。一个X上的C预层就是从Top_X到C的反变函子。

若F是一个X上的C-值预层，而U是一个X的开子集，则F(U)称为F在U上的截面。（这是因为和纤维丛的截面相似；参看下面的内容）。若C是一个具体范畴，则F(U)的每个元素称为一个截面。F(U)也常记为Γ（U,F）。

粘合公理

高层次的讨论请参看主条目粘合公理

层是小开集上面的截面可以粘合成为大开集上的截面的预层。这里粘合公理会以一种要求C为一个具体范畴的形式给出。

令U为一个开集族{U_i}的并集。对于每个U_i，选定一个截面在U_i上的f_i。我们称f_i是相容的如果对于每个i和j,

res_Ui,Ui∩Uj(f_i) = res_Uj,Ui∩Uj(f_j).

直观的讲，如果f_i表示函数，这是在说任何两个相容的函数在它们重叠的地方一致。层公理说我们可以从f_i产生一个唯一的U上的截面f，其到每个U_i的限制为f_i,也即，res_U,Ui(f)=f_i。有时，这会分为两个公理，一个保证存在性，而另一个保证唯一性。

除了简介中给出的连续函数的层，可微函数的层和向量场的层之外，截面的层也是很重要的例子。假设E和X为拓扑空间而π : E → X是一个连续函数。对于X中的每个开集U，令F(U)为使得π(f(x)) = x对于所有U中的x成立的所有连续映射f : U → E的集合。这样的函数f称为π的截面。不难验证F是X上集合的层。实际上，每个X上集合的层基本上都是这个类型，对于某一个特殊的映射π来说;参看下面的内容。

给定一个X上的层F on X,F(X)的元素也称为全局截面，这是一个从上面的例子中来的术语。

进一步的例子：

• 任何纤维丛产生一个集合的层，通过取截面就可以得到。
• 赋环空间是有赋交换环层的空间；特别重要的有局部赋环空间，其中每个茎（参看下面）是局部环。
• 概形是特殊的局部赋环空间，在代数几何中很重要；模的层在相关理论中很重要。

令F和G为X上两个层，都在范畴C中取值。我们定义从G到F的态射为一族在范畴C内对于所有在X中的开U的态射φ_U : G(U) → F(U)，它们和限制映射可交换。也就是，下面的图必须可交换

对于X中的每一对开集U ⊆ V。若F和G视为从Top_X到C的反变函子，则它们之间的态射不过就是一个自然变换（natural transformation）。采用这个定义，所有X上的C-值层构成一个范畴（一个函子范畴）。X上的层的一个同构就是这个范畴里的一个同构。

可以把这个概念推广到不同空间上的层之间的态射。令f : X → Y为一个两个拓扑空间之间的连续函数，并令F为X上的层且G为Y上的层，二者都在C中取值。那么从G到F的相对于f的态射为一族态射φ_U : G(U) → F(f⁻¹(U))对于Y中每个开集U，使得图

对于Y中每一对开集U ⊆ V可交换。前面的定义是f是X上的恒等映射时的特殊情况。

在一般情况中范畴理论的表述稍微复杂一点。令Top为从拓扑空间范畴Top到小范畴范畴Cat的反变函子，它把每个拓扑空间X映到其开集的偏序集范畴Top_X。这里Top(f)是一个反变函子，从Top_Y到Top_X，把每个开集映到它的原象。把F和Top(f)复合，我们得到一个从Top_Y到C的反变函子。一个从G到F相对于f的态射就是从G到F ○ Top(f)的自然变换。

注意上面所有这些对于预层也成立。

固定X中一点x。我们要研究F在点x附近的行为。在分析术语中，我们要在越来越靠近点x时取某种极限。相应的概念是F(N)在N跑遍x的以包含关系排序的领域时的有向极限（direct limit，用范畴论术语，这是一个余极限（colimit）的例子）。我们把该极限记为F_x并称它为F在x的茎（stalk）。如果F是X上的C-值层，则茎F_x是C的一个对象，对于像交换群范畴或交换环范畴这样的范畴来说。

对于任意包含x的开集U，存在一个从F(U)到F_x的态射。如果C是一个具体范畴，则应用这个态射到F_x中的一个元素f上就得到F_x的一个元素，称为f在x的芽（germ）。

这和在数学的其他地方所用的函数的芽的概念对应。直观的讲，函数f在x的芽决定了f在x的局部行为；它是f的一种幽灵，只在离x很近的地方可以看。参看局部环中给出的详细例子。

对于某些层，芽的行为很好，可以给出好的局部信息；解析函数在一点附近的芽通过它的幂级数扩张决定了函数在一个小领域的取值。但是，有些层行为不好；光滑函数的芽在任意一点都不决定任何一个该点的小领域的函数值。作为一个例子，取任何隆起函数。它在它为1的区间是常数函数的局部行为，但是知道隆起函数在一点附近是常数1并不告诉你函数在哪里开始衰减；从它局部的行为，你甚至不能肯定它是一个隆起函数!

层论发展的早期，就证明了给定层X上的F和给定一个特定拓扑空间E以及一个从E到X的连续函数一样。更精确的讲：对于一个X上的集合层F，存在一个局域同胚

π: E → X

使得F和上节例子中所述的π的截面层同构。

进一步的有，空间E是确定的，最多差一个F的同胚。这是F的茎空间：每个茎给了离散拓扑，并且我们取所有茎的不交并，而π把所有的茎F_x映射到x。这个茎的空间的拓扑可以取为这样一个拓扑，它使得层F可以从π截面的层中重建出来。

在高一级的抽象中，我们可以说X上的集合的层的范畴是等价于到X的局部同胚的范畴的。（也可以从可表示函子的理论的角度来考虑这样一个空间；历史表明这个理论也在1950年代中期发展出来）。

在Godement的深具影响的关于同调代数和层论的书中（Topologie Algebrique et Theorie des Faisceaux, R. Godement），空间E被称为espace étalé(平展空间);在那本书中，层事实上定义为从局部同胚的截面得到；上面给出的函子方式的定义后来才出现，但现在更为普遍。

上面的考虑对于X上的C层也成立：我们还是从茎的空间出发，每个茎是C中的一个对象，而截面自然也成为C中的对象。

给定任意连续映射g : Z → X,相应的截面的层给了上述方式的茎的空间E和一个局部同胚π : E → X。在某种意义上，这是处理映射g的所有'分支'，并且是以'尽可能最好的方式'。这可以用共轭函子表示；但是从某种意义上讲层的更广泛的概念远离了几何直觉。

可以定义一个交换群的层的上同调理论（层上同调），它可以给出很多有用的更具体的信息。主要的问题是长正合序列的存在性来自于层的一个正合序列。在应用中，重点曾被放在比有限复空间更不行为良好的空间的层上。例如，代数几何中有Zariski拓扑的空间很少满足豪斯多夫性质。

代数几何的情况最早是Jean-Pierre Serre（塞尔）通过发展Cech上同调的相似物来处理的；这样做可以，但是一般来讲这种构造没有好的性质。然后格罗滕迪克（Alexander Grothendieck）使用全局截面函子的导函子，给出了更好的解决方案。

格罗滕迪克想要发展层的一个上同调理论，以得到更强的结果，并且，特别的有，能够允许Weil猜想的证明。通过精确的分析定义层所需的X的性质，他在一个范畴上定义了格罗滕迪克拓扑的概念（这有些兜圈子—参看拓扑斯理论的背景和创立（background and genesis of topos theory））。

有格罗滕迪克拓扑的一个范畴称为一个site（站）。可以在任意站上定义层的概念。站的概念后来导致Lawvere发展出基本拓扑斯的概念。

层论最初的起源很难确认—它们可能和解析延拓的思想共存。可以识别的独立的层论才从上同调的基础工作中出现大约花了15年的时间。

• 1936年Eduard Čech引入神经（Nerve）构造，以将一个简单复形关联到一个开覆盖。
• 1938年Hassler Whitney给出上同调的一个'现代'定义，归纳了自J. W. Alexander和Kolmogorov首次定义余链（cochain）以来的工作。
• 1943年诺曼·斯廷罗德发表了关于带局部系数的同调类的工作。
• 1945年Jean Leray发表了作为POW进行的工作，由应用到偏微分方程理论的不动点定理的证明作为其动机；它是层论和谱序列的开始。
• 1947年昂利·嘉当在和安德烈·韦伊的通信中用层的方法重新证明了德拉姆定理。Leray在他的课程中通过闭集（后来的壳（carapaces）)给了一个层的定义。
• 1948年卡当研讨班首次写下层论
• 1950年卡当研讨班的层论'第二版':使用了层空间（éspace étalé，平展空间）的定义，采用茎方面的结构。支集和有支集的上同调被引入。连续映射导致了谱序列。同时Kiyoshi Oka在多复变量中引入和理想的层相似的思想。
• 1951年嘉当研讨班基于Oka的工作证明了定理A和B]。
• 1953年一致层的有限性定理在解析理论中由卡当和塞尔证明，塞尔对偶性也得到了证明。
• 1954年塞尔的论文Faisceaux algébriques cohérents（发表于1955年）把层引入代数几何。这些思想很快为Hirzebruch所采用，他在1956年写了一本拓扑方法的重要著作。
• 1955年格罗滕迪克在堪萨斯的讲演中定义了可交换范畴和预层，然后使用单射解决（injective resolution）使得层上同调可以在所有拓扑空间作为导函子直接使用。
• 1956年扎里斯基（Oscar Zariski）的报告代数层论，第二个夏季学院的科学报告：多复变量[1954年, Boulder (Col.)],第三部，美国数学学会公告, t. 62, 1956年, 117-141页.
• 1957年格罗滕迪克的Tohoku论文重写了同调代数；他证明了格罗滕迪克对偶性（也即，对于可能有奇点的代数簇的塞尔对偶性）。
• 1958年Godement关于层论的著作出版。大约同一时间Mikio Sato建议了他的超函数，它具有层论的本质。
• 1957年以后：格罗滕迪克按照代数几何的需要扩展了层论，引入：概形和其上的一般层，局部上同调，导范畴（derived category，与Verdier的共同工作)，以及格罗滕迪克拓扑。也出现了他极有影响的同调代数的'六操作'的概形思想。

至此，层成为数学的一个主流部分，其应用根本不局限于代数拓扑。后来层范畴的逻辑被发现是直觉逻辑（该发现现在经常被称为Kripke-Joyal语义，但可能应该归功于一系列作者）。这表明层论的某些方面甚至可以追述到莱布尼兹。

• Gerbe
• 堆 (范畴论)

• Topologie algébrique et théorie des faisceaux, Roger Godement
• The Theory of Sheaves (University of Chicago Press,1964) R. G. Swan（concise lecture notes）
• Sheaf Theory (London Math. Soc.Lecture Note Series 20, Cambridge University Press, 1975) B. R. Tennison（pedagogic treatment）
• Sheaf Theory, 2nd Edition (1997) Glen E. Bredon（oriented towards conventional topological applications）
• Sheaves in Geometry and Logic (Springer-Verlag, 1992) S. Mac Lane and I. Moerdijk（category theory and toposes emphasised）
• Topological methods in algebraic geometry (Springer-Verlag, Berlin, 1995) F. Hirzebruch（updated edition of a classic using enough sheaf theory to show its power）
• Sheaves on Manifolds (1990) M. Kashiwara and P. Schapira (advanced techniques such as the derived category and vanishing cycles on the most reasonable spaces)