SAN 阅读笔记
精校翻译 Ch.1 引言

第 1 章精校翻译:引言

第 1 章 引言

网络(network)是彼此相互作用的对象所构成的集合。网络出现在众多科学学科中:统计物理中的原子或相互作用粒子、分子生物学中的蛋白质相互作用、社会学中的社交网络、计算机科学中的互联网 web 图,不一而足。相互作用存在多种类型。二值相互作用是最简单的(Alice 今天与 Bob 互动了吗?),而加权相互作用(Alice 与 Bob 今天的互动次数)或时序相互作用(Alice 与 Bob 在什么确切时刻互动?)则提供了额外的宝贵信息。

具有二值相互作用的网络可以方便地用图(graph)表示。图 $G$ 是一个二元组 $(V, E)$,其中 $V$ 是对象的集合(也称为节点(node)或顶点(vertex)),$E$ 是相互作用的节点对的集合(也称为边(edge)或连接(link))。通过考虑加权边或边的时间序列,这一标准图表示可以推广到加权网络(weighted network)或时序网络(temporal network)。在本引言节的第一和第二部分中,我们将给出若干真实世界网络的实例,并描述它们的共同性质。

1.1 网络实例(Examples of Networks)

让我们给出若干真实世界网络的实例。尽管为了叙述清晰,我们按类型对网络进行分类,但这种分类是主观的,一个网络可以同时属于两个或更多类型。

社交网络(Social networks)

社交网络最早的实例之一是 Zachary 空手道俱乐部,它表示一个空手道俱乐部 74 名成员之间的友谊关系(见图 1.1)。在为期两年的研究(Zachary, 1977)中,俱乐部成员在总教练与俱乐部主席发生争执后分裂为两个群体。这场争执使得该数据集在网络科学界极受欢迎。我们希望回答这个引人入胜的问题:仅凭友谊图,能否预测最终形成的两个群体?这为社区检测(community detection)问题奠定了基础,我们将在第 4 章详细讨论。

Zachary 空手道俱乐部友谊网络:节点为俱乐部成员,边为友谊关系,按分裂后的两个群体着色
图 1.1 空手道俱乐部。

关于现实生活社会关系(熟人、互动)的社交网络数据出了名地难以收集。事实上,问卷是纸质的且分析耗时,使得从大量个体处收集数据十分困难。此外,它们容易出现人为错误和主观解读。幸运的是,在线社交网络的数据集实例要容易收集得多。

因此,大多数大型社交网络数据集的实例来自在线社交网络或网络博客,也就不足为奇了。

一个这样的实例是 LiveJournal 数据集。LiveJournal 是一个在线博客社区,用户可以在其中互相加为好友。用户还可以自由创建其他用户能够加入的群组。这些群组可以视为真值社区(ground-truth communities)。图 1.2 展示了限制在两个最大社区上的 LiveJournal 友谊网络。

LiveJournal 友谊网络限制在两个最大社区上的可视化,两个社区的节点以不同颜色区分
图 1.2 LiveJournal 网络中最大的两个社区。

Adamic 和 Glance(2005)研究了 2004 年美国总统大选期间政治博主的链接模式。他们共考察了 1494 个博客,其中 759 个为自由派、735 个为保守派,并通过识别一个博客是否引用另一个博客来构建相互作用。如图 1.3 所示,自由派与保守派博客圈之间的差异十分明显。事实上,90% 的相互作用发生在属于同一政治社区的博客之间。

政治博客网络:1494 个博客按自由派与保守派分为两簇,链接多发生在同一政治阵营内部
图 1.3 政治博客(Political Blogs)网络。

其他著名的在线社交网络还有 Twitter、Facebook 和 LinkedIn。

面对面互动网络(Face-to-face interaction networks)

高中数据集记录了法国一所高中学生之间的近距离接触事件。学生之间的互动通过可穿戴传感器每 20 秒记录一次,实验跨越数个工作日。同一实验在连续三年中进行(Fournet and Barrat, 2014;Mastrandrea et al., 2015),各数据集的维度见表 1.1。我们还在图 1.4 中画出了 2013 年的加权图,其中权重对应两名学生之间记录到的互动次数。最后,由于每名学生都属于一个班级,如何基于时序相互作用恢复班级的问题随之产生。我们将在第 6 章更详细地研究这个数据集。

三个高中生互动数据集的维度表:2011 年 n=118、K=3、T=5609;2012 年 n=180、K=5、T=11273;2013 年 n=327、K=9、T=7375
表 1.1 三个高中生互动数据集的维度:学生数 $n$、班级数 $K$ 与快照数 $T$。
2013 年高中互动网络的时间聚合加权图,节点按班级着色,边权为互动次数
图 1.4 由高中互动网络(2013 年)得到的时间聚合网络。

我们注意到,时间聚合可能导致重要信息的丢失,而这些信息本可以从数据集的时序性质中推断出来。例如,

单日过程中每名学生平均互动次数随时间变化的曲线,阴影区域对应课间休息,峰值出现在休息开始与结束时刻
图 1.5 单日过程中的平均度(每名学生的平均互动次数)。阴影区域对应课间休息。

图 1.5 按快照展示了某一天内每名学生的平均互动次数。观察到的峰值对应课间休息的开始与结束时刻,因为学生们在这些时刻离开和进入教室。

通信网络(Communication networks)

通信网络构成一个重要类别,包括各种交通网络(公路、航线图等)以及个体之间的电话与消息通信。

Enron 电子邮件数据集1包含 Enron 公司(现已破产)约 150 名员工(大部分来自高级管理团队)的约 500,000 封电子邮件。这些邮件由联邦能源监管委员会在欺诈调查期间恢复。该数据集已被公开,并被许多研究者用于各种信息处理任务,如文档分类或社交网络分析(Carley and Skillicorn, 2005)。

哥本哈根网络研究数据集(Sapiezynski et al., 2019)记录了 700 名大学生在 4 周内的互动,包括近距离接触互动、电话通话和 Facebook 好友关系。

信息与协作网络(Information and collaboration networks)

合著网络的构建方式是:若两名作者共同发表过一篇论文,则将他们相连。由于自动化的引文索引如今已很普遍,大规模的合著网络数据集现已可得。实例包括 DBLP(Yang and Leskovec, 2015)、Citeseer、Cora、WebKB(Getoor, 2005)和 PubMed(Namata et al., 2012)数据集。这一做法可以推广到其他领域。例如,利用 IMDB 数据可以构建一个电影演员网络,若两名演员共同出演过一部电影,则将他们相连。

Web 图是信息网络的另一个实例。其构建方式是:若网页 A 引用了网页 B,则从网页 A 向网页 B 连一条(通常是有向的)链接。若干 Web 图与 Wikipedia 网络可从 NetSet 数据库2和网络算法实验室(Laboratory for Web Algorithmics,LAW)3获得。

生物网络(Biological networks)

生物网络这一类别包括蛋白质相互作用网络、食物网和动物社交网络。

让我们给出一个动物社交网络的实例。海豚网络(Lusseau et al., 2003)是由 62 只海豚构成的社交网络,边表示社会互动。在研究期间,一只海豚离开了群体,导致网络分裂为两个社区(见图 1.6)。后来,当这只神秘的海豚回家时,群体重新团聚了。

海豚网络:62 只海豚的社会互动网络,颜色显示一只海豚离开群体后网络分裂为两个社区的方式
图 1.6 海豚网络(Lusseau et al., 2003)。颜色显示当一只海豚离开群体时网络如何分裂。

几何定义的网络拓扑(Geometrically defined network topologies)

在机器学习任务中,数据常以矩阵形式给出

$$ X = ( x _ { 1 } , \ldots , x _ { n } ) \in \mathbb { R } ^ { m \times n } , $$

其中 $n$ 是数据点的个数,$m$ 是每个数据点的维数(即特征的个数)。为了借助网络进行数据分析,图的拓扑结构和权重必须从数据中构建。定义连接顶点 $i$ 与 $j$ 的边权重的一种常用方法是使用带阈值的高斯核

$$ w _ { i j } = \left\{ \begin{array} { l l } { \exp \left( - \dfrac { \| x _ { i } - x _ { j } \| ^ { 2 } } { \tau ^ { 2 } } \right) , } & { \text{若 } \| x _ { i } - x _ { j } \| ^ { 2 } \leq \kappa , } \\ { 0 , } & { \text{其他} , } \end{array} \right. $$

其中 $\tau$ 和 $\kappa$ 是可调参数,$\| \cdot \|$ 是数据点之间的距离。特别地,截断参数 $\kappa$ 可以避免网络过于稠密、带有大量小权重边。另一种常用方法是将每个顶点与其 $K$ 个最近邻相连。关于数据相似性网络构建的其他方法的描述,我们参考 (Grady and Polimeni, 2010, Chapter 4) 与 (Stankovic et al., 2020)。

MNIST 数据库(LeCun et al., 1998)是一个包含 70,000 个手写数字的数据库,常用作机器学习中的基准。图 1.7 展示了用数字 0、1、2 的 300 张图片、以高斯核作为权重函数构建的网络。更准确地说,我们首先计算一个 $K$ 近邻图($K = 8$),其权重为

$$ w _ { i j } \ = \ \left\{ \begin{array} { l l } { \exp \left( - \dfrac { 4 \| x _ { i } - x _ { j } \| ^ { 2 } } { \tau _ { i } } \right) , } & { \text{若 } x _ { j } \text{ 是 } x _ { i } \text{ 的 } K \text{ 个最近邻之一} , } \\ { 0 , } & { \text{其他} , } \end{array} \right. $$

其中 $\tau _ { i }$ 表示 $x _ { i }$ 与其第 $K$ 个最近邻之间的距离。最后,通过将 $W$ 替换为 $\frac{1}{2} ( W + W ^ { T } )$ 对权重矩阵进行对称化。

由 MNIST 数字 0、1、2 的 300 张图片经 K 近邻图与高斯核权重构建的网络,节点按数字类别着色
图 1.7 由取自 MNIST 数据库的数字 0、1、2 的 300 张图片构建的网络。

1.2 复杂网络的共同性质(Unifying Properties of Complex Networks)

1.2.1 网络普遍共有的性质有哪些?(What are the Properties Commonly Shared by Networks?)

许多真实世界的复杂网络共有若干基本性质。

稀疏性(Sparsity)

节点 $i$ 的度(degree)记为 $d _ { i }$,是与该节点关联的边数,换句话说,是与节点 $i$ 相互作用的节点数。即使网络中的节点数 $n$ 可以很大,平均度 $\bar { d } = \frac { 1 } { n } \sum _ { i = 1 } ^ { n } d _ { i }$ 往往也很小。例如,从表 1.2 中可见,DBLP 合著网络有 13,326 个节点,而平均度 $\bar { d }$ 仅为 5.1。这一效应在 Facebook 等社交网络中更加明显:即使总用户数巨大且仍在增长,每个用户的好友数仍然很小(甚至可能是有界的)。如果平均度 $\bar { d }$ 比节点数 $n$ 低若干个数量级,我们称该网络是稀疏(sparse)的。

连通性(Connectivity)

二值无向图 $G = ( V , E )$ 的一个连通分量(connected component)是节点集 $U$,使得对任意两个节点 $i , j \in U$,都存在一条连接 $i$ 与 $j$ 的路径。由于两个连通分量必然不相交,节点集 $V$ 因此可以划分为有限个互不重叠的连通分量 $U _ { 1 } , \dots , U _ { p }$。若 $p = 1$,我们称图是连通的,否则称其为不连通的。尽管真实世界的网络可能不连通,但最大连通分量的相对规模通常非常大(例如包含约 90% 的节点),而其余分量则小得多(Newman, 2001a)。

小世界(Small world)

在一项著名的实验中,Milgram 要求参与者把一个文件夹(内含若干与本研究相关的文件)寄给自己的一位熟人,以期最终送达指定的目标人物(Milgram, 1967)。尽管在大多数情况下参与者未能成功(或因能力不足,或因缺乏意愿),但约有 20% 的参与者成功将文件送达了指定目标。4 此外,起点与目标之间的中间人平均数目为 5.2。尽管 Milgram 的实验后来受到了批评(Kleinfeld, 2002),它们仍以“六度分隔”(six degrees of separation)现象之名融入了大众文化。[校勘]事实上,这一现象此后已在许多网络中被经验地观察到(见 Watts, 2000;Newman, 2001b 及表 1.2)。

七个真实网络的基本特征表:节点数、边数、平均度、平均距离、聚类系数(含随机图基线对照)与度分布指数
表 1.2 若干所选网络的基本特征。各量为:节点数 $n$、边数 $| E |$、平均度(邻居节点的平均数目)$\bar { d }$、两节点间的平均距离 $\delta$、聚类系数 $\mathrm{cc}$(括号内为若图的边被随机抽取时的聚类系数)、度分布的指数 $\alpha$。

关系传递性与三元闭包(原文 Edge transitivity)

有句流行的俗语告诉我们:“朋友的朋友也是朋友”。因此,人们会期望网络中的相互作用具有关系传递性(transitivity),也就是三元闭包倾向。这意味着,如果 Alice 与 Bob 相互作用,且 Bob 与 Cecile 相互作用,那么 Alice 与 Cecile 也很可能相互作用。聚类系数(clustering coefficient)度量的正是这一现象。这里原文的 “Edge transitivity” 指社会网络中的关系传递与三元闭包,不是图论中“边传递图”的对称性概念。我们定义连通三元组(connected triple)为三个节点的集合,其中一个节点与另外两个节点相连;我们也定义三角形(triangle)为三个两两相连的节点的集合。由于每个三节点三角形贡献三个连通三元组(分别以三个节点中的每一个为中心),聚类系数 $\mathrm{cc}$ 由下式给出

$$ \mathrm { \; cc \; = \; { \frac { 3 \times \ 三角形数 } { \ 节点的连通三元组数 } } . } $$

考虑一个节点间相互作用纯随机的图(即两个节点之间以概率 $p$ 发生相互作用)。由于规模为三的节点集合共有 $\binom { n } { 3 }$ 个,三角形的期望数目即为 $\binom { n } { 3 } p ^ { 3 }$,而连通三元组的期望数目为 $\binom { n } { 3 } p ^ { 2 }$。因此,随机图的聚类系数等于 $3 p$。最后,由于共有 $\binom { n } { 2 }$ 个节点对,每个节点对以概率 $p$ 相互作用,$p$ 可以用比值 $| E | / \binom { n } { 2 }$ 来估计。因此,随机图的聚类系数可以用 $\frac { 6 | E | } { n ( n - 1 ) }$ 来估计。从表 1.2 中我们观察到,真实世界社交网络的聚类系数比同等规模随机图的聚类系数高出若干个数量级。

Tips:这段推导给出了随机图基线估计 $\mathrm{cc} \approx 6|E|/(n(n-1))$,正是表 1.2 括号中的数值;“与随机图比较”的思路在第 4 章模块度(modularity)概念中还会再次出现。

重尾度分布(Heavy-tailed degree distribution)

记 $p _ { k }$ 为均匀随机抽取的一个节点具有度 $k$ 的概率,并称 $\{ p _ { k } : k = 0 , 1 , 2 , \ldots \}$ 为度分布(degree distribution)。在一个随机网络中——即从 $\binom { n } { 2 }$ 个节点对中均匀随机地抽取 $| E |$ 条边——度分布是参数为 $n , p$ 的二项分布,其中 $\hat { p } = | E | / \binom { n } { 2 }$ 是连边概率的估计。然而,在大多数网络中,度分布高度右偏,换句话说,在远高于均值的取值处具有重尾(heavy tail)分布。这凸显了以下事实:少数节点具有非常大的度(例如社交网络中的“网红”),而绝大多数节点的度非常小。因此,用幂律(power law)为真实网络的度分布建模一般更为准确。

若随机变量 $X \in [ x _ { \mathrm { m i n } } , + \infty )$ 取自一个密度为 $f ( x ) = C x ^ { - \alpha }$ 的概率分布,则称它服从指数为 $\alpha$ 的连续幂律。虽然为使概率分布良定义需要 $\alpha > 1$(此时由正则化可得 $C = ( \alpha - 1 ) x _ { \mathrm { m i n } } ^ { \alpha - 1 }$),$\alpha$ 的典型取值常落在 $2 < \alpha < 3$ 的范围内。幂律的一条重要性质是标度自由(scale-free,或称标度不变),即对任意常数 $c$ 都有 $f ( c x ) \propto f ( x )$。由于度取整数值,我们将考虑幂律的离散变体,即 Zipf 分布(Zipfian distribution):$\mathbb { P } ( X = k ) = C k ^ { - \alpha } \, \mathbf { 1 } ( k \geq x _ { \mathrm { m i n } } )$,其中 $C = \left( \sum _ { k = 0 } ^ { \infty } \left( k + x _ { \mathrm { m i n } } \right) ^ { - \alpha } \right) ^ { - 1 }$。

由于分布尾部会出现大幅涨落,拟合幂律是复杂的(Newman, 2005b;Clauset et al., 2009);但方便的是注意到:当 $k \geq x _ { \mathrm { m i n } }$ 时 $\log \mathbb { P } ( X = k ) = - \alpha \log k + \log c$,因此在 log-log 尺度下概率分布是一条直线。为减弱上述尾部涨落的影响,拟合时最好使用互补累积分布函数(CCDF)而非密度函数。Hill 估计量也能准确估计幂律的指数,详见例如 (Clauset et al., 2009)。图 1.8 展示了 Citeseer 网络的幂律。

尽管幂律范式已被广泛接受、有时被称为一条“普适定律”,它也受到了激烈的批评。特别地,在相当常见的条件下,对 log-log 图做线性回归会产生显著的系统误差(见 Clauset et al., 2009, Appendix A)。此外,Lima-Mendez 和 van Helden(2009)表明,对生物网络而言,幂律度分布只是一个神话。类似地,Broido 和 Clauset(2019)通过对 1000 多个网络应用拟合优度检验,表明具有幂律度分布的网络实际上很少见。尽管如此,绝大多数真实世界的网络都具有重尾度分布。

Citeseer 网络节点度分布直方图:高度右偏,绝大多数节点度很小,少数节点度很大
(a) 节点度直方图
Citeseer 网络度分布的 log-log 图,数据点近似落在一条直线上,并带有线性回归拟合线
(b) 带线性回归拟合的 log-log 图
图 1.8 Citeseer 网络的度分布。

1.2.2 这些性质如何产生?(How do these Properties Arise?)

为了解释上述性质如何在网络中产生,我们引入若干具有随机节点相互作用的随机图模型。这些随机图模型将在第 2 章详细研究。它们也将作为研究与网络相关的统计问题时的参照。

Erdős–Rényi 随机图(Erdős–Rényi random graphs)

最简单的随机图模型是 Erdős–Rényi 模型。该模型有 $n$ 个节点,每对节点以概率 $p$ 相连。

这是一个简单的模型,特别是因为它假设不同节点对之间的相互作用相互独立。因此,该模型不能产生上述关系传递性或三元闭包效应。此外,Erdős–Rényi 随机图的度分布是二项分布 $\mathrm { Bin } ( n , p )$,5 它不是重尾的。

尽管如此,Erdős–Rényi 模型仍能以优美的方式阐释连通性与稀疏性。事实上,由于度分布是二项分布,可知节点的平均度 $\bar { d }$ 等于 $n p$。若 $p$ 为常数,则意味着 $\bar { d }$ 随节点数 $n$ 一同增长,因此在这一标度情形(scaling regime)下图不是稀疏的。于是常见的做法是让 $p$ 随 $n$ 变化,使得 $p = p _ { n } \ll 1$。例如,取 $p = \frac { a } { n }$($a$ 为常数),则 $\bar { d } = a$,平均度在 $n$ 增大时保持不变。我们将在第 2 章看到,另一个有趣的选择是 $p _ { n } = a \frac { \log n } { n }$,此时平均度 $\bar { d } = a \log n$ 随 $n$ 对数增长。图 1.9 展示了 Erdős–Rényi 图的两个例子。我们观察到,当 (a) 中 $p _ { n } = \frac { 2 } { n }$ 时,图是不连通的,即有相当数量的节点汇聚在一个连通分量中,而一些节点仍然孤立。相反,当 (b) 中 $p _ { n } = \frac { 2 \log n } { n }$ 时,图看起来是连通的。我们将在第 2 章看到,严格的命题如何证实这些观察。

Tips:$p_n = a/n$ 与 $p_n = a\log n / n$ 这两种标度的对比,预告了第 2 章关于 Erdős–Rényi 图连通性阈值的严格定理(Theorem 2.1/2.2)。
n=100 的 Erdős–Rényi 图两例:(a) p_n=2/n 时图不连通、有孤立节点;(b) p_n=2 log n / n 时图连通
图 1.9 $n = 100$ 且连边概率 $p _ { n }$ 取不同值的 Erdős–Rényi 图。

随机几何图(Random geometric graphs)

可以通过引入几何来为这种关系传递性和三元闭包建模。让我们考虑 $n$ 个节点,并假设每个节点在欧氏平面上有一个随机位置。直观上,彼此靠近的节点比相距较远的节点有更多的机会相连。一种极端的选择是假设两个节点相连当且仅当它们的欧氏距离小于阈值 $r$。这给出了随机几何图(Random Geometric Graph,RGG)模型。从图 1.10 中我们观察到,该模型产生的图(与 Erdős–Rényi 图相比)含有大量三角形。此外,这些图在局部显得稠密,同时在整体上仍相当稀疏。

随机几何图示例:节点随机分布在单位正方形中,欧氏距离小于 0.1 的节点相连,取不同的 n,图中出现大量三角形和局部稠密结构
图 1.10 $\mathcal { S } = [ 0 , 1 ] ^ { 2 }$ 且 $r = 0 . 1$ 时 RGG 的示例,取不同的 $n$。

优先连接模型(Preferential attachment models)

Erdős–Rényi 模型解释了稀疏性与连通性,几何图解释了传递性,但这些模型都不呈现幂律度分布。为了对具有标度自由度分布的网络建模,Solla Price(1965,1976,分析引文网络)以及 Barabási 和 Albert(1999,分析 web 图)提出了优先连接(preferential attachment)模型。它是一个增长式网络模型,每个时间步都有一个新节点进入网络。新节点与已有节点 $i$ 相互作用的概率正比于节点 $i$ 的度 $d _ { i }$。因此,度大的节点倾向于吸引新边,从而进一步增大自己的度。我们在图 1.11 中画出了由优先连接模型生成的一个图的例子及其度分布。我们将在第 2 章给出该模型的严格定义,并证明该模型在极限下确实具有幂律度分布。

左:500 个节点的优先连接模型的一次实现,少数高度节点成为枢纽;右:10^4 节点优先连接图度分布的 log-log 图与橙色线性回归拟合线
图 1.11 左:$n = 500$ 个节点的优先连接模型的一次实现。右:$n = 10 ^ { 4 }$ 个节点的优先连接图在 log-log 尺度下的度分布。橙色曲线表示线性回归拟合。

1.3 与网络相关的统计问题有哪些?(What Are the Statistical Problems Related to Networks?)

1.3.1 如何对网络节点聚类?(How to Cluster Network Nodes?)

社区检测(community detection,又称社区恢复(community recovery)或图聚类(graph clustering))是网络分析中一个非常常见的问题。它要把节点划分为 $K$ 个社区(community,又称组、块或簇),使得同一社区内部的节点具有某些相似的性质。直观上,我们应假设同一社区中的节点比属于不同社区的节点更可能相互作用。6

同样直观地说,一个好的划分应当最小化不同簇之间的相互作用数目。因此,第一类图聚类方法——称为基于割的方法(cut-based methods)——旨在找到 $K$ 个簇,使得不同簇之间的相互作用数目最小。由此产生了若干谱方法(spectral methods),它们利用一个恰当选取的矩阵的特征向量中所含的信息来恢复社区。这把图论与线性代数优美地联系了起来。

另一些聚类方法通过某些准则评估给定划分的质量,并以优化这些准则为目标。这类方法的一个例子基于模块度(modularity)概念。本质上,模块度把一个带有簇的图与某个参照随机图模型进行比较。模块度的最大化通常通过贪心算法完成。这类方法的一个优点是不需要预先知道簇的个数。

不幸的是,我们将看到基于模块度的方法容易过拟合。特别地,我们将证明,在没有社区结构的随机图(如 Erdős–Rényi 随机图)上,也能找到具有高模块度的划分!我们将看到如何用贝叶斯方法来缓解这一问题。这类方法假设图数据由一个带有聚类结构的随机图模型生成,并通过马尔可夫链蒙特卡罗(Markov Chain Monte Carlo)算法寻找最优参数。

1.3.2 网络中哪些节点最重要?(Which Nodes are Most Important in a Network?)

在大型网络中,许多应用都要求按重要性对节点进行排序。实例包括:识别社交网络中最有影响力的节点、研究疾病的超级传播者,以及分析城市或技术网络(如电网)中的瓶颈节点(bottlenecks)。尽管这些问题都与寻找最重要、最关键的节点有关,但“重要性”这一概念的含义差异很大。事实上,社交网络中最有影响力的节点可能就是度最大的节点。例如,当在 Twitter 或 Instagram 上创建账号时,这些在线社交网络会建议新用户关注热门用户。相反,电网中的这类瓶颈位于度较小的节点上;若这些节点不存在,网络流就会发生很大变化。最后,还有一些应用(如 PageRank)基于网络节点上的随机游走来对节点排序,以模拟浏览或搜索行为。

1.3.3 如何推断网络中的重要信息?(How to Infer Important Information in a Network?)

分析一个非常大的网络,借助汇总统计量(summary statistics)往往更容易完成。一些例子是:估计社交网络用户的平均年龄、找出人群中吸毒者的比例、选举前的民意调查,等等。第一种可能是均匀抽取 $k$ 个节点,并对这一样本取平均。不幸的是,实践中往往难以均匀地抽样(sampling)节点。典型地,在 Facebook 或 Twitter 这样的巨型社交网络中无法高效地进行均匀抽样,因为 (a) 这些平台上所有账号的列表并不公开;(b) API 访问速率有严格限制。例如,一个普通 Twitter 账号每分钟最多只能发出一次请求。按这个速率,我们需要约 950 年才能爬完整个 Twitter 社交网络……

此外,抽样过程中的一个小偏差就可能导致估计量中非常大的偏差,许多涉及选举前民意调查的著名例子都可以作证。需要特别注意的是,节点抽样中的偏差无法通过简单地抽取更多节点来消除。一个臭名昭著的例子涉及《文学文摘》(The Literary Digest):该刊在 1936 年调查了超过两百万人,却错误地预测 Landon 将明显战胜 Roosevelt。其抽样方式造成了偏差,因为这家报纸只调查了自己的读者,而这些读者比普通公民更富有。7

本书结构(Book Organisation)

本书的组织结构如下。我们首先在第 2 章介绍各种随机图模型。第 3 章聚焦于网络中的中心性(centrality)指标。社区检测问题在第 4 章提出并加以分析,第 5 章讨论网络上的半监督学习(semi-supervised learning),即已知部分关于社区结构信息的情形。第 6 章将社区检测问题推广到时序网络。最后,第 7 章介绍网络中的抽样与问卷调查技术。

本书的文献定位(Book Bibliographic Position)

让我们讨论本书相对于其他参考著作的定位。随机图模型在 Bollobás, 2001;Chung and Lu, 2006;Janson et al., 2011;Hofstad, 2016 中得到了透彻的分析。图形成过程(如优先连接过程)与图上的动力学(如流行病过程)在 Durrett, 2007;Draief and Massoulié, 2010;Barabási, 2016;Newman, 2018;Masuda and Lambiotte, 2021 中研究。随机图与复杂网络模型在社交网络中的具体应用在 Wasserman and Faust, 1994;Doreian et al., 2005;Carrington et al., 2005;Scott and Carrington, 2011;Prell, 2012;Yang et al., 2016;Borgatti et al., 2018;Knoke and Yang, 2019 中讨论。

随机图与复杂网络的拟合与可视化见 Ellson et al., 2004;Hagberg et al., 2008;Bastian et al., 2009;Kolaczyk et al., 2009;Goldenberg et al., 2010;Cherven, 2015;Mrvar and Batagelj, 2016;De Nooy et al., 2018;Kolaczyk and Csárdi, 2020。本书不详细覆盖上述主题。

本书的重点是复杂网络分析(亦称网络科学)的基础统计层面。图聚类与社区检测——特别是随机分块模型(stochastic block models)的聚类——在 Newman, 2018;Abbe, 2018 中研究。这仍是一个发展非常迅速的研究领域,许多有趣的新结果不断涌现。本书总结了社区检测问题的主要结果,综述了 2018 年以来的重要进展,并研究了时序网络中的聚类。半监督学习见 Chapelle et al., 2006。本书聚焦于基于图的半监督学习方法及其在时序网络中的应用。

据我们所知,目前尚没有关于网络中心性指标详细分析的教科书(尤其是关于它们的比较分析,以及它们在社交网络范围之外的各种应用)。与社区检测问题的情况一样,重要的新结果仍在不断涌现。我们尝试对这一领域做一个最前沿的综述。此外,我们也没有见过任何关于网络抽样现代方法的教科书。

因此,我们希望本书是对网络统计分析的第一部综合性教科书式论述。

资助(Funding)

本书的写作得到了 Inria–Nokia Bell Labs 项目“Distributed Learning and Control for Network Analysis”(面向网络分析的分布式学习与控制)和欧盟 COST 行动“European Cooperation for Statistics of Network Data Science”(网络数据科学统计欧洲合作)的部分资助。

学习笔记 Ch.1 引言

第 1 章学习笔记:引言

配套译文:../translations/01-introduction.md(已落盘;正文、笔记与术语表锚点已对账)。 本章特点:无编号定理/定义环境、无编号公式、无习题、无 Further Notes。全章是"现象 → 模型直觉 → 统计问题"的导览,章尾三节(Book Organisation / Book Bibliographic Position / Funding)属于正文。因此本笔记以"关键概念卡片"替代定理卡片、以"关键推导补全"替代完整证明、以"章尾三节导读"替代 Exercises 模块。

Chapter 01 · 现象与问题
从网络现象识别模型缺口与统计任务

先观察稀疏、小世界、三元闭包和重尾等经验规律,再问哪些随机机制能够解释它们,最后把差距转化为全书要解决的统计问题。

第一遍约 40 分钟现象 → 度量 → 模型 → 问题
观测
真实网络、图像与汇总统计量
目标
识别跨数据集的经验规律
模型
ER、随机几何图、优先连接
失败模式
单一机制只能解释部分现象
  1. 01
    用统计量描述五类网络现象

    把稀疏、巨分量、小世界、三元闭包和重尾分别对应到可计算量。

  2. 02
    比较模型解释边界

    说明 ER、RGG 和优先连接各自能解释什么、遗漏什么。

  3. 03
    核对随机基线口径

    区分标准 transitivity 基线与原书 Table 1.2 使用的印刷口径。

  4. 04
    把问题定位到后续章节

    将中心性、社区检测、半监督、时序和抽样问题接到第 2–7 章。

逐页精读 · 按需展开 原书顺序、详细导读与卡点索引 第一次学习先用上方仪表板和主线;并排逐页阅读时再打开。

1. 一句话定位

本章回答两个问题——为什么真实网络值得用统计方法研究(1.1 的例子给出动机,1.2 提炼出五个跨领域共性,说明它们不是巧合而是需要模型解释的规律),以及全书要解决什么(1.3 提出三大统计问题,Book Organisation 给出第 2–7 章的地图)。本章是全书的"问题清单":它不证明任何东西,但后面每一章都是在兑现本章许下的承诺。

2. 本章导读

本章按"例子 → 共性 → 模型 → 问题"四步推进:

  1. 1.1 Examples of Networks(印刷页 2–7):六类真实网络——社交(karate club、LiveJournal、Political Blogs)、面对面互动(高中传感器数据)、通信(Enron 邮件)、信息与协作(DBLP、Web-graph)、生物(海豚网络)、几何构造(MNIST 高斯核/KNN 图)。读这一节只需建立两个印象:网络数据到处都有;karate club 的"能否仅凭友谊图预测分裂出的两派"这个问题将在第 4 章得到回答。
  2. 1.2.1 共性(印刷页 8–11):把上述例子压缩成五条经验规律——稀疏性、连通性(巨分量)、小世界、关系传递性与三元闭包(由聚类系数度量)、重尾度分布(幂律)。Table 1.2 是本节的数据锚点,所有"真实网络 vs 随机图"的对比都靠它支撑。
  3. 1.2.2 模型直觉(印刷页 11–13):三个随机图模型各自"认领"一部分共性——ER 解释稀疏与连通、RGG 解释关系传递性与三元闭包、优先连接解释幂律。注意没有哪个模型能同时解释全部共性,这正是第 2 章严格化、第 4 章引入 SBM 的动机。
  4. 1.3 统计问题(印刷页 13–15):从"描述网络"转向"用网络做推断"——社区检测(1.3.1 → 第 4 章)、节点重要性排序(1.3.2 → 第 3 章)、网络抽样与估计(1.3.3 → 第 7 章)。

3. 本页使用方式

按你在正文中最可能卡住的位置直接跳转:

  • 分不清 small world 和 clustering 是不是一回事 → 先看本页 §14 易混点 第 2 条,再回到 §9 概念卡片 的卡片 A/B:small world 是全局距离性质(任意两点很近),clustering 是局部三角闭合性质(邻居彼此相识),二者独立,真实网络恰好同时满足。
  • "幂律"和"重尾"哪个是现象、哪个是模型 → §14 第 3 条。正文明确说:重尾是普遍现象,幂律是有争议的建模选择(Broido & Clauset 2019 的批评)。
  • "ER 模型为什么不能描述有社区的网络" → §9 卡片 D:ER 的边彼此独立,标准聚类基线为 $p\to0$(原书 Table 1.2 的印刷口径为 $3p\to0$),既无持续三角闭合也无社区参数;这正是 1.3.1 说"ER 上也能找到高 modularity 划分是过拟合"的原因。
  • 想验证 Table 1.2 括号里的数字怎么算出来的 → §10 关键推导补全,含一个实例的完整代入验算。
  • 只想知道每章读什么 → §16 章尾三节导读 对 Book Organisation 的解读 + §4 本章主线 的后续用途列。
阶段一

快速掌握

围绕研究问题、贯穿例子和方法选择建立第一遍认知地图。

按任务读完本章

快速掌握 → 深入理解 → 巩固迁移 每一遍只承担一个清晰任务

先建立本章的选择框架,再补公式与证明;最后用主动回忆和跨章连接检查是否真正掌握。

  • 第一遍(主线,约 40 分钟)

    章首引言段($G=(V,E)$ 的定义性文字)→ 1.1 只读 karate club 与高中互动两个例子 → 1.2.1 五个小标题各读首段 → 手算 六节点例子 → 1.2.2 只读三个模型的定义段 → 1.3 三节首段 + Book Organisation。目标:能画出 §5 的概念地图,并说明同一组统计量为何不能唯一确定模型。

  • 第二遍(定量细节)

    对照 Table 1.2 逐项核对 1.2.1 的定量断言——$\bar d$ 的数量级、括号内 cc 与真实 cc 的差距、$\alpha$ 落在 $2<\alpha<3$ 区间;然后精读 1.2.1 Edge transitivity 小节末尾的 cc 推导(配合本页 §10 验算);再看 Figure 1.8 的 log-log 图与"幂律批评"一段。

  • 第三遍(与应用挂钩)

    回到 1.1,思考每个数据集对应 1.3 的哪类问题(如高中数据集 → 时序社区恢复,Ch6;karate club → Ch4;Twitter 抓取限制 → Ch7);阅读 1.2.1 末尾对幂律的批评文献脉络,理解"重尾普遍、幂律存疑"的立场。

  • 专题回看

    学第 2 章 Theorem 2.1/2.2(ER 连通性)与 Proposition 2.3(PA 幂律)时按 §11 回读锚点表 回到本章对应前瞻句。

按原书页序阅读需要逐页精读时,再打开章节停靠点主题学习无需展开;并排阅读时可把它当作页序索引。
顺序 小节(印刷页) 读法
1 章首引言段(p.1) 精读:$G=(V,E)$、二值/加权/时序三种相互作用的划分是全书数据观
2 1.1 Social networks(p.2–4) 精读 karate club 段;Figure 1.1–1.3 看图即可;Political Blogs 记住"90% 链接发生在同阵营"
3 1.1 Face-to-face(p.4–5) Table 1.1 + Figure 1.4/1.5:理解时间聚合会丢信息(Figure 1.5 的课间峰值)
4 1.1 其余三类 + 几何构造(p.5–7) 快读;几何构造段的两个核权重公式(§15 卡片 F1/F2)是 Ch5 的伏笔
5 1.2.1 五共性(p.8–11) 本章核心,逐小节精读,随时对照 Table 1.2;幂律批评一段不要跳过
6 1.2.2 三模型(p.11–13) 精读定义段,Figure 1.9/1.10/1.11 各对应一个模型的"签名图像"
7 1.3 三问题(p.13–15) 每节首段 + 末段(末段往往给出方法路线的预告)
8 Book Organisation / Bibliographic Position / Funding(p.15–16) 见 §16

贯穿例子:两个三角形与一条桥边

同一张小图同时呈现度、三角闭合、距离与桥接;统计量描述结构,但不能唯一确定生成机制。

取六个节点,边集由两个三角形与一条桥边组成:左侧三角形为 $\{1,2,3\}$,右侧三角形为 $\{4,5,6\}$,再以 $(3,4)$ 连接两侧。 这张最小图足以把“观察—度量—模型—任务”完整走一遍。

要量什么 直接计算 读法
节点数、边数 $n=6,\ m=7$ 图很小,但以下口径可直接推广到大图
度序列 $(2,2,3,3,2,2)$ 节点 3、4 因桥边各多一个邻居
平均度 $2m/n=7/3$ 只反映总体连边强度,不说明边如何分组
边密度 $m/\binom{n}{2}=7/15$ 与同密度 ER 基线比较时取 $p=7/15$
连通性 全图连通 删除桥边 $(3,4)$ 后立即分成两个分量
平均距离 $27/\binom{6}{2}=9/5$ 15 对节点的最短路长度之和为 27;桥边压低跨组距离
连通三元组数 $\sum_i\binom{d_i}{2}=10$ 四个度为 2 的节点各贡献 1,两个度为 3 的节点各贡献 3
三角形数、聚类系数 $T=2,\ \mathrm{cc}=3T/10=3/5$ 标准同密度 ER 基线为 $p=7/15$;本图的局部闭合更强

这组数值不能唯一反推出生成机制。ER 可以匹配密度,却没有参数保证“两组三角形 加一条桥”的持续结构;随机几何图可用空间邻近解释三角闭合;两块 SBM 则把组内边 概率高、组间边概率低直接写进模型。由于这里只有两种度数,它也不支持“重尾”或 “幂律”判断。换句话说,汇总统计量是模型诊断线索,不是生成机制的身份证。

同一张图在后续章节会变成不同问题:Ch3 会问节点 3、4 的桥接作用是否让它们更中心; Ch4 会尝试恢复两个三节点社区;Ch5 可在只标注节点 1、6 时传播标签;Ch7 则会问沿边 抽样是否更容易遇到度为 3 的节点。先明确任务,再选择统计量与方法,正是本章的主旨。

本章决策地图:网络观察与诊断

先读上半部的“为什么转向”,再按下半部任务卡选读;不必把两层信息重复背一遍。

章节逻辑 · 观察 → 诊断 → 建模

看到一种网络现象后,下一步该换度量、换模型,还是换统计任务?

先用可计算的网络共性检验独立边基线,再按基线解释不了的结构选择机制模型。

因果关系读法:观察催生度量,度量暴露随机基线的失败,失败逼出三个机制模型,模型支撑统计问题。

把现象变成诊断证据
① 观察(1.1)
六类真实网络
karate club · 高中互动 · Political Blogs · 海豚 · MNIST 图
② 度量(1.2.1)
稀疏 $\bar d \ll n$ · 巨分量 · 小世界 $\delta$ 小 · cc 大 · 度分布重尾
Table 1.2 给每条共性一个数
③ 基线检验
若边独立随机:$\mathrm{cc}\approx 6|E|/(n(n-1))$
比真实值低 1–3 个数量级 ⇒ 独立性假设失败
按结构缺口选择模型
④a ER 模型
独立连边 $p_n$
解释:稀疏、连通相变
不能解释:cc、幂律
④b RGG
几何距离 $< r$ 才连边
解释:关系传递性 / 三元闭包(大量三角形)
不能解释:幂律
④c 优先连接
新节点按 $d_i$ 正比连边
解释:幂律度分布
不能解释:cc
任务出口 ⑤ 统计问题(1.3)⇒ 全书:模型都不完整 ⇒ 需要带社区结构的生成模型(Ch4 SBM)、需要对节点排序的指标(Ch3)、需要在拿不到全网时做估计(Ch7 抽样)、部分标签下的推断(Ch5 SSL)、时序扩展(Ch6)。
从本章问题出发

现象—模型选择器

先判断研究现象落在哪一层,再检查它如何转化为后续统计问题。

1.1 例子

网络数据长什么样、从哪里来

关键转折

karate club 分裂:友谊图能否预测群体?→ 把"看图说话"升级为统计问题

后续用途

Ch4 社区检测(karate club 是基准例子);Ch6 时序网络(高中数据集)

1.2.1 共性

六类网络有无共同规律

关键转折

五条共性都可用一个数字刻画($\bar d$、$\delta$、cc、$\alpha$),使"规律"变成可检验的量

后续用途

Ch2 用模型复现这些量;Table 1.2 是全书反复对照的基准

1.2.1→1.2.2 转折

共性从哪来

关键转折

随机图 cc 估计量 $6|E|/(n(n-1))$ 与真实值差 1–3 个数量级 ⇒ 独立连边假设破产,必须引入结构

后续用途

Ch2 严格化 ER/RGG/PA;Ch4 用 SBM 补"社区"这一块

1.2.2 三模型

每个模型各解释哪条共性

关键转折

ER 管稀疏/连通、RGG 管传递性、PA 管幂律——分工明确但都不完整

后续用途

Ch2 全部严格化并证明极限性质

1.3 统计问题

从描述到推断

关键转折

提出社区检测、中心性、抽样三大问题;强调 modularity 会过拟合、抽样偏差不能靠加大样本消除

后续用途

Ch3 中心性、Ch4 社区检测、Ch5 SSL、Ch7 抽样

使用方式

先选最接近当前任务的一张卡;第一遍只追踪“问题 → 转折”,第二遍再沿“后续用途”进入公式、证明与跨章连接。

易混点

第一遍排错

把最容易混用的对象并排拆开

每张卡只处理一个边界:先说清差别,再回到公式、假设或例子验证。

connected vs giant component

先拆开相近概念,再核对条件与结论。

正确区分

连通图要求连通分量个数 $p=1$(只有一个连通分量);一些真实网络虽不连通,但最大连通分量可占约 90% 节点——这是书中数据示例,不是“巨分量”的定义。严格地说,巨分量规模为 $\Theta(n)$,即占据不消失的正比例。"有巨分量" ≠ "连通";Figure 1.9(a) 的 ER 图正是"大连通分量 + 孤立点"的形态。

小世界 vs 聚类系数

先拆开相近概念,再核对条件与结论。

正确区分

小世界是全局性质(任意两点间距离短),聚类系数是局部性质(我的两个邻居彼此相连的概率)。网格状网络 cc 高但距离大;ER 距离短但 cc≈0。真实网络二者兼得——这是 Watts–Strogatz 式建模的经典张力,本书用 RGG(局部)+ ER(全局)对照呈现。

幂律 vs 重尾

先拆开相近概念,再核对条件与结论。

正确区分

重尾是现象(右偏、尾部厚重,几乎所有真实网络都有);幂律是参数化模型($f(x)=Cx^{-\alpha}$,有争议)。log-log 直线只是幂律的必要证据而非充分证据;正文引 Broido & Clauset (2019):"幂律度分布其实罕见",但"重尾度分布是绝大多数"。

加权 vs 时序网络

先拆开相近概念,再核对条件与结论。

正确区分

加权边记录强度/次数(高中网络的互动次数,Figure 1.4);时序边记录精确时刻序列(Figure 1.5 的快照)。把时间轴压成权重会丢信息(课间峰值消失)——这正是 Ch6 单独处理时序网络的理由。

cc 定义中的因子 3

先拆开相近概念,再核对条件与结论。

正确区分

$\mathrm{cc}=3\times$三角形/三元组,因子 3 因为每个三角形含 3 个连通三元组(每个顶点各为中心一次)。忘掉因子 3 会让 cc 缩水三倍,与 Table 1.2 对不上。

连通三元组 vs 三角形

先拆开相近概念,再核对条件与结论。

正确区分

三元组只要求"中心连出两条边"(允许是三角形的一部分,也可以不是);三角形要求三条边齐全。cc 的分母含前者、分子(除以 3 后)含后者。

主动回忆:合上正文再回答

  1. 五条经验规律分别由什么统计量刻画?其中哪两条最容易被误认为同一现象?
  2. ER、随机几何图和优先连接分别解释哪类规律?各自最明显的缺口是什么?
  3. 标准 transitivity 的 ER 基线为什么是 $p$?原书 Table 1.2 为什么使用 $3p$?
  4. “真实网络重尾”为什么不等于“真实网络严格服从幂律”?
  5. karate club、高中互动和受限网络访问三个问题分别在哪些后续章节得到处理?
  6. 对“两个三角形加一条桥边”的六节点图,平均度、密度、平均距离和聚类系数分别是多少?这些数为什么不能唯一确定生成模型?
核对答案 · 作答后展开六题最短答案答不完整时按链接回到相应模块。
  1. 平均度/边密度、最大分量占比、平均距离、聚类系数和度分布尾部;小世界是全局距离性质,三元闭包是局部邻域性质。
  2. ER 解释稀疏与连通相变,RGG 解释三元闭包,优先连接解释重尾/幂律;三者都不能单独覆盖全部经验规律,ER 尤其没有社区参数。
  3. 标准分母计 $3\binom n3p^2$ 个带中心楔形,和分子的三角形因子 3 相消得 $p$;原书漏掉分母的中心因子,得到并在表中使用 $3p$。回看校勘推导。
  4. 重尾是数据现象,幂律是对尾部函数形式的具体模型;有限样本中的近似直线不足以证明严格幂律。
  5. karate club → Ch4;高中互动 → Ch6;受限访问与抽样偏差 → Ch7。
  6. $\bar d=7/3$、密度 $7/15$、平均距离 $9/5$、$\mathrm{cc}=3/5$;这些量压缩了边的位置,ER、几何机制与块结构可能匹配其中一部分,必须结合结构特征与推断任务辨别。
第一遍完成 此时应能解释本章的选择框架,而不是背完所有公式

若主动回忆题能够用自己的语言回答,可以先暂停;需要复现推导或核查证明时,再进入第二遍。

阶段二

深入理解

把背景工具、符号、定理和证明链放回同一逻辑结构中。

初学者背景补充

预备知识 · 按需展开只补当前章节真正需要的前置工具已经熟悉时可直接跳过;遇到符号或证明卡点再回来。

本章默认的概率背景很少,只需三个直觉(严格处理见附录与未来第 2 章):

  1. 期望的线性性:数三角形时,"期望个数 = 候选位置数 × 每个位置成形的概率",即 $\mathbb E[\text{三角形}] = \binom{n}{3}p^3$——不需要独立性以外的任何工具。这是 §10 推导链的唯一概率工具。
  2. 二项分布:$n$ 个节点、每对以概率 $p$ 独立连边时,某节点的度 $\sim \mathrm{Bin}(n-1,p) \approx \mathrm{Bin}(n,p)$,平均度 $\bar d = np$(原书脚注 5 给的就是这个直觉)。记住它的形状:质量集中在均值附近 → 尾部指数衰减 → 不重尾。第 2 章会系统使用。
  3. 幂律与 log-log 图:密度 $f(x)=cx^{-\alpha}$ 取对数得 $\log f = -\alpha\log x + \log c$,所以 log-log 坐标下是斜率 $-\alpha$ 的直线——这是 Figure 1.8(b)、1.11(右) 的读图方法,也是"线性回归拟合幂律"做法的来源(正文同时警告其系统性误差,拟合宜用 CCDF 或 Hill 估计量)。

术语的准确定义见全书术语表;图论记号($V$、$E$、路径、连通分量)如感生疏,可在学第 2 章前先读本页 §8 符号表 与术语表"图与网络基础"分组。

核心对象与符号表

第二遍工具台 先统一对象、维度和符号,再进入定理与证明

把本章会反复调用的记号集中在一处;读证明时从这里核对输入、输出与跨章角色。

符号 含义 本章出处 在后续章节的角色
$G=(V,E)$ 图:节点集 $V$ + 边集 $E$ 章首引言段 全书基本对象;Ch2 起固定 $V=\{1,\dots,n\}$
$n$ 节点数 章首 一切渐近陈述($p_n$、$\bar d$ 标度)的参数
$\lvert E\rvert$ 边数 Table 1.2 估计 $p$、cc 估计量 $6\lvert E\rvert/(n(n-1))$ 的输入
$d_i$,$\bar d=\frac1n\sum_i d_i$ 节点度、平均度 1.2.1 Sparsity Ch2 度序列 $d=(d_1,\dots,d_n)$;稀疏性判据 $\bar d\ll n$
$\delta$ 平均节点距离 Table 1.2 小世界的定量刻画
$\mathrm{cc}$ 聚类系数 $3\times$三角形数/连通三元组数 1.2.1 Edge transitivity 关系传递性 / 三元闭包的度量;Ch4 前后反复作为"结构 vs 随机"对照
$p_k$,$\{p_k\}$ 度分布(随机抽到度为 $k$ 的节点的概率) 1.2.1 Heavy-tailed Ch2 各模型度分布推导的目标量
$\alpha$,$C$,$x_{\min}$ 幂律指数、正则化常数、下截断 1.2.1 Heavy-tailed $2<\alpha<3$ 为典型区间;$C=(\alpha-1)x_{\min}^{\alpha-1}$
$p$,$p_n$ ER 连边概率及其标度($a/n$、$a\log n/n$) 1.2.2 ER Ch2 连通性阈值的核心参数
$r$,$\mathcal S$ RGG 距离阈值与采样区域 1.2.2 RGG Ch2 RGG 严格定义
$w_{ij}$,$W$,$\tau,\kappa$ 边权、权重矩阵、核参数 1.1 几何构造(印刷页 6–7) Ch5 图半监督学习的输入;对称化 $W\leftarrow \tfrac12(W+W^{\top})$
$K$ 社区数 / KNN 近邻数(依语境) 1.3.1 / 1.1 Ch4 社区检测的预设参数

关键概念卡片

四张卡片覆盖本章全部"必须带走"的概念,各按 定义 / 直觉 / 后续用途 组织。

A · 概念

小世界现象(small-world phenomenon)

#
  • 定义:网络中任意两节点间平均距离 $\delta$ 很小的经验现象;源于 Milgram 信件实验(约 20% 信件送达,平均中间人 5.2,通称"六度分隔")。
  • 直觉:$\bar d$ 固定时,$k$ 步可达的节点数约按 $\bar d^k$ 增长,$n$ 个人只需 $\log n/\log\bar d$ 步量级——所以"稀疏"与"距离小"并不矛盾。
  • 后续用途:Table 1.2 的 $\delta$ 列(2.4–9.3)是经验证据;ER 在 $p_n=a/n$ 下也有小世界性,Ch2 会给出直径的严格结果。参见术语表:小世界现象。
B · 概念

聚类系数(clustering coefficient)

#
  • 定义:$\mathrm{cc} = \dfrac{3\times\text{三角形数}}{\text{连通三元组数}}$;连通三元组 = "一个节点连着另两个"的三节点组,三角形 = 两两相连的三节点组。系数 3 来自每个三角形恰好贡献 3 个连通三元组(见 §10)。
  • 直觉:度量"朋友的朋友也是朋友"的局部三角闭合倾向;cc 是条件概率"已知两条边存在时第三条边也存在"的估计。
  • 后续用途:是区分"真实网络 vs ER 基线"最锋利的单一指标(Table 1.2 括号对照);RGG 因几何而天然高 cc。参见术语表:聚类系数、关系传递性与三元闭包。
C · 概念

重尾度分布(heavy-tailed degree distribution)

#
  • 定义:度分布显著右偏,远离均值处仍有不可忽略的概率质量;少数节点度极大(网红、枢纽),多数节点度很小。常用幂律 $f(x)=Cx^{-\alpha}$ 建模。
  • 直觉:二项分布(ER)的尾部指数衰减,容不下"度为均值百倍"的节点;真实网络容得下。幂律的标度不变性 $f(cx)\propto f(x)$ 意味着"没有特征尺度"(scale-free)。
  • 后续用途:优先连接模型在极限下产生幂律度分布(Ch2 将证明);但正文同时强调批评立场——log-log 线性回归有系统误差、Broido & Clauset (2019) 发现严格幂律罕见,"重尾普遍、幂律存疑"是本书的立场。参见术语表:重尾度分布、幂律。
D · 概念

三大随机图模型的直觉分工

#
模型 机制一句话 解释什么 不能解释什么 严格化位置
Erdős–Rényi 每对节点独立以概率 $p_n$ 连边 稀疏性($p_n=a/n$)、连通性相变($p_n=a\log n/n$ 附近,Figure 1.9) 关系传递性 / 三元闭包(cc$\to 0$)、幂律(度 $\sim\mathrm{Bin}(n,p)$ 不重尾)、社区 Ch2,Definition/Theorem 严格化
随机几何图 RGG 节点随机撒在空间中,距离 $<r$ 才连边 关系传递性 / 三元闭包(近邻的邻居仍近 ⇒ 大量三角形,对照 Figure 1.10 与 1.9)、局部稠密全局稀疏 幂律度分布 Ch2
优先连接 增长模型:新节点以正比于 $d_i$ 的概率连向 $i$(富者愈富) 幂律度分布(Figure 1.11) 关系传递性 / 三元闭包、社区结构 Ch2 严格定义并证极限幂律

为什么"ER 不能有社区":社区要求组内连边概率高于组间,而 ER 所有节点对共享同一个 $p$ 且边独立——不存在任何"组"可以依附的结构;连带的,标准 transitivity 基线为 $p$,原书 Table 1.2 的印刷基线为 $3p$,二者在稀疏情形都趋于 $0$(§10)。要社区就得换生成模型,这是 Ch4 的 SBM 出场的入口。

关键推导补全:标准基线 $p$ 与原书表格基线 $3p$

证明实验室 · 完整展开 陈述、依赖、推导与结论放回同一条证明链

快速阅读可只看证明卡标题与状态;需要严格掌握时,再逐段核验每个等式和外引依赖。

这是本章唯一一条完整推导链(正文 1.2.1 Edge transitivity 小节,印刷页 9),也是 Table 1.2 括号数值的来源。原文已给出全部步骤,本模块把它串成一条链并做实例验算。

推导链(期望版):设 $n$ 个节点、每对以概率 $p$ 独立连边。

  1. 三节点候选组共 $\binom{n}{3}$ 组;一组三节点两两全连(3 条边)的概率为 $p^3$,故 $\mathbb E[\text{三角形数}] = \binom{n}{3}p^3$。
  2. 标准定义把连通三元组计为带中心的楔形。每组三节点有 3 个可能中心,每个中心的两条邻接边同时存在的概率为 $p^2$,故 $\mathbb E[\text{连通三元组数}] = 3\binom{n}{3}p^2$。
  3. 因此,按通常的全局聚类系数(transitivity)定义,期望计数之比给出 $$\mathrm{cc}_{\mathrm{standard}} \approx \frac{3\binom{n}{3}p^3}{3\binom{n}{3}p^2}=p.$$ 这里两个因子 $3$ 必须相消;原笔记先相消又写成 $3p$ 是代数错误。
  4. 原书印刷文本把连通三元组的期望写成 $\binom n3p^2$,少计了 3 个中心,因而得到 $$\mathrm{cc}_{\mathrm{book}}=3p.$$ Table 1.2 的括号数值确实按这一印刷口径计算。学习时必须把“标准定义下的理论基线”和“复现原书表格的口径”分开,不能把两条链写成同一个证明。
  5. 用数据估计 $p$:$\hat p = \lvert E\rvert\big/\binom{n}{2} = \dfrac{2\lvert E\rvert}{n(n-1)}$。于是标准基线为 $\hat p$,原书表格基线为 $$\widehat{\mathrm{cc}}_{\text{rand}} \;=\; \frac{6\lvert E\rvert}{n(n-1)}\,.$$

校勘结论:这不是把因子放在不同位置即可消除的“记号压缩”。若分母计带中心楔形,ER 基线是 $p$;若按原书漏掉中心因子的印刷计数,则表格基线是 $3p$。本页保留后者只为复现 Table 1.2,不把它认证为标准 transitivity 的理论值。

实例验算(Table 1.2 第一行 Political blogs):$n=1222$,$\lvert E\rvert=16717$。

$$\widehat{\mathrm{cc}}_{\text{rand}} = \frac{6\times 16717}{1222\times 1221} = \frac{100302}{1492062} \approx 0.0672 \approx 0.07\ \checkmark$$

与表中括号值 $(0.07)$ 一致;而真实 $\mathrm{cc}=0.32$,约为随机基线的 5 倍。再验 DBLP 行:$\frac{6\times 34281}{13326\times 13325}\approx 0.00116\approx 0.001\ \checkmark$(括号值 0.001,真实 0.61,差约 3 个数量级)。结论:真实网络的三角闭合远超"边独立随机"所能解释的水平——这就是 1.2.2 必须引入几何(RGG)与增长(PA)机制、Ch4 必须引入社区结构的定量理由。

正文隐藏验证说明(回读锚点表)

证明实验室 · 跳步补全 把正文省略的验证拆成可逐步复核的闭环

先确认原书给到哪里,再检查补充证明使用的条件、证据等级与闭合边界。

清单扫描结论:本章无真正留白型读者任务。聚类系数推导(文件页 18)文内已给完整链条(见 §10),其余四处"we will show / we will see"均为前瞻句。相关章节现已落盘,双向定位状态如下:

# 本章原句(意译) 文件页 指向 回填状态
F1 "能否仅凭友谊图预测最终分裂成的两派?"(karate club) 11 Ch4 社区检测,karate club 为基准数据集 已兑现
F2 "在 ER 等无社区结构的随机图上也能找到高 modularity 的划分!" 23 Ch4 modularity 过拟合讨论与 Bayesian/MCMC 缓解方法 已兑现
F3 "第 2 章将看到严格命题如何确认这些观察"(ER 在 $p_n=2/n$ 不连通、$p_n=2\log n/n$ 连通的图感) 20 Ch2 ER 连通性定理(Theorem 2.1/2.2) 已兑现
F4 "第 2 章将给出该模型的严格定义并证明其极限幂律度分布"(优先连接) 22 Ch2 优先连接(Definition 2.4 / Proposition 2.3) 已兑现

另有一条隐性前瞻:1.1 高中数据集"按时间互动恢复班级"的问题 → Ch6 时序网络社区检测(正文已明说 "We will study this dataset in more detail in Chapter 6"),现已兑现。

阶段三

巩固迁移

确认术语无歧义、易混点能解释,并知道结论在后续哪里复用。

术语与跨章链接

术语索引与迁移

先统一名称,再查看对象的前后章关系

术语、符号与跨章用途放在同一组任务卡中,避免把链接读成没有结构的长清单。

本章首次系统引入、已入全书术语表的术语(点击跳转定义):

校勘备忘(译文与本笔记统一按此处理,详见清单 §7):OCR 将 Erdős 的 ő 系统性误识为 ˝;权重矩阵对称化公式的 $\tfrac12$ 被误作 \mathsf{\Omega}_2^1,应为 $W\leftarrow\tfrac12(W+W^{\top})$;原书 typo 两处("Morever"→Moreover,文件页 20;脚注 6 "dissasociative"→disassortative,文件页 22)按规范加校勘提示、不静默改写。

公式卡片

本章无编号公式;以下 4 个展示公式 + 2 个行内关键公式按"输入 → 输出 → 用途"整理。

F1 · 公式

高斯核阈值权重

#

(印刷页 7,Ch5 图构造的伏笔): $$w_{ij}=\begin{cases}\exp\!\left(-\dfrac{\lVert x_i-x_j\rVert^2}{\tau^2}\right),& \lVert x_i-x_j\rVert^2\le\kappa,\\\\0,&\text{否则},\end{cases}$$ 输入数据矩阵 $X=(x_1,\dots,x_n)\in\mathbb R^{m\times n}$($n$ 个 $m$ 维点);截断 $\kappa$ 防止稠密化。

F2 · 公式

KNN 核权重(MNIST 网络实际所用)

#

: $$w_{ij}=\begin{cases}\exp\!\left(-\dfrac{4\lVert x_i-x_j\rVert^2}{\tau_i}\right),& x_j\in K\text{-近邻 of }x_i,\\\\0,&\text{否则},\end{cases}$$ $\tau_i$ = $x_i$ 到其第 $K$ 近邻的距离(逐点自适应带宽);之后对称化 $W\leftarrow\tfrac12(W+W^{\top})$。Figure 1.7 即用 $K=8$ 构造。

F3 · 公式

聚类系数定义

#

(印刷页 9,本章最重要的一个数): $$\mathrm{cc}=\frac{3\times\text{三角形数}}{\text{连通三元组数}}.$$

F4 · 公式

数据矩阵记号

#

:$X=(x_1,\ldots,x_n)\in\mathbb{R}^{m\times n}$——机器学习语境下"网络从数据来"的起点。

F5 · 公式

幂律正则化常数

#

:连续幂律 $f(x)=Cx^{-\alpha}$ 在 $[x_{\min},+\infty)$ 上归一化要求 $\alpha>1$ 且 $$C=(\alpha-1)\,x_{\min}^{\alpha-1}\;;$$ 离散变体(Zipf)$\mathbb P(X=k)=ck^{-\alpha}\,\mathbf 1(k\ge x_{\min})$,$c=\big(\sum_{k=0}^{\infty}(k+x_{\min})^{-\alpha}\big)^{-1}$。log-log 下 $\log\mathbb P(X=k)=-\alpha\log k+\log c$ 为直线(Figure 1.8(b) 的读法)。

F6 · 公式

ER 度分布与标度

#

:度 $\sim\mathrm{Bin}(n,p)$,$\bar d=np$;$p$ 为常数时 $\bar d$ 随 $n$ 增长(不稀疏),故取 $p_n\ll 1$——$p_n=a/n$ 给出常数平均度 $a$,$p_n=a\log n/n$ 给出对数增长平均度 $a\log n$(Figure 1.9 两种标度情形的分界,Ch2 将证明后者是连通性阈值的量级)。

章尾三节导读

文献出口 · 按需展开延伸路线、适用时机与离开本书的入口主线学习可以略过;准备深入某个方向时再展开。

Book Organisation(印刷页 15)——这是全书的依赖图,读法如下:

  • Ch2(随机图模型)是全书地基,"所有部分都在一定程度上需要";务必先读。
  • 主线一(结构推断):Ch4 社区检测 → Ch5 半监督学习(已知部分社区信息)→ Ch6 时序网络扩展。书言 Ch4 对 Ch5/6 "有用但非绝对必要"。
  • 主线二(节点与数据获取):Ch3 中心性指标;Ch7 网络抽样。书言 Ch3 对 Ch5、Ch7 有帮助。
  • 对照本页 §4 主线表 的"后续用途"列即可看出:1.3 的三个问题正好各认领一条主线。

Book Bibliographic Position(印刷页 15–16)——作者的自定位,分四层:

  1. 随机图模型理论已有经典教材(Bollobás 2001;Chung & Lu 2006;Janson et al. 2011;Hofstad 2016);
  2. 图形成过程与图上动力学另有专著(Durrett 2007;Barabási 2016;Newman 2018 等);社交网应用与网络可视化/软件亦已有大量文献,本书不覆盖这些;
  3. 本书的差异化在于统计视角:社区检测(尤其 SBM)与 2018 年后的进展综述、时序网络上的聚类与图半监督学习;
  4. 作者声称两点"未见于其他教材":中心性指标的详细比较分析、现代网络抽样方法——"希望这是第一部网络统计分析的综合教材式著作"。读这一节的价值在于选参考书时知道本书补的是哪个空位。

Funding(印刷页 16):如实陈述本书工作部分受 Inria – Nokia Bell Labs 项目 "Distributed Learning and Control for Network Analysis" 与 EU COST Action "European Cooperation for Statistics of Network Data Science" 资助。无技术内容。

学习检查表:完成标准

学完本章后自查:

  • [ ] 能复述:用一句话说明 $G=(V,E)$ 以及二值/加权/时序三种网络的区别。
  • [ ] 能复述:五条共性(稀疏、巨分量、小世界、关系传递性 / 三元闭包、重尾)各自的定量指标是什么($\bar d$、最大分量占比、$\delta$、cc、$\alpha$)。
  • [ ] 能解释:为什么标准 transitivity 的 ER 基线为 $p$,为什么原书 Table 1.2 采用 $3p$,并能用 $6\lvert E\rvert/(n(n-1))$ 复现任一括号数值而不混淆两种口径。
  • [ ] 能解释:三个随机图模型各自解释哪条共性、不能解释哪条;为什么说"没有模型能同时解释全部共性"是引入 SBM 的动机。
  • [ ] 能判别:给定一段描述,区分它在说小世界(全局距离)还是聚类(局部三角闭合);区分"重尾"(现象)与"幂律"(模型)。
  • [ ] 能计算:独立算出 六节点例子的平均度、密度、平均距离与聚类系数,并说明这些汇总量为什么不足以唯一识别生成机制。
  • [ ] 能判别:为什么"抽样偏差不能靠增大样本量消除"(Literary Digest 1936 例),并指出这与 Ch7 的关系。
  • [ ] 能定位:karate club 的预测问题、ER 连通性相变、PA 幂律证明分别在第几章兑现(见 §11 回读锚点表)。

后续衔接

按下一项学习任务离开本章

不必机械按章号前进,选择真正需要解决的问题

每张出口卡说明连接对象及其用途;需要回看时,仍可沿卡内链接返回精确位置。

下一步 01 第 2 章 Random Graph Models

把 1.2.2 的三个模型严格化——ER 的定义与连通性定理(兑现前瞻句 F3)、RGG 的定义、优先连接的严格定义与极限幂律证明(兑现 F4);本章的 $p_n$ 标度直觉在那里变成阈值定理。

下一步 02 第 3 章 Centrality Indices

回答 1.3.2“谁最重要”——度中心性只是起点,PageRank 类随机游走排名与路径中介性指标对应不同的“重要性”语义。

下一步 03 第 4 章 Community Detection

回答 1.1 karate club 的预测问题(F1);1.3.1 预告的 cut-based/谱方法、modularity 及其过拟合(F2)、Bayesian 方法与 SBM 在此展开。Table 1.2 的 cc 对照逻辑会升级为"有结构的生成模型 vs 零模型"的检验框架。

下一步 04 第 5 章 Semi-supervised Learning

1.1 几何构造小节(F1/F2 公式)埋下的"从数据建图"在此成为输入;部分社区标签已知时推断其余标签。

下一步 05 第 6 章 Temporal Networks

高中互动数据集(Table 1.1、Figure 1.4/1.5)在这里被正式研究,回应 1.1"时间聚合丢信息"的警告。

下一步 06 第 7 章 Sampling

1.3.3 的 Twitter 抓取限制与 Literary Digest 偏差在此方法化。