SAN 阅读笔记
补充正文 Ch.2H 超图表示与随机模型

第 2H 章补充正文:超图表示与随机超图模型

第 2H 章 超图表示与随机超图模型(Hypergraph Representations and Random Hypergraph Models)

内容说明:本章是项目依据研究文献编写的补充正文,不属于 Statistical Analysis of Networks 原书内容;它用于衔接第 2 章与后续高阶网络专题。

许多网络数据由成对关系构成,例如两位用户之间的通信或两个网页之间的链接。然而,一篇由多位作者共同完成的论文、一次多人会议和一张包含若干商品的购物篮,原始观测单位都是一个节点集合。若把每个集合立即展开成所有节点对,得到的图可以记录两两共现,却可能无法判断若干条边究竟来自同一次群体事件,还是来自多次彼此独立的成对事件。超图以节点集合为基本关系单位,因而为这类数据提供了直接表示。

观测对象 从原始记录到超边

论文作者表、多人邮件收件人和一次化学反应的参与物直接给出节点集合;由位置轨迹划定接触群体或由脑信号识别共同激活集合,则要先选择阈值、时间窗或统计识别方法。两类数据最终都表示为 $H=(V,\mathcal E,w)$。

对构造得到的超边,构造规则属于观测机制。阈值和时间窗会改变超边数、大小、重叠及社区结构,因此结果应同时记录构造参数、敏感性分析和两级不确定性。

内容依次覆盖超图表示、随机基线、随机游走、随机分块模型、四类推断方法、社区恢复术语和生成式检查。模型主线与第 2 章平行:Erdős–Rényi 图对应独立随机超图,SBM 对应 simple HSBM,DC-SBM 对应带节点活跃度参数的 Poisson DCHSBM。

阅读前置 先修知识与章节链接
  • 第 1–2 章:第 1 章给出观测单位与统计问题,第 2 章给出 Erdős–Rényi、SBM、DC-SBM、条件独立及 Bernoulli/Poisson 模型。
  • 附录 A:附录 A汇集条件概率、矩阵、特征值、二次型和半正定性。
  • 第 3 章:第 3 章系统介绍随机游走、平稳分布和特征向量。2H.3 使用行随机条件 $\sum_vP_{uv}=1$、平稳方程 $\pi=\pi P$ 和细致平衡 $\pi(u)P_{uv}=\pi(v)P_{vu}$。
  • 第 4 章:第 4 章介绍谱聚类、似然推断、标签置换损失和一致性分析;2H.5 将这些工具用于超图。

2H.1 超图与表示(Hypergraphs and Representations)

2H.1.1 基本对象与记号

定义 2H.1 超图、秩与均匀性

有限简单加权超图记为

$$ H=(V,\mathcal E,w), \tag{2H.1} $$

其中 $V=\{1,\ldots,n\}$ 是节点集,$\mathcal E\subseteq 2^V\setminus\{\varnothing\}$ 是超边族,$w:\mathcal E\to(0,\infty)$ 是超边权重。普通集合族 $\mathcal E$ 表示简单超图(simple hypergraph):每个节点集合至多出现一次,每条超边由互异节点组成。重复事件使用带索引的超边族;边内节点可重复时使用节点多重集合。

描述层允许 $|e|=1$ 的单节点事件;从第 2H.2 节起,“交互”与随机候选超边默认满足 $|e|\ge2$。二元(无权)简单超图取 $w\equiv1$。重复次数对应 $w(e)\in\mathbb N$,持续时间、剂量或强度可取一般正实数。单节点事件 $\{v\}$ 的大小为 1;多重集合自环 $\{\!\{v,v\}\!\}$ 的大小为 2。重数、连续权重与边内节点重复对应三种不同的样本空间。

若 $\mathcal E\ne\varnothing$,超图的秩为 $\operatorname{rank}(H)=\max_{e\in\mathcal E}|e|$;对空超边族约定 $\operatorname{rank}(H)=0$。若 $\mathcal E\ne\varnothing$ 且所有超边均满足 $|e|=d$,则称 $H$ 为 $d$-均匀超图($d$-uniform hypergraph)。普通无向图是 $d=2$ 的特例。

作为贯穿本章的例子,令

$$ V=\{1,2,3,4,5\},\qquad \mathcal E=\{e_1,e_2,e_3\}, $$

其中

$$ e_1=\{1,2\},\qquad e_2=\{1,2,3\},\qquad e_3=\{3,4,5\}, $$

且 $w(e_1)=w(e_2)=w(e_3)=1$。该超图同时含二元和三元超边,所以它是非均匀简单超图。

定义 2H.1 的五节点非均匀简单超图图解:左侧显示超边 e1={1,2} 包含于 e2={1,2,3},e2 与 e3={3,4,5} 在节点 3 处重叠;右侧依次列出节点集与节点数、超边族与超边数、超边大小向量、秩和非均匀性
定义 2H.1 图解 五节点非均匀简单超图及其基本记号。

该例有 $n=5$ 个节点和 $M=3$ 条超边,超边大小为 $(2,3,3)$,故 $\operatorname{rank}(H)=3$ 且图非均匀。关系 $e_2\cap e_3=\{3\}$ 展示超边重叠,$e_1\subset e_2$ 展示超边包含。

有些文献把 $|V|$ 称为 hypergraph order、把 $|\mathcal E|$ 称为 hypergraph size,也常用“阶数”描述 $|e|$。以下统一使用“节点数 $n$”“超边数 $M$”“超边大小 $|e|$”和“秩 $\max_e|e|$”。

单纯复形(simplicial complex)在超图定义上增加向下闭合条件:若集合 $e$ 属于复形,则 $e$ 的每个子集也属于复形。一般超图允许任意超边族。例如,一次三人会议可以作为单独事件记录,是否同时记录两人子集由数据生成语义决定(Bick et al., 2023)。

2H.1.2 关联矩阵与星形展开

图 2H.1 把这个对象放进四个常用计算入口。

五节点超图的四种表示:原始超图以轮廓显示 e1={1,2}、e2={1,2,3}、e3={3,4,5};关联矩阵保留三列超边身份;星形展开把超边变成事件节点;归一化团投影把超边转换为带权节点对,其中 1 与 2 的权重为 3/2
图 2H.1 同一个五节点超图的四种表示。关联矩阵与星形展开保留事件身份;归一化团投影把事件转换为节点对权重。

超图的节点—超边关联矩阵(incidence matrix)$B\in\{0,1\}^{n\times |\mathcal E|}$ 定义为

$$ B_{ve}=\mathbf 1\{v\in e\}. $$

贯穿例子的关联矩阵为

$$ B= \begin{pmatrix} 1&1&0\\ 1&1&0\\ 0&1&1\\ 0&0&1\\ 0&0&1 \end{pmatrix}. \tag{2H.2} $$

节点 $v$ 的加权关联度、未加权关联度和超边 $e$ 的大小分别记为

$$ d(v)=\sum_{e\in\mathcal E}w(e)B_{ve}, \qquad d_0(v)=\sum_{e\in\mathcal E}B_{ve}, \qquad \delta(e)=\sum_{v\in V}B_{ve}=|e|. \tag{2H.3} $$

在例子中所有权重均为 1,因而 $d=d_0$,节点关联度向量为 $(2,2,2,1,1)$,超边大小向量为 $(2,3,3)$。$d_0(v)$ 计数节点参与了多少个不同事件,$d(v)$ 则累计这些事件的权重;只有在权重均为 1 时,两句话才可以互换。超边大小 $\delta(e)$ 描述单个事件包含多少个节点,与两类节点关联度承担不同的统计含义。后文的无权随机超图中,$D_i$ 指 $d_0(i)$。

建模前体检 按超边大小报告密度

对 $r\ge1$,令 $\mathcal E_r=\{e\in\mathcal E:|e|=r\}$,并记 $\mathcal E_{\ge2}=\bigcup_{r\ge2}\mathcal E_r$。对简单超图,交互层的分阶密度、分阶关联度与总关联度分别为

$$ \rho_r=\frac{|\mathcal E_r|}{\binom nr}, \qquad d_r(v)=\sum_{e\in\mathcal E_r}\mathbf1\{v\in e\}, \qquad d_{\ge2,0}(v)=\sum_{r\ge2}d_r(v), \qquad d_0(v)=d_1(v)+d_{\ge2,0}(v). \tag{2H.3a} $$

若最大允许超边大小事先固定为 $R$,还可以定义总体密度

$$ \rho_{\le R} =\frac{|\mathcal E_{\ge2}|}{\sum_{r=2}^{R}\binom nr} =\frac{\sum_{r=2}^{R}|\mathcal E_r|}{\sum_{r=2}^{R}\binom nr}, \tag{2H.3b} $$

式 (2H.3b) 假定研究设计允许的交互大小为 $2,\ldots,R$,因而分子也只计这些阶数。若数据保留单节点事件,应以 $|\mathcal E_1|$ 单独报告,不把它混入交互密度。若把观测最大值直接当作 $R$,分母会随样本极值改变,跨数据集可比性也随之改变。贯穿例子中 $\mathcal E_1=\varnothing$、$n=5$、$|\mathcal E_2|=1$、$|\mathcal E_3|=2$,所以 $d_0=d_{\ge2,0}$、$\rho_2=1/10$、$\rho_3=2/10$;若预先规定候选空间包含二元和三元事件,则 $\rho_{\le3}=3/(10+10)=3/20$。

开始拟合模型前,至少同时检查分阶关联度 $(d_r(v))$、总关联度、超边大小分布、分阶密度 $(\rho_r)$ 和超边重叠;若原始数据允许同一事件重复,还要检查权重或重数。分阶关联度尤其重要:某个节点可能只在大型事件中活跃,把各阶度数相加会隐藏这种机制差异。

例 2H.1 从关联矩阵同时读出节点度与事件大小

节点 3 对应的行是 $(0,1,1)$,所以它参加了 $e_2,e_3$ 两个事件,$d_0(3)=d(3)=2$。超边 $e_2$ 对应的列是 $(1,1,1,0,0)^T$,所以 $\delta(e_2)=3$。所有行和为 $2+2+2+1+1=8$,所有列和为 $2+3+3=8$;二者都是对关联矩阵中全部 1 的计数:

$$ \sum_{v\in V}d(v)=\sum_{e\in\mathcal E}\delta(e)w(e)=8. $$

复算点:若把 $e_3$ 的权重改为 2,左侧应变为 $(2,2,3,2,2)$ 的元素和 11;右侧则为 $2+3+2\times3=11$。

星形展开(star expansion)把每条超边变成第二类节点,从而得到二部图

$$ G_\star=(V\sqcup\mathcal E,E_\star), \qquad E_\star=\{(v,e):v\in e\}. $$

若原节点排在前、超边节点排在后,则该二部图的邻接矩阵为

$$ A_\star= \begin{pmatrix} 0&B\\ B^T&0 \end{pmatrix}. \tag{2H.4} $$

对普通简单超图,关联矩阵和星形展开都保留超边身份:给定一列 $B_{\bullet e}$ 或事件节点 $e$ 的邻居集合,可以恢复原超边。星形展开包含“实体节点”和“事件节点”两类对象;应用普通图算法时,两侧节点类型应分别编码和解释。

这个对应关系在含重复事件的数据中更值得仔细写。给定一个已指定两侧语义的简单二部图

$$ G_B=(V\sqcup U,F), \qquad \mathcal E^\sharp=(e_u)_{u\in U}, \qquad e_u=N_{G_B}(u)\cap V, \tag{2H.4a} $$

其中 $U$ 是没有孤立节点的事件节点集,$(e_u)_{u\in U}$ 是带事件索引的超边族。具有相同邻域的两个事件节点对应两次成员相同而身份不同的事件;度为 1 的事件节点对应单节点事件。保留 $U$ 的事件身份后,式 (2H.4a) 与二部图在事件节点重命名意义下一一对应。两侧的“实体—事件”语义也属于数据定义;交换 $V$ 与 $U$ 会产生以原事件为节点的对偶关联对象。

若随后强制投到“无重复且只含交互”的简单超图空间,例如取

$$ \mathcal E_{\mathrm{simp},\ge2} =\operatorname{uniq}\{e_u:u\in U,\ |e_u|\ge2\}, \tag{2H.4b} $$

式 (2H.4b) 合并相同邻域并过滤单节点事件,因此不再保留原来的事件数与事件身份。其中 $|e_u|\ge2$ 选取交互事件,$\operatorname{uniq}$ 将重复列压成一个集合;这两步都会使映射不可逆。

一个四乘四二部关联矩阵中事件列 a 与 d 完全相同,保留列标签时对应四个带索引事件;去重并过滤单节点事件后只剩两条简单超边,无法恢复原来的四个事件槽
图 2H.1a 二部表示何时可逆。保留事件列时,相同成员集合仍可代表两次不同事件;一旦去重或过滤单节点事件,四个事件槽被压成两条简单交互,逆映射不再存在。图中例子为项目构造。
模型含义 表示变换与随机生成是两类操作

把一个已经观测的超图确定性地写成 $B$ 或 $G_B$ 时,节点、事件和全部关联都已固定,没有引入概率假设。若改为在固定的 $V\sqcup U$ 上随机生成二部边 $X_{vu}$,则 $|U|$ 个事件槽在采样前已经给定;随机的是每个槽由哪些节点参加。除非额外条件化,这种模型还可能生成空列、单节点列和重复列。

直接的 Bernoulli 超图模型为每个候选节点集合 $e$ 生成出现指标 $Y_e$,实现后的超边数 $M_H=\sum_eY_e$ 通常是随机的。“固定 $|U|$、随机成员关系”和“固定候选集合、随机哪些超边出现”因此具有不同的样本空间;二者之间的渐近联系需要单独证明。

在二部 SBM 中,令实体节点标签 $Z_v\overset{\mathrm{iid}}{\sim}\operatorname{Categorical}(\pi)$、事件节点标签 $C_u\overset{\mathrm{iid}}{\sim}\operatorname{Categorical}(\eta)$,并令 $\Theta_{qs}$ 为跨两侧群组的连接概率。给定 $(Z,C)$ 后,所有关联变量 $(X_{vu})$ 条件独立。于是,一个固定事件槽同时包含标签为 $q_1,\ldots,q_r$ 的给定节点的概率具有乘积混合形式

$$ X_{vu}\mid(Z_v=q,C_u=s)\sim\operatorname{Bernoulli}(\Theta_{qs}), \qquad \mathbb P(X_{i_1u}=\cdots=X_{i_ru}=1\mid Z) =\sum_{s=1}^{S}\eta_s\prod_{t=1}^{r}\Theta_{q_t s}. \tag{2H.4c} $$

式 (2H.4c) 给出一个事件槽至少包含这 $r$ 个节点的概率。若要求 $N(u)$ 恰好等于这组节点,还需乘上其余节点不连接的概率;多个事件槽还涉及重复邻域与去重。二部 SBM 预设有限个事件群组,并把参与概率参数化为有限个乘积项的混合;一般 HSBM 则允许更一般的对称亲和张量。

对象 采样前固定什么 随机什么 对超边数与事件身份的含义
已观测超图的星形展开 $V$、事件族及全部关联 无 事件身份保留;确定性表示
固定两侧的随机二部图 $V$ 与 $U$,故事件槽数 $|U|$ 固定 关联变量 $(X_{vu})$ 每个槽的成员随机;可能出现空、单节点或重复事件
候选集合上的 Bernoulli 超图 $V$ 与允许的候选集合 出现指标 $(Y_e)$ 实现超边数通常随机;每个候选集合至多出现一次
二部 configuration 型零模型 行和、列和及事件槽数 满足边际的关联排列 节点总度和事件大小固定,节点与事件大小的对应关系随关联排列变化

2H.1.3 节点投影、事件线图与信息损失

团投影(clique projection)或 2-截面(2-section)把每条超边内部的所有节点对连接起来。一种直接的共现权重为

$$ A^{\mathrm{raw}}_{uv} =\sum_{e\in\mathcal E}B_{ue}B_{ve}, \qquad u\ne v. \tag{2H.5} $$

在贯穿例子中,节点对 $\{1,2\}$ 同时出现在 $e_1$ 和 $e_2$ 中,故 $A^{\mathrm{raw}}_{12}=2$;节点对 $\{1,3\}$ 只出现在 $e_2$ 中,故 $A^{\mathrm{raw}}_{13}=1$。投影保留了两两共现次数,却不再说明 $A^{\mathrm{raw}}_{12}=2$ 分别来自一条二元超边和一条三元超边。

若所有超边大小至少为 2,并希望每条权重为 $w(e)$ 的超边对其中每个节点贡献总图度 $w(e)$,可以采用归一化权重

$$ A^{\mathrm{cl}}_{uv} =\sum_{e\in\mathcal E:\,u,v\in e} \frac{w(e)}{\delta(e)-1}, \qquad u\ne v. \tag{2H.6} $$

此时贯穿例子中 $A^{\mathrm{cl}}_{12}=3/2$,$A^{\mathrm{cl}}_{13}=A^{\mathrm{cl}}_{23}=1/2$,投影图的加权度仍为 $(2,2,2,1,1)$。式 (2H.5) 和式 (2H.6) 都是常见的团投影约定;投影结果应同时注明权重和归一化规则。

不同超图可能产生同一张投影图。投影对推断目标是否充分取决于目标量:节点对共现强度可以由合适的投影保留,超边大小、事件身份和一条超边中的标签组成通常会在团投影中丢失。

两个不同超图产生同一个三角形投影:第一个超图只有一条三元超边 {1,2,3},第二个超图有三条二元超边 {1,2}、{1,3}、{2,3};两者的无权 2-section 都是三角形
图 2H.2 投影碰撞。一次三人事件与三次独立二人事件具有不同样本语义,却产生相同的无权 2-section;原始共现权重也同为 $A_{12}=A_{13}=A_{23}=1$。
例 2H.2 同一投影的多个超图原像

令 $H_1$ 只有一条超边 $\{1,2,3\}$,令 $H_2$ 有三条超边 $\{1,2\},\{1,3\},\{2,3\}$。两者的式 (2H.5) 投影都满足三个非对角元素为 1,因此只给定投影矩阵时无法判定原始数据包含一次还是三次事件。

然而,两者的关联矩阵分别有 1 列和 3 列,超边大小序列分别为 $(3)$ 与 $(2,2,2)$。如果研究问题是“群体事件有多大”,投影显然不充分;如果问题只要求判断三对节点是否曾经共现,则这次信息损失可能无关紧要。

表示补充 研究对象转向事件时,线图记录重叠

团投影把原节点留作图节点;线图(line graph)恰好反过来,把每条超边视为一个事件节点。对不同超边 $e,f$,定义事件重叠矩阵

$$ O_{ef}= \begin{cases} |e\cap f|,&e\ne f,\\ 0,&e=f. \end{cases} \tag{2H.6a} $$

若 $D_e=\operatorname{diag}(\delta(e_1),\ldots,\delta(e_M))$,则 $O=B^TB-D_e$。无权线图在 $O_{ef}>0$ 时连接 $e$ 与 $f$;以 $O_{ef}$ 为边权则保留重叠节点的数量。对贯穿例子,

$$ O= \begin{pmatrix} 0&2&0\\ 2&0&1\\ 0&1&0 \end{pmatrix}. $$

因此 $e_2$ 同时连接 $e_1$ 与 $e_3$,而 $e_1,e_3$ 不相交。若只保留无权线图,就连“共享 1 个还是 2 个节点”也会丢失;即使保留 $O$,仍无法知道具体共享的是哪些节点。把邻接门槛改为 $O_{ef}\ge k$ 可以研究至少共享 $k$ 个成员的事件链,但它同样是对原超图的压缩。

对整数 $k\ge1$,令 $\mathcal E_{\ge k}=\{e\in\mathcal E:|e|\ge k\}$。$k$-线图 $L_k(H)$ 以 $\mathcal E_{\ge k}$ 中的超边为节点,并且只在 $|e\cap f|\ge k$ 时连接 $e,f$。等价地,一条长度为 $\ell$ 的 $k$-walk 是超边序列

$$ e_{i_0},e_{i_1},\ldots,e_{i_\ell}, \qquad e_{i_t}\in\mathcal E_{\ge k}, \qquad |e_{i_{t-1}}\cap e_{i_t}|\ge k \quad(t=1,\ldots,\ell). \tag{2H.6b} $$

两条超边间的 $k$-distance 是最短 $k$-walk 的长度;若不存在则记为 $\infty$。它就是 $L_k(H)$ 上的普通图距离。贯穿例子中,$e_1\to e_2\to e_3$ 是长度 2 的 1-walk,所以 $d_1(e_1,e_3)=2$;但第二步只有 $|e_2\cap e_3|=1$,故 $e_3$ 在 $L_2(H)$ 中孤立,$d_2(e_1,e_3)=\infty$。参数 $k$ 控制事件邻接所需的重叠宽度。

同一组三条超边在一线图和二线图中的差异:一线图中 e1 经 e2 连到 e3,边上重叠数分别为 2 和 1;二线图只保留 e1 与 e2 的连接,e3 变为孤立节点
图 2H.2a 重叠门槛改变事件层连通性。$L_1(H)$ 只要求相邻事件至少共享一个节点;$L_2(H)$ 要求至少共享两个节点,因此删除 $e_2$–$e_3$ 的弱重叠。

2H.1.4 均匀超图的邻接张量

对 $d$-均匀简单超图,Cooper and Dutle (2012) 定义了 $d$ 阶对称邻接张量。其一种标准归一化为

$$ \mathcal A_{i_1\cdots i_d}= \begin{cases} \dfrac{1}{(d-1)!},&\{i_1,\ldots,i_d\}\in\mathcal E,\\ 0,&\text{其他情形}. \end{cases} \tag{2H.7} $$

固定首个指标后,每条包含该节点的超边对应其余 $d-1$ 个节点的 $(d-1)!$ 个排列,因此该归一化使张量在其余指标上求和时恢复节点关联度。对贯穿例子的三元子超图 $\{e_2,e_3\}$,非零张量元素取值为 $1/2$。标准三阶张量容纳这两条三元超边;二元超边 $e_1$ 需要分阶保存、空节点扩充或其他非均匀张量约定。

矩阵特征方程 $Ax=\lambda x$ 在 $d$ 阶张量上变为非线性方程。Cooper–Dutle 邻接张量的一个特征对 $(\lambda,x)$ 满足

$$ \mathcal A x^{d-1}=\lambda x^{[d-1]}, \qquad (\mathcal A x^{d-1})_i =\sum_{i_2,\ldots,i_d=1}^n \mathcal A_{ii_2\cdots i_d}x_{i_2}\cdots x_{i_d}, \tag{2H.7a} $$

其中 $x^{[d-1]}=(x_1^{d-1},\ldots,x_n^{d-1})^T$。与矩阵情形不同,这是一组 $d-1$ 次多项式方程;“取最大特征向量”需要先说明采用哪一种张量特征值概念、归一化和数值算法。

小算例 一条三元超边的张量特征对

只取节点 $\{1,2,3\}$ 和超边 $\{1,2,3\}$。令 $x=(1,1,1)^T$。对第 1 个坐标,只有 $(i_2,i_3)=(2,3),(3,2)$ 两项非零,故

$$ (\mathcal A x^2)_1 =\tfrac12x_2x_3+\tfrac12x_3x_2=1=x_1^2. \tag{2H.7b} $$

另外两个坐标同理,所以 $(\lambda,x)=(1,\mathbf1)$ 是特征对。这个计算验证了式 (2H.7) 的排列归一化。

综上,关联矩阵和星形展开保留事件身份,团投影压缩为节点间共现,线图压缩为事件间重叠,邻接张量直接表达固定阶交互。表示选择先于算法选择,并决定了后续分析可用的信息。

2H.2 随机超图基线(Random Hypergraph Baselines)

2H.2.1 Bernoulli 模型 $H_d(n,p)$

固定节点集 $V=[n]$ 和整数 $d\ge2$。对每个候选 $d$-节点集合 $e\in\binom Vd$,独立生成

$$ X_e\sim\operatorname{Bernoulli}(p), \qquad \mathcal E=\{e:X_e=1\}. \tag{2H.8} $$

所得 $d$-均匀随机超图记为 $H_d(n,p)$。它是 Erdős–Rényi 模型 $G(n,p)$ 的直接高阶对应物。由于候选超边总数为 $\binom nd$,超边数满足

$$ |\mathcal E|\sim \operatorname{Binomial}\!\left(\binom nd,p\right), \qquad \mathbb E|\mathcal E|=\binom ndp. \tag{2H.9} $$

命题 2H.1 节点关联度分布

在 $H_d(n,p)$ 中,对任意固定节点 $i$,令 $D_i=|\{e\in\mathcal E:i\in e\}|$。则

$$ D_i\sim\operatorname{Binomial}\!\left(\binom{n-1}{d-1},p\right), \qquad \mathbb ED_i=\binom{n-1}{d-1}p. \tag{2H.10} $$ 在学习笔记中查看逐步完整证明
例 2H.3 把 $H_3(8,0.1)$ 的数量级全部算出来

8 个节点共有 $\binom83=56$ 条候选三元超边,所以 $\mathbb E|\mathcal E|=56\times0.1=5.6$。对固定节点 $i$,另两个端点可从其余 7 个节点中选择,故候选数为 $\binom72=21$,从而

$$ D_i\sim\operatorname{Binomial}(21,0.1),\qquad \mathbb ED_i=2.1,\qquad \mathbb P(D_i=0)=0.9^{21}\approx0.109. $$

双重计数提供了立即可用的验算:$\sum_i\mathbb ED_i=8\times2.1=16.8$,而每条三元超边贡献 3 次关联,故 $3\mathbb E|\mathcal E|=3\times5.6=16.8$。该恒等式也可用来发现 $\binom83$ 与 $\binom72$ 的混用。

若希望 $n\to\infty$ 时平均关联度保持常数量级,应令

$$ p_n=\Theta\!\left(n^{-(d-1)}\right). $$

当 $d=2$ 时,该标度退化为随机图中的 $p_n=\Theta(1/n)$。这个标度控制节点参与的超边数;团投影邻居数还会受到每条 $d$ 元超边同时产生多个节点对的影响。

2H.2.2 固定超边数模型 $H_d(n,M)$

$H_d(n,M)$ 从 $\binom nd$ 条候选超边中均匀抽取 $M$ 条。由于总超边数固定,单个节点的关联度服从超几何分布:

$$ D_i\sim\operatorname{Hypergeometric}\!\left( \binom nd,\binom{n-1}{d-1},M \right), \qquad \mathbb ED_i=\frac{dM}{n}. \tag{2H.11} $$

式 (2H.11) 的期望也可由双重计数得到:所有节点关联度之和恒等于 $dM$。$H_d(n,p)$ 与 $H_d(n,M)$ 的区别正对应于 $G(n,p)$ 与 $G(n,M)$:前者使超边数随机,后者对超边数作条件化。

定理 2H.1 均匀随机超图的相变位置与三阶段数量级

固定 $d\ge3$。Karoński and Łuczak (2002, Abstract and §1) 将 $H_d(n,M)$ 的相变尺度定位为

$$ M=\frac{n}{d(d-1)}+O(n^{2/3}). \tag{2H.12} $$

粗粒度的三阶段数量级来自 Schmidt-Pruzan and Shamir (1985),并由 Karoński and Łuczak (2002, §1) 回顾:若 $M=cn$,则以高概率在 $c<1/[d(d-1)]$ 时最大分量为对数阶,在 $c=1/[d(d-1)]$ 时最大分量规模为 $\Theta(n^{2/3})$,在 $c>1/[d(d-1)]$ 时出现唯一的线性阶巨分量。Karoński–Łuczak 进一步分析临界附近,并给出亚临界和早期超临界阶段最大分量规模的局部极限定理。$d=2$ 时相同临界尺度退化为经典随机图结论。上述连通性采用 Berge 路径口径。

该阈值可由分支过程给出直觉解释。若局部节点关联度近似分布为 $D$,沿一条已发现的超边到达节点后,可继续探索的事件数具有过剩均值 $\mathbb E[D(D-1)]/\mathbb ED$;每个新事件最多带来 $d-1$ 个节点。因此有效繁殖数近似为

$$ (d-1)\frac{\mathbb E[D(D-1)]}{\mathbb ED}. $$

对稀疏 $H_d(n,M)$,局部关联度渐近为均值 $\lambda=dM/n$ 的 Poisson 分布,过剩均值也为 $\lambda$。令 $(d-1)\lambda=1$,便得到 $M=n/[d(d-1)]$。

三个 H_3(18,M) 固定种子样本的分量摘要:每个样本的 18 个节点中,最大分量节点以彩色标出;M=2、3、8 时最大分量分别含 3、7、13 个节点,并列出完整分量大小谱
图 2H.3 $H_3(18,M)$ 在临界值 $M_c=n/[3(3-1)]=3$ 两侧的单样本分量摘要。图中显示最大分量与完整分量大小谱;三阶段渐近阶见定理 2H.1。

2H.2.3 非均匀独立超边模型

若允许超边大小属于 $\mathcal R\subseteq\{2,3,\ldots,M_0\}$,可以对不同阶数分别指定概率:

$$ X_e\sim\operatorname{Bernoulli}(p_{|e|}), \qquad \mathbb ED_i= \sum_{r\in\mathcal R}\binom{n-1}{r-1}p_r. \tag{2H.13} $$

要使每个阶数对平均关联度贡献常数量级,通常取 $p_r=\Theta(n^{-(r-1)})$。不同阶数共同影响分量增长和局部结构,需要分别纳入各层的概率与组合系数;最大秩 $M_0$ 本身无法替代式 (2H.12) 中固定的 $d$。

2H.2.4 Configuration 型零模型

独立超边模型把节点视为同质对象。若观测中节点活跃度和事件规模差异很大,许多看似特殊的结构可能只由这两类边际量造成。Configuration 型零模型保留节点关联度序列与超边大小序列,再随机化“哪些节点参加哪些事件”,用来检验边际量之外是否还存在额外结构。

令 $M=|\mathcal E|$,$\mathbf d_0=(d_0(1),\ldots,d_0(n))^T$,$\boldsymbol\delta=(\delta(e_1),\ldots,\delta(e_M))^T$。将事件列视为有标号对象时,一个直观的约束状态空间是

$$ \mathfrak F(\mathbf d_0,\boldsymbol\delta) =\left\{ B'\in\{0,1\}^{n\times M}: B'\mathbf1_M=\mathbf d_0, \ {B'}^T\mathbf1_n=\boldsymbol\delta \right\}. \tag{2H.13a} $$

式 (2H.13a) 定义边际约束,完整概率模型还需指定状态空间和其上的分布。二元矩阵排除了边内重复节点;允许相同列时仍包含重复超边,简单超图则要求列互异。对无标号事件,列置换表示同一个超图,因此矩阵上的均匀分布与无标号超图上的均匀分布通常不同。报告 configuration 模型时,应说明对象是否带标号、是否允许重复或退化超边,以及实际采样分布。

固定行和与列和还有一个容易漏掉的含义:它保留每个节点的总关联度 $d_0(v)$ 和每个事件的大小 $\delta(e)$,却一般不保留交叉统计量 $d_r(v)$。也就是说,“节点 $v$ 经常参加大事件”这一节点—事件大小关联会被重连随机化。若该关联本身是待控制的混杂因素,标准二部 configuration 基线可能随机化得过多;需要按事件大小分层重连,或把 $(d_r(v))_{v,r}$ 纳入更强的约束,并重新说明状态空间和采样正确性。

基线选择 先说明零模型保留了哪些边际量
  • $H_d(n,p)$ 只控制阶数与共同出现概率,适合作为同质独立基线;
  • $H_d(n,M)$ 进一步固定超边总数,适合把“数量波动”从比较中移除;
  • 若问题是观测结构能否由节点活跃度与事件大小异质性解释,则应考虑同时保留节点关联度序列和超边大小序列的 configuration 型零模型。

最后一类模型的精确均匀抽样可能困难,因此报告时应区分精确样本与交换、重连等近似样本。下面的一次局部交换用于展示边际如何保持;完整采样器还需给出目标分布与混合依据。

例 2H.3a 一次保持节点度与事件大小的交换

在贯穿例子的关联矩阵中,$(1,e_1)$ 与 $(4,e_3)$ 是两个关联位置,而 $(1,e_3)$ 与 $(4,e_1)$ 是两个空位置。把前两项的 1 移到后两项,相当于作如下替换:

交换前交换后
$e_1=\{1,2\}$$e'_1=\{2,4\}$
$e_3=\{3,4,5\}$$e'_3=\{1,3,5\}$

$e_2=\{1,2,3\}$ 保持不变。交换前后,节点关联度均为 $(2,2,2,1,1)$,超边大小均为 $(2,3,3)$;$|e_1\cap e_2|$ 则从 2 变为 $|e'_1\cap e_2|=1$,说明事件重叠已被随机化。节点—事件大小关联也发生变化:节点 1 的 $(d_2,d_3)$ 从 $(1,1)$ 变为 $(0,2)$,节点 4 则从 $(0,1)$ 变为 $(1,0)$,二者总关联度保持不变。反复执行合法交换可以构造 Markov 链;其目标分布由转移规则和平稳分布决定,有限运行的可靠性由混合诊断评估。

2H.2.5 软约束:超图 $\boldsymbol\beta$-model

Configuration 模型把观测关联度当作必须逐项保持的硬约束。若只想用节点活跃度解释边际异质性,同时保留候选超边之间的条件独立性,可以使用超图 $\boldsymbol\beta$-model。对固定大小 $r$ 的简单候选超边 $e\in\binom Vr$,令

$$ \mathbb P_{\boldsymbol\beta}(X_e=1) =\frac{\exp\!\left(\sum_{i\in e}\beta_{r,i}\right)} {1+\exp\!\left(\sum_{i\in e}\beta_{r,i}\right)}. \tag{2H.13b} $$

参数 $\beta_{r,i}$ 描述节点 $i$ 参与 $r$ 元事件的倾向。若允许 $r=2,\ldots,R$,每个阶数可以有自己的参数向量 $\boldsymbol\beta_r$,相应的分阶关联度应分别保留。忽略与参数无关的常数,第 $r$ 层的对数似然为

$$ \ell_r(\boldsymbol\beta_r) =\sum_{i=1}^n\beta_{r,i}d_r(i) -\sum_{e\in\binom Vr} \log\!\left[1+\exp\!\left(\sum_{i\in e}\beta_{r,i}\right)\right]. \tag{2H.13c} $$

式 (2H.13c) 说明,关于 $\boldsymbol\beta_r$ 的数据项通过分阶关联度序列 $(d_r(i))_{i=1}^n$ 进入,因此它是该指数族的充分统计量。极大似然方程把每个观测 $d_r(i)$ 与模型期望关联度匹配。Configuration 模型在给定边际的纤维上随机化;$\boldsymbol\beta$-model 以边际为充分统计量作软匹配。二者都控制活跃度异质性,分别对应硬约束与期望约束。

小算例 节点参数如何改变三元事件概率

取 $n=4,r=3$,令 $\beta_{3,1}=\log2$,其余三个参数为 0。任何包含节点 1 的三元候选集合出现概率均为 $2/3$;唯一不含节点 1 的集合 $\{2,3,4\}$ 出现概率为 $1/2$。于是 $\mathbb E d_3(1)=3\times(2/3)=2$,而 $\mathbb E d_3(2)=2\times(2/3)+1/2=11/6$。该例的概率差完全来自节点级活跃度,模型中未设置社区标签。

2H.3 随机游走与超图拉普拉斯(Random Walks and Hypergraph Laplacians)

在没有孤立节点的超图上,令 $D_v=\operatorname{diag}(d(v))$、$D_e=\operatorname{diag}(\delta(e))$ 和 $W=\operatorname{diag}(w(e))$。Zhou, Huang, and Schölkopf (2006) 考虑如下两阶段随机游走:在节点 $u$ 处,先以 $w(e)/d(u)$ 选择一条包含 $u$ 的超边 $e$;随后在 $e$ 中均匀选择下一个节点 $v$,其中允许 $v=u$。转移矩阵为

$$ P_{uv}=\sum_{e\in\mathcal E} \frac{w(e)B_{ue}}{d(u)} \frac{B_{ve}}{\delta(e)}, \qquad P=D_v^{-1}BWD_e^{-1}B^T. \tag{2H.14} $$

基本性质 转移矩阵与平稳分布

式 (2H.14) 中的 $P$ 是行随机矩阵,且

$$ \pi(v)=\frac{d(v)}{\operatorname{vol}(V)}, \qquad \operatorname{vol}(V)=\sum_{u\in V}d(u), \tag{2H.15} $$

是其平稳分布。该链满足细致平衡关系 $\pi(u)P_{uv}=\pi(v)P_{vu}$。

证明 转移矩阵与平稳分布

对固定 $u$,先对 $v$ 求和,再使用 $\sum_vB_{ve}=\delta(e)$,得到 $\sum_vP_{uv}=1$。另一方面,

$$ \pi(u)P_{uv} =\frac{1}{\operatorname{vol}(V)} \sum_{e\in\mathcal E} \frac{w(e)B_{ue}B_{ve}}{\delta(e)}, $$

右侧关于 $u,v$ 对称,因此满足细致平衡,进而 $\pi^TP=\pi^T$。∎

图 2H.4 把式 (2H.14) 拆成一棵概率树。它同时解释了为什么转移概率必须对所有包含起点与终点的超边求和,以及为什么该定义天然允许自环概率。

从节点 3 出发的两阶段随机游走:先以 1/2 概率选择 e2 或 e3,再以 1/3 概率选择超边中的节点;终点 3 可由两条路径到达,所以 P33=1/3,其他四个终点概率均为 1/6
图 2H.4 从节点 3 出发的两阶段随机游走。到达同一终点的路径概率必须相加,因此返回节点 3 的概率是其他单一路径终点的两倍。
例 2H.4 逐步计算转移矩阵的第 3 行

节点 3 同时属于 $e_2$ 和 $e_3$,两条超边权重都为 1,而 $d(3)=2$,所以第一阶段各以概率 $1/2$ 选择一条超边。两条超边大小都为 3,第二阶段在其中每个节点上取概率 $1/3$。

终点 1、2 只能经 $e_2$ 到达,终点 4、5 只能经 $e_3$ 到达,故概率均为 $(1/2)(1/3)=1/6$。终点 3 可经两条超边返回,所以概率为 $1/6+1/6=1/3$:

$$ P_{3,\bullet}= \left(\frac16,\frac16,\frac13,\frac16,\frac16\right), \qquad \sum_{v=1}^5P_{3v}=1. $$

退化到普通图:若所有超边大小均为 2,第二阶段仍可能选回起点,因此该链对应带有自环概率的惰性随机游走。

Zhou 等定义的对称归一化超图拉普拉斯为

$$ L_H=I-D_v^{-1/2}BWD_e^{-1}B^TD_v^{-1/2}. \tag{2H.16} $$

命题 2H.2 归一化超图拉普拉斯的半正定性

对任意 $f\in\mathbb R^{|V|}$,

$$ f^TL_Hf =\frac12\sum_{e\in\mathcal E}\frac{w(e)}{\delta(e)} \sum_{u,v\in e} \left( \frac{f_u}{\sqrt{d(u)}}- \frac{f_v}{\sqrt{d(v)}} \right)^2\ge0. \tag{2H.17} $$

因此 $L_H\succeq0$,且 $D_v^{1/2}\mathbf1$ 是零特征向量。若超图连通,则零特征值为单重。

在学习笔记中查看逐步完整证明

半正定性保证连续目标有下界。切分与特征向量的联系来自 Zhou 等定义的超图边界体积与归一化切分:

$$ \operatorname{vol}(\partial S) =\sum_{e\in\mathcal E} \frac{w(e)}{\delta(e)}|e\cap S|\,|e\cap S^c|, \qquad \operatorname{Ncut}_H(S) =\operatorname{vol}(\partial S) \left(\frac1{\operatorname{vol}(S)}+\frac1{\operatorname{vol}(S^c)}\right). \tag{2H.17a} $$

对一个非平凡切分 $S\sqcup S^c=V$,令 $a=\operatorname{vol}(S)$、$b=\operatorname{vol}(S^c)$,并定义

$$ y_u= \begin{cases} \sqrt{b/a},&u\in S,\\ -\sqrt{a/b},&u\in S^c, \end{cases} \qquad f=\frac{D_v^{1/2}y}{\sqrt{\operatorname{vol}(V)}}. \tag{2H.17b} $$

直接代入式 (2H.17) 可得

$$ f^Tf=1,\qquad f^TD_v^{1/2}\mathbf1=0,\qquad f^TL_Hf=\operatorname{Ncut}_H(S). \tag{2H.17c} $$

因此离散切分向量落在单位球面与零特征向量的正交补上。去掉“$f$ 必须只取两种数值”这一离散约束,便得到

$$ \min_{f^Tf=1,\ f^TD_v^{1/2}\mathbf1=0} f^TL_Hf, \tag{2H.17d} $$

其解是 $L_H$ 最小非零特征值对应的特征向量。$Q$ 路切分的对应松弛为 $\min_{X^TX=I_Q}\operatorname{tr}(X^TL_HX)$;取 $Q$ 个最小特征向量后,通过行归一化和 $k$-means 得到离散标签,因此结果一般是原离散目标的近似解。完整代数见学习笔记中的 NH-Cut 推导。

计算检查 五节点例子中两个候选切分的目标值

贯穿例子的节点体积为 $(2,2,2,1,1)$。取 $S_1=\{1,2\}$ 时,只有 $e_2$ 被切开,故 $\operatorname{vol}(\partial S_1)=2/3$,且两侧体积均为 4,于是 $\operatorname{Ncut}_H(S_1)=1/3$。

取 $S_2=\{1,2,3\}$ 时,只有 $e_3$ 被切开,边界体积仍为 $2/3$,但两侧体积变成 6 与 2,因此 $\operatorname{Ncut}_H(S_2)=4/9$。在这两个候选中,$S_1$ 的归一化切分更小;这也显示相同边界体积会因两侧不平衡而得到不同惩罚。

式 (2H.14) 定义的是节点上的线性 Markov 链。Chitra and Raphael (2019) 证明,当第二阶段的节点权重不依赖所选超边时,该链等价于某个加权团图上的随机游走。若节点 $v$ 在不同超边中的作用不同,可以引入 edge-dependent vertex weights $\gamma_e(v)$:

$$ P_{uv}=\sum_{e\ni u}\frac{w(e)}{d(u)} \frac{\gamma_e(v)}{\sum_{x\in e}\gamma_e(x)}. \tag{2H.18} $$

边依赖节点权重时,所得链可能超出无向加权图上的可逆随机游走。判断一个超图线性算子保留了多少高阶信息,可以检查它是否完全由某个投影图确定。

2H.4 超图随机分块模型(Hypergraph Stochastic Block Models)

2H.4.1 Simple Bernoulli HSBM

令 $V=[n]$,允许超边大小 $r=2,\ldots,M_0$。节点标签独立生成:

$$ Z_i\overset{\mathrm{iid}}{\sim} \operatorname{Categorical}(\pi_1,\ldots,\pi_Q). \tag{2H.19} $$

对每个由互异节点构成的无序集合 $e=\{i_1,\ldots,i_r\}$,令 $Y_e=\mathbf1\{e\in\mathcal E\}$。给定标签后,各候选超边条件独立,且

$$ Y_e\mid Z \sim\operatorname{Bernoulli}\!\left( \mathsf P^{(r)}_{Z_{i_1},\ldots,Z_{i_r}} \right). \tag{2H.20} $$

$\mathsf P^{(r)}$ 是关于指标排列对称的 $r$ 阶概率张量。该模型的样本空间是简单非均匀超图:同一节点集合只有出现与不出现两种状态,超边内部由互异节点组成(Brusa and Matias, 2024)。亲和张量记为 $\mathsf P^{(r)}$,关联矩阵记为 $B$。

命题 2H.3 Simple HSBM 的完整数据似然

记 $p_e(Z)=\mathsf P^{(|e|)}_{Z_e}$。完整数据 $(Y,Z)$ 的似然为

$$ \mathbb P_\theta(Y,Z) =\prod_{i=1}^n\pi_{Z_i} \prod_{r=2}^{M_0}\prod_{e\in\binom Vr} p_e(Z)^{Y_e}[1-p_e(Z)]^{1-Y_e}. \tag{2H.21} $$

观测似然为 $\mathbb P_\theta(Y)=\sum_{Z\in[Q]^n}\mathbb P_\theta(Y,Z)$。

在学习笔记中查看逐步完整证明

只区分“整条超边是否完全位于同一群组”的 affiliation 子模型定义为

$$ \mathsf P^{(r)}_{q_1,\ldots,q_r}= \begin{cases} \alpha_r,&q_1=\cdots=q_r,\\ \beta_r,&\text{至少出现两个不同标签}. \end{cases} \tag{2H.22} $$

通常取 $\alpha_r>\beta_r$ 表示同群组超边更常见;一般 HSBM 也容纳异配结构。图 2H.5 用所有可能的二群组三元标签组成显示标签如何进入概率。

AAA、AAB、ABB、BBB 四种三元标签组成只列出一次:H_3(n,p) 把四种组成都映射到概率 p;affiliation HSBM 把同组组成 AAA、BBB 映射到 alpha,把混合组成 AAB、ABB 映射到 beta
图 2H.5 同一批候选组成在两种模型中的概率分流:$H_3(n,p)$ 统一映射到 $p$,affiliation HSBM 将同组与混合组成分别映射到 $\alpha$ 和 $\beta$。一般 HSBM 还可细分 AAB 与 ABB 等组成。
例 2H.5 同一条候选超边在基线与 HSBM 中怎样读概率

在贯穿例子中令 $(Z_1,Z_2,Z_3,Z_4,Z_5)=(1,1,1,2,2)$。三元集合 $e_2=\{1,2,3\}$ 的标签组成为 $(1,1,1)$,故在 affiliation HSBM 中出现概率为 $\alpha_3$;$e_3=\{3,4,5\}$ 的标签组成为 $(1,2,2)$,故出现概率为 $\beta_3$。

在 $H_3(n,p)$ 中,所有标签组成共享概率 $p$,因此两条候选超边具有相同概率。社区效应体现为生成概率随标签组成而变化。

命题 2H.4 HSBM 下的期望节点关联度

给定完整标签向量 $Z=z$,

$$ \mathbb E[D_i\mid Z=z] =\sum_{r=2}^{M_0} \sum_{\substack{S\subseteq V\setminus\{i\}\\|S|=r-1}} \mathsf P^{(r)}_{z_i,z_S}. \tag{2H.23} $$

在式 (2H.22) 的 affiliation 子模型中,若只条件于 $Z_i=a$,则

$$ \mathbb E[D_i\mid Z_i=a] =\sum_{r=2}^{M_0}\binom{n-1}{r-1} \left[ \alpha_r\pi_a^{r-1} +\beta_r(1-\pi_a^{r-1}) \right]. \tag{2H.24} $$ 在学习笔记中查看逐步完整证明
例 2H.6 群组比例本身也会制造度差异

只考虑三元超边,令 $n=20$、$\pi_1=0.6$、$\pi_2=0.4$、$\alpha_3=0.2$、$\beta_3=0.02$。由式 (2H.24),群组 1 中节点的期望关联度为

$$ \binom{19}{2}\left[0.2(0.6)^2+0.02\bigl(1-(0.6)^2\bigr)\right] =171\times0.0848=14.5008, $$

群组 2 中节点的对应期望为 $171\times[0.2(0.4)^2+0.02(1-(0.4)^2)]=8.3448$。模型未设置节点级 $\theta_i$,这一区别完全由群组比例与同配概率产生。因此,群组平均关联度差异也可能来自群组规模。

式 (2H.24) 表明,即使模型没有节点级度参数,不同群组比例也会造成期望关联度差异。若 $\alpha_r$ 和 $\beta_r$ 不随 $n$ 缩小,候选集合数 $\binom{n-1}{r-1}$ 会使模型变得稠密。保持常数平均关联度通常要求 $\mathsf P^{(r)}=O(n^{-(r-1)})$。

HSBM 至少具有标签置换不识别:同时重命名所有群组,并按相同置换重排 $\pi$ 与各 $\mathsf P^{(r)}$,观测分布不变。因此标签损失必须在群组排列后计算。单个 $r$ 阶对称概率张量含

$$ \binom{Q+r-1}{r} \tag{2H.25} $$

个不同参数;当群组数或最大阶数增大时,参数量会迅速上升。

从式 (2H.21) 到估计量还差一步:观测似然中的 $\sum_Z$ 包含 $Q^n$ 个标签配置。Brusa and Matias (2024, §2.3) 用节点间因子化分布 $Q_\tau(Z)=\prod_{i,q}\tau_{iq}^{\mathbf1\{Z_i=q\}}$ 近似后验。记 $\varphi(y,b)=y\log b+(1-y)\log(1-b)$,并把候选集合写成 $e=\{i_1<\cdots<i_r\}$,则证据下界可写为

$$ \begin{aligned} \mathcal J(\theta,\tau) ={}&\sum_{i=1}^n\sum_{q=1}^Q \tau_{iq}\log\frac{\pi_q}{\tau_{iq}}\\ &+\sum_{r=2}^{M_0}\sum_{e\in\binom Vr} \sum_{(q_1,\ldots,q_r)\in[Q]^r} \left(\prod_{\ell=1}^r\tau_{i_\ell q_\ell}\right) \varphi\!\left(Y_e,\mathsf P^{(r)}_{q_1\cdots q_r}\right). \end{aligned} \tag{2H.25a} $$

它满足 $\mathcal J=\log P_\theta(Y)-\operatorname{KL}(Q_\tau\|P_\theta(Z\mid Y))$,所以是观测对数似然的下界。固定参数后,VE 步的内点解满足以下固定点方程:

$$ \log\tau_{iq} =c_i+\log\pi_q +\sum_{r=2}^{M_0} \sum_{\substack{S\subseteq V\setminus\{i\}\\|S|=r-1}} \sum_{\mathbf q_S\in[Q]^{r-1}} \left(\prod_{j\in S}\tau_{j,q_j}\right) \varphi\!\left(Y_{\{i\}\cup S},\mathsf P^{(r)}_{q,\mathbf q_S}\right), \tag{2H.25b} $$

其中 $c_i$ 使 $\sum_q\tau_{iq}=1$。该式明确显示:更新节点 $i$ 的软标签时,所有包含 $i$ 的候选超边——包括未出现的候选集合——都会提供证据。

M 步则是软计数。对按非降序排列的标签多重组 $\mathbf q=(q_1,\ldots,q_r)$,令 $\mathfrak O(\mathbf q)$ 为其不同排列,并定义

$$ \omega_{e,\mathbf q}(\tau) =\sum_{\mathbf a\in\mathfrak O(\mathbf q)} \prod_{\ell=1}^r\tau_{i_\ell a_\ell}. $$

则完整 simple HSBM 的更新为

$$ \widehat\pi_q=\frac1n\sum_{i=1}^n\tau_{iq}, \qquad \widehat{\mathsf P}^{(r)}_{\mathbf q} =\frac{\sum_{e\in\binom Vr}\omega_{e,\mathbf q}(\tau)Y_e} {\sum_{e\in\binom Vr}\omega_{e,\mathbf q}(\tau)}. \tag{2H.25c} $$

分子是该软标签组成下的期望出现次数,分母是相应候选次数。VE 与 M 步交替进行,多初值运行后保留较大的 ELBO。Brusa and Matias (2024) 指出,式 (2H.25b) 的固定点缺少一般的存在性与唯一性保证;数值收敛和标签的一致恢复需要分别评估。

群组数可用论文给出的 ICL 型准则比较。对完整模型,若 $\widehat Z_i=\arg\max_q\tau_{iq}$,则

$$ \operatorname{ICL}_{\mathrm{full}}(Q) =\log P_{\widehat\theta}(Y,\widehat Z) -\frac{Q-1}{2}\log n -\frac12\sum_{r=2}^{M_0} \binom{Q+r-1}{r}\log\binom nr. \tag{2H.25d} $$

最后一项同时惩罚参数数目和每一阶的有效候选样本量。最大化 ICL 提供模型选择规则;阶数选择的一致性需要额外理论条件。Affiliation 子模型应使用其较少的参数维数。

2H.4.2 Poisson degree-corrected HSBM(进阶)

Simple HSBM 在给定标签组合后仍把节点视为同质。若节点本身的活跃程度差异显著,可以引入节点参数 $\theta_i$。Chodrow, Veldt, and Benson (2021) 的 DCHSBM 以节点多重集合为超边位置。令 $\mathcal R_r$ 为总大小恰为 $r$ 的无序节点多重集之集,并固定 $\mathcal R=\bigcup_{r=2}^{M_0}\mathcal R_r$。对 $R\in\mathcal R$,$a_R\in\{0,1,2,\ldots\}$ 是该位置上的超边数,$b_R$ 是 $R$ 中节点的不同排列数。给定 $(z,\theta,\Omega)$ 后,各位置的计数 $(a_R)_{R\in\mathcal R}$ 相互独立,且

$$ a_R\mid z,\theta,\Omega \sim\operatorname{Poisson}\!\left( b_R\prod_{i\in R}\theta_i\,\Omega(z_R) \right),\qquad R\in\mathcal R. \tag{2H.26} $$

乘积按节点在 $R$ 中的重数计算。$\theta_i$ 控制节点活跃度,$\Omega(z_R)$ 控制标签组合及超边大小的亲和度。与 Bernoulli simple HSBM 相比,该模型允许同一位置出现多条超边,并在原始定义中允许超边内部重复节点。

两个具有相同 AAA 群组组成的三元候选位置:第一个含 theta=2 的高活跃节点,另两个节点 theta=1;第二个把高活跃节点换为 theta=0.5 的低活跃节点;去掉共同的 b_R 后,前者强度为 2 Omega,后者为 0.5 Omega,比例为 4
图 2H.6 同一标签组成下的节点活跃度效应。图中省略两条位置共同的组合因子 $b_R$;在相同 $\Omega(AAA)$ 下,节点参数乘积给出 4 倍强度差。
例 2H.7 同群组三元位置的四倍强度差

设 $R_{\mathrm{high}}=\{h,u,v\}$ 与 $R_{\mathrm{low}}=\{\ell,u,v\}$ 中三个节点互异且都属于群组 A,并令 $\theta_h=2$、$\theta_\ell=0.5$、$\theta_u=\theta_v=1$。两条位置都有 $b_R=3!=6$,故

$$ \lambda_{\mathrm{high}}=12\Omega(AAA),\qquad \lambda_{\mathrm{low}}=3\Omega(AAA),\qquad \frac{\lambda_{\mathrm{high}}}{\lambda_{\mathrm{low}}}=4. $$

这个比值来自活跃度而非社区。另一方面,若把该群组所有 $\theta_i$ 同乘 2,并把三元亲和度 $\Omega(AAA)$ 除以 $2^3=8$,每条三元位置的强度保持不变;这正是命题 2H.5 所要求规范化的原因。

命题 2H.5 DCHSBM 的群组尺度不识别

对每个群组 $q$ 任取常数 $c_q>0$,并令

$$ \theta_i'=c_{z_i}\theta_i, \qquad \Omega'(z_R)= \frac{\Omega(z_R)}{\prod_{i\in R}c_{z_i}}. \tag{2H.27} $$

则式 (2H.26) 中每个 Poisson 强度保持不变。因此,$\theta$ 与 $\Omega$ 需要规范化才能分别确定尺度。

在学习笔记中查看逐步完整证明

Chodrow 等采用规范化

$$ \sum_{i:z_i=q}\theta_i =\operatorname{vol}(q) =\sum_{i:z_i=q}d_i, \tag{2H.28} $$

并在固定标签下得到条件极大似然估计 $\widehat\theta_i=d_i$。也可以规定每组的 $\theta_i$ 之和为 1,此时 $\Omega$ 获得相应的新尺度与解释;跨规范化比较时应先完成尺度换算。

该模型的超图 modularity 目标可以从条件对数似然推出。记 $\Pi(\theta_R)=\prod_{i\in R}\theta_i$,略去只依赖数据的常数后,标签与亲和函数进入

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,\theta) =\sum_{R\in\mathcal R}\left[ a_R\log\Omega(z_R) -b_R\Pi(\theta_R)\Omega(z_R) \right]. \tag{2H.28a} $$

在式 (2H.28) 的规范化下代入 $\widehat\theta=d$,并要求 $\Omega$ 只依赖一条超边中各群组出现次数的排序向量 $\mathbf p=\phi(z_R)$,Chodrow 等把同类项合并为

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,d) =\sum_{\mathbf p}\left[ \operatorname{cut}_{\mathbf p}(z)\log\Omega(\mathbf p) -\operatorname{vol}_{\mathbf p}(z)\Omega(\mathbf p) \right]. \tag{2H.28b} $$

$\operatorname{cut}_{\mathbf p}$ 计数观测超边中标签组成等于 $\mathbf p$ 的权重;$\operatorname{vol}_{\mathbf p}$ 是度校正零模型下相应组成的暴露量。“cut” 按完整标签组成分箱,信息多于一个跨组指示量。

最常用的 all-or-nothing(AON)亲和函数只区分一条 $r$ 元超边是否全部位于同一群组。若同组与跨组亲和度分别为 $\omega_{r1}$ 与 $\omega_{r0}$,令

$$ \kappa_r=\log\frac{\omega_{r1}}{\omega_{r0}}, \qquad \xi_r=\frac{\omega_{r1}-\omega_{r0}}{\kappa_r}, $$

当 $\omega_{r1}=\omega_{r0}=\omega_r$ 时,以连续延拓定义 $\xi_r=\omega_r$;此时 $\kappa_r=0$,该阶不提供划分信号。与标签有关的目标可整理为

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,d) =-\sum_{r=2}^{M_0}\kappa_r \left[ \operatorname{cut}_r(z) +\xi_r\sum_{q=1}^Q\operatorname{vol}(q)^r \right]+J(\Omega), \tag{2H.28c} $$

其中 $\operatorname{cut}_r$ 是含至少两个群组的观测 $r$ 元超边总权重,$J(\Omega)$ 与 $z$ 无关。若 $\omega_{r1}>\omega_{r0}$,最大化似然等价于在度校正体积惩罚下减少跨组超边,由此得到 modularity 型目标。论文先在无约束亲和函数下得到 $\widehat\theta=d$ 与亲和度闭式更新,再施加对称结构;群组体积不等时,这些更新是受限条件极大似然的近似。式 (2H.28c) 的精确 profile-likelihood 解释相应依赖群组体积条件。

Bernoulli HSBM 观测互异节点集合的出现指标,Poisson DCHSBM 观测节点多重集合位置上的超边计数。在稀疏且强度较小时,Poisson 分布可以近似 Bernoulli 分布;重复事件、似然常数和参数解释仍按各自样本空间定义。

2H.5 推断路线与恢复保证(Inference and Recovery)

2H.5.1 四类计算路线

比较超图方法时,可从原始观测、表示、优化目标和保留的信息四个方面展开。

路线 直接输入 典型对象 主要优势 信息与计算特点
关联矩阵谱方法 $B,W,D_v,D_e$ $L_H$ 的特征向量、节点随机游走 线性代数成熟,易扩展到聚类与半监督学习 常见线性算子可能等价于加权投影图
完整超边似然 $\{Y_e\}$ 或 $\{a_R\}$ HSBM/DCHSBM 似然、VEM、profile likelihood 参数和样本空间明确,可进行模型比较 条件独立、未出现超边与稀疏标度都进入目标函数
低秩超图嵌入 原始超边;非均匀时可加入空节点 节点嵌入、惩罚似然、嵌入空间中的聚类 可容纳同一社区内部的连续异质性 目标非凸,依赖初始化;空节点扩充本身也是建模约定
固定阶张量方法 $m$-阶邻接或亲和张量 HOSVD、tensor trace maximization、张量幂迭代 在松弛前显式保留固定阶多元结构 非均匀数据需分阶或扩充,完整张量的时间与存储代价高
从原始记录到超图统计结论的决策图:先判断观测是节点对还是节点集合,再判断是否需要保留事件身份、潜在群组是否改变概率、重复事件或度异质性是否重要;对应选择 incidence 或 star、投影或张量、均匀或边际约束随机基线、simple HSBM 或 Poisson DCHSBM
图 2H.7 表示与模型的默认选择地图。各分支依据观测语义与估计目标选择;结果报告包括稀疏标度、优化目标、生成式诊断和误差口径。

2H.5.1.1 关联矩阵谱聚类

给定群组数 $Q$,先由式 (2H.16) 构造归一化超图 Laplacian $L_H$。取其 $Q$ 个最小特征值对应的正交特征向量组成 $X\in\mathbb R^{n\times Q}$,将 $X$ 的每一行归一化,再对这些行向量运行 $k$-means;第 $i$ 行所属的簇就是节点 $i$ 的估计标签。二分时,也可由最小非零特征值对应特征向量的符号给出切分。该算法先求解 normalized hypergraph cut 的连续松弛,再由聚类步骤完成离散舍入。

Ghoshdastidar and Dukkipati (2017a) 对植入分区模型中的这条管线给出一致性分析。其逻辑依次是:总体 Laplacian 的群组结构形成特征间隙,样本 Laplacian 集中于总体算子,特征子空间扰动保持可控,最后 $k$-means 将嵌入还原为标签。该保证要求足够的稠密度、总体特征间隙和稳定的近似聚类。由于 $L_H$ 可写成一个加权图算子,这条路线使用的是可图化的成对信息。

代表性保证 Ghoshdastidar–Dukkipati (2017a), Theorem 4.2

在该文的 planted-partition 模型中,设 $\bar D$ 为期望度矩阵,群组大小满足 $n_1\ge\cdots\ge n_Q$。原文的最低期望度 $d=\min_i\bar D_{ii}$ 在此记为 $d_{\min}$,可识别性量 $\delta$ 记为 $\Delta_{\mathrm{id}}$。总体收缩矩阵可写成 $\bar A=ZGZ^T-J$,其中 $J$ 为群组内常数的对角矩阵,且

$$ \Delta_{\mathrm{id}} =\lambda_{\min}(G) \min_{1\le i\le n}\frac{n_{z_i}}{\bar D_{ii}} -\max_{1\le i,j\le n} \left| \frac{J_{ii}}{\bar D_{ii}}- \frac{J_{jj}}{\bar D_{jj}} \right|. $$

存在绝对常数 $C>0$,使得当 $n$ 足够大、$\Delta_{\mathrm{id}}>0$ 且

$$ d_{\min}>C\frac{Qn_1(\log n)^2}{\Delta_{\mathrm{id}}^2n_Q}, \tag{2H.28d} $$

论文的谱算法以至少 $1-O((\log n)^{-1/4})$ 的概率满足

$$ \operatorname{Err}_{\#}(\widehat z,z) =O\!\left(\frac{Qn_1\log n}{\Delta_{\mathrm{id}}^2d_{\min}}\right), \tag{2H.28e} $$

其中 $\operatorname{Err}_{\#}$ 表示最佳标签置换后的错分节点数。把式 (2H.28d) 代入可得 $\operatorname{Err}_{\#}/n=o(1)$,即论文所称 weak consistency;按本章统一口径,这是几乎精确恢复。结论适用于该文的 planted-partition 模型、算子与近似 $k$-means 条件。

在学习笔记中逐项读取条件与误差链

2H.5.1.2 完整超边似然与变分 EM

Bernoulli HSBM 从式 (2H.21) 出发,把每个候选节点集合的出现与未出现都纳入似然。精确 E 步需要计算含 $Q^n$ 个标签配置的后验,因此 Brusa and Matias (2024) 采用节点间因子化的近似分布

$$ Q_\tau(Z)=\prod_{i=1}^n\prod_{q=1}^Q \tau_{iq}^{\mathbf1\{Z_i=q\}}, \qquad \sum_q\tau_{iq}=1, $$

并交替增大证据下界(ELBO)。一个最小可执行流程是:先用随机标签或谱聚类初始化 $\tau$;在 VE 步中固定模型参数并迭代更新 $\tau_{iq}$;在 M 步中把 $\pi_q$ 和各阶亲和概率更新为由 $\tau$ 加权的频率;ELBO 收敛后输出 $\widehat z_i=\arg\max_q\tau_{iq}$。不同初值应分别运行并比较最终 ELBO,$Q$ 与最大建模阶数还可用 ICL 型准则选择。算法收敛描述数值固定点或局部最优点,统计一致性则由独立的恢复分析给出。

候选节点集合的数量随阶数呈组合爆炸。若所有大小 $2,\ldots,n$ 都允许,简单超图共有

$$ \sum_{r=2}^{n}\binom nr=2^n-n-1 $$

个候选位置;即使最大阶数 $R$ 固定,最高阶也有 $\binom nR=\Theta(n^R)$ 个位置。因此“大规模”包含两个轴:节点数与观测事件数决定数据结构和迭代开销,单条超边大小与最大阶数决定候选空间、张量和单次事件处理开销。报告复杂度时应分别给出这两类尺度。

一个可扩展近似是保留全部已出现超边,并抽样部分未出现候选集合来近似总体目标。抽样目标具有自己的单调性、估计性质和恢复条件,需要根据具体抽样方案分析。

2H.5.1.3 空节点扩充与低秩嵌入

Zhen and Wang (2023) 处理最大超边大小为 $m$ 的非均匀超图时,只加入一个空节点 $0$,并允许它重复出现:大小为 $\ell<m$ 的超边补成含 $m-\ell$ 个空节点的 $m$-元多重集合。扩充后的邻接张量记为 $\mathcal A$,节点 $i$ 由低维向量 $\alpha_i\in\mathbb R^r$ 表示,并令变换后的概率张量具有对称低秩形式

$$ \Theta=\mathcal I_r\times_1\alpha\times_2\cdots\times_m\alpha. $$

估计目标由超边负对数似然和“嵌入应靠近某个群组中心”的 $k$-means 型惩罚共同组成。计算时可用 HOSVD 暖启动,随后交替执行两步:固定标签和中心,对 $\alpha$ 做梯度更新;固定 $\alpha$,用 $k$-means 更新标签矩阵与中心。输出同时包含连续嵌入、估计超边概率和离散社区。该方法比“先做团投影再嵌入”保留更多阶数信息,但目标非凸,论文保证依赖适当的初始化、群组分离与稀疏度条件。

2H.5.1.4 固定阶张量与 TTM

对 $m$-均匀加权超图,可先形成 $m$ 阶亲和张量 $\mathcal A$。Ghoshdastidar and Dukkipati (2017b) 的 tensor trace maximization(TTM)以“群组内部归一化亲和度较大”为离散目标;其可计算谱松弛先把后 $m-2$ 个指标求和,得到

$$ C_{ij}=\sum_{i_3,\ldots,i_m}\mathcal A_{ij i_3\cdots i_m}, \qquad S=D^{-1/2}CD^{-1/2}, $$

再取 $S$ 的 $Q$ 个最大特征值对应特征向量,逐行归一化并运行 $k$-means。TTM 从张量目标出发,在谱松弛中压缩为矩阵。HOSVD、CP 分解和张量幂迭代更直接地操作张量,并分别需要低秩、正交性或可分解性条件。完整张量通常有 $O(n^m)$ 个位置,实际计算一般使用稀疏超边表或抽样表示。

一个二群组三元 affiliation HSBM 可以把“生成概率—矩阵信号—错分率”连成一条可算主线。令 $n=2s$,两个群组各有 $s$ 个节点;同组候选三元组以概率 $\alpha$ 出现,其余三元组以概率 $\beta$ 出现。为去掉不影响特征向量的固定归一化常数,下面直接使用未归一化节点对计数(它与前述三阶张量收缩只差一个固定比例)

$$ C_{ij}=\sum_{k\notin\{i,j\}}Y_{\{i,j,k\}}. \tag{2H.28f} $$

若 $i,j$ 同组,可选的第三个节点中有 $s-2$ 个保持全同组、$s$ 个形成混合三元组;若 $i,j$ 异组,则所有 $2s-2$ 个第三节点都形成混合三元组。因此

$$ \mathbb E[C_{ij}\mid z_i=z_j] =(s-2)\alpha+s\beta, \qquad \mathbb E[C_{ij}\mid z_i\ne z_j] =(2s-2)\beta, \tag{2H.28g} $$

两类配对的总体差恰为 $(s-2)(\alpha-\beta)$,因此 $\alpha>\beta$ 时矩阵化后的总体算子保留块信号。有限样本表现还取决于噪声规模,矩阵化后的可用信息则由收缩映射决定。计数证明见学习笔记。

在三元无权超图中,这个矩阵收缩与式 (2H.16) 的 Zhou 算子有精确对应。记 $D_h=\operatorname{diag}(d_0(i))$,并令 $C_{ii}=0$;由于 $BB^T=D_h+C$ 且 $\sum_jC_{ij}=2d_0(i)$,若 $D_C=\operatorname{diag}(C\mathbf1)=2D_h$,则在非孤立节点上

$$ D_h^{-1/2}BD_e^{-1}B^TD_h^{-1/2} =\frac13I+\frac13D_h^{-1/2}CD_h^{-1/2} =\frac13I+\frac23D_C^{-1/2}CD_C^{-1/2}. \tag{2H.28h} $$

两者只相差正比例缩放与单位阵平移,因而具有相同特征向量。该等价性成立于三元、无权且采用上述收缩的情形。

图 2H.8 对这条主线做一个可复现的有限样本检查:$n=60$、两组等大、$\beta=0.02$,每个 $\alpha-\beta$ 取值独立生成 40 次样本;每次由稀疏三元超边表累计 $C$,计算 $D^{-1/2}CD^{-1/2}$ 的主非平凡特征向量,再做一维二均值聚类。曲线使用最佳标签置换后的错分率。有限 $n$ 下要在两种标签排列中取较小者,因此无信息点的经验中位数可以略低于 $0.5$;虚线表示大样本随机猜测基准。

左图为六十节点三元 affiliation HSBM 样本收缩后的节点对计数热图,同组块较亮;右图为 alpha 减 beta 从零增至零点零三时,四十次固定种子模拟的置换不变错分率中位数及百分之二十至八十分位带,错分率随信号增强而下降
图 2H.8 三元 affiliation HSBM 的有限样本谱恢复检查。左图展示较强信号样本的配对计数块结构;右图给出固定种子 Monte Carlo 的错分率中位数与 20%–80% 分位带。相关充分条件与误差界见式 (2H.28d)–(2H.28e)。

配套学习笔记的第 9 节给出四条路线的计算模板和五节点例子。

2H.5.2 恢复术语

对真实标签 $z\in[Q]^n$ 和估计标签 $\widehat z$,定义置换不变错分率

$$ \operatorname{err}(\widehat z,z) =\min_{\sigma\in\mathfrak S_Q} \frac1n\sum_{i=1}^n \mathbf1\{\widehat z_i\ne\sigma(z_i)\}. \tag{2H.29} $$

定义 2H.2 四类结构恢复保证
  • 检测(detection):以非平凡功效区分含植入结构的模型与相应零模型;它未必输出节点标签。
  • 弱恢复(weak recovery):对一列群组比例收敛到 $\pi$ 的模型,记 $\pi_{\max}=\max_q\pi_q$;存在常数 $\varepsilon>0$,使 $\mathbb P\{1-\operatorname{err}(\widehat z,z)\ge\pi_{\max}+\varepsilon\}\to1$。它优于恒猜最大群组的平凡基线,但错分比例未必趋于 0。平衡 $Q$ 群组时基线为 $1/Q$。
  • 几乎精确恢复(almost exact recovery):$\operatorname{err}(\widehat z,z)\xrightarrow{P}0$,仍允许错分 $o(n)$ 个节点。
  • 精确恢复(exact recovery):$\mathbb P(\operatorname{err}(\widehat z,z)=0)\to1$。
例 2H.8 2% 错分率属于哪一种恢复

设 $n=1000$,在最佳标签置换后有 20 个节点错分,则 $\operatorname{err}(\widehat z,z)=20/1000=0.02$。这表示有限样本中有 2% 节点错分;精确恢复要求错分节点数为 0。

在平衡二群组模型中,若一列规模增长的问题始终约有 $0.02n$ 个错分节点,准确率保持在 0.98,因而达到弱恢复但不达到几乎精确恢复。若错分数以高概率为 $\sqrt n$ 量级,则 $\sqrt n/n\to0$,对应几乎精确恢复。精确恢复进一步要求全体节点同时正确的概率趋于 1。

不同论文对 detection 与 weak recovery 的命名存在差异:有些文献把 detection 专用于模型检验,另一些文献用它表示估计标签与真值具有正相关。因此,引用恢复阈值时应同时给出原文的损失函数、参数标度和概率模式。

恢复结论包含三个层次:信息论上是否存在达到目标的估计器,多项式时间算法能否达到同一阈值,以及具体算法在给定条件下达到何种误差。Chien, Lin, and Wang (2018) 研究均匀 HSBM 的 minimax 错分率;Zhang and Tan (2023) 给出一般均匀 HSBM 的精确恢复阈值;Dumitriu and Wang (2026) 将精确恢复分析推广到一般非均匀 HSBM。Chernoff–Hellinger 型散度、局部 refinement 和信息论下界构成后续社区发现专题的理论主线。

四条计算路线支持的恢复层次各不相同。下表按本章引用的论文逐项对应。

路线 本章采用的代表结果 适用条件或限制
关联矩阵谱聚类 Ghoshdastidar and Dukkipati (2017a) 在 planted-partition 模型下证明错分数为次线性,并在部分稠密均匀情形得到零错分 总体特征间隙、最低稠密度、群组可识别性及 $k$-means 的近似质量
HSBM–VEM Brusa and Matias (2024) 给出可计算估计程序和经验评估 该文的结论集中在估计程序与经验评估;ELBO 收敛与统计恢复保证分开判断
HEM 低秩嵌入 Zhen and Wang (2023) 给出概率张量估计与社区检测的一致性 低秩模型、群组分离、$s_n\gg n^{1-m}\log n$ 量级及取得足够好的局部解
TTM 张量目标 Ghoshdastidar and Dukkipati (2017b) 在稀疏加权均匀 planted-partition 模型下证明错分比例趋零(原文称 weak consistency),并覆盖部分稠密精确恢复情形 固定阶、模型特征间隙、稠密度、矩阵化松弛和 $k$-means 条件

因此,“算法迭代已经收敛”“经验错分率很低”和“满足渐近恢复定理”对应数值、经验与理论三个层次。引用保证时,应同时给出算法、生成模型、参数标度和概率口径。

2H.5.3 模型与表示的选择原则

给定一组群体事件数据,可以按以下顺序建立统计模型。

  1. 首先确定一条观测是互异节点集合、节点多重集合,还是带时间和属性的事件。该决定确定样本空间。
  2. 在聚类前定义“社区”要奖励什么,并说明不同超边大小是否等权;同样的内外超边条数,在按事件计数与按参与规模加权时可能给出不同判断。
  3. 若需要回溯事件身份,保存关联矩阵或星形展开;构造投影图时同时确定目标与权重约定。
  4. 无潜在群组时先使用 $H_d(n,p)$、$H_d(n,M)$ 或分阶独立模型建立同质基线;若需要控制节点活跃度与事件规模,则改用明确定义样本空间的 configuration 型基线。
  5. 群组改变超边概率时使用 simple HSBM;节点活跃度异质性显著且重复事件有意义时考虑 DCHSBM。
  6. 在算法比较中同时报告表示、目标函数、正则化、初始化和恢复指标,使不同统计问题保持可比。

这套流程把建模假设转化为可检查的选择。投影、Poisson 化和条件独立都应作为统计假设记录并验证。

非均匀信号 逐层识别社区信号

把非均匀超图写成共享节点集上的分层集合 $(H_r)_{r\ge2}$ 后,社区信息可能只存在于部分阶数。设二群组模型的二元层对所有标签组成都取概率 $p_2$,而三元层满足同组概率 $\alpha_3$ 大于混合概率 $\beta_3$。此时二元层对标签没有总体辨识力,三元层才携带社区信号;若二元事件数量远多于三元事件,无权合并或统一投影反而可能稀释后者。

不同阶数也可能支持不同分组。分阶样本量、权重和信号检查说明每一层提供的证据,联合目标则说明这些证据如何组合。

2H.5.4 拟合之后:生成式检查

参数估计和标签输出之后还需检查模型拟合。给定拟合模型 $P_{\widehat\theta}$,可在相同节点集与观测规则下生成复制样本 $H^{(1)},\ldots,H^{(B)}$,再比较观测超图与复制样本中未被拟合过程固定的统计量。一个适合本章的最小诊断向量是

$$ T(H)=\left( (|\mathcal E_r|)_r, \operatorname{quantile}\{d_0(v):v\in V\}, (I_k)_k, |C_{\max}| \right), \qquad I_k=\sum_{\{e,f\}\subseteq\mathcal E}\mathbf1\{|e\cap f|=k\}. \tag{2H.30} $$

其中 $C_{\max}$ 是按 Berge 路径口径得到的最大连通分量。四部分依次检查超边大小、节点活跃度、事件重叠和连通结构。诊断应优先选择拟合过程没有锁定的统计量。例如,以 $\widehat p=|\mathcal E|/\binom nd$ 拟合 $H_d(n,p)$ 后,复制样本的超边总数期望已经与观测值对齐;节点关联度上尾、$I_2,I_3,\ldots$ 和最大分量大小能提供更多拟合信息。

诊断读法 用偏离定位遗漏结构

若 $H_d(n,\widehat p)$ 能复现超边数,却系统性低估高关联度节点,偏离指向活跃度异质性,可以进一步比较 configuration 基线或带度修正的模型。若 configuration 基线已复现节点关联度和超边大小,却仍系统性低估 $I_k$ 的大 $k$ 尾部,偏离则指向额外的事件重叠结构。

生成式检查用于定位当前模型遗漏的结构。后续模型再结合样本空间、可识别性、计算代价和外部任务选择。

比较原则 同时采用模型内外基准

若所有合成数据都由 HSBM 生成,再比较 HSBM 似然法与非模型法,实验同时检验了算法和“谁知道真实模型”两件事,容易偏向模型匹配的方法。更稳妥的基准应同时包含模型内数据与模型外数据,例如固定边际的重连样本、潜在几何或增长机制、混合阶且分层信号强弱不同的样本;评价也应同时报告标签损失与未被拟合强制匹配的结构统计量。

模型内实验回答“假设正确时能否恢复”,模型外实验回答“假设偏离时怎样失效”。两类结果分别报告。

2H.6 进一步说明(Further Notes)

以下方向把本章的表示与模型连接到后续专题。

中心性与非线性谱。 均匀超图的邻接张量可以定义多种节点与超边特征向量中心性。不同张量特征值概念具有各自的代数性质,非均匀超图则可采用分阶张量或扩充方案。Cooper–Dutle 归一化连接到 resultant、特征多项式和张量幂法等谱方法。

重叠路径与 motif。 超图中的“闭合”可以定义在节点、超边、不同重叠宽度或不同大小的 motif 上,因此 transitivity 与 clustering coefficient 有多种推广。式 (2H.6b) 给出 $k$-walk 与 $k$-distance;高阶 cycle、motif 频率及相应中心性由所选对象和归一化决定。

增长与潜在几何。 Preferential attachment 模型解释事件与节点如何随系统增长而加入;latent-space 模型让一组连续潜在位置共同决定超边概率。前者适合机制与重尾形成问题,后者适合相似性或空间邻近机制。相应专题进一步研究参数估计与可识别性。

直接超图正则化。 式 (2H.16) 属于线性、clique-based 的拉普拉斯路线。若目标依赖一条超边内部的最大差异或其他不可加群体效应,可以使用 hypergraph total variation 等非线性正则项。此时优化问题和谱解释都会改变。

高级社区恢复。 非回溯谱、belief propagation、高级张量分解与幂迭代、半正定松弛和局部 refinement 分别对应不同稀疏区间与计算假设。具体算法阈值由模型、参数标度和算法条件共同确定。

时间、抽样与神经网络。 当超边带时间戳时,事件形成、解散和记忆会破坏静态条件独立性;当超图只能通过抽样观察时,节点随机游走与超边随机游走会诱导不同的包含概率;超图神经网络则还需区分其消息传递是否超越了某种图投影。这些内容分别进入后续时间网络、抽样和学习专题。

2H.7 本章来源与逐项定位(Sources and Traceability)

本章综合多项高阶网络研究。Bick et al. (2023) 与 Battiston et al. (2020) 提供概念框架,Matias (2026) 提供统计建模地图、描述统计和可扩展性分析;公式、模型和定理分别对应其原始研究论文。下表列出主要主张与来源位置。

本章内容 来源中的定位 正文采用方式
超图、简单超图与单纯复形 Bick et al. (2023), §§1.1, 2.1.1–2.1.2 采用集合族定义与向下闭合区分,并分别声明多重超图的样本空间
基本记号、观测对象、分阶描述统计、事件线图、二部模型、模型地图、分层信号与可扩展性 Matias (2026), §§1–6 用作术语对照和统计问题地图;读图卡、式 (2H.3a)–(2H.3b)、式 (2H.4a)–(2H.4c)、式 (2H.6a)、式 (2H.13a)、局部交换、算例及生成式诊断为项目展开
二部表示的可逆条件、固定事件槽与 bipartite SBM 约束 Brusa and Matias (2024), Supplement A.1–A.3 区分带索引的重复事件、单节点事件与去重后的简单超边集合;式 (2H.4c) 表示一个事件槽的共同包含概率;图 2H.1a 为项目构造
$k$-walk、$k$-line graph 与超边距离 Aksoy et al. (2020), Definitions 5 and 7, Proposition 1, §§4.2–4.4 采用 edge-level walk 与 distance;图 2H.2a 由贯穿例子构造
分层超图 $\boldsymbol\beta$-model Nandy and Bhattacharya (2024), Definition 1.1, Eqs. (1.2), (2.2)–(2.3) 对应式 (2H.13b)–(2H.13c) 的软度约束与充分统计量;MLE 收敛率、置信区间和检验阈值见原文
$H_d(n,M)$ 的相变尺度 Karoński and Łuczak (2002), Abstract, §1 式 (2H.12) 来自该文;§1 将粗粒度三阶段结果归于 Schmidt-Pruzan and Shamir (1985),本章据此拆分归因
巨分量三阶段数量级 Schmidt-Pruzan and Shamir (1985);Karoński and Łuczak (2002), §1 原始三阶段结果归前者;后者负责临界附近的精细分析
关联矩阵、两阶段游走、$L_H$ 与 NH-Cut Zhou et al. (2006), §§2–6, Eqs. (1)–(5), Theorem 1 对应式 (2H.2)–(2H.3)、(2H.14)–(2H.17d);从边界体积逐式推到 Rayleigh 松弛,并说明离散舍入步骤
随机游走何时可图化 Chitra and Raphael (2019), §3, Theorems 3.1–3.2 边无关节点权重对应加权团图;边依赖权重包含不可图化情形
$d$-均匀邻接张量与特征对 Cooper and Dutle (2012), Definitions 2.3, 3.1, Eq. (3) 式 (2H.7)–(2H.7b) 用于简单均匀超图;单边算例核对排列归一化,非均匀情形采用分阶或扩充约定
Simple Bernoulli HSBM、VEM 与 ICL Brusa and Matias (2024), §§2.1–2.4, Propositions 4–6 对应式 (2H.19)–(2H.25d),展开 VE 固定点、M 步、完整模型 ICL 及局部最优性质
Poisson DCHSBM 与 modularity Chodrow et al. (2021), §§2–3.2, Eqs. (1), (3)–(4), (9)–(16), Appendix A 对应式 (2H.26)–(2H.28c);保留多重集合样本空间、尺度规范化,以及不等群组体积时近似 MLE 的条件
谱划分的一致性定理 Ghoshdastidar and Dukkipati (2017a), §4.1, Lemma 4.1, Theorem 4.2 按本章记号 $d_{\min},\Delta_{\mathrm{id}}$ 给出最低期望度、可识别性量、$n_1/n_Q$、概率口径和错分节点数阶;保证限定于原文模型
HEM 低秩嵌入 Zhen and Wang (2023), §§3.1–3.3, Eqs. (1)–(5) 采用单空节点扩充、低秩嵌入、惩罚目标、交替更新及原文一致性条件
TTM 谱松弛 Ghoshdastidar and Dukkipati (2017b), §§3–4, Algorithm TTM, Theorem 2 张量在该松弛中收缩为矩阵;理论保证对应 TTM 的模型与算法条件
三元收缩算例与图 2H.8 affiliation HSBM 定义;tools/generate_hypergraph_figures.py 期望对比由项目组合计数推导;固定种子 Monte Carlo 展示有限样本趋势
Sample-to-population 近似 Fritz, Yuan, and Schweinberger (2026), §§4–5 采用其抽样估计框架、可识别性和估计界
错分率与精确恢复 Chien et al. (2018), Theorems 3.1–3.2;Zhang and Tan (2023), Definitions 1–2, Theorems 1–3;Dumitriu and Wang (2026), Theorems 1.12, 1.17–1.18 本章统一损失与保证层级;具体阈值连同模型、稀疏标度和概率口径引用

完整书目信息如下。

  1. Battiston, F. et al. (2020), “Networks beyond pairwise interactions: Structure and dynamics,” Physics Reports, 874, 1–92. DOI
  2. Bick, C., Gross, E., Harrington, H. A., and Schaub, M. T. (2023), “What Are Higher-Order Networks?” SIAM Review, 65(3), 686–731. DOI
  3. Karoński, M. and Łuczak, T. (2002), “The phase transition in a random hypergraph,” Journal of Computational and Applied Mathematics, 142(1), 125–135. DOI
  4. Zhou, D., Huang, J., and Schölkopf, B. (2006), “Learning with Hypergraphs: Clustering, Classification, and Embedding,” Advances in Neural Information Processing Systems, 19, 1601–1608. 论文页
  5. Chitra, U. and Raphael, B. (2019), “Random Walks on Hypergraphs with Edge-Dependent Vertex Weights,” ICML 2019, PMLR 97, 1172–1181. 论文页
  6. Cooper, J. and Dutle, A. (2012), “Spectra of uniform hypergraphs,” Linear Algebra and its Applications, 436(9), 3268–3292. DOI
  7. Ghoshdastidar, D. and Dukkipati, A. (2017a), “Consistency of spectral hypergraph partitioning under planted partition model,” The Annals of Statistics, 45(1), 289–315. DOI
  8. Brusa, L. and Matias, C. (2024), “Model-based clustering in simple hypergraphs through a stochastic blockmodel,” Scandinavian Journal of Statistics, 51(4), 1661–1684. DOI
  9. Chodrow, P. S., Veldt, N., and Benson, A. R. (2021), “Generative hypergraph clustering: From blockmodels to modularity,” Science Advances, 7(28), eabh1303. DOI
  10. Zhen, Y. and Wang, J. (2023), “Community detection in general hypergraph via graph embedding,” Journal of the American Statistical Association, 118(543), 1620–1629. DOI
  11. Chien, I., Lin, C.-Y., and Wang, I.-H. (2018), “Community Detection in Hypergraphs: Optimal Statistical Limit and Efficient Algorithms,” Proceedings of AISTATS 2018, PMLR 84, 871–879. 论文页
  12. Zhang, Q. and Tan, V. Y. F. (2023), “Exact Recovery in the General Hypergraph Stochastic Block Model,” IEEE Transactions on Information Theory, 69(1), 453–471. DOI
  13. Dumitriu, I. and Wang, H. (2026), “Optimal and exact recovery on the general non-uniform Hypergraph Stochastic Block Model,” The Annals of Statistics, 54(1), 48–73. DOI
  14. Ghoshdastidar, D. and Dukkipati, A. (2017b), “Uniform Hypergraph Partitioning: Provable Tensor Methods and Sampling Techniques,” Journal of Machine Learning Research, 18(50), 1–41. 论文页
  15. Matias, C. (2026), “A statistical perspective on higher-order interactions modeling,” arXiv:2603.28273v1 [stat.AP], 30 March 2026. arXiv
  16. Aksoy, S. G., Joslyn, C., Ortiz Marrero, C., Praggastis, B., and Purvine, E. (2020), “Hypernetwork science via high-order hypergraph walks,” EPJ Data Science, 9, 16. DOI
  17. Nandy, S. and Bhattacharya, B. B. (2024), “Degree Heterogeneity in Higher-Order Networks: Inference in the Hypergraph $\boldsymbol\beta$-Model,” IEEE Transactions on Information Theory, 70(8), 6000–6024. DOI · arXiv v4
  18. Schmidt-Pruzan, J. and Shamir, E. (1985), “Component structure in the evolution of random hypergraphs,” Combinatorica, 5(1), 81–94. DOI
  19. Fritz, C., Yuan, Y., and Schweinberger, M. (2026), “Scalable Sample-to-Population Estimation of Hyperbolic Space Models for Hypergraphs,” arXiv:2509.07031v2 [stat.ME], revised 1 February 2026. arXiv

本章的详细推导、易混点、公式卡片和自检题见配套学习笔记。

学习笔记 Ch.2H 超图表示与随机模型

第 2H 章学习笔记:超图表示与随机超图模型

章节性质:这是项目补充正文的配套学习笔记,承接第 2 章的随机图模型,并为后续的超图中心性、社区发现、半监督学习、时间网络和抽样建立共同语言。

内容概览:笔记展开对象、表示、随机基线、simple HSBM、Poisson DCHSBM、四条推断路线和恢复术语,并逐项解读一个代表性谱恢复定理。

章节链接:第 1 章和第 2 章提供观测与随机模型基础,附录 A汇集概率和矩阵工具。第 6 节连接第 3 章的随机游走,第 9–10 节连接第 4 章的谱聚类与恢复理论。公式速查见正文阅读前置框。

Chapter 2H · 高阶关系建模
先确认一次观测是否真是“群体事件”,再选择表示与随机模型

超图把关系的观测单位从“节点对”扩展为“节点集合”。阅读时始终追问:当前表示保留了什么,模型又把哪些依赖关系当成随机。

第一遍约 75 分钟语义 → 表示 → 基线 → 分块 → 恢复
观测
节点集合上的二元或多元事件
表示
关联矩阵、二部图、投影与张量
模型
$H_d(n,p)$、HSBM、DCHSBM
目标
结构基线、聚类、嵌入与恢复
  1. 01
    判断是否需要超图

    区分群体事件、成对关系与单纯复形的向下闭合语义。

  2. 02
    在四种表示间转换

    从超边集合构造关联矩阵、星形展开、团投影和均匀邻接张量。

  3. 03
    建立随机基线

    写出 $H_d(n,p)$、$H_d(n,M)$,推导节点关联度及其稀疏标度。

  4. 04
    写出两类分块模型

    区分 simple Bernoulli HSBM 与 Poisson degree-corrected HSBM 的观测空间。

  5. 05
    选择推断路线

    说明谱、似然、低秩嵌入和固定阶张量方法分别使用什么输入、损失什么信息。

  6. 06
    读懂恢复保证

    区分检测、弱恢复、几乎精确恢复与精确恢复,并识别术语口径差异。

1. 本章主线:先决定观测单位,再谈算法

第 2 章把网络写成随机图,每个潜在节点对对应一个边变量。超图模型把候选关系扩展到节点集合,同时改变数据表示、独立性假设、参数规模和可恢复性。

一条主线 · 两遍阅读 第一遍建立模型地图,第二遍检查公式为什么成立

第一遍完成前四步以建立地图;第二遍进入证明、尺度不可识别和恢复术语。

  • 识别观测语义

    一篇三人合著论文是一条三元超边,还是三条两两合作边?答案取决于研究问题,而不是绘图习惯。

  • 选择表示

    关联矩阵和星形展开保留超边身份;团投影便于复用图算法但可能把不同超图压成同一张图;单个固定阶张量只自然容纳均匀超图。

  • 选择随机基线

    同质独立超边用 $H_d(n,p)$;有潜在群组用 HSBM;度异质性明显时再考虑 DCHSBM。

  • 匹配推断目标

    矩阵谱、似然、低秩嵌入和固定阶张量方法的适用性取决于表示对当前 estimand 是否充分。

  • 第二遍闭合证明

    回到关联度分布、拉普拉斯半正定性、HSBM 似然分解、期望关联度和 DCHSBM 尺度不识别。

从本章问题出发

本章路线选择器

先按研究问题选择一条路线,再检查关键转折与后续用途。

对象

一次观测是节点对还是节点集合

核心内容

先固定事件语义,再定义 $H=(V,\mathcal E,w)$

工具出处

第 1 章;附录 A.2 图论

表示

怎样进入矩阵或张量计算

核心内容

incidence / star 保真;projection / tensor 带条件

工具出处

附录 A.3 线性代数

随机基线

“无结构”超图怎样生成

核心内容

$H_d(n,p)$、$H_d(n,M)$ 与非均匀独立模型

工具出处

第 2 章 2.1 节;附录 A.1 概率

随机游走与谱

怎样从关联关系构造扩散和谱对象

核心内容

两阶段游走、平稳分布与归一化拉普拉斯

工具出处

第 3 章 3.1.2 节;附录 A.3

潜在结构

社区如何改变超边概率

核心内容

simple Bernoulli HSBM

工具出处

第 2 章 2.3.1 节;第 4 章 4.3 节

度异质性

活跃节点为何更常出现

核心内容

Poisson DCHSBM 的节点参数 $\theta_i$

工具出处

第 2 章 2.3.2 节

理论保证

“找到社区”到底有多强

核心内容

检测、弱恢复、几乎精确、精确恢复分层

工具出处

第 4 章 4.4 节

使用方式

先选最接近当前任务的一张卡;第一遍只追踪“问题 → 转折”,第二遍再沿“后续用途”进入公式、证明与跨章连接。

2. 贯穿例子:一个五节点混合阶超图

令

$$ V=\{1,2,3,4,5\},\qquad \mathcal E=\{e_1,e_2,e_3\}, $$

其中

$$ e_1=\{1,2\},\qquad e_2=\{1,2,3\},\qquad e_3=\{3,4,5\}, $$

取 $w(e_1)=w(e_2)=w(e_3)=1$。$e_1$ 是二元事件,$e_2,e_3$ 是三元事件,因此这是一个非均匀简单超图。

五节点贯穿例子的原始超图、关联矩阵、星形展开和归一化团投影四种表示
图解 2H-A 先看同一对象在四种表示中的变化,再逐项复算下面的矩阵、度与投影权重。

2.1 关联矩阵在保留事件列时保留全部超边身份

用 $B$ 表示节点—超边关联矩阵,行对应节点、列对应超边:

$$ B= \begin{pmatrix} 1&1&0\\ 1&1&0\\ 0&1&1\\ 0&0&1\\ 0&0&1 \end{pmatrix}. \tag{2H.1} $$

节点的未加权关联度和超边大小分别为

$$ (d_1,d_2,d_3,d_4,d_5)=(2,2,2,1,1),\qquad (\delta_1,\delta_2,\delta_3)=(2,3,3). \tag{2H.2} $$

$d_i$ 是节点 $i$ 参加的超边数,$\delta_e=|e|$ 是超边 $e$ 包含的节点数。

2.2 团投影便于计算,但会合并事件来源

最直接的共现投影为

$$ A^{\mathrm{raw}}_{uv}=\sum_{e\in\mathcal E}B_{ue}B_{ve},\qquad u\ne v. \tag{2H.3} $$

在例子中,节点对 $\{1,2\}$ 同时出现在 $e_1$ 和 $e_2$,所以 $A^{\mathrm{raw}}_{12}=2$;而 $A^{\mathrm{raw}}_{13}=1$。投影记录了共现次数,却不再告诉我们“$\{1,2\}$ 的两次共现分别来自一条二元事件和一条三元事件”。

若希望每条权重为 $w(e)$ 的超边对其中每个节点贡献总图度 $w(e)$,并假设此处所有超边大小至少为 2,可使用

$$ A^{\mathrm{cl}}_{uv} =\sum_{e\in\mathcal E:\,u,v\in e}\frac{w(e)}{\delta(e)-1}, \qquad u\ne v. \tag{2H.4} $$

此时例子中 $A^{\mathrm{cl}}_{12}=1+\frac12=\frac32$,$A^{\mathrm{cl}}_{13}=A^{\mathrm{cl}}_{23}=\frac12$,并且投影图的加权度仍为 $(2,2,2,1,1)$。式 (2H.3) 与式 (2H.4) 都是常见的 clique projection;报告结果时同时写明权重与归一化口径。

一条三元超边和三条二元超边产生相同三角形投影,说明投影不能唯一反推出原超图
图解 2H-B 投影碰撞。若你只看到右侧三角形,就无法判断原数据是一场三人会议还是三场两人会议。

2.3 星形展开把“事件”显式变成第二类节点

星形展开(star expansion)构造二部图

$$ G_\star=(V\sqcup\mathcal E,E_\star), \qquad E_\star=\{(v,e):v\in e\}. $$

五节点例子中的二部边为

$$ \begin{aligned} E_\star=\{& (1,e_1),(2,e_1),\\ & (1,e_2),(2,e_2),(3,e_2),\\ & (3,e_3),(4,e_3),(5,e_3)\}. \end{aligned} $$

若节点排在前、超边节点排在后,该二部图的邻接矩阵就是分块矩阵

$$ A_\star= \begin{pmatrix} 0&B\\ B^T&0 \end{pmatrix}. $$

从每个超边节点的邻居集合可以原样恢复 $e_1,e_2,e_3$,因此星形展开保留事件身份。图中同时存在“参与者”和“事件”两类节点,算法与结果解释需保留这一类型信息。

更一般地,给定已指定“实体侧” $V$ 与“事件侧” $U$ 的二部图,可令

$$ e_u=N(u)\cap V, \qquad \mathcal E^\sharp=(e_u)_{u\in U}. \tag{2H.4a} $$

这里使用带索引族 $(e_u)_{u\in U}$。不同事件节点可以拥有相同邻域,对应成员完全相同但身份不同的重复事件;事件节点只有一个邻居时,对应单节点事件。保留事件列后,二部图与带索引超边族在事件节点重命名意义下可以互相恢复。实体侧与事件侧的语义也随表示一同保存;交换两侧得到相应的对偶关联对象。

下面的项目算例取 $a=d=\{1,2,4\}$、$b=\{2\}$、$c=\{2,3\}$。矩阵中 $a,d$ 两列相同,但仍代表两个事件槽。若把列去重并只保留大小至少为 2 的交互,结果只剩 $\{1,2,4\}$ 与 $\{2,3\}$;从这两条超边不可能恢复原来的四个事件槽。

二部关联矩阵保留四个事件列,其中 a 与 d 的成员完全相同;投到去重且不含单节点事件的简单交互空间后只剩两条超边
图解 2H-A2 二部表示的可逆条件。保留带索引事件列可以恢复原对象;去重与过滤会删除事件身份。

2.4 单个三阶张量无法无损容纳二元超边

若只保留三元子超图 $\{e_2,e_3\}$,Cooper–Dutle 归一化邻接张量可写为

$$ \mathcal A_{ijk}= \begin{cases} \dfrac{1}{2},&\{i,j,k\}\in\{e_2,e_3\},\\ 0,&\text{其他情形}. \end{cases} \tag{2H.5} $$

因每条三元超边有 $3!$ 个排列,而固定首个指标后有 $(3-1)!=2$ 个排列,归一化 $1/2$ 使其余两个指标的求和恰好恢复该节点在三元子超图中的未加权关联度。二元超边 $e_1$ 可通过分阶保存、空节点扩充或专门的非均匀张量约定纳入分析;所选约定决定后续算法接收的信息。

张量的特征方程不是普通矩阵方程。对 $d$ 阶 Cooper–Dutle 邻接张量,特征对满足

$$ \mathcal A x^{d-1}=\lambda x^{[d-1]}, \qquad (\mathcal A x^{d-1})_i =\sum_{i_2,\ldots,i_d}\mathcal A_{ii_2\cdots i_d}x_{i_2}\cdots x_{i_d}. \tag{2H.5a} $$

最小例子是只有超边 $\{1,2,3\}$ 的三元超图。取 $x=(1,1,1)^T$,则

$$ (\mathcal A x^2)_1 =\tfrac12x_2x_3+\tfrac12x_3x_2=1=x_1^2, $$

其余坐标同理,所以 $(\lambda,x)=(1,\mathbf1)$。这里的两项正对应固定首指标后的两个排列。一般张量特征值问题仍按多项式方程组求解;本例仅用于展示归一化。

3. 超图对象与观测语义

定义 2H.1加权超图、秩与均匀性

有限简单加权超图记为 $H=(V,\mathcal E,w)$,其中 $V$ 是节点集,$\mathcal E\subseteq 2^V\setminus\{\varnothing\}$ 是由普通节点集合组成的集合族,$w:\mathcal E\to(0,\infty)$ 是超边权重。

  • $\mathcal E\subseteq2^V$ 排除了重复超边与边内重复节点,对应简单超图(simple hypergraph)。
  • 同一节点集合多次出现时使用带索引的超边多重族;边内允许节点重复时使用节点多重集合超边。
  • 描述统计可保留 $|e|=1$ 的单节点事件;随机交互模型从 $|e|\ge2$ 开始。
  • $w(e)$ 表示出现次数时是整数重数,表示时长、剂量或强度时可以是正实数;相应采样模型由权重语义确定。
  • 若 $\mathcal E\ne\varnothing$,秩为 $\operatorname{rank}(H)=\max_{e\in\mathcal E}|e|$;空超边族约定秩为 0。
  • 若 $\mathcal E\ne\varnothing$ 且所有超边均满足 $|e|=d$,称为 $d$-均匀超图($d$-uniform hypergraph)。普通无向图是 $d=2$ 的特例。

超图是否合适,取决于一条超边是否对应一个不可再分的观测单位。三位作者共同完成一篇论文、五名参与者同时进入一次会议、若干商品出现在同一购物篮,都天然给出节点集合。相反,若数据只记录“谁给谁发了一条消息”,即使许多人属于同一群聊,原始事件仍可能是有向节点对。

还要区分“直接观测超边”和“先构造超边”。作者表或多人收件人通常直接给出参与者集合;由位置轨迹、脑信号或阈值化相似性得到的群体事件,则把时间窗、阈值和识别算法带进了观测机制。对后一类数据,应随 $H$ 一同保存构造规则、敏感性结果和前级识别的不确定性。

部分文献把 $|V|$ 称为 hypergraph order、把 $|\mathcal E|$ 称为 hypergraph size。本笔记统一使用“节点数 $n$”“超边数 $M$”“超边大小 $|e|$”与“秩”。

3.1 超图不等于单纯复形

单纯复形要求向下闭合:若 $\{1,2,3\}$ 是一个 2-单形,则它的所有子集也必须在复形中。超图没有这一要求。观测到三人会议并不自动意味着三场两人会议也发生过。

这一区分影响概率模型:在独立超边模型中,$\{1,2,3\}$ 出现与 $\{1,2\}$ 出现可以是两个不同的 Bernoulli 变量;在单纯复形中,前者出现会强制后者存在,独立性随即被破坏。

3.2 “高阶”不只意味着节点数大于二

一条三元超边提供了三元观测单位;动力学中的不可约三体作用则取决于状态更新函数能否分解为成对作用之和。结构超边与高阶动力学是两个层次的对象。

3.3 建模前的四项体检

对非均匀简单超图,先按超边大小分层。令 $\mathcal E_r=\{e\in\mathcal E:|e|=r\}$,并记 $\mathcal E_{\ge2}=\bigcup_{r\ge2}\mathcal E_r$;对交互层有

$$ \rho_r=\frac{|\mathcal E_r|}{\binom nr}, \qquad d_r(v)=\sum_{e\in\mathcal E_r}\mathbf1\{v\in e\}, \qquad d_{\ge2,0}(v)=\sum_{r\ge2}d_r(v), \qquad d_0(v)=d_1(v)+d_{\ge2,0}(v). $$

在选择模型前至少画出或汇报四项量:分阶与总节点关联度、超边大小分布、分阶密度序列 $(\rho_r)$,以及超边重叠;若同一节点集合可以重复出现,再额外检查权重或重数。它们分别对应“谁在哪类事件中活跃”“事件通常有多大”“不同阶数有多稀疏”和“事件是否反复围绕相同成员形成”。

若最大允许大小 $R$ 由研究设计预先给定,可以写

$$ \rho_{\le R} =\frac{|\mathcal E_{\ge2}|}{\sum_{r=2}^{R}\binom nr} =\frac{\sum_{r=2}^{R}|\mathcal E_r|}{\sum_{r=2}^{R}\binom nr}. $$

总体密度适用于研究设计预先固定最大允许大小 $R$ 的情形。它把不同阶数放在同一分母,并假定 $r>R$ 的超边不在候选空间;单节点事件以 $|\mathcal E_1|$ 单独报告。若用样本最大值定义 $R$,分母会随观测极值改变,跨数据集比较也会改变。贯穿例子中 $\mathcal E_1=\varnothing$,所以 $d_0=d_{\ge2,0}$;其 $\rho_2=1/10$、$\rho_3=2/10$,预先限制 $R=3$ 时总体密度为 $3/20$。Matias (2026, §3.1) 给出分阶密度及这一口径,本节将其整理为预检清单。

4. 四种表示:保存的信息与计算形式

令 $B\in\{0,1\}^{|V|\times|\mathcal E|}$ 为关联矩阵,$B_{ve}=\mathbf 1\{v\in e\}$。由它定义

$$ d(v)=\sum_{e\in\mathcal E}w(e)B_{ve},\qquad d_0(v)=\sum_{e\in\mathcal E}B_{ve},\qquad \delta(e)=\sum_{v\in V}B_{ve}=|e|. \tag{2H.6} $$

这里 $d_0(v)$ 计数不同事件,$d(v)$ 累计事件权重;仅当所有 $w(e)=1$ 时二者相同。后面的无权随机超图记号 $D_i$ 指 $d_0(i)$。

表示 数学对象 是否保留超边身份 主要优势 信息与计算特点
关联矩阵 $B\in\{0,1\}^{n\times m}$ 是 稀疏存储、线性代数、直接恢复超边 列顺序本身无语义;需另存权重
星形展开 二部图 $V\sqcup\mathcal E$ 是 可复用二部图算法;节点与事件分层 二部图模型的条件独立假设未必符合群体事件机制
团投影 / 2-section 节点上的加权图 通常否 可直接使用成熟图算法 多个不同超图可能投影为同一图;阶数和事件来源可丢失
邻接张量 $d$ 阶对称数组 对固定 $d$ 基本保留 直接编码 $d$ 元交互;适合均匀模型 存储与计算昂贵;非均匀超图需分阶或扩充

4.1 二部表示何时无损,二部模型又固定了什么

两层问题先问是在换表示,还是在换样本空间
  1. 确定性表示:观测后的 $V$、事件列 $U$ 和关联矩阵 $B$ 全部固定。星形展开只改变存储方式,不产生新随机性。
  2. 随机二部成员模型:先固定 $V\sqcup U$,再随机生成 $X_{vu}$。因此事件槽数 $|U|$ 固定,随机的是每个槽由谁参加;若不额外限制,还可能出现空列、单节点列和重复列。
  3. 直接随机超图模型:先固定允许的候选节点集合,再随机生成其出现指标 $Y_e$。实现后的超边数 $\sum_eY_e$ 通常随机,每个候选集合在简单模型中至多出现一次。

因此,表示的可逆性与随机模型的分布等价是两个问题。固定事件槽模型与候选超边模型之间的联系需要比较各自的样本空间和渐近分布。

二部 SBM 还加入事件侧潜在类别。令 $Z_v\overset{\mathrm{iid}}{\sim}\operatorname{Categorical}(\pi)$、$C_u\overset{\mathrm{iid}}{\sim}\operatorname{Categorical}(\eta)$,跨两侧的连接概率为 $\Theta_{qs}$,并假设给定 $(Z,C)$ 后所有 $(X_{vu})$ 条件独立。则固定事件槽 $u$ 同时包含给定 $r$ 个节点的概率为

$$ \mathbb P(X_{i_1u}=\cdots=X_{i_ru}=1\mid Z) =\sum_{s=1}^{S}\eta_s\prod_{t=1}^{r}\Theta_{q_t s}. \tag{2H.4c} $$

这是有限个乘积项的混合。若要求该事件槽的邻域恰好是这 $r$ 个节点,还需加入所有其他节点不连接的因子;投到简单超图时还需处理多个槽产生相同邻域的情况。一般 HSBM 可直接给每种标签多重集一个对称概率参数,并不要求它具有式 (2H.4c) 的乘积混合结构。

对象 固定量 随机量 解释要点
星形展开 观测节点、事件与全部关联 无 把表示误称为概率模型
随机二部图 两侧节点集 $V,U$ 成员关联 $X_{vu}$ $|U|$ 个事件槽已固定;可能生成空、单节点或重复事件
候选集合 Bernoulli 超图 $V$ 与候选集合 超边指标 $Y_e$ 实现超边数通常随机,样本空间不同
二部 configuration 行和、列和、列数 满足边际的关联排列 保留总度与边大小,却不保留节点偏好的事件大小

Matias (2026, §§3.2, 4.1) 区分表示可逆性与随机模型等价性;简单/重复超边、固定事件槽和 bipartite SBM 乘积约束见 Brusa and Matias (2024, Supplement A.1–A.3)。式 (2H.4c) 按该模型重新记号化,表示事件槽的共同包含概率;simple HSBM 则直接定义候选超边出现概率。

信息保留投影是否充分取决于目标量

每个有限超图都能构造投影图,推断是否保持不变则取决于目标量。只使用两节点共现强度时,合适的加权投影可能已经充分;涉及事件内部标签组成或超边大小时,关联矩阵或原始超边能保留更多信息。Chitra and Raphael (2019) 进一步证明:当超图随机游走的节点权重与所选超边无关时,该游走等价于某个加权团图上的随机游走。这类线性拉普拉斯方法使用可图化的成对信息。

4.2 事件线图与重叠宽度

团投影保留原节点,事件线图则把每条超边当作节点。令

$$ O_{ef}=|e\cap f|\mathbf1\{e\ne f\}, \qquad O=B^TB-\operatorname{diag}(|e_1|,\ldots,|e_M|). $$

无权线图只记录 $O_{ef}>0$,加权线图保留重叠数量但仍不知道具体共享哪些节点。进一步令 $\mathcal E_{\ge k}=\{e:|e|\ge k\}$,定义 $k$-线图 $L_k(H)$:它以 $\mathcal E_{\ge k}$ 中的事件为节点,当且仅当 $O_{ef}\ge k$ 时连接 $e,f$。长度为 $\ell$ 的 $k$-walk 是 $\mathcal E_{\ge k}$ 中的序列 $e_{i_0},\ldots,e_{i_\ell}$,其中每对相邻超边至少共享 $k$ 个节点;最短长度给出超边间 $k$-distance,不连通时为 $\infty$。

贯穿例子满足 $|e_1\cap e_2|=2$、$|e_2\cap e_3|=1$、$|e_1\cap e_3|=0$。所以 $L_1(H)$ 是路径 $e_1-e_2-e_3$,而 $L_2(H)$ 只保留 $e_1-e_2$,使 $e_3$ 孤立。$k$ 控制的是事件链的最小“重叠宽度”,不是普通图路径长度的另一种写法。

一线图中 e1 经 e2 连到 e3,二线图中只有 e1 与 e2 相连而 e3 孤立
图解 2H-B2 同一超图在 $k=1$ 与 $k=2$ 时具有不同的事件连通结构。先读边上的重叠数,再判断某条 $k$-walk 是否存在。

Matias (2026, §3.1) 用重叠宽度刻画高阶路径;严格的 edge-level $k$-walk、$k$-line graph 与距离口径采用 Aksoy et al. (2020, Definitions 5 and 7, Proposition 1)。以下统一讨论超边层路径。

4.3 一个实用选择规则

  1. 需要回溯“哪一次事件包含哪些节点”时,保留关联矩阵或星形展开。
  2. 只需节点间扩散、邻近或图算法基线时,可使用明确归一化的投影图。
  3. 数据本身是固定阶交互,且方法需要多线性结构时,使用邻接张量。
  4. 非均匀超图采用分阶张量,或明确给出统一阶数的扩充规则。

5. 随机超图基线

5.1 Bernoulli 模型 $H_d(n,p)$

固定 $V=[n]$ 和 $d\ge2$。对每个候选 $d$-节点集合 $e\in\binom{V}{d}$,独立采样

$$ X_e\sim\operatorname{Bernoulli}(p),\qquad \mathcal E=\{e:X_e=1\}. \tag{2H.7} $$

所得模型记为 $H_d(n,p)$。超边总数满足

$$ |\mathcal E|\sim\operatorname{Binomial}\!\left(\binom nd,p\right), \qquad \mathbb E|\mathcal E|=\binom ndp. \tag{2H.8} $$

命题 2H.1$H_d(n,p)$ 的节点关联度分布

对任意固定节点 $i$,令 $D_i=|\{e\in\mathcal E:i\in e\}|$。则

$$ D_i\sim\operatorname{Binomial}\!\left(\binom{n-1}{d-1},p\right), \qquad \mathbb E D_i=\binom{n-1}{d-1}p. \tag{2H.9} $$

查看完整证明。

若希望 $n\to\infty$ 时平均关联度保持常数量级,应取

$$ p_n=\Theta(n^{-(d-1)}). \tag{2H.10} $$

这正是图模型 $p_n=\Theta(1/n)$ 在 $d$-均匀超图中的对应标度。

5.2 固定超边数模型 $H_d(n,M)$

$H_d(n,M)$ 从全部 $\binom nd$ 条候选超边中均匀抽取 $M$ 条。此时每个节点的关联度不再是二项分布,而是超几何分布:

$$ D_i\sim\operatorname{Hypergeometric}\!\left( \binom nd,\binom{n-1}{d-1},M \right), \qquad \mathbb E D_i=\frac{dM}{n}. \tag{2H.11} $$

$H_d(n,p)$ 让超边数随机,$H_d(n,M)$ 把超边数固定;这与 $G(n,p)$ 和 $G(n,M)$ 的关系完全平行。

定理 2H.1$d$-均匀随机超图的巨分量相变

固定 $d\ge3$。Karoński and Łuczak (2002, Abstract and §1) 将 $H_d(n,M)$ 的相变尺度定位为

$$ M=\frac{n}{d(d-1)}+O(n^{2/3}). \tag{2H.12} $$

三阶段数量级来自 Schmidt-Pruzan and Shamir (1985),并由 Karoński and Łuczak (2002, §1) 回顾:若 $M=cn$,则以高概率在 $c<1/[d(d-1)]$ 时最大分量为对数阶,在 $c=1/[d(d-1)]$ 时最大分量规模为 $\Theta(n^{2/3})$,在 $c>1/[d(d-1)]$ 时出现唯一的线性阶巨分量。Karoński–Łuczak 进一步分析临界附近,并给出局部极限定理。$d=2$ 时相同临界尺度退化为经典随机图结论。这里“连通”采用 Berge 路径口径:相邻节点由同一条超边连接。

分支过程给出临界位置的直观推导。若局部节点关联度近似分布为 $D$,沿一条已发现超边到达节点后,可继续探索的事件数具有过剩均值 $\mathbb E[D(D-1)]/\mathbb ED$;每个新事件最多带来 $d-1$ 个节点。对稀疏 $H_d(n,M)$,$D$ 渐近为均值 $\lambda=dM/n$ 的 Poisson 分布,所以有效繁殖数为 $(d-1)\lambda$,令它等于 1 即得 $M=n/[d(d-1)]$。临界窗的局部极限定理进一步使用连通均匀超图计数。

H_3(18,M) 在 M=2、M=3 和 M=8 时的固定种子样本分量摘要,以彩色节点突出大小依次为 3、7 和 13 的最大分量,并列出分量谱
图解 2H-C 临界值 $M_c=3$ 两侧的三个单样本分量摘要。图中省略全部超边,只保留最大分量占比和分量谱;先用它建立增长直觉,再回到定理区分“样本现象”与“渐近保证”。

5.3 非均匀独立超边模型

若允许超边大小属于集合 $\mathcal R\subseteq\{2,3,\ldots,M_0\}$,可令不同大小的候选超边独立出现:

$$ X_e\sim\operatorname{Bernoulli}(p_{|e|}),\qquad \mathbb E D_i=\sum_{r\in\mathcal R}\binom{n-1}{r-1}p_r. \tag{2H.13} $$

要让每个阶数对平均关联度贡献常数量级,通常取 $p_r=\Theta(n^{-(r-1)})$。不同阶数会共同影响分量增长,因此不能把式 (2H.12) 的单一 $d$ 直接替换成最大秩 $M_0$。

5.4 软度约束:超图 $\boldsymbol\beta$-model

同质模型只给同一阶的所有候选集合一个概率。若要让节点有不同活跃度,同时保留候选超边独立性,可对 $e\in\binom Vr$ 设

$$ \mathbb P_{\boldsymbol\beta}(X_e=1) =\frac{\exp(\sum_{i\in e}\beta_{r,i})} {1+\exp(\sum_{i\in e}\beta_{r,i})}. \tag{2H.13b} $$

忽略常数,第 $r$ 层对数似然为

$$ \ell_r(\boldsymbol\beta_r) =\sum_i\beta_{r,i}d_r(i) -\sum_{e\in\binom Vr}\log\!\left[1+\exp\!\left(\sum_{i\in e}\beta_{r,i}\right)\right]. \tag{2H.13c} $$

因此数据只通过分阶关联度序列进入,$(d_r(i))_i$ 是该指数族的充分统计量。极大似然方程匹配观测度与期望度,但模拟出的度不必逐项等于观测值;configuration 模型则在固定度与超边大小的状态空间内随机化。前者是软边际控制,后者是硬边际控制。

一个四节点三元例子足以看出参数意义。令 $\beta_{3,1}=\log2$,其余为 0,则包含节点 1 的候选三元组出现概率为 $2/3$,不含节点 1 的 $\{2,3,4\}$ 出现概率为 $1/2$。概率差来自节点活跃度而非社区。Matias (2026, §4.2) 给出模型地图;公式与充分统计量表述依据 Nandy and Bhattacharya (2024, Definition 1.1 and Eqs. (2.2)–(2.3))。该文用 $\ell$ 表示负对数似然,这里改写为正对数似然,因而整体符号相反。

零模型检查你希望随机化掉什么,保留什么?
  • $H_d(n,p)$:保留节点数与阶数,只控制共同出现概率。
  • $H_d(n,M)$:再固定超边总数,去掉数量波动。
  • 超图 $\boldsymbol\beta$-model:以分阶关联度为充分统计量,用节点参数软匹配活跃度异质性。
  • configuration 型超图零模型:同时保留节点关联度序列与超边大小序列,用来检验额外结构能否仅由活跃度和事件规模解释。

最后一类模型固定的是 $d_0(v)$ 与每列大小 $\delta(e)$,通常不会固定每个节点的分阶度 $d_r(v)$。因此它会随机化“哪个节点偏好参加大型事件”:控制总活跃度与控制分阶活跃度不是一回事。若后者是混杂因素,应按事件大小分层重连或另加约束。

Configuration 模型的精确均匀抽样可能困难。交换或重连算法应注明精确或近似采样性质,并报告混合诊断。这个层级比较依据 Matias (2026, §4.2) 的综述;二部边际重连对分阶关联的影响见 Brusa and Matias (2024, Supplement A.2)。

6. 关联矩阵、随机游走与归一化拉普拉斯

令 $D_v=\operatorname{diag}(d(v))$、$D_e=\operatorname{diag}(\delta(e))$、$W=\operatorname{diag}(w(e))$,并假设没有孤立节点。Zhou, Huang, and Schölkopf (2006) 定义两阶段随机游走:

  1. 当前位于节点 $u$ 时,以 $w(e)/d(u)$ 选择一条包含 $u$ 的超边 $e$;
  2. 在 $e$ 中均匀选择下一个节点 $v$,允许 $v=u$。

于是

$$ P_{uv}=\sum_{e\in\mathcal E} \frac{w(e)B_{ue}}{d(u)}\frac{B_{ve}}{\delta(e)}, \qquad P=D_v^{-1}BWD_e^{-1}B^T. \tag{2H.14} $$

回到五节点例子。节点 3 同时属于 $e_2$ 和 $e_3$,且两条超边权重均为 1,所以第一阶段各以概率 $1/2$ 选中它们;第二阶段在所选三元超边内以概率 $1/3$ 选节点。因此从节点 3 出发的一步分布为

$$ P_{3,\bullet} =\left(\frac16,\frac16,\frac13,\frac16,\frac16\right). $$

其中 $P_{33}=1/3$ 来自经 $e_2$ 或 $e_3$ 返回节点 3 的两条路径。这个计算同时说明了为什么 Zhou 游走允许自环概率,以及关联矩阵的列为何不能在投影前被随意合并。

从节点 3 先选择 e2 或 e3 再选择终点的概率树,合并路径后得到 P 第 3 行
图解 2H-D 把式 (2H.14) 当作概率树计算:先乘同一路径上的概率,再加到达同一终点的路径。

每行和为 1,且平稳分布为

$$ \pi(v)=\frac{d(v)}{\operatorname{vol}(V)}, \qquad \operatorname{vol}(V)=\sum_{u\in V}d(u). \tag{2H.15} $$

对应的对称归一化拉普拉斯为

$$ L_H=I-D_v^{-1/2}BWD_e^{-1}B^TD_v^{-1/2}. \tag{2H.16} $$

命题 2H.2Zhou 归一化超图拉普拉斯半正定

对任意 $f\in\mathbb R^{|V|}$,

$$ f^TL_Hf =\frac12\sum_{e\in\mathcal E}\frac{w(e)}{\delta(e)} \sum_{u,v\in e} \left( \frac{f_u}{\sqrt{d(u)}}-\frac{f_v}{\sqrt{d(v)}} \right)^2\ge0. \tag{2H.17} $$

因此 $L_H\succeq0$。其零特征向量为 $D_v^{1/2}\mathbf 1$;连通时零特征值为单重。查看完整证明。

6.1 · 方法

从 NH-Cut 目标走到特征向量

#

定义

$$ \operatorname{vol}(\partial S) =\sum_e\frac{w(e)}{\delta(e)}|e\cap S|\,|e\cap S^c|, \qquad \operatorname{Ncut}_H(S) =\operatorname{vol}(\partial S) \left(\frac1{\operatorname{vol}(S)}+\frac1{\operatorname{vol}(S^c)}\right). \tag{2H.17a} $$

令 $a=\operatorname{vol}(S)$、$b=\operatorname{vol}(S^c)$,把切分编码为

$$ y_u= \begin{cases} \sqrt{b/a},&u\in S,\\ -\sqrt{a/b},&u\in S^c, \end{cases} \qquad f=\frac{D_v^{1/2}y}{\sqrt{a+b}}. \tag{2H.17b} $$

这个不对称的取值不是装饰:它同时保证 $f^Tf=1$ 与 $f^TD_v^{1/2}\mathbf1=0$。再把 $f$ 代入式 (2H.17),每条被切开的超边只在跨越 $S,S^c$ 的有序节点对上产生非零差,得到

$$ f^TL_Hf=\operatorname{Ncut}_H(S). \tag{2H.17c} $$

因此,离散 NH-Cut 等价于在一组只能取两种数值的向量上最小化 Rayleigh 商。去掉“两种数值”约束后,连续松弛为

$$ \min_{f^Tf=1,\ f^TD_v^{1/2}\mathbf1=0}f^TL_Hf, $$

其解是最小非零特征值的特征向量。$Q$ 路版本把目标改成 $\operatorname{tr}(X^TL_HX)$、约束改成 $X^TX=I_Q$;取 $Q$ 个最小特征向量后,还要靠行归一化与 $k$-means 把连续点变回标签。查看逐步闭合推导。

五节点例子提供一个手算检查。$S_1=\{1,2\}$ 与 $S_2=\{1,2,3\}$ 的边界体积都为 $2/3$,但两侧体积分别是 $(4,4)$ 与 $(6,2)$,所以

$$ \operatorname{Ncut}_H(S_1)=\frac13, \qquad \operatorname{Ncut}_H(S_2)=\frac49. $$

归一化项惩罚第二个切分的不平衡。这个计算把“画面上看起来像两团”变成了可以比较的目标值。

若所有超边大小为 2,这个游走会以概率 $1/2$ 留在当前节点,因此式 (2H.16) 等于普通归一化图拉普拉斯的 $1/2$。因子 $1/2$ 来自“在所选边的两个端点中均匀选取,包括原节点”。

适用范围线性拉普拉斯使用可图化的成对信息

式 (2H.14) 诱导的是节点上的线性 Markov 链。Chitra and Raphael (2019) 证明,当第二阶段给节点的权重不依赖所选超边时,该随机游走等价于某个加权团图上的随机游走。若应用真正依赖“节点在不同超边中贡献不同”,可引入 edge-dependent vertex weights $\gamma_e(v)$;此时转移概率为

$$ P_{uv}=\sum_{e\ni u}\frac{w(e)}{d(u)} \frac{\gamma_e(v)}{\sum_{x\in e}\gamma_e(x)}, \tag{2H.18} $$

边依赖节点权重可产生无法化为无向加权图可逆游走的转移结构;是否采用它取决于数据中的节点—事件语义。

7. Simple Bernoulli HSBM:把潜在群组写进超边概率

令 $V=[n]$,允许超边大小 $r=2,\ldots,M_0$。对节点标签假设

$$ Z_i\overset{\mathrm{iid}}{\sim}\operatorname{Categorical}(\pi_1,\ldots,\pi_Q). \tag{2H.19} $$

对每个无序、互异节点集合 $e=\{i_1,\ldots,i_r\}$,定义 $Y_e=\mathbf1\{e\in\mathcal E\}$。给定标签后,各潜在超边条件独立,且

$$ Y_e\mid Z \sim\operatorname{Bernoulli}\!\left( \mathsf P^{(r)}_{Z_{i_1},\ldots,Z_{i_r}} \right). \tag{2H.20} $$

$\mathsf P^{(r)}$ 是关于指标排列对称的 $r$ 阶概率张量。这是 Brusa and Matias (2024) 的 simple nonuniform HSBM 核心:超边内部不允许重复节点,同一节点集合只有“出现/不出现”两种状态。概率张量记为 $\mathsf P^{(r)}$,关联矩阵记为 $B$。

命题 2H.3Simple HSBM 的完整数据似然

记 $p_e(Z)=\mathsf P^{(|e|)}_{Z_e}$。完整数据 $(Y,Z)$ 的似然分解为

$$ \mathbb P_\theta(Y,Z) =\prod_{i=1}^n\pi_{Z_i} \prod_{r=2}^{M_0}\prod_{e\in\binom Vr} p_e(Z)^{Y_e}[1-p_e(Z)]^{1-Y_e}. \tag{2H.21} $$

观测似然为 $\mathbb P_\theta(Y)=\sum_{Z\in[Q]^n}\mathbb P_\theta(Y,Z)$,直接求和包含 $Q^n$ 个标签配置,因而通常需要变分 EM、MCMC 或其他近似推断。查看完整证明。

7.1 Affiliation 子模型

最简单的社区模型只区分“整条超边是否完全位于同一组”:

$$ \mathsf P^{(r)}_{q_1,\ldots,q_r}= \begin{cases} \alpha_r,&q_1=\cdots=q_r,\\ \beta_r,&\text{至少出现两个不同标签}. \end{cases} \tag{2H.22} $$

$\alpha_r>\beta_r$ 表示同群组超边更常见,但一般 HSBM 不要求这种排序,也能表达异配或更复杂的标签组合偏好。

AAA、AAB、ABB、BBB 四种三元标签组成只展示一次;随机超图基线把它们全部映射到 p,affiliation HSBM 把同组组成映射到 alpha、混合组成映射到 beta
图解 2H-E 先列候选组成,再沿两种模型的规则读概率。社区信号由标签组成是否进入候选超边概率来判断。

五节点例子可以直接显示随机基线与 HSBM 的差别。若设

$$ (Z_1,Z_2,Z_3,Z_4,Z_5)=(1,1,1,2,2), $$

则三元候选超边 $e_2=\{1,2,3\}$ 完全位于第 1 组,而 $e_3=\{3,4,5\}$ 跨组。在 $H_3(n,p)$ 中二者出现概率同为 $p$;在 affiliation HSBM 中则分别为

$$ \mathbb P(Y_{e_2}=1\mid Z)=\alpha_3, \qquad \mathbb P(Y_{e_3}=1\mid Z)=\beta_3. $$

若不条件于具体标签,一个随机三元候选集合的边际出现概率为

$$ \alpha_3\sum_{q=1}^{Q}\pi_q^3 +\beta_3\left(1-\sum_{q=1}^{Q}\pi_q^3\right). $$

所以 $H_3(n,p)$ 可匹配 HSBM 的总体密度,却不能同时保留“同组”与“跨组”两类条件概率;后者才是社区信号。

命题 2H.4HSBM 下的期望节点关联度

给定完整标签向量 $Z=z$,

$$ \mathbb E[D_i\mid Z=z] =\sum_{r=2}^{M_0} \sum_{\substack{S\subseteq V\setminus\{i\}\\|S|=r-1}} \mathsf P^{(r)}_{z_i,z_S}. \tag{2H.23} $$

若进一步使用式 (2H.22),并只条件于 $Z_i=a$,则

$$ \mathbb E[D_i\mid Z_i=a] =\sum_{r=2}^{M_0}\binom{n-1}{r-1} \left[ \alpha_r\pi_a^{r-1}+\beta_r(1-\pi_a^{r-1}) \right]. \tag{2H.24} $$

查看完整证明。

式 (2H.24) 暴露了两个事实。第一,即使没有节点级度参数,不同群组比例也会造成期望关联度差异。第二,若 $\alpha_r,\beta_r$ 不随 $n$ 缩小,候选超边数 $\binom{n-1}{r-1}$ 会使模型变得稠密;保持常数平均关联度通常要求 $\mathsf P^{(r)}=O(n^{-(r-1)})$。

7.2 可识别性与参数增长

HSBM 至少存在标签置换不识别:同时重命名所有群组,并按同一置换重排 $\pi$ 和各 $\mathsf P^{(r)}$,观测分布不变。因此聚类损失必须在标签排列后计算。Brusa and Matias (2024) 给出一般条件下的 generic identifiability 结果,但“generic”不表示每个特殊参数点都可识别;例如完全相同的群组连接模式显然无法区分。

全模型中单个 $r$ 阶对称张量含

$$ \binom{Q+r-1}{r} \tag{2H.25} $$

个不同参数。$Q$ 或最大阶 $M_0$ 增大时,参数数目会快速上升;这既是计算问题,也是模型选择问题。

8. Poisson DCHSBM(进阶):把节点活跃度与群组亲和度分开

Simple HSBM 在同一标签组合内仍把节点视为同质。若某些作者、商品或参与者本身就更活跃,需要节点级参数 $\theta_i$。

Chodrow, Veldt, and Benson (2021) 的 DCHSBM 以多重集合超边为观测空间。令 $\mathcal R_r$ 为总大小恰为 $r$ 的无序节点多重集之集,并固定 $\mathcal R=\bigcup_{r=2}^{M_0}\mathcal R_r$。对 $R\in\mathcal R$,$a_R\in\{0,1,2,\ldots\}$ 是落在该位置上的超边数,$b_R$ 是 $R$ 中节点的不同排列数。给定 $(z,\theta,\Omega)$ 后,计数 $(a_R)_{R\in\mathcal R}$ 相互独立,且

$$ a_R\mid z,\theta,\Omega \sim\operatorname{Poisson}\!\left( b_R\prod_{i\in R}\theta_i\,\Omega(z_R) \right),\qquad R\in\mathcal R. \tag{2H.26} $$

乘积按节点在 $R$ 中的重数计算。$\theta_i$ 控制节点活跃度,$\Omega(z_R)$ 控制标签组合和超边大小的亲和度。对只含互异节点的简单超边,可将 $b_R$ 吸收到按阶定义的 $\Omega$ 中;原模型的样本空间仍包含自重复和多重超边。

相同 AAA 标签组成下,高活跃节点使三元位置强度比低活跃节点高四倍,展示 theta 与 Omega 的分工
图解 2H-F 固定群组组成后,只替换一个节点的 $\theta$,即可隔离度校正产生的强度差。
命题 2H.5DCHSBM 的群组尺度不识别

给每个群组 $q$ 任取常数 $c_q>0$,并令

$$ \theta_i'=c_{z_i}\theta_i, \qquad \Omega'(z_R)= \frac{\Omega(z_R)}{\prod_{i\in R}c_{z_i}}. \tag{2H.27} $$

则式 (2H.26) 中每个 Poisson 强度保持不变。因此,若不加规范化,$\theta$ 与 $\Omega$ 的尺度无法分别识别。查看完整证明。

原文采用的规范化是

$$ \sum_{i:z_i=q}\theta_i=\operatorname{vol}(q) =\sum_{i:z_i=q}d_i, \tag{2H.28} $$

在固定标签下得到条件极大似然估计 $\widehat\theta_i=d_i$。也可选择每组 $\sum_{i:z_i=q}\theta_i=1$ 等其他规范化;跨规范化比较时,需要先换算 $\Omega$ 的尺度。

模型对照Bernoulli HSBM 与 Poisson DCHSBM 的观测空间

Bernoulli simple HSBM 的样本空间是“互异节点集合是否出现”;Poisson DCHSBM 的样本空间允许同一位置出现多条超边,并在原始定义中允许节点重复。稀疏且强度很小时,Poisson 可近似 Bernoulli。模型选择取决于重复事件表示权重、独立重复观测,还是合并后的一次出现。

8.1 为什么极大似然会变成 modularity

Poisson 质量函数取对数后,去掉只依赖观测 $A=(a_R)$ 的常数,标签和亲和函数只通过

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,\theta) =\sum_{R\in\mathcal R}\left[ a_R\log\Omega(z_R) -b_R\Pi(\theta_R)\Omega(z_R) \right], \qquad \Pi(\theta_R)=\prod_{i\in R}\theta_i \tag{2H.28a} $$

进入。第一项奖励模型赋予已出现超边较高亲和度,第二项扣除相应 Poisson 暴露量。按式 (2H.28) 规范化并代入条件估计 $\widehat\theta_i=d_i$ 后,若 $\Omega$ 只读取一条超边中的群组人数构成 $\mathbf p=\phi(z_R)$,就可以把同类项收集为

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,d) =\sum_{\mathbf p}\left[ \operatorname{cut}_{\mathbf p}(z)\log\Omega(\mathbf p) -\operatorname{vol}_{\mathbf p}(z)\Omega(\mathbf p) \right]. \tag{2H.28b} $$

这里 $\operatorname{cut}_{\mathbf p}$ 实际上是“标签组成等于 $\mathbf p$ 的观测超边权重”,而 $\operatorname{vol}_{\mathbf p}$ 是度校正零模型给出的期望暴露量。前者是 data,后者是 null expectation;modularity 的“观测减期望”结构正由此出现。

在 all-or-nothing(AON)子模型中,只区分一条 $r$ 元超边是否完全同组。令同组、跨组亲和度分别为 $\omega_{r1},\omega_{r0}$,并置

$$ \kappa_r=\log(\omega_{r1}/\omega_{r0}), \qquad \xi_r=(\omega_{r1}-\omega_{r0})/\kappa_r. $$

当 $\omega_{r1}=\omega_{r0}=\omega_r$ 时,以连续延拓定义 $\xi_r=\omega_r$;此时 $\kappa_r=0$,该阶不提供划分信号。目标可写成

$$ \mathcal Q_{\mathrm{DC}}(z,\Omega,d) =-\sum_{r=2}^{M_0}\kappa_r \left[ \operatorname{cut}_r(z) +\xi_r\sum_q\operatorname{vol}(q)^r \right]+J(\Omega), \tag{2H.28c} $$

其中 $\operatorname{cut}_r$ 只计跨组的观测 $r$ 元超边,$J(\Omega)$ 与标签无关。当 $\omega_{r1}>\omega_{r0}$ 时,最大化 $\mathcal Q_{\mathrm{DC}}$ 就是在体积惩罚下减少跨组超边。不同 $r$ 有各自的 $\kappa_r,\xi_r$,因此各阶超边分别定权。Chodrow et al. (2021) 先在无约束亲和函数下求闭式条件估计,再施加对称约束;群组体积不等时,相应更新是受限极大似然的近似。

9. 四条方法路线:输入、目标与信息

下表区分常见生成模型。Planted partition 是 HSBM 的受限子模型;latent-space 模型提供另一种生成机制。

生成模型 观测空间 主要异质性来源 适合回答的问题 本节内容
独立随机超图 简单候选节点集合的 Bernoulli 指标 仅超边阶数或统一概率 无群组结构时,度和连通性应有何基线 展开 $H_d(n,p)$、$H_d(n,M)$
超图 $\boldsymbol\beta$-model 简单候选集合的独立 Bernoulli 指标 分阶节点活跃度 度异质性是否足以解释观测结构 概率与充分统计量;渐近推断见原文
Configuration 型模型 固定节点度与超边大小的状态空间 硬边际约束 控制活跃度和事件规模后还剩什么结构 零模型语义;精确采样见原文
Planted partition / affiliation HSBM 简单候选节点集合的 Bernoulli 指标 同组与跨组概率 是否存在群组偏好,标签能否恢复 作为 simple HSBM 特例展开
Poisson DCHSBM 可重复的多重集合超边计数 节点活跃度与标签组合亲和度 重尾关联度是否可与社区结构分离 展开生成式与尺度规范化
Latent-space hypergraph model 依具体模型而定 连续潜在位置、距离或几何 超边是否由潜在相似性/空间邻近形成 生成机制与延伸阅读
Preferential attachment / growth 随时间增加的节点与事件 历史累积和偏好连接 重尾与大型事件怎样形成 动态机制与延伸阅读

在进入任何聚类算法前,还要先写下“社区”的工作定义:奖励同组超边条数、同组节点参与次数,还是某种按超边大小加权的凝聚度?在非均匀超图中,同样的内外超边条数可能因事件大小不同而支持相反判断。块模型选择用“条件交互概率相同”定义群组,其他模块度或谱目标未必采用同一口径(Matias, 2026, §5)。

还要按阶数检查信号。非均匀超图虽可写成共享节点集上的 $(H_r)_r$,却不表示每一层都支持同一分组。例如二元层若对所有标签组成概率相同,而三元层满足 $\alpha_3>\beta_3$,社区证据只来自三元层;让数量巨大的二元层无权主导联合投影,可能把有用信号稀释掉。报告联合结果时应给出各阶样本量、权重和单层诊断,而不只给最大秩与总度。

路线 直接输入 典型计算对象 优点 首要检查
关联矩阵 / 拉普拉斯谱 $B,W,D_v,D_e$ $L_H$ 的小特征向量、随机游走 稳定、可扩展、易接入聚类与半监督学习 线性扩散是否已等价于某个投影图
完整超边似然 $\{Y_e\}$ 或 $\{a_R\}$ HSBM / DCHSBM 的似然、VEM、profile likelihood 参数语义清楚,可做模型比较 条件独立、样本空间和稀疏标度是否合理
低秩超图嵌入 原始超边;非均匀时可加入空节点 节点嵌入、惩罚似然、嵌入空间聚类 可容纳同一社区内部的连续异质性 非凸目标、初始化和空节点建模约定
固定阶张量 固定阶 $\mathcal A$ 或分阶张量 TTM、HOSVD、CP 分解、幂迭代 在松弛前显式保留固定阶多元结构 非均匀扩充、计算复杂度和局部最优

方法应按 原始观测 → 表示 → 目标函数 → 理论保证 的完整链条比较。为目标设计的投影可能已经保留充分信息,线性高阶算子也可能等价于加权图。

依次根据观测单位、事件身份、潜在群组和度异质性选择图、超图表示、随机基线、HSBM 或 DCHSBM 的决策地图
图解 2H-G 从观测语义、表示需求和生成机制出发,依次选择模型与算法。

9.1 谱路线的最小管线

关联矩阵路线把离散 NH-Cut 问题松弛为

$$ \min_{X\in\mathbb R^{n\times Q}} \operatorname{tr}(X^TL_HX) \qquad\text{s.t.}\qquad X^TX=I_Q. $$

Rayleigh–Ritz 原理把这个问题化为特征向量计算。一个可直接实现的版本是:

  1. 由 $B,W,D_v,D_e$ 构造式 (2H.16) 的 $L_H$;孤立节点应先分离处理,或明确采用何种正则化逆。
  2. 计算 $L_H$ 的 $Q$ 个最小特征值对应的正交特征向量,组成 $X\in\mathbb R^{n\times Q}$。
  3. 将每个非零行向量 $X_{i\cdot}$ 除以自身二范数,得到 $\bar X$。
  4. 对 $\bar X$ 的 $n$ 个行向量运行带多次初始化的 $k$-means,输出 $\widehat z_i$。
  5. 报告所用 Laplacian、$Q$ 的选择、特征间隙、$k$-means 初始化和置换不变错分率。

这里先求连续松弛,再由 $k$-means 完成离散近似。Ghoshdastidar and Dukkipati (2017a) 给出了这类谱划分在稀疏、非均匀植入分区模型下的一致性分析:总体嵌入形成 $Q$ 个群组中心,样本算子通过集中与特征子空间扰动靠近总体算子,最后由 $k$-means 转换为标签。第 4 章 4.4 节提供误差分析工具,下面按这条证明链展开。

代表性保证最低期望度、总体可识别性与错分数

在 Ghoshdastidar and Dukkipati (2017a) 的 planted-partition 模型中,设总体收缩矩阵 $\bar A=ZGZ^T-J$,期望度矩阵为 $\bar D$,群组大小 $n_1\ge\cdots\ge n_Q$。最低期望度在原文记为 $d=\min_i\bar D_{ii}$,下文记为 $d_{\min}$;原文的可识别性量 $\delta$ 记为

$$ \Delta_{\mathrm{id}} =\lambda_{\min}(G)\min_{1\le i\le n}\frac{n_{z_i}}{\bar D_{ii}} -\max_{1\le i,j\le n}\left| \frac{J_{ii}}{\bar D_{ii}}- \frac{J_{jj}}{\bar D_{jj}} \right|. $$

存在绝对常数 $C>0$,使得若 $\Delta_{\mathrm{id}}>0$ 且

$$ d_{\min}>C\frac{Qn_1(\log n)^2}{\Delta_{\mathrm{id}}^2n_Q}, \tag{2H.28d} $$

则以至少 $1-O((\log n)^{-1/4})$ 的概率,论文的谱算法满足

$$ \operatorname{Err}_{\#}(\widehat z,z) =O\!\left(\frac{Qn_1\log n}{\Delta_{\mathrm{id}}^2d_{\min}}\right). \tag{2H.28e} $$

$\operatorname{Err}_{\#}$ 是错分节点数。条件同时要求总体可识别($\Delta_{\mathrm{id}}>0$)和样本足够稠密($d_{\min}$ 足够大);结论再把两者转成次线性错分数。逐项读取证明链。

9.2 似然路线的最小管线

以 simple HSBM 为例,观测似然中的 $\sum_Z$ 含有 $Q^n$ 个标签配置。VEM 用

$$ Q_\tau(Z)=\prod_{i=1}^n\prod_{q=1}^Q \tau_{iq}^{\mathbf1\{Z_i=q\}} $$

近似真实后验,并最大化

$$ \mathcal I(\theta,\tau) =\mathbb E_{Q_\tau}\!\left[\log P_\theta(Y,Z)\right] +\mathcal H(Q_\tau) =\log P_\theta(Y) -\operatorname{KL}\!\left(Q_\tau\,\|\,P_\theta(Z\mid Y)\right). $$

记 $\varphi(y,b)=y\log b+(1-y)\log(1-b)$。固定 $\theta$ 后,对 $\tau_{iq}$ 求一阶条件并加入 $\sum_q\tau_{iq}=1$ 的拉格朗日乘子,得到 VE 固定点

$$ \log\tau_{iq} =c_i+\log\pi_q +\sum_{r=2}^{M_0} \sum_{\substack{S\subseteq V\setminus\{i\}\\|S|=r-1}} \sum_{\mathbf q_S\in[Q]^{r-1}} \left(\prod_{j\in S}\tau_{j,q_j}\right) \varphi\!\left(Y_{\{i\}\cup S},\mathsf P^{(r)}_{q,\mathbf q_S}\right), \tag{2H.25b} $$

其中 $c_i$ 负责归一化。式中对 $S$ 的求和覆盖所有含 $i$ 的候选集合;若 $Y_{\{i\}\cup S}=0$,它仍通过 $\log(1-B)$ 进入更新。该固定点的一般存在性与唯一性尚无论文定理,多初值结果与停止条件因此需要随推断结果一同报告。

因此 $\mathcal I$ 是观测对数似然的下界。最小管线是:

  1. 明确 Bernoulli simple HSBM 还是 Poisson DCHSBM,并建立全部候选位置的数据结构;在 Bernoulli 模型中,未出现的候选超边同样贡献似然。
  2. 用随机软标签、谱聚类或其他预聚类初始化 $\tau_{iq}$,满足 $\sum_q\tau_{iq}=1$。
  3. VE 步:固定 $\theta$,迭代 Brusa–Matias 的固定点方程,使每个 $\tau_{iq}$ 汇总所有包含节点 $i$ 的候选超边证据。
  4. M 步:固定 $\tau$,更新 $\widehat\pi_q=n^{-1}\sum_i\tau_{iq}$;每个亲和参数更新为相应标签组合下由 $\prod_j\tau_{i_jq_j}$ 加权的“出现次数 / 候选次数”。
  5. 重复 VE/M 步直到 ELBO、参数和 VE 固定点同时稳定,再令 $\widehat z_i=\arg\max_q\tau_{iq}$。
  6. 对多个初值分别运行,保留 ELBO 较高的解;用 ICL 型准则或外部验证选择 $Q$ 与最大建模阶数 $M_0$。

M 步的“加权频率”可以精确写出。对按非降序排列的标签多重组 $\mathbf q$,令 $\mathfrak O(\mathbf q)$ 为其不同排列,并对 $e=\{i_1<\cdots<i_r\}$ 定义

$$ \omega_{e,\mathbf q}(\tau) =\sum_{\mathbf a\in\mathfrak O(\mathbf q)} \prod_{\ell=1}^r\tau_{i_\ell a_\ell}. $$

则

$$ \widehat\pi_q=\frac1n\sum_i\tau_{iq}, \qquad \widehat{\mathsf P}^{(r)}_{\mathbf q} =\frac{\sum_{e\in\binom Vr}\omega_{e,\mathbf q}(\tau)Y_e} {\sum_{e\in\binom Vr}\omega_{e,\mathbf q}(\tau)}. \tag{2H.25c} $$

把 $B$ 的 ELBO 部分对单个参数求导即可得到这个“软出现次数 / 软候选次数”比值,证明实验室给出闭合计算。完整模型的群组数比较可使用

$$ \operatorname{ICL}_{\mathrm{full}}(Q) =\log P_{\widehat\theta}(Y,\widehat Z) -\frac{Q-1}{2}\log n -\frac12\sum_{r=2}^{M_0} \binom{Q+r-1}{r}\log\binom nr. \tag{2H.25d} $$

第一项奖励拟合,后两项分别惩罚群组比例参数和各阶亲和参数。该准则是论文采用的模型选择工具;其一般一致性没有在 Brusa and Matias (2024) 中得到证明。

这条路线的参数与样本空间均可解释,第 $m$ 阶潜在候选位置数则达到 $\binom nm$,计算量随 $m$ 和 $Q$ 快速增长。VEM 单调改进 ELBO,通常收敛到局部固定点;weak 或 exact recovery 需要相应的一致性定理。Brusa and Matias (2024) 将该模型中变分估计量和极大似然估计量的一般一致性列为后续问题。

大规模实现还面临“未出现位置”远多于观测超边的问题。若允许所有大小,候选集合数为 $2^n-n-1$;最大阶数 $R$ 固定时也有最高阶 $\Theta(n^R)$ 个位置。规模因此有两个轴:节点/事件数量,以及单条事件大小/最大阶数。Matias (2026, §§4.3, 6) 介绍的 sample-to-population 思路保留全部已出现超边,只抽样一部分未出现候选集合来近似总体目标。Fritz, Yuan, and Schweinberger (2026, §§4–5) 给出相应的抽样估计、可识别性与估计界;这些结论适用于其潜在双曲空间模型,HSBM–VEM 使用独立的恢复分析。

9.3 低秩超图嵌入的最小管线

Zhen and Wang (2023) 的 hypergraph embedding model(HEM)不是先把超图变成普通图。若最大超边大小为 $m$,它加入一个空节点 $0$,把大小为 $\ell<m$ 的超边 $e$ 扩充为

$$ e^+=e\uplus\{\underbrace{0,\ldots,0}_{m-\ell}\}, $$

从而得到只允许空节点重复的 $m$-均匀多重超图。对扩充后的邻接张量 $\mathcal A$,令每个节点有嵌入 $\alpha_i\in\mathbb R^r$,并设

$$ \Theta=\mathcal I_r\times_1\alpha\times_2\cdots\times_m\alpha, \qquad p_{i_1\cdots i_m} =s_n\bigl(1+e^{-\theta_{i_1\cdots i_m}}\bigr)^{-1}. $$

社区结构通过惩罚项进入目标:

$$ \mathcal L_\lambda(\alpha;\mathcal A) =\mathcal L(\alpha;\mathcal A) +\frac{\lambda_n}{n} \min_{Z,C}\|\alpha-ZC\|_F^2. $$

一个最小实现按以下顺序运行:

  1. 选定最大阶 $m$、嵌入维数 $r$、社区数 $Q$、稀疏因子 $s_n$ 和惩罚强度 $\lambda_n$。
  2. 用 HOSVD 或其他谱方法产生 $\alpha^{(0)}$ 的暖启动;空节点嵌入固定,不参加普通社区分配。
  3. 固定 $Z,C$,沿惩罚负对数似然的梯度更新真实节点的 $\alpha_i$。
  4. 固定 $\alpha$,对真实节点的行向量运行 $k$-means,更新 $Z$ 与中心 $C$。
  5. 交替迭代到目标函数稳定,输出 $\widehat\alpha$、$\widehat Z$ 和由 $\widehat\Theta$ 得到的超边概率。

该算法收敛到 stationary point;每次完整梯度更新还可能涉及 $O(n^mr)$ 量级的张量计算。理论一致性要求群组中心可分、网络具有足够稠密度,并且算法取得足够好的局部解,因此 HOSVD 暖启动是理论条件与实现之间的重要接口。

9.4 固定阶张量路线的最小管线

固定阶张量路线先把 $m$-均匀加权超图写成亲和张量 $\mathcal A$。作为一个可执行代表,tensor trace maximization(TTM)从最大化群组内部归一化亲和度出发,在谱松弛中构造

$$ C_{ij}=\sum_{i_3,\ldots,i_m=1}^n \mathcal A_{ij i_3\cdots i_m}, \qquad D_{ii}=\sum_jC_{ij}, \qquad S=D^{-1/2}CD^{-1/2}. $$

随后:

  1. 计算 $S$ 的 $Q$ 个最大特征值对应特征向量,组成 $X$。
  2. 对 $X$ 逐行归一化。
  3. 对行向量运行 $k$-means,输出节点划分。

TTM 的输入和离散目标来自张量,其谱松弛把后 $m-2$ 个模式压入 $C$。HOSVD 通过展开张量提取主子空间,CP 分解或张量幂法直接寻找低秩分量;它们分别依赖秩、正交性、噪声和初始化条件。Ghoshdastidar and Dukkipati (2017b) 的恢复定理专门适用于稀疏加权均匀 planted-partition 模型下的 TTM:论文所谓的 weak consistency 即错分比例趋于零,按本章术语属于几乎精确恢复;部分稠密情形还可达到精确恢复。

一个两群组、三元 affiliation HSBM 能把收缩后的信号算到最后一项。令 $n=2s$、两组各 $s$ 个节点,同组候选三元组以概率 $\alpha$ 出现,混合三元组以概率 $\beta$ 出现。下面使用未归一化节点对计数;它与前述三阶张量收缩只差固定比例,因而具有相同的归一化谱嵌入:

$$ C_{ij}=\sum_{k\notin\{i,j\}}Y_{\{i,j,k\}}. \tag{2H.28f} $$

若 $i,j$ 同组,第三个节点有 $s-2$ 种保持全同组、$s$ 种跨组;若 $i,j$ 异组,余下 $2s-2$ 种选择全部跨组。因此

$$ \begin{aligned} \mu_{\mathrm{in}} &=\mathbb E[C_{ij}\mid z_i=z_j] =(s-2)\alpha+s\beta,\\ \mu_{\mathrm{out}} &=\mathbb E[C_{ij}\mid z_i\ne z_j] =(2s-2)\beta,\\ \mu_{\mathrm{in}}-\mu_{\mathrm{out}} &=(s-2)(\alpha-\beta). \end{aligned} \tag{2H.28g} $$

当 $\alpha=\beta$ 时总体块对比为零;$\alpha-\beta$ 增大时,总体收缩矩阵中的同组—异组间隔线性增大。有限样本恢复还需联合控制随机波动、归一化与聚类步骤。查看计数证明。

这条三元无权收缩与 Zhou 算子可以直接换算。令 $D_h=\operatorname{diag}(d_0(i))$、$C_{ii}=0$,并记 $D_C=\operatorname{diag}(C\mathbf1)$。因为 $BB^T=D_h+C$、$D_e=3I$ 且 $D_C=2D_h$,在非孤立节点上有

$$ D_h^{-1/2}BD_e^{-1}B^TD_h^{-1/2} =\frac13I+\frac23D_C^{-1/2}CD_C^{-1/2}. \tag{2H.28h} $$

所以二者具有相同特征向量。该等价成立于三元、无权且按式 (2H.28f) 收缩的情形。

三元 affiliation HSBM 收缩后的配对计数热图,以及 alpha 减 beta 增大时四十次模拟的谱聚类错分率中位数与分位带
图解 2H-H 左边把总体差落实为一次样本的块状配对计数;右边用固定种子 Monte Carlo 显示同一实现的错分率随 $\alpha-\beta$ 增强而下降。阴影表示 20%–80% 经验分位带,用于展示有限样本波动。

图解 2H-H 使用 $n=60$、$\beta=0.02$、$\alpha-\beta\in\{0,0.005,\ldots,0.03\}$ 和每点 40 次重复。第 $j$ 个信号、重复 $t$ 的随机种子为 $20250800+100j+t$,左图种子为 $20250208$;生成脚本为 tools/generate_hypergraph_figures.py。式 (2H.28d)–(2H.28e) 是相关 Laplacian 管线的充分条件与误差界,不提供图中 $\alpha-\beta$ 的临界位置。

完整张量有 $n^m$ 个位置。直接从稀疏超边表累计 $C_{ij}$,或使用有理论依据的超边抽样,可以省去稠密 $n\times\cdots\times n$ 数组。

9.5 同一个五节点例子怎样进入四条路线

仍用 $e_1=\{1,2\}$、$e_2=\{1,2,3\}$、$e_3=\{3,4,5\}$。四种算法看到的“数据”并不相同:

路线 实际送入算法的对象 这个例子中特别需要说明的地方
关联矩阵谱 前文的 $5\times3$ 关联矩阵 $B$ 及三个度矩阵 三条超边都进入 $L_H$;超边大小通过 $D_e^{-1}$ 参与归一化
HSBM–VEM 所有二元和三元候选集合的 $Y_e\in\{0,1\}$ 不只有三个观测到的 1;其余候选集合都是会进入 Bernoulli 似然的 0
HEM 嵌入 最大阶取 3,并把 $e_1$ 扩成 $\{\!\{1,2,0\}\!\}$ 空节点 0 是计算约定,不是真实成员;$e_2,e_3$ 不需补齐
固定阶 TTM 三阶亲和张量,或按阶分别处理的张量族 若只取三阶层就会舍去 $e_1$;若补空节点,则必须声明已改变为多重超图样本空间

这个对照说明,四条路线不是同一算法的四种写法。表示步骤已经决定了哪些事件、非事件和超边阶数能够进入后面的目标函数。

实验设计模型内表现与模型外稳健性

评测同时包含模型内数据与模型外数据,从而分开算法能力和模型匹配优势:

  1. 模型内样本:检验假设正确时是否达到预期恢复趋势;
  2. 模型外样本:加入 configuration 重连、潜在几何、增长机制或各阶信号不一致,观察方法怎样失效。

标签错分率之外,同时比较分阶度、边大小、重叠和连通性等未被拟合强制匹配的统计量。上述两层检查将 Matias (2026, §6) 的多机制 benchmark 建议落实为可执行流程。

10. 恢复理论语言:四种保证的区别

对真实标签 $z\in[Q]^n$ 和估计 $\widehat z$,定义置换不变的错分率

$$ \operatorname{err}(\widehat z,z) =\min_{\sigma\in\mathfrak S_Q} \frac1n\sum_{i=1}^n \mathbf1\{\widehat z_i\ne\sigma(z_i)\}. \tag{2H.29} $$

对一列群组比例收敛到 $\pi$ 的模型,记 $\pi_{\max}=\max_q\pi_q$;恒猜最大群组的渐近准确率是 $\pi_{\max}$。本章据此采用下表的操作性定义。

层级 本章采用的工作定义 结论范围
检测(detection) 能以非平凡功效区分“有植入结构”的模型与合适零模型 模型检验;标签估计另行分析
弱恢复(weak recovery) 存在 $\varepsilon>0$,使 $\mathbb P\{1-\operatorname{err}(\widehat z,z)\ge\pi_{\max}+\varepsilon\}\to1$ 准确率超过基线,允许正比例节点错分;平衡 $Q$ 群组时基线为 $1/Q$
几乎精确恢复(almost exact recovery) $\operatorname{err}(\widehat z,z)\xrightarrow{P}0$ 允许 $o(n)$ 个节点错分
精确恢复(exact recovery) $\mathbb P(\operatorname{err}(\widehat z,z)=0)\to1$ 统计恢复目标;计算复杂度另行分析

术语在文献间略有差异:部分文献把 detection 用作“输出与真值正相关”,与 weak recovery 近似同义;另一些文献将其用于模型检验。上表采用本项目的统一口径;解释具体阈值时以原文定义为准。

还需区分三类问题:

  • 信息论可能性:是否存在任意估计器达到目标;
  • 计算可达性:是否存在多项式时间算法达到同一阈值;
  • 特定算法保证:某个谱、似然、低秩嵌入或张量算法在什么条件下达到何种误差。

Chien, Lin, and Wang (2018) 研究 $d$-均匀 HSBM 的 minimax 错分率;Zhang and Tan (2023) 给出一般均匀 HSBM 的精确恢复阈值;Dumitriu and Wang (2026) 进一步处理一般非均匀 HSBM。Chernoff–Hellinger 型散度、局部 refinement 和信息论下界列入延伸阅读。

10.1 四条路线到底保证了什么

路线 优化或算法收敛 本章可引用的统计保证 核对条件
关联矩阵谱 特征分解本身可计算,$k$-means 只近似离散聚类 Ghoshdastidar and Dukkipati (2017a):在其 planted-partition、稠密度和 eigengap 条件下错分比例趋零;部分稠密均匀情形可精确恢复 用的是哪个 Laplacian?总体群组是否仍能从矩阵化算子中识别?
HSBM–VEM 交替步骤提高 ELBO,最终可能只是局部固定点 Brusa and Matias (2024) 将一般 VEM/MLE 一致性列为后续问题 多初值运行;未出现超边进入似然;ELBO 收敛与 label consistency 分别报告
HEM 低秩嵌入 交替梯度与 $k$-means 收敛到 stationary point Zhen and Wang (2023):在低秩、分离、稀疏度和足够好解等条件下给出估计及社区一致性 空节点规则、$r,Q,s_n,\lambda_n$ 如何选择?初始化是否落入理论要求的邻域?
TTM 矩阵谱步骤可解,最后仍需 $k$-means Ghoshdastidar and Dukkipati (2017b):稀疏加权均匀 planted-partition 下错分比例趋零;部分稠密情形精确恢复 张量如何收缩、是否抽样、eigengap 与最低稠密度是否满足?

数值迭代停止、有限样本 ARI 和恢复定理对应三类不同结论:优化停止条件、经验表现,以及特定随机模型与参数序列上的概率保证。三者应分别报告。

11. 十二张定理与模型卡

卡片 结论 本章处理深度
T0 表示转换 incidence/star 保真;projection/tensor 带条件 五节点例子完整计算
T1 关联度分布 $D_i\sim\mathrm{Bin}(\binom{n-1}{d-1},p)$ 完整证明
T2 巨分量相变 $M=n/[d(d-1)]+O(n^{2/3})$ 只陈述与解释
T3 拉普拉斯 $L_H\succeq0$ 完整证明
T4 NH-Cut 松弛 离散切分目标等于受限 Rayleigh 商 完整推导与离散舍入步骤
T5 HSBM 似然 标签先验 × 条件独立 Bernoulli 超边 完整证明
T6 HSBM–VEM VE 固定点;M 步为软出现频率 M 步完整推导;VE 给出一阶条件
T7 期望关联度 对所有含节点 $i$ 的候选超边求概率和 完整证明
T8 度校正尺度 $\theta$ 与 $\Omega$ 可按群组互相缩放 完整证明
T9 DCHSBM modularity Poisson 观测项减度校正暴露量 逐式推导到 AON 目标并说明受限 MLE 条件
T10 谱一致性 $d_{\min}$、$\Delta_{\mathrm{id}}$ 与群组不平衡共同控制错分数 原定理精确陈述;证明链拆读
T11 恢复层级 检测、弱、几乎精确、精确 定义与口径审计

12. 证明实验室

完整证明命题 2H.1:节点关联度的二项分布

证明目标:确定固定节点 $i$ 参与的随机超边数分布。

包含 $i$ 的候选 $d$-节点集合可由其余 $n-1$ 个节点中选择 $d-1$ 个得到,共有 $\binom{n-1}{d-1}$ 个。于是

$$ D_i=\sum_{\substack{e\in\binom Vd\\i\in e}}X_e. $$

在 $H_d(n,p)$ 中,这些 $X_e$ 相互独立且均服从 $\operatorname{Bernoulli}(p)$,故其和服从

$$ \operatorname{Binomial}\!\left(\binom{n-1}{d-1},p\right). $$

二项分布期望为试验次数乘成功概率,得到 $\mathbb ED_i=\binom{n-1}{d-1}p$。∎

依赖关系:不同候选超边独立采样,因此组成 $D_i$ 的指标相互独立;同一条超边会同时进入多个节点的关联度,所以 $D_i$ 与 $D_j$ 一般相关。命题只使用 $D_i$ 的单点边际分布。

完整证明命题 2H.2:Zhou 拉普拉斯的半正定性

令 $x_u=f_u/\sqrt{d(u)}$。由 $d(u)=\sum_e w(e)B_{ue}$,

$$ \sum_u f_u^2 =\sum_u d(u)x_u^2 =\sum_{e\in\mathcal E}w(e)\sum_{u\in e}x_u^2. $$

另一方面,

$$ f^TD_v^{-1/2}BWD_e^{-1}B^TD_v^{-1/2}f =\sum_{e\in\mathcal E}\frac{w(e)}{\delta(e)} \left(\sum_{u\in e}x_u\right)^2. $$

两式相减,并使用恒等式

$$ \sum_{u\in e}x_u^2- \frac1{\delta(e)}\left(\sum_{u\in e}x_u\right)^2 =\frac1{2\delta(e)}\sum_{u,v\in e}(x_u-x_v)^2, $$

即得式 (2H.17)。右侧每一项均非负,所以 $f^TL_Hf\ge0$,即 $L_H\succeq0$。当 $f=D_v^{1/2}\mathbf1$ 时所有 $x_u=1$,右侧为 0,故它是零特征向量。

再设 $L_Hf=0$。半正定性给出 $f^TL_Hf=0$,而式 (2H.17) 是非负项之和,所以每条超边 $e$ 内任意 $u,v$ 都满足 $x_u=x_v$。若超图按 Berge 路径连通,沿相邻超边传递可知所有节点上的 $x_u$ 都等于同一常数 $c$,于是 $f=cD_v^{1/2}\mathbf1$。因此连通时 $\ker L_H=\operatorname{span}\{D_v^{1/2}\mathbf1\}$,零特征值为单重。∎

定义域:证明在 $d(u)>0$ 时使用 $D_v^{-1/2}$;孤立节点可单独处理,或采用明确的正则化逆。

完整证明命题 2H.3:Simple HSBM 完整似然分解

由标签独立同分布,

$$ \mathbb P(Z=z)=\prod_{i=1}^n\pi_{z_i}. $$

给定 $Z=z$ 后,所有候选超边指标条件独立;单个 $Y_e$ 的 Bernoulli 质量函数为

$$ \mathbb P(Y_e=y_e\mid Z=z) =p_e(z)^{y_e}[1-p_e(z)]^{1-y_e}. $$

对所有阶数和全部无序候选节点集合取乘积,得到 $\mathbb P(Y\mid Z=z)$。最后使用

$$ \mathbb P(Y,Z)=\mathbb P(Z)\mathbb P(Y\mid Z) $$

即得式 (2H.21)。∎

完整似然:乘积覆盖全部候选超边;未出现位置贡献 $[1-p_e]$ 项。

完整证明命题 2H.4:HSBM 的期望关联度

把节点 $i$ 的关联度写为所有包含 $i$ 的候选超边指标之和:

$$ D_i=\sum_{r=2}^{M_0} \sum_{\substack{S\subseteq V\setminus\{i\}\\|S|=r-1}} Y_{\{i\}\cup S}. $$

给定 $Z=z$,由期望线性性和式 (2H.20),

$$ \mathbb E[D_i\mid Z=z] =\sum_{r=2}^{M_0} \sum_{S}\mathsf P^{(r)}_{z_i,z_S}, $$

即式 (2H.23)。注意这里不需要各 $Y_e$ 独立;期望线性性已经足够。

在 affiliation 子模型中,条件于 $Z_i=a$,其余 $r-1$ 个节点标签独立来自 $\pi$。它们全部等于 $a$ 的概率为 $\pi_a^{r-1}$,此时超边概率为 $\alpha_r$;互补事件概率为 $1-\pi_a^{r-1}$,超边概率为 $\beta_r$。再乘候选集合数 $\binom{n-1}{r-1}$ 并对 $r$ 求和,得到式 (2H.24)。∎

条件说明:式 (2H.23) 对应固定标签向量;式 (2H.24) 则对随机标签先验取平均,使用群组比例 $\pi_a$。

完整证明命题 2H.5:DCHSBM 的尺度不变性

对任意多重集位置 $R$,变换后的 Poisson 强度为

$$ b_R\prod_{i\in R}\theta_i'\,\Omega'(z_R) =b_R\left(\prod_{i\in R}c_{z_i}\theta_i\right) \frac{\Omega(z_R)}{\prod_{i\in R}c_{z_i}} =b_R\prod_{i\in R}\theta_i\,\Omega(z_R). $$

每个 $a_R$ 的条件分布均未改变,且给定参数后各位置的联合分布由这些 Poisson 分布的乘积确定,所以整个观测分布不变。∎

群组规范化:式 (2H.27) 可对每个群组分别缩放。为分别解释节点活跃度与群组亲和度,需要为每个群组设置规范化条件。

完整推导NH-Cut 为什么等于一个受限 Rayleigh 商

令 $a=\operatorname{vol}(S)$、$b=\operatorname{vol}(S^c)$,按式 (2H.17b) 定义 $y$ 与 $f=D_v^{1/2}y/\sqrt{a+b}$。首先,

$$ f^Tf =\frac1{a+b}\left[ a\frac ba+b\frac ab \right]=1. $$

其次,

$$ f^TD_v^{1/2}\mathbf1 =\frac1{\sqrt{a+b}}\sum_ud(u)y_u =\frac{a\sqrt{b/a}-b\sqrt{a/b}}{\sqrt{a+b}}=0. $$

因此 $f$ 位于单位球面,并与零特征向量 $D_v^{1/2}\mathbf1$ 正交。再看能量式 (2H.17)。同侧节点满足 $y_u-y_v=0$;跨侧节点满足

$$ (y_u-y_v)^2 =\left(\sqrt{b/a}+\sqrt{a/b}\right)^2 =\frac{(a+b)^2}{ab}. $$

对每条超边 $e$,跨侧有序节点对共有 $2|e\cap S||e\cap S^c|$ 个,恰好消去式 (2H.17) 前的 $1/2$。还要记得 $f$ 比 $D_v^{1/2}y$ 多除以 $\sqrt{a+b}$,于是

$$ \begin{aligned} f^TL_Hf &=\frac1{a+b} \sum_e\frac{w(e)}{\delta(e)} |e\cap S||e\cap S^c| \frac{(a+b)^2}{ab}\\ &=\operatorname{vol}(\partial S) \frac{a+b}{ab} =\operatorname{vol}(\partial S)\left(\frac1a+\frac1b\right) =\operatorname{Ncut}_H(S). \end{aligned} $$

离散可行向量还必须由某个集合 $S$ 产生,所以只能取两种数值。放松这一条后,Rayleigh–Ritz 原理给出最小非零特征向量。∎

关键一步:Rayleigh–Ritz 求解连续松弛;按符号切分或运行 $k$-means 完成离散舍入,所得切分一般是近似解。

完整推导HSBM 的 M 步为什么是软频率

固定一个阶数 $r$ 和标签多重组 $\mathbf q$,把 $p=\mathsf P^{(r)}_{\mathbf q}$ 视为唯一未知量,并记 $\omega_e=\omega_{e,\mathbf q}(\tau)$。ELBO 中依赖 $p$ 的部分是

$$ F(p)=\sum_{e\in\binom Vr}\omega_e \left[Y_e\log p+(1-Y_e)\log(1-p)\right]. $$

在 $0<p<1$ 内求导:

$$ F'(p) =\sum_e\omega_e\left(\frac{Y_e}{p}-\frac{1-Y_e}{1-p}\right) =\frac{\sum_e\omega_e(Y_e-p)}{p(1-p)}. $$

令 $F'(p)=0$,得到

$$ p=\frac{\sum_e\omega_eY_e}{\sum_e\omega_e}. $$

$F$ 是加权 Bernoulli 对数似然,因而在内部严格凹;这就是式 (2H.25c) 的亲和参数更新。对群组比例部分 $\sum_{i,q}\tau_{iq}\log\pi_q$ 加约束 $\sum_q\pi_q=1$,拉格朗日一阶条件给出 $\widehat\pi_q=n^{-1}\sum_i\tau_{iq}$。∎

零分母情形:若 $\sum_e\omega_e=0$,数据和当前软标签没有为该参数提供有效候选位置,闭式比值未定义。实现可保留旧值、加入先验或正则化,或删去当前数据无法支持的参数。

完整证明三元 affiliation HSBM 的配对计数对比

固定一对互异节点 $i,j$。若二者同组,该组除去 $i,j$ 后还剩 $s-2$ 个节点;从中选择第三节点时,三元组全同组,单项期望为 $\alpha$。另一组有 $s$ 个节点,选择其中任一个都会形成混合三元组,单项期望为 $\beta$。由期望线性性,

$$ \mathbb E[C_{ij}\mid z_i=z_j]=(s-2)\alpha+s\beta. $$

若 $i,j$ 异组,无论第三节点属于哪组,三元组都至少含两个群组。除去 $i,j$ 后共有 $2s-2$ 个可选节点,所以

$$ \mathbb E[C_{ij}\mid z_i\ne z_j]=(2s-2)\beta. $$

两式相减即得 $(s-2)(\alpha-\beta)$。∎

依赖结构:该结论比较一阶期望。$C_{ij}$ 与 $C_{i\ell}$ 会共享三元超边指标,恢复误差分析还要控制这种依赖和整体谱扰动。

定理拆读Theorem 4.2 的条件怎样进入误差链

下面按五步拆解原定理从总体结构到错分界的证明路线。

  1. 总体可分:$\bar A=ZGZ^T-J$ 使同一群组的总体嵌入行相同;$\Delta_{\mathrm{id}}>0$ 保证对应的 $Q$ 维群组子空间确实位于算法选取的主谱空间。
  2. 样本集中:最低期望度 $d_{\min}$ 控制样本归一化算子偏离总体算子的大小。超图越稀,归一化度和收缩矩阵的随机波动越大。
  3. 子空间扰动:将算子偏差除以由 $\Delta_{\mathrm{id}}$ 控制的总体谱分离,可把算子误差转成样本特征向量与总体群组子空间之间的距离。
  4. 从嵌入到错分:总体嵌入只有 $Q$ 种行。若一个样本行仍落在对应中心的分离半径内,它不会被近似 $k$-means 错分;把超出半径的行数用 Frobenius 误差控制,得到 $O(Qn_1\log n/(\Delta_{\mathrm{id}}^2d_{\min}))$。
  5. 条件汇总:式 (2H.28d) 让上述误差相对 $n$ 为 $o(1)$,同时满足论文所用近似 $k$-means 成功条件,最终得到式 (2H.28e) 的概率陈述。

定理条件:以上五步对应 Theorem 4.2 的证明结构。定理同时使用 $d_{\min}$、$\Delta_{\mathrm{id}}>0$、群组不平衡因子 $n_1/n_Q$ 和近似聚类条件;精确常数、归一化度偏差与概率界见 Ghoshdastidar and Dukkipati (2017a, §4.2)。

13. 小检查:先作答,再展开答案

  1. 五人共同参加一次会议。把它投影成十条边后,还能否判断这十条边来自同一次会议?
  2. 在五节点贯穿例子中,写出节点 3 对应的关联矩阵行,并计算其关联度。
  3. 若 $d=3$ 且 $p_n=c/n^2$,$H_3(n,p_n)$ 中固定节点的期望关联度趋于多少?
  4. 为什么 $L_H\succeq0$ 并不证明该方法保留了全部高阶信息?
  5. HSBM 中 $\alpha_3>\beta_3$ 能否推出 $\alpha_2>\beta_2$?
  6. 某算法错分 $\sqrt n$ 个节点。它达到哪一种恢复层级?还缺什么条件才能称为精确恢复?
  7. 五节点例子中,$S=\{1,2\}$ 的边界体积与 NH-Cut 各是多少?
  8. VEM 的 ELBO 已经停止上升,为什么仍不能声称社区已一致恢复?
  9. 两群组三元 affiliation HSBM 中若 $\alpha=\beta$,配对计数 $C$ 还保留总体社区对比吗?
  10. 贯穿例子的 $e_1,e_3$ 在 $L_1(H)$ 与 $L_2(H)$ 中的距离分别是多少?
  11. 超图 $\boldsymbol\beta$-model 与 configuration 模型都控制节点活跃度,二者的约束方式有何不同?
  12. 两个事件具有完全相同的参与者时,为什么“保留两个关联矩阵列”与“只保留简单超边集合”不是同一份数据?随机二部成员模型又预先固定了什么?
核对答案 · 作答后展开十二题最短答案若答案不稳,回到相应模型卡。
  1. 不能。普通团投影只保留节点对共现,除非另存事件标识或关联矩阵。
  2. 第三行为 $(0,1,1)$,故 $d_3=2$。
  3. $\binom{n-1}{2}c/n^2\to c/2$。
  4. 半正定性只是二次型性质;该线性随机游走在常见权重下可等价于加权投影图。
  5. 不能。不同阶数的参数可独立指定;除非模型额外施加跨阶约束。
  6. $\sqrt n/n\to0$,所以达到几乎精确恢复;精确恢复还要求零错分事件的概率趋于 1。
  7. 只有 $e_2$ 被切开,边界体积为 $2/3$;两侧体积均为 4,所以 NH-Cut 为 $(2/3)(1/4+1/4)=1/3$。
  8. 停止条件只说明到达 ELBO 的局部固定点;一致恢复还需要指定生成模型、参数序列、损失和高概率误差界。
  9. 不保留。式 (2H.28g) 的总体差为 $(s-2)(\alpha-\beta)=0$;有限样本仍会有随机块状波动,但不能解释为总体社区信号。
  10. $e_1-e_2-e_3$ 是长度 2 的 1-walk,所以 $d_1(e_1,e_3)=2$;$L_2(H)$ 中 $e_3$ 孤立,所以 $d_2(e_1,e_3)=\infty$。
  11. $\boldsymbol\beta$-model 用参数匹配期望分阶度,模拟度仍随机;configuration 模型把给定度与超边大小固定为每个样本都必须满足的硬边际。
  12. 两列保留两次事件的身份和重数;集合去重后只剩一个成员集合,无法恢复发生次数。固定两侧的随机二部模型在采样前给定事件节点集 $U$,所以固定的是 $|U|$ 个事件槽,随机的是每个槽连接哪些实体节点。

14. 易混点与术语表

易混对象 正确区分
edge 与 hyperedge 图边固定含两个节点;超边可含任意允许大小的节点集合
直接观测超边与推断超边 前者由事件记录直接给出参与者集合;后者还依赖阈值、时间窗或前级识别算法,需检查构造敏感性
加权关联度 $d(v)$、未加权关联度 $d_0(v)$ 与超边大小 $\delta(e)$ $d_0(v)$ 数节点参与多少个不同事件,$d(v)$ 累计事件权重,$\delta(e)$ 数单个事件包含多少节点
总关联度与分阶关联度 $d_0(v)=d_1(v)+\sum_{r\ge2}d_r(v)$;交互层总度为 $d_{\ge2,0}(v)=\sum_{r\ge2}d_r(v)$
rank 与 uniformity 非空超边族的 rank 是最大超边大小,空族约定为 0;$d$-uniform 要求非空族中每条超边都恰为 $d$
simple 与 unweighted 本章的 simple 表示超边是互不重复的普通节点集合;unweighted 只表示所有事件没有额外实数权重
重复超边与多重集合超边 前者是同一普通节点集合发生多次;后者允许同一节点在一条超边内部重复出现,二者不是同一扩展
hypergraph 与 simplicial complex 后者要求向下闭合,前者不要求
star expansion 与 clique projection 前者增加超边节点并保留事件身份;后者只保留原节点并连接共现对
星形展开与随机二部图模型 前者是对已观测对象的确定性重写;后者固定两侧节点集并随机生成成员关联,已改变样本空间
line graph 与 $k$-line graph 前者通常只问超边是否相交;后者要求重叠至少为 $k$,不同 $k$ 可产生不同连通分量
incidence matrix 与 adjacency tensor 前者适合非均匀超图;单个标准 $d$ 阶张量对应 $d$-均匀结构
$\boldsymbol\beta$-model 与 configuration model 前者以度为充分统计量并软匹配期望度;后者在固定度和边大小的状态空间内随机化
HSBM 参数可识别与标签可恢复 参数分布层面的可识别性是恢复一致性的基础条件,但不等于给定样本下已能恢复标签
weak consistency 与 exact recovery 错分比例趋零仍允许 $o(n)$ 个错误;exact 要求最终一个也不错
投影有损与投影无用 有损不等于对当前任务无用;应检查丢失信息是否影响目标量

本章采用以下英文原词:hyperedge(超边)、incidence matrix(关联矩阵)、incident degree / hyperdegree(节点关联度 / 超度)、edge size / cardinality(超边大小)、rank(秩)、uniform hypergraph(均匀超图)、star expansion(星形展开)、clique projection / 2-section(团投影 / 2-截面)、line graph / $k$-walk(线图 / $k$-游走)、affinity tensor/function(亲和张量 / 亲和函数)、misclassification rate(错分率)。

15. 公式卡片

F1 · 公式

表示与度

#

$$ B_{ve}=\mathbf1\{v\in e\},\qquad d(v)=\sum_e w(e)B_{ve},\qquad d_0(v)=\sum_eB_{ve},\qquad \delta(e)=\sum_vB_{ve}. $$

输入是节点—事件归属与事件权重;输出是关联矩阵、未加权/加权节点关联度和超边大小。

F2 · 公式

随机超图基线

#

$$ D_i\sim\operatorname{Binomial}\!\left(\binom{n-1}{d-1},p\right), \qquad \mathbb ED_i=\binom{n-1}{d-1}p. $$

候选数 $\binom{n-1}{d-1}$ 是所有稀疏标度计算的起点。

F2b 软度约束

$$ \mathbb P(X_e=1) =\operatorname{logit}^{-1}\!\left(\sum_{i\in e}\beta_{r,i}\right), \qquad e\in\binom Vr. $$

$\boldsymbol\beta$-model 用分阶节点参数解释活跃度异质性;它不是社区模型,也不把实现度固定为观测度。

F3 · 公式

随机游走与拉普拉斯

#

$$ P=D_v^{-1}BWD_e^{-1}B^T, \qquad L_H=I-D_v^{-1/2}BWD_e^{-1}B^TD_v^{-1/2}. $$

$P$ 是两阶段节点游走;$L_H$ 是其对称化谱对象。

F4 · 公式

Simple HSBM

#

$$ Y_e\mid Z\sim\operatorname{Bernoulli}(\mathsf P^{(|e|)}_{Z_e}), \qquad \mathbb P(Y,Z)=\mathbb P(Z)\prod_e\mathbb P(Y_e\mid Z). $$

“给定标签后候选超边独立”是完整似然可乘的关键假设。

F5 · 公式

Degree-corrected HSBM

#

$$ a_R\mid z,\theta,\Omega \sim\operatorname{Poisson}\!\left( b_R\prod_{i\in R}\theta_i\Omega(z_R) \right). $$

$\theta_i$ 控制节点活跃度;$\Omega$ 控制标签组合亲和度;二者需要联合规范化。

F6 · 公式

置换不变错分率

#

$$ \operatorname{err}(\widehat z,z)= \min_{\sigma\in\mathfrak S_Q}\frac1n \sum_i\mathbf1\{\widehat z_i\ne\sigma(z_i)\}. $$

弱恢复还需相对群组比例给出基线:若 $\pi_{\max}=\max_q\pi_q$,则要求准确率 $1-\operatorname{err}$ 以非消失幅度超过 $\pi_{\max}$。任何社区恢复结论都应说明使用的损失、概率模式和参数标度。

F7 · 公式

NH-Cut 与谱松弛

#

$$ \operatorname{Ncut}_H(S) =\operatorname{vol}(\partial S) \left(\frac1{\operatorname{vol}(S)}+\frac1{\operatorname{vol}(S^c)}\right) =f^TL_Hf. $$

最后一个等号只对式 (2H.17b) 的离散切分编码成立;去掉两值约束后才得到特征向量松弛。

F8 · 公式

HSBM–VEM 的 M 步

#

$$ \widehat{\mathsf P}^{(r)}_{\mathbf q} =\frac{\sum_e\omega_{e,\mathbf q}(\tau)Y_e} {\sum_e\omega_{e,\mathbf q}(\tau)}, \qquad \widehat\pi_q=\frac1n\sum_i\tau_{iq}. $$

这是软标签权重下的 Bernoulli 出现频率;分母为零时必须显式处理不可支持参数。

F9 · 公式

三元 affiliation 的收缩信号

#

$$ \mathbb E[C_{ij}\mid z_i=z_j] -\mathbb E[C_{ij}\mid z_i\ne z_j] =(s-2)(\alpha-\beta). $$

它解释总体块对比的来源,不单独构成有限样本恢复保证。

16. 来源与延伸阅读

本章用综合性综述核对术语和统计问题地图,用原始研究论文核对公式、模型和定理。正文的完整逐项表见§2H.7 来源与逐项定位;本笔记中证明卡、模型卡与方法管线的直接定位如下。

笔记内容 直接核对位置 使用方式
命题 2H.1:关联度分布 $H_d(n,p)$ 的独立 Bernoulli 定义;Karoński and Łuczak (2002), §1 给出固定边数模型 由候选超边指标和独立性完整推导
定理 2H.1:相变 Karoński and Łuczak (2002), Abstract, §1 式 (2H.12) 与临界附近分析归该文;粗粒度三阶段按其 §1 的文献归因陈述
邻接张量特征对 Cooper and Dutle (2012), Definitions 2.3, 3.1, Eq. (3) 保留其张量特征方程;单超边算例由本项目逐坐标计算
命题 2H.2 与 NH-Cut 松弛 Zhou et al. (2006), §§3, 5–6, Eqs. (1)–(2), Theorem 1 按论文边界体积和二次型逐式闭合二分松弛;明确 $k$-means 是额外舍入
命题 2H.3–2H.4:simple HSBM Brusa and Matias (2024), §§2.1–2.3, Eqs. (1)–(2), Lemma 1 从条件独立 Bernoulli 模型推导完整似然与期望关联度
HSBM–VEM 与 ICL Brusa and Matias (2024), §2.3, Propositions 4–6;§2.4 展开 VE 固定点、M 步软频率和完整模型 ICL;同时记录局部固定点性质与一般一致性的研究状态
命题 2H.5:DCHSBM 尺度不识别 Chodrow et al. (2021), §§2–2.1, Eqs. (1), (9)–(10), Appendix A 逐位置验证 Poisson 强度在群组缩放下不变
DCHSBM 到 modularity Chodrow et al. (2021), §§2.1, 3.1–3.2, Eqs. (3)–(4), (14)–(16) 逐式整理到 AON 目标;不等群组体积时的条件估计按受限 MLE 近似解释
谱恢复代表定理 Ghoshdastidar and Dukkipati (2017a), §4.1, Lemma 4.1, Theorem 4.2 按本章记号 $d_{\min},\Delta_{\mathrm{id}}$ 保留最低期望度、可识别性量、概率口径和错分数阶,并按原定理的证明链拆读
HEM 低秩嵌入 Zhen and Wang (2023), §§3.1–3.3, Eqs. (1)–(5) 保留单空节点扩充、低秩嵌入、惩罚目标和交替更新;一致性按原文条件陈述
TTM 谱松弛 Ghoshdastidar and Dukkipati (2017b), §§3–4, Algorithm TTM, Theorem 2 明确张量在该松弛中收缩为矩阵;恢复保证限定于论文分析的 TTM
三元收缩与图 2H.8 affiliation HSBM 定义;tools/generate_hypergraph_figures.py 期望差由本项目组合计数;固定种子 Monte Carlo 定位为有限样本教学检查
观测语义、描述统计、二部模型、分层信号与可扩展近似 Matias (2026), §§1–6 用于组织问题地图与实现要点;算法和定理由相应原始论文支持
Sample-to-population 近似 Fritz, Yuan, and Schweinberger (2026), §§4–5 采用其抽样估计框架、可识别性和估计界;HSBM 社区恢复使用相应模型的定理
二部表示的可逆条件、固定事件槽与 bipartite SBM 约束 Brusa and Matias (2024), Supplement A.1–A.3 区分带索引重复事件与简单超边集合;式 (2H.4c) 表示一个事件槽的共同包含概率
$k$-walk、$k$-line graph 与 $k$-distance Aksoy et al. (2020), Definitions 5 and 7, Proposition 1, §§4.2–4.4 采用 edge-level 定义;五节点距离与图 2H.2a 为项目复算
分层超图 $\boldsymbol\beta$-model Nandy and Bhattacharya (2024), Definition 1.1, Eqs. (1.2), (2.2)–(2.3) 展开概率、似然与充分统计量;渐近估计和检验定理见原文

完整书目信息按本章功能排列,而非按年代排列。

  1. Battiston, F. et al. (2020), “Networks beyond pairwise interactions: Structure and dynamics,” Physics Reports, 874, 1–92. DOI
  2. Bick, C., Gross, E., Harrington, H. A., and Schaub, M. T. (2023), “What Are Higher-Order Networks?” SIAM Review, 65(3), 686–731. DOI
  3. Karoński, M. and Łuczak, T. (2002), “The phase transition in a random hypergraph,” Journal of Computational and Applied Mathematics, 142(1), 125–135. DOI
  4. Zhou, D., Huang, J., and Schölkopf, B. (2006), “Learning with Hypergraphs: Clustering, Classification, and Embedding,” Advances in Neural Information Processing Systems, 19, 1601–1608. 论文页
  5. Chitra, U. and Raphael, B. (2019), “Random Walks on Hypergraphs with Edge-Dependent Vertex Weights,” ICML 2019, PMLR 97, 1172–1181. 论文页
  6. Cooper, J. and Dutle, A. (2012), “Spectra of uniform hypergraphs,” Linear Algebra and its Applications, 436(9), 3268–3292. DOI
  7. Ghoshdastidar, D. and Dukkipati, A. (2017a), “Consistency of spectral hypergraph partitioning under planted partition model,” The Annals of Statistics, 45(1), 289–315. DOI
  8. Brusa, L. and Matias, C. (2024), “Model-based clustering in simple hypergraphs through a stochastic blockmodel,” Scandinavian Journal of Statistics, 51(4), 1661–1684. DOI
  9. Chodrow, P. S., Veldt, N., and Benson, A. R. (2021), “Generative hypergraph clustering: From blockmodels to modularity,” Science Advances, 7(28), eabh1303. DOI
  10. Zhen, Y. and Wang, J. (2023), “Community detection in general hypergraph via graph embedding,” Journal of the American Statistical Association, 118(543), 1620–1629. DOI
  11. Chien, I., Lin, C.-Y., and Wang, I.-H. (2018), “Community Detection in Hypergraphs: Optimal Statistical Limit and Efficient Algorithms,” Proceedings of AISTATS 2018, PMLR 84, 871–879. 论文页
  12. Zhang, Q. and Tan, V. Y. F. (2023), “Exact Recovery in the General Hypergraph Stochastic Block Model,” IEEE Transactions on Information Theory, 69(1), 453–471. DOI
  13. Dumitriu, I. and Wang, H. (2026), “Optimal and exact recovery on the general non-uniform Hypergraph Stochastic Block Model,” The Annals of Statistics, 54(1), 48–73. DOI
  14. Ghoshdastidar, D. and Dukkipati, A. (2017b), “Uniform Hypergraph Partitioning: Provable Tensor Methods and Sampling Techniques,” Journal of Machine Learning Research, 18(50), 1–41. 论文页
  15. Matias, C. (2026), “A statistical perspective on higher-order interactions modeling,” arXiv:2603.28273v1 [stat.AP], 30 March 2026. arXiv
  16. Aksoy, S. G., Joslyn, C., Ortiz Marrero, C., Praggastis, B., and Purvine, E. (2020), “Hypernetwork science via high-order hypergraph walks,” EPJ Data Science, 9, 16. DOI
  17. Nandy, S. and Bhattacharya, B. B. (2024), “Degree Heterogeneity in Higher-Order Networks: Inference in the Hypergraph $\boldsymbol\beta$-Model,” IEEE Transactions on Information Theory, 70(8), 6000–6024. DOI · arXiv v4
  18. Schmidt-Pruzan, J. and Shamir, E. (1985), “Component structure in the evolution of random hypergraphs,” Combinatorica, 5(1), 81–94. DOI
  19. Fritz, C., Yuan, Y., and Schweinberger, M. (2026), “Scalable Sample-to-Population Estimation of Hyperbolic Space Models for Hypergraphs,” arXiv:2509.07031v2 [stat.ME], revised 1 February 2026. arXiv
  20. Benson, A. R. (2019), “Three Hypergraph Eigenvector Centralities,” SIAM Journal on Mathematics of Data Science, 1(2), 293–312. DOI
  21. Hein, M., Setzer, S., Jost, L., and Rangapuram, S. S. (2013), “The Total Variation on Hypergraphs—Learning on Hypergraphs Revisited,” Advances in Neural Information Processing Systems, 26, 2427–2435. 论文页

本项目的规划稿位于 references/hypergraph-foundations-chapter-plan.md,26 篇本地论文与 OCR 清单位于 references/papers/hypergraph-foundations/README.md。这些本地文件用于校核,不作为原书来源,也不随公开站点发布。

Further Notes · 按需展开五条进阶路线完成基础模型后按问题进入专题。
  • 中心性:Benson (2019) 的三类超图特征向量中心性,以及节点中心性与超边中心性的耦合。
  • 直接超图正则化:Hein et al. (2013) 的 hypergraph total variation,用于突破纯 clique-based Laplacian。
  • 高级社区算法:非回溯谱、belief propagation、张量幂法、半正定松弛和局部 refinement。
  • 动态与抽样:时间超边的记忆、形成—解散机制、节点/超边随机游走抽样和高阶 motif 估计。
  • 更丰富生成机制:mixed membership、属性、潜在几何、多样性—流行度、动态 DCHSBM 与超图神经网络。

17. 学习检查表与后续衔接

按下一项学习任务离开本章

不必机械按章号前进,选择真正需要解决的问题

每张出口卡说明连接对象及其用途;需要回看时,仍可沿卡内链接返回精确位置。

下一步 01 后续路线 1

[ ] 能判断:给定原始事件记录,说明为什么用图、超图或单纯复形,并指出该选择加入了什么结构假设。

下一步 02 后续路线 2

[ ] 能区分:超边是由事件记录直接观测,还是经阈值、时间窗或前级算法推断,并说明后一种情况需要什么敏感性检查。

下一步 03 后续路线 3

[ ] 能区分:星形展开的确定性对应、固定事件槽的随机二部成员模型和候选集合上的 Bernoulli 超图模型,并说明三者各自固定什么。

下一步 04 后续路线 4

[ ] 能构造:由超边集合写出关联矩阵、节点关联度、超边大小、星形展开、明确归一化的团投影和 $k$-线图,并在单边例子中核对张量特征方程。

下一步 05 后续路线 5

[ ] 能体检:按阶数报告密度与节点关联度、超边大小和重叠,并按检验问题选择同质、固定边数、$\boldsymbol\beta$ 或 configuration 型基线。

下一步 06 后续路线 6

[ ] 能解释:$\boldsymbol\beta$-model 的软度匹配与 configuration 模型的硬边际约束为何不是同一零模型。

下一步 07 后续路线 7

[ ] 能推导:$H_d(n,p)$ 中节点关联度的二项分布,并由期望判断常数度稀疏标度。

下一步 08 后续路线 8

[ ] 能解释:$H_d(n,M)$ 的临界边数为何是 $n/[d(d-1)]$ 量级,以及它与普通图 $d=2$ 的对应关系。

下一步 09 后续路线 9

[ ] 能证明:式 (2H.17) 的能量恒等式与 $L_H\succeq0$,并从两值切分编码推到 NH-Cut 的 Rayleigh 松弛。

下一步 10 后续路线 10

[ ] 能写出:simple HSBM 的标签先验、完整似然、VE 固定点和 M 步软频率更新,并说明 ICL 的惩罚对象。

下一步 11 后续路线 11

[ ] 能区分:simple Bernoulli HSBM 与允许多重集合超边的 Poisson DCHSBM。

下一步 12 后续路线 12

[ ] 能解释:DCHSBM 中 $\theta$—$\Omega$ 尺度不识别,以及 Poisson 条件似然如何整理成 AON modularity 型目标。

下一步 13 后续路线 13

[ ] 能选择:谱、似然、低秩嵌入和固定阶张量方法中的一条路线,并明确其输入、目标与所用信息。

下一步 14 后续路线 14

[ ] 能诊断:在非均匀数据中指出哪一阶真正携带社区信号,并区分模型内恢复实验与模型外稳健性实验。

下一步 15 后续路线 15

[ ] 能拆读:代表性谱定理中的 $d_{\min}$、$\Delta_{\mathrm{id}}$、$n_1/n_Q$、概率口径和错分节点数,并将经验曲线与渐近阈值分开解释。

下一步 16 后续路线 16

[ ] 能辨别:检测、弱恢复、几乎精确恢复和精确恢复;引用论文时同时核对其术语定义。

后续阅读按问题分流:

  • 第 3H 章方向:超图随机游走、节点/超边中心性与张量特征向量;
  • 第 4H 章方向:谱检测、最小错分率、精确恢复阈值和统计—计算差距;
  • 第 5H 章方向:超图拉普拉斯正则化、total variation 与半监督学习;
  • 第 6H 章方向:时间超图、群体事件记忆与动态生成模型;
  • 第 7H 章方向:节点/超边随机游走抽样、高阶 motif 频率估计。

本章已建立从观测语义、表示、随机基线到推断与恢复口径的基础链条;后续专题将分别展开中心性、社区恢复、半监督学习、时间模型与抽样理论。