一点关于 Haar Measure

在一个内积空间$V$ 上 "均匀随机" 选一组 orthonormal basis，最自然的办法就是在其酉群$U(V)$ 上相对于 Haar measure 均匀随机选取一个酉矩阵。酉矩阵的列向量就是一组 orthonormal basis。

简单介绍一下 Haar measure。

首先我们考虑拓扑群。一个群$G$ 上如果有一个拓扑结构（即一个开集的集合$\mathscr{F}$ 满足开集公理），使得群的乘法、求逆都是连续映射，那么这个群就是一个拓扑群。

更详细地，群乘法是一个映射$(G\times G,\mathscr{F}\times\mathscr{F})\to (G,\mathscr{F})$ 的映射，其中乘积拓扑为集合$\{A\times B:A,B\in\mathscr{F}\}$ 生成的拓扑。特别地，乘积拓扑满足了投影映射都是连续映射。

那么一个 locally compact group 就是一个拓扑群，满足其单位元有一个紧致邻域。换句话说，存在紧致集$K$ 和开集$U$ 使得$e\in U\subseteq K$。

注意，紧致集不一定是闭集。只有在 Hausdorff 空间中，紧致集才是闭集。而度量空间又都是 Hausdorff 空间，因此紧致集在度量空间中是闭集。而且在度量空间中，紧致集等价于有界闭集。
一个非 Hausdorff 空间是非常病态和难以构造的，但存在。

实际上，单位元有紧致邻域$\iff$ 所有元素都有紧致邻域。因为对于任意群元素$g\in G$，映射$L_g:G\to G$ 定义为$L_g(g')=gg'$ 都是连续的一一映射，（因为乘法是连续的、投影也是连续的，所以它们的复合也连续），而且逆映射也是连续的，所以$L_g$ 是同胚。

连续映射将紧致集映射到紧致集，同胚把开集映射到开集，因此$g\in L_g(U)\subseteq L_g(K)$ 也有紧致邻域$L_g(K)$。

Haar measure 的想法就是要定义一种平移不变的测度。譬如$\mathbb{R}$ 上的 Lebesgue 测度就满足$\lambda(a,b)=\lambda(a+c,b+c)$。

Haar 指出，在一个 locally compact Hausdorff group $G$ 上，相对于其所有开集生成的 Borel $\sigma$ 代数，存在（在乘一个正常数下唯一）一个测度$\mu$ 满足：

• （非平凡）对于任意非空开集$U$，$\mu(U)>0$；
• （locally finite）对于任意$G$ 中的紧致集$K$，$\mu(K)<\infty$。注意，Hausdorff 空间的紧致集都是闭集，因此$K$ 是 Borel 可测集；
• （out regular）对于任意 Borel 可测集$S$，有

$$\mu(S)=\inf\{\mu(U):S\subseteq U,U\text{是开集}\};$$

• (inner regular) 对于任意开集$U$，有

$$\mu(U)=\sup\{\mu(K):K\subseteq U,K\text{是紧集}\}.$$

• （left invariant）对于任意 Borel 可测集$S$ 和任意群元素$g\in G$，有

$$\mu(gS)=\mu(S);$$

最后一条是 Haar measure 最核心的性质，这也称为 left Haar measure。类似地有 right Haar measure，左右 Haar measure 一般不相等。

然后我们可以定义 "相对于一个测度的均匀随机"。
考虑一个测度空间$(\Omega,\mathcal{T},p)$，
一个随机变量$X:\Omega\to G$ 被称为相对于$G$ 上测度$\mu$ 是均匀随机的，如果

$$p_X(A)=\frac{\mu(A)}{\mu(G)},$$

其中$p_X(A)\triangleq p(X^{-1}(A))$。
这里，我们把$(\Omega,\mathcal{T},p)$ 和$p_X$ 理解为随机变量$X$ 的自带信息，所以定义是相对于$\mu$ 的而没有说相对于$p$ 的均匀随机。

常见的情况是$(\Omega,\mathcal{T},p)=(G,\mathscr{F},\mu)$。
譬如一个随机变量$X:a\to 1-a$ 就是在$[0,1]$ 上均匀随机的。

因此，有了 Haar measure，就可以找到一个相对于 Haar measure 均匀随机的随机变量$X:G\to G$，然后生成$X$ 的一个样本$g\in G$，采样方法有拒绝采样、MCMC 采样等。

此时，假如给定一个内积空间$V$，那么要均匀随机地选取一组 orthonormal basis，可以先在其酉算子群$U(V)$ 上均匀随机（相对于 Haar measure）选取一个酉矩阵$U$，然后把$U$ 的列向量作为$V$ 上的一组 orthonormal basis。

这里均匀性体现在两个方面。一方面，随机变量相对于 Haar measure 是均匀的；另一方面，Haar measure 的平移不变性保证了 Haar measure 在可测空间上有 "均匀" 的性质，就像 Lebesgue 测度在$\mathbb{R}$ 上被认为是均匀的。