предыдущий семинар 8 мая 2020 г. следующий семинар

Тема 11

Теорема Шёнфлиса-Бибербаха и кристаллографические группы

Векторное пространство $\mathbb{R}^n$, ассоциированное с евклидовым аффинным пространством $\mathbb{E}^n$, можно отождествить с группой параллельных переносов пространства $\mathbb{E}^n$. Эта группа является ядром гомоморфизма $d:\operatorname{Isom}\mathbb{E}^n\to O_n$ (дифференциал или линейная часть аффинного преобразования) из группы движений пространства $\mathbb{E}^n$ в группу ортогональных операторов на пространстве $\mathbb{R}^n$. Выбор начала координат позволяет отождествить $O_n$ с группой движений, сохраняющих начало координат, и задаёт разложение в полупрямое произведение $\operatorname{Isom}\mathbb{E}^n=\mathbb{R}^n\leftthreetimes O_n$.

Как известно (см., например, теорему 4 из §1 главы 9 книги Э.Б. Винберга «Курс алгебры», 3-е изд., Москва, Факториал Пресс, 2002), дискретная группа $L$ движений пространства $\mathbb{E}^n$, состоящая из параллельных переносов, свободно порождается (как абелева группа) некоторым набором линейно независимых векторов пространства $\mathbb{R}^n$. Если к тому же все орбиты группы $L$ пересекают заданный компакт, то $L$ является решёткой, т.е. свободно порождается некоторым базисом пространства $\mathbb{R}^n$ (и состоит из всех векторов с целыми координатами в этом базисе). Это наблюдение обобщается на произвольные дискретные группы движений.

Теорема Шёнфлиса-Бибербаха. Пусть $G$ — дискретная группа движений евклидова пространства $\mathbb{E}^n$, все орбиты которой пересекают заданный компакт $K\subset\mathbb{E}^n$. Тогда $G$ содержит в качестве подгруппы конечного индекса некоторую решётку $L$ (в качестве которой можно взять решётку всех параллельных переносов в $G$).

Группы, фигурирующие в условии теоремы, называются кристаллографическими. Таковыми являются, в частности, дискретные группы отражений, соответствующие ограниченным многогранникам Кокстера.

Верно и обратное к теореме Шёнфлиса-Бибербаха утверждение (см. задачу 11.1).

Для доказательства теоремы потребуется подготовительная работа по изучению метрических свойств ортогональных операторов и движений евклидова пространства.

Нормой линейного оператора $A$ в пространстве $\mathbb{R}^n$ называется максимальный коэффициент растяжения длин векторов под действием оператора $A$: $$ \|A\|=\max_{x\ne0}\frac{|Ax|}{|x|}=\max_{|x|=1}|Ax|. $$ Из второй формулы видно, что максимум действительно достигается (поскольку функция $x\mapsto|Ax|$ непрерывна на единичной сфере в $\mathbb{R}^n$, которая является компактом). Из определения операторной нормы вытекает неравенство $|Ax|\le\|A\|\cdot|x|$ для любого вектора $x\in\mathbb{R}^n$.

Свойства операторной нормы:

  1. $\|A+B\|\le\|A\|+\|B\|$;
  2. $\|\lambda\cdot A\|=|\lambda|\cdot\|A\|$ для любого $\lambda\in\mathbb{R}$;
  3. $\|A\cdot B\|\le\|A\|\cdot\|B\|$;
  4. $\|A\cdot B\|=\|B\cdot A\|=\|A\|$, если $B$ — ортогональный оператор; в частности, $\|B\|=1$;
  5. $|a_{ij}|\le\|A\|\le n\cdot\max_{i,j}|a_{ij}|$, где $a_{ij}$ — матричные элементы оператора $A$ в ортонормированном базисе.
Из последнего свойства вытекает, что топология на пространстве линейных операторов, задаваемая операторной нормой (т.е. метрикой, в которой расстояние между двумя операторами определяется как норма их разности), совпадает с обычной топологией координатного векторного пространства (координаты в пространстве линейных операторов — это матричные элементы).

Далее, пусть $A$ и $B$ — два ортогональных оператора в $\mathbb{R}^n$. Их групповой коммутатор будем обозначать через $[A,B]=ABA^{-1}B^{-1}$.

Лемма 1. $\|\,[A,B]-E\,\|\le2\cdot\|A-E\|\cdot\|B-E\|$.

Доказательство. Назовём линейные операторы эквивалентными, если они получаются друг из друга умножением слева и справа на ортогональные операторы. Из свойства 4 операторной нормы следует, что эквивалентные операторы имеют одинаковую норму. Имеем: $$ [A,B]-E\sim AB-BA=(A-E)(B-E)-(B-E)(A-E). $$ Остаётся воспользоваться свойствами 1-3.

Следствие. Если $\|A-E\|,\|B-E\|<\varepsilon$ при достаточно малом $\varepsilon>0$, то $$\underbrace{[A,[A,\dots,[A,}_kB]\dots]]\to E\quad\text{при }k\to\infty.$$

Лемма 2. Если $\|B-E\|<\varepsilon$ (при достаточно малом $\varepsilon$) и $[A,[A,B]]=E$, то $[A,B]=E$.

Доказательство. Комплексифицируя ортогональные операторы $A,B$ в евклидовом векторном пространстве $\mathbb{R}^n$, получим унитарные операторы в эрмитовом векторном пространстве $\mathbb{C}^n$. Оператор $A$ коммутирует с $[A,B]$, а значит, и с $BA^{-1}B^{-1}$, и с $BAB^{-1}$. Поэтому собственные подпространства оператора $BAB^{-1}$ (имеющие вид $BV_{\lambda}$, где $V_{\lambda}\subseteq\mathbb{C}^n$ — собственное подпространство оператора $A$ с собственным значением $\lambda$) инвариантны относительно $A$. Следовательно, поскольку $A$ диагонализуем в $\mathbb{C}^n$, то $BV_{\lambda}=U_{\lambda_1}\oplus\dots\oplus U_{\lambda_s}$, где $U_{\lambda_j}\subseteq V_{\lambda_j}$.

Если $BV_{\lambda}\ne V_{\lambda}$, то существует вектор $v\in V_{\lambda}$ длины $1$, для которого $Bv=w\in V_{\mu}$, $\mu\ne\lambda$. Поскольку собственные подпространства унитарного оператора ортогональны друг другу, длина вектора $(B-E)v=w-v$ равна $\sqrt2$ и, следовательно, $\|B-E\|\ge\sqrt2$, что неверно при достаточно малом $\varepsilon$. Поэтому собственные подпространства оператора $A$ инвариантны относительно $B$, а значит, операторы $A$ и $B$ коммутируют.

Отождествим $\mathbb{E}^n$ с $\mathbb{R}^n$ выбором начала координат $o\in\mathbb{E}^n$ (сопоставляя каждой точке её радиус-вектор с началом в $o$) и запишем любое движение $a\in\operatorname{Isom}\mathbb{E}^n$ в виде композиции ортогонального оператора и параллельного переноса: $a(x)=Ax+\alpha$, где $A=da\in O_n$, $\alpha\in\mathbb{R}^n$.

Лемма 3. Пусть $a,b\in\operatorname{Isom}\mathbb{E}^n$ и $c=[a,b]$. Если $a(x)=Ax+\alpha$, $b(x)=Bx+\beta$ и $c(x)=Cx+\gamma$, то $C=[A,B]$ и $$|\gamma|\le\|A-E\|\cdot|\beta|+\|B-E\|\cdot|\alpha|.$$

Начало координат в $\mathbb{E}^n$ можно выбрать таким образом, что данное движение запишется в виде $a(x)=Ax+\alpha$, причём $A\alpha=\alpha$. Вектор $\alpha$, называемый вектором скольжения, не зависит от выбора начала координат. Его можно охарактеризовать как кратчайший вектор сдвига точки пространства $\mathbb{E}^n$ под действием движения $a$. А именно, ось движения $$P=\{x\in\mathbb{E}^n\mid\rho(x,a(x))=\min\}$$ является плоскостью, проходящей через начало координат, с направляющим подпространством $\operatorname{Ker}(A-E)$ неподвижных относительно $A$ векторов, и ограничение движения $a$ на плоскость $P$ есть параллельный перенос на вектор $\alpha$ (задача 11.5).

Лемма 4. Если группа ортогональных операторов $H\subset O_n$ сохраняет некоторую решётку $L\subset\mathbb{R}^n$, то $H$ конечна.

Доказательство теоремы Шёнфлиса-Бибербаха разобьём на три этапа.

1) $G$ содержит (ненулевые) параллельные переносы.

Докажем это от противного. В противном случае гомоморфизм $d$ изоморфно отображает $G$ на подгруппу $H=dG\subset O_n$. Возьмем достаточно малое $\varepsilon>0$ и рассмотрим подгруппу $H_0\subseteq H$ порождённую всеми $A\in H$, для которых $\|A-E\|< \varepsilon$. Разные смежные классы в $H$ по подгруппе $H_0$ находятся друг от друга на расстоянии (по норме) не меньше $\varepsilon$: если $\|A-B\|=\|AB^{-1}-E\|< \varepsilon$, то $AB^{-1}\in H_0\implies AH_0=BH_0$. Поскольку $O_n$ компактна, таких смежных классов может быть лишь конечное число, т.е. $H_0$ — подгруппа конечного индекса в $H$. Её прообраз $G_0$ — подгруппа конечного индекса в $G$. По задаче 11.7, $G_0$ — тоже кристаллографическая группа.

Возьмём два произвольных элемента $a,b\in G_0$ с дифференциалами $A=da$ и $B=db$, достаточно близкими к $E$, т.е. $\|A-E\|,\|B-E\|< \varepsilon$. Рассмотрим $$ c_k=\underbrace{[a,[a,\dots,[a,}_kb]\dots]]:x\mapsto C_kx+\gamma_k,\quad\text{где}\quad C_k=\underbrace{[A,[A,\dots,[A,}_kB]\dots]]. $$ Из леммы 1 легко вывести по индукции, что $\|C_k-E\|< \varepsilon$. По следствию леммы 1, $C_k\to E$, а из леммы 3 следует по индукции, что последовательность длин $|\gamma_k|$ ограничена. Перейдя к подпоследовательности, можно считать, что $\gamma_k\to\gamma$, и тогда последовательность движений $c_k$ сходится к параллельному переносу на вектор $\gamma$.

В частности, для любой точки $x$ имеем $c_k(x)\to x+\gamma$ и, поскольку орбита $G_0x$ дискретна, $c_k(x)=x+\gamma$ при достаточно большом $k$ (зависящем от $x$). Взяв в качестве $x$ по очереди все вершины $n$-мерного симплекса, получим, что при достаточно большом $k$ движение $c_k$ сдвигает их все на $\gamma$, а значит, $c_k$ — параллельный перенос на вектор $\gamma$. Поскольку в группе $G_0$ нет параллельных переносов, $\gamma=0$ и $c_k=e$, откуда $C_k=E$. Из леммы 2 индукцией по $k$ получаем $[A,B]=E$, а значит, и $[a,b]=e$. Отсюда вытекает, что группа $G_0$ абелева.

Возьмём любой неединичный элемент $a\in G_0$ (он существует в силу кристаллографичности). Поскольку все элементы $G_0$ коммутируют с $a$, они сохраняют ось $P$ движения $a$. Но это противоречит кристаллографичности группы $G_0$: расстояние от точек любой $G_0$-орбиты до плоскости $P$ постоянно, и поэтому все орбиты не могут пересекать заданный компакт $K$ (расстояние от точек которого до $P$ ограничено).

2) Подгруппа параллельных переносов $L=G\cap\operatorname{Ker}d$ является решёткой.

В любом случае $L$ является решёткой в своей линейной оболочке — $k$-мерном подпространстве $U\subseteq\mathbb{R}^n$, инвариантном относительно $dG$. Рассмотрим ортогональную проекцию пространства $\mathbb{E}^n$ на подпространство $\mathbb{E}^{n-k}$, ассоциированное с векторным пространством $U^{\perp}$ (также инвариантным относительно $dG$). Группа $G$ естественным образом действует на пространстве $\mathbb{E}^{n-k}$ по правилу $g\cdot\bar{p}=\overline{g(p)}$, где черта обозначает проекцию на $\mathbb{E}^{n-k}$.

Покажем, что образ $\overline{G}$ группы $G$ в $\operatorname{Isom}\mathbb{E}^{n-k}$ — кристаллографическая подгруппа. Если для некоторой точки $p\in\mathbb{E}^{n-k}$ и некоторого $r>0$ существует бесконечно много элементов $\bar{g}\in\overline{G}$, для которых $\rho(p,\bar{g}(p))< r$, то соответствующие элементы $g\in G$ не выводят точку $p$ за пределы $n$-мерного бесконечного цилиндра с основанием в $(n-k)$-мерном шаре радиуса $r$ с центром в $p$. Домножив $g$ на параллельный перенос на подходящий вектор из решётки $L$, можно загнать точку $g(p)$ в ограниченный цилиндр с тем же основанием. Поскольку таких элементов $g$ будет бесконечно много, мы получим противоречие с дискретностью группы $G$. Это доказывает дискретность $\overline{G}$. Ясно также, что любая $\overline{G}$-орбита пересекает компакт $\overline{K}$ — проекцию компакта $K$ в $\mathbb{E}^{n-k}$.

Если $k< n$, то по доказанному на предыдущем этапе, $\overline{G}$ содержит параллельный перенос $\bar{g}$ на ненулевой вектор $\gamma\in U^{\perp}$. Соответствующий элемент $g\in G$ обладает следующим свойством: $dg$ тождественен на $U^{\perp}$ и сохраняет решётку $L$ в $U$. По лемме 4, оператор $dg$ на пространстве $U$ имеет конечный порядок: $(dg)^m$ тождественен на $U$ для некоторого $m\in\mathbb{N}$ и, значит, $(dg)^m=E$, а $g^m$ — параллельный перенос на некоторый вектор $\delta$, для которого $\bar\delta=m\gamma$. Поскольку $\delta\notin U$, это противоречит определению $L$. Следовательно, $k=n$, и $L$ — решётка в $\mathbb{R}^n$.

3) $L$ имеет конечный индекс в $G$.

Это сразу следует из леммы 4, поскольку группа $dG\simeq G/L$ сохраняет решётку $L$.

Теорема доказана.


Задачи

Задача 11.1. Группа движений пространства $\mathbb{E}^n$, содержащая решётку в качестве подгруппы конечного индекса, является кристаллографической, т.е. дискретна, и все её орбиты пересекают некоторый компакт в $\mathbb{E}^n$.

Задача 11.2. Доказать свойства операторной нормы.

Задача 11.3. Доказать следствие леммы 1.

Задача 11.4. Доказать лемму 3.

Задача 11.5. Множество $P$ точек пространства $\mathbb{E}^n$, сдвигаемых на минимальное расстояние движением $a\in\operatorname{Isom}\mathbb{E}^n$, является плоскостью, и ограничение движения $a$ на плоскость $P$ есть параллельный перенос на вектор $\alpha$, неподвижный относительно оператора $A=da$.

Задача 11.6. Доказать лемму 4.

Задача 11.7. Подгруппа конечного индекса в кристаллографической группе тоже является кристаллографической.