Нелинейная динамика. 2011. Т. 7. № 3. С. 489–512.

Полнотекстовая версия в свободном доступе
http://nd.ics.org.ru

УДК: 514.755
MSC 2010: 37D50, 37J50

Динамика биллиардa:
обзорная статья с акцентом на нерешенные задачи
Е. Гуткин
Статья представляет собой обзор по вопросам динамики биллиарда с акцентом на нерешенные задачи.
Ключевые слова: биллиардный поток, биллиардное отображение, периодические орбиты, эллиптическая динамика, гиперболическая динамика, параболическая динамика, гипотеза Биркгофа, замыкание фазы, безопасность

Введение
Под биллиардной динамикой в широком смысле понимается геодезический поток на римановом многообразии с границей. Но даже такое общее определение не является достаточно полным. Некоторые физические модели соответствуют финслерову биллиарду [48],
то есть исследуемым будет не риманово, а финслерово многообразие. Другие модели приводят к биллиарду на многообразиях с сингулярностями. Исследуемое «многообразие» —
это конфигурационное пространство физической системы. Часто это многообразие с углами. Простейшими такими пространствами будут плоские многоугольники, и существуют
физические модели, которые приводят к биллиардам в треугольнике [18, 26, 31, 50].
Конфигурационное пространство знаменитого газа из круглых упругих шаров [53, 110]
имеет сингулярную границу. Kомбинаторно оно устроено как многогранник с большим чис-

Получено: 23 августа 2011 года
Впервые опубликовано в журнале Regular and Chaotic Dynamics в 2003 г.: Eugene Gutkin, Billiard
dynamics: a survey with the emphasis on open problems on billiards, Regul. Chaotic Dyn., 2003, 8 (1),
pp. 1–13.
Перевод с английского, публикуется с дополнениями, подготовленными автором специально
для русской версии статьи.
Работа была частично поддержана грантом MNiSzW N N201 384834. Часть работы была выполнена
во время посещения математического факультета Калифорнийского университета в Лос-Анджелесе.
Евгений Гуткин
gutkin@mat.umk.pl
Department of Mathematics
Nicolaus Copernicus University
Chopina 12/18, 87-100 Torun, Poland;
IM PAN, Sniadeckich 8, Warszawa 10, Poland
НЕЛИНЕЙНАЯ ДИНАМИКА 2011. T. 7. № 3. С. 489–512

490

Е. Гуткин

лом граней всех размерностей. Но оно намного сложнее, чем многогранник, так как его
грани не плоские. Математическое исследование этой системы привело к знаменитой эргодической гипотезе Больцмана. После основополагающих работ Синая [110, 111] появился
модифицированный вариант первоначальной гипотезы, известный сейчас как гипотеза Синая – Больцмана.
Однако здесь будет рассматриваться только биллиард в ограниченной плоской области с кусочно-гладкой границей. Причин три. Прежде всего, такая постановка позволяет
избежать длинного введения и громоздких формальных выкладок и сразу перейти к качественным математическим вопросам. (Такого же мнения придерживался и Д. Д. Биркгоф [8].) Во-вторых, существуют нетривиальные физические модели, которые соответствуют плоским биллиардам (см. [86] и обзор [31]). Третья (и самая важная причина) состоит
в том, что задача о плоском биллиарде является источником захватывающих нерешенных
задач. Задачи эти фундаментальны — они просты по своей постановке и касаются основных
характеристик этих динамических систем.
В статье обсуждается несколько нерешенных задач динамики биллиардов. Выбор вопросов мотивируется частично личным вкусом автора, а частично простотой формулировок. Кроме того, приводятся предварительные сведения, обсуждается мотивировка задач
и набрасываются возможные подходы к решению. В тех случаях, когда это возможно, приведены частичные результаты и другие вспомогательные факты. Собственно говоря, все
необходимые сведения содержатся в статье, но для более глубокого понимания предмета читателю будет полезно ознакомиться с литературой. Всестороннее введение в задачу
о биллиардном шаре можно найти в работе [86], а материал § 1 подробно описан в [108].
Кроме того, полезными будут глава 9 из [62], и главы 1, 13 из [52].
По очевидным причинам будем называть исследуемую плоскую область биллиардным
столом. Его геометрическая форма определяет качественный характер движения. Исторически сложилось так, что наибольшее внимание исследователей привлекли три класса
форм. Во-первых, это гладкие и строго выпуклые биллиардные столы. По нескольким причинам соответствующая биллиардная динамика называется эллиптической. Во-вторых, это
кусочно-вогнутые и кусочно-гладкие биллиардные столы. Соответствующая динамика называется гиперболической. Однако существуют и выпуклые биллиардные столы, которые
приводят к гиперболической динамике. Биллиардные столы третьего класса представляют
собой многоугольники. Соответствующая динамика будет параболической. Перечисленные
типы биллиардов описываются, соответственно, в § 1, § 2, § 3.
Я признателен многим людям (в частности, рецензентам) за комментарии, касающиеся предварительных вариантов этой обзорной работы. Н. Чернов терпеливо ответил на мои
вопросы по гиперболической биллиардной динамике и предложил две задачи в § 2. A. Каток
указал на свою похожую по структуре работу, в основу которой легла его лекция в Независимом Московском университете [107].
Введем обозначения и терминологию (в качестве иллюстрации см. рис. 1 и [86, (с. 3–4)]).
Пусть Y ⊂ R2 — (замкнутый) биллиардный стол. Его граница ∂Y есть конечное объединение C 1 -гладких кривых. Она может состоять из нескольких связных компонент. Биллиардный поток в Y моделируется движением материальной точки. Далее будем называть
ее «частицей» или «биллиардным шаром». В каждый момент времени состояние системы
определяется положением шара, y ∈ Y , и его скоростью, единичным вектором v ∈ R2 . (Достаточно рассмотреть движение с единичной скоростью.) Шар катится вдоль прямой через
y в направлении v. В тот момент, когда шар достигает ∂Y , его направление движения меняется. Пусть x ∈ ∂Y — соответствующая точка границы, и пусть v  — новое направление.

НЕЛИНЕЙНАЯ ДИНАМИКА 2011. T. 7. № 3. С. 489–512

что их объединение в Ψ имеет нулевой объем относительно меры Лиувилля. и пусть граница положительно ориентирована. 489–512 . Это хорошо известное наблюдение. Множество Φ ⊂ Ψ. то некоторые орбиты биллиардов определены не для всех моментов времени. Пусть x — параметр НЕЛИНЕЙНАЯ ДИНАМИКА 2011. что биллиардные орбиты доставляют локальный экстремум функционалу длины. v). Соответствующее отображение Пуанкаре φ : Φ → Φ — это биллиардное отображение. 2) биллиардный поток T t : Ψ → Ψ. Биллиардный поток. Сделаем несколько замечаний. [8] и § 1 ниже). и читатель может считать. как фактормножество Y × S 1 . 7. что биллиардное движение свободно от трения и что граница биллиардного стола идеально упругая. С. Вектор v  направлен внутрь. получаемое отождествлением пар (x. что шар останавливается. Выбирая начало отсчета на каждой связной компоненте и вводя параметризацию длиной дуги.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 491 Рис. — это сечение биллиардного потока. Так или иначе. если y ∈ ∂Y . а Φ — его фазовое пространство. Эти правила определяют: 1) фазовое пространство Ψ биллиардного потока. Терминология появилась благодаря Биркгофу. что вектор v направлен внутрь. № 3. который популяризировал «задачу о биллиардном шаре» (см. dim Ψ = 3. Обычно полагают. если ∂Y не является C 1 -гладкой.) Биллиардное отражение не определено в углах границы. но я не знаю никаких его применений в биллиардной динамике. v  ). таких. Таким образом. то Ψ гомеоморфно трехмерной сфере. (Это свойство распространяется на финслеровы биллиарды [48]. 1. Правила. определяющие поток T t . Если стол Y односвязный и граница ∂Y является C 1 -гладкой. v) = (x. отождествим X с несвязным объединением k = k(Y ) окружностей. Из наших предположений следует. если он попадает в угол. Пусть X = ∂Y . опираются на предположения. определяемое условием y ∈ ∂Y . и шар продолжает катиться. Преобразование v → v  — это ортогональное отражение от касательной к ∂Y в точке x. Правило ортогонального отражения v → v  гарантирует. T. что Ψ — это множество пар (y. В данной работе (за исключением § 3) k = 1.

то Φ = X × [0. μ(Φ) = 2 Length(∂Y ). θ) = (x1 . где 0 и π соответствуют прямому и обратному касательным направлениям. Она также называется мерой Лиувилля. и рассматривая Γ как кривую в этом пространстве. С физической точки зрения. Эти кривые называются каустиками биллиардного стола. обозначим через F (Γ) ⊂ R2 ее огибающую. Биллиардное отображение. 2]). что F (Γ) не является подмножеством Y для общей инвариантной кривой. Обе компоненты ∂Φ — тривиальные инвариантные окружности. Порожденная мера μ на Φ инвариантна относительно биллиардного отображения и dμ = sin θ dx dθ. Гладкие строго выпуклые биллиарды: эллиптическая динамика Первое глубокое исследование этого биллиарда принадлежит Д. Важно понимать. [8. Если ∂Y является C 1 -гладкой. Непосредственным вычислением получим ν(Ψ) = 2πArea(Y ). Напомним. f  ∈ Y — его фокусы. и пусть 0  α < 2π — угловая координата на единичной окружности. Интерпретируя Φ как пространство лучей. и пусть f. которая является нестягиваемой топологической окружностью. Существуют такие инвариантные кривые Γ. Пусть Γ — инвариантная окружность. и пусть γ = F (Γ). F (Γ) — это множество фокусных точек световых лучей в Γ. 7. пусть Y — эллипс. № 3. Для (x. Далее будем использовать обозначение φ(x. т. 2.492 Е. что F (Γ) — это конфокальная гипербола. Рис. По этой причине он часто называется биллиардом Биркгофа. π]. Инвариантная окружность — это φ-инвариантная кривая Γ ⊂ Φ. Пусть p. q — евклидовы координаты в R2 . что Φ — это топологическое кольцо. Введенные координаты не определены в углах ∂Y . v) ∈ Φ пусть θ — угол между v и положительной касательной к ∂Y в точке x. T. Например. Обе меры μ и ν конечны. (1) 1. Тогда 0  θ  π. Мера Лиувилля на Ψ имеет плотность dν = dp dq dα. Гуткин длины дуги на X. 489–512 . θ1 ). Она инвариантна относительно биллиардного потока. Биллиардное отображение — это сохраняющее площадь закручивающее отображение [62]. Биркгофу (см. пересекающих биллиардный стол. Д. В примере выше каустиками являются НЕЛИНЕЙНАЯ ДИНАМИКА 2011. С. Тогда γ ⊂ Int(Y ) [43].

если объединение инвариантных окружностей в фазовом пространстве имеет непустую внутренность. Область неустойчивости имеет положительную топологическую энтропию [2]. Эллипсы — это единственные интегрируемые биллиардные столы. положительность кривизны является необходимым условием для существования каустик. Это важное понятие для сохраняющих площадь закручивающих отображений [62]. Лазуткиным в предположении. Если граница ∂Y достаточно гладкая и ее кривизна строго положительна. Следовательно. М. Их объединение образует область Y \ [f f  ]. и пусть Y — биллиардный стол Биркгофа. то инвариантные окружности заполняют множество положительной меры в Φ. Диск — это вырожденный эллипс. дополнение к которой выглядит как пара «глаз» (см. Самый известный общепринято называть «гипотезой Биркгофа». Мазера [70]. что ∂Y принадлежит классу C 333 [109]. T. Задача 1. 489–512 . Рис. Предположим. рис. у которого f = f  . № 3. но не эллипс. Теперь требование гладкости снизилось до класса C 6 (см. Фазовое пространство биллиардного отображения в эллипсе. 3. Бялый доказал обратное: если все пространство Φ(Y ) расслаивается на инвариантные окружности. это область (или зона) неустойчивости Биркгофа. но теперь инвариантные окружности заполняют все фазовое пространство. [86]). что гипотеза Биркгофа выполняется. Ω ⊂ Φ. что любой биллиард Биркгофа. не являющийся НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Пусть Y — произвольный овал. Этот факт был доказан В. внутренность которого не содержит инвариантных окружностей. хотя он впервые появился в печати в работе Порицкого [73]. По теореме Д. Тогда инвариантные окружности заполняют область. что Y — это не круг. C(Φ) ⊂ Φ. то Y — является кругом [7]. Предположим. Биллиардный стол Y интегрируем. 7. Инвариантное нестягиваемое топологическое кольцо.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 493 конфокальные эллипсы. Остается еще много нерешенных вопросов. из гипотезы Биркгофа следует. Определение 1. 3). Тогда Φ содержит по крайней мере одну зону неустойчивости Биркгофа. касающихся каустик. Предыдущие рассуждения применимы. С.

то P2 ⊂ Φ — экватор. любой гармонический q-угольник P определяет периодическую орбиту с периодом q. И наоборот. Углы многоугольника. Соответствующая биллиардная динамика будет гиперболической (см. (Другие примеры см. где p и q — взаимно простые. q) — множество всех вписанных q-угольников. Минимаксная орбита соответствует ширине Y . С помощью простого вариационного рассуждения Биркгоф доказал существование некоторых периодических орбит биллиардов [8]. введем понятие считающей функции. Однако использование биллиардов делает рассуждение особенно прозрачным. чем n. и их граница не принадлежит классу C 2 . Гуткин эллипсом. q) является многообразием с углами.) Так как овал может иметь бесконечно много периодических точек с одним и тем же периодом.) Множество периодических точек состоит из периодических орбит. № 3. Периодическая орбита с периодом q соответствует вписанному в ∂Y (ориентированному) замкнутому многоугольнику с q сторонами. удовлетворяют очевидному условию. Одной из основных характеристик динамической системы является скорость роста периодических точек. T. а вторая является минимаксом длины. Эти столы не являются строго выпуклыми. Пусть FY (n) — число периодических орбит с периодом не больше. Биркгоф назвал их гармоническими многоугольниками. Классическая считающая функция fY (n) для биллиардного отображения определяется как число периодических точек с периодом не больше. Отсюда получим универсальную кубическую нижнюю оценку fY (n)  cn3 . Pn ⊂ Φ) — множество периодических точек (соответственно. имеющих такие же длину и число вращения. образованные с ∂Y . что НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Его подход распространяется на сохраняющие площадь закручивающие отображения и приводит к такому же результату [62]. q) обозначим через f (P ) длину границы P . В качестве примера рассмотрим число вращения 1/2. чем n. например. Естественным будет оценить размер множества с помощью меры. приходим к следующей задаче. если обвести им P . что f имеет по меньшей мере две разные критические точки. § 2). Они заполняют «экватор» Φ. Зафиксируем пару 1  p < q. которые делают p оборотов вокруг ∂Y .494 Е. если Y — это стол постоянной ширины. Соответствующие периодические орбиты биллиарда называются периодическими орбитами Биркгофа с числом вращения p/q. Теорема Биркгофа дает оценку на FY (n) снизу числом взаимно простых пар 1  p < q  n. [54]. Тогда гармонические многоугольники будут критическими точками функции f . и мы имеем однопараметрическое семейство периодических орбит с числом вращения 1/2. Если ширина и диаметр совпадают. Несмотря на то. a) Построить строго выпуклый C 1 -гладкий биллиардный стол с положительной энтропией. Под (метрической) энтропией биллиарда подразумевается энтропия меры Лиувилля. Например. Пространство X(p. Биркгоф доказал. Чтобы говорить о ней. Таким образом.. Для P ∈ X(p. Пусть P ⊂ Φ (соответственно. Пусть X(p. (См. Единственными примерами выпуклых биллиардных столов с положительной энтропией является стадион Бунимовича и его обобщения. Отношение 0 < p/q < 1 называется числом вращения периодической орбиты. Задача 2. то ∂Y — это кривая постоянной ширины. которые совершает карандаш вокруг ∂Y . периодических точек с периодом n). в § 2 и § 3. Можно привести и другие примеры овалов с однопараметрическими семействами периодических орбит. В этом случае максимальная орбита Биркгофа определяет диаметр Y . Независимые подходы описаны в работах [58] и [30]. 7. С. имеет положительную топологическую энтропию. Пусть 1  p < q — число оборотов. Одна из них доставляет максимум. не существует универсальной верхней оценки для fY (n). b) Построить выпуклый C 2 -гладкий биллиардный стол с положительной энтропией. 489–512 .

При правильном выборе этих дуг мы гарантируем. из теоремы В. аппроксимирующий P . что объединение периодических орбит биллиардной области имеет меру нуль. если соответствующая ему динамика гиперболическая. С. Воробец привел независимое доказательство [102]. 7. Я.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 495 он бесконечен. проверенного с помощью Maple. а о гиперболической биллиардной динамике можно узнать из работ [11. Его доказательство также применимо к биллиардам большей размерности. Естественный аналог этого утверждения для сохраняющих площадь закручивающих отображений общего вида не выполняется! Эта задача касается только биллиардов. Современный подход к гиперболической динамике основан на мультипликативной эргодической теореме Оселедца и экспонентах Ляпунова. Стоянов упростил доказательство и исключил компьютерную проверку [84]. В качестве геометрической мотивации рассмотрим следующее построение. Петкова и Л. Более подробную информацию о гиперболической динамике в целом читатель может найти в [62] и [52]. 63] и § 5 работы [86]. Первыми примерами гиперболических биллиардных столов были столы. M. образованные соединением вогнутых дуг. Таким образом. Так как P = ∪∞ n=2 Pn — это несвязное объединение. При n  4 вопрос остается открытым. Например. что его «искривленные стороны» выпуклы внутрь. Задача 3б) была решена для n < 4. Исследуемой динамикой может быть биллиардный поток. то следующая задача имеет две эквивалентные формулировки. Чтобы избежать двусмысленности. оно верно для столов из § 2 и § 3. Возьмем выпуклый многоугольник P . Рыхлика [75]. получим теорему М. Л. 489–512 . φ : Φ → Φ. 2. Его доказательство зависит от формального тождества. Существует много частичных доказательств. что μ(P) = 0. Кусочно-вогнутые биллиардные столы: гиперболическая динамика Обычно говорят. Оно было доказано для биллиардных столов с кусочно вещественно-аналитической границей [76]. гиперболическое. T. что μ(Pn ) = 0 для всех n. Если n = 3. а) Доказать. В литературе по данной тематике есть несколько введений в предмет. решение задачи 3 привело бы к доказательству гипотезы Вейля для плоских областей. № 3. μ(P2 ) = 0. Если их центры достаточно удалены от P . что для типичного биллиардного стола произвольного вида (не только для биллиарда Биркгофа!) множества Pn конечны для всех n. назовем биллиардный стол гиперболическим. Войтковский [95] получил это утверждение как приложение уравнения зеркала из геометрической оптики. если соответствующее биллиардное отображение. Стоянова [72] следует. Задача 3. что биллиардный стол гиперболический. б) Доказать. Теорема В. результатом будет «криволинейный многоугольник» Y . Для n = 2 доказательство очевидно. Для гиперболично- НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Иврия [106] доказывает гипотезу Вейля при условии. Известная гипотеза Вейля [92] предсказывает второй член и дает оценку ошибки для спектральной асимптотики оператора Лапласа (с граничными условиями Дирихле или Неймана) в ограниченной области. биллиардное отображение или индуцированное отображение на подмножестве фазового пространства. Другие приложения можно найти в [43]. Пусть Y — произвольный биллиардный стол Биркгофа. Заменим некоторые из его сторон дугами окружностей. Кроме того. что это утверждение справедливо.

Физики обычно под «биллиардом Синая» подразумевают специальный биллиардный стол. приложение. № 3. написанное Сасом в [53]. удовлетворяющими вышеназванным условиям. полученный заменой 1   m < n (соответственно. (Более подробно по этой теме см. как на рисунке 4. терминология. как «биллиард Синая». рассеивающий ) многоугольник. В «реальном мире» число двигающихся молекул огромно.496 Е. Этот класс биллиардных столов возник в работе Синая о газе Больцмана – Синая [110]. Биллиардный стол Синая. Представим тор квадратом 2 × 2. Пусть P — (не обязательно выпуклый) n-угольник. Таким образом.) В газе Больцмана круглые молекулы двигаются внутри стенок контейнера. хотя и не обязательно такой. Круговые дуги (соответственно. Путем разделения центра масс движения система сводится к геодезическому потоку на плоском торе с круглым отверстием. 489–512 . порой может привести в замешательство. «стол Синая» и «рассеивающий биллиард». Синай рассматривал «математическую карикатуру» газа. так что отверстием будет центральный диск радиуса 1/2. Синай заменил стенки контейнера периодическими граничными условиями. Введем терминологию. с центром в вершине (см. круглые молекулы газа Больцмана – Синая двигаются по тору. что искривленные стороны Y — это дуги окружностей. 4. всего с двумя круглыми молекулами и двумерное пространство. Математики часто взаимозаменяемо оперируют такими выражениями. Тогда Y — это полурассеивающий (соответственно. Гуткин сти не принципиально. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. достаточно. отрезки) границы ∂Y являются ее рас1 К сожалению. Пусть Y — биллиардный стол. Рис. чтобы они были гладкие и выпуклые внутрь. всех) сторон P круговыми дугами. Симметрия задачи сводит ее к биллиарду в единичном квадрате с удаленной четвертью диска радиуса 1/2. T. используемая в литературе. 7. Эта область известна как биллиард Синая1 . рис. 4). С.

Например. Войтковский построил инвариантные поля конусов для нескольких классов биллиардных столов [95]. начался поиск геометрических критериев гиперболичности. 7. нейтральными) компонентами. Так как Y и Z связаны 2n-кратной симметрией. Бунимович открыл. что стадион и подобные ему биллиардные столы являются гиперболическими [99]. Дифференциал φ∗ — это линейное отображение из Vz в Vφ(z) . В работе [47] эти идеи используются при построении гиперболических биллиардов на поверхностях произвольной постоянной кривизны. Семейство C = {Cz ⊂ Vz : z ∈ Φ} — это инвариантное поле конусов. биллиардные отображения в Y и Z по существу эквивалентны. С. Ограничим наше обсуждение биллиардными отображениями. φ∗ (Cz ) ⊂ Cφ(z) . Это полурассеивающие биллиардные столы. стол Y гиперболический. Например. Пусть Y — полурассеивающий треугольник. i) Будет ли произвольный полурассеивающий биллиардный стол гиперболическим? ii) Всякий ли полурассеивающий многоугольник является гиперболическим? При m = n − 1 полурассеивающий многоугольник Y имеет только одну нейтральную компоненту.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 497 сеивающими (соответственно. 93]. 4. Подход Войтковского был дальше расширен Бунимовичем. Используя геометрический подход. Благодаря осевой симметрии Z. он гиперболический. 3. § 3 ниже). Доннеем и Маркарианом (см. Пусть Y  — отражение Y относительно этой стороны и Z = Y ∪ Y  . После того. Определение 2. что φn∗ (Cz ) ⊂ int (Cφn (z) ). Помимо «старых» классов гиперболических столов (т. рассеивающих столов и обобщенных стадионов). В частных случаях трюк с отражением позволяет доказать гиперболичность полурассеивающих многоугольников при m < n − 1. рассеивающая компонента которого расположена на стороне P . пусть P — треугольник с углом π/n. такое. Таким образом. № 3. В отсутствие нейтральных компонент говорят о рассеивающих биллиардных столах. но произвольные гладкие кривые. очевидным образом получим рассеивающий биллиардный стол Z. § 5 в [86]). если P — рациональный многоугольник (см. существует n = n(z). В [111] Синай доказал гиперболичность рассеивающих биллиардных столов. Критический частный случай m = 1 задачи 4 эквивалентен задаче 9 из § 3. 489–512 . Эта терминология естественным образом распространяется на столы. противоположной к углу π/n. 2. как Л. конус Cz нетривиальный и имеет непустую внутренность. стол Y также будет гиперболическим. выпуклые внутрь. Подходящее обобщение трюка с отражением сработает. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Задача 4. он нашел инвариантные поля конусов для широкого класса локально строго выпуклых столов. Отражая Y последовательно 2n раз. Существование инвариантного поля конусов эквивалентно гиперболичности биллиарда [93]. е. и «функция» z → Cz измерима. замкнутый конус Cz определен почти для всех z ∈ Φ. рассеивающие компоненты границы которых не обязательно круговые. Очень полезным здесь оказывается понятие инвариантного поля конусов [60. Обозначим через Vz касательную плоскость к фазовому пространству в точке z ∈ Φ. Так как Z — это рассеивающий биллиардный стол. Следовательно. T. Z является гиперболическим. если выполнены следующие условия: 1. стол на рисунке 4 имеет одну рассеивающую и четыре нейтральные компоненты границы.

Асимптотика fY (n) — это важная динамическая характеристика. 100. стадион и подобные ему биллиардные столы эргодические [85]. По теореме Стоянова [83]. Не существует примеров строго выпуклых гиперболических биллиардных столов (см. 101]. Однако сингулярности. Вопрос об убывании корреляций ставит несколько нерешенных задач [14. Например. 3. Черновым. Более того. С. что 2 Личное сообщение. ограничимся в последующем обсуждении рассеивающими биллиардными столами. Биллиардная динамика на этих столах имеет сильные хаотические свойства [15. и естественная считающая функция корректно определена.2 Задача 5. Поверхность S имеет конечное число конических точек. задачу 2). n n n→∞ (2. простым.1). задачи 5 и 6 вписываются в общую взаимосвязь между распределением периодических точек и топологической энтропией [61]. Комбинируя обе оценки. то 0 < h < ∞. Пусть N = N (P ) — наименьший общий знаменатель этих рациональных чисел. Многоугольник называется рациональным. Если предел в уравнении (2. который служит биллиардным столом. Предположим. если углы между его сторонами имеют вид πm/n. или барьеры. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. 53. препятствия без внутренности. 112]. 97]. fY (n)  eh+ n для некоторого положительного числа h+ при n → ∞.2) Согласно уравнению (2. Обсудим статистику периодических орбит в гиперболических биллиардах. Множество периодических точек любого периода конечно. Необходимо создание других подходов [39. Существует ли следующий предел? h = lim n→∞ log fY (n) n (2. Задача 6. Он может также иметь внутренние стенки. е. что типичный гиперболический биллиард является эргодическим. которые составляют главную черту биллиардной динамики. № 3.2) действительно существует. Биллиарды в многоугольниках: параболическая динамика Многоугольник P . 489–512 .Е. т. Чтобы упростить изложение. препятствуют применению гладкой эргодической теории. Можно привести примеры неэргодических гиперболических столов [95]. т. не обязательно должен быть выпуклым или односвязным. период которых меньше или равен n.1) Следующие две задачи были предложены Н. покрытую 2N копиями P . получим 0 < h−  lim inf n→∞ log fY (n) log fY (n)  lim sup  h+ < ∞. T. Гуткин 498 Рассеивающие биллиардные столы являются эргодическими [101]. Полный конический угол каждой из них кратен 2π. е. но здесь они рассматриваться не будут. 7. является ли h топологической энтропией биллиардного отображения? Естественные аналоги этих задач открыты для всех гиперболических биллиардных столов. если этот предел существует. Теорема Чернова [100] дает экспоненциальную нижнюю оценку: eh− n  fY (n). однако считается. Классическое построение связывает с P замкнутую поверхность S = S(P ). Пусть fY (n) — число периодических орбит.

Следовательно. произвольных) многоугольниках известно меньше. Заметим. О биллиарде в иррациональных (т.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 499 многоугольник P простой. когда многоугольник P замощает плоскость отражениями. 28. Обозначим через T (n) параметрическое пространство евклидовых n-угольников (с точностью до масштабa). поэтому S(P ) часто называется поверхностью Катока – Землякова. Катоком и А. 90]. биллиардный поток в рациональном многоугольнике не является эргодическим. 31. Геодезический поток любой плоской поверхности S разлагается на однопараметрическое семейство направленных потоков btθ . Для простоты терминологии будем называть их плоскими поверхностями. Из [65] следует. заданное в виде T (3) = = {(α. Мера Лебега на S сохраняется потоком btθ . это замкнутые римановы поверхности с голоморфными линейными дифференциалами. соответствующих некоторым комбинаторным данным.1) следует. Пространство T (n) — это конечное объединение компонент. 69. № 3. Каждая компонента гомеоморфна относительно компактному множеству максимальной размерности в евклидовом пространстве. что потоки btθ строго эргодичны для почти всех θ по отношению к мере Лебега. 2 (3. Биллиард в P по существу эквивалентен геодезическому потоку на S(P ). Пусть S — произвольная плоская поверхность. пространство T (3) само является треугольником.1) i=1 Из уравнения (3. С. и пусть mi π/ni . Поток btθ отождествляется с линейным потоком на S в направлении θ. Эти поверхности представляют самостоятельный интерес [42]. Пусть λ — вероятностная мера на T (n). Это наблюдение было впервые использовано А. компоненты которой являются соответствующими мерами Лебега. T. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. 7. С точки зрения классического анализа. Типичная плоская поверхность не соответствует многоугольнику. 82]. Земляковым [105]. Таким образом. Связь между биллиардом в многоугольниках и классическим комплексным анализом оказывается очень полезной [65–67. е. Тогда род поверхности S(P ) удовлетворяет соотношению [29] p ! mi − 1 N g(S(P )) = 1 + ni . Поверхности S(P ) — это частные случаи плоских поверхностей с коническими особенностями и тривиальной линейной голономией (translation surfaces). Следовательно. Теорема Керкхофа. Обзорный материал по этой теме содержится в работах [29. Замена линейных дифференциалов на квадратичные приводит к более широкому классу плоских поверхностей (halftranslation surfaces). 2π) неэргодических направлений имеет положительную размерность Хаусдорфа [68] для типичной плоской поверхности. Например. Здесь они рассматриваться не будут. что множество E(n) ⊂ T (n) эргодических n-угольников — это остаточное множество (дополнительное к множеству первой категории) в смысле категории Бэра [71]. Однако построение поверхности S(P ) можно найти в литературе начиная (по меньшей мере) с начала XX столетия [24. Мазура и Смaйли [65] утверждает. — углы его вершин. 80] и главе 3 из [86]. что говорит об ограниченности этой взаимосвязи. 90]. что S(P ) является тором тогда и только тогда. что биллиард сохраняется при изменении масштабa. 1  i  p. пространство T (3) треугольников — это подмножество R2 . Он разлагается на однопараметрическое семейство направленных биллиардных потоков. β) : 0 < α  β < π/2}. 489–512 . направленный биллиардный поток рационального многоугольника является эргодическим почти для всех направлений. Множество N (S) ⊂ [0. 0  θ < 2π. и оно хорошо изучено для специальных рациональных многоугольников [17.

получим физическую систему двух упругих частиц на интервале. m2 . m3 ) — "это прямоугольный треугольник. 7. Следующий НЕЛИНЕЙНАЯ ДИНАМИКА 2011. подтверждающей или опровергающей это наблюдение. С. Рис. № 3. Численные свидетельства подтверждают. опорные точки которых лежат на стороне ai . . В пределе. 5. m3 ) удовлетворяют соотношению m1 + m2 + m3 (3. что иррациональные многоугольники являются эргодическими и имеют другие стохастические свойства [3. что в этом соответствии между механикой и биллиардом π-рациональность углов не имеет очевидного физического смысла. так как механическая система трех упругих частиц на окружности (см. 5) сводится к биллиарду в остроугольном треугольнике. углы которого удовлетворяют соотношениям tg α1 = m1 /m2 . . Этот факт был отмечен независимо друг от друга авторами работ [26] и [13]. . T. m3 — массы частиц. Гуткин Задача 7. и пусть a1 . . i = 1. но он не имеет прямой связи с вышеописанной задачей. Пусть m1 . Согласно уравнению (1). Привести пример иррационального неэргодического многоугольника. Верно ли. Три идеально упругих частицы на окружности. Этот результат позволяет получить примеры эргодических многоугольников. Заметим. an — его стороны. m2 . Предел треугольников Δ(m1 . при m3 → ∞. Если иррациональный многоугольник P допускает сверхэкспоненциально быструю аппроксимацию рациональными многоугольниками. что λ(E(n)) > 0 ? Случай n = 3 особенно интересен. 13]. Более подробный отчет можно найти в [69]. Тогда Φ = ∪ni=1 Φi — дизъюнктная декомпозиция (disjoint decomposition).500 Е. 3. 2. 489–512 . Тогда углы треугольника Δ(m1 . то многоугольник P эргодический [103]. Для 1  i  n пусть Φi ⊂ Φ — множество элементов в фазовом пространстве биллиардного отображения. μ(Φi ) = 2 Length(ai ). рис. Теоремы. нет. " tg α2 = m2 /m1 .2) tg αi = mi m1 m2 m3 . Пусть P — произвольный n-угольник. Задача 8. m2 .

Существует частный класс многоугольников и поверхностей. Если Φi ⊂ M для некоторого 1  i  n. которые удовлетворяют 3 Другая связь между биллиардами и физикой обнаруживается при изучении механических связей. Пусть P — произвольный n-угольник. ниже). и пусть M ⊂ Φ — измеримое инвариантное подмножество. 104]. соответствующий системе трех упругих масс (уравнение (3.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 501 вопрос касается структуры инвариантных множеств в фазовом пространстве неэргодического многоугольника. c∗ (P ) = c∗ (P ) = = c(P ). С. Она возрастает субэкспоненциально [39. Найти эффективные оценки для c∗ (P ) и c∗ (P ). По-видимому. m3 ) соответствуют периодическим движениям масс. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Неизвестно. рациональный многоугольник имеет не больше чем конечное число таких орбит. что c∗ (P )2  fP ()  c∗ (P )2 для достаточно большого . 50]. т. В этом случае будем говорить. Далее будем рассматривать только рациональные многоугольники. Во всех до сих пор вычисленных примерах fP ()/2 имеет предел. орбита Фаньяно) изолированы. в [81]. которая требует сведений только из элементарной геометрии и имеет непосредственные приложения к физике. Из [65] вытекает. Задача/Гипотеза 9. 67] и Бошерницана [9.) Сформулируем его в качестве гипотезы. m3 ) — остроугольный треугольник. Задача 10. Например. Граница полосы — это объединение сингулярных орбит или обобщенных диагоналей [59]. 489–512 . Периодические биллиардные орбиты в треугольнике Δ(m1 .2)). такие орбиты редки. где периодические орбиты биллиардов заменяются замкнутыми геодезическими. Обозначим через fP () число периодических полос длины. пусть Δ(m1 . Это биллиардные орбиты. что многоугольник имеет квадратичную асимптотику. Любой остроугольный треугольник имеет классическую периодическую орбиту — орбиту Фаньяно [32]. Более подробную информацию об этих «базовых механизмах» см. Периодические орбиты биллиардов в многоугольниках — это тема. Это считающая функция периодических орбит в многоугольниках. Ввиду результатов Мазура [66. или любой ли тупоугольный треугольник имеет периодическую орбиту [51. Задача 12. Она соответствует вписанному треугольнику минимального периметра. Найти нетривиальную (верхнюю и нижнюю) оценки для fP для иррациональных многоугольников. соответственно. В качестве c∗ (P ) и c∗ (P ) можно взять нижние и верхние пределы fP ()/2 . не превышающей .3 К удивлению исследователей. Предшествующие определения и вопросы имеют очевидные аналоги для плоских поверхностей. с задачей 4 в § 2. 7. T. конечные точки которых находятся в вершинах многоугольника. Это так называемые квадратичные оценки. № 3. (Ср. то M = Φ. m2 . Некоторые специальные классы иррациональных многоугольников имеют периодические орбиты [18. Всякий ли многоугольник имеет периодическую орбиту? Всякий рациональный многоугольник имеет периодические орбиты (см. 10]. любой ли остроугольный треугольник имеет другие периодические орбиты. Задача 11. что гипотеза справедлива для рациональных многоугольников. Периодические орбиты с нечетным числом отрезков (например. 59]. Периодическая орбита с четным числом отрезков содержится в параллельной полосе периодических орбит той же самой длины. е. m2 . существуют такие 0 < c∗ (P )  c∗ (P ) < ∞. вопросы o периодических орбитах в многоугольниках оказались особенно трудными.

главным образом. для американских студентов. Однако эти книги разные по существу. T. включенные в первоначальный вариант этого обзора [33]. Тогда величина ее квадратичной постоянной зависит только от связной компоненты страта пространства Тейхмюллера. Гамильтонова версия задачи 1 имеет следующий вид: НЕЛИНЕЙНАЯ ДИНАМИКА 2011. обновилась и библиография. Все остроугольные решеточные треугольники уже определены [64. что типичная (относительно меры Лебега) плоская поверхность имеет квадратичную асимптотику. описывает несколько вопросов. В то же время здесь появилась возможность добавить несколько замечаний. Гуткин так называемому свойству решетки (lattice condition). тогда как книга [88]. (Нормированная) квадратичная постоянная любого решеточного многоугольника — это алгебраическое число [42]. 4. 27. Пусть S — типичная плоская поверхность. С. Для простоты терминологии мы будем называть их решетoчными многоугольниками и плоскими поверхностями [41. Дополнения для русского перевода На июнь 2011 года все задачи. 22]. Эти результаты ничего не дают для многоугольников. Главная цель данного параграфа — обсудить этот материал. Они имеют квадратичную асимптотику и для их квадратичной постоянной получены общие формулы [28. Задача 13. Всякий ли рациональный многоугольник имеет квадратичную асимптотику? 4. Некоторые из различий в [6] и [88] обусловлены структурой этих книг и ожидаемой читательской аудиторией. № 3. 489–512 . так как соответствующее подмножество пространства модулeй имеет меру нуль.502 Е. 91]. к которому относится S [19]. касающихся геометрических аспектов биллиарда. 16. известно. § 2). 7. Естественно. Биллиардный поток на гладком выпуклом столе — это гамильтонова система с двумя степенями свободы. остаются открытыми. Книга [27] содержит несколько приложений выпуклой геометрии к задаче о биллиардном шаре (см. 91]. определение 1 и задачу 1). 89. Типичные квадратичные постоянные были вычислены [21. предназначенная. Решеточные многоугольники встречаются редко. где задача о биллиардном шаре — лишь один из множества иллюстративных примеров и приложений.1. содержащих дополнительный важный материал. 74]. Кроме того. Обсуждения задачи о биллиардном шаре содержатся в нескольких недавно вышедших книгах [6. 91] и [42]. Однако расширение той же методики доказывает квадратичную асимптотику для очень частного. В монографии [6] подробно описываются несколько связей между задачей о биллиардном шаре и геометрией. С другой стороны. которые по той или иной причине не были включены в обзор [33]. описанных выше. материал в § 1). но нетривиального класса рациональных многоугольников [20]. Для тупоугольных треугольников вопрос открыт. 42. Однако за это время появилось несколько работ. Комментарии к гипотезе Биркгофа и связанному с ней материалу Гипотеза интегрируемости Биркгофа традиционно формулируется в терминах биллиардного отображения (см. 88]. Эти формулы содержат довольно сложную арифметику. Материал в книгах [6] и [88] касается всех трех типов биллиардных столов. Работа [6] — это всесторонняя монография по геометрии. квадратичные постоянные для многих решеточных многоугольников известны в явном виде [89. Книга [16] представляет собой исчерпывающий трактат по гиперболической биллиардной динамике (см.

Кривые G(γ. согласно которому биллиардные каустики отделены от границы стола. что Ω() — это область в Y (γ. Если биллиардный поток на Y — это интегрируемая гамильтонова система. T. Хубахер доказала. Результаты С. Было бы интересно исследовать этот вопрос. ). не строго. В отличие от [43]. Хотя задачи 1 и 1a очевидно связаны. 1 ) — это конфокальный эллипс. Конструкция шпагата ставит в соответствие любому  > |γ| замкнутую выпуклую кривую G(γ. Это свойство построения садовника есть следствие интегрируемости биллиарда на эллипсах. 3 ). Эллипсы — это единственные замкнутые выпуклые кривые. Садовники могут использовать этот прием для создания изгороди вокруг своих клумб. ii) для  ∈ [a(r). ) — соответствующее семейство выпуклых биллиардных столов и пусть 0 < ργ () < < 1/2 — число вращения каустики γ ⊂ Y (). удовлетворяющие вышеуказанной транзитивности. ) — это конкатенации дуг эллипсов с фокусами в углах γ. эти интервалы называются интервалами замыкания фазы (phase locking). поэтому такая процедура иногда называется построением садовника [6]. Для  > |γ| пусть Y () = = Y (γ. Теорема Хубахер аналогична результату в [43].Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 503 Задача 1a. 109]. то γ2 = = G(γ1 . Пусть Y — гладкий выпуклый биллиардный стол. В теореме Хубахер такие точки заменяются на точки скачков кривизны. Мелроузу. содержащий γ1 . и обернем вокруг γ. Пусть теперь γ — произвольный выпуклый многоугольник. ) ⊂ R2 — биллиардный стол. b(r)] ограничение биллиардного отображения Y () на каустики γ не является вращением. Явление «замыкание фазы» характерно для однопараметрических деформаций в эллиптической динамике. Тогда γ — это каустика для биллиарда на Y [43. ρ() монотонно растет. Как упоминалось выше. содержащую внутри себя γ. 489–512 . ). что ρ−1 (r) = [a(r). работа [57] не дает оценок для размера Ω(). Обозначим через |γ| ее периметр. Тогда γ3 = G(γ2 . № 3. граница которого G(γ. Амирана [1]. Пусть теперь 2 > |γ2 |. такую. Существует единственное значение 3 . В работе [44] исследуются интервалы замыкания фазы. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Наиболее правдоподобным представляется. Решение Задачи 1b стало предметом кандидатской диссертации его студента Э. ) принадлежит дополнению Ω() [57]. такое. касающихся связи между выпуклой кривой γ и функцией вращения ργ (·). Тогда i) число r рациональное. Этот чисто геометрический вариант гипотезы Биркгофа появился благодаря Р. будем вращать карандаш вокруг γ. Обратное утверждение также выполняется. ) содержит окрестность Ω() своей границы. Потянем кольцо с помощью карандаша и. γ — это каустика для биллиарда на Y (γ. но нерастяжимого материала. то Y является эллипсом. Пусть r ∈ (0. b(r)] — интервал. изготовленное из мягкого. ) можно получить как результат следующего «физического процесса». Много вопросов. Однако работа [1] содержит серьезный пробел и вопрос остается открытым. Пусть теперь γ — произвольная замкнутая выпуклая кривая. ∞) такое. что γ3 = G(γ1 . остаются открытыми [44]. Верно ли обратное утверждение? Задача 1b. разрешение одной из них не имеет прямого отношения к решению другой. но. Пусть Y = Y (γ. Когда  изменяется от |γ| до бесконечности. 7. крепко прижимая его. когда γ — треугольник. Если γ1 — это эллипс и 1 > |γ1 |. Возьмем кольцо длины . Пусть γ ⊂ R2 — замкнутая выпуклая кривая. Движущийся карандаш опишет кривую G(γ. ) для любого  > |γ|. 2 ) — конфокальный эллипс. С. ). Функция вращения ρ() = ργ () непрерывна. в общем случае. что стол Y (γ. ) между границей стола и самой каустикой γ. Болотина [98] свидетельствуют в пользу положительного решения задачи 1a. Они будут C 1 -гладкими и лишь кусочно C 2 -гладкими. 88. если она содержит точки очень малой кривизны. А. что любая каустика в Y (γ. Кривую G(γ.

Если Y ∈ Pα . что любой многоугольник действительно имеет периодиче- НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Кривая ∂Y имеет постоянную ширину тогда и только тогда. Как следствие этого метода. что стол Y имеет свойство Pα . а также связанные с ней вопросы остаются активным предметом исследований. Пусть An ⊂ (0. В работе [38] содержится детальное изложение результатов из [30]. 7. которые выполняются для типичного стола. i) Класс Pα непустой тогда и только тогда. Когда s → 0. Столы с каустиками Γπ/2 хорошо известны геометрам: их границы представляют собой кривые постоянной ширины [6. Будем говорить. 77. но имеет особенность. которые выполняются для всех столов. задача 3 остается нерешенной. 27]. которые выполняются для специального класса биллиардных столов. когда ее кривизна периодическая с периодом π. Комментарии по материалу § 3 Хотя задача 3 по-прежнему не решена. iii) свойства. № 3.1). работа [36] содержит ошибку. если любая хорда в Y . в [5] получено новое доказательство соотношения μ(P3 ) = 0. представляют интерес в механике жидкостей. которые имеют свойство P? Если ответ «да».1) для некоторого n > 1. удовлетворяющие свойству Pα для некоторого угла α. Пусть 0 < α  π/2 — угол. будем называть их каустики с постоянным углом. исследующих механику жидкостей. Круглый стол имеет свойство Pα для любого α. 78] дают существенные основания полагать. Класс Pα был исследован автором около 20 лет назад.2. ii) свойства. выпуклые столы Yα (s) сходятся к единичному диску. а результаты были опубликованы в сборнике докладов на конференции по динамике и смежным вопросам в 1993 году в Пенсильванском университете [30]. В препринте [36] было анонсировано решение задачи 3. последние публикации [56. Исследования столов из категории iii) можно описать следующим образом: пусть P — свойство. что плоские области. задача состоит в описании класса биллиардных столов. В частности.3. Оказывается. Биллиардные столы с свойством Pα имеют специфическую каустику Γα . оно непустое для n  4. Гуткин 4. К сожалению. ii) Для любого α ∈ An существует вещественное аналитическое семейство бесконечно гладких столов Yα (s) ∈ Pα : 0 < s < 1. С. T. Главные результаты следующие. Рассмотрим пример. имеющих свойство P.504 Е. 4. предназначенное для математиков. которому удовлетворяет некоторый специальный биллиардный стол. которая образует угол α с ∂Y в одном конце. круглый диск. Пусть Y — биллиардный стол Биркгофа. Множество An всегда конечное. Работа [49] содержит пример гладкого (не строго) выпуклого биллиардного стола на круглой сфере с открытым множеством периодических орбит. Нетривиальные свойства биллиарда можно грубо поделить на три категории: i) свойства. также образует угол α с ∂Y на другом конце. 489–512 . то плавающий бесконечный цилиндр C = Y × R находится в нейтральном положении равновесия при любой ориентации с контактным углом π − α [23]. Существование таких биллиардных столов подчеркивает тонкость задачи 3. π/2) — множество решений уравнения (4. существует бесконечно много некруглых бесконечно гладких биллиардных столов этого класса. Существуют ли некруглые столы. Комментарии по другим материалам § 1 Задача 3. например. таким образом. Пусть Pα (при 0 < α < π/2) — класс некруглых столов с свойством Pα . Работа [5] развивает функционально теоретический подход к изучению биллиардных каустик. Предел Yα (s) при s → 1 также существует. когда α удовлетворяет соотношению tg(nα) = n tg α (4.

. насколько нетривиальной является задача о периодических орбитах. Хупер и Шварц назвали эти множества плитками (tiles). К сожалению. что в теореме Хупера – Шварца α и β могут быть произвольно малыми. y  1}. Чтобы немного упростить условия. что всякий многоугольник имеет периодические биллиардные орбиты. что любой треугольник. что если α. Для w ∈ W пусть Tw ⊂ T — открытое множество треугольников. функция fP (n) в задаче 11 дает периодическую сложность для биллиарда на P . Для краткости будем говорить. В работе [56] Хупер и Шварц доказывают. b. который достаточно близок к равнобедренному. — его стороны. что w(γ) — это код γ. Помимо достаточных свидетельств в пользу гипотезы. b. в обзоре [33] не затрагивается вопрос сложности орбит биллиардов в многоугольниках. . эту идею нельзя реализовать. чтобы плитки Tw . 78] основаны на подходе работы [104]. Оказывается. и пусть W = ∪k Wk . Работы [56. Пусть Δ — тупоугольный треугольник с острыми углами α. . то Δ имеет периодическую орбиту. можем предположить. Получим слово w(γ) из алфавита A = {a. 489–512 . Таким образом. равнобедренных) треугольников определяются неравенством x + y < 1 (соответственно. Пусть Wk — множество устойчивых слов из алфавита a. 78] устанавливается несколько фактов. Теорема Хупера и Шварца утверждает. Заметим. b. В [77. с которыми биллиард сталкивается. Кратко обсудим его ниже. а следовательно. Пусть T ⊂ R2 — пространство треугольников. c — стороны Δ. не обращаясь к помощи мощного компьютера. 77. чем 100 градусов. β и тупым углом γ > π/2. что слова. Будем говорить. b. число букв в w(γ) называется комби— множество кодов всех орбит биллиардов с комбинаторнаторной длиной γ. составленные из алфавита a. c. T. b. получим условные. составленными из алфавита a. b. Пусть Wn (P ). Найти нетривиальные верхнюю и нижнюю оценки сложности биллиардов для общих многоугольников. Пусть P — многоугольник. в работах [56. Пусть a. если она сохраняется при всех достаточно малых деформациях Δ. что равнобедренные треугольники имеют периодические орбиты.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 505 скую орбиту. c. Этот факт является следствием результатов Мазура. 77. В этих работах исследуются периодические орбиты биллиардов в тупоугольных треугольниках. хотя он очень близок к задаче 11. Хорошо известно. Орбита биллиарда называется устойчивой. которые кодируются. Функция F (n) = kn |Wk (P )| определяет полную сложность биллиарда на P . c длины k. равенством x = y). то Δ имеет периодическую орбиту. в этой работе периодические орбиты кодируются словами. что если γ меньше. Например. являются устойчивыми. Если α = β. и пусть a. чтобы найти такое подходящее подмножество Wsuf f ⊂ W . Накладывая различные ограничения на орбиты биллиардов. Шварц доказывает. так как для рациональных многоугольников полная сложность имеет верхнюю и нижнюю кубические оценки. и исследуются связи между орбитами и соответствующими словами. ной длиной n. сложности F∗ (n). Задача 14. или частичные. β достаточно близки. угол γ может быть произвольно большим. . 7.}. c. что T = {(x. . НЕЛИНЕЙНАЯ ДИНАМИКА 2011. c и удовлетворяющие этому свойству. утверждающей. . что устойчивость орбиты эквивалентна комбинаторному свойству соответствующего слова [104]. задача 11 — это частный случай следующих открытых вопросов. Подход Хупера и Шварца состоит в том. № 3. y) ∈ R2 : 0  x. Компьютерная программа «McBilliards» Хупера и Шварца выполняет эту работу. имеющих периодическую орбиту с кодом w. 78] Р. С. имеет периодическую орбиту. Выражение «общий многоугольник» в задаче 14 можно заменить на иррациональный многоугольник. которые показывают. то Δ — равнобедренный треугольник. Проследим за конечной орбитой биллиарда γ и запишем стороны. Без сомнения. Подмножества тупоугольных (соответственно. w ∈ Wsuf f покрывали желаемую часть T .

49]. zn } ⊂ Ω \ {x. что правильный n-угольник безопасен тогда и только тогда. x) пусть Γ(x. Чтобы сделать ее более конкретной. верно ли. 7. такое. 4. Авторы [55]. что это не так. если любая пара x. а z ∈ P — произвольная точка. т. что точки z1 . таким образом. доказательство в [34] отнюдь таким НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Стол Ω называется безопасным. . когда n = 3. Вопросы о безопасности. что для любого P и любого ε > 0 почти для всех точек z ∈ P справедлива оценка Fz (n) = O(n2+ε ). такое. Правильные n-угольники являются контрпримерами для утверждения о безопасности из [55]. С. 489–512 . полная сложность биллиарда в любом многоугольнике субэкспоненциальна. Гуткин касающихся асимптотики седловых соединений на поверхностях переноса. Гипотеза 1. y}. получим сложность направления Fθ (n) (соответственно сложность положения Fz (n)) для биллиарда на P . что полная сложность биллиарда для любого многоугольника имеет кубическую нижнюю оценку и верхнюю оценку степени d. Теорема из [34] утверждает. y ∈ Ω (в частности. zn — блокирующие для x. что Ω небезопасный. и подсчитывая число слов с длиной меньшей или равной n. показать. будучи студентами Кембриджского университета. 4. встречаются в литературе по математическим олимпиадам. 6. Возникает несколько общих вопросов. y ∈ Ω небезопасна. Постановка задачи 14 нуждается в дополнительной интерпретации. Известно. Этот подход работает для биллиардов в многоугольниках с любой постоянной кривизной. Это означает. из точки z). y.4. которые начинаются в направлении θ (соответственно. Кратко обсудим последние результаты для частичных сложностей. Для любой пары x. . i) Какие столы Ω безопасны? ii) Если Ω небезопасный. что для любого P и любого ε > 0 почти для всех направлений θ имеет место оценка Fθ (n) = O(n1+ε ). такое. однако это не дает конкретной оценки для F (n). изучали безопасность многоугольников. Главным результатом в [55] стал вывод о том. е. то насколько он небезопасный? Например. рассматривая биллиардное отображение как кусочно-выпуклый многоугольный обмен (piecewise convex polygon exchange). существует d > 0. Кодируя те орбиты биллиардов. . д. что для достаточно большого n неравенство F (n) < ean выполняется для любого a > 0. что любая пара x. что пара x. № 3. y безопасна. после прочтения работы [55]. что Fθ (n) = O(nd ) для всех направлений θ [50]. y) проходит через некоторую точку zi . 59]. Существует d  3. . Хотя это утверждение элементaрно. если существует конечное множество {z1 . Работа [49] развивает новый подход к сложности биллиарда. . под видом задач о телохранителях. непосредственно связана с биллиардной динамикой. Безопасность для биллиардных столов и связанные с ней вопросы Данная тематика возникла после опубликования обзора [33]. Она касается геометрии орбит биллиардов и. что сложность направления растет полиномиально. Доказательства основаны на изучении связей между средней сложностью и индивидуальными сложностями. которая не может быть заблокирована с помощью конечного множества блокирующих точек. y безопасная. Пусть 0  θ < 2π — направление. Согласно [39. Будем говорить. что любой рациональный многоугольник безопасен. которые соединяют x и y. Однако автор заинтересовался ими несколько лет назад. Будем говорить. Другая теорема в [45] утверждает. Таким образом. Пусть P — произвольный многоугольник. для пары x. y) — множество биллиардных орбит в Ω. которые подтверждают гипотезу [45. Теорема в [45] говорит. зависящее только от P . В настоящее время гипотеза 1 доказана только для рациональных многоугольников с d = 3. .506 Е. y ∈ Ω небезопасны и т. . . что почти все пары x. T. Из [34] следует. что каждая орбита γ ∈ Γ(x. y. — означает найти пару x. сформулируем ниже широко принятую гипотезу. Пусть Ω ⊂ R2 — произвольный биллиардный стол.

46]. интуитивно ясно. в частности.. следовательно. Однако концепция безопасности имеет смысл для произвольных биллиардных столов. Многоугольник P является почти интегрируемым. В частности. Для плоских M общего вида этот факт следует из теоремы Бибербаха [12]. С. Гипотеза 3. A remark on the topological entropy and invariant circles of an area preserving twist map // Twist mappings and their applications. следует. y ∈ M . Компактное гладкое риманово многообразие безопасно тогда и только тогда. Достаточно заменить орбиты биллиардов. 7. она выполняется для всех компактных поверхностей положительного рода [4]. 91]. а также равносторонний треугольник и прямоугольники очень специальны. 345–357. 90 градусов. Однако общее исследование безопасности для многоугольников еще только начинается (см. 42. если P покрывается при отражениях одним из интегрируемых многоугольников Δ. что любой иррациональный многоугольник небезопасен. [2] Angenent S. Заметим. плоскими поверхностями которых будут плоские торы. то оно безопасно [12. что пары достаточно близких точек x. Почти интегрируемые многоугольники. установить критерий безопасности для рациональных многоугольников. 40. (IMA Vol. При локальном сравнении ∂Ω с круговыми дугами. Гипотеза верна для типичных римановых многообразий [25]. vol. 60. Это единственные многоугольники. Caustics and evolutes for convex planar domains // J. если M — плоский тор. соединяющими точки x. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. очевидно.) New York: Springer. среди поверхностей остается проверить случай. с их топологической энтропией [12. когда оно плоское. 12. Таким образом. Безопасность римановых многообразий связана с ростом числа соединяющихся геодезических при увеличении их длины и. y ∈ ∂Ω будут небезопасными. с границей. 28. не являющихся многоугольниками. Если такое многообразие M плоское. Утверждение следует из исследования безопасности на плоских поверхностях и основано на результатах из [28. Math. Задача 15. № 3. Не так много известно о безопасности в биллиардных столах Ω. Следуя [28]. их биллиардные потоки интегрируемы [28]. Список литературы [1] Amiran E. 35]). Так. как треугольники с углами 30. геодезическими. Согласно [34]. углами и сингулярностями). 37]. Гипотеза 3 подтверждается для различных классов римановых многообразий [4. 1992. T.. Гипотеза 2. B. Пусть Ω — биллиардный стол Биркгофа. 34]. vol. pp. Из гипотезы 2. и. Многоугольник безопасен тогда и только тогда. Охарактеризовать безопасные многоугольники. 45. что вышеприведенная постановка имеет смысл для произвольных римановых многообразий M (в общем случае. существует элементaрное доказательство [34]. 1–5. являются рациональными. [34. 89. 90 и 45. Appl. когда M — риманова 2-сфера. Такие многоугольники.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 507 не является. 1988. Differential Geom. и работа [87] подтверждает это. когда он почти интегрируем. В частности. следовательно. Намного больше известно о безопасности компактных гладких римановых многообразий. P. 44. В настоящее время задача о небезопасности для общих многоугольников кажется безнадежной. соединяющие точки x. 489–512 . y ∈ Ω. будем называть их интегрируемыми многоугольниками. все почти интегрируемые многоугольники безопасны.

pp. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Providence. 2066–2071. pp. Хаотические биллиарды. Dedicata. Gutkin E. 59–103. 316 pp.. Динамические системы. 1999. Ижевск: УдГУ. М. pp. http://www. 2001. Hanson R.. Math. 2008. Dyn. 513– 556.. Concerning the transitive properties of geodesics on a rational polyhedron // Duke Math. H.. 831 pp. 2006. [7] Bialy M. Masur H. Entropy. I. Masur H. [8] Birkhoff G. Prosen T. готовится к печати. [4] Bangert V. 2..) Providence. vol. vol. 1993. J. Z. 443–458. A dense G-delta set of Riemannian metrics without the finite blocking property // Math. ergodic theory and applications / Ya.. М. Res. Lyapunov exponents and mean-free path for billiards // J. Syst. Hautes Etudes Sci. 305 pp. Math. no. Stat. 94. pp. Phys. pp.. Kolan E. 1999.. 1997. Periodic trajectories in right-triangle billiards // Phys.. Res. 55. vol. 2009. 389–404. 52. 11. 88.) Berlin: Springer. 2010.. 2. 2000. J. [21] Eskin A. С. Numerical study on ergodic properties of triangular billiards // Phys. 6384–6390. 13. pp. Rev. [25] Gerber M. 1927.-K. Math. Growth of the number of geodesics between points and insecurity for Riemannian manifolds // Discrete Contin. pp. 21. Zharnitsky V. 661–678 (with an appendix by M. pp. 97.. Lett.. Moduli spaces of abelian differentials: The principal boundary. Okunkov A. Kershner R. 443–478. Zorich A. Markarian R. Lett. 427–463. Fluid Mech... 2001. 403–413. Boshernitzan).. 733–752. № 3. vol. 2002. T.. 1997. 408 с.. [17] Cheung Y. vol. 1999... no. pp. vol.. [19] Eskin A. vol. vol.. 2012. 489–512 . pp. Dynamical systems. 2003.]. [13] Casati G.–Ижевск: НИЦ «РХД». [15] Chernov N. 127. pp.–Ижевск: ИКИ. Geometry revealed: A Jacob’s ladder to modern higher geometry. [9] Boshernitzan M. vol. I. 147–154. [11] Bunimovich L. Insecurity for compact surfaces of positive genus // Geom. pp. [6] Berger M. vol. [5] Baryshnikov Yu.org/bookstore/collseries [Биркгоф Д. 21. [14] Chernov N. 7. [24] Fox R. Inst. 1985. Sinai et al. 165–191. Surveys Monogr. Systems. 18. 1995. Ku W. (Eds. Casati G. Гуткин [3] Artuso R. 52. Asymptotics of numbers of branched coverings of a torus and volumes of moduli spaces of holomorphic differentials // Invent. Lett. 100. 4729–4732. vol. Convex billiards and a theorem by E. 158. Billiards and other hyperbolic systems // Dynamical systems. 1–29. 61–179.. vol. pp. E. 2003. vol. [22] Eskin A.. Schmoll M. [18] Cipra B. vol. [Чернов Н.. Guarneri I... Asymptotic formulas on flat surfaces // Ergodic Theory Dynam. Hausdorff dimension of the set of nonergodic directions // Ann. 214. [12] Burns K.. pp. 2003. 1936. Masur H. P. 83. [10] Boshernitzan M.. D. Chaotic billiards.. vol. [20] Eskin A. Phys. Hopf // Math. 145. ´ counting problems and the Siegel – Veech constants // Publ. [23] Finn R.]. 406 с. Decay of correlations in dispersing billiards // J.) (Encyclopaedia of Mathematical Sciences. pp.508 Е. vol.. J. pp. vol. [16] Chernov N. (неопубликованная рукопись). Rev. (2). 146. 147–150. A condition for minimal interval exchange maps to be uniquely ergodic // Duke Math. (Math. Stat. pp. Маркариан Р. 192–233. of Math. Sub-Riemannian geometry and periodic orbits in classical billiards // Math. vol. Heidelberg: Springer.ams. Mixing property of triangular billiards // Phys. НИЦ «РХД». 2006. Billiards in rectangles with barriers // Duke Math. Gutkin E. RI: AMS. Rev.. 118. G. B. Floating bodies subject to capillary attractions // J... vol.. 587–598. pp. 2011. RI: AMS. 2010. E.

pp. № 3. 191–213. Tabachnikov S. Billiard dynamics: A survey with the emphasis on open problems // Regul. A.. 104. Billiard flows on almost integrable polyhedral surfaces // Ergodic Theory Dynam. Fluid Mech. 208. pp. 4. Geom. С. Ser. vol. J. no. vol.. 83. [28] Gutkin E. 36. 1163–1183. Knill O. 3. with applications to polygonal billiards on surfaces of constant curvature // Mosc.. Math. 7–26. pp. 6. 578 pp. J.. 2006. 8. 40. vol. Anal. Convex and discrete geometry.. 277–301. Tabachnikov S. Billiards in polygons // Phys.. vol. M. vol.. pp. 1986. 2005.. [41] Gutkin E. Sci.) Berlin: Springer. 1997. [34] Gutkin E. Growth rates for geometric complexities and counting functions in polygonal billiards // Ergodic Theory Dynam. Phys. 19. 2003. 1–13. 3–4. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. 138. Judge C. Complexity of piecewise convex transformations in two dimensions. vol. 1996. Phys. 1996. Connecting geodesics and security of configurations in compact locally symmetric spaces // Geom.).. State Univ. [46] Gutkin E. Phys.. vol. arXiv:1012.. Rams M. 849–867. vol. Stat. vol...) River Edge. Phys. Funct. Capillary floating and the billiard ball problem. Gutkin E.. [48] Gutkin E. 8. Math. D. 173. Penn. [27] Gruber P. Haydn N. Monthly. Topological entropy of polygon exchange transformations and polygonal billiards // Ergodic Theory Dynam.. Billiards in polygons: Survey of recent results // J. Katok A. Smilansky U.. 16.. [43] Gutkin E. 311–333. 1. Math. vol.. Ecole Norm. vol. 13–23.. Nonlinear Dynam. vol. pp. 87. 1995. Dedicata. [35] Gutkin E.. Math. 1997. 560–584. pp. 1994) / E. vol. J. 937–941. [37] Gutkin E. Sup. [30] Gutkin E. vol. Blocking of billiard orbits and security for polygons and flat surfaces // Geom. [31] Gutkin E. pp. 2003. Wiss. 2006. The geometry and arithmetic of translation surfaces with applications to polygonal billiards // Math.. [49] Gutkin E.. vol. pp.. vol. pp. [39] Gutkin E. pp. 1996. Insecure configurations in lattice translation surfaces. [40] Gutkin E. Llibre (Eds. Affine diffeomorphisms of translation surfaces: Periodic ´ points. pp. NJ: World Sci. (Grundlehren Math. [32] Gutkin E.. Schmidt Th. 21–24. 2002. 2000. Dyn. 103. with applications to polygonal billiards // Discrete Contin. [29] Gutkin E. 2009. L. 15. pp. Chaotic Dyn. 1999. vol. 847– 866. 336. [42] Gutkin E. vol. Billiards in Finsler and Minkowski geometries // J. no. pp. Res. 7. 118. Three rods on a ring and the triangular billiard // J. Hubert P. pp. vol. Phys. 2011. Billiard tables of constant width and the dynamical characterizations of the circle // Workshop on dynamics and related topics: Proc. Billiards that share a triangular caustic // New trends for Hamiltonian systems and celestial mechanics (Cocoyoc. A. Lett. Stat. 199–213. 367–382. 1.2448. Judge C. and arithmeticity // Ann. 185–208. P. 618–623. Topological entropy and blocking cost for geodesics in Riemannian manifolds // Geom. Two applications of calculus to triangular billiards // Amer. Systems. 1997. 17. pp. 2006. 29. Affine mappings of translation surfaces: Geometry and arithmetic // Duke Math. vol. published on-line DOI 10. Hyperbolic billiards on surfaces of constant curvature // Comm.. Systems. Dedicata. Publ. nos. 489–512 . 65–90. 101–133.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 509 [26] Glashow S.. Math. 1984. 1993. [44] Gutkin E. [33] Gutkin E. pp.1007/s00021-011-0071-0.. Fuchsian groups. 673–701. vol.. [38] Gutkin E. pp. Schroeder V.. [36] Gutkin E. 391–403. pp. Systems. (4). A few remarks on periodic orbits for planar billiard tables. 2007. pp. Syst. preprint arXiv:math/0612039 (2006). 83–105. Mittag L. [47] Gutkin B. J. 2009.. [45] Gutkin E. T. (Adv. Caustics for inner and outer billiards // Comm. pp. Lacomba.

[51] Halbeisen L. Lower bounds for the number of saddle connection and closed trajectories of a quadratic differential // Holomorphic functions and moduli (Berkeley. 483–488. of the workshop: Vol.). vol. 1990. P. [59] Katok A. 489–512 . Press. Hautes ´ Etudes Sci. (Encyclopaedia of Mathematical Sciences. 108. 426 pp. Schwartz R. 2nd ed. 657–670. 2000. 111. Systems. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. 1991. М.. Polygonal billiards with small obstacles // J. The growth rate for the number of singular and periodic orbits for a polygonal billiard // Comm. 1222. (2).). P. [60] Katok A. H. T.. Res.. Texts in Math. 10. W. 17–24.) New York – Berlin: Springer.. C. Lyapunov exponents... (Math. Ledrappier F. 101. Sci. Oxford: Oxford Univ. F. 1986): Proc. pp. An introduction to the theory of numbers. [55] Hiemer P. CA. Publ. On periodic billiard trajectories in obtuse triangles // SIAM Rev. Hasselblatt B. pp.) New York: Springer. 1994. vol. 362. 1A / B. Szasz (Ed.: Факториал. 293–311. E.). Earle. of Math. 1980. A. 51. 1986.. 1995. [68] Masur H. pp. С.. pp. E. 215–228. Drasin. [63] Katok A. [66] Masur H. Billiards on rational-angled triangles // Comment. Введение в современную теорию динамических систем. [53] Hard ball systems and the Lorentz gas / D. Hasselblatt. vol. 1 / D. Stat. 2009. Burns). [58] Innami N. 458 pp.. vol. smooth maps with singularities. [69] Masur H. Invariant manifolds. 124.. [56] Hooper W. Phys. J. pp.. vol. 14. Smillie J..) Berlin: Springer. [Каток А.-M. entropy and billiards. 1015–1089. vol. A. pp. [52] Handbook of dynamical systems: Vol. Measure and category: A survey of the analogies between topological and measure spaces. Gehring. entropy and periodic orbits for diffeomorphisms // Inst. 767 с. invariant cone families and stochastic properties of smooth dynamical systems // Ergodic Theory Dynam... Amsterdam: NorthHolland. Math. 75. vol. Press. Infinitesimal Lyapunov functions. Phys. P 21–45. 1A / B. [70] Mather J. pp. 283 pp.]. Inst. (2). Smillie J. C. Przytycki F. Katok (Eds.. I. Б. Хассельблат Б. 1998.) Berlin: Springer. Hungerb¨ uhler N. P. Convex curves whose points are vertices of billiard triangles // Kodai Math. vol.. vol... pp.. Rational billiards and flat structures // Handbook of dynamical systems: Vol. № 3. [64] Kenyon R. 151–176. Tabachnikov S. 1980. 65–108. vol. Dynam. 397–403. [71] Oxtoby J. Systems. Cambridge: Cambridge Univ. pp. 90. Ser.). 1982. no. 1987. pp. 802 pp. pp. vol. on dynamical systems (Montevideo. Publ. Katok (Eds. 1988. Math. Lewowicz.. vol. vol. 1995) / F. Marden (Eds. 11. [67] Masur H. 1986... A. 151–160. 42. 5th ed. Ledrappier. of Math. Wright E. 134. 10.. 757–785 (with the collaboration of K. Systems. Masur H. 453–466. [54] Hardy G. 455–543. conf. [57] Hubacher A. Notes Math. pp. Math. Mod. Smillie J. 1999. vol. vol. Amsterdam: North-Holland. Introduction to the modern theory of dynamical systems. 1988. 159–231. Strelcyn J. 7. Helv. 2. (Grad.. The growth rate of trajectories of a quadratic differential // Ergodic Theory Dynam. Hausdorff dimension of sets of nonergodic measured foliations // Ann. Newhouse. 2000. [61] Katok A. 137–173. 1996. 106 pp. 2. Billiards in nearly isosceles triangles // J.. 3.510 Е. 2002. Directional flows and strong recurrence for polygonal billiards // Internat. Troubetzkoy S. (Lecture Notes in Math. Kra. vol. 1220 pp.. Hasselblatt. Sh. 2002. pp. (Pitman Res. Instability of the boundary in the billiard ball problem // Comm. Phys. 2000. J. [65] Kerckhoff S.) Harlow: Longman. 1984.. Ergodicity of billiard flows and quadratic differentials // Ann. 1987. Snurnikov V. vol. Glancing billiards // Ergodic Theory Dynam. [62] Katok A. M. Math. Гуткин [50] Gutkin E. J.

В. 521–548. 1988. The asymptotic distribution of eigenvalues of partial differential operators. 6) triangle // Experiment. de France.. [75] Rychlik M. (Transl. Two applications of Jacobi felds to the billiard ball problem // J. 1991.. 30. pp. [85] Szasz D. Syst. vol. Geod¨atische Linien auf Polyederfl¨achen // Rend. B. pp. Teichm¨ uller curves in modular space. pp. 124.. С. 2009. Systems. Phys. Principles for the design of billiards with nonvanishing Lyapunov exponents // Comm. On the K-property of some planar hyperbolic billiards // Comm. ergodic theory and applications / Ya. 155. Math. [97] Young L. Матем. Math.. 176 pp. Math. НЕЛИНЕЙНАЯ ДИНАМИКА 2011. P. vol. 155–164. [89] Veech W. [82] St¨ ackel P. Math. Dyn. vol. Measure theoretic entropy of the system of hard spheres // Ergodic Theory Dynam. Stojanov L. pp. 105. pp. 354 pp. Math. 553–583. Интегрируемые бильярды Биркгофа // Вестн. Phys.. 2008. J. Circ. ун-та.. pp. Anal.. On the number of periodic reflecting rays in generic domains // Ergodic Theory Dynam. vol. Sinai (Ed. S. 1986. 501–505. 217–227. E. [90] Veech W. Configuration spaces of planar mechanical linkages with one degree of freedom // Russ.) Providence. Сер. 137–171. 3. Systems. 34. 51. Механ. Math. vol. 1997. vol. pp. The dynamics of billiard flows in rational polygons // Dynamical systems. 81–91. pp. 1. [88] Tabachnikov S. [74] Puchta J. Diff Geom. pp. [76] Safarov Yu. [73] Poritsky H.. Моск. pp. Statistical properties of dynamical systems with some hyperbolicity // Ann. [96] Wojtkowski M. 5. 191–205. 3. vol. 22. Monogr. 585–650. vol. vol. 71.. 145. 341–379. Providence. Periodic points of the billiard ball map in a convex domain // J. no. vol. pp.. [79] Sim´ anyi N. 1989. Birkhoff billiards are insecure // Discrete Contin. 117–171. 7. Math. (2). Near the (2.. vol. [92] Weyl H. vol. 15. [94] Wojtkowski M. RI: AMS. vol.. 18. [80] Smillie J. vol. The billiard in a regular polygon // Geom. 530–541. 23. of Math. and an application to triangulat billiards // Invent. Anal. vol. pp.. Phys. T. vol. Math. 8. Math. pp. 1992. pp. [91] Veech W.Динамика биллиардa: обзорная статья с акцентом на нерешенные задачи 511 [72] Petkov V. 161–182. vol. 2. pp. Helv. vol. 108. 1995. Geometry and billiards. 446–470. vol. vol. Invariant families of cones and Lyapunov exponents // Ergodic Theory Dynam. vol. Paris: Soc. 8. [81] Sossinsky A. [86] Tabachnikov S. Obtuse triangular billiards: 2. (Encyclopaedia of Mathematical Sciences. 1912. с. Diff. 2005. [84] Stojanov L. no. Mat. RI: AMS. vol. Note on the periodic points of the billiard // J. 1906. vol. 142 pp. 2. 1998. 1035– 1040. Das asymptotische Verteilungsgesetz der Eigenwerte linearer partieller Differentialgleichungen (mit einer Anwendung auf die Theorie der Hohlraumstrahlung) // Math. 145–161. [93] Wojtkowski M. 1988. 1994. of Math. pp.. 391–414. 360–382. 2009. 40... 1990. 15. Diff. [83] Stojanov L. 147. 133–153. [87] Tabachnikov S. pp. Phys.).) Berlin: Springer. 1989. Math. [78] Schwartz R. Billiards. [95] Wojtkowski M.. Math. pp. 55. 33–36.. pp. 141–151. 2006. pp. [77] Schwartz R. т. Eisenstein series. 2001. 1992. Systems.. 2. Palermo. pp. 595–604. 1990. 2000. 76. E. 1950. 1992. 835–837. 1985.-Ch. One hundred degrees worth of periodic trajectories // Experiment. [98] Болотин С. pp. G. vol. Funct. 441–479. The billiard ball problem on a table with a convex boundary: An illustrative dynamical problem // Ann. The K-property of N billiard balls: 1 // Invent. 1989. Modular spaces of quadratic differentials // J. 97. An estimate from above on the number of periodic orbits for semi-dispersed billiards // Comm. Geom. On triangular billiards // Comment. Vassiliev D. 489–512 . 100. Geom. Obtuse triangular billiards: 1. Ann. (2). 2.. № 3. no. Math.

168 с.mccme. вып. [104] Воробец Я. заметки. 47. Sniadeckich 8. Б. Эргодичность бильярдов в многоугольниках // Матем. М. 8 (1). Каток А. № 3. т. № 3. А. 25–34. т. Трещев Д. 73–74. т. [105] Земляков А. К обоснованию эргодической гипотезы для одной динамической системы статистической механики // Докл.. Синай Я. Billiard dynamics: A survey with the emphasis on open problems on billiards. с. Гуткин 512 [99] Бунимович Л. 50–57. сб. Warszawa 10. Ф. hyperbolic dynamics. Степин А. № 3(273). security Citation: Rus. Чернов Н. Существование каустик для биллиардной задачи в выпуклой области // Изв.. 45. Эргодические свойства рассеивающих бильярдов // УМН. 8.. Birkhoff conjecture. Г. 1973. 25–35. М. Billiard dynamics: a survey with the emphasis on open problems Eugene Gutkin Department of Mathematics Nicolaus Copernicus University Chopina 12/18.Е. 46. С. 2011 MSC 2010: 37D50. 188. periodic orbits. т. c. Гальперин Г. О втором члене спектральной асимптотики для оператора Лапласа – Бельтрами на многообразиях с краем // Функц. Я. А. (The 2003 English original: Eugene Gutkin. 141–192. А. Chaotic Dyn. 186–216. T. т. с. 3. Б. т. Чернов Н. анализ и его прил.) Received August 23. т.. Poland. 153. pp. c. 1991. 489–512 (Russian) НЕЛИНЕЙНАЯ ДИНАМИКА 2011. Dyn. [101] Бунимович Л. vol. АН СССР. 97–134. [103] Воробец Я. анализ и его прил. phase locking. 25. parabolic dynamics.. c.ru/ium/stcht. IM PAN. [111] Синай Я. Топологическая энтропия и периодические точки двумерных гиперболических биллиардов // Функц. With a supplement written by the author for a Russian translation.. № 2. т. [112] Чернов Н. Биллиарды: Генетическое введение в динамику систем с ударами. J. № 3. 1261–1264. [107] Каток А. billiard map. В. Биллиардный стол как игровая площадка для математика // МЦНМО. 1975. № 2(152). Марковские разбиения для двумерных гиперболических биллиардов // УМН. 37. № 3(285). Об эргодических свойствах некоторых бильярдов // Функц. т. А. Г. Б. 1. c. 1991. № 4(280). Nonlin. Б. 18. 55. Динамические системы с упругими отражениями. № 5. Матем. с. 43–92.. Г.: МГУ. 2002 (в печати). [106] Иврий В. 1970. Статистические свойства двумерных гиперболических биллиардов // УМН. elliptic dynamics. 2011. [110] Синай Я. 489–512 . 1997. 1994. 65–112. 291–300. 25.. № 2. заметки. т. Сер. 1992. 1974. Синай Я. Poland gutkin@mat. 1980. Г.. анализ и его прил.html [108] Козлов В. 1–13. 7.. АН СССР. О мере множества периодических точек бильярда // Матем. с. И. 7..pl The survey of the subject. с. 1963. 2003. pp. Топологическая транзитивность биллиардов в многоугольниках // Матем. 37J50 Keywords: billiard flow. no. В. 1991. Н. 9–74. 1990. Периодические бильярдные траектории в многоугольниках: Механизмы рождения // УМН. № 1. c. emphasizing the open problems.umk. Regul.... т. http://www. с. Б. И. с.. И. 14. т. 87-100 Torun. [102] Воробец Я. [100] Бунимович Л. [109] Лазуткин В.

Sign up to vote on this title
UsefulNot useful