Автоэнкодер

Коротко

Definition

Автоэнкодер — это нейросетевая архитектура, которая учится сжимать входные данные в скрытое представление, а затем восстанавливать исходный объект из этого представления.

Автоэнкодер состоит из двух основных частей:

• encoder — сжимает вход $x$ в латентный вектор $z$;
• decoder — восстанавливает объект $\hat{x}$ из латентного вектора $z$.

Схематично:

$$x\to z\to \hat{x}$$

где:

• $x$ — исходный объект;
• $z$ — скрытое, или латентное, представление;
• $\hat{x}$ — восстановленный объект.

Главная идея: если модель научилась хорошо восстанавливать объект через узкое скрытое представление, значит она выучила важные признаки данных.

Интуиция

Автоэнкодер можно представить как систему сжатия.

Encoder пытается сохранить в $z$ только самую важную информацию об объекте. Decoder пытается по этому сжатому описанию восстановить исходный объект.

Если скрытое пространство слишком маленькое или ограниченное, модель вынуждена учиться выделять существенные признаки, а не просто копировать вход.

Например:

• для изображений latent vector может хранить форму, цвет, стиль и положение объектов;
• для табличных данных — основные факторы вариации;
• для сигналов — сжатое описание паттерна;
• для молекул — признаки структуры, если модель построена под такие данные.

Формальное описание

Классический автоэнкодер можно записать как композицию двух функций.

Encoder:

$$z=e_{\theta }(x)$$

Decoder:

$$\hat{x}=d_{\varphi }(z)$$

Итоговое восстановление:

$$\hat{x}=d_{\varphi }(e_{\theta }(x))$$

где:

• $e_{\theta }$ — encoder с параметрами $\theta$;
• $d_{\varphi }$ — decoder с параметрами $\varphi$;
• $z$ — латентное представление;
• $\hat{x}$ — реконструкция входа.

Автоэнкодер обычно относят к representation learning и unsupervised или self-supervised learning: модель учится по самим входным данным, используя $x$ как целевой ответ для восстановления.

Входы и выходы

Вход зависит от типа данных:

• Изображения — tensor пикселей;
• Табличные данные — вектор признаков;
• Последовательности — токены, сигналы или временные ряды;
• Графовые данные — графовые структуры, если используется графовый автоэнкодер.

Выход классического автоэнкодера имеет тот же тип и форму, что и вход:

$$x\approx \hat{x}$$

Например:

• вход — изображение 64 × 64 × 3;
• выход — восстановленное изображение 64 × 64 × 3.

Латентный вектор $z$ обычно имеет меньшую размерность или более ограниченную структуру, чем исходный объект.

Устройство

Три основных компонента автоэнкодера:

1. Encoder.
2. Latent space.
3. Decoder.

Encoder

Encoder преобразует входные данные $x$ в скрытое представление $z$:

$$z=e_{\theta }(x)$$

Задача encoder — извлечь компактное представление объекта.

Для изображений encoder может быть CNN. Для последовательностей — LSTM, Трансформер или другая sequence-модель. Для табличных данных — полносвязная сеть.

Latent space

Latent space — это пространство скрытых представлений.

Вектор $z$ должен содержать информацию, достаточную для восстановления объекта, но желательно без лишнего шума.

Если latent space хорошо организован, похожие объекты получают похожие представления.

Decoder

Decoder восстанавливает объект из латентного вектора:

$$\hat{x}=d_{\varphi }(z)$$

Задача decoder — по сжатому описанию построить объект, похожий на исходный.

В простом автоэнкодере decoder учится реконструировать вход. В генеративных вариантах decoder также может использоваться для создания новых объектов.

Как обучается

Классический автоэнкодер обучается минимизировать ошибку восстановления между входом и выходом.

Общий вид:

$$L(x,\hat{x})=L(x,d_{\varphi }(e_{\theta }(x)))$$

Для числовых данных часто используют MSE:

$$L=\Vert x-\hat{x}{\Vert }_2^2$$

или:

$$L=\Vert x-d_{\varphi }(e_{\theta }(x)){\Vert }_2^2$$

Для бинарных данных или нормализованных изображений могут использовать binary cross-entropy или другие reconstruction losses.

Обучение происходит через Обратное распространение ошибки и Обновление параметров.

Функция потерь

Для обычного автоэнкодера основная функция потерь — reconstruction loss.

Она измеряет, насколько хорошо модель восстановила вход.

Примеры:

Тип данных	Частая функция потерь
Непрерывные признаки	MSE
Бинарные признаки	Binary cross-entropy
Изображения	MSE, MAE, perceptual loss
Последовательности	Cross-entropy по токенам

Важно: низкая ошибка восстановления не всегда означает хорошее latent space. Модель может научиться копировать вход, особенно если latent dimension слишком большая.

Зачем нужен

Автоэнкодеры используют для разных задач:

• сжатие данных;
• извлечение признаков;
• representation learning;
• denoising;
• anomaly detection;
• предобучение;
• генерация данных в специальных вариантах;
• визуализация скрытых структур;
• поиск похожих объектов в latent space.

Например, если автоэнкодер обучен восстанавливать нормальные объекты, то аномальные объекты могут восстанавливаться плохо. Тогда reconstruction error можно использовать как сигнал аномалии.

Проблема генерации в обычном автоэнкодере

Warning

У классического автоэнкодера скрытое пространство специально не регуляризуется. Поэтому decoder нельзя надёжно использовать для генерации новых валидных объектов из случайных latent vectors.

Проблема в том, что encoder может разложить объекты в latent space как угодно:

• кластеры могут быть далеко друг от друга;
• между кластерами могут быть пустые области;
• случайная точка $z$ может не соответствовать ни одному осмысленному объекту;
• интерполяция между объектами может давать бессмысленные результаты.

Обычный автоэнкодер хорошо восстанавливает объекты, которые прошли через encoder. Но если взять случайный latent vector и подать в decoder, результат может быть невалидным.

Именно поэтому для генерации используют специальные варианты, например VAE или VQ-VAE.

Вариационный автоэнкодер

Вариационный автоэнкодер, или VAE, — это генеративная модификация автоэнкодера.

Definition

VAE — это автоэнкодер, который кодирует объект не в одну точку latent space, а в параметры вероятностного распределения, из которого затем сэмплируется latent vector.

В обычном автоэнкодере:

$$x\to z$$

В VAE:

$$x\to \mu ,\log {\sigma }^2\to z$$

Главная идея VAE: сделать latent space непрерывным, регуляризованным и пригодным для генерации.

Устройство VAE

VAE состоит из тех же крупных частей, что и автоэнкодер, но encoder работает иначе.

Encoder

Encoder преобразует вход $x$ не в один latent vector, а в параметры распределения:

$$\mu (x),\log {\sigma }^2(x)$$

Обычно предполагается нормальное распределение:

$$q_{\varphi }(z\mid x)=\mathcal{N}(\mu (x),{\sigma }^2(x))$$

То есть encoder говорит не «этот объект находится строго в точке $z$», а «этот объект соответствует облаку вероятных точек в latent space».

Пример из старой заметки:

• входной объект — RGB-вектор фиолетового цвета $[0.8,0.2,0.9]$;
• latent space — двумерный;
• encoder выдаёт $\mu =[2.5,-1.0]$;
• encoder выдаёт $\log {\sigma }^2=[0.3,0.8]$.

Это можно понимать так: модель считает, что фиолетовый цвет находится где-то в правой нижней части latent map, но есть неопределённость.

Reparameterization trick

Чтобы обучать VAE через backpropagation, нужно сэмплировать $z$ так, чтобы случайность не ломала вычислительный граф.

Для этого используют reparameterization trick:

$$z=\mu +\sigma \odot ϵ$$

где:

• $ϵ\sim \mathcal{N}(0,I)$ — случайный шум;
• $\mu$ и $\sigma$ — параметры, предсказанные encoder;
• $\odot$ — поэлементное умножение.

Important

Случайность выносится в $ϵ$, а $\mu$ и $\sigma$ остаются дифференцируемыми. Поэтому через них можно передавать градиент.

Пример:

• $\mu =[2.5,-1.0]$;
• $\sigma =[0.3,0.8]$;
• $ϵ=[0.5,-0.2]$.

Тогда:

$$z_1=2.5+0.3\cdot 0.5=2.65$$ $$z_2=-1.0+0.8\cdot (-0.2)=-1.16$$

Получаем:

$$z=[2.65,-1.16]$$

Decoder

Decoder получает сэмплированный latent vector $z$ и восстанавливает объект:

$$\hat{x}=d_{\theta }(z)$$

Например, если decoder получил $z=[2.65,-1.16]$, он может попытаться восстановить RGB-вектор фиолетового цвета:

$$\hat{x}=[0.75,0.3,0.85]$$

Функция потерь VAE

VAE обучается через ELBO — evidence lower bound. На практике часто минимизируют отрицание ELBO.

Типичный loss VAE состоит из двух частей:

$${\mathcal{L}}_{\theta ,\varphi }(x)=-{\mathbb{E}}_{q_{\varphi }(z\mid x)}[\log p_{\theta }(x\mid z)]+D_{KL}(q_{\varphi }(z\mid x)\Vert p(z))$$

Первая часть — reconstruction loss. Она заставляет decoder хорошо восстанавливать объект.

Вторая часть — KL-divergence. Она заставляет распределение $q_{\varphi }(z\mid x)$ быть близким к prior, обычно:

$$p(z)=\mathcal{N}(0,I)$$

Интуитивно в VAE происходит «перетягивание каната»:

1. Reconstruction loss говорит: раздвинь разные объекты подальше, чтобы decoder не путался.
2. KL-divergence говорит: держи latent distributions ближе к нормальному prior и не создавай пустые разрывы.

Компромисс приводит к более гладкому latent space, где случайные точки чаще декодируются в осмысленные объекты.

KL-дивергенция в VAE

KL-дивергенция измеряет отличие предсказанного распределения latent vector от эталонного нормального распределения.

Для нормального prior $\mathcal{N}(0,I)$ KL-часть штрафует:

• слишком далёкие от нуля центры $\mu$;
• слишком маленькие или слишком большие дисперсии;
• слишком нерегулярное latent space.

Для одного измерения часто используется выражение вида:

$$\frac{1}{2}({\sigma }^2+{\mu }^2-1-\log {\sigma }^2)$$

Пример из старой заметки:

• исходный $x=[0.8,0.2,0.9]$;
• восстановление $\hat{x}=[0.75,0.3,0.85]$;
• reconstruction loss маленький: примерно $0.015$;
• но $\mu =[2.5,-1.0]$ далеко от нуля;
• KL штрафует модель за то, что latent cloud ушёл далеко от prior.

Итог: модель может немного пожертвовать точностью восстановления, чтобы latent space стал более регулярным и пригодным для генерации.

Интерактивный пример для интуиции latent space: https://tayden.github.io/VAE-Latent-Space-Explorer/

Условный VAE

CVAE, или conditional variational autoencoder, — это управляемая версия VAE.

Definition

CVAE — это VAE, в котором генерация дополнительно зависит от условия $y$: класса, свойства или другого контролируемого признака.

В обычном VAE мы сэмплируем случайную точку из latent space и заранее не знаем, что получится.

В CVAE decoder получает не только latent vector $z$, но и условие $y$:

$$\hat{x}=d_{\theta }(z,y)$$

Encoder тоже может получать условие:

$$q_{\varphi }(z\mid x,y)$$

Условием может быть:

• класс изображения;
• желаемое свойство объекта;
• метка стиля;
• химическое свойство;
• категория текста.

Пример: при генерации молекул можно задать условие «низкая токсичность» или «высокая растворимость». Шум $z$ отвечает за разнообразие, а условие $y$ направляет генерацию.

VQ-VAE

VQ-VAE, или Vector Quantized VAE, заменяет непрерывное latent space на дискретный словарь кодов.

Definition

VQ-VAE — это вариант автоэнкодера, в котором encoder выдаёт вектор, затем он заменяется ближайшим вектором из обучаемого codebook, а decoder восстанавливает объект по этому дискретному коду.

Главная идея:

$$x\to z_e(x)\to z_q(x)\to \hat{x}$$

где:

• $z_e(x)$ — выход encoder;
• $z_q(x)$ — ближайший codebook vector;
• codebook — набор обучаемых дискретных embedding-векторов.

VQ-VAE решает часть проблем обычных VAE:

• уменьшает размытость реконструкций;
• делает latent representation дискретным;
• позволяет кодировать данные как последовательность дискретных токенов;
• хорошо подходит для данных с дискретной структурой.

VQ-VAE полезен для:

• изображений;
• аудио;
• речи;
• дискретных последовательностей;
• токенизации сложных объектов для последующей обработки трансформерами.

В старой заметке это было сформулировано так: VQ-VAE превращает сложные данные в последовательность кодов, которую затем можно эффективно обрабатывать трансформерами.

Гиперпараметры

Основные гиперпараметры автоэнкодеров:

• размер latent space;
• архитектура encoder;
• архитектура decoder;
• reconstruction loss;
• learning rate;
• batch size;
• число эпох;
• регуляризация;
• уровень шума для denoising autoencoder;
• вес KL-члена для VAE;
• размер codebook для VQ-VAE;
• размер embedding-векторов в VQ-VAE.

Для VAE часто вводят коэффициент при KL-члене:

$$\mathcal{L}=L_{\text{recon}}+\beta D_{KL}$$

Такой вариант называют $\beta$-VAE.

Большая $\beta$ сильнее регуляризует latent space, но может ухудшить качество реконструкции.

Когда использовать

Автоэнкодер стоит использовать, если:

• нужно выучить скрытое представление данных;
• нужно сжать данные;
• нужно очистить данные от шума;
• нужно искать аномалии по reconstruction error;
• нужно предобучить representation;
• нужно получить generative model через VAE/VQ-VAE;
• нужно изучить latent space.

Классический автоэнкодер хорошо подходит для representation learning и reconstruction. VAE лучше подходит для генерации новых объектов. VQ-VAE полезен, когда нужно дискретное latent representation.

Когда не использовать

Автоэнкодер может быть плохим выбором, если:

• нужна простая интерпретируемая модель;
• данных мало, а модель большая;
• reconstruction objective не связан с целевой задачей;
• нужен гарантированно хороший генератор, но используется обычный AE;
• latent space не анализируется и не используется;
• задача лучше решается supervised-моделью.

Важно: хорошая reconstruction loss не всегда означает полезное представление для downstream-задачи.

Метрики оценки

Метрики зависят от цели.

Для reconstruction:

• MSE;
• MAE;
• binary cross-entropy;
• perceptual similarity для изображений.

Для anomaly detection:

• ROC-AUC;
• precision/recall;
• threshold по reconstruction error.

Для генерации:

• качество сэмплов;
• diversity;
• FID для изображений;
• domain-specific metrics.

Для representation learning:

• качество downstream-модели;
• кластеризация в latent space;
• визуализация через PCA, t-SNE или UMAP.

Типичные ошибки понимания

Думать, что любой автоэнкодер является хорошей генеративной моделью

Классический автоэнкодер не обязан иметь гладкое latent space. Случайные точки в latent space могут декодироваться в мусор.

Для генерации обычно используют VAE, VQ-VAE, GAN, диффузионные модели или другие специальные подходы.

Слишком большой latent space

Если latent space слишком большой, модель может просто научиться копировать вход, не выделяя полезные признаки.

Оценивать только reconstruction loss

Низкая ошибка восстановления не гарантирует, что latent representation полезен для классификации, кластеризации или генерации.

Путать VAE и обычный AE

Обычный AE кодирует объект в точку. VAE кодирует объект в распределение и добавляет KL-регуляризацию.

Забывать про reparameterization trick

Без reparameterization trick сэмплирование из распределения мешало бы обучению через backpropagation.

Считать, что KL-divergence просто ухудшает reconstruction

KL действительно может ухудшить точность восстановления, но он нужен, чтобы latent space был регулярным и пригодным для генерации.

Минимальный пример

Допустим, есть простой RGB-вектор:

$$x=[0.8,0.2,0.9]$$

Обычный автоэнкодер:

1. Encoder сжимает его в latent vector:

$$z=e_{\theta }(x)$$

2. Decoder восстанавливает:

$$\hat{x}=d_{\varphi }(z)$$

3. Reconstruction loss сравнивает:

$$x=[0.8,0.2,0.9]$$

и

$$\hat{x}=[0.75,0.3,0.85]$$

Если использовать MSE, ошибка по каналам:

Канал	Исходное значение	Восстановление	Квадрат ошибки
R	0.8	0.75	0.0025
G	0.2	0.30	0.0100
B	0.9	0.85	0.0025

Суммарная ошибка:

$$0.0025+0.0100+0.0025=0.015$$

VAE добавил бы к такой ошибке ещё KL-штраф за устройство latent distribution.

Практические замечания

Хороший workflow:

1. Определить цель: reconstruction, anomaly detection, generation или representation learning.
2. Выбрать архитектуру encoder и decoder под тип данных.
3. Выбрать размер latent space.
4. Обучить простой автоэнкодер как baseline.
5. Проверить reconstruction examples, а не только loss.
6. Если нужна генерация, использовать VAE/VQ-VAE, а не обычный AE.
7. Анализировать latent space.
8. Проверить downstream-качество, если representation используется дальше.
9. Следить за переобучением.
10. Сравнить с альтернативами: PCA, supervised-модель, GAN, Диффузионная модель.

Для изображений важно смотреть восстановленные примеры визуально. Для табличных данных важно проверять, какие признаки восстанавливаются плохо.

Связанные понятия

• Полносвязный слой
• Свёрточный слой
• Рекуррентный слой
• Задачи кластеризации
• Сопоставление потоков
• Перенос обучения
• Регуляризация