Вход в IT с нуля
Как стать Data Engineer с нуля: план обучения по шагам
Содержание
Чтобы стать Data Engineer с нуля, начните с «Python» и «SQL и базы данных» и идите по плану из 4 этапов, от основ до подготовки к собеседованию. Теория и вопросы по этому плану занимают примерно 27 часов, а больше всего времени уйдёт на практику и свои проекты: обычно путь до первых собесов занимает несколько месяцев регулярных занятий. Порог входа высокий: нужен крепкий SQL, Python и понимание распределённых систем.
Кто такой Data Engineer
Data Engineer строит конвейеры данных: забирает из источников, чистит, складывает в хранилище для аналитиков и моделей. Нужны сильный SQL, Python, Airflow, Spark и понимание хранилищ. Часто приходят из аналитики или бэкенда, с нуля путь длиннее.
| Вопрос | Ответ |
|---|---|
| Что делает | Строит пайплайны и хранилища, по которым текут данные компании |
| Язык и инструменты | SQL, Python, Airflow, Spark, Kafka, ClickHouse |
| Порог входа | Высокий. Нужен крепкий SQL, Python и понимание распределённых систем |
| Кому подойдёт | Тем, кто любит порядок в данных и инженерные задачи |
Перспектива через 5 лет
Что будет с профессией к 2031
РастётДанные это топливо ИИ: без пайплайнов и хранилищ ни одна модель не работает.
Пайплайны, качество данных, стриминг, подготовка данных для RAG и обучения.
Как стать Data Engineer: план по этапам
Порядок тем построен по карте навыков: сначала то, на что опираются следующие темы. Название темы ведёт на бесплатный урок.
Этап 1. Основа профессии
Главный язык или дисциплина профессии. На этом держится всё остальное, торопиться не стоит.
- Типы, изменяемость и сравнение7 мин
- Коллекции8 мин
- Функции и области видимости7 мин
- Итераторы и генераторы7 мин
- Декораторы7 мин
- ООП и dataclasses8 мин
- Исключения и контекстные менеджеры7 мин
- Модули, пакеты и окружения6 мин
- GIL, потоки и процессы8 мин
- asyncio8 мин
- Типизация7 мин
- Память и производительность7 мин
- Стандартная библиотека8 мин
- Тестирование и pytest7 мин
- SELECT и фильтрация6 мин
- JOIN6 мин
- GROUP BY и агрегаты5 мин
- Подзапросы и CTE6 мин
- Оконные функции7 мин
- Индексы7 мин
- Транзакции и изоляция8 мин
- Проектирование и нормализация6 мин
- EXPLAIN и оптимизация8 мин
- NoSQL и выбор хранилища6 мин
Этап 2. Следующий слой
Следующий слой поверх основы: фреймворки и темы, которые опираются на предыдущий этап.
- Хранилища: OLTP, OLAP, DWH, lakehouse6 мин
- Моделирование: Кимбалл, звезда, SCD7 мин
- SQL дата-инженера7 мин
- ETL, ELT и Airflow7 мин
- Батч и стриминг6 мин
- Kafka7 мин
- Spark7 мин
- Parquet и партиционирование7 мин
- ClickHouse и колоночные СУБД7 мин
- Качество данных и контракты6 мин
- dbt7 мин
- CDC и инкрементальная загрузка7 мин
Этап 3. Окружение и инструменты
То, что нужно в любой команде: сети, базы, командная строка, Git. Можно идти параллельно с основой.
- Образы и слои7 мин
- Dockerfile и multi-stage8 мин
- Сети и тома7 мин
- Docker Compose7 мин
- Безопасность контейнеров7 мин
- Архитектура Kubernetes8 мин
- Pod и Deployment8 мин
- Service и Ingress8 мин
- ConfigMap и Secret7 мин
- Probes и ресурсы8 мин
- HPA, StatefulSet и тома8 мин
- RBAC и Helm8 мин
- Отладка в кластере8 мин
- Файловая система и права7 мин
- Процессы и сигналы7 мин
- Потоки и пайпы6 мин
- grep, sed, awk, find, xargs8 мин
- Bash-скрипты8 мин
- systemd и журналы7 мин
- Сеть в Linux8 мин
- Диски, ФС и LVM7 мин
- Производительность8 мин
- Память и OOM7 мин
- SSH и безопасность7 мин
- Пакеты и загрузка7 мин
Этап 4. Подготовка к собеседованию
Рассказ о себе, истории по STAR, английский. Начинайте за 2-3 недели до первых откликов.
- Рассказ о себе7 мин
- Рассказ о проектах6 мин
- Истории по STAR7 мин
- Команда и конфликты6 мин
- Мотивация и уход5 мин
- Как звучать на свой грейд6 мин
- Вопросы компании5 мин
- Зарплата и оффер7 мин
- HR-скрининг5 мин
- Резюме и отклики6 мин
- Tell me about yourself7 мин
- Проекты и твоя роль7 мин
- Объяснение технических решений7 мин
- Думать вслух над задачей7 мин
- Behavioral по STAR8 мин
- Вопросы компании6 мин
- Зарплата и оффер7 мин
- Small talk и созвоны6 мин
- IT-лексика: разработка7 мин
- IT-лексика: QA, DevOps, данные, менеджмент8 мин
- Времена в рассказе об опыте8 мин
- Артикли и предлоги7 мин
- Произношение IT-слов6 мин
- Письма рекрутеру и follow-up7 мин
Этап 5. На вырост: после первой работы
Для первого оффера junior не обязательно. Понадобится на middle, но знакомство с темой плюс на собесе.
- Как вести секцию7 мин
- Масштабирование7 мин
- Кеширование7 мин
- Выбор хранилища8 мин
- Очереди и события8 мин
- Консистентность и CAP8 мин
- Надёжность и наблюдаемость7 мин
- Разборы систем8 мин
Сколько времени займёт
| Этап | Уроки | Вопросы junior | Теория и вопросы |
|---|---|---|---|
| Этап 1. Основа профессии | 2,8 ч | 217 | 8 часов |
| Этап 2. Следующий слой | 1,4 ч | 79 | 3 часа |
| Этап 3. Окружение и инструменты | 3,1 ч | 180 | 8 часов |
| Этап 4. Подготовка к собеседованию | 2,6 ч | 203 | 8 часов |
| Этап 5. На вырост: после первой работы | 1 ч | 26 | 2 часа |
Проекты для портфолио
2-3 своих проекта с README и живой ссылкой дают больше, чем десяток учебных. Идеи, с которых можно начать:
- ETL-пайплайн на Airflow из открытого API в PostgreSQL или ClickHouse
- Обработка большого датасета на Spark с партиционированием
- Поток событий через Kafka с проверками качества данных
Что спросят на первом собеседовании
Частые вопросы junior по этой роли. Полный список тем и вопросов на странице «Что должен знать junior Data Engineer».
- Изменяемые и неизменяемые типы PythonPython
- Как работает NULL в SQLSQL и базы данных
- OLTP, OLAP и колоночное хранениеData Engineering
- Что такое контейнерDocker и Kubernetes
- Жёсткие и символьные ссылкиLinux
- Вертикальное и горизонтальное масштабированиеSystem design
- Расскажите о себеО себе и поведенческое
- Начало созвона и small talkАнглийский на собеседовании
- Первым почти всегда идёт HR-интервью: мотивация, почему IT, ожидания.
- Подготовьте рассказ о себе без коммерческого опыта: учёба, проекты, почему эта профессия.
- Junior часто дают тестовое задание, его потом разбирают на созвоне.
- Как устроен весь процесс найма, смотрите в гайде «Как проходит собеседование».
Как найти первую работу
- SQL на сильном уровне: оконные функции, планы запросов
- Объясняйте разницу батча и стриминга, OLTP и OLAP
- Покажите пайплайн, который можно запустить через docker-compose
Частые ошибки новичков
- Не проверять качество данных в пайплайне
- Не понимать модели хранилищ и партиционирование
- Учить инструменты, не понимая задачу бизнеса
Частые вопросы
Сколько учиться, чтобы стать Data Engineer?
С чего начать?
Какой порог входа?
Что спросят на первом собеседовании?
Начните путь в профессию сегодня
Все уроки бесплатно, план по шагам и вопросы на закрепление. Когда дойдёте до собесов, там же мок и трекер откликов.
Куда дальше
Что должен знать junior Data Engineer
Темы и 15 частых вопросов
Тест: Data Engineer
Проверить, что уже знаете
Как проходит собеседование
Этапы от HR до оффера
Все профессии с нуля
Сравнить 30 направлений
Как стать AI-инженером
Встраивает LLM в продукт: RAG, агенты, вызов инструментов, оценка качества
Как стать ML/LLM-инженером
Выводит модели и LLM-сервисы в прод: RAG, агенты, инференс
Как стать AI-продакт-менеджером
Ведёт продукт или фичу на нейросетях: от гипотезы до метрик качества
Как стать Data Scientist
Строит модели машинного обучения для прогнозов и рекомендаций