Чем занимаются инженеры данных

Инженеры данных, или Data Engineers, создают и обслуживают инфраструктуру для работы с данными

А именно:
• Разрабатывают витрины и хранилища
• Собирают и очищают данные
• Структурируют и готовят данные к анализу

Всему этому и не только вы научитесь на нашем курсе, даже если никогда раньше не работали с данными.

Главное о профессии

Насколько востребованы инженеры данных

Сейчас на HeadHunter больше 1 500 вакансий, и с каждым годом спрос на этих специалистов всё выше

Какие инструменты и технологии нужно знать

Всё это вы освоите на нашем курсе — даже если у вас нет технического образования и опыта в IT

Python
SQL
Airflow
PostgreSQL
Docker
Redis
Yandex Cloud
Kafka
Hadoop
Apache Spark
Spark Streaming
NoSQL

Средняя зарплата

После курса вы сможете занять позицию junior инженера данных и расти дальше

Источник: Хабр Карьера
70 000 ₽
Junior
150 000 ₽
Middle
300 000+ ₽
Senior

Для специалистов с опытом есть отдельный курс

Если вы уже знакомы с Data Science и аналитикой, присмотритесь к курсу «Инженер данных». Там не будет основ SQL и Python — сразу перейдёте к более сложным инструментам и технологиям.

Посмотреть курс «Инженер данных»

Чему вы научитесь

Работать с данными с помощью Python и SQL
Python — это популярный язык программирования, а SQL — язык запросов, с их помощью можно обрабатывать данные
Создавать витрины и хранилища данных
Это инфраструктура, которую разрабатывают инженеры для сбора, хранения и структурирования данных
Проектировать пайплайны
Это документы, которые визуализируют процесс разработки инфраструктуры
Использовать разные инструменты
И благодаря этому выполнять разные задачи — например, работать с большими или потоковыми данными

Как проходит обучение

YandexGPT помогает учиться

Когда в теории что-то непонятно, нейросеть объяснит это другими словами. А в конце каждого урока подготовит краткий пересказ о самом главном.

Программа курса

Рассчитана на 12 месяцев, учёбе нужно уделять ~12 часов в неделю
1
3 темы・2 недели
Работа в корпоративной среде
  • Техническое задание
  • Планирование
Трекинг задач
Знакомство с командой и коммуникации
Постановка задачи
Бизнес-ценность, что такое техническое задание, итеративная разработка, как понять, что задача выполнена
Жизненный цикл задачи
Процесс разработки: от бэклога до релиза
Улучшите навык работы в команде и разберётесь, как устроен процесс разработки
2
1 тема・2 недели
Основы Python
  • Python
  • Переменные
  • Циклы и ветвления
  • Функции
  • Словари и множества
Программирование на Python
Переменные и типы, циклы и ветвления, функции, словари и множества, строки и форматирование, библиотеки, протокол HTTP, сетевые запросы
Напишете первый код на Python
3
3 темы・1 проект・6 недель
Углублённый Python
  • Python
  • ООП
Синтаксис Python
Числовые типы, булева алгебра, условные операторы, последовательности, Python «под капотом», множества, словари, типы данных, создание функций
Готовим инструменты разработки
Настройка окружения: Python, IDE, venv, Git, pytest, требования к коду, правила оформления кода, аннотации типов
Объектно-ориентированное программирование
Основы объектно-ориентированного программирования (ООП) в Python
Создадите программу для обработки данных и проведёте рефакторинг кода с применением ООП
4
3 темы・6 недель
Алгоритмы и структуры данных
  • Алгоритмы
Основы алгоритмов
Понятие алгоритма, линейный и бинарный поиск, время исполнения, ввод-вывод
Представление данных в памяти
Оперативная память и представление данных, пространственная сложность алгоритма, массивы постоянного размера, сложность вставки и удаления в динамических массивах, реаллокация в динамических массивах, связные списки, структура данных: стек, очередь и дек
Рекурсия и сортировки
Задачи на рекурсию, рекурсивный и базовый случаи, реализация бинарного поиска с помощью рекурсии, рекурсивный перебор вариантов, алгоритмы сортировки и их выбор, сортировка вставками, сортировка по ключу, сравнение элементов
Познакомитесь с алгоритмами и структурами данных, которые необходимы в инженерии
5
6 тем・1 проект・4 недели
Основы SQL и баз данных
  • SQL
  • PostgreSQL
Устройство PostgreSQL
PostgreSQL, работа с интерактивным терминалом psql
Основы SQL и DDL
Команды CREATE, DROP, ALTER, создание таблиц и работа с ограничениями
Основы SQL и DML
Команда INSERT, выборка и фильтрация данных из таблиц, оператор CASE
Нормализация и взаимоотношение
Нормализация таблиц, взаимоотношения между таблицами
Объединение таблиц
Соединение таблиц, типы JOIN, сочетание запросов
Функции
Математические, агрегирующие, группировка данных
Отработаете навыки на датасете в тренажёре платформы
6
5 тем・1 проект・4 недели
Продвинутый SQL для работы с данными
  • SQL
  • Оконные функции
  • Представления
  • PostGIS
  • Транзакции и блокировки
Подзапросы и общие табличные выражения
Подзапросы, общие табличные выражения (СТЕ), основы рекурсии
Оконные функции
Как они устроены
Представления
Введение в представления, операции с ними, материализованные представления
Продвинутые типы данных
Как с ними работать, тип данных UUID, массивы
Транзакции и блокировки
Транзакции, ACID-требования к транзакциям, запросы с транзакциями, изоляции транзакций, уровни и синтаксис, зачем нужны блокировки, виды блокировок
Снова поработаете в SQL-тренажёре на платформе, чтобы закрепить навыки
1 неделя
Каникулы
7
5 тем・1 проект・2 недели
Как построить аналитическое хранилище данных
  • Python
  • PostgreSQL
  • DBeaver
  • DWH
  • SCD
PostgreSQL и DBeaver
Виды данных по степени строгости организации, различия и назначение баз данных SQL и NoSQL, характеристики PostgreSQL, интерфейс и возможности DBeaver
Нормальные формы
Понятие нормализации, нормальные формы
Знакомство с DWH
Минусы нормализации, хранилище данных, OLTP и OLAP, денормализованные модели
Погружение в DWH
Сбор требований, подходы Инмона и Кимбалла, современные модели DWH, выбор подхода для DWH, создание процессов миграции данных
SCD и его типы
Понятие и типы
Построите витрину с инкрементальной загрузкой для аналитики аудитории интернет-магазина
8
2 темы・1 проект・3 недели
Работа с данными в хранилище
  • PostgreSQL
  • VIEW
  • Витрина данных
Витрина данных и VIEW
Понятие витрины данных, транзакции, инкрементальная загрузка данных, понятие VIEW, визуализация данных
Оптимизация запросов
План запроса, как исследовать запрос, типы индексов и способы их создания
Приведёте в порядок модель данных и осуществите миграцию в текущем хранилище
9
4 темы・1 проект・3 недели
ETL: автоматизация подготовки данных
  • Python
  • PostgreSQL
  • Airflow
Анализ вводных по задаче
ETL-процесс и его пайплайн, требования к ETL-процессу, источники данных, разложение данных по слоям, подключение к API и базам данных, схемы источника, перенос данных в хранилище, автоматизация
Проектирование ETL-процесса
Виды загрузок, слои хранения, как разложить данные по готовым слоям, порядок загрузки объектов, проектирование системы восстановления
Ликбез по Airflow
Понятие, для каких задач используется Airflow, основные концепции, архитектура, первый взгляд на UI, структура кода DAG, статусная модель задач, механики шаблонов, особенности работы со временем, продвинутые механики и альтернативы Airflow для ETL-процессов
Реализация ETL в Airflow
Планирование процесса, как сделать запрос на генерацию файла через API, подключение к хранилищу и получение файла, переведение файла в табличный вид, SCD, добавление технических полей, обновление слоя витрин, постановка процесса на регламент
Построите пайплайн автоматизированного получения, обработки и загрузки данных от источников до витрины
10
2 темы・1 неделя
Проверка качества данных
Требования к качеству данных
Технические и бизнес-качества, как собрать требования к данным, система контроля качества
Проектирование и разработка проверки
Выбор места проверки в пайплайне, разработка проверок, результаты и отслеживание проверок, runbook процесса
Научитесь оценивать качество данных
1 неделя
Каникулы
11
4 темы・1 проект・2 недели
DWH для нескольких источников
  • NoSQL
  • MongoDB
  • PostgreSQL
Сбор требований и исследование источников
Сбор требований для DWH, модель данных в PostgreSQL, MongoDB как NoSQL-СУБД, подключение к MongoDB, данные в MongoDB, как связаны данные в источниках
Проектирование DWH
Проектирование хранилища по слоям, выбор модели данных, проектирование слоёв CDM и STG, хранение исторических данных, проектирование слоя DDS, проектирование ETL между слоями
Реализация DWH
Транзакции и их свойства, изоляция транзакций, паттерн Transactional Outbox, сбор данных из PostgreSQL и MongoDB, перенос данных из STG в DDS, заполнение витрины в слое CDM
Тестирование, интеграция и документация
Тестирование DWH, интеграция с BI-решением, как писать документацию к DWH
Спроектируете и реализуете DWH для стартапа
12
2 темы・1 проект・2 недели
Аналитические базы данных
  • S3
  • Vertica
  • Airflow
  • PostgreSQL
Аналитические СУБД и Vertica
Знакомство с аналитическими СУБД и Vertica, типы данных в Vertica (строковые и числовые, временные и специальные), запись данных в Vertica, проекции, параметры сегментации и сортировки, удаление и обновление данных в Vertica, партиционирование таблиц, операции с партициями
Разработка аналитической базы данных
Исходные данные, staging-слой, проверка качества данных, выбор модели для аналитического хранилища, разработка аналитического хранилища
Построите DWH для высоконагруженной системы данных с использованием Vertica
13
3 темы・1 проект・4 недели
Организация Data Lake
  • HDFS
  • Hadoop
  • MapReduce
  • Apache Spark
Проектирование Data Lake
Знакомство с Data Lake, сбор требований, знакомство с Hadoop, архитектура HDFS, репликация данных и блоки в HDFS, управление HDFS из консоли, проектирование хранения данных в HDFS
Знакомство со Spark
Парадигма MapReduce, знакомство со Spark, вычисления в Spark, знакомство с YARN, подключение к Spark
PySpark для инженера данных
Знакомство с PySpark, структуры данных в Spark, создание DataFrame и базовые операции: преобразования и действия, JOIN и UNION, кеширование и контрольные точки; встроенные стандартные функции, оконные функции в PySpark, как собрать, запустить и автоматизировать джобу
Построите Data Lake и автоматизируете загрузку и обработку данных в нём
1 неделя
Каникулы
14
2 темы・1 проект・3 недели
Потоковая обработка данных
  • Kafka
  • Spark Streaming
Потоковая обработка с Kafka и Spark Streaming
Что такое потоковая обработка, брокеры сообщений, Kafka, работа с Kafka через kcat, знакомство со Spark Structured Streaming — базовые операции, как создать Spark Streaming Application
Настройка потока данных
Сбор требований к стримингу, проектирование стриминговой системы, изучение данных в Kafka, преобразование потоковых данных, дедупликация, подключение к PostgreSQL и изучение данных, проектирование выходного сообщения, отправка сообщения в Kafka
Разработаете систему для обработки данных в режиме реального времени
15
5 тем・1 проект・3 недели
Облачные технологии
  • Redis
  • NoSQL
  • Kubectl
  • Kubernetes
  • PostgreSQL
  • Yandex Cloud
Облачные технологии Yandex Cloud
Что такое облачные технологии, подключение к Yandex Cloud, внутри Yandex Cloud, сбор требований к DWH
Подготовка и изучение источников
Redis — key-value хранилище, как его поднять в Yandex Cloud, изучение данных в Redis, как поднять Kafka в Yandex Cloud, изучение данных в Kafka
Создание окружения сервисов
Микросервисная архитектура, контейнеризация в Docker, создание образов контейнеров, репозиторий для образов, знакомство с Kubernetes, возможности утилиты kubectl, подготовка манифестов, пакетный менеджер Helm, разбор шаблона сервиса
Написание первого сервиса
Как поднять PostgreSQL в Yandex Cloud, структура баз данных, подготовка контейнера, планирование и написание логики первого сервиса
Знакомство с DataLens
Подключение источников данных, создание диаграмм, создание дашборда
Разработаете инфраструктуру для хранения и обработки данных в облаке
16
Самостоятельно・2 недели
Выпускной проект или пет-проект
В конце курса у вас будет выбор: выполнить ещё один учебный проект или реализовать пет-проект. В первом случае нужно выбрать бизнес-задачу и разработать архитектуру данных с использованием всех изученных инструментов. Во втором случае вы сможете воплотить в жизнь и защитить личный проект. Идея для пет-проекта может быть любой, главное — чтобы она была связана с инженерией данных и при её реализации использовались все изученные инструменты. Что бы вы ни выбрали, вас поддержат наставники и ревьюеры, а получившийся кейс украсит ваше портфолио.
Карьерный центр・6 недель
Трудоустройство
Эта часть курса для тех, кто решил найти работу в сфере разработки. Вы изучите стратегии поиска работы и узнаете о тонкостях выбора компании-работодателя, подготовите портфолио, напишете резюме и сопроводительное письмо.
Карьерный центр・8–24 недели
Акселерация
Программа сопровождения: вы ищете работу, мы консультируем и помогаем. Участвовать в программе могут те, кто закончил программу трудоустройства и находится в активном поиске работы.
С наставником・каждые 2 недели
Воркшопы для разбора ключевых тем, сессии Q&A

Оставьте заявку — мы позвоним, чтобы ответить на вопросы и подтвердить запись

10 000+ выпускников Практикума уже нашли новую работу

Это подтверждено исследованием, которое мы провели вместе с Высшей школой экономики.

Вот в каких компаниях они работают →

Вернём деньги за курс, если устроитесь инженером данных в Яндекс в течение 6 месяцев после выпуска

Мы не можем гарантировать трудоустройство, но подготовим к нему так, чтобы у вас были все шансы

Как и другие кандидаты, вы пройдёте несколько этапов собеседований в Яндекс — и в случае успеха получите полную компенсацию за обучение

Подробнее об акции

Отвечаем на вопросы

Каким требованиям нужно соответствовать?
Вам не понадобятся специальные навыки или опыт — мы обучим всему с нуля. Главное — иметь компьютер и достаточно времени для занятий. Выше можно посмотреть программу, чтобы оценить количество учебного материала и свои возможности.
Кто будет меня учить?
Все наставники — практикующие специалисты: сотрудники Яндекса и других крупных компаний. Программу составляют опытные преподаватели и методисты, а ещё действующие специалисты Яндекса, Школы анализа данных и других лидеров технологической и образовательной индустрий.
Смогу ли я найти работу после обучения?
Гарантий нет, но мы верим, что сможете. Работодателям важно, чтобы вы справлялись с реальными задачами, а не просто обладали набором знаний. Мы учим применять знания на практике, а также предлагаем помощь HR-специалистов из нашего карьерного центра. Но вам точно придётся приложить усилия, чтобы найти работу: активно откликаться на вакансии, проходить собеседования, показывать свои проекты и делать тестовые задания.

По данным исследования Высшей школы экономики, 69% наших выпускников среди тех, кто хотел сменить профессию, начинают новую карьеру после обучения. Больше половины из них — во время учёбы и в первые 2 месяца после выпуска. Эти цифры подкреплены публичным отчётом о трудоустройстве студентов Практикума.
А если я хочу работать в Яндексе?
Некоторые наши студенты работают в сервисах Яндекса, в том числе и в Практикуме. Но с нашей стороны было бы нечестно что‑либо гарантировать и завышать ваши ожидания.

Без опыта попасть в крупную IT-компанию возможно, хотя и сложно. Программа составлена так, чтобы вы могли начать карьеру после выпуска и набраться первого опыта. С ним вам будет проще претендовать на позицию в крупных компаниях.

Если вы устроитесь инженером данных в Яндекс в течение 6 месяцев после выпуска, мы вернём деньги за обучение — подробнее об акции.
Хорошо, а вы можете помочь с поиском работы?
Да. По желанию студенты могут попасть на программу трудоустройства, которая длится от 2 недель. С поддержкой карьерного центра Практикума студенты оформляют портфолио, проходят тренировочные собеседования с их последующим разбором и учатся писать сопроводительные письма.

Мы сотрудничаем с разными компаниями и регулярно предлагаем студентам партнёрские вакансии. Но важно помнить, что мы не ищем работу за вас, а помогаем её найти.
Что делать, если я не справлюсь с нагрузкой?
В программе предусмотрены каникулы, во время которых можно отдохнуть или повторить сложные темы.

Если вам понадобится сделать паузу в учёбе или уделить больше времени закреплению материала, напишите своему куратору.
Если не понравится, я могу вернуть деньги?
Да, причём в любой момент. Если обучение в потоке уже началось, придётся оплатить прошедшие дни — но мы вернём деньги за оставшееся время обучения. Более подробно рассказываем об этом в седьмом пункте оферты.
Получу ли я какой-то документ после курса?
Если у вас есть среднее профессиональное или высшее образование, после курса вы получите диплом о профессиональной переподготовке.

Если нет, выдадим сертификат о прохождении курса и справку об обучении в электронном виде.
Как можно оплатить?
Банковской картой: внести всю сумму сразу или платить ежемесячно.

Ежемесячные платежи работают так: вы вносите первую оплату, и в этот момент привязывается карта. С этой карты автоматически будут списываться следующие платежи каждые 30 календарных дней. Например, оплатили 25 марта — следующий платёж пройдёт 24 апреля. Обучение будет стоить меньше, если оплатить весь курс сразу.

Через компанию: юридические лица — резиденты РФ также могут оплатить обучение в Практикуме. Оставить заявку на оплату от юрлица можно на странице для корпоративных клиентов.
Можно ли оплатить курс за счёт работодателя?
Да, работодатель может оплатить учёбу полностью или разделить оплату с вами: например, поделить сумму 50/50 или 75/25.

Такая оплата пройдёт по счёту или двустороннему договору, а ИП могут оплатить с бизнес-счёта. Если работодатель купит обучение сразу 10 и больше сотрудникам, сделаем скидку 10%.

Чтобы получить счёт на оплату через компанию, оставьте заявку или напишите нам в чат поддержки.
Что такое налоговый вычет на обучение и как его получить?
Налоговый вычет может оформить тот, кто работает по трудовому договору и является налоговым резидентом Российской Федерации, то есть 183 дня в году находится на территории страны.

Для этого нужно подать заявление на налоговый вычет через личный кабинет на сайте nalog.ru (в него можно войти через аккаунт на Госуслугах).

К заявлению нужно приложить:
•‎ Справку 2-НДФЛ от работодателя.
•‎ Договор на обучение, в вашем случае это оферта Практикума.
•‎ Лицензию на образовательную деятельность. Вот наша.
•‎ Чек об оплате обучения. Мы отправляем его на электронную почту. Если не найдёте чек у себя в почте, напишите в чат службы поддержки — вышлем копию.
•‎ Справку о получении образовательных услуг — её тоже нужно запросить в чате поддержки.

Подробнее о налоговом вычете — на сайте Федеральной налоговой службы.

Давайте поможем

Напишите, как вас зовут и по какому номеру можно связываться — позвоним и расскажем всё про курсы