diff --git a/README.md b/README.md index 7774ff9..47bd815 100644 --- a/README.md +++ b/README.md @@ -1 +1,136 @@ -# de-roadmap \ No newline at end of file +# План обучения - Data Engineering с нуля до middle + +# Основные знания + +## База по Git +Что такое контроль версий, когда используется, ПОЧЕМУ и как мы в обучении будем использовать. +Как создать репозиторий на GitHub, сохранять в нем изменения. +- [Что такое Git для Начинающих / GitHub за 30 минут / Git Уроки - Youtube](https://www.youtube.com/watch?v=VJm_AjiTEEc) +- Книга [Pro Git](https://git-scm.com/book/ru/v2) - читать главу 1 + +### Основы Markdown +- [Язык Markdown и файл README | Git и GitHub для начинающих - Youtube](https://www.youtube.com/watch?v=8lEDTrr-G4U) +- [Markdown и его возможности: простой способ оформления текста](https://kurshub.ru/journal/blog/markdown-chto-eto/) +- [Синтаксис Markdown: подробная шпаргалка для веб-разработчиков / Skillbox Media](https://skillbox.ru/media/code/yazyk-razmetki-markdown-shpargalka-po-sintaksisu-s-primerami/) + +## SQL +### База по SQL +Книга: [PostgreSQL. Основы языка SQL](https://postgrespro.ru/education/books/sqlprimer) - Глава 1 "Введение в базы данных и SQL" + ДЗ в конце главы + +Бесплатный тренажер: [Интерактивный тренажер по SQL – Stepik](https://stepik.org/course/63054/promo) +Целевой уровень знания SQL - Live кодинг на собесе. Проверяем на первом мок-интервью +В помощь: [SQL 50 - Study Plan - LeetCode](https://leetcode.com/studyplan/top-sql-50/) +### Повышение знаний SQL +Выполнение домашек в виртуалке от PostgresPro DBA 1- первый виртуальный стенд [dba1_student_guide.pdf](https://edu.postgrespro.ru/16/dba1-16/dba1_student_guide.pdf) +Лекция [DBA1-16. 02. Использование psql](https://rutube.ru/video/12e30744d4e2e532a544da79d6c1ec69/?playlist=913726) + [текстовые материалы лекции](https://edu.postgrespro.ru/16/dba1-16/dba1_02_tools_psql.html) + +- Книга: [PostgreSQL. Основы языка SQL](https://postgrespro.ru/education/books/sqlprimer) + - Глава 8 - Индексы + ДЗ + - Глава 9 - Транзакции + - Глава 10 - Повышение производительности + ДЗ +### Углубление знаний SQL как языка программирования +- [DEV1-12. 08. Функции](https://rutube.ru/video/21b867b6857583aa9429400dfc4bdf25/) + [edu.postgrespro.ru/dev1-12/dev1_08_sql_func.html](https://edu.postgrespro.ru/dev1-12/dev1_08_sql_func.html) + ДЗ +- [DEV1-12. 09. Процедуры](https://rutube.ru/video/c34d23384d0948a74387e93c7a7f6e37/) [edu.postgrespro.ru/dev1-12/dev1_09_sql_proc.html](https://edu.postgrespro.ru/dev1-12/dev1_09_sql_proc.html) + ДЗ +- [DEV1-12. 11. Обзор и конструкции языка PL/pgSQL](https://rutube.ru/video/be67209d5f6eee34976a5c741e75bff8/) - достаточно ознакомиться + +## Python +2 курса по Python - простой и расширенный +["Поколение Python": курс для начинающих – Stepik](https://stepik.org/course/58852/info) +["Поколение Python": курс для продвинутых – Stepik](https://stepik.org/course/68343/info) +Кратко(???) про ООП, менеджеры контекста +Pandas +Jupyter Lab - кратко + +Полезно, но дороговато и не обязательно: хорошее комбо SQL + Python: ["Поколение Python": профи + ООП + SQL – Stepik](https://stepik.org/course/233341/promo?search=7181036958) + +Цель - LiveCoding простых задач Python, далее нужно будет для создания DAG Airflow + +## Технические навыки +### Запись встреч +OBS Studio +### Git +Книга: [Pro Git](https://git-scm.com/book/ru/v2) - указать главы для чтения +[Курс работы с Git и GitLab - ЭФКО ЦПР | YouTube плейлист](https://www.youtube.com/playlist?list=PLbf8m52BvqlFlblJqQKPuEU26pwgqe7zK) - указать номера лекций для просмотра и повторения за лектором. +Целевой уровень знания - понимание процесса GitFlow. Как создать ветку, влить изменения в другие ветки. Понимание, зачем. +На собесах обычно не спрашивают, но нужно в работе. +### Docker +- Postgres (развертывание, допиливание, запекание в него учебной БД, выгрузка на docker hub) +- Основа для будущих домашних работ - сборка стендов. Хранение в Git и проверка ментором. +### Методы разработки (водопад, scrum, kanban) +Найти краткие обзоры методов разработки. Потом проговорить на занятии, когда что используется + +## Airflow +Один из основных инструменов. +Найти объяснение для менти... + +## Курсовая работа +### Стенд в Docker Compose +- Apache Airflow + - Источник данных - TelecomX +- Postgres +- ETL +- Исходные коды всего - в Git +- Каждая новая фича разрабатывается в отдельной ветке + +## Понятие сложности алгоритмов +### SQL +### Python +## Подготовка к собеседованиям +Думаем, как "сделать" опыт, от 2 лет +### Помощь в подготовке резюме +- Видео от ОМ по составлению резюме + - [Как накрутить опыт в резюме | «Ультимативный гайд» ‪@digital_ninja‬](https://www.youtube.com/watch?v=EPuogJuYsvY) + - [Как писать резюме, чтобы его читали - доклад - Boosty](https://boosty.to/m0rtymerr/posts/71b02a6b-8116-466a-b945-b2ed793abd8f) + - [Как грамотно продать себя на собеседовании / Созвон сообщества - Boosty](https://boosty.to/m0rtymerr/posts/7289cd23-60c6-4010-bb1c-a5b28dac399a) +- Попытки менти написать, моя обратная связь - итеративно +### Помощь с прохождением испытательного срока +- [Как успешно пройти испытательный срок в IT | «Ультимативный гайд» c @digital_ninja - Youtube](https://www.youtube.com/watch?v=r1lWP5rYVdk) +- [Испытательный срок - доклад - Boosty](https://boosty.to/m0rtymerr/posts/40e7f17e-022b-495c-8d03-dabbe4383b8e) +Видео по прохождению собесов от ОМ. Мои комментарии к нему, мой опыт +Первые тренировки мок собесы, обратная связь + +Навыки поиска работы с HH и Habr карьера + +[Как накрутить опыт в резюме | «Ультимативный гайд» ‪@digital_ninja‬](https://www.youtube.com/watch?v=EPuogJuYsvY) +[Как подтвердить опыт без трудовой / Хабр против работяг](https://www.youtube.com/watch?v=GHqABzA1zi8) +[Как успешно пройти испытательный срок в IT | «Ультимативный гайд» c @digital_ninja - Youtube](https://www.youtube.com/watch?v=r1lWP5rYVdk) + +# Расширенные навыки +Поясняю, что главное - уметь пользоваться и отвечать на вопросы собесов. Уметь самому разворачивать сложные конфигурации - излишне, для этого в компаниях обычно есть DevOPS и DBA. Достаточно прочувствовать на простом docker стенде. +## Greenplum +Дать теоретический материал - разница с Postgres. +Контейнер с GreenPlum, несколько домашек по нему, чтобы прочувствовать работу распределенных запросов. +- [sergeyosechkin/greenplum Tags | Docker Hub](https://hub.docker.com/r/sergeyosechkin/greenplum/tags) +- [Как собрать Docker-образ Greengage DB | Greengage DB Docs](https://greengagedb.org/ru/docs-gg/current/use_docker.html) +В сложности с виртуалками - только если менти сильно захочет. Не буду рекомендовать. + +## NiFi +Делаем отдельный docker compose Postgres + Nifi +В NiFi собираем генератор данных + +## Kafka +[Лучший Гайд по Kafka для Начинающих За 1 Час - Youtube](https://www.youtube.com/watch?v=hbseyn-CfXY) +Добавляем к предыдущему docker compose Kafka. +Строим поток данных NiFi->Kafka +Kafka->NiFi->Postgres + +## dbt +Обзорная лекция, для понимания смысла + +# Софт скиллы +- [Все ветви дохода в IT / Полный гайд по деньгам](https://youtube.com/live/JHClTWwK1EM) +- [Гайд как писать отзывы](https://boosty.to/m0rtymerr/posts/b04040ec-0f46-4524-9c75-188a513140ad?share=post_link) +- [Гайд по Антистрессу](https://youtu.be/bu0YiXOKaoU) + +# Тех. материалы несортировано +- [Индексы в БД - Youtube](https://www.youtube.com/watch?v=DyqtBiDrz3g) +- [Spark + Iceberg in 1 Hour - Memory Tuning, Joins, Partition - Youtube](https://www.youtube.com/watch?v=3R-SLYK-P_0) +- [Алгоритмы: теория и практика. Методы – Stepik](https://stepik.org/course/217/info) +- [Алгоритмы: теория и практика. Структуры данных – Stepik](https://stepik.org/course/1547/promo) + +## Записи ОМ +- [Как пройти собеседование на программиста | Ультимативный гайд с ‪@om_nazarov‬ - Youtube](https://www.youtube.com/watch?v=tzSdiYZ52kI) +- [Как стать программистом в 2025 | «Ультимативный гайд» с ‪@om_nazarov‬](https://www.youtube.com/watch?v=6151ekTOl38) +- + +