# RNN та послідовності (Data Science & ML)

> RNN, LSTM, GRU, vanishing gradient, часові ряди, прогнозування, sequence-to-sequence

- 22 питань зі співбесід
- Senior
- [Питання зі співбесід: Data Science & ML](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy.md)

## 1. Яка головна характеристика відрізняє RNN від класичної feedforward нейронної мережі?

**Відповідь**

RNN має рекурентні з'єднання, які підтримують прихований стан (hidden state), що еволюціонує з часом. Цей прихований стан діє як пам'ять, що захоплює інформацію з попередніх входів у послідовності. На відміну від feedforward мереж, де кожен вхід обробляється незалежно, RNN можуть моделювати часові залежності між елементами послідовності.

## 2. Як обчислюється прихований стан h_t у простій RNN (vanilla RNN) на кожному часовому кроці?

**Відповідь**

У vanilla RNN прихований стан h_t обчислюється шляхом застосування функції активації (зазвичай tanh) до лінійної комбінації поточного входу x_t, зваженого W_xh, та попереднього прихованого стану h_{t-1}, зваженого W_hh, плюс зсув. Ця формула дозволяє мережі поєднувати нову інформацію з пам'яттю попередніх часових кроків.

## 3. Яка основна проблема vanishing gradient у RNN і коли вона виникає?

**Відповідь**

Vanishing gradient виникає під час backpropagation through time (BPTT), коли градієнти багато разів множаться на значення менше 1. На довгих послідовностях ці градієнти стають експоненціально малими, заважаючи мережі навчати довготривалі залежності. Ваги ранніх часових шарів майже не оновлюються.

## Ще 19 доступних питань

- Які три gate складають клітинку LSTM і яка їхня роль?
- Як LSTM вирішує проблему vanishing gradient порівняно з vanilla RNN?

Зареєструйся безкоштовно: https://sharpskill.dev/uk/login

## Інші теми співбесід Data Science & ML

- [Основи Python](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/python-basics.md): 25 запитань, Junior
- [Об'єктно-орієнтоване програмування Python](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/python-oop.md): 20 запитань, Junior
- [Структури даних Python](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/python-data-structures.md): 20 запитань, Junior
- [Основи Git](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/git-fundamentals.md): 18 запитань, Junior
- [Основи SQL](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/sql-basics.md): 20 запитань, Junior
- [Основи NumPy](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/numpy-fundamentals.md): 22 запитань, Junior
- [Основи Pandas](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/pandas-basics.md): 22 запитань, Junior
- [Jupyter & Google Colab](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/jupyter-colab.md): 16 запитань, Junior
- [SQL Joins та розширені запити](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/sql-joins-advanced.md): 22 запитань, Mid-Level
- [Просунутий Pandas](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/pandas-advanced.md): 24 запитань, Mid-Level
- [Візуалізація з Matplotlib & Seaborn](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/matplotlib-seaborn.md): 20 запитань, Mid-Level
- [Інтерактивні візуалізації з Plotly](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/plotly-interactive.md): 18 запитань, Mid-Level
- [Описова статистика](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/statistics-descriptive.md): 20 запитань, Mid-Level
- [Інференційна статистика](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/statistics-inferential.md): 24 запитань, Mid-Level
- [Web Scraping](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/web-scraping.md): 18 запитань, Mid-Level
- [BigQuery & Cloud Data](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/bigquery-cloud.md): 18 запитань, Mid-Level
- [Feature Engineering](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/feature-engineering.md): 22 запитань, Mid-Level
- [Кероване ML: Регресія](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/ml-supervised-regression.md): 24 запитань, Mid-Level
- [Кероване ML: Класифікація](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/ml-supervised-classification.md): 24 запитань, Mid-Level
- [Дерева рішень та ансамблі](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/ml-trees-ensembles.md): 24 запитань, Mid-Level
- [Некероване ML](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/ml-unsupervised.md): 22 запитань, Mid-Level
- [ML Pipelines та валідація](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/ml-pipelines-validation.md): 22 запитань, Mid-Level
- [Часові ряди та прогнозування](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/time-series-forecasting.md): 22 запитань, Mid-Level
- [Основи Deep Learning](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/deep-learning-fundamentals.md): 24 запитань, Senior
- [TensorFlow & Keras](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/tensorflow-keras.md): 22 запитань, Senior
- [CNN та класифікація зображень](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/cnn-image-classification.md): 24 запитань, Senior
- [Transformers та Attention](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/transformers-attention.md): 24 запитань, Senior
- [NLP та Hugging Face](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/nlp-huggingface.md): 24 запитань, Senior
- [GenAI та LangChain](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/genai-langchain.md): 24 запитань, Senior
- [MLOps та розгортання](https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/mlops-deployment.md): 24 запитань, Senior

---

Source: SharpSkill (https://sharpskill.dev), tech interview preparation for your real stack.
HTML version of this page: https://sharpskill.dev/uk/technologies/data-science/pytannia-spivbesidy/rnn-sequences