# NLP e Hugging Face (Data Science & ML) > Tokenization, embeddings, BERT, GPT, Hugging Face Transformers, fine-tuning, pipelines, inference - 24 perguntas de entrevista - Senior - [Perguntas de entrevista: Data Science & ML](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista.md) ## 1. Qual é a função principal da tokenization no processamento de linguagem natural? **Resposta** A tokenization divide o texto bruto em unidades menores chamadas tokens, que podem ser palavras, sub-palavras ou caracteres. Esta etapa é essencial porque os modelos de linguagem não conseguem processar diretamente texto bruto. Cada token é então convertido em um identificador numérico que o modelo pode processar. ## 2. Qual é a principal vantagem do algoritmo BPE (Byte Pair Encoding) sobre a tokenization por palavras? **Resposta** BPE permite lidar com palavras desconhecidas (out-of-vocabulary) decompondo-as em sub-unidades conhecidas. Diferente da tokenization por palavras que substitui palavras desconhecidas por um token especial [UNK], BPE pode representar qualquer palavra como uma combinação de sub-palavras presentes no vocabulário, permitindo assim generalizar para palavras nunca vistas durante o treinamento. ## 3. Qual é a diferença fundamental entre WordPiece e BPE para a construção do vocabulário? **Resposta** BPE funde os pares de tokens mais frequentes, enquanto WordPiece escolhe as fusões que maximizam a verossimilhança do corpus de treinamento. WordPiece usa assim um critério probabilístico em vez de puramente frequencial, o que pode produzir divisões ligeiramente diferentes e potencialmente mais adaptadas ao modelo de linguagem final. ## Mais 21 perguntas disponiveis - Qual é a principal diferença entre word embeddings estáticos (Word2Vec) e embeddings contextuais (BERT)? - Quais são as duas tarefas de pré-treinamento usadas pelo BERT? Cadastre-se gratis: https://sharpskill.dev/pt/login ## Outros temas de entrevista Data Science & ML - [Fundamentos de Python](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/python-basics.md): 25 perguntas, Junior - [Programação Orientada a Objetos em Python](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/python-oop.md): 20 perguntas, Junior - [Estruturas de dados em Python](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/python-data-structures.md): 20 perguntas, Junior - [Fundamentos do Git](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/git-fundamentals.md): 18 perguntas, Junior - [Fundamentos de SQL](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/sql-basics.md): 20 perguntas, Junior - [Fundamentos de NumPy](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/numpy-fundamentals.md): 22 perguntas, Junior - [Fundamentos de Pandas](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/pandas-basics.md): 22 perguntas, Junior - [Jupyter & Google Colab](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/jupyter-colab.md): 16 perguntas, Junior - [SQL Joins e consultas avançadas](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/sql-joins-advanced.md): 22 perguntas, Mid-Level - [Pandas avançado](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/pandas-advanced.md): 24 perguntas, Mid-Level - [Visualização com Matplotlib & Seaborn](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/matplotlib-seaborn.md): 20 perguntas, Mid-Level - [Visualizações interativas com Plotly](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/plotly-interactive.md): 18 perguntas, Mid-Level - [Estatística descritiva](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/statistics-descriptive.md): 20 perguntas, Mid-Level - [Estatística inferencial](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/statistics-inferential.md): 24 perguntas, Mid-Level - [Web Scraping](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/web-scraping.md): 18 perguntas, Mid-Level - [BigQuery & Cloud Data](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/bigquery-cloud.md): 18 perguntas, Mid-Level - [Feature Engineering](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/feature-engineering.md): 22 perguntas, Mid-Level - [ML Supervisionado: Regressão](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/ml-supervised-regression.md): 24 perguntas, Mid-Level - [ML Supervisionado: Classificação](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/ml-supervised-classification.md): 24 perguntas, Mid-Level - [Árvores de Decisão e Ensembles](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/ml-trees-ensembles.md): 24 perguntas, Mid-Level - [ML Não Supervisionado](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/ml-unsupervised.md): 22 perguntas, Mid-Level - [Pipelines ML e Validação](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/ml-pipelines-validation.md): 22 perguntas, Mid-Level - [Séries Temporais e Previsão](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/time-series-forecasting.md): 22 perguntas, Mid-Level - [Fundamentos de Deep Learning](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/deep-learning-fundamentals.md): 24 perguntas, Senior - [TensorFlow & Keras](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/tensorflow-keras.md): 22 perguntas, Senior - [CNN e classificação de imagens](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/cnn-image-classification.md): 24 perguntas, Senior - [RNN e Sequências](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/rnn-sequences.md): 22 perguntas, Senior - [Transformers e Attention](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/transformers-attention.md): 24 perguntas, Senior - [GenAI e LangChain](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/genai-langchain.md): 24 perguntas, Senior - [MLOps e Implantação](https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/mlops-deployment.md): 24 perguntas, Senior --- Source: SharpSkill (https://sharpskill.dev), tech interview preparation for your real stack. HTML version of this page: https://sharpskill.dev/pt/technologies/data-science/perguntas-entrevista/nlp-huggingface