Співбесіда зі Spring Cloud Gateway: Routing, Фільтри та Load Balancing

Опануйте Spring Cloud Gateway для технічних співбесід: 12 питань про routing, фільтри, load balancing та патерни API Gateway з прикладами коду.

Spring Cloud Gateway: питання співбесіди про routing, фільтри та load balancing

Spring Cloud Gateway — еталонне рішення для реалізації API Gateway у мікросервісній архітектурі Spring. Технічні співбесіди оцінюють здатність налаштовувати routing, створювати власні фільтри й ефективно керувати load balancing.

Порада щодо підготовки

Рекрутери перевіряють розуміння патернів Gateway: централізовану автентифікацію, rate limiting та circuit breaker. Уміння пояснити, чому саме Spring Cloud Gateway, а не альтернативи, робить різницю.

Архітектура та основи Spring Cloud Gateway

Питання 1: Що таке Spring Cloud Gateway і навіщо ним користуватися?

Spring Cloud Gateway — це реактивний API Gateway, побудований на Spring WebFlux і Project Reactor. Він слугує єдиною точкою входу для всіх запитів до мікросервісів і забезпечує routing, фільтрацію та load balancing.

GatewayApplication.javajava
// Базова конфігурація Spring Cloud Gateway
@SpringBootApplication
public class GatewayApplication {

    public static void main(String[] args) {
        // Запускає реактивний сервер Netty (а не Tomcat)
        SpringApplication.run(GatewayApplication.class, args);
    }
}
yaml
# application.yml
# Мінімальна конфігурація gateway
spring:
  cloud:
    gateway:
      routes:
        # Маршрут до сервісу користувачів
        - id: user-service
          uri: http://localhost:8081
          predicates:
            - Path=/api/users/**
        # Маршрут до сервісу замовлень
        - id: order-service
          uri: http://localhost:8082
          predicates:
            - Path=/api/orders/**

Головні переваги Spring Cloud Gateway: неблокуюча архітектура для високої продуктивності, нативна інтеграція з екосистемою Spring Cloud та підтримка сучасних реактивних патернів.

Питання 2: Поясніть концепції Route, Predicate та Filter

Три фундаментальні концепції структурують Spring Cloud Gateway: Routes визначають призначення, Predicates визначають, коли застосувати маршрут, а Filters змінюють запити та відповіді.

RouteConfiguration.javajava
// Програмна конфігурація маршрутів
@Configuration
public class RouteConfiguration {

    @Bean
    public RouteLocator customRouteLocator(RouteLocatorBuilder builder) {
        return builder.routes()
            // Маршрут із кількома predicates
            .route("product-service", r -> r
                // Predicate: URL-шлях
                .path("/api/products/**")
                // Predicate: HTTP-метод
                .and()
                .method(HttpMethod.GET, HttpMethod.POST)
                // Predicate: наявність заголовка
                .and()
                .header("X-Api-Version", "v2")
                // Filter: переписування шляху
                .filters(f -> f
                    .rewritePath("/api/products/(?<segment>.*)", "/products/${segment}")
                    // Filter: додавання заголовка
                    .addRequestHeader("X-Gateway-Source", "spring-cloud-gateway")
                )
                // Цільовий URI
                .uri("http://localhost:8083"))
            .build();
    }
}

Потік обробки відбувається у такій послідовності:

text
Вхідний запит
┌─────────────────┐
│   Predicates    │ → Перевіряє умови (шлях, метод, заголовок...)
└────────┬────────┘
         │ Збіг знайдено
┌─────────────────┐
│  Pre-Filters    │ → Змінює запит до routing
└────────┬────────┘
┌─────────────────┐
│   HTTP Proxy    │ → Перенаправляє до цільового сервісу
└────────┬────────┘
┌─────────────────┐
│  Post-Filters   │ → Змінює відповідь перед поверненням клієнту
└────────┬────────┘
   Відповідь клієнту

Питання 3: Які predicates використовуються найчастіше?

Spring Cloud Gateway надає численні вбудовані predicates для різноманітних умов routing. Поєднання кількох predicates дає змогу будувати складні правила маршрутизації.

yaml
# application.yml
# Приклади поширених predicates
spring:
  cloud:
    gateway:
      routes:
        # Routing за шляхом із захопленням змінної
        - id: user-details
          uri: http://user-service
          predicates:
            - Path=/users/{userId}

        # Routing за HTTP-методом
        - id: user-create
          uri: http://user-service
          predicates:
            - Path=/users
            - Method=POST

        # Routing на основі заголовків
        - id: mobile-api
          uri: http://mobile-service
          predicates:
            - Header=X-Client-Type, mobile

        # Routing за параметрами query
        - id: search-api
          uri: http://search-service
          predicates:
            - Query=q

        # Routing за хостом
        - id: admin-portal
          uri: http://admin-service
          predicates:
            - Host=admin.example.com

        # Часовий routing
        - id: maintenance-mode
          uri: http://maintenance-service
          predicates:
            - Between=2026-03-20T02:00:00Z,2026-03-20T04:00:00Z
CustomPredicateFactory.javajava
// Створення власного predicate
@Component
public class ApiKeyRoutePredicateFactory
    extends AbstractRoutePredicateFactory<ApiKeyRoutePredicateFactory.Config> {

    public ApiKeyRoutePredicateFactory() {
        super(Config.class);
    }

    @Override
    public Predicate<ServerWebExchange> apply(Config config) {
        return exchange -> {
            // Перевіряє наявність і валідність API-ключа
            String apiKey = exchange.getRequest()
                .getHeaders()
                .getFirst("X-Api-Key");

            return apiKey != null && config.getValidKeys().contains(apiKey);
        };
    }

    @Validated
    public static class Config {
        private List<String> validKeys = new ArrayList<>();

        public List<String> getValidKeys() {
            return validKeys;
        }

        public void setValidKeys(List<String> validKeys) {
            this.validKeys = validKeys;
        }
    }
}
Порядок predicates

Порядок predicates не впливає на оцінювання, але порядок маршрутів важливий. Маршрути перевіряються послідовно, і використовується перший збіг.

Фільтри та трансформація запитів

Питання 4: Як працюють фільтри pre- та post-обробки?

Фільтри GatewayFilter виконуються в упорядкованому ланцюжку. «Pre»-фільтри змінюють запит до routing, «post»-фільтри змінюють відповідь після отримання її від цільового сервісу.

LoggingFilter.javajava
// Глобальний фільтр логування
@Component
@Slf4j
public class LoggingFilter implements GlobalFilter, Ordered {

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        // PRE-FILTER: перед routing
        String requestId = UUID.randomUUID().toString();
        long startTime = System.currentTimeMillis();

        log.info("Request {} started: {} {}",
            requestId,
            exchange.getRequest().getMethod(),
            exchange.getRequest().getPath());

        // Додає ID запиту до заголовків
        ServerHttpRequest modifiedRequest = exchange.getRequest()
            .mutate()
            .header("X-Request-Id", requestId)
            .build();

        // Продовжує ланцюжок та обробляє відповідь
        return chain.filter(exchange.mutate().request(modifiedRequest).build())
            .then(Mono.fromRunnable(() -> {
                // POST-FILTER: після відповіді
                long duration = System.currentTimeMillis() - startTime;
                HttpStatusCode status = exchange.getResponse().getStatusCode();

                log.info("Request {} completed: status={}, duration={}ms",
                    requestId, status, duration);
            }));
    }

    @Override
    public int getOrder() {
        // Від'ємний порядок = виконується першим
        return -1;
    }
}
AuthenticationFilter.javajava
// Фільтр JWT-автентифікації
@Component
@RequiredArgsConstructor
public class AuthenticationFilter implements GatewayFilter {

    private final JwtTokenValidator tokenValidator;

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        String authHeader = exchange.getRequest()
            .getHeaders()
            .getFirst(HttpHeaders.AUTHORIZATION);

        // Перевіряє наявність токена
        if (authHeader == null || !authHeader.startsWith("Bearer ")) {
            return handleUnauthorized(exchange, "Missing or invalid Authorization header");
        }

        String token = authHeader.substring(7);

        // Реактивно валідує токен
        return tokenValidator.validate(token)
            .flatMap(claims -> {
                // Збагачує запит даними користувача
                ServerHttpRequest enrichedRequest = exchange.getRequest()
                    .mutate()
                    .header("X-User-Id", claims.getSubject())
                    .header("X-User-Roles", String.join(",", claims.getRoles()))
                    .build();

                return chain.filter(exchange.mutate().request(enrichedRequest).build());
            })
            .onErrorResume(e -> handleUnauthorized(exchange, e.getMessage()));
    }

    private Mono<Void> handleUnauthorized(ServerWebExchange exchange, String message) {
        exchange.getResponse().setStatusCode(HttpStatus.UNAUTHORIZED);
        exchange.getResponse().getHeaders().setContentType(MediaType.APPLICATION_JSON);

        String body = String.format("{\"error\": \"%s\"}", message);
        DataBuffer buffer = exchange.getResponse()
            .bufferFactory()
            .wrap(body.getBytes(StandardCharsets.UTF_8));

        return exchange.getResponse().writeWith(Mono.just(buffer));
    }
}

Питання 5: Які вбудовані фільтри найкорисніші?

Spring Cloud Gateway надає багато вбудованих фільтрів для типових сценаріїв: переписування URL, зміна заголовків, retry та circuit breaker.

yaml
# application.yml
# Поширені вбудовані фільтри
spring:
  cloud:
    gateway:
      routes:
        - id: order-service
          uri: lb://order-service
          predicates:
            - Path=/api/orders/**
          filters:
            # Переписування шляху
            - RewritePath=/api/orders/(?<segment>.*), /orders/${segment}

            # Додає заголовки запиту
            - AddRequestHeader=X-Gateway-Version, 1.0

            # Видаляє чутливі заголовки відповіді
            - RemoveResponseHeader=X-Powered-By
            - RemoveResponseHeader=Server

            # Префікс шляху
            - PrefixPath=/v2

            # Видалення префікса
            - StripPrefix=1

            # Автоматичний retry у разі помилки
            - name: Retry
              args:
                retries: 3
                statuses: BAD_GATEWAY,SERVICE_UNAVAILABLE
                methods: GET
                backoff:
                  firstBackoff: 100ms
                  maxBackoff: 500ms
                  factor: 2

            # Обмеження частоти
            - name: RequestRateLimiter
              args:
                redis-rate-limiter.replenishRate: 10
                redis-rate-limiter.burstCapacity: 20
                key-resolver: "#{@userKeyResolver}"
RateLimiterConfiguration.javajava
// Конфігурація rate limiter на користувача
@Configuration
public class RateLimiterConfiguration {

    @Bean
    public KeyResolver userKeyResolver() {
        // Обмеження для автентифікованого користувача
        return exchange -> Mono.just(
            exchange.getRequest()
                .getHeaders()
                .getFirst("X-User-Id")
        ).defaultIfEmpty("anonymous");
    }

    @Bean
    public KeyResolver ipKeyResolver() {
        // Обмеження за IP-адресою
        return exchange -> Mono.just(
            Objects.requireNonNull(exchange.getRequest()
                .getRemoteAddress())
                .getAddress()
                .getHostAddress()
        );
    }
}

Готовий до співбесід з Spring Boot?

Практикуйся з нашими інтерактивними симуляторами, flashcards та технічними тестами.

Питання 6: Як реалізувати фільтр зміни тіла запиту?

Зміна тіла запиту або відповіді потребує специфічного підходу з ModifyRequestBodyGatewayFilterFactory або ModifyResponseBodyGatewayFilterFactory.

RequestBodyModificationFilter.javajava
// Фільтр зміни тіла запиту
@Component
@RequiredArgsConstructor
public class RequestBodyModificationFilter implements GlobalFilter, Ordered {

    private final ObjectMapper objectMapper;

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        // Змінює лише запити POST/PUT із JSON
        if (!isJsonRequest(exchange)) {
            return chain.filter(exchange);
        }

        return DataBufferUtils.join(exchange.getRequest().getBody())
            .flatMap(dataBuffer -> {
                byte[] bytes = new byte[dataBuffer.readableByteCount()];
                dataBuffer.read(bytes);
                DataBufferUtils.release(dataBuffer);

                try {
                    // Парсить і змінює JSON
                    Map<String, Object> body = objectMapper.readValue(
                        bytes,
                        new TypeReference<Map<String, Object>>() {}
                    );

                    // Додає метадані
                    body.put("processedAt", Instant.now().toString());
                    body.put("gatewayVersion", "1.0");

                    byte[] modifiedBytes = objectMapper.writeValueAsBytes(body);

                    // Створює новий запит зі зміненим body
                    ServerHttpRequest modifiedRequest = new ServerHttpRequestDecorator(
                        exchange.getRequest()
                    ) {
                        @Override
                        public Flux<DataBuffer> getBody() {
                            return Flux.just(
                                exchange.getResponse()
                                    .bufferFactory()
                                    .wrap(modifiedBytes)
                            );
                        }

                        @Override
                        public HttpHeaders getHeaders() {
                            HttpHeaders headers = new HttpHeaders();
                            headers.putAll(super.getHeaders());
                            headers.setContentLength(modifiedBytes.length);
                            return headers;
                        }
                    };

                    return chain.filter(exchange.mutate().request(modifiedRequest).build());

                } catch (IOException e) {
                    return Mono.error(new RuntimeException("Failed to parse request body", e));
                }
            });
    }

    private boolean isJsonRequest(ServerWebExchange exchange) {
        MediaType contentType = exchange.getRequest().getHeaders().getContentType();
        return contentType != null &&
               contentType.isCompatibleWith(MediaType.APPLICATION_JSON);
    }

    @Override
    public int getOrder() {
        return Ordered.HIGHEST_PRECEDENCE;
    }
}
ResponseBodyModificationConfig.javajava
// Конфігурація зміни відповідей
@Configuration
public class ResponseBodyModificationConfig {

    @Bean
    public RouteLocator responseModifyingRoutes(
        RouteLocatorBuilder builder,
        ModifyResponseBodyGatewayFilterFactory modifyResponseBodyFilter
    ) {
        return builder.routes()
            .route("modify-response", r -> r
                .path("/api/users/**")
                .filters(f -> f.modifyResponseBody(
                    String.class,
                    String.class,
                    MediaType.APPLICATION_JSON_VALUE,
                    (exchange, responseBody) -> {
                        // Огортає відповідь у стандартний формат
                        return Mono.just(String.format(
                            "{\"success\": true, \"data\": %s, \"timestamp\": \"%s\"}",
                            responseBody,
                            Instant.now()
                        ));
                    }
                ))
                .uri("lb://user-service"))
            .build();
    }
}

Load Balancing і стійкість

Питання 7: Як налаштувати load balancing зі Spring Cloud LoadBalancer?

Spring Cloud Gateway інтегрується зі Spring Cloud LoadBalancer для розподілу трафіку між інстансами сервісів. URI-схема lb:// активує автоматичний load balancing.

yaml
# application.yml
# Конфігурація load balancing
spring:
  cloud:
    gateway:
      routes:
        - id: user-service
          # lb:// активує load balancing
          uri: lb://user-service
          predicates:
            - Path=/api/users/**

    # Конфігурація load balancer
    loadbalancer:
      ribbon:
        enabled: false  # Використовує Spring Cloud LoadBalancer (не Ribbon)

      # Конфігурація для кожного сервісу
      configurations: default

      # Health check для load balancing
      health-check:
        path:
          user-service: /actuator/health
        interval: 10s

# Service discovery (Eureka або інше)
eureka:
  client:
    serviceUrl:
      defaultZone: http://localhost:8761/eureka/
LoadBalancerConfiguration.javajava
// Кастомна конфігурація load balancer
@Configuration
@LoadBalancerClients(defaultConfiguration = CustomLoadBalancerConfig.class)
public class LoadBalancerConfiguration {
}

// CustomLoadBalancerConfig.java
// Кастомна стратегія load balancing
public class CustomLoadBalancerConfig {

    @Bean
    public ReactorLoadBalancer<ServiceInstance> loadBalancer(
        Environment environment,
        LoadBalancerClientFactory clientFactory
    ) {
        String serviceId = environment.getProperty(
            LoadBalancerClientFactory.PROPERTY_NAME
        );

        // За замовчуванням Round Robin
        return new RoundRobinLoadBalancer(
            clientFactory.getLazyProvider(serviceId, ServiceInstanceListSupplier.class),
            serviceId
        );
    }

    @Bean
    public ServiceInstanceListSupplier serviceInstanceListSupplier(
        ConfigurableApplicationContext context
    ) {
        // Додає health check до інстансів
        return ServiceInstanceListSupplier.builder()
            .withDiscoveryClient()
            .withHealthChecks()
            .withCaching()
            .build(context);
    }
}
WeightedLoadBalancer.javajava
// Зважений load balancer
@Component
@RequiredArgsConstructor
public class WeightedLoadBalancer implements ReactorServiceInstanceLoadBalancer {

    private final String serviceId;
    private final ObjectProvider<ServiceInstanceListSupplier> supplierProvider;
    private final Random random = new Random();

    @Override
    public Mono<Response<ServiceInstance>> choose(Request request) {
        return supplierProvider.getIfAvailable()
            .get()
            .next()
            .map(instances -> {
                if (instances.isEmpty()) {
                    return new EmptyResponse();
                }

                // Розраховує ваги з метаданих
                List<WeightedInstance> weighted = instances.stream()
                    .map(instance -> {
                        int weight = Integer.parseInt(
                            instance.getMetadata().getOrDefault("weight", "1")
                        );
                        return new WeightedInstance(instance, weight);
                    })
                    .toList();

                // Зважений вибір
                int totalWeight = weighted.stream()
                    .mapToInt(WeightedInstance::weight)
                    .sum();

                int randomWeight = random.nextInt(totalWeight);
                int currentWeight = 0;

                for (WeightedInstance wi : weighted) {
                    currentWeight += wi.weight();
                    if (randomWeight < currentWeight) {
                        return new DefaultResponse(wi.instance());
                    }
                }

                return new DefaultResponse(weighted.get(0).instance());
            });
    }

    private record WeightedInstance(ServiceInstance instance, int weight) {}
}

Питання 8: Як реалізувати circuit breaker у gateway?

Circuit breaker захищає від каскадних збоїв. Spring Cloud Gateway інтегрується з Resilience4j для просунутого керування збоями.

yaml
# application.yml
# Конфігурація Resilience4j Circuit Breaker
spring:
  cloud:
    gateway:
      routes:
        - id: order-service
          uri: lb://order-service
          predicates:
            - Path=/api/orders/**
          filters:
            # Circuit breaker із fallback
            - name: CircuitBreaker
              args:
                name: orderServiceCB
                fallbackUri: forward:/fallback/orders

resilience4j:
  circuitbreaker:
    configs:
      default:
        # Кількість оцінюваних запитів
        slidingWindowSize: 10
        # Поріг збоїв для відкриття контуру
        failureRateThreshold: 50
        # Тривалість відкритого стану перед повторною спробою
        waitDurationInOpenState: 30s
        # Дозволені запити в half-open
        permittedNumberOfCallsInHalfOpenState: 3
        # Автоматичні переходи
        automaticTransitionFromOpenToHalfOpenEnabled: true

    instances:
      orderServiceCB:
        baseConfig: default
        failureRateThreshold: 60

  timelimiter:
    configs:
      default:
        timeoutDuration: 5s

    instances:
      orderServiceCB:
        timeoutDuration: 3s
FallbackController.javajava
// Контролер fallback
@RestController
@RequestMapping("/fallback")
@Slf4j
public class FallbackController {

    @GetMapping("/orders")
    public Mono<ResponseEntity<Map<String, Object>>> ordersFallback(
        ServerWebExchange exchange
    ) {
        log.warn("Circuit breaker activated for orders service");

        Map<String, Object> response = Map.of(
            "success", false,
            "error", "Service temporarily unavailable",
            "code", "SERVICE_UNAVAILABLE",
            "retryAfter", 30
        );

        return Mono.just(ResponseEntity
            .status(HttpStatus.SERVICE_UNAVAILABLE)
            .body(response));
    }

    @PostMapping("/orders")
    public Mono<ResponseEntity<Map<String, Object>>> ordersPostFallback() {
        Map<String, Object> response = Map.of(
            "success", false,
            "error", "Order creation temporarily unavailable",
            "code", "SERVICE_UNAVAILABLE",
            "message", "Please try again later"
        );

        return Mono.just(ResponseEntity
            .status(HttpStatus.SERVICE_UNAVAILABLE)
            .body(response));
    }
}
CircuitBreakerEventListener.javajava
// Моніторинг подій circuit breaker
@Component
@Slf4j
@RequiredArgsConstructor
public class CircuitBreakerEventListener {

    private final MeterRegistry meterRegistry;

    @EventListener
    public void onCircuitBreakerStateTransition(
        CircuitBreakerOnStateTransitionEvent event
    ) {
        CircuitBreaker.StateTransition transition = event.getStateTransition();

        log.info("Circuit breaker {} state changed: {} -> {}",
            event.getCircuitBreakerName(),
            transition.getFromState(),
            transition.getToState());

        // Метрика Micrometer
        meterRegistry.counter(
            "circuit_breaker.state_transition",
            "name", event.getCircuitBreakerName(),
            "from", transition.getFromState().name(),
            "to", transition.getToState().name()
        ).increment();
    }

    @EventListener
    public void onCircuitBreakerFailure(CircuitBreakerOnErrorEvent event) {
        log.error("Circuit breaker {} error: {}",
            event.getCircuitBreakerName(),
            event.getThrowable().getMessage());
    }
}
Timeout і circuit breaker

Налаштуйте узгоджений timeout між circuit breaker і HTTP-клієнтом. Завеликий timeout блокує потоки, замалий — спричиняє хибні спрацювання.

Питання 9: Як реалізувати retry з експоненціальним backoff?

Розумний retry з експоненціальним backoff допомагає не перевантажити сервіс у скруті, водночас максимізуючи шанси на успіх.

yaml
# application.yml
# Конфігурація retry із backoff
spring:
  cloud:
    gateway:
      routes:
        - id: payment-service
          uri: lb://payment-service
          predicates:
            - Path=/api/payments/**
          filters:
            - name: Retry
              args:
                # Кількість спроб
                retries: 3
                # HTTP-коди, що запускають retry
                statuses: BAD_GATEWAY,SERVICE_UNAVAILABLE,GATEWAY_TIMEOUT
                # Лише ідемпотентні HTTP-методи
                methods: GET,PUT
                # Винятки, що запускають retry
                exceptions:
                  - java.io.IOException
                  - java.net.ConnectException
                  - org.springframework.cloud.gateway.support.TimeoutException
                # Експоненціальний backoff
                backoff:
                  firstBackoff: 100ms
                  maxBackoff: 2000ms
                  factor: 2
                  basedOnPreviousValue: true
CustomRetryFilter.javajava
// Кастомний retry з бізнес-логікою
@Component
@Slf4j
public class CustomRetryFilter implements GatewayFilter, Ordered {

    private static final int MAX_RETRIES = 3;
    private static final Duration INITIAL_BACKOFF = Duration.ofMillis(100);
    private static final double BACKOFF_MULTIPLIER = 2.0;
    private static final double JITTER_FACTOR = 0.1;

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        return Mono.defer(() -> attemptRequest(exchange, chain, 0));
    }

    private Mono<Void> attemptRequest(
        ServerWebExchange exchange,
        GatewayFilterChain chain,
        int attempt
    ) {
        return chain.filter(exchange)
            .onErrorResume(throwable -> {
                if (attempt >= MAX_RETRIES || !isRetryable(throwable, exchange)) {
                    return Mono.error(throwable);
                }

                Duration backoff = calculateBackoff(attempt);
                log.warn("Retry attempt {} after {}ms for {} {}",
                    attempt + 1,
                    backoff.toMillis(),
                    exchange.getRequest().getMethod(),
                    exchange.getRequest().getPath());

                return Mono.delay(backoff)
                    .then(Mono.defer(() ->
                        attemptRequest(exchange, chain, attempt + 1)
                    ));
            });
    }

    private boolean isRetryable(Throwable throwable, ServerWebExchange exchange) {
        // Повторюємо лише ідемпотентні методи
        HttpMethod method = exchange.getRequest().getMethod();
        if (!Set.of(HttpMethod.GET, HttpMethod.PUT, HttpMethod.DELETE)
            .contains(method)) {
            return false;
        }

        // Перевіряє тип винятку
        return throwable instanceof ConnectException ||
               throwable instanceof TimeoutException ||
               throwable instanceof ServiceUnavailableException;
    }

    private Duration calculateBackoff(int attempt) {
        // Експоненціальний backoff із jitter
        long baseBackoff = (long) (
            INITIAL_BACKOFF.toMillis() * Math.pow(BACKOFF_MULTIPLIER, attempt)
        );

        // Додає випадковий jitter (±10%)
        double jitter = 1.0 + (Math.random() - 0.5) * 2 * JITTER_FACTOR;
        long finalBackoff = (long) (baseBackoff * jitter);

        return Duration.ofMillis(finalBackoff);
    }

    @Override
    public int getOrder() {
        return Ordered.LOWEST_PRECEDENCE - 1;
    }
}

Просунуті патерни та найкращі практики

Питання 10: Як реалізувати агрегацію запитів?

Агрегація поєднує кілька викликів мікросервісів в одну відповідь для клієнта, зменшуючи затримку та складність frontend.

AggregationController.javajava
// Багатосервісна агрегація
@RestController
@RequestMapping("/api/aggregate")
@RequiredArgsConstructor
@Slf4j
public class AggregationController {

    private final WebClient.Builder webClientBuilder;
    private final CircuitBreakerRegistry circuitBreakerRegistry;

    @GetMapping("/user-dashboard/{userId}")
    public Mono<DashboardResponse> getUserDashboard(@PathVariable Long userId) {
        // Паралельні виклики до різних сервісів
        Mono<UserProfile> userMono = fetchUserProfile(userId);
        Mono<List<Order>> ordersMono = fetchRecentOrders(userId);
        Mono<NotificationCount> notificationsMono = fetchNotificationCount(userId);

        // Агрегація результатів
        return Mono.zip(userMono, ordersMono, notificationsMono)
            .map(tuple -> DashboardResponse.builder()
                .user(tuple.getT1())
                .recentOrders(tuple.getT2())
                .notificationCount(tuple.getT3())
                .generatedAt(Instant.now())
                .build())
            .timeout(Duration.ofSeconds(5))
            .onErrorResume(this::handleAggregationError);
    }

    private Mono<UserProfile> fetchUserProfile(Long userId) {
        return webClientBuilder.build()
            .get()
            .uri("lb://user-service/users/{id}", userId)
            .retrieve()
            .bodyToMono(UserProfile.class)
            .transform(CircuitBreakerOperator.of(
                circuitBreakerRegistry.circuitBreaker("user-service")
            ))
            .onErrorReturn(new UserProfile(userId, "Unknown", null));
    }

    private Mono<List<Order>> fetchRecentOrders(Long userId) {
        return webClientBuilder.build()
            .get()
            .uri("lb://order-service/orders?userId={id}&limit=5", userId)
            .retrieve()
            .bodyToFlux(Order.class)
            .collectList()
            .transform(CircuitBreakerOperator.of(
                circuitBreakerRegistry.circuitBreaker("order-service")
            ))
            .onErrorReturn(Collections.emptyList());
    }

    private Mono<NotificationCount> fetchNotificationCount(Long userId) {
        return webClientBuilder.build()
            .get()
            .uri("lb://notification-service/notifications/count/{id}", userId)
            .retrieve()
            .bodyToMono(NotificationCount.class)
            .transform(CircuitBreakerOperator.of(
                circuitBreakerRegistry.circuitBreaker("notification-service")
            ))
            .onErrorReturn(new NotificationCount(0, 0));
    }

    private Mono<DashboardResponse> handleAggregationError(Throwable error) {
        log.error("Dashboard aggregation failed: {}", error.getMessage());
        return Mono.just(DashboardResponse.builder()
            .error("Partial data available")
            .generatedAt(Instant.now())
            .build());
    }
}
DashboardResponse.javajava
// DTO агрегованої відповіді
@Data
@Builder
@NoArgsConstructor
@AllArgsConstructor
public class DashboardResponse {
    private UserProfile user;
    private List<Order> recentOrders;
    private NotificationCount notificationCount;
    private Instant generatedAt;
    private String error;
}

Питання 11: Як захистити gateway за допомогою OAuth2?

Інтеграція OAuth2 централізує автентифікацію на рівні gateway, уникаючи дублювання логіки в кожному мікросервісі.

yaml
# application.yml
# Конфігурація OAuth2 Resource Server
spring:
  security:
    oauth2:
      resourceserver:
        jwt:
          issuer-uri: https://auth.example.com/realms/myrealm
          jwk-set-uri: https://auth.example.com/realms/myrealm/protocol/openid-connect/certs
SecurityConfig.javajava
// Конфігурація безпеки gateway
@Configuration
@EnableWebFluxSecurity
public class SecurityConfig {

    @Bean
    public SecurityWebFilterChain securityWebFilterChain(ServerHttpSecurity http) {
        return http
            // Вимикає CSRF для безстанового API
            .csrf(ServerHttpSecurity.CsrfSpec::disable)

            // Конфігурація авторизації
            .authorizeExchange(exchanges -> exchanges
                // Публічні endpoint'и
                .pathMatchers("/actuator/health", "/actuator/info").permitAll()
                .pathMatchers("/api/public/**").permitAll()
                .pathMatchers("/api/auth/**").permitAll()

                // Endpoint'и для конкретних ролей
                .pathMatchers("/api/admin/**").hasRole("ADMIN")
                .pathMatchers(HttpMethod.DELETE, "/api/**").hasRole("ADMIN")

                // Решта потребує автентифікації
                .anyExchange().authenticated()
            )

            // OAuth2 Resource Server із JWT
            .oauth2ResourceServer(oauth2 -> oauth2
                .jwt(jwt -> jwt
                    .jwtAuthenticationConverter(jwtAuthenticationConverter())
                )
            )

            .build();
    }

    @Bean
    public ReactiveJwtAuthenticationConverter jwtAuthenticationConverter() {
        JwtGrantedAuthoritiesConverter grantedAuthoritiesConverter =
            new JwtGrantedAuthoritiesConverter();
        // Витягує ролі з claim "roles"
        grantedAuthoritiesConverter.setAuthoritiesClaimName("roles");
        grantedAuthoritiesConverter.setAuthorityPrefix("ROLE_");

        ReactiveJwtAuthenticationConverter converter =
            new ReactiveJwtAuthenticationConverter();
        converter.setJwtGrantedAuthoritiesConverter(
            new ReactiveJwtGrantedAuthoritiesConverterAdapter(grantedAuthoritiesConverter)
        );

        return converter;
    }
}
TokenRelayFilter.javajava
// Передача токена downstream-сервісам
@Component
public class TokenRelayFilter implements GlobalFilter, Ordered {

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        return ReactiveSecurityContextHolder.getContext()
            .map(SecurityContext::getAuthentication)
            .filter(auth -> auth instanceof JwtAuthenticationToken)
            .cast(JwtAuthenticationToken.class)
            .map(JwtAuthenticationToken::getToken)
            .map(jwt -> {
                // Передає токен downstream-сервісам
                ServerHttpRequest request = exchange.getRequest()
                    .mutate()
                    .header(HttpHeaders.AUTHORIZATION, "Bearer " + jwt.getTokenValue())
                    // Додає інформацію користувача, отриману з токена
                    .header("X-User-Id", jwt.getSubject())
                    .header("X-User-Email", jwt.getClaimAsString("email"))
                    .build();

                return exchange.mutate().request(request).build();
            })
            .defaultIfEmpty(exchange)
            .flatMap(chain::filter);
    }

    @Override
    public int getOrder() {
        // Після автентифікації, перед routing
        return SecurityWebFiltersOrder.AUTHENTICATION.getOrder() + 1;
    }
}

Готовий до співбесід з Spring Boot?

Практикуйся з нашими інтерактивними симуляторами, flashcards та технічними тестами.

Питання 12: Які найкращі практики моніторингу та спостережуваності?

Моніторинг gateway критично важливий для виявлення проблем продуктивності та доступності в мікросервісній архітектурі.

yaml
# application.yml
# Конфігурація спостережуваності
management:
  endpoints:
    web:
      exposure:
        include: health,info,metrics,prometheus,gateway
  metrics:
    tags:
      application: api-gateway
    distribution:
      percentiles-histogram:
        http.server.requests: true
      percentiles:
        http.server.requests: 0.5, 0.95, 0.99
  tracing:
    sampling:
      probability: 1.0

spring:
  cloud:
    gateway:
      metrics:
        enabled: true
        tags:
          path:
            enabled: true
MetricsFilter.javajava
// Фільтр кастомних метрик
@Component
@RequiredArgsConstructor
@Slf4j
public class MetricsFilter implements GlobalFilter, Ordered {

    private final MeterRegistry meterRegistry;

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        long startTime = System.nanoTime();
        String path = exchange.getRequest().getPath().value();
        String method = exchange.getRequest().getMethod().name();

        // Витягує цільовий сервіс із маршруту
        Route route = exchange.getAttribute(ServerWebExchangeUtils.GATEWAY_ROUTE_ATTR);
        String routeId = route != null ? route.getId() : "unknown";

        return chain.filter(exchange)
            .doOnSuccess(v -> recordMetrics(exchange, startTime, routeId, "success"))
            .doOnError(e -> recordMetrics(exchange, startTime, routeId, "error"));
    }

    private void recordMetrics(
        ServerWebExchange exchange,
        long startTime,
        String routeId,
        String outcome
    ) {
        long duration = System.nanoTime() - startTime;
        HttpStatusCode status = exchange.getResponse().getStatusCode();
        String statusCode = status != null ? String.valueOf(status.value()) : "0";

        // Timer для затримки
        Timer.builder("gateway.request.duration")
            .tag("route", routeId)
            .tag("method", exchange.getRequest().getMethod().name())
            .tag("status", statusCode)
            .tag("outcome", outcome)
            .register(meterRegistry)
            .record(duration, TimeUnit.NANOSECONDS);

        // Лічильник запитів
        meterRegistry.counter(
            "gateway.requests.total",
            "route", routeId,
            "status", statusCode
        ).increment();

        // Логи повільних запитів
        if (duration > TimeUnit.SECONDS.toNanos(1)) {
            log.warn("Slow request: {} {} - {}ms (route: {})",
                exchange.getRequest().getMethod(),
                exchange.getRequest().getPath(),
                TimeUnit.NANOSECONDS.toMillis(duration),
                routeId);
        }
    }

    @Override
    public int getOrder() {
        return Ordered.HIGHEST_PRECEDENCE;
    }
}
TracingFilter.javajava
// Поширення контексту tracing
@Component
@RequiredArgsConstructor
public class TracingFilter implements GlobalFilter, Ordered {

    private final Tracer tracer;

    @Override
    public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
        // Створює або отримує span tracing
        Span span = tracer.nextSpan()
            .name("gateway-request")
            .tag("http.method", exchange.getRequest().getMethod().name())
            .tag("http.url", exchange.getRequest().getURI().toString())
            .start();

        // Інжектує заголовки tracing
        ServerHttpRequest request = exchange.getRequest()
            .mutate()
            .header("X-Trace-Id", span.context().traceId())
            .header("X-Span-Id", span.context().spanId())
            .build();

        return chain.filter(exchange.mutate().request(request).build())
            .doOnSuccess(v -> {
                HttpStatusCode status = exchange.getResponse().getStatusCode();
                span.tag("http.status_code",
                    status != null ? String.valueOf(status.value()) : "0");
                span.end();
            })
            .doOnError(e -> {
                span.tag("error", e.getMessage());
                span.end();
            });
    }

    @Override
    public int getOrder() {
        return Ordered.HIGHEST_PRECEDENCE + 1;
    }
}

Таблиця ключових метрик:

text
| Метрика                           | Опис                             |
|-----------------------------------|----------------------------------|
| gateway.request.duration          | Затримка на маршрут/статус       |
| gateway.requests.total            | Лічильник запитів                |
| resilience4j.circuitbreaker.state | Стани circuit breaker            |
| http.server.requests              | Стандартні HTTP-метрики          |
| spring.cloud.gateway.routes       | Активні маршрути                 |
Рекомендовані dashboard'и

Використовуйте Grafana з dashboard'ами Spring Cloud Gateway та Resilience4j для візуалізації метрик. Налаштуйте сповіщення на затримку P99 та частоту помилок.

Висновок

Spring Cloud Gateway — ключовий компонент сучасних мікросервісних архітектур. Основні моменти, які варто запам'ятати для співбесід:

Архітектура та концепції:

  • ✅ Routes, Predicates і Filters формують базову модель
  • ✅ Реактивна архітектура з WebFlux і Netty
  • ✅ Нативна інтеграція з екосистемою Spring Cloud

Основні можливості:

  • ✅ Динамічний routing за кількома критеріями
  • ✅ Pre-/post-фільтри для трансформації запитів і відповідей
  • ✅ Load balancing зі Spring Cloud LoadBalancer

Стійкість і безпека:

  • ✅ Circuit breaker із Resilience4j і fallback
  • ✅ Retry з експоненціальним backoff і jitter
  • ✅ Централізована автентифікація OAuth2/JWT

Спостережуваність:

  • ✅ Метрики Micrometer з тегами на маршрут
  • ✅ Розподілений tracing із поширенням контексту
  • ✅ Health check'и та actuator-endpoint'и

Володіння Spring Cloud Gateway свідчить про глибоке розуміння мікросервісних патернів і викликів масштабованості. Ці компетенції незамінні для проєктування надійних і високопродуктивних API Gateway.

Починай практикувати!

Перевір свої знання з нашими симуляторами співбесід та технічними тестами.

Теги

#spring cloud gateway
#microservices
#api gateway
#routing
#technical interview

Поділитися

Пов'язані статті