@Configuration public class EmbeddingConfig { @Bean public EmbeddingCacheManager embeddingCacheManager() { return new EmbeddingCacheManager( EmbeddingCacheManagerConfig.builder() .elasticSearchCacheHosts(Arrays.asList("localhost")) // ES 서버 hosts .elasticSearchCachePort(9200) // ES 포트 .elasticSearchCacheAliasName("embeddings-cache") // ES 인덱스 별칭 .modelName("text-embedding-ada-002") // 임베딩 모델명 .embeddingApiUrl("https://api.openai.com/v1/embeddings") // 임베딩 API URL .apiKey("your-openai-api-key") // API 인증 키 .retentionMonth(3) // 선택사항: 보관 기간 (기본값: 3개월) .maxLength(3000) // 선택사항: 최대 텍스트 길이 (기본값: 3,000자) .connectionTimeoutMs(10000) // 선택사항: 연결 타임아웃 (기본값: 10초) .socketTimeoutMs(30000) // 선택사항: 소켓 타임아웃 (기본값: 30초) // 회로 차단기 설정 .enableCircuitBreaker(true) // 회로 차단기 활성화 .circuitBreakerFailureRateThreshold(50.0f) // 실패율 임계값 (%) // 메트릭 수집 설정 .enableMetrics(true) // 메트릭 수집 활성화 // 재시도 설정 .enableRetry(true) // 재시도 활성화 .maxRetryAttempts(3) // 최대 재시도 횟수 .build() ); } }

@Service public class EmbeddingService { @Autowired private EmbeddingCacheManager cacheManager; /**  * 텍스트의 임베딩을 가져옵니다 (캐시 우선, 캐시 미스 시 생성)  */ public List<Double> getEmbedding(String text) { try { return cacheManager.getEmbedding(text); } catch (Exception e) { log.error("임베딩 가져오기 실패: {}", e.getMessage()); throw new RuntimeException("임베딩 처리 중 오류 발생", e); } } /**  * 시스템 헬스 체크 수행  */ public void checkSystemHealth() { HealthCheck healthCheck = cacheManager.performHealthCheck(); log.info("시스템 상태: {} - {}", healthCheck.getStatus(), healthCheck.getMessage()); // 각 구성 요소 상태 확인 healthCheck.getComponents().forEach((component, health) -> { log.info("[{}] 상태: {} - {} (응답시간: {}ms)", component, health.getStatus(), health.getMessage(), health.getResponseTimeMs()); }); } /**  * 성능 메트릭 조회  */ public void showMetrics() { MetricsSummary metrics = cacheManager.getMetrics(); if (metrics.isEnabled()) { log.info("캐시 적중률: {:.1f}%", metrics.getCacheHitRate()); log.info("총 요청 수: {}", (long) metrics.getTotalRequests()); log.info("성공률: {:.1f}%", metrics.getSuccessRate()); log.info("평균 응답 시간: {:.1f}ms", metrics.getAverageTotalRequestTime()); log.info("성능 등급: {}", metrics.getPerformanceGrade()); } } /**  * 여러 텍스트의 임베딩을 미리 생성하여 캐시에 저장  */ public void preloadEmbeddings(List<String> texts) { List<CachedEmbeddingDocument> documents = texts.stream() .map(text -> { try { List<Double> embedding = cacheManager.generateEmbedding(text); return CachedEmbeddingDocument.builder() .text(text) .embedding(embedding) .build(); } catch (Exception e) { log.warn("임베딩 생성 실패 (텍스트: {}): {}", text, e.getMessage()); return null; } }) .filter(Objects::nonNull) .collect(Collectors.toList()); if (!documents.isEmpty()) { try { cacheManager.storeEmbeddings(documents); log.info("{}개 임베딩이 캐시에 저장되었습니다", documents.size()); } catch (Exception e) { log.error("배치 임베딩 저장 실패: {}", e.getMessage()); } } } }

@Service public class AsyncEmbeddingService { @Autowired private EmbeddingCacheManager cacheManager; private AsyncEmbeddingService asyncService; @PostConstruct public void initialize() { this.asyncService = cacheManager.createAsyncService(); } /**  * 비동기로 임베딩 생성  */ public CompletableFuture<List<Double>> getEmbeddingAsync(String text) { return asyncService.getEmbeddingAsync(text) .thenApply(embedding -> { log.info("임베딩 생성 완료: {} 차원", embedding.size()); return embedding; }) .exceptionally(throwable -> { log.error("비동기 임베딩 생성 실패: {}", throwable.getMessage()); return null; }); } /**  * 여러 텍스트를 병렬로 처리  */ public CompletableFuture<List<List<Double>>> processBatch(List<String> texts) { return asyncService.getEmbeddingsBatchAsync(texts) .thenApply(embeddings -> { log.info("배치 처리 완료: {}개 임베딩", embeddings.size()); return embeddings; }); } /**  * 주기적 헬스 체크 설정  */ public void startPeriodicHealthCheck() { asyncService.schedulePeriodicHealthCheck(5, healthCheck -> { if (healthCheck.getStatus() == HealthCheck.HealthStatus.DOWN) { log.warn("시스템 상태 이상: {}", healthCheck.getMessage()); // 알림 발송 등 대응 로직 } }); } @PreDestroy public void cleanup() { if (asyncService != null) { asyncService.shutdown(); } } }

@Component public class AdvancedEmbeddingService { private final EmbeddingCacheManager cacheManager; public AdvancedEmbeddingService(EmbeddingCacheManager cacheManager) { this.cacheManager = cacheManager; } /**  * 캐시에서만 임베딩 조회 (API 호출 없음)  */ public Optional<List<Double>> getCachedEmbeddingOnly(String text) { try { List<Double> embedding = cacheManager.getEmbeddingFromCache(text); return Optional.ofNullable(embedding); } catch (Exception e) { log.debug("캐시 조회 실패: {}", e.getMessage()); return Optional.empty(); } } /**  * 텍스트 정규화 확인  */ public String getNormalizedText(String text) { return cacheManager.normalize(text); } /**  * 사용자 정의 캐시 스토어와 생성기 사용  */ public void customImplementation() { EmbeddingCacheManagerConfig config = EmbeddingCacheManagerConfig.builder() .elasticSearchCacheHosts(Arrays.asList("es1.example.com", "es2.example.com")) .elasticSearchCachePort(9200) .elasticSearchCacheAliasName("custom-embeddings") .modelName("custom-model") .embeddingApiUrl("https://custom-api.example.com/embeddings") .build(); // 사용자 정의 구현체 주입 가능 EmbeddingCacheManager customManager = new EmbeddingCacheManager( config, new CustomEmbeddingCacheStore(config), // 사용자 정의 캐시 스토어 new CustomEmbeddingGenerator(config) // 사용자 정의 임베딩 생성기 ); } }