h-lab/docs/superpowers/specs/2026-06-25-gemini-url-subtitles-design.md

AI 자막 2종(음성/화면) → 한국어 SRT 설계

• 날짜: 2026-06-25
• 상태: 설계 확정(구현 대기)
• 관련: 제거된 화면 자막 OCR의 대체

1. 목적

재가공(/rework/{id}) 화면에서 한 영상의 자막을 두 갈래로 한국어 SRT까지 만든다:

• 왼쪽 = 음성 자막: Whisper 전사(밀리초 정밀 타임스탬프) → 한국어 번역
• 오른쪽 = 화면 자막: Gemini가 유튜브 URL을 보고 화면에 박힌 자막 추출 → 한국어 번역

둘을 좌우 분할 화면으로 동시에 표시하고, 각각 SRT로 다운로드한다.

배경: Tesseract OCR은 스타일 자막을 못 읽어 제거됨. 화면 자막은 Gemini가 잘 읽고, 음성은 이미 있는 Whisper가 정밀한 타임스탬프를 준다 → 각 강점을 살려 2종을 만든다.

타임스탬프 정밀도(중요)

• 음성(Whisper): 밀리초 정밀 → 거의 완벽.
• 화면(Gemini): 초당 1프레임 샘플링, MM:SS → ~1초 근사(완벽 불가, 불가피).

2. 배경 / 현재 구조 (재사용 대상)

• ChannelVideoScript(videoId당 1건): Whisper 전사 결과(segments_json) 저장. 스크립트 리스트·SRT·번역이 공유.
• 음성 한국어 = 기존 자산 재사용:
  • 전사: ChannelService.transcribeFromCached(받은 원본 mp4 → Whisper).
  • 번역(세그먼트별): CurationService.translateScript(id, "ko", "segments") → 세그먼트와 1:1 정렬된 한국어 텍스트 배열(texts). LibreTranslate translateBatch 사용.
  • 즉 왼쪽(음성) = Whisper 세그먼트(타임코드) + 그 한국어 번역 배열.
• 화면 한국어 = 신규(Gemini): 유튜브 URL → Gemini → 한국어 세그먼트.
• SRT 생성기: 프론트 buildSrt(segs, speed) 재사용(세그먼트 → SRT 문자열).
• ChannelVideo는 videoId만 저장 → URL은 watch?v={videoId}.

3. 사용자 흐름

[재가공 /rework/{id}] "AI 자막(음성/화면)" 생성 클릭
   ├─(왼쪽: 음성) 저장된 Whisper 세그먼트 필요(없으면 '전사' 안내)
   │     → translate(format=segments) 로 한국어 배열 → (세그먼트 타임코드 + 한국어) = 음성 한국어 세그먼트
   │
   └─(오른쪽: 화면) POST /{id}/gemini-subtitles
         → videoId→URL → Gemini REST(file_data + 프롬프트, responseMimeType=json)
         → 한국어 화면 세그먼트
   ▼
[화면] 좌우 분할: 왼쪽 음성 / 오른쪽 화면, 각각 [00:00] 한국어 리스트
   ▼
각 패널의 "SRT 다운로드" → 음성 SRT / 화면 SRT (둘 다 한국어)

4. 컴포넌트

4.1 GeminiSubtitleService (신규, com.hlab.yanalyst.service)

유튜브 URL을 Gemini REST로 보내 화면 자막 → 한국어 세그먼트를 받는다.

• List<ScriptResponseDto.Segment> fetchKoreanScreenSubtitles(String videoId)
  1. URL: https://www.youtube.com/watch?v={videoId}.
  2. buildRequest(videoId, prompt): contents.parts=[{text:프롬프트}, {file_data:{file_uri:URL}}], generationConfig.responseMimeType=application/json, responseSchema=array(object{start:number(초), end:number(초), text:string(한국어)}). 프롬프트: "영상에 화면으로 표시되는(박힌) 자막만 추출해 한국어로 번역. 음성은 무시. JSON 배열 [{start,end,text}] 로만 출력. start/end는 초(소수 허용), text는 한국어."
  3. POST https://generativelanguage.googleapis.com/v1beta/models/{model}:generateContent?key={apiKey} (geminiRestTemplate, read timeout 5분).
  4. candidates[0].content.parts[0].text → JSON 파싱 → 세그먼트 리스트.
• 순수 메서드(HTTP 없음, 단위테스트):
  • buildRequest(videoId, prompt) → 요청 Map(parts/URL/responseMimeType 검증)
  • extractSegments(ObjectMapper, responseJson) → List<Segment> (candidates→parts→text의 JSON 배열 파싱, 코드펜스 ```json 방어 제거 후 파싱, 깨지면 빈 리스트)
• 설정: @Value gemini.api-key, gemini.model.

4.2 컨트롤러

• POST /{id}/gemini-subtitles → curationService.geminiScreenSubtitles(id) → { segments: [한국어 화면 세그먼트] }. 빈 결과면 안내(영상에 화면 자막 없음/비공개).
• (음성 한국어는 기존 POST /{id}/translate?target=ko&format=segments 그대로 사용 — 신규 없음.)

4.3 CurationService.geminiScreenSubtitles(Long id)

• find(id) → geminiSubtitleService.fetchKoreanScreenSubtitles(videoId) → {segments}.
• 저장하지 않음(transient) — 화면 자막은 표시·다운로드용. (음성은 기존 스크립트를 그대로 둠.)

4.4 rework.html — 좌우 분할 패널

• 새 섹션 "AI 자막 (음성 / 화면)" + 생성 버튼.
• 생성 시:
  • 왼쪽(음성): 저장된 Whisper 세그먼트 있으면 translate(format=segments)로 한국어 배열 받아 (세그먼트 타임코드 + 한국어) 리스트 렌더. 없으면 "먼저 '전사' 필요" 안내.
  • 오른쪽(화면): gemini-subtitles 호출 → 한국어 세그먼트 리스트 렌더.
• 각 패널 하단 "SRT 다운로드"(buildSrt 재사용; 파일명 audio_ko_{id}.srt / screen_ko_{id}.srt).
• 세그먼트 클릭 시 기존 seekTo로 왼쪽 플레이어 이동(선택, 음성 패널에 적용).

5. 설정 (application.yml)

gemini:
  api-key: ${GEMINI_API_KEY:}                 # AI Studio 키(무료 티어)
  model: ${GEMINI_MODEL:gemini-2.5-flash}     # 유튜브 URL 지원, 무료 티어

RestTemplateConfig에 geminiRestTemplate 빈 추가(read timeout 5분).

6. 에러 처리

• 키 없음/401 → "GEMINI_API_KEY 미설정/무효" 안내.
• 비공개·화면자막 없음·빈 결과 → 안내 메시지(오른쪽 패널만 영향).
• 429(무료 한도 초과) → 한도 안내.
• JSON 파싱 실패 → 코드펜스 제거 후 재시도, 실패 시 원문 일부 담은 예외.
• 음성 패널: 전사 세그먼트 없으면 "전사 먼저" 안내(번역 호출 안 함).
• 시크릿(키)은 로그/응답 비노출.

7. 범위 제외 (YAGNI)

• 화면 자막 영구 저장(이번엔 transient: 표시·다운로드만)
• 원본 언어 SRT(이번엔 둘 다 한국어)
• 음성 자동 전사 트리거(전사는 기존 버튼으로 선행; 이 기능은 있으면 번역만)
• 비동기 작업큐, 무료 티어 사용량 모니터링, 타임스탬프 정밀 보정

8. 테스트 (src/test)

• GeminiSubtitleService.buildRequest: parts에 프롬프트+file_data(youtube URL), responseMimeType=application/json.
• extractSegments: 정상 JSON 배열 파싱 / 코드펜스 감싼 응답 제거 후 파싱 / 깨진·빈 응답 → 빈 리스트.
• 실제 Gemini·Whisper 호출은 라이브 검증(짧은 공개 쇼츠: 음성/화면 각각 한국어·타임코드 확인).