跳到正文
GitHub·· 6 天前AI 评分8

韩国工程师 Lee Sunwoo 的 GitHub 个人主页：RAG 管线与 LLM 服务

sunwoo8478/sunwoo8478

AI 导读

韩国后端/AI 搜索工程师 Lee Sunwoo 的 GitHub 主页展示其 RAG 管线与 LLM 服务方向，涵盖文档采集、分块、精确检索、向量检索与重排序，以及 vLLM、SSE 流式输出、TTFT 与吞吐量。

正文

Lee Sunwoo terminal profile hero

이선우

Backend / AI Search Engineer
RAG pipeline, LLM serving, API design, production-minded backend

https://sunwoomjc.tistory.com/

GitHub Email Views

$ cat ./profile
name        Lee Sunwoo
role        Backend / AI Search
focus       retrieval quality, RAG, LLM serving, API systems
current     KIS 모의투자 24시간 자율매매 대시보드
principle   make it work, then make the failure traceable

What I Build

백엔드와 AI 검색 시스템을 다룹니다.
요즘은 상담 도메인의 질문을 RAG 파이프라인으로 연결하고, GPU 서버에서 LLM 응답을 안정적으로 서빙하는 일을 하고 있습니다. 기능을 빠르게 붙이는 것보다, 나중에 문제가 생겼을 때 원인을 좁힐 수 있는 구조를 더 좋아합니다.

Backend and AI search system board

Area What I care about
RAG Pipeline 문서 수집, 청킹, 정확 검색, 벡터 검색, 리랭킹, 답변 근거 연결
LLM Serving vLLM, SSE streaming, TTFT, throughput, concurrent requests
Backend API 설계, 도메인 모델링, 인증/인가, 관리자 기능
Data PostgreSQL, pgvector, MariaDB, Redis, migration, indexing
Operation Docker, GitHub Actions, Linux, logs, load test, recovery path

Selected Work

Selected projects

Project What it proves Stack
Korean Knowledge Assistant 정확 검색과 벡터 검색을 함께 쓰는 한국어 RAG 서비스. 답변 근거, 리랭킹, SSE 스트리밍, 운영 콘솔까지 묶었습니다. Architecture · Operations FastAPI, PostgreSQL, pgvector, React
PayFit ERP 직원, 근태, 급여 계산, 공제, 승인, 명세서 흐름을 도메인 중심으로 구성한 HR·Payroll 시스템입니다. Architecture · Payroll Rules Kotlin, Spring Boot, PostgreSQL, React
KIS 모의투자 대시보드 실계좌 연동 전 전략을 검증하는 24시간 자율 매매 시스템입니다. 시세 감시, 로컬 LLM 판단, 위험 한도, 모의 체결, 성과 기록을 정규장 동안 자동 반복합니다. FastAPI, Next.js, SQLite, pykrx
서울노동포털 AI 노무상담 챗봇 비공개 프로젝트입니다. 노동 상담 데이터를 기반으로 검색 근거를 찾고, 상담 연계까지 이어지는 흐름을 만들고 있습니다. Java, Spring Boot, React, MariaDB, vLLM
최근 사이드 프로젝트 비공개 저장소로 진행 중인 소규모 실무 프로젝트들입니다 — 여행 족보 공유 앱(Flutter), 안산 차량등록 관리 시스템(Java/Spring), 카페·정원 소개 웹(Next.js/TypeScript). Flutter, Spring Boot, Next.js, TypeScript

Proof of Work

If this breaks I usually look at
답변 근거가 약함 exact/vector/rerank 후보, chunk 품질, query normalization
LLM 응답이 늦음 TTFT, tokens/sec, reranker latency, DB query time
운영 중 장애가 남 request log, external endpoint, timeout, recovery path
도메인이 복잡함 실행 단위, 상태 전이, 계산 결과, audit trail
데이터가 커짐 index strategy, migration plan, cache boundary

Engineering Notes

retrieval
  ├─ exact match for terms that must not drift
  ├─ vector search for language mismatch
  ├─ reranking before context assembly
  └─ answer boundary between DB facts and model suggestions

serving
  ├─ vLLM endpoint
  ├─ SSE response stream
  ├─ TTFT / throughput check
  └─ fallback path when external services fail

backend
  ├─ clear request / response contract
  ├─ domain objects before screens
  ├─ auth and admin flows
  └─ logs that help narrow the blast radius

Stack

Backend and frontend stack
Data AI and infrastructure stack

Backend AI / Search Data Frontend Infra
Java Kotlin Python RAG vLLM Embedding PostgreSQL MariaDB Redis React TypeScript Docker Linux GitHub Actions

Repo Signals

Repository CI Docs Notes
korean-chatbot CI Architecture · Operations · Security Hybrid RAG, SSE, admin console
ERP CI Architecture · Payroll Rules · Security Payroll domain, status flow, JWT

Notes

Topic Note
API 요청과 응답이 명확한 구조를 선호합니다.
Search 실패 케이스를 모으고 다시 검색 품질로 되돌리는 흐름을 중요하게 봅니다.
LLM Serving “돌아간다”보다 “어디서 느린지 안다”를 더 중요하게 봅니다.
Data 인덱스, 트랜잭션, 마이그레이션을 같이 생각합니다.
Logs 장애가 났을 때 범위를 좁힐 수 있는 기록을 남기려 합니다.

来源：GitHub · github.com

#其他