업스테이지

업스테이지

AI Engineer - LLM Serving Platform

직무
AI 엔지니어, 소프트웨어 엔지니어
지역
서울
고용형태
정규직
경력
3년 이상
마감일
채용시 마감

회사 소개

AI 기술로 해결할 수 있는 비즈니스 문제를 풀어감

팀 소개

LLM Serving 팀: 대규모 GPU 클러스터에서 Upstage Solar LLM을 빠르고 안정적으로 제공하는 서빙 플랫폼과 추론 최적화 기술 연구개발

주요 업무

대규모 GPU 클러스터 LLM 서빙 플랫폼 설계·개발·운영
대규모 트래픽 처리를 위한 라우팅·스케줄링 로직 구현
Prefill/Decode Disaggregation, KV Cache offloading 등 서빙 아키텍처 프로덕션 도입·운영

자격 요건

3년 이상 AI 모델 서빙 경험
최신 LLM 아키텍처 및 서빙 기술에 대한 깊은 이해
실시간 AI 모델 추론 서비스 개발·운영 경험

우대 사항

멀티 리전 글로벌 서비스 운영 경험
vLLM·SGLang·TensorRT-LLM 등 오픈소스 LLM 프레임워크 기여 경험
대규모 GPU 클러스터 운영 경험

근무 조건

정규직
어디서든 함께 일할 수 있는 원격 근무 가능

채용 절차

서류 → 과제 테스트 → 기술 인터뷰(1차/2차) → 컬처 인터뷰 → 최종 인터뷰 → 최종 결과 발표
이력서(CV) PDF 형식 업로드

복지 혜택

원격 근무 장비 500만원 예산 내 자유 선택
카페·스터디룸·공유오피스 이용 비용 지원
업무 관련 소프트웨어·도서·교육·어학 수강비 지원
무료

서류 제출 전, 결과 알고 싶다면?

합격 예측