업스테이지

업스테이지

AI Research Engineer - LLM Inference Optimization

직무
AI 엔지니어, 머신러닝 엔지니어
지역
서울
고용형태
정규직
경력
3년 이상
마감일
채용시 마감

회사 소개

AI 기술로 비즈니스 문제를 푸는 솔루션과 LLM API·Private LLM 서비스를 개발

팀 소개

LLM Serving 팀: 대규모 GPU 클러스터에서 Upstage Solar LLM의 서빙 플랫폼과 추론 최적화 기술을 연구·개발

주요 업무

LLM 추론의 latency·throughput·cost 간 trade-off 최적화 시스템과 알고리즘 설계·구현
모델 경량화(quantization, pruning, kv-cache compression 등) 파이프라인 발전
Speculative Decoding 등 최신 추론 기법을 연구하고 프로덕션 환경에 적용

자격 요건

3년 이상 모델 추론 최적화 연구/개발 경험
최신 LLM 아키텍처 및 추론 최적화 기술에 대한 깊은 이해
vLLM·SGLang·TensorRT-LLM 등 LLM 추론 엔진의 사용 경험과 내부 동작 이해

우대 사항

ML/NLP 분야 국제 학회 논문 게재 경험(1저자 혹은 교신저자)
vLLM·SGLang·TensorRT-LLM 등 오픈소스 LLM 프레임워크 기여 경험
MoE, long-context, multimodal 모델의 서빙 최적화 경험

근무 조건

정규직
원격 근무 가능(Anywhere On Earth)

채용 절차

서류 → 기술 인터뷰(1차/2차) → 컬처 인터뷰 → 최종 인터뷰 → 최종 결과 발표
CV 등 제출 자료는 PDF 형식으로 업로드

복지 혜택

원격 근무 장비를 500만원 예산 내에서 자유롭게 선택
카페 음료 비용, 스터디룸·공유오피스 이용 비용 지원
업무 관련 소프트웨어·도서·교육 및 어학 수강비 지원

인재상

어디서든 함께 일하는 원격 근무 문화
무료

서류 제출 전, 결과 알고 싶다면?

합격 예측