회사 소개
AI 기술로 비즈니스 문제를 푸는 솔루션과 LLM API·Private LLM 서비스를 개발
팀 소개
LLM Serving 팀: 대규모 GPU 클러스터에서 Upstage Solar LLM의 서빙 플랫폼과 추론 최적화 기술을 연구·개발
주요 업무
LLM 추론의 latency·throughput·cost 간 trade-off 최적화 시스템과 알고리즘 설계·구현
모델 경량화(quantization, pruning, kv-cache compression 등) 파이프라인 발전
Speculative Decoding 등 최신 추론 기법을 연구하고 프로덕션 환경에 적용
자격 요건
3년 이상 모델 추론 최적화 연구/개발 경험
최신 LLM 아키텍처 및 추론 최적화 기술에 대한 깊은 이해
vLLM·SGLang·TensorRT-LLM 등 LLM 추론 엔진의 사용 경험과 내부 동작 이해
우대 사항
ML/NLP 분야 국제 학회 논문 게재 경험(1저자 혹은 교신저자)
vLLM·SGLang·TensorRT-LLM 등 오픈소스 LLM 프레임워크 기여 경험
MoE, long-context, multimodal 모델의 서빙 최적화 경험
근무 조건
정규직
원격 근무 가능(Anywhere On Earth)
채용 절차
서류 → 기술 인터뷰(1차/2차) → 컬처 인터뷰 → 최종 인터뷰 → 최종 결과 발표
CV 등 제출 자료는 PDF 형식으로 업로드
복지 혜택
원격 근무 장비를 500만원 예산 내에서 자유롭게 선택
카페 음료 비용, 스터디룸·공유오피스 이용 비용 지원
업무 관련 소프트웨어·도서·교육 및 어학 수강비 지원
인재상
어디서든 함께 일하는 원격 근무 문화