미리보기

sLLM 모델 연구 개발 2023-05 ~ Now

• 데이터 전처리 및 LLM 모델 연구 개발 (Distributed Training, Deepspeed, PEFT)
• Argo Workflow 기반 Train, Evaluation, Quantization and Deploy 파이프라인 구축
• sLLM Inference Server 배포 (TGI, vLLM, TensorRT-LLM)
• Azure Kubernetes Server (AKS) 환경 구축 및 유지 보수
  
  

STT 모델 추론 최적화 2023-01 ~ 2023-04

• Improved STT model latency by 30% through the application of TensorRT Engine
• Introduced Triton Inference Server and optimized performance using Model Analyzer
• Maintained Katib, Argo Workflow, and MLflow

삼성 멀티캠퍼스 추천 서비스 2022-02 ~ 2023-01


개요 : 사용자 시청 이력 데이터를 기반으로 컨텐츠 추천 서비스 개발
역할 : 데이터 분석 및 엔지니어링, 추천 모델 개발, 인프라 및 파이프 라인 구축 담당
주요 성과 :
- Sequential with side information 추천 모델 구현 MRR@20 56.4% 달성
- Airflow 기반 데이터 수집, 전처리 및 모델 학습 / 추론 Workflow 구축
- 컨텐츠 추천 서비스 제공으로 CTR 16% 상승

와플 수학 지식 추적 서비스 2021-05 ~ 2022-02


역할 : 데이터 분석, 전처리, Knowledge Tracing(KT) 모델 연구 및 배포
주요 성과 :

• Deep Learning 기반 KT 모델 연구 AUC 81.98% 달성
• Triton Inference Server 도입을 통한 추론 성능 300% 개선 및 Kubernetes 배포
• Java Spring 기반의 문제 카드 생성 파트 백앤드 유지 보수
• React, MobX를 활용하여 문제 관리 어드민 페이지 개발