기술
- NSML - 맞춤형 스케줄러 개발기
NSML 서비스의 특성에 따른 복잡한 스케줄링 상황을 해결하기 위하여 Kubernetes 스케줄링 프레임워크를 활용하여 개발한 경험과 지식을 설명합니다.
2022.10.14 - NSML - 분산 학습 플랫폼의 스케줄링 요구 사항과 해결 방안
NSML 서비스를 대규모 분산 학습에 최적화하기 위한 스케줄링 요구 사항과 해결 방안을 공유합니다.
2022.08.18 - HyperCLOVA 서빙 최적화 포인트
HyperCLOVA 기반 서비스를 최적화하기 위해 멀티 배치를 적용한 사례와 멀티 턴 패턴의 서비스에 캐시를 적용하고 테스트해 본 결과를 공유드리고자 합니다.
2022.03.10 - HyperCLOVA API 기능 확장
HyperCLOVA 기반 서비스에 Early Stop과 시맨틱 검색, 프롬프트 튜닝 기능을 적용하기 위해 연구했던 내용을 실제 사례 중심으로 공유드리고자 합니다.
2022.02.24 - HyperCLOVA 서빙 프레임워크 선정
HyperCLOVA의 추론 성능을 최적화하기 위해 트랜스포머 프레임워크를 변경하게 된 배경과 변경 과정에서 겪은 경험과 노하우를 공유드리고자 합니다.
2022.01.05
