Tag Archives : #기술
- HyperCLOVA 서빙 최적화 포인트
HyperCLOVA 기반 서비스를 최적화하기 위해 멀티 배치를 적용한 사례와 멀티 턴 패턴의 서비스에 캐시를 적용하고 테스트해 본 결과를 공유드리고자 합니다.
2022.03.10 - HyperCLOVA API 기능 확장
HyperCLOVA 기반 서비스에 Early Stop과 시맨틱 검색, 프롬프트 튜닝 기능을 적용하기 위해 연구했던 내용을 실제 사례 중심으로 공유드리고자 합니다.
2022.02.24 - HyperCLOVA 서빙 프레임워크 선정
HyperCLOVA의 추론 성능을 최적화하기 위해 트랜스포머 프레임워크를 변경하게 된 배경과 변경 과정에서 겪은 경험과 노하우를 공유드리고자 합니다.
2022.01.05
