Large Language Model 연구 및 개발 Internship

<p><strong><팀 소개></strong></p>
<p>EXAONE Lab은 초거대 언어 모델과 관련된 기술을 선행 연구/개발하는 조직입니다.</p>
<p>초거대 AI 최첨단 기술을 고도화하고 이를 실제 서비스에 적용시킴으로써 세상을 더욱 이롭게 바꿔 나갈 열정적인 구성원을 찾고 있습니다.</p>
<p> </p>
<p><strong><수행 업무></strong></p>
<p>초거대 언어 모델 관련 연구/개발 및 실험</p>
<p>  - 학습 데이터 수집 및 전처리 파이프라인 구축</p>
<p>  - In-context learning 및 fine-tuning 벤치마크 성능 측정</p>
<p>  - In-context learning을 위한 prompt engineering</p>
<p>- Inference 엔진 최적화</p>
<p>- Multi-task instruction tuning 및 성능 향상 기법 연구/개발</p>
<p>- Toxic classifier 연구/개발 및 초거대 모델 safety 방법론 연구/개발</p>
<p>  - 언어 모델 강화학습 성능 향상 방법론 연구 및 분산 학습 개발</p>
<p>  - 초거대 모델 경량화 (model compression) 방법론 연구/개발</p>
<p> </p>
<p><strong><지원 자격></strong></p>
<p>  - 학부 졸업 예정자 및 기 졸업하신 분, 석사/박사 재학중이신 분</p>
<p>  - Deep learning, machine learning 알고리즘 개발 경험 필수</p>
<p>  - Linux, Python, PyTorch, HuggingFace 언어 모델(BERT, T5, GPT 등) 활용 능력 필수</p>
<p> </p>
<p><strong><우대 사항></strong></p>
<p>언어 모델 사전 학습 개발 경험 우대</p>
<p>DeepSpeed, FastTransformer 개발 경험 우대</p>
<p>Leaderboard 상위권 달성, competition 입상, 오픈소스 활동 우대</p>
<p>ML production cycle (데이터 수집, 모델 개발, 모델 테스트, 서빙) 경험 우대</p>
<p>대용량 데이터 처리 framework (Apache Beam, Amazon EMR, GCP Dataproc 등) 개발 경험 우대</p>
<p>언어 모델 관련 논문 게재 경험 우대</p>
<p> </p>
<p><strong><전공></strong></p>
<p>컴퓨터공학, 전산학, 인공지능 등 머신러닝 전공자</p>