언어 모델

이미 가진 하드웨어에서 돌리는 언어 모델. 양자화에 따른 손익, 컨텍스트 길이의 한계, 토큰 속도를 측정 조건과 함께 적습니다.

글 1편