Datadog trained their own cheap SOTA SRE LLM [pdf]

데이터 분석 회사 데이터독(Datadog)이 자체 개발한 AI 모델 ‘Scout’을 활용해 시스템 관리 업무를 자동화했습니다. 이 모델은 기존 AI 모델보다 저렴한 비용으로 높은 성능을 냅니다. 데이터독은 이 모델을 통해 시스템 오류 예측, 문제 해결 시간을 단축하는 등 효율성을 높였습니다. (30억 매개변수, 책 수만 권 분량의 패턴을 학습)

소형 모델을 직접 학습시켜 쓰는 선택지의 실제 비용과 레시피를 얻을 수 있다