오픈AI, GPT-6 ‘프롬프트 캐싱’ 강화…“비용 90% 절감·속도 향상”
오픈AI가 반복되는 요청을 재사용해 사용료를 크게 줄이는 기능을 내놨다
API 로 장시간 에이전트 작업을 돌린다면 오늘부터 비용 계산이 달라진다
오픈AI가 GPT-6 제품군에 새로운 프롬프트 캐싱 기능을 추가해 비용을 90% 절감하고 응답 속도를 높였습니다. 이 기능은 여러 차례 API 요청이 필요한 작업에서 반복되는 컨텍스트를 재사용하여 효율성을 향상시킵니다. 하지만 원문에는 구체적인 수치나 인물명, 기관명 등이 없어 정보 부족을 인정합니다.
API 로 장시간 에이전트 작업을 돌린다면 오늘부터 비용 계산이 달라진다
원문 읽기이어서 볼 것
이 글을 읽은 뒤 바로 이어볼 수 있는 추천
더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.
다음 행동
아직 댓글이 없습니다. 첫 댓글을 작성해보세요!