최신 뉴스

전체 뉴스

가장 최근에 발행된 뉴스부터 확인하세요.

주제별로 좁혀보기 · 개발·코딩
일반 기사
AI 활용

앤트로픽, 클로드 최적화를 클로드에 맡겼더니… "2주 만에 속도 3배 빨라져"

전체 요약

앤트로픽이 개발한 AI 모델 '클로드'를 최적화 작업에 직접 참여시켜 웹 서비스와 데스크톱 앱의 속도가 약 3배 빨라졌습니다. 이는 엔지니어들이 일일이 코드를 분석하는 대신, AI가 스스로 문제를 찾아 해결하도록 하여 가능했습니다. 앤트로픽은 단 2주 만에 이러한 성과를 거두었습니다.

핵심 보기
원문 보기
AI 활용

Prevent CUDA OOM in PyTorch with dynamic lane switching

전체 요약

MEM v3는 PyTorch에서 발생하는 CUDA Out-of-Memory(OOM) 오류를 해결하기 위해 개발되었습니다. 이 도구는 실제 GPU 메모리 압박에 따라 미니배치 크기를 동적으로 조절하여 프로세스 중단 없이 문제를 해결합니다. MEM은 10GB 이상의 VRAM 할당 충격에도 견디고, 전원 차단 시 저장된 가중치가 손상되지 않도록 원자 파일 교체와 SHA-256 검사를 사용합니다. 이 도구는 Colab GPU에서 직접 테스트할 수 있으며, 실시간 통계를 제공하는 내장 웹 대시보드도 포함되어 있습니다.

핵심 보기
원문 보기
AI 활용

"제브보다 9배 빠르다"...스탠퍼드·엔비디아, 'CLM-8B'로 맞불

전체 요약

스탠퍼드대와 엔비디아가 제브(Jev)에 맞서, 판단 전용 AI 시장 경쟁에 나섰습니다. CLM-8B라는 오픈소스 모델을 통해 AI 에이전트의 도구 선택과 결과 검증 같은 의사결정을 빠르게 처리할 수 있게 했습니다. 이는 제브가 먼저 선보인 기술을 더 빠르고 효율적으로 개선한 것입니다.

핵심 보기
원문 보기
AI 심화

85 GB DeepSeek-V4-Flash at ~3 tok/s on a 12 GB RTX 3060 + 64 GB DDR5 RAM - Overspill for FreeToken, inspired by Colibri

전체 요약

딥러닝 모델 중 일부는 메모리가 너무 커서 컴퓨터에 저장할 수 없는데, 이 기사는 그런 모델을 실행하는 새로운 방법이 나왔다고 합니다. 연구자가 개발한 '오버스pill'이라는 도구를 사용하면, 큰 모델도 디스크에서 읽어와서 처리할 수 있게 됩니다. 이렇게 하면 메모리가 부족한 컴퓨터에서도 더 많은 모델을 실험할 수 있게 됩니다.

핵심 보기
원문 보기
AI 활용

Introducing KoboldCpp Agent (and a plea for help)

전체 요약

KoboldCpp는 사용자에게 내장된 Agentic Harness를 제공하여 복잡한 외부 도구 설정을 간소화했습니다. 이Harness는 코드 생성이나 게임 개발 등 기본 작업에 유용합니다.Harness는 28,000 컨텍스트와 8,000 생성량 이상의 VRAM이 필요하며, 최소 12GB가 추천됩니다. 또한 사용자가 직접 도구를 추가할 수 있는 기능도 있습니다.

핵심 보기
원문 보기
AI 활용

오픈AI, GPT-6 ‘프롬프트 캐싱’ 강화…“비용 90% 절감·속도 향상”

전체 요약

오픈AI가 GPT-6 제품군에 새로운 프롬프트 캐싱 기능을 추가해 비용을 90% 절감하고 응답 속도를 높였습니다. 이 기능은 여러 차례 API 요청이 필요한 작업에서 반복되는 컨텍스트를 재사용하여 효율성을 향상시킵니다. 하지만 원문에는 구체적인 수치나 인물명, 기관명 등이 없어 정보 부족을 인정합니다.

핵심 보기
원문 보기
AI 입문

앤트로픽, 거부된 클로드 요청도 과금…‘모델 증류 공격’ 방어선 구축

전체 요약

앤트로픽은 AI 모델의 지식을 복제하려는 공격을 막기 위해 거부된 요청에도 요금을 부과하는 방어책을 내놨다. 이는 대규모 반복 요청을 억제하기 위한 조치로, 최근 몇 주 동안 자사 시스템을 공격한 조직의 행동에 대응한다. 이렇게 하면 AI 모델이 과학 실험처럼 여러 번 테스트되는 것을 막을 수 있다.

핵심 보기
원문 보기
AI 활용

Microsoft thinks its new Copilot ‘super app’ will be as influential as Office

전체 요약

마이크로소프트가 새로운 Copilot 앱을 공식 출시했습니다. 이 앱은 채팅, 코드 작성, 에이전트 기능을 하나의 인터페이스에 모았습니다. Copilot Chat과 Cowork를 결합한 홈 탭이 기본 화면으로 사용됩니다. 이 Copilot 앱은 Office와 같은 영향력을 끼칠 것으로 예상됩니다.

핵심 보기
원문 보기