72 hours, four big open weights drops. The only one that fits in 24GB came from NVIDIA, of all companies.
사흘 동안 오픈 모델 4개가 쏟아졌는데 24GB 에 돌아가는 건 엔비디아 것뿐이다
로컬에서 모델을 돌리는 개발자라면 그래픽카드 한 장으로 쓸 수 있는 선택지가 오늘 생겼다
메타, 엔비디아, 리플렉션, 딥시크 등 주요 AI 기업들이 이번 주에 새로운 AI 모델을 공개했습니다. 메타의 뮤즈 스파크 오픈은 816B(책 수만 권 분량의 지식) 규모로, 고사양 컴퓨터에서 작동합니다. 엔비디아의 네모트론 3.5 볼트는 74B 규모로, 22GB 용량으로 24GB 카드에 딱 맞게 설계되었습니다. 딥시크의 V4.1 플래시는 77.0의 성능을 자랑하며, 리플렉션의 빔은 자유로운 사용을 위한 라이선스를 제공합니다.
로컬에서 모델을 돌리는 개발자라면 그래픽카드 한 장으로 쓸 수 있는 선택지가 오늘 생겼다
원문 읽기이어서 볼 것
이 글을 읽은 뒤 바로 이어볼 수 있는 추천
더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.
다음 행동
아직 댓글이 없습니다. 첫 댓글을 작성해보세요!