A 35B multimodal model running on a phone with ~3GB memory? MiniCPM-V 4.7 demo is pretty wild
오픈비엠비가 휴대폰에서 돌아가는 35B 크기 그림 이해 모델을 내놨다
클라우드 없이 로컬에서 멀티모달 모델을 돌려야 하는 작업이라면 오늘 시험해볼 선택지가 생겼다
OpenBMB에서 공개한 MiniCPM-V 4.7은 스마트폰 3GB 메모리에 350억(책 수만 권 분량의 지식)의 AI 모델을 돌리는 시연 영상입니다. 이 모델은 사진 속 표지판을 읽거나 복잡한 문서를 이해하고, 시각 정보를 바탕으로 계획을 세우는 등 다양한 기능을 합니다. 개발자는 Self-Replay Fine-Tuning(SRFT) 기술로 AI를 특정 업무에 특화시킬 수 있습니다.
클라우드 없이 로컬에서 멀티모달 모델을 돌려야 하는 작업이라면 오늘 시험해볼 선택지가 생겼다
원문 읽기이어서 볼 것
이 글을 읽은 뒤 바로 이어볼 수 있는 추천
더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.
다음 행동
아직 댓글이 없습니다. 첫 댓글을 작성해보세요!