AI 큐레이션 15 views source Reddit r/LocalLLaMA

I built a native Vulkan training backend for 143 modern Transformer architectures — no CUDA or PyTorch required

저는 Hierarchos 아키텍처의 훈련 백엔드로 시작했지만, 이를 더 넓은 프로젝트로 발전시켰습니다. 이 프로젝트는 Rust와 Vulkan을 사용한 143개의 Transformer 아키텍처에서의 훈련과 추론을 지원합니다. CUDA나 PyTorch를 필요로 하지 않으며, Vulkan을 기반으로 한 ML 훈련 스택이 가능해질 수 있는 방향성을 제시하고 있습니다. 그러나 아직 모든 모델 유형과 구성 요소가 검증되지 않았습니다. 이 프로젝트는 다양한 GPU와 호환성을 확보하기 위해 더 많은 테스트가 필요합니다.

저는 Hierarchos 아키텍처의 훈련 백엔드로 시작했지만, 이를 더 넓은 프로젝트로 발전시켰습니다. 이 프로젝트는 Rust와 Vulkan을 사용한 143개의 Transformer 아키텍처에서의 훈련과 추론을 지원합니다. CUDA나 PyTorch를 필요로 하지 않으며, Vulkan을 기반으로 한 ML 훈련 스택이 가능해질 수 있는 방향성을 제시하고 있습니다. 그러나 아직 모든 모델 유형과 구성 요소가 검증되지 않았습니다. 이 프로젝트는 다양한 GPU와 호환성을 확보하기 위해 더 많은 테스트가 필요합니다.

엔비디아 GPU가 없어도 모델을 직접 훈련해볼 수 있는 길이 생겼다

원문 읽기
공유 X LinkedIn Email

이어서 볼 것

이 글을 읽은 뒤 바로 이어볼 수 있는 추천

더 읽기로 감을 넓히고, 사례를 본 뒤, 필요하면 참여나 도구로 넘어가면 됩니다.

더 읽기

직장인·소상공인이 알아둘 AI 기본법 핵심 정리

직장과 가게에서 AI를 쓸 때 알아둘 법과 정책의 핵심을 도입 체크리스트와 함께 확인할 수 있습니다.

관련 글 보기
함께 배우기

소셜섹터 AI 리터러시 기초 과정

도입 전 체크리스트를 팀 단위 의사결정으로 연결하는 가장 빠른 입문 경로입니다.

워크숍 보기
자료·도구

NGO 실무자 AI 첫걸음 가이드북

조직에 맞는 적용 예시와 위험 관리 포인트를 문서 형태로 바로 참고할 수 있습니다.

상품 보기

다음 행동

읽고 끝내지 않도록 다음 콘텐츠를 바로 연결합니다.

댓글 (0)

아직 댓글이 없습니다. 첫 댓글을 작성해보세요!

뉴스레터 전환

이 주제의 다음 기사와 참여 기회를 먼저 받으세요.

관련 기사, 사례, 행사 소식을 묶어서 보내드립니다. 기사 하나를 읽고 끝나는 경험이 아니라, 조금씩 더 깊게 들어갈 수 있게 이어 붙였습니다.