센스쟁이 프로그래머, 비트센스

맥 미니 M4 Pro에 외장 GPU(eGPU)를 연결하여 7B LLM 파인튜닝을 시도하는 것이 이론적으로 가능하지만, 다음과 같은 제한사항과 고려해야 할 요소가 있습니다.1. eGPU 지원 여부Apple Silicon 기반의 맥(M1, M2, M3, M4 시리즈)은 eGPU를 공식적으로 지원하지 않습니다.이는 Apple이 자체 GPU 성능에 의존하며, Thunderbolt 연결을 통한 외장 GPU 사용을 허용하지 않기 때문입니다.Intel 기반 맥은 eGPU를 지원했지만, Apple Silicon 맥은 지원을 중단한 상태입니다.Apple Silicon 기반 시스템에서는 eGPU 연결을 위한 드라이버가 없으므로 NVIDIA GPU를 연결하여 CUDA를 활용한 PyTorch/TensorFlow 작업이 불가능..

예전 글들/AI&ML 2025. 1. 25. 19:46

맥 미니 M4 Pro 최고 사양으로 7B LLM 파인튜닝이 가능한지 검토해 보겠습니다.M4 Pro 최고 사양 분석최신 Apple Silicon M4 Pro 칩의 주요 사양:CPU: 10~12코어 (고성능 코어 + 고효율 코어).GPU: 20~32코어 수준으로 예상.RAM: 최대 32GB 또는 64GB 통합 메모리(UMA).SSD: 초고속 NVMe SSD (최대 8TB).7B LLM 파인튜닝에 필요한 요구사항GPU 메모리:일반적으로 **16GB 이상의 GPU 전용 메모리(VRAM)**이 요구되며, 24GB 이상이면 효율적.RAM:GPU 메모리가 부족할 경우 CPU 메모리를 활용하게 되므로 64GB 이상이 권장됩니다.저장공간:모델과 데이터 저장용으로 최소 1TB SSD가 필요.ML 라이브러리 지원:PyTor..

예전 글들/AI&ML 2025. 1. 25. 19:42

풀스택 개발자로서의 작업 효율성을 고려해, 현재 사용 중인 Windows PC와 Mac Mini M4 Pro 최고 사양을 비교합니다. 각 장비가 제공하는 성능과 개발 환경의 적합성을 항목별로 분석하고, 최종 추천 장비와 이유를 제시합니다.1. 비교 사양Windows PCCPU: Intel i7 13세대 (2.1GHz, 최대 5.2GHz)RAM: 128GB DDR4GPU: NVIDIA RTX 4070 TiOS: Windows 11 ProMac Mini M4 Pro (최고 사양)CPU: Apple M4 Pro (12코어 CPU, 19코어 GPU)RAM: 128GB 통합 메모리Storage: 최대 8TB SSDOS: macOS Sonoma특징: ARM 기반 SoC(시스템 온 칩) 아키텍처, macOS 최적화2..

예전 글들/진상 고객(리뷰) =_= 2025. 1. 24. 15:38

최근 m4 pro/ max 칩에 대한 칭찬일색 유튜브, 블로그 글 때문에 고민이 됩니다. 구매 하고자 둘러대는 것은 LLM 학습 입니다.대규모 언어 모델(LLM)의 학습을 위해 세 가지 시스템을 비교해 보았습니다:비교 시스템 사양:사양맥 미니 M4 Pro맥북 프로 16 M4 Max인텔 i7 13세대 시스템CPU14코어16코어인텔 i7 13세대 2.10GHzGPU20코어40코어NVIDIA RTX 4070 Ti뉴럴 엔진16코어16코어해당 없음메모리64GB 통합 메모리128GB 통합 메모리128GB RAM가격377만 원770만 원구성에 따라 다름 LLM 학습을 위한 주요 고려 사항:• GPU 성능 및 메모리(VRAM): LLM 학습은 대량의 병렬 연산을 필요로 하므로, GPU의 연산 능력과 VRAM 크기가 중..

예전 글들/진상 고객(리뷰) =_= 2025. 1. 14. 13:36

가히 AI 전쟁시대입니다. 일찌감치 AI 분야에서 소비자가 되어 이것 저것 만져 보고 있습니다. 그러면서도 내가 학습시킨 고유한 나만의 자비스를 꿈꾸기도 합니다. 이번에 등장한 맥미니 m4 가 칭찬일색이라 이 장비로 AI 학습을 하면 어떨까 하면서 비교를 해봤습니다.LLM 학습 관점에서 두 시스템을 비교해 드리겠습니다.Mac Mini M4 Pro 사양 (알아보는 장비)- CPU: 14코어 ARM 아키텍처- GPU: 20코어 통합 GPU- 메모리: 64GB 통합 메모리장점:* Apple Silicon의 뛰어난 전력효율성* Neural Engine을 통한 ML 가속* 안정적인 macOS 개발환경단점:* CUDA 미지원으로 인한 프레임워크 제한* 64GB 메모리 한계* 외장 GPU 확장 불가Intel Wind..

예전 글들/진상 고객(리뷰) =_= 2025. 1. 13. 14:32

미국 동부시간으로 새벽 2시경 애플스토어 일부가 개편되었습니다. 새벽 4시경에 변경될 것이라는 기대를 깨고 일찍 오픈을 했습니다. ^^;; 예상했던 대로, 아이폰4 예약판매를행하는 군요. 현재는 블랙만 팔고 화이트는 팔지 않습니다. 6월 24일 부터 배송한다는 안내 문구도 있네요. ^^;; 판매가격은 이미 아시는 대로 16GB $199, 32GB $299 입니다. 애플스토어 바로가기>>> 이제 시판하는 구체적인 스펙을 볼 수 있어서 좋네요. ^^;; 지금 사이트가 버벅 거리는 이유는 저처럼 오픈하기만을 기다린 사람이 많은 거겠죠?? 머, 여기까지는 이미 예상했던 부분입니다. 그런데 눈에 띄는 것은 아이폰 배너 옆에 미끈한 녀석!! 바로 맥미니가 있습니다!! ^^ 더 얇아지고, 기존 모델의 단점인 상판 덮..

예전 글들/공유의 바다 2010. 6. 15. 19:44

간만에 도전 정신이 불끈 솟아 올라 아이폰 프로그램을 만들어 보려고 이리 저리 알아보다, 결국에는 맥킨토시 장비가 있는 것이 낫다는 결론을 내리고 3월 중순께 부터 이리 저리 맥용 장비를 구하려고 설레발을 쳤습니다. 환율로 인해 일제히 올라버린 애플 PC 앞에서 한없는 굴욕에 치를 떨었습니다. 맥북 에어는 저만치 가버렸고, 그런다고 데탑이나 아이맥도 장난 아닌 가격이더군요. 그 중에 들어온 조그만 녀석.. 맥미니.. 제 눈길을 사로 잡았습니다. 제가 포토샵을 할 것도 아니고, 해서 맥미니를 가격비교해보니… 우아… 역시 애플 짱~! 95만원 이네요. 한단계 낮은 사양으로 최저가 84만원하는 녀석을 따라 쥐마켓으로 갔습니다. 어렵게 우리 집 재정부 장관의 결제 승인으로 구매를 하려던 순간~!!! 회원카드로 ..

예전 글들/초보 관리자 2009. 4. 7. 01:37