머신러닝3 [deepseek #준비] deepseek 로컬설치 모델 선택 #2 기본 설치 모델 선정:시스템 : Windows11 Pro, CPU: i7 13th Gen. 2.10Ghz, 128GB RAM, RTX 4070 ti (22GB VRAM)실행 윈도우 UI 앱 : LM Studio설치 모델 : unsloth/DeepSeek-R1-Distill-Llama-8B-GGUFDeepSeek-R1-Distill-Llama-8B-GGUF 모델을 로컬에서 실행하기 위해서는, 시스템 사양과 요구 사항에 맞는 적절한 파일을 선택하는 것이 중요합니다. 해당 모델의 Hugging Face 페이지에서는 다양한 양자화 수준의 GGUF 파일을 제공합니다.권장 파일 선택:귀하의 시스템 사양(GeForce RTX 4070 Ti, 128GB RAM, 500GB SSD)을 고려할 때, 다음과 같은 파일을 선.. 2025. 2. 1. [deepseek #준비] deepseek 로컬 머신에 설치를 위한 모델 선정 deepseek 를 설치하려고 해도 모델과 사양이 다양해서 설치부터 어려움이 많습니다.현재 보유 중인 시스템 사양(GeForce RTX 4070 Ti, 128GB RAM, 500GB SSD)을 고려할 때, 다음과 같은 모델 선택을 권장하고 있습니다.모델 크기:7B 모델: 이러한 모델은 상대적으로 가벼워, 현재 시스템에서 원활하게 실행될 수 있습니다. 예를 들어, LLaMA 7B 모델은 약 13GB의 GPU 메모리를 필요로 하며, 이는 RTX 4070 Ti의 12GB VRAM으로도 충분히 처리 가능합니다.14B 모델: 이 모델들은 더 많은 자원을 요구하며, 특히 VRAM이 12GB인 경우 실행에 어려움이 있을 수 있습니다. 일부 최적화 기법을 적용하면 실행이 가능할 수 있으나, 성능 저하나 기타 제약이 발.. 2025. 1. 31. [비교] 개발장비 선택 - 윈도우 i7 13th, 맥미니 m4 pro 풀스택 개발자로서의 작업 효율성을 고려해, 현재 사용 중인 Windows PC와 Mac Mini M4 Pro 최고 사양을 비교합니다. 각 장비가 제공하는 성능과 개발 환경의 적합성을 항목별로 분석하고, 최종 추천 장비와 이유를 제시합니다.1. 비교 사양Windows PCCPU: Intel i7 13세대 (2.1GHz, 최대 5.2GHz)RAM: 128GB DDR4GPU: NVIDIA RTX 4070 TiOS: Windows 11 ProMac Mini M4 Pro (최고 사양)CPU: Apple M4 Pro (12코어 CPU, 19코어 GPU)RAM: 128GB 통합 메모리Storage: 최대 8TB SSDOS: macOS Sonoma특징: ARM 기반 SoC(시스템 온 칩) 아키텍처, macOS 최적화2.. 2025. 1. 24. 이전 1 다음 반응형
