센스쟁이 프로그래머, 비트센스

최근 애플이 발표한 맥 스튜디오가 또 논쟁에 섰습니다. LLM 머신으로 경쟁성을 평가 받고 있어서, 관련 내용을 조사해서 정리해 봅니다.M4 Max vs M3 Ultra구분M4 MAXM3 ULTRACPU 구성최대 16코어 (예: 12 성능 + 4 효율) – 차세대 아키텍처32코어 (24 성능 + 8 효율) – M3 Max * 2 (UltraFusion)CPU 성능싱글 코어: M3 Ultra보다 ~22%↑ (First M3 Ultra benchmarks significantly outpace the M2 Ultra)멀티 코어: M3 Ultra 대비 ~8%↓ (First M3 Ultra benchmarks significantly outpace the M2 Ultra)싱글 코어: M4 Max 대비 ↓ (구형..

예전 글들/PC Mac 2025. 3. 12. 18:12

DeepSeek의 행보에 세상은 충격을 받고 있습니다. 그리고 빠르게 DeepSeek를 지원하는 곳이 늘어나고 있습니다. CursorAI도 마찬가지입니다. 최근 공식적으로 DeepSeek r1, v3 모델을 지원하기 시작했습니다. 정식 지원 버전은 0.45인걸로 보이는데, 저는 0.44 인데도 지원모델이 노출됩니다.DeepSeek의 V3와 R1 모델은 각기 다른 목적과 최적화 방식을 지닌 AI 언어 모델입니다.DeepSeek V3: • 아키텍처: 혼합 전문가(Mixture-of-Experts, MoE) 구조를 채택하여 확장성과 효율성을 높였습니다. • 주요 특징: 대규모 언어 모델로서 다양한 자연어 처리 작업에 최적화되어 있습니다. • 적합한 사용 사례: 다국어 번역, 콘텐츠 생성 등 일반적인 언어 이해..

예전 글들/개발툴 SW 2025. 2. 4. 09:47

deepseek에서 r1이 나오고 llama, qwen이 있고, 1.4B, 7B... 70B 까지 먼가 너무 많습니다. 이걸 모두 한번 정리해 봅니다.모델 구조 개요DeepSeek-R1은 크게 세 가지 아키텍처 기반으로 구성되어 있습니다:DeepSeek-LLM (기본 아키텍처)Qwen 기반 버전LLaMA 기반 버전모델 크기별 특징1.4B 모델가장 작은 크기의 모델기본적인 대화와 간단한 태스크 수행리소스 요구사항이 매우 낮음추론 속도가 매우 빠름7B 모델일반적인 대화와 기본적인 코딩 태스크 가능적절한 성능과 리소스 효율성의 균형대부분의 일상적인 용도에 적합14B 모델복잡한 추론과 전문적인 태스크 수행 가능코드 생성 능력이 현저히 향상다양한 도메인의 지식 보유32B 모델고급 추론과 복잡한 문제 해결 능력전문..

예전 글들/AI&ML 2025. 2. 3. 22:00

deepseek 를 설치하려고 해도 모델과 사양이 다양해서 설치부터 어려움이 많습니다.현재 보유 중인 시스템 사양(GeForce RTX 4070 Ti, 128GB RAM, 500GB SSD)을 고려할 때, 다음과 같은 모델 선택을 권장하고 있습니다.모델 크기:7B 모델: 이러한 모델은 상대적으로 가벼워, 현재 시스템에서 원활하게 실행될 수 있습니다. 예를 들어, LLaMA 7B 모델은 약 13GB의 GPU 메모리를 필요로 하며, 이는 RTX 4070 Ti의 12GB VRAM으로도 충분히 처리 가능합니다.14B 모델: 이 모델들은 더 많은 자원을 요구하며, 특히 VRAM이 12GB인 경우 실행에 어려움이 있을 수 있습니다. 일부 최적화 기법을 적용하면 실행이 가능할 수 있으나, 성능 저하나 기타 제약이 발..

예전 글들/AI&ML 2025. 1. 31. 23:59

최근 인공지능 분야에서 OpenAI의 ChatGPT와 중국의 DeepSeek이 주목받고 있습니다. 두 모델의 성능과 특징을 비교하여 장단점을 정리해 드리겠습니다.성능 비교:기술 작업 능력: DeepSeek V3 모델은 코딩, 추론, 수학 능력이 필요한 기술 작업에서 ChatGPT-4o 모델보다 더 높은 성능을 보입니다. 예를 들어, HumanEval 벤치마크에서 DeepSeek V3는 82.6점을, GPT-4o는 80.5점을 기록하였으며, Codeforces 벤치마크에서도 DeepSeek V3가 51.6점으로 GPT-4o의 23.6점을 상회하였습니다. (textcortex.com)응답 품질: 일반적인 질문에 대한 응답 품질 면에서 ChatGPT는 포괄적이고 일관된 답변을 제공하는 반면, DeepSeek은..

예전 글들/AI&ML 2025. 1. 31. 11:43

DeepSeek와 같은 대형 언어 모델(LLM)을 실행하기 위해서는 고성능의 하드웨어가 필요합니다. Apple의 Mac Mini M4 Pro, MacBook Pro M4 Max, Mac Studio M2 Max 모델의 사양을 비교하여 각 모델이 DeepSeek를 실행하는 데 얼마나 적합한지 분석해보겠습니다.1. Mac Mini M4 ProCPU: 12코어 (성능 코어 8개, 효율 코어 4개)GPU: 16~20코어메모리: 최대 64GB 통합 메모리저장 장치: 512GB ~ 8TB SSD2. MacBook Pro M4 MaxCPU: 최대 16코어GPU: 최대 40코어메모리: 최대 128GB 통합 메모리저장 장치: 512GB ~ 8TB SSD3. Mac Studio M2 MaxCPU: 12코어 (성능 코어 8..

예전 글들/AI&ML 2025. 1. 30. 18:11