센스쟁이 프로그래머, 비트센스

1. NVIDIA DIGITS 최신 버전 및 LLM 학습 적합성 DIGITS 개요: NVIDIA DIGITS는 Deep Learning GPU Training System으로, 주로 이미지 분류, 세그멘테이션, 객체 탐지 등 컴퓨터 비전 딥러닝 작업을 간편하게 수행하기 위해 개발된 소프트웨어입니다 . 최신 공식 버전은 DIGITS 6.1.1로 2018년에 출시되었으며 , 이후로는 신규 기능 업데이트가 중단된 상태입니다 (NVIDIA는 더 이상 DIGITS를 지원하거나 버그 수정하지 않고 있음) . DIGITS 6 버전에서는 Caffe, Torch(Lua Torch), 그리고 TensorFlow 백엔드를 지원하며, GAN 예제나 텍스트 분류 같은 기능도 일부 추가되었습니다 . 그러나 기본적으로 DIGITS..

Programming/AI&ML 2025. 2. 22. 09:33

최근 인공지능 분야에서 OpenAI의 ChatGPT와 중국의 DeepSeek이 주목받고 있습니다. 두 모델의 성능과 특징을 비교하여 장단점을 정리해 드리겠습니다.성능 비교:기술 작업 능력: DeepSeek V3 모델은 코딩, 추론, 수학 능력이 필요한 기술 작업에서 ChatGPT-4o 모델보다 더 높은 성능을 보입니다. 예를 들어, HumanEval 벤치마크에서 DeepSeek V3는 82.6점을, GPT-4o는 80.5점을 기록하였으며, Codeforces 벤치마크에서도 DeepSeek V3가 51.6점으로 GPT-4o의 23.6점을 상회하였습니다. (textcortex.com)응답 품질: 일반적인 질문에 대한 응답 품질 면에서 ChatGPT는 포괄적이고 일관된 답변을 제공하는 반면, DeepSeek은..

Programming/AI&ML 2025. 1. 31. 11:43

DeepSeek와 같은 대형 언어 모델(LLM)을 실행하기 위해서는 고성능의 하드웨어가 필요합니다. Apple의 Mac Mini M4 Pro, MacBook Pro M4 Max, Mac Studio M2 Max 모델의 사양을 비교하여 각 모델이 DeepSeek를 실행하는 데 얼마나 적합한지 분석해보겠습니다.1. Mac Mini M4 ProCPU: 12코어 (성능 코어 8개, 효율 코어 4개)GPU: 16~20코어메모리: 최대 64GB 통합 메모리저장 장치: 512GB ~ 8TB SSD2. MacBook Pro M4 MaxCPU: 최대 16코어GPU: 최대 40코어메모리: 최대 128GB 통합 메모리저장 장치: 512GB ~ 8TB SSD3. Mac Studio M2 MaxCPU: 12코어 (성능 코어 8..

Programming/AI&ML 2025. 1. 30. 18:11

아래는 인텔과 AMD 기반 사양의 각 레벨(최고급, 고급, 최소사양)을 평가항목별로 비교한 내용입니다. 평가항목과 설명, 그리고 장단점 및 평점도 포함되어 있습니다.평가 항목과 설명성능: CPU와 GPU 성능을 기준으로 대규모 LLM 작업의 효율성을 평가.확장성: 메모리 용량 및 저장장치의 확장 가능성.안정성: 장시간 연속 작업 시의 안정성과 열 관리 능력.가격 대비 가치: 성능과 구성 대비 비용 효율성.업그레이드 가능성: 향후 하드웨어 교체나 업그레이드 용이성.1. 최고급 사양 비교평가 항목 AMD (Threadripper 7995WX) 인텔 (Xeon W-3495X) 비교성능다수의 코어(96코어, 192스레드)로 병렬 작업 최적화코어는 적지만 클럭당 성능이 우수 (56코어, 112스레드)AMD가 병렬..

Programming/AI&ML 2025. 1. 25. 14:22

먼가 아쉬운 마음에 다시 한번 정리합니다. 아래는 인텔 기반의 최고급, 고급, 최소사양 장비 구성을 제안합니다. 각 구성은 예산과 7B LLM 파인튜닝을 고려하여 설계되었습니다.1. 최고급 사양목적: 가장 고성능의 인텔 시스템으로 대규모 LLM 모델 학습과 파인튜닝에 최적화.예산: 약 1200~1500만 원.구성 요소제품명/스펙이유가격(대략)GPUNVIDIA RTX 5090 Ti (32GB GDDR7)대규모 데이터 처리 및 VRAM 활용 가능약 500만 원CPUIntel Xeon W-3495X (56코어, 112스레드)멀티스레드와 병렬 처리에서 최상의 성능 제공약 700만 원RAM512GB DDR5 ECC Registered대규모 데이터를 안정적으로 처리약 400만 원저장장치Samsung 990 Pro ..

Programming/AI&ML 2025. 1. 25. 14:12

인텔 CPU를 포함하지 않은 이유는 AMD 계열이 LLM 파인튜닝 작업에 더 적합하다고 판단했기 때문입니다. 하지만, 인텔 CPU 역시 훌륭한 옵션입니다.AMD 계열을 우선 선택한 이유코어 수와 멀티스레드 성능:AMD의 Threadripper 시리즈는 코어와 스레드 수가 많아 대규모 병렬 연산이 필요한 LLM 작업에 특히 강력합니다.AMD의 3D V-Cache 기술(Ryzen 9 7950X3D)은 대규모 메모리 접근 속도가 빠르고, AI 작업에서 이점을 제공합니다.가격 대비 성능:AMD 프로세서는 동일 가격대에서 더 많은 코어와 스레드를 제공해 가성비가 우수합니다.ECC 메모리 지원이 더 강력해 대규모 데이터 작업에 안정적입니다.확장성과 메모리 대역폭:Threadripper와 같은 고급 모델은 메모리 채..

Programming/AI&ML 2025. 1. 25. 14:07

아래는 RTX 5090 시리즈 전체를 활용한 최고급, 고급, 최소사양 구성입니다. 각각의 구성은 예산, 성능, 작업 목표를 기준으로 설계되었으며, 7B LLM 파인튜닝 작업에 적합하게 설계되었습니다.1. 최고급 사양목적: 7B 이상의 대규모 LLM 모델을 최고 성능으로 처리. 연구, AI 모델 개발, 데이터 과학을 위한 최상의 옵션.예산: 약 1200~1500만 원.구성 요소제품명/스펙이유가격(대략)GPUNVIDIA RTX 5090 Ti (32GB GDDR7)최고 성능과 대규모 VRAM 제공약 500만 원CPUAMD Threadripper PRO 7995WX (96코어)고성능 병렬 연산과 멀티스레드 작업 지원약 600만 원RAM512GB DDR5 ECC Registered대규모 데이터 로딩과 안정적 연산..

Programming/AI&ML 2025. 1. 25. 14:02

가히 AI 전쟁시대입니다. 일찌감치 AI 분야에서 소비자가 되어 이것 저것 만져 보고 있습니다. 그러면서도 내가 학습시킨 고유한 나만의 자비스를 꿈꾸기도 합니다. 이번에 등장한 맥미니 m4 가 칭찬일색이라 이 장비로 AI 학습을 하면 어떨까 하면서 비교를 해봤습니다.LLM 학습 관점에서 두 시스템을 비교해 드리겠습니다.Mac Mini M4 Pro 사양 (알아보는 장비)- CPU: 14코어 ARM 아키텍처- GPU: 20코어 통합 GPU- 메모리: 64GB 통합 메모리장점:* Apple Silicon의 뛰어난 전력효율성* Neural Engine을 통한 ML 가속* 안정적인 macOS 개발환경단점:* CUDA 미지원으로 인한 프레임워크 제한* 64GB 메모리 한계* 외장 GPU 확장 불가Intel Wind..

진상 고객(리뷰) =_= 2025. 1. 13. 14:32