센스쟁이 프로그래머, 비트센스

아래는 인텔과 AMD 기반 사양의 각 레벨(최고급, 고급, 최소사양)을 평가항목별로 비교한 내용입니다. 평가항목과 설명, 그리고 장단점 및 평점도 포함되어 있습니다.평가 항목과 설명성능: CPU와 GPU 성능을 기준으로 대규모 LLM 작업의 효율성을 평가.확장성: 메모리 용량 및 저장장치의 확장 가능성.안정성: 장시간 연속 작업 시의 안정성과 열 관리 능력.가격 대비 가치: 성능과 구성 대비 비용 효율성.업그레이드 가능성: 향후 하드웨어 교체나 업그레이드 용이성.1. 최고급 사양 비교평가 항목 AMD (Threadripper 7995WX) 인텔 (Xeon W-3495X) 비교성능다수의 코어(96코어, 192스레드)로 병렬 작업 최적화코어는 적지만 클럭당 성능이 우수 (56코어, 112스레드)AMD가 병렬..

Programming/AI&ML 2025. 1. 25. 14:22

먼가 아쉬운 마음에 다시 한번 정리합니다. 아래는 인텔 기반의 최고급, 고급, 최소사양 장비 구성을 제안합니다. 각 구성은 예산과 7B LLM 파인튜닝을 고려하여 설계되었습니다.1. 최고급 사양목적: 가장 고성능의 인텔 시스템으로 대규모 LLM 모델 학습과 파인튜닝에 최적화.예산: 약 1200~1500만 원.구성 요소제품명/스펙이유가격(대략)GPUNVIDIA RTX 5090 Ti (32GB GDDR7)대규모 데이터 처리 및 VRAM 활용 가능약 500만 원CPUIntel Xeon W-3495X (56코어, 112스레드)멀티스레드와 병렬 처리에서 최상의 성능 제공약 700만 원RAM512GB DDR5 ECC Registered대규모 데이터를 안정적으로 처리약 400만 원저장장치Samsung 990 Pro ..

Programming/AI&ML 2025. 1. 25. 14:12

인텔 CPU를 포함하지 않은 이유는 AMD 계열이 LLM 파인튜닝 작업에 더 적합하다고 판단했기 때문입니다. 하지만, 인텔 CPU 역시 훌륭한 옵션입니다.AMD 계열을 우선 선택한 이유코어 수와 멀티스레드 성능:AMD의 Threadripper 시리즈는 코어와 스레드 수가 많아 대규모 병렬 연산이 필요한 LLM 작업에 특히 강력합니다.AMD의 3D V-Cache 기술(Ryzen 9 7950X3D)은 대규모 메모리 접근 속도가 빠르고, AI 작업에서 이점을 제공합니다.가격 대비 성능:AMD 프로세서는 동일 가격대에서 더 많은 코어와 스레드를 제공해 가성비가 우수합니다.ECC 메모리 지원이 더 강력해 대규모 데이터 작업에 안정적입니다.확장성과 메모리 대역폭:Threadripper와 같은 고급 모델은 메모리 채..

Programming/AI&ML 2025. 1. 25. 14:07

아래는 RTX 5090 시리즈 전체를 활용한 최고급, 고급, 최소사양 구성입니다. 각각의 구성은 예산, 성능, 작업 목표를 기준으로 설계되었으며, 7B LLM 파인튜닝 작업에 적합하게 설계되었습니다.1. 최고급 사양목적: 7B 이상의 대규모 LLM 모델을 최고 성능으로 처리. 연구, AI 모델 개발, 데이터 과학을 위한 최상의 옵션.예산: 약 1200~1500만 원.구성 요소제품명/스펙이유가격(대략)GPUNVIDIA RTX 5090 Ti (32GB GDDR7)최고 성능과 대규모 VRAM 제공약 500만 원CPUAMD Threadripper PRO 7995WX (96코어)고성능 병렬 연산과 멀티스레드 작업 지원약 600만 원RAM512GB DDR5 ECC Registered대규모 데이터 로딩과 안정적 연산..

Programming/AI&ML 2025. 1. 25. 14:02

Docker 환경에서 Solana CLI를 설치하고 사용하는 것은 가능합니다. 이를 통해 시스템에 직접 설치하지 않고도 Solana CLI를 활용할 수 있습니다. 이미 Docker 이미지를 제공하는 리포지토리가 존재하며, 이를 활용하여 손쉽게 설정할 수 있습니다. 설치 및 실행 방법:Docker 설치:시스템에 Docker가 설치되어 있지 않다면, Docker 공식 사이트를 참고하여 설치하세요.Solana CLI Docker 이미지 실행:다음 명령어를 사용하여 Docker Hub에 공개된 Solana CLI 이미지를 실행할 수 있습니다:docker run -it --rm andreaskasper/solana:cli이 명령어는 일회성으로 컨테이너를 실행하며, 종료 시 자동으로 삭제됩니다.지갑 생성 및 관리:..

Programming/Backend 2025. 1. 20. 20:59

솔라나(Solana) 플랫폼에서 에어드롭 테스트를 수행하려면, 먼저 테스트 계정을 생성하고 테스트 토큰을 확보해야 합니다. 아래 단계별 가이드를 통해 진행해 보세요. 1. 솔라나 CLI 도구 설치솔라나 명령줄 인터페이스(CLI)를 설치하여 네트워크와 상호작용할 수 있습니다. 터미널에서 다음 명령어를 실행하여 설치하세요:mac or linuxsh -c "$(curl -sSfL https://release.solana.com/stable/install)"windowscmd /c "curl https://release.anza.xyz/v2.1.5/agave-install-init-x86_64-pc-windows-msvc.exe --output C:\agave-install-tmp\agave-install-in..

Programming/Backend 2025. 1. 20. 20:15

이전 글의 docker 스크립트를 가지고 n8n - ollama 연동이 어려워서, github 에서 찾은 스크립트로 정리를 다시 해봅니다.n8n의 Self-hosted AI Starter Kit은 로컬 환경에서 AI 워크플로우를 구축하기 위한 오픈 소스 도커 컴포즈 템플릿입니다.  이 키트는 n8n 플랫폼과 함께 Ollama, Qdrant, PostgreSQL을 포함하고 있어, 손쉽게 AI 프로젝트를 시작할 수 있습니다. 구성 요소:• n8n: 400개 이상의 통합과 고급 AI 컴포넌트를 제공하는 로우코드 플랫폼• Ollama: 최신 로컬 LLM을 설치하고 실행할 수 있는 크로스 플랫폼 LLM 플랫폼• Qdrant: 고성능 벡터 스토어로, 포괄적인 API를 제공• PostgreSQL: 대용량 데이터를 ..

Programming/AI&ML 2025. 1. 15. 14:02

아래는 n8n, Ollama, 그리고 PostgreSQL을 설치하는 docker-compose.yml 파일과 GPU를 지원하는 구성을 추가한 예제입니다. Ollama에서 llama와 mistral 모델을 사용할 수 있도록 설정도 포함했습니다. 1. docker-compose.yml 생성version: '3.9'services: n8n: image: n8nio/n8n:latest container_name: n8n ports: - "5678:5678" environment: - N8N_BASIC_AUTH_ACTIVE=true - N8N_BASIC_AUTH_USER=admin - N8N_BASIC_AUTH_PASSWORD=admin - DB..

Programming/AI&ML 2025. 1. 14. 15:38