센스쟁이 프로그래머, 비트센스

1. NVIDIA DIGITS 최신 버전 및 LLM 학습 적합성 DIGITS 개요: NVIDIA DIGITS는 Deep Learning GPU Training System으로, 주로 이미지 분류, 세그멘테이션, 객체 탐지 등 컴퓨터 비전 딥러닝 작업을 간편하게 수행하기 위해 개발된 소프트웨어입니다 . 최신 공식 버전은 DIGITS 6.1.1로 2018년에 출시되었으며 , 이후로는 신규 기능 업데이트가 중단된 상태입니다 (NVIDIA는 더 이상 DIGITS를 지원하거나 버그 수정하지 않고 있음) . DIGITS 6 버전에서는 Caffe, Torch(Lua Torch), 그리고 TensorFlow 백엔드를 지원하며, GAN 예제나 텍스트 분류 같은 기능도 일부 추가되었습니다 . 그러나 기본적으로 DIGITS..

Programming/AI&ML 2025. 2. 22. 09:33

최근 정부에서 DeepSeek 온라인 서비스 접속을 막았습니다. 이유는 사용자의 정보를 과하게 수집해 간다는 이유입니다. 그런 위험한 서비스를 사용하는 것은... 이미 중국 사이트라 찝찝했지만... 무조건 반대일 수 밖에 없습니다. 그렇다고 deepseek 가 문제인 것은 아닙니다. 로컬에 설치해서 사용하면 어떨까? 독립 머신으로 로컬 설치는 성능상 여전히 문제가 있습니다.다음은 DeepSeek R1(671B 원본 모델)을 로컬에서 구동하기 위한 클러스터 구성 방안을 맥미니 클러스터와 맥스튜디오 클러스터로 나눠 비교·정리한 내용입니다. 1. 클러스터 구성 스펙 및 필요 대수A. 맥미니 클러스터 • 개별 스펙:– 모델: M4 Pro 기반, 64GB 통합 메모리, 1TB SSD • 필요 대수:– 전체 671..

Programming/AI&ML 2025. 2. 21. 09:38

아래는 구글 크롬 원격 데스크톱의 서버(원격으로 접속될 컴퓨터)용 버전을 설치하고 사용하는 방법을 단계별로 정리한 가이드입니다. 이 가이드는 Windows, macOS, 그리고 Linux(예: Ubuntu) 환경 모두에서 기본적으로 적용할 수 있는 내용으로 구성되어 있습니다.1. 사전 준비 • Google Chrome 브라우저 설치원격 데스크톱 기능은 크롬 브라우저 기반으로 작동하므로, 먼저 Google Chrome 다운로드 페이지에서 최신 버전의 크롬을 설치합니다. • Google 계정 로그인크롬에 로그인하면 모든 기기에서 동일한 계정을 사용하여 원격 접속 설정 및 관리가 용이해집니다. 2. 원격 데스크톱 호스트(서버) 설치서버 역할을 할 컴퓨터에 원격 접속을 허용하는 소프트웨어(호스트)를 설치해야 합..

Programming/개발툴 SW 2025. 2. 20. 20:56

아래는 어제(2월 17일/18일 현지시간) 일론 머스크가 이끄는 xAI가 발표한 Grok 3의 주요 내용 정리입니다.1. 발표 배경 및 개요 • 발표 채널: xAI는 X(구 트위터)를 통해 라이브 스트리밍으로 Grok 3를 공개했습니다. • 주요 주장: Grok 3는 “지구상에서 가장 똑똑한 AI”로 소개되며, 기존 경쟁 모델들을 능가하는 성능을 자랑한다고 발표되었습니다. 2. 성능 및 기술적 우위 • 벤치마크 결과:• 수학, 과학, 코딩 등 다양한 영역에서 Google Gemini, DeepSeek V3, Anthropic Claude, OpenAI GPT-4o 등 경쟁 모델을 앞선다고 주장합니다.• 초기 버전(코드명 ‘초콜릿’)은 벤치마크에서 1400점이라는 기록적인 성과를 기록했으며, 점수는 계속 ..

Programming/AI&ML 2025. 2. 19. 10:18

Hugging Face 허브에는 다양한 자연어 처리(NLP) 모델들이 공개되어 있으며, 용도에 따라 특화된 모델들이 존재합니다. 여기서는 사용 목적별로 대표적인 모델들을 분류하고, 각 분야에서 최고 성능을 보이는 모델들의 특징을 비교한 뒤, RTX 4070 Ti 환경에서 실행 가능성과 파인튜닝 용이성을 고려하여 추천 모델을 선정하였습니다. 마지막으로 분야별 추천 모델과 해당 모델의 강점이 발휘되는 사용 사례를 정리합니다. 1. 일반 자연어 처리 (언어 이해 및 생성) 언어 이해를 위한 대표 모델로는 BERT 계열(예: BERT, RoBERTa, DeBERTa)과 같은 Transformer 인코더 모델들이 있습니다. 이들은 문장의 의미 파악, 분류, 개체 인식 등의 이해 중심 작업에 뛰어납니다. 특히 마이..

Programming/AI&ML 2025. 2. 18. 13:08

GPU는 일반적으로 컴퓨팅 작업을 가속화하는 데 사용되지만, GPU 자체를 빌드하거나 컴파일한다는 표현이 조금 모호할 수 있습니다. 질문의 의도를 몇 가지 경우로 나누어 답변하겠습니다.1. GPU를 활용한 코드 빌드/컴파일가능함. GPU는 코드의 컴파일 자체를 가속화하지는 않지만, 일부 병렬 처리가 필요한 컴파일 과정(예: CUDA, OpenCL 코드 컴파일, 머신러닝 모델 변환 등)에서 성능 향상을 제공할 수 있습니다.예를 들어, 다음과 같은 경우에 GPU를 활용할 수 있습니다.CUDA, OpenCL 코드 컴파일: NVIDIA의 nvcc(NVIDIA CUDA Compiler) 또는 AMD ROCm 등의 도구를 사용하여 GPU용 프로그램을 빌드할 수 있음.머신러닝 모델 변환: TensorFlow, PyT..

System/PC Mac 2025. 2. 12. 17:19

GitHub Copilot은 AI 기반 코드 작성 도우미로, 지난 몇 달 동안 여러 가지 중요한 업데이트와 무료 플랜 관련 소식들이 발표되었습니다. 아래에서 최근 업데이트와 무료 버전 관련 주요 동향을 정리해 보겠습니다.무료 플랜 출시 및 기본 사항무료 플랜 발표 (2024년 12월 18일)GitHub는 Visual Studio Code와 GitHub.com에서 Copilot을 무료로 사용할 수 있는 ‘GitHub Copilot Free’를 공식 발표했습니다.이용 조건: GitHub 계정만 있으면 별도의 평가판, 구독, 신용카드 정보 없이 즉시 사용할 수 있습니다.제공 한도: 월 최대 2,000회의 코드 자동 완성과 50회의 채팅 메시지가 제공되어, 일상적인 코딩 작업에는 충분한 양을 지원합니다.대상: ..

Programming/개발툴 SW 2025. 2. 10. 14:31

로컬 PC나 맥등에 LLM 모델을 쉽게 설치하고 ChatGPT 같은 Chat UI를 제공하는 설치형 프로그램을 정리해보겠습니다.1. LLM 모델 관리 및 Chat UI 제공 앱이 카테고리의 프로그램은 쉽게 LLM 모델을 다운로드하고 실행할 수 있도록 도와주며, 대부분 로컬에서 ChatGPT 스타일의 UI를 제공합니다.프로그램명주요 기능지원 모델실행 방식LM StudioGUI 기반 모델 다운로드 및 실행, 로컬 챗봇 UI 제공LLaMA, Mistral, Gemma 등Windows, macOS, LinuxLLaMA.cpp GUI (Llamafile)초경량 LLaMA 모델 실행, GUI 지원LLaMA, MistralWindows, macOS, LinuxlstyWeb UI 제공, 서버 모드 지원LLaMA, Mi..

Programming/AI&ML 2025. 2. 6. 13:17