PC에서 Deepseek R1을 로컬로 설치하고 실행하는 방법?

Deepseek는 인공지능 분야에서 OpenAI의 ChatGPT에 강력한 경쟁을 하고 있습니다. 중국 지원의 추론 모델은 출시 후 하룻밤 사이에 센세이션을 일으켰습니다.

모두가 새로운 AI 모델이 제공하는 것과 ChatGPT보다 나은지에 대해 기대하고 있습니다. 전 세계 사람들이 이미 자신의 기기에서 Deepseek를 사용하기 시작했습니다.

하지만, 기술 애호가들 사이에서 개인 정보 보호에 대한 우려가 제기되고 있습니다. 주요 질문은 사용자가 AI 모델과 공유하는 데이터는 어떻게 되는가입니다?

제3자 회사나 정부 기관 등이 접근하거나 모니터링하고 있는가요?

일반적으로 사람들은 미국에 본사를 둔 OpenAI가 AI 모델과 공유된 사용자 데이터 보호 측면에서 꽤 안전하다고 생각합니다.

Deepseek R1과 같은 중국 AI 모델에서는 비슷한 수준의 데이터 프라이버시가 보장되지 않을 수 있습니다.

따라서 AI 챗봇과 공유된 데이터를 안전하게 유지하기 위해 PC에서 AI 도구를 로컬로 사용할 수 있습니다.

Deepseek 로컬 실행의 장점

Deepseek와 같은 AI 모델을 로컬로 사용하는 것은 여러 가지 장점이 있습니다.

챗봇에 대한 단일 접근 덕분에 AI로부터 즉각적이고 빠른 응답을 받을 수 있습니다.

AI 모델의 응답 시간을 지연시키는 “서버가 바쁩니다” 문제는 없습니다. 따라서 네트워크 의존성은 거의 없습니다.

만약 Deepseek에서 서버가 바쁩니다 오류가 계속 발생한다면, 문제 해결 가이드를 사용하여 수정하세요.

AI와 공유된 데이터는 장치에 로컬로 저장되며 외부 서버와 공유되지 않습니다. 따라서 이는 상당한 수준의 데이터 프라이버시를 보장합니다.

Deepseek를 로컬로 사용하는 또 다른 큰 장점은 PC 하드웨어에 따라 AI 모델의 버전을 선택할 수 있는 자유입니다.

클라우드에서 강력한 버전의 AI 모델을 호스팅하는 데 많은 돈을 지출할 필요가 없습니다.

Deepseek의 다양한 버전을 로컬로 실행하기 위한 시스템 요구 사항

Deepseek R1에는 PC에서 실행하려는 경우 서로 다른 시스템 요구 사항을 가진 여러 버전이 있습니다.

참고: 다중 GPU 설정은 AI 모델의 데이터 처리를 용이하게 하기 위해 동시에 4개 이상의 GPU 조합을 사용하는 것을 나타냅니다.

여러분이 알다시피, RAM과 GPU는 AI 모델의 효율적인 성능을 촉진하는 데 매우 중요합니다.

사용하려는 AI 버전과 관련하여 강력한 메모리, 저장 공간 및 그래픽 장치가 필요합니다.

집중적인 컴퓨팅 자원을 필요로 하지 않는 Deepseek를 로컬로 실행하려면 Deepseek-R1-Distill-Qwen-1.5B 모델을 사용하는 것이 좋습니다.

이 모델은 매개변수가 1.5B이고 비교적 낮은 하드웨어 자원 요구 사항을 가진 표의 모델입니다.

Ollama를 사용하여 Windows 11에 Deepseek 설치하는 방법

Ollama와 Chatbox를 사용하여 PC에 Deepseek를 설정해 보겠습니다. 이 가이드에 설명된 단계는 Windows, Mac 및 Linux 운영 체제에 적용됩니다.

1. Ollama 공식 웹사이트로 이동합니다.
2. 운영 체제에 맞는 설치 프로그램을 다운로드합니다.
   
3. 설치 프로그램을 실행합니다.
   
4. Windows + S를 눌러 검색을 시작합니다. 터미널을 입력하고 열기를 클릭합니다.
   
5. 터미널 화면에 다음을 입력합니다, Ollama --version
6. Enter를 누릅니다.

터미널은 Ollama 버전 번호를 반환해야 합니다. 이는 Ollama가 사용 준비가 되었음을 의미합니다.

다음으로, 원하는 Deepseek 모델을 다운로드해야 합니다. 예를 들어, 매개변수가 1.5B인 Deepseek-R1-Distill-Qwen을 다운로드하는 방법을 보여드리겠습니다.

1. 터미널에 접근하고 이 명령을 입력합니다. Ollama -run Deepseek r1: [AI 모델 매개변수]

위 명령의 AI 모델 매개변수를 실제 값으로 교체합니다.

예를 들어, AI 모델의 1.5B 매개변수 버전을 사용하려면 Ollama -run Deepseek r1:1.5B를 입력합니다.

이제 AI 모델이 다운로드를 시작합니다. 진행 상황은 터미널 화면에 표시됩니다.

Deepseek 설치 후, 채팅 인터페이스를 설치합니다. Chatbox를 사용해 보겠습니다.

1. Chatbox 공식 웹사이트로 이동하여 앱을 다운로드합니다.
   
2. PC에 Chatbox를 설치합니다.
   
3. Chatbox를 실행합니다.
   
4. 왼쪽 패널에서 설정을 클릭합니다.
   
5. 모델 제공자를 Ollama API로 설정합니다.
6. API 호스트를 http://127.0.0.1:11434로 변경합니다.
7. Deepseek 모델을 선택합니다. [ 이 예에서는 다운로드한 모델과 동일한 Deepseek-R1-Distill-Qwen의 1.5B ]
8. 저장을 눌러 변경 사항을 확인합니다.
   

이제 AI 모델에 질문을 시작할 수 있습니다. AI 모델이 즉시 답변할 것입니다. 즐기세요.

Docker로 Ollama를 사용하여 Deepseek 로컬 설치하기

Ollama와 도커 컨테이너를 사용하여 Deepseek를 로컬로 설치하는 또 다른 방법입니다.

1. PC에 Ollama를 다운로드하고 설치합니다. [이전 방법의 단계를 참조하세요]

2. 해당 운영 체제에 맞는 Docker Desktop을 다운로드합니다.
   

3. PC에 Docker를 설치하고 실행합니다.

4. Windows + S를 사용하여 터미널 앱을 실행합니다.

5. Docker가 사용 준비가 되었는지 확인하려면 다음을 입력합니다, docker --version

6. 이제 Open WebUI 이미지를 가져오기 위해 다음 명령을 입력합니다.

     Docker pull ghcr.io/open-webui:main

1. Docker 컨테이너를 실행하기 위해 이 명령을 입력합니다. docker run-d -p 9783:8080 -v open-webui:/app/backend/data -name open -webui ghcr.io/open-webui/open-webui:main
2. Docker가 시작되면 브라우저를 실행합니다.
3. URL 바에 다음 호스트를 입력합니다. http://localhost:9783/
4. 관리자 계정 생성을 클릭합니다.
5. 터미널을 실행하고 다음 명령을 사용하여 Deepseek 모델을 다운로드하기 위해 Ollama를 실행합니다. Ollama run deepseek-r1:1.5b
6. 브라우저에서 OpenwebUI 페이지를 새로 고칩니다.
7. AI 모델과 대화하기 위해 이전에 다운로드한 Deepseek 모델을 선택합니다.

결론

이제 PC에서 Deepseek를 로컬로 설치하는 방법을 알게 되었습니다.

개인 정보 보호 문제나 성가신 네트워크 문제는 AI 모델을 사용하고 챗봇의 기능을 탐색하는 것을 방해하지 않을 것입니다.

당신의 PC에 강력한 RAM, 저장소 및 GPU만 있으면 됩니다. 그런 다음 Deepseek를 컴퓨터에 설정하고 AI 모델에 질문을 던질 수 있습니다.

PC에서 Deepseek R1을 로컬로 설치하고 실행하는 방법에 대한 의견이 있으시면 아래 댓글란에 자유롭게 남겨주세요. 또한, 비디오 튜토리얼을 위해 DigitBin YouTube 채널을 구독해 주세요. 감사합니다!