2025-02-13

딥시크(DeepSeek R1), RunyourAI에서 바로 사용하는 법

안녕하세요! RunyourAI입니다.

‍

최근, 주식 시장의 가장 큰 이슈는 딥시크 쇼크였습니다.중국의 AI 스타트업 DeepSeek가 선보인 LLM 모델이 미국의 AI 독점을 흔들고 있습니다 😬
오늘은 DeepSeek R1 (딥시크 R1)의 특징에 대해 설명하고,Runyour AI에서 DeepSeek R1를 사용하는 방법을 알아보도록 하겠습니다! 🐳

‍

| DeepSeek R1이 무엇인가요?

DeepSeek R1은중국 AI 스타트업 딥시크(DeepSeek)가 2025년 1월 26일 공개한 추론 능력에 특화된 최신 AI 대규모 언어 모델(LLM) 입니다.
이 모델은 엔비디아의 저성능 반도체 칩 H800을 사용해 만들어졌으며,OpenAI의 GPT-4와 비슷한 성능을 갖추면서도 사용자들에게 무료로 제공되어 큰 화제를 모으고 있습니다. 🚀

‍

DeepSeek R1의 매력은?

완전한 오픈소스 모델 : 누구나 무료로 사용하고, 직접 수정하거나 파인튜닝할 수 있음
강력한 논리적 추론 능력 : AI가 문제를 깊이 있게 분석하고 해결 가능 🧠
체인 오브 쏘트(Chain of Thought, CoT) 방식 지원 : 답을 내기 전에 단계별 사고 과정을 설명 🔄
효율적인 개발 : 기존 미국 AI 모델보다 훨씬 적은 비용으로 개발됨 💰
코드 생성 및 실행 가능 : 대화 중 코드 작성이 가능하고 실행 가능한 형태로 제공 💻
정교한 프롬프트 처리 : 복잡한 질문에도 세부적인 추론 과정을 명확하게 보여줌 🔍

‍

✨ Deepseek R1은 특히 오픈소스 모델임에도 완성도가 매우 높아 AI 연구자나 개발자들에게 큰 관심을 받고 있습니다.

🔻당장 써보고 싶지않나요?
Runyour AI 에서 바로 실행해보세요.

‍

| Runyour AI에서 DeepSeek R1 사용하는 방법

1. GPU 머신 & 템플릿 선택하기

‍

우선 Runyour AI에 로그인 후 목록에서 실행할 GPU 머신을 선택합니다.
⭐ 모든 머신에서 사용 가능하나 VRAM이 높은 머신을 선택하면 더욱 빠른 결과를 얻을 수 있습니다.
‍

머신을 선택 이후, 템플릿 선택 단계에서 변경 버튼을 클릭합니다.
템플릿을 Text Generation WebUI로 선택 후 대여를 시작합니다.

‍

2. DeepSeek R1 모델 접속하기

Text Generation Web 버튼을 클릭하여 바로 WebUI로 접속합니다.
(우측 메뉴의 마이페이지 > 대시보드를 통해 대여한 모델을 확인하실 수 있습니다!)

‍

3. DeepSeek R1 모델 사용하기

자, 클릭 한번으로 DeepSeek R1 모델을 사용할 수 있는 환경이 제공됩니다. 🤗
하단의 ‘send to message’에 질문을 작성하면, AI가 질문에 대한 응답을 입력해줍니다 💬

‍

4. DeepSeek R1 모델 사용 꿀팁 🍯

만약 더 빠른 결과를 얻고 싶다면, 더 많은 VRAM을 사용해보세요! 🤗(우선, VRAM이 높은 GPU 머신을 대여해야합니다. 하단의 GPU와 VRAM 요구사항을 확인해보세요! 👇🏻)

좌측 Model 탭에 들어가 n-gpu-layers를 늘린 후 Load 버튼을 누르면, 더 많은 GPU 자원을 사용하여 더 빠른 결과를 얻을 수 있습니다.

‍

🔥만약 에러가 발생했다면, n-gpu-layers 값을 줄이면 해결됩니다. 🔥

‍

| DeepSeek R1의 GPU와 VRAM 요구사항

DeepSeek R1의 VRAM 요구 사항은 모델 크기, 파라미터 수, 양자화(quantization) 여부 등에 따라 달라집니다. 아래는 VRAM 요구량에 대한 대략적인 가이드와 권장 GPU 목록입니다.

대형 모델(예: 670B 파라미터 등)
:단일 GPU로는 무리가 있음. 다중 GPU 구성(NVIDIA A100, H100 등) 고려

중간 모델(수십~수백억 파라미터대)
:16~24GB VRAM의 고사양 단일 GPU 혹은 여러 GPU 병렬 구성

소형·Distilled 모델(8B 이하)
:8GB 이하 VRAM에서도 구동 가능

추론 중 활성화 함수(activations)나 버퍼, 배치 처리 과정 등에서 추가 메모리 사용 발생이 가능하기 때문에, 추가 메모리까지 고려해야 합니다.

‍

사양에 맞는 GPU를 개인이 구축하고 고려하기에는 매우 힘듭니다. 🥺
하지만 Runyour AI✨는 GPU 뿐만 아니라 데이터를 관리할 수 있는 스토리지까지 제공하여 DeepSeek R1을 손쉽게 사용할 수 있도록 지원합니다.

Runyour AI를 통해 손쉽게 DeepSeek R1을 사용해보세요 🐳

아래 버튼을 누르면, 바로 런유어에이아이와 함께 딥시크 R1을 사용해 볼 수 있습니다 :)

‍