Ollama 무료 다운로드·설치 방법, 윈도우에서 로컬 AI 모델 실행

인터넷 서비스에 문장을 보내지 않고 내 PC에서 AI 모델을 실행하려면 Ollama를 사용할 수 있습니다. 공식 GitHub에는 Windows용 OllamaSetup.exe가 무료로 공개돼 있습니다. 이 글은 Windows에 앱을 설치하고 로컬 모델 하나를 내려받아 첫 질문의 답을 확인하는 과정까지 안내합니다.

Ollama 앱 자체와 로컬 실행은 무료로 시작할 수 있지만 모델 파일은 별도로 내려받아 저장해야 합니다. 클라우드 모델은 PC 안에서 실행되는 모델과 다르며 계정·요금제 조건이 적용될 수 있습니다. 아래 절차는 계정 없이 실행할 수 있는 로컬 모델에 맞췄습니다.

Ollama

0.40.0 정식판공식 버전

앱 다운로드·로컬 모델 실행무료 범위

Windows 설치 EXE안내 파일

내 PC에서 AI 대화주요 용도

Ollama 0.40.0 Windows 설치판 다운로드

모델을 고르고 PC에서 실행하는 도구

Ollama는 AI 모델을 받아 실행하는 앱과 명령줄 도구를 함께 제공합니다. 모델을 한 번 내려받으면 로컬 실행은 사용자 PC의 CPU·GPU와 메모리를 사용합니다. 공식 빠른 시작 안내는 앱에서 로컬 모델을 고르거나 터미널에서 ollama 명령으로 시작하는 두 방법을 제시합니다.

Windows 앱은 설치 뒤 백그라운드에서 동작하고, 명령줄과 로컬 API도 사용할 수 있습니다. 앱 화면에서 모델을 선택해 대화할 수 있으며 텍스트·PDF 파일을 끌어 넣는 기능도 공식 앱 소개에 나옵니다. 다만 파일 이해나 이미지 입력 가능 여부는 선택한 모델의 기능에 따라 달라집니다. 먼저 짧은 텍스트 질문으로 작동을 확인하는 편이 쉽습니다.

로컬과 클라우드의 위치 차이를 먼저 구분하세요. 로컬 모델은 모델 파일을 PC에 저장하고 그 PC에서 답을 계산합니다. Ollama의 클라우드 모델은 서버에서 실행되므로 로그인과 서비스 조건을 확인해야 합니다. 모델 이름만 보고 둘을 같은 무료 로컬 기능으로 생각하지 않도록 선택 화면의 실행 위치를 확인하세요.

공식 앱의 대화 화면과 설정 살펴보기

공식 블로그의 2025년 macOS 앱 화면 예시와 문맥 길이 설정입니다. Windows 0.40.0의 창 장식·메뉴 배치와 같다고 단정하지 않고 모델 선택·입력창·설정 개념만 참고하세요.

Ollama 0.40.0 Windows 설치판 다운로드

프로그램 역할	AI 모델 다운로드와 내 PC에서의 대화 실행
확인한 배포	Ollama v0.40.0 정식 릴리스
선택 파일	Windows 앱 설치판 OllamaSetup.exe
Windows 조건	Windows 10 22H2 이상
저장 공간	앱 설치 최소 4GB, 모델 파일은 추가 공간 필요
첫 작업	로컬 모델을 선택해 질문하고 답 확인

공식 Windows 설치판과 로컬 실행 조건 확인

공식 다운로드 페이지는 Windows 설치를 제공하고, v0.40.0 GitHub 정식 릴리스에는 OllamaSetup.exe가 올라와 있습니다. GitHub API의 파일 크기는 1,578,287,264바이트이며 파일 주소의 HEAD 응답도 같은 크기를 반환했습니다. 용량이 큰 설치 파일이므로 저장 공간과 네트워크 상태를 먼저 살펴보세요. 이 글의 버튼은 해당 버전의 Windows 설치판 하나로 연결됩니다.

공식 Windows 문서는 Windows 10 22H2 이상을 요구합니다. 설치 자체는 관리자 권한 없이 사용자 홈 디렉터리에 진행할 수 있으며 앱 설치에 최소 4GB의 공간이 필요하다고 안내합니다. 모델을 내려받을 때는 추가 공간이 듭니다. 예를 들어 공식 빠른 시작에서 소개하는 gemma4:e2b는 모델 다운로드만 약 7.2GB입니다. 큰 모델은 저장 공간뿐 아니라 메모리도 더 필요합니다.

GitHub 릴리스에는 이름이 비슷한 Windows ZIP도 있습니다. ZIP은 독립 명령줄 구성 요소를 서비스에 통합할 때 사용하는 별도 배포입니다. 일반적인 Windows 앱 화면에서 모델을 고르고 대화하려면 OllamaSetup.exe 설치판을 선택하세요. macOS·Linux는 공식 페이지에서 각 운영체제의 배포를 따로 선택해야 합니다.

Windows 버전과 여유 공간을 확인합니다.
공식 v0.40.0 릴리스에서 OllamaSetup.exe를 고릅니다.
다운로드가 끝난 파일명과 출처를 대조한 뒤 설치를 진행합니다.

앱에서 로컬 모델을 골라 첫 질문하기

설치가 끝나면 시작 메뉴에서 Ollama를 열고 초기 설정 화면을 읽으세요. 공식 빠른 시작은 앱을 열어 설정 안내에 따라 로컬 모델을 고르거나, 클라우드를 쓰려면 로그인하도록 설명합니다. 이번 작업에서는 Local 또는 로컬 실행을 선택하세요. 모델을 처음 고를 때는 해당 파일이 PC에 내려받아지므로 완료될 때까지 기다려야 합니다.

모델을 고른 다음 입력창에 “회의록에서 결정 사항만 세 줄로 정리하는 방법을 알려줘”처럼 짧은 질문을 넣고 전송해 보세요. 답이 나타나면 로컬 모델의 첫 실행이 끝난 것입니다. 결과가 늦다면 모델 크기와 PC의 메모리·GPU 성능을 확인하세요. 공식 사이트는 큰 모델일수록 GPU가 약한 PC에서 느릴 수 있다고 설명합니다. 처음부터 큰 문서와 긴 대화를 넣기보다 짧은 텍스트로 확인하면 문제를 구분하기 쉽습니다.

공식 2025년 앱 소개 화면에는 입력창 안의 모델 선택기가 보이며, 별도 설정 그림에는 문맥 길이를 조절하는 항목이 있습니다. 그 그림은 macOS에서 촬영한 예전 화면이므로 Windows 0.40.0의 버튼 위치를 그대로 설명하는 자료로 사용하지 않습니다. 현재 앱에서 모델 이름과 로컬 여부를 읽고 실제 표시된 조작을 따라가세요.

Ollama 앱을 열고 로컬 모델을 선택합니다.
모델 파일 다운로드가 끝나면 짧은 한국어 질문을 입력합니다.
답이 출력되는지 확인하고 필요한 경우 더 작은 모델을 고릅니다.

터미널에서 모델 실행 상태 다시 확인하기

앱에서 무엇을 골라야 할지 어렵다면 공식 문서의 명령줄 흐름으로도 확인할 수 있습니다. Windows에서 새 PowerShell이나 명령 프롬프트를 열고 ollama를 입력해 시작 안내를 볼 수 있습니다. 공식 빠른 시작은 ollama run gemma4:e2b 명령을 예로 들며, 모델을 아직 받지 않았다면 다운로드한 뒤 대화를 시작한다고 설명합니다.

gemma4:e2b는 공식 문서에서 약 7.2GB 다운로드와 8GB의 사용 가능한 VRAM 또는 Mac 통합 메모리를 권장하는 예시입니다. PC의 여유 공간과 메모리가 부족하면 설치 테스트를 위해 무리하게 받지 말고 모델 목록에서 더 작은 로컬 모델을 고르세요. 모델별 라이선스와 필요한 용량은 모델 페이지에서 각각 확인해야 합니다. Ollama 프로그램의 MIT 라이선스가 모든 모델의 이용 조건을 대신하지는 않습니다.

터미널 대화에서 질문을 입력해 답을 받은 뒤 /bye로 나올 수 있습니다. 앱과 터미널 중 편한 쪽을 사용하되 같은 로컬 모델을 고른 것인지 이름을 확인하세요. 개발 도구를 쓰는 경우 공식 Windows 문서의 로컬 API 주소는 http://localhost:11434입니다. 인터넷의 클라우드 API 주소와 혼동하면 데이터가 처리되는 위치가 달라질 수 있습니다.

터미널에서 ollama 명령이 인식되는지 확인합니다.
PC 사양에 맞는 로컬 모델을 골라 run 명령으로 실행합니다.
질문에 답이 나오면 /bye로 대화를 종료합니다.

모델 저장 위치와 긴 대화 설정

Ollama 설치 파일과 모델 파일은 같은 용량을 쓰지 않습니다. 공식 Windows 문서에 따르면 앱 바이너리는 기본적으로 사용자 영역에 설치되고, 내려받은 모델과 설정은 사용자 홈의 .ollama 폴더에 보관됩니다. 모델 파일이 여러 개 쌓이면 디스크 사용량이 커지므로 처음에는 필요한 모델 하나만 받아 결과를 확인하세요.

모델을 다른 드라이브에 저장해야 한다면 공식 문서의 OLLAMA_MODELS 사용자 환경 변수를 이용할 수 있습니다. Windows 환경 변수에서 경로를 지정한 뒤 이미 실행 중인 Ollama 트레이 앱을 종료하고 다시 여는 순서가 안내돼 있습니다. 경로를 바꾸기 전에 이전 모델 위치와 새 디스크의 여유 공간을 확인하면 중복 다운로드를 피할 수 있습니다.

대화가 길어 앞의 내용을 잊는다면 공식 앱 소개의 문맥 길이 설정을 확인할 수 있습니다. 다만 문맥 길이를 늘리면 메모리 요구량도 올라갑니다. 처음에는 기본값으로 간단한 문답이 되는지 보고, 실제 긴 문서를 다룰 때만 PC 메모리에 맞춰 조정하세요. 파일을 끌어 넣는 기능 역시 모델과 앱 버전의 지원 범위를 확인하며 사용합니다.

받을 모델의 용량과 디스크 여유를 확인합니다.
필요할 때만 OLLAMA_MODELS 위치를 변경합니다.
긴 문서 작업에서만 문맥 길이를 조정합니다.

다운로드나 실행이 멈출 때 구분하기

설치 파일을 받는 도중 중단됐다면 GitHub v0.40.0 릴리스에서 OllamaSetup.exe 이름과 파일 크기를 다시 확인하세요. 브라우저가 임의의 미러나 오래된 버전으로 이동했는지 먼저 구분하고, 불완전한 파일을 설치하지 말고 공식 주소에서 다시 받는 편이 좋습니다. 이 문서에서 확인한 파일 크기는 배포가 바뀌면 함께 달라질 수 있으므로 최신 릴리스 표기도 읽으세요.

설치 뒤 PowerShell에서 ollama 명령을 찾지 못한다면 공식 Windows 문서처럼 새 터미널을 열고 다시 확인하세요. 앱 설치 경로가 사용자 PATH에 추가되므로 설치 전에 열어 둔 터미널에는 변경이 반영되지 않을 수 있습니다. 앱 자체가 열리지 않는 경우 공식 문서가 안내하는 %LOCALAPPDATA%\Ollama의 app.log와 server.log 위치를 확인해 오류를 구분할 수 있습니다.

모델 다운로드는 완료됐지만 답이 지나치게 느리다면 선택한 모델 크기와 GPU·메모리 조건을 살펴보세요. 공식 문서는 Windows에서 NVIDIA와 AMD Radeon 가속을 지원하지만 드라이버 조건이 있다고 안내합니다. 모델의 이름 끝에 :cloud가 붙은 것을 고른 경우에는 로컬이 아니라 서버 실행이므로 로그인·서비스 상태를 확인해야 합니다. 로컬 사용이 목적이면 PC에 내려받는 모델을 다시 선택하세요.

설치 실패와 모델 다운로드 실패를 구분합니다.
새 터미널에서 ollama 인식과 앱 로그를 확인합니다.
느린 답변은 모델 크기·메모리·실행 위치부터 살핍니다.

자주 묻는 질문

Ollama 앱은 무료로 받을 수 있나요?

공식 저장소가 MIT 라이선스로 공개돼 있고 Windows 설치 파일을 무료로 제공합니다. 클라우드 모델의 이용 조건은 별도입니다.

Windows에서는 어떤 파일을 받나요?

일반적인 앱 설치에는 공식 v0.40.0의 OllamaSetup.exe를 선택합니다. 릴리스의 ZIP은 별도 명령줄 배포입니다.

설치만 하면 AI 모델을 바로 쓸 수 있나요?

로컬 모델을 선택한 뒤 해당 파일을 추가로 내려받아야 합니다. 모델마다 필요한 용량과 메모리가 다릅니다.

계정 없이도 로컬 모델을 실행하나요?

공식 빠른 시작은 로컬 모델을 선택하거나 클라우드 이용을 위해 로그인하도록 구분합니다. 로컬 실행에는 클라우드 로그인이 필요하지 않습니다.

모델이 느리면 무엇을 확인하나요?

모델 크기, PC 메모리와 GPU 조건을 확인하세요. 문맥 길이를 크게 올렸다면 기본값으로 줄여 비교해 보세요.

작은 로컬 질문부터 실행해 보세요

Ollama는 Windows PC에 AI 모델을 내려받아 직접 대화할 수 있게 해 주는 무료 앱입니다. 공식 Windows 설치판을 현재 시스템과 저장 공간에 맞게 받은 뒤 앱에서 로컬 모델을 골라 짧은 질문 하나를 보내 보세요. 답이 나오면 설치와 모델 실행을 함께 확인한 셈입니다.

다음에는 필요한 작업에 맞는 모델의 용량·라이선스를 살피고, 긴 문서를 처리할 때만 문맥 길이와 저장 위치를 조정하세요. 클라우드 모델을 쓰려는 경우에는 로컬 실행과 데이터 처리 위치·이용 조건이 달라진다는 점을 선택 전에 확인하면 됩니다.