내 컴퓨터에서 AI 모델을 직접 실행하고 싶다면 GPT4All을 살펴볼 수 있습니다. Windows용 데스크톱 앱을 설치한 뒤 별도의 로컬 모델 파일을 추가하면 Chats 화면에서 질문을 입력할 수 있습니다. Nomic AI의 공식 저장소는 앱을 무료 오픈소스로 공개하고 있으며, v3.10.0 릴리스에 Windows x64 설치 파일이 있습니다.
이 글은 GPT4All 앱과 AI 모델 파일의 차이, Windows x64 파일 선택, 모델의 크기와 메모리 조건 확인, 첫 채팅까지 순서대로 설명합니다. 로컬 모델을 쓰는 경우와 원격 업체의 API 모델을 연결하는 경우는 데이터가 처리되는 위치가 다르므로 모델 선택 화면도 함께 확인하세요.
앱을 설치한 뒤 로컬 모델을 고르는 AI 채팅 도구
GPT4All은 Nomic AI가 공개한 데스크톱 AI 채팅 프로그램입니다. 공식 소개와 사용 설명서는 Windows, macOS, Linux에서 언어 모델을 기기에 내려받아 실행하고 대화할 수 있다고 안내합니다. 앱만 설치하면 답변 모델이 자동으로 준비되는 방식은 아닙니다. 첫 사용에는 자신이 쓸 모델을 따로 선택하고 다운로드해야 합니다.
공식 사이트의 화면 예시에는 왼쪽에 Home, Chats, Models, LocalDocs, Settings가 있고 채팅 화면 위쪽에는 현재 선택한 모델이 표시됩니다. 질문은 아래 입력칸에 적습니다. 이 이미지는 제작사가 게시한 화면 예시이며 Windows 3.10.0을 직접 실행해 찍은 사진으로 소개하지 않습니다.
모델을 고를 때는 이름만 보지 말고 파일 크기, 필요한 RAM, 모델 제공자와 라이선스를 읽어야 합니다. 공식 모델 문서는 여러 모델의 용량과 요구 메모리가 다르고 개인·상업적 이용 조건도 모델마다 달라질 수 있다고 설명합니다. 컴퓨터 성능에 비해 큰 모델을 고르면 내려받은 뒤에도 원활하게 실행하지 못할 수 있습니다.
로컬 모델은 파일을 받은 다음 자신의 기기에서 답을 생성합니다. 반면 GPT4All의 원격 API 연결은 외부 모델 제공자에게 프롬프트를 보내는 방식입니다. 공식 문서는 원격 API를 로컬 모델 다운로드와 분명히 구분합니다. 민감한 문서를 다룰 계획이라면 지금 선택한 모델이 로컬인지 먼저 확인하고, LocalDocs의 임베딩 관련 설정도 목적에 맞게 살펴보세요.
공식 자료에서 보는 채팅 화면과 모델 목록
현재 Nomic AI 사이트의 채팅 화면과 공식 저장소의 모델 목록 예시입니다. 모델 목록 이미지는 v3.1.0 화면이므로 3.10.0에서 메뉴 배치나 제공 모델이 다를 수 있습니다.
| 프로그램 | GPT4All |
|---|---|
| 제작 | Nomic AI |
| 확인 버전 | 3.10.0 |
| 앱 가격 | 무료 오픈소스 |
| Windows x64 파일 | gpt4all-installer-win64-v3.10.0.exe |
| 용도 | 로컬 AI 모델 채팅 · LocalDocs |
Windows 설치 파일과 모델 파일 구분하기
제작자의 GitHub v3.10.0 릴리스에서 Assets를 확인하세요. 일반적인 Intel·AMD 기반 Windows x64 PC의 설치 파일 이름은 gpt4all-installer-win64-v3.10.0.exe입니다. 같은 목록에 win64-arm이 들어간 파일은 Windows ARM 기기용이므로 CPU 종류에 맞춰 구분해야 합니다. 공식 릴리스에는 macOS DMG와 Linux RUN도 따로 있습니다.
이 설치 파일은 약 744MB입니다. 앱을 받은 후 채팅에 쓸 언어 모델을 또 내려받아야 하므로 여유 저장 공간을 함께 확인하세요. 모델 크기는 선택한 항목에 따라 달라집니다. 공식 모델 목록의 파일 크기와 RAM Required를 대조하고 내 컴퓨터에 맞는 항목을 고르는 것이 첫 단계입니다.
공식 저장소는 GPT4All 앱을 무료 오픈소스라고 설명합니다. 다만 앱에서 고르는 모든 모델이 동일한 라이선스인 것은 아닙니다. 공식 모델 문서에도 모델마다 개발자와 개인·상업적 사용 조건이 다르다고 적혀 있습니다. 원격 API 탭은 기기에 모델을 저장해 실행하는 경로가 아니며 별도 제공자의 계정·요금 조건이 적용될 수 있습니다.
파일을 저장했다면 릴리스 태그 v3.10.0과 파일명 끝의 win64-v3.10.0.exe를 다시 확인하고 Windows 설치 절차에 따라 진행하세요. 회사나 학교에서 관리하는 PC라면 설치 권한이 필요할 수 있습니다. 설치를 마친 뒤 GPT4All의 Home 또는 Models 화면이 나타나는지 확인하면 앱과 모델 파일을 혼동하지 않을 수 있습니다.
로컬 모델을 추가하고 첫 질문 보내기
GPT4All을 연 뒤 Models로 이동해 + Add Model을 선택하세요. 공식 빠른 시작 문서는 여기서 원하는 모델을 찾아 Download를 누르는 순서를 안내합니다. 모델의 이름과 파일 크기, RAM Required, 라이선스를 보고 자신의 PC와 이용 목적에 맞는 항목을 고르세요. 예시 화면에 보이는 특정 모델이 오늘도 같은 이름으로 제공된다고 가정하지 않아야 합니다.
다운로드가 끝나면 Models 목록에 해당 모델이 나타나는지 확인합니다. 이후 Chats로 이동해 위쪽 모델 선택 영역에서 방금 받은 로컬 모델을 고르거나 Load Default Model을 사용하세요. 채팅 입력칸이 활성화됐다면 '회의 메모의 핵심을 세 문장으로 정리해 줘'처럼 간단한 질문을 넣어 첫 응답이 생성되는지 확인할 수 있습니다.
질문을 보냈는데 답이 느리다면 바로 앱을 다시 설치하기보다 모델의 RAM 요구량과 PC 메모리를 먼저 살펴보세요. 공식 모델 문서는 크기와 양자화 수준에 따라 메모리 사용량과 속도가 달라진다고 설명합니다. 더 작은 로컬 모델을 선택하면 같은 컴퓨터에서 결과를 얻기 쉬울 수 있지만 답변의 성격과 품질은 모델별로 다릅니다.
대화 내용을 업무에 쓰기 전에는 답변의 사실과 원문을 확인하세요. 로컬에서 생성된 응답이라도 정확성이 자동으로 보장되는 것은 아닙니다. 첫 작업은 모델이 실제로 로드됐는지, 질문 입력 후 응답이 끝까지 나타나는지, 필요하면 채팅 기록에서 해당 대화를 다시 찾을 수 있는지 확인하는 것으로 마무리합니다.
내 문서를 참고하게 할 때는 LocalDocs 사용하기
일반 채팅이 동작한 뒤 자신의 파일 내용을 참고시키고 싶다면 왼쪽 LocalDocs로 이동하세요. 공식 문서에서는 + Add Collection을 눌러 컬렉션 이름과 문서 폴더를 지정한 다음 Create Collection을 선택하라고 안내합니다. 처음에는 시험용 텍스트나 PDF가 든 작은 폴더로 시작하면 색인 진행 상태를 확인하기 쉽습니다.
컬렉션 처리 화면에 Ready가 나타나면 Chats의 오른쪽 위 LocalDocs를 열어 해당 컬렉션을 대화에 연결할 수 있습니다. 관련 문서 조각을 모델 입력에 포함해 답변을 만드는 방식이므로, 질문에는 찾으려는 문서 내용이나 주제를 구체적으로 적는 편이 좋습니다. 답변 아래 Sources가 보이면 어떤 파일을 참고했는지도 살펴보세요.
LocalDocs의 파일 형식과 임베딩 처리 방식은 설정에 따라 달라질 수 있습니다. 공식 설정 문서에는 기본 지원 확장자와 Nomic Embed API 사용 옵션이 별도로 적혀 있습니다. 기기 안에서 처리하려는 목적이라면 외부 API 옵션이 켜져 있는지 확인하고, 회사 문서는 내부 규정에 맞는 폴더만 추가하세요.
컬렉션이 아직 Ready가 아니더라도 공식 문서는 처리된 파일부터 채팅에 쓸 수 있다고 안내합니다. 다만 폴더 전체를 대상으로 질문하려면 진행 상태가 끝난 뒤 다시 확인하는 편이 분명합니다. 문서가 바뀌거나 설정을 수정했다면 컬렉션을 다시 빌드해야 할 수도 있습니다.
모델이 안 보이거나 로컬 사용인지 헷갈릴 때
설치 후 질문 칸에 'Load a model' 안내가 보이면 먼저 Models에서 파일을 내려받았는지 확인하세요. 앱 설치 파일과 모델 파일은 다릅니다. 다운로드가 진행 중이라면 완료될 때까지 기다리고, 완료 후 모델 목록에 나타나는지 다시 봅니다.
모델이 목록에 있는데 채팅을 시작할 수 없다면 Chats 상단의 모델 선택을 확인하세요. 다른 모델이 선택돼 있거나 로드가 끝나지 않았을 수 있습니다. 공식 빠른 시작 문서는 모델 다운로드 후 Chats로 돌아가 Load Default Model을 누르는 흐름을 제시합니다.
모델 검색 결과에서 메모리 조건이 높게 보이면 PC의 RAM과 저장 공간을 비교하세요. 공식 모델 설명의 RAM Required는 항목별로 다릅니다. 이름이 유명하다는 이유만으로 가장 큰 모델을 고르기보다 실행 가능한 크기부터 시험하고 필요에 따라 바꾸는 편이 낫습니다.
외부로 데이터를 보내지 않으려면 원격 API 모델을 로컬 모델로 착각하지 마세요. 공식 모델 문서는 원격 API를 선택하면 입력한 프롬프트가 제공업체로 나간다고 설명합니다. 채팅 상단에 선택된 모델과 Models 목록을 대조한 뒤 LocalDocs의 외부 임베딩 API 설정도 확인하세요. 모델 파일을 기기에 내려받았다고 해서 모든 선택지가 자동으로 로컬 처리되는 것은 아닙니다.
자주 묻는 질문
GPT4All 앱은 무료인가요?
예. Nomic AI 공식 저장소는 GPT4All 앱을 무료 오픈소스로 안내합니다. 다만 별도로 고르는 모델의 라이선스와 원격 API 제공자의 조건은 각각 확인해야 합니다.
프로그램만 설치하면 바로 채팅할 수 있나요?
로컬 채팅에는 모델 파일이 필요합니다. Models에서 모델을 다운로드하고 Chats에서 해당 모델을 로드한 뒤 질문을 입력하세요.
Windows에서 어떤 파일을 골라야 하나요?
일반 x64 PC는 공식 v3.10.0 릴리스의 gpt4all-installer-win64-v3.10.0.exe입니다. ARM 기기는 win64-arm이 포함된 별도 파일을 고르세요.
모든 대화가 반드시 PC에서만 처리되나요?
아닙니다. 기기에 받은 로컬 모델과 외부 제공자의 원격 API 모델을 구분해야 합니다. 원격 API를 쓰면 프롬프트가 제공업체로 전송됩니다.
내 PDF를 참고해 답하도록 만들 수 있나요?
LocalDocs에서 문서 폴더를 컬렉션으로 추가할 수 있습니다. 지원 파일 형식과 외부 임베딩 API 설정을 확인하고, 처리 상태가 Ready인지 살펴보세요.
앱과 모델을 각각 준비해 첫 채팅 확인하기
Windows x64 설치 파일을 고른 뒤 GPT4All을 열고 Models에서 PC 메모리에 맞는 로컬 모델을 받으세요. Chats에서 그 모델을 선택해 짧은 질문을 보내고 실제 응답이 나타나는지 확인하면 첫 설정을 끝낼 수 있습니다.
문서를 연결할 때는 LocalDocs의 폴더와 처리 방식을 따로 확인하세요. 특히 로컬 모델과 원격 API 모델의 차이를 알고 사용하면 어떤 경로로 질문이 처리되는지 혼동을 줄일 수 있습니다.
공식 자료와 확인일
Nomic AI GPT4All 공식 사이트와 데스크톱 화면 · GPT4All 공식 저장소·무료 오픈소스·지원 환경 · GPT4All v3.10.0 공식 릴리스와 플랫폼 파일 · GPT4All 공식 빠른 시작 · GPT4All 모델 크기·메모리·원격 API 안내 · GPT4All LocalDocs 컬렉션 안내 · GPT4All LocalDocs 임베딩과 파일 형식 설정 | 2026-10-06T19:51:19.181461+00:00
