내 자료만 읽고답하는 AI,앱 하나 깔면돼요

입문자용© AIKOREACLUB

Mintplex-Labs/anything-llm

내 자료만 읽고 답하는 AI, 앱 하나 깔면 돼요

PDF·워드·텍스트 같은 내 문서를 작업 공간에 넣어 두고, 거기서만 근거를 찾아 출처와 함께 답하는 AI 채팅 앱이에요. 기본값은 내 컴퓨터 안에서 돌아요

★ 67,895데스크톱 앱 + 서버(도커) · MIT확인 2026-11-04

시험 범위 강의 자료 PDF가 스무 개. 챗봇에 하나씩 붙여 넣어 묻다 보면 금세 대화창이 꽉 차고, 어제 올린 파일은 오늘 대화에선 없는 셈이 돼요. 답이 어느 파일 몇 쪽에서 나왔는지도 알 수 없고요.AnythingLLM은 문서를 '작업 공간'에 한 번 넣어 두면 그 안에서 근거를 찾아 답하고, 어느 문서를 보고 답했는지 출처를 함께 보여 주는 앱이에요. 앱을 깔면 기본값으로 내 컴퓨터 안에서 돌고, 쓰고 싶은 AI 모델은 로컬이든 API든 골라 붙여요. 깃허브 별 6만 7천 개가 넘는, 이 분야에서 가장 많이 쓰이는 저장소 중 하나예요.

문서를 하나씩 붙여 넣는 일, 왜 지치나

일반 챗봇 창에 붙여 넣기

AnythingLLM 작업 공간

README가 설명하는 쓰임(문서 올리기, 출처 표시, 작업 공간)을 보여 주려고 저희가 그린 예시예요. 대화 내용과 파일 이름은 지어낸 것이고, 왼쪽 챗봇의 동작은 서비스마다 달라요.

한눈에

무엇인가요

AnythingLLM은 '내 문서와 대화하는' 올인원 AI 앱이에요. README는 비공개 챗GPT를 내 손으로 만드는 앱이라고 소개해요. 맥·윈도우·리눅스용 데스크톱 앱과, 여럿이 함께 쓰는 도커(서버)판이 있어요.작업 공간에 문서 넣기. PDF, TXT, DOCX 같은 문서를 끌어다 놓으면 앱이 글을 꺼내 조각내고 검색용 색인을 만들어요. 색인(임베딩)은 기본으로 앱 안에서 처리하고, 저장도 내장 벡터 데이터베이스(LanceDB)에 해요.모델은 골라 붙이기. 내장 로컬 엔진(Lemonade와 llama.cpp 기반, CPU나 GPU)으로 공개 모델을 바로 돌리거나, Ollama·LM Studio 같은 로컬 도구, OpenAI·앤트로픽·제미나이·딥시크 같은 API를 연결해요. 대화마다 규칙에 따라 모델을 자동으로 고르는 모델 라우팅도 있어요.그 위에 얹는 것. 웹을 찾아보는 에이전트, 코드 없이 만드는 에이전트 흐름, MCP 연결, 기억(Memories), 정해진 시간에 돌리는 예약 작업까지 README가 나열해요. 문서를 넣고 질문하면 답과 함께 출처가 붙고, 기본값은 내 컴퓨터 안에서 처리돼요.도커판에만 있는 것: 여러 사용자와 권한, 내 홈페이지에 붙이는 채팅 위젯, 색상·로고 바꾸기.

함께 쓰는 도구 · 맥·윈도우·리눅스 앱 · 도커(여럿이 함께) · Ollama·LM Studio 같은 로컬 모델 · OpenAI·앤트로픽·제미나이 등 API · MCP

이런 분께

강의 자료·논문·매뉴얼 PDF를 쌓아 두고 거기서만 답을 받고 싶은 학생·연구자
회사 규정집·제품 문서를 팀원들이 함께 물어볼 창구를 만들고 싶은 분
자료를 외부 챗봇에 올리기 꺼려져 내 컴퓨터 안에서 돌리고 싶은 분

어떻게 작동하나요

1. 문서가 조각과 색인이 돼요. 올린 파일은 collector가 글로 바꿔 조각내고, 임베더가 각 조각을 숫자(벡터)로 바꿔 벡터 데이터베이스에 넣어요. 기본값은 앱에 내장된 임베더와 LanceDB라 이 과정이 내 컴퓨터 안에서 끝나요.2. 질문하면 관련 조각부터 찾아요. 질문과 가까운 조각을 찾아 AI 모델에 함께 건네고, 모델은 그 조각을 근거로 답해요. 이 방식을 RAG(검색해서 보태는 생성)라고 불러요. 답 아래에 어느 문서를 봤는지 출처가 붙어요.3. 자료가 어디까지 가는지는 모델 선택이 정해요. 내장 엔진이나 Ollama 같은 로컬 모델이면 질문과 조각이 내 컴퓨터를 떠나지 않아요. OpenAI 같은 외부 API를 고르면 그 조각이 해당 회사 서버로 가요. README도 외부 모델·임베더·벡터 DB를 쓰면 그 서비스로 나가는 연결이 생긴다고 적어요.문서 조각이 어디로 가는지는 앱이 아니라 내가 고른 모델이 정해요. 회사 자료라면 로컬 모델부터 골라 보세요.

할 수 있는 일

내 문서와 대화PDF·TXT·DOCX 등을 작업 공간에 넣고, 그 안에서 근거를 찾아 출처와 함께 답해요

모델 골라 쓰기내장 로컬 엔진, Ollama·LM Studio, OpenAI·앤트로픽·제미나이 등 30여 가지 중에서 골라요

에이전트작업 공간 안에서 웹을 찾아보는 에이전트, 코드 없이 만드는 에이전트 흐름, MCP 연결

기억과 예약나와 작업 공간에 대한 정보를 기억하고, 정해진 시간에 반복 작업을 돌려요

여럿이 함께(도커판)사용자마다 권한을 나누고, 홈페이지에 붙이는 채팅 위젯과 브랜드 색을 설정해요

개발자용 API다른 프로그램에서 부를 수 있는 API가 있어요

바로 쓸 수 있나요

누구나 바로

필요한 것맥·윈도우·리눅스 중 하나. 로컬 모델을 돌리려면 모델 크기에 맞는 메모리가 필요하고, 외부 API 모델을 쓰려면 그 회사 API 키가 필요해요. 도커판은 서버에 RAM 2GB·저장 공간 10GB 이상을 권해요

비용앱과 저장소는 무료(MIT). 만든 회사가 운영하는 호스팅판은 따로 유료이고, 외부 API 모델 요금은 각 회사에 내요

시작하기

데스크톱 앱 받기
맥·윈도우·리눅스용 앱이 있어요. 터미널 없이 받아서 열면 돼요.
```
https://anythingllm.com/download
```
여럿이 함께 쓰려면 도커 이미지 받기
서버에 올리는 방식이에요. amd64와 arm64 CPU를 모두 지원해요.
```
docker pull mintplexlabs/anythingllm
```

도커로 실행(맥·리눅스)

문서와 설정이 내 컴퓨터 폴더에 남도록 저장 위치를 붙여 실행하는 공식 명령이에요. 끝나면 브라우저에서 localhost:3001 을 열어요.

export STORAGE_LOCATION=$HOME/anythingllm && mkdir -p $STORAGE_LOCATION && touch "$STORAGE_LOCATION/.env" && docker run -d --rm -p 3001:3001 --cap-add SYS_ADMIN -v ${STORAGE_LOCATION}:/app/server/storage -v ${STORAGE_LOCATION}/.env:/app/server/.env -e STORAGE_DIR="/app/server/storage" mintplexlabs/anythingllm

작업 공간에 문서 넣기
앱을 열면 작업 공간을 만들고 Upload a Document 로 문서를 올리거나, 대화창에 파일을 끌어다 놓아요.

처음 해 볼 한마디

Summarize this document

README에는 첫 질문 예시가 따로 없고, 데모 영상에서 파일을 넣고 'Summarize this document' 라고 묻는 장면이 나와요. 한국어로 물어도 되는지는 README에 적혀 있지 않지만, 저장소의 앱 화면 언어 파일에는 한국어(ko)가 들어 있어요.

처음 쓰는 순서

앱 내려받기anythingllm.com/download 에서 맥·윈도우·리눅스 앱을 받아 열어요
모델 고르기내장 로컬 엔진이나 Ollama, 또는 API 키를 넣어 외부 모델을 골라요
작업 공간 만들기주제별로 작업 공간을 만들고 문서를 끌어다 넣어요
질문하기답 아래 출처 표시를 눌러 어느 문서에서 나왔는지 확인해요
함께 쓰려면 도커여러 사용자·권한·홈페이지 위젯이 필요하면 도커판을 서버에 올려요

README와 도커 안내 문서에 나온 순서를 처음 쓰는 흐름으로 묶은 예예요.

문서를 넣고 물으면 이렇게 돌아가요

AnythingLLM

경제학 시험

메시지를 보내세요

README와 데모 영상에 나온 동작(문서 올리기, 출처 표시, 모델 고르기, 에이전트)을 따라 저희가 그린 예시예요. 파일 이름·답·조각 수는 지어낸 것이고, 실제 답은 고른 모델과 넣은 문서에 따라 달라져요.

비슷한 도구

AnythingLLM은 '내 문서 안에서 답하기'가 중심이고, Ollama는 그 아래에서 모델을 돌리는 엔진, GPT Researcher는 밖에서 자료를 모아 오는 쪽이에요(각 README 기준).

회사 자료, 밖으로 안 보내고 AI에 물어보려면모델을 내 컴퓨터에서 돌리는 실행기. AnythingLLM의 엔진으로 붙일 수 있어요ollama/ollama

출처 20곳 달린 조사 보고서를 AI가 쓴다면내 문서 안에서 답하는 게 아니라 웹을 뒤져 보고서를 써요assafelovic/gpt-researcher

주의할 점

자료가 밖으로 안 나가는 건 로컬 모델·로컬 임베더·내장 벡터 DB를 썼을 때예요. OpenAI 같은 외부 모델이나 외부 벡터 DB를 고르면 문서 조각이 그 서비스로 가고, 그 회사 약관을 따라요. README가 그렇게 밝혀요.
익명 사용 통계(텔레메트리)를 기본으로 보내요. 설치 종류, 문서를 넣고 뺐다는 사실, 쓰는 모델 종류, 대화를 보냈다는 사실만이고 문서 내용이나 대화 내용은 안 보낸다고 README가 적어요. 끄려면 설정 파일에 DISABLE_TELEMETRY=true 를 넣거나 앱 사이드바의 Privacy 에서 꺼요.
텔레메트리를 꺼도 모델을 내려받는 cdn.anythingllm.com 과 깃허브로 나가는 연결은 남아요.
여러 사용자·권한, 홈페이지 채팅 위젯, 색·로고 바꾸기는 도커판에만 있어요. 데스크톱 앱은 혼자 쓰는 용도예요.
README 번역본은 중국어·일본어판만 있어요. 앱 화면의 한국어는 저장소 안 언어 파일(frontend/src/locales/ko)에 들어 있지만, 번역이 어디까지 됐는지는 확인하지 못했어요.

낯선 말

작업 공간 · 문서와 대화를 묶어 두는 방, 주제별로 여러 개 만들어요
RAG · 질문과 관련된 문서 조각을 먼저 찾아 AI에 건네고 답하게 하는 방식이에요
임베딩 · 글 조각을 비교하기 쉽게 숫자 묶음으로 바꾼 것, 검색 색인에 써요
벡터 DB · 임베딩을 저장하고 비슷한 조각을 빨리 찾는 데이터베이스예요(기본 LanceDB)
도커 · 프로그램을 통째로 담아 서버 어디서나 같은 모양으로 돌리는 도구예요
MCP · AI 앱이 외부 도구·자료에 같은 방식으로 연결하는 규격이에요
텔레메트리 · 프로그램이 만든 회사로 보내는 익명 사용 통계예요

AI 답은 참고 자료예요. 법·세금·돈·건강처럼 삶에 큰 영향을 주는 일에서는 AI 답이 정답이 될 수 없어요. 최종 판단은 전문가나 공식 기관에서 확인하세요.