Docker Compose 기반 스토리지 연결 및 ChromaDB 배포 (4/5)

# NFS 클라이언트 설치
sudo apt install -y nfs-common

# 마운트 포인트 생성
sudo mkdir -p /mnt/synology/AI_Knowledge_Base

# NFS 마운트 (192.168.1.100은 NAS IP)
sudo mount -t nfs4 192.168.1.100:/volume1/AI_Knowledge_Base \
  /mnt/synology/AI_Knowledge_Base

# 재시작 시 자동 마운트 (fstab 등록)
echo "192.168.1.100:/volume1/AI_Knowledge_Base /mnt/synology/AI_Knowledge_Base nfs4 defaults 0 0" \
  | sudo tee -a /etc/fstab

# 마운트 확인
df -h | grep synology

# 한국어 1순위: bge-m3 (권장)
docker exec -it ollama ollama pull bge-m3

# 저사양 대안: nomic-embed-text
docker exec -it ollama ollama pull nomic-embed-text

# 임베딩 API 테스트
curl http://localhost:11434/api/embeddings -d '{
  "model": "bge-m3",
  "prompt": "시놀로지 NAS 프라이빗 RAG 구축"
}' | python3 -c "import json,sys; d=json.load(sys.stdin); print(f'벡터 차원: {len(d[\"embedding\"])}')"

services:

  # ── 벡터 데이터베이스 ─────────────────────────
  chromadb:
    image: chromadb/chroma:latest
    container_name: rag_chromadb
    ports:
      - "8000:8000"
    environment:
      - CHROMA_SERVER_AUTH_CREDENTIALS=your_secure_token  # 토큰 변경
      - CHROMA_SERVER_AUTH_PROVIDER=chromadb.auth.token.TokenAuthServerProvider
      - IS_PERSISTENT=TRUE
    volumes:
      - /volume1/docker/chroma/data:/chroma/chroma  # NAS 영속 저장
    restart: unless-stopped
    healthcheck:
      test: ["CMD", "curl", "-f", "http://localhost:8000/api/v1/heartbeat"]
      interval: 30s

  # ── Ollama (LLM + 임베딩 엔진) ──────────────
  ollama:
    image: ollama/ollama:latest
    container_name: rag_ollama
    ports:
      - "11434:11434"
    volumes:
      - /volume1/docker/ollama/models:/root/.ollama
    environment:
      - OLLAMA_NUM_PARALLEL=2
      - OLLAMA_FLASH_ATTENTION=1
    restart: unless-stopped

  # ── RAG 오케스트레이터 (AnythingLLM) ─────────
  anythingllm:
    image: mintplexlabs/anythingllm:latest
    container_name: rag_anythingllm
    ports:
      - "3001:3001"
    environment:
      - STORAGE_DIR=/app/storage
      - VECTOR_DB=chroma
      - CHROMA_ENDPOINT=http://chromadb:8000
      - CHROMA_API_HEADER=Authorization
      - CHROMA_API_KEY=your_secure_token
      - OLLAMA_BASE_PATH=http://ollama:11434
      - EMBEDDING_ENGINE=ollama
      - EMBEDDING_MODEL_PREF=bge-m3     # 한국어 임베딩 모델
      - LLM_PROVIDER=ollama
      - OLLAMA_MODEL_PREF=qwen2.5:7b    # 추론 모델 (환경에 맞게 변경)
    volumes:
      - /volume1/docker/anythingllm/storage:/app/storage
      # 시놀로지 노트 폴더를 컨테이너에 마운트
      - /volume1/AI_Knowledge_Base:/app/storage/documents/my_notes:ro
    depends_on:
      - chromadb
      - ollama
    restart: unless-stopped

volumes: {}   # 볼륨은 위에서 직접 경로 지정

# 스택 전체 기동
cd /volume1/docker/ai-stack
docker compose up -d

# 컨테이너 상태 확인
docker compose ps

# 필수 모델 설치 (최초 1회)
docker exec -it rag_ollama ollama pull bge-m3        # 임베딩
docker exec -it rag_ollama ollama pull qwen2.5:7b    # 추론

# AnythingLLM 접속: http://NAS_IP:3001
# ChromaDB 상태: http://NAS_IP:8000/api/v1/heartbeat