제 인프라를 소개합니다!

인프라 구조도

제가 구축한 인프라를 소개합니다!

AI Server

• GPU: RTX 4070 Ti Super
• 주요 용도: 인공지능 모델 학습 및 파인튜닝
• 서비스:
  • Hugging Face AutoTrain (LLM 모델 파인튜닝 및 관리)
  • Python 스크립트 실행 및 자동화

Nginx Proxy Manager

• Web Reverse Proxy 도구
• Nginx 사용
• 클라이언트의 요청을 직접 백엔드 서버로 전달하지 않고, 중간에 위치한 서버가 대신 요청을 받아 처리하는 방식의 프록시 서버, 사용자가 요청을 보내면 리버스 프록시가 이를 받아 내부의 실제 서버로 전달하고, 다시 응답을 받아 클라이언트에게 돌려준다. 이 방식은 보통 로드 밸런싱, 보안 강화, SSL 종료 처리, 캐싱, URL 기반 라우팅 등의 목적으로 사용됩니다. 예를 들어 여러 대의 서버로 트래픽을 분산시키거나, 내부 서버의 IP를 외부에 노출하지 않도록 보호하는 데 유용합니다.
• Reference: https://github.com/NginxProxyManager/nginx-proxy-manager

Ollama

• Large Language Model(LLM) 실행 도구
• 오픈소스 기반의 로컬 대형 언어 모델(LLM) 실행 도구로, 개발자들이 클라우드 서비스에 의존하지 않고도 다양한 LLM을 손쉽게 다운로드하고 실행할 수 있도록 지원, 이 도구는 macOS, Linux, Windows 등 여러 운영체제를 지원하며, 명령줄 인터페이스(CLI), REST API, Python 및 JavaScript 라이브러리를 통해 다양한 방식으로 모델과 상호작용할 수 있습니다.
• Reference: https://github.com/ollama/ollama

Proxmox

• LXC, VM 관리 도구
• 오픈소스 기반의 서버 가상화 플랫폼으로, 하나의 물리 서버에서 여러 개의 가상 머신(VM)과 컨테이너를 동시에 실행할 수 있도록 지원하는 통합 관리 솔루션, Proxmox VE(Proxmox Virtual Environment)는 KVM 기반의 가상화 기술과 LXC 기반의 컨테이너 기술을 함께 제공하며, 웹 기반 관리 인터페이스를 통해 VM 생성, 스토리지 설정, 네트워크 구성, 백업 및 복원 등을 손쉽게 제어할 수 있습니다. 또한, 클러스터 구성 및 고가용성(HA), 라이브 마이그레이션, 스냅샷, 백업 기능 등을 지원해 엔터프라이즈 환경에서도 안정적인 인프라 운영이 가능합니다. 주로 홈서버, 개발 테스트 환경, 중소기업 서버 가상화 등에 널리 사용됩니다.
• Reference: https://www.proxmox.com/en/

Nextcloud

• Cloud Storage
• 오픈소스 기반의 자가 호스팅 클라우드 스토리지 플랫폼으로, 개인이나 조직이 자체 서버에서 파일을 저장하고, 동기화하며, 공유 가능, Dropbox나 Google Drive와 유사한 기능을 제공하지만, 데이터를 직접 관리할 수 있다는 점에서 보안성과 프라이버시 측면에서 강점을 가집니다. 기본적인 파일 관리 외에도 일정, 연락처, 메모, 화상회의, 문서 협업 등의 기능을 플러그인 형태로 확장할 수 있어 협업 도구로도 활용됩니다. 웹 인터페이스와 모바일·데스크탑 클라이언트를 통해 다양한 기기에서 접근이 가능하며, 개인 사용자부터 기업까지 폭넓게 사용되고 있습니다.
• Reference: https://github.com/nextcloud

Hoarder

• Bookmark Management
• 오픈소스 자가 호스팅 북마크 관리 애플리케이션, 링크, 메모, 이미지, PDF 등을 저장하고 정리할 수 있으며, AI 기반 자동 태깅과 전체 텍스트 검색 기능을 제공합니다. 또한, RSS 피드 자동 수집, OCR을 통한 이미지 내 텍스트 추출, 전체 페이지 아카이빙, 동영상 자동 저장 기능 등 다양한 기능을 지원합니다. 웹 인터페이스 외에도 크롬 및 파이어폭스 확장 프로그램, iOS 및 Android 앱을 통해 다양한 플랫폼에서 접근할 수 있습니다. Docker를 이용한 간편한 설치와 Meilisearch, Redis 등의 구성 요소를 통해 유연한 확장이 가능하며, REST API를 통해 다른 시스템과의 통합도 지원합니다. Karakeep은 개인 사용자부터 개발자, 연구자까지 폭넓은 사용자를 대상으로 하며, 데이터 프라이버시와 자율성을 중시하는 사용자에게 적합한 솔루션입니다.
• Reference: https://github.com/karakeep-app/karakeep

MongoDB

• Document based NOSQL Database
• 문서 지향(Document-oriented)의 NoSQL 데이터베이스로, 데이터를 JSON과 유사한 BSON 형식으로 저장, 관계형 데이터베이스와 달리 스키마가 유연하여 구조가 자주 변하는 데이터나 복잡한 계층 구조를 저장하는 데 적합합니다. 대규모 데이터를 수평적으로 확장할 수 있도록 설계되어 있어 분산 처리와 클러스터링에 강점을 가지며, 빠른 읽기/쓰기 성능을 제공합니다. 또한, 복제(replication), 샤딩(sharding), 인덱싱, 집계 파이프라인 등 다양한 기능을 갖추고 있어 웹 애플리케이션, IoT, 빅데이터 분석 등 다양한 분야에서 널리 사용됩니다.
• Reference: https://github.com/mongodb/mongo

Harbor

• 컨테이너 이미지 관리 레지스트리
• CNCF(Cloud Native Computing Foundation)에서 관리하는 오픈소스 컨테이너 이미지 및 아티팩트 레지스트리로, 보안성과 확장성을 갖춘 클라우드 네이티브 환경을 위한 이미지 저장소입니다. 초기에는 VMware에서 개발되었으며, 2016년에 오픈소스로 공개되었고, 2020년에는 CNCF의 Graduated 프로젝트로 승격되었습니다. OCI(오픈 컨테이너 이니셔티브) 아티팩트를 저장, 서명, 스캔하는 기능을 제공하며, 정책 기반의 복제, 역할 기반 접근 제어(RBAC), 취약점 스캐닝, 이미지 서명 및 검증, 감사 로그 등의 기능을 통해 보안성과 관리 편의성을 높였습니다 .
• Reference: https://github.com/goharbor/harbor

Qdrant

• Vector Database
• Rust로 개발된 오픈소스 벡터 데이터베이스로, 고차원 벡터 데이터를 효율적으로 저장하고 검색할 수 있도록 설계되었습니다. 자연어 처리, 이미지 검색, 추천 시스템 등에서 생성된 임베딩 데이터를 기반으로 유사도 검색을 수행하는 데 최적화, HNSW(Hierarchical Navigable Small World) 알고리즘을 활용하여 빠르고 정확한 근사 최근접 이웃 검색을 지원하며, 코사인 유사도, 유클리디안 거리, 내적 등 다양한 거리 측정 방식을 제공합니다. 또한, 각 벡터에 JSON 형식의 메타데이터(payload)를 부여할 수 있어, 조건 기반 필터링 및 하이브리드 검색이 가능합니다.
• Reference: https://github.com/qdrant/qdrant

Uptime Kuma

• Monitoring 도구
• 오픈소스 기반의 자가 호스팅 모니터링 도구로, 웹사이트, 서버, 네트워크 서비스의 가용성과 상태를 실시간으로 감시하고 알림을 제공하는 솔루션입니다. Docker를 통해 간편하게 설치할 수 있으며, 직관적인 웹 기반 대시보드를 통해 다양한 서비스를 모니터링 가능, HTTP/HTTPS, TCP 포트, Ping(ICMP), DNS 레코드, SSL 인증서 만료 등 다양한 프로토콜과 서비스를 지원하며, 20초 간격의 짧은 모니터링 주기를 설정할 수 있어 빠른 문제 감지가 가능합니다 . 또한, 이메일(SMTP), Telegram, Discord, Slack 등 90개 이상의 알림 채널을 통해 다운타임 발생 시 즉시 알림을 받을 수 있습니다.
• Reference: https://github.com/louislam/uptime-kuma

N8N

• Workflow 자동화 도구
• 오픈소스 워크플로우 자동화 도구로, 다양한 서비스와 API를 연결해 자동화된 작업 흐름을 시각적으로 구성 가능, “nodemation”의 줄임말인 n8n은 코드 작성 없이도 드래그 앤 드롭 방식으로 워크플로우를 만들 수 있으며, 필요 시 JavaScript를 활용한 커스터마이징도 가능합니다. 이메일, 슬랙, 데이터베이스, 웹훅, HTTP 요청 등 수백 가지의 노드를 지원하고, 조건 분기, 반복 처리, 오류 처리 같은 로직 구성도 가능해 Zapier나 Make의 대안으로 자주 사용됩니다. 자체 호스팅이 가능하여 데이터 프라이버시를 유지할 수 있고, Docker로 쉽게 배포할 수 있는 장점도 있어 개발자 및 기업 사용자 모두에게 적합한 자동화 플랫폼입니다.
• Reference: https://github.com/n8n-io/n8n

Open WebUI

• self-hosting web interface
• 오픈소스 기반의 자가 호스팅 웹 인터페이스로, 다양한 대형 언어 모델(LLM)과의 상호작용을 지원하는 플랫폼, 처음에는 Ollama를 위한 인터페이스로 개발되었으나, 현재는 OpenAI, Anthropic, Google Gemini 등 다양한 모델과의 호환성을 제공합니다. ChatGPT와 유사한 사용자 친화적인 채팅 인터페이스를 제공하며, 웹 브라우저를 통해 접근할 수 있어 설치 없이도 로컬에 설치된 LLM과 실시간으로 상호작용할 수 있습니다. 또한, 다중 사용자 환경을 지원하여 기업이나 연구소 등에서 협업 도구로 활용하기에 적합합니다.
• Reference: https://github.com/open-webui/open-webui

Dozzle

• Docker Container Log Monitoring Web Application
• Docker 컨테이너의 로그를 실시간으로 모니터링할 수 있는 경량의 오픈소스 웹 애플리케이션, Docker CLI를 통해 로그를 확인하는 번거로움 없이, 브라우저를 통해 직관적인 인터페이스로 로그를 확인할 수 있어 개발자와 시스템 관리자에게 유용한 도구입니다. Docker Swarm, Kubernetes, Podman 등 다양한 컨테이너 오케스트레이션 환경을 지원하며, 자체 호스팅이 가능하여 프라이버시를 중시하는 사용자에게 적합한 솔루션입니다.
• Reference: https://github.com/amir20/dozzle

ByteStash

• Code Snippet Management Web Application
• 개발자들이 코드 스니펫을 효율적으로 저장하고 관리할 수 있도록 도와주는 오픈소스 자가 호스팅 웹 애플리케이션입니다. React와 Node.js로 개발되었으며, Docker를 통해 간편하게 배포할 수 있습니다. 직관적인 웹 인터페이스를 제공하여 코드 스니펫을 생성, 편집, 필터링할 수 있으며, 다양한 프로그래밍 언어를 지원합니다. 스니펫은 SQLite 데이터베이스에 안전하게 저장되며, 키워드나 언어별로 빠르게 검색할 수 있습니다.
• Reference: https://github.com/jordan-dalby/ByteStash

Home Assistant

• IoT Management Platform
• 오픈소스 기반의 홈 자동화 플랫폼으로, 다양한 스마트 홈 기기와 서비스를 통합해 하나의 시스템에서 제어하고 자동화할 수 있도록 도와줍니다. Python으로 개발되었으며, 로컬에서 실행되기 때문에 클라우드에 의존하지 않고 높은 수준의 데이터 프라이버시를 제공합니다. 사용자는 YAML 또는 UI를 통해 자동화 규칙을 설정할 수 있고, 수천 개 이상의 장치 및 플랫폼과의 연동을 지원합니다. 또한 모바일 앱, 대시보드, 음성 비서 연동 등을 통해 다양한 방식으로 스마트홈을 제어할 수 있어, 개인 사용자부터 고급 사용자의 요구까지 폭넓게 충족시킵니다. Docker, Raspberry Pi, VM 등 다양한 환경에 설치할 수 있으며, 커뮤니티가 활발해 지속적인 업데이트와 확장이 가능합니다.
• Reference: https://github.com/home-assistant

Network UPS Tools(NUT)

• Network 기반 UPS 관리 도구
• 다양한 제조사의 UPS(무정전 전원 공급 장치), PDU(전원 분배 장치), 태양광 컨트롤러 등의 전력 장비를 모니터링하고 제어할 수 있는 오픈소스 소프트웨어 모음입니다. 주요 구성 요소로는 장치와 통신하는 드라이버, 데이터를 수집하고 네트워크를 통해 제공하는 서버(upsd), 그리고 상태를 모니터링하고 이벤트에 대응하는 클라이언트(upsmon)가 있습니다.
• Reference: https://networkupstools.org/

Tailscale VPN

• Wireguard Protocol Based VPN
• WireGuard 프로토콜을 기반으로 한 오픈소스 VPN 솔루션으로, 복잡한 설정 없이도 안전하고 간편하게 사설 네트워크를 구축할 수 있도록 도와줍니다. 기기 간 직접 연결(Peer-to-Peer)을 통해 메시(Mesh) 형태의 네트워크를 구성하며, 중앙 집중형 서버 없이도 안정적인 통신이 가능합니다. Tailscale은 다양한 운영 체제(Windows, macOS, Linux, iOS, Android 등)에서 지원되며, 각 기기에 클라이언트를 설치하고 로그인하면 자동으로 100.x.x.x 대역의 사설 IP가 할당되어 Tailscale 네트워크 내에서만 유효한 안전한 통신 채널을 사용할 수 있습니다. 이러한 방식은 별도의 방화벽 설정이나 포트 포워딩 없이도 내부망처럼 안전하게 통신할 수 있게 해줍니다. 또한, Tailscale은 Zero Trust 보안 모델을 채택하여, 네트워크에 연결된 기기와 사용자를 항상 검증하며 접근 권한을 부여합니다. 이를 통해 사용자 인증 및 권한 관리를 강화하고, 데이터 프라이버시를 유지할 수 있습니다. Tailscale은 개인 사용자에게 최대 100대의 기기를 무료로 지원하는 플랜을 제공하며, 홈 네트워크 구성, 원격 근무, 서버 관리 등 다양한 용도로 활용할 수 있습니다.
• Reference: https://tailscale.com/

Traccar

• GPS Based Tracking Application
• Java로 개발된 오픈소스 GPS 추적 시스템으로, 차량, 자산, 사람 등의 위치를 실시간으로 모니터링하고 관리할 수 있는 백엔드 서버를 제공합니다. 200개 이상의 GPS 프로토콜과 2,000개 이상의 추적 장치를 지원하며, 다양한 SQL 데이터베이스와의 연동이 가능합니다. 주요 기능으로는 실시간 위치 추적, 운전자 행동 모니터링, 상세 및 요약 보고서 생성, 지오펜싱(Geofencing), 알림 및 경고 시스템, 계정 및 장치 관리, 이메일 및 SMS 지원 등이 있습니다 . 또한, REST API를 통해 외부 시스템과의 통합이 용이하며, 웹 애플리케이션과 모바일 앱(Android 및 iOS)을 통해 사용자 친화적인 인터페이스를 제공합니다.
• Reference: https://github.com/traccar/traccar

Mattermost

• Slack 과 유사한 협업 도구
• 오픈소스 기반의 자체 호스팅 협업 플랫폼으로, Slack이나 Microsoft Teams와 유사한 기능을 제공하면서도 데이터 보안과 프라이버시를 강화한 솔루션입니다. Go와 React로 개발되었으며, 웹, 데스크톱(Windows, macOS, Linux), 모바일(iOS, Android) 클라이언트를 지원합니다. 채널 기반의 메시징 시스템을 중심으로, 일대일 및 그룹 채팅, 파일 공유, 검색 기능 등을 제공합니다. 또한, GitHub, Jira, Jenkins 등 다양한 개발 도구와의 통합이 가능하며, RESTful API와 웹훅을 통해 확장성과 자동화를 지원합니다.
• Reference: https://github.com/mattermost/mattermost