From 680ab42a7bd1eba9ba1c89471e5e1a278b628f14 Mon Sep 17 00:00:00 2001 From: Paul Buetow Date: Sat, 21 Mar 2026 15:38:25 +0200 Subject: Update architecture diagram: tmux + FreeBSD bhyve isolation layer MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Both Pi sessions now shown inside a tmux session, which runs inside a FreeBSD bhyve VM on a FreeBSD physical host (earth). Reflects the actual isolation setup: FreeBSD host → bhyve VM → tmux → pi windows. Co-Authored-By: Claude Sonnet 4.6 --- README.md | 57 +++++++++++++++++++++++++++++++++------------------------ 1 file changed, 33 insertions(+), 24 deletions(-) diff --git a/README.md b/README.md index e19395c..4c34fd3 100644 --- a/README.md +++ b/README.md @@ -8,30 +8,39 @@ Runs two A100 VMs concurrently — each serving a different model — with [Pi]( ## Architecture ``` - earth (local machine) - 192.168.3.2 / wg1 - ┌──────────────────────────────────────────────────────────────────┐ - │ │ - │ ┌─────────────┐ ┌─────────────┐ │ - │ │ Pi │ │ Pi │ │ - │ │ Nemotron 3 │ │ Qwen3 Coder │ │ - │ └──────┬──────┘ └──────┬──────┘ │ - │ │ OpenAI API │ OpenAI API │ - │ │ /v1/chat/completions │ /v1/chat/completions │ - └─────────┼────────────────────────┼──────────────────────────────-┘ - │ WireGuard wg1 │ WireGuard wg1 - │ 192.168.3.0/24 │ 192.168.3.0/24 - │ UDP :56710 │ UDP :56710 - ▼ ▼ - ┌──────────────────────┐ ┌──────────────────────┐ - │ VM1 (A100 80GB) │ │ VM2 (A100 80GB) │ - │ 192.168.3.1 │ │ 192.168.3.3 │ - │ hyperstack1.wg1 │ │ hyperstack2.wg1 │ - │ │ │ │ - │ vLLM :11434 │ │ vLLM :11434 │ - │ Nemotron-3-Super 120B│ │ Qwen3-Coder-Next 80B │ - │ (Mamba+MoE, AWQ-4b) │ │ (MoE, AWQ-4bit) │ - └──────────────────────┘ └──────────────────────┘ + FreeBSD physical host (earth) + ┌─────────────────────────────────────────────────────────────────────────┐ + │ │ + │ FreeBSD bhyve VM (isolation layer) 192.168.3.2 / wg1 │ + │ ┌───────────────────────────────────────────────────────────────────┐ │ + │ │ │ │ + │ │ tmux session │ │ + │ │ ┌─────────────────────────────────────────────────────────────┐ │ │ + │ │ │ │ │ │ + │ │ │ window 0: pi-nemotron window 1: pi-coder │ │ │ + │ │ │ ┌──────────────────┐ ┌──────────────────┐ │ │ │ + │ │ │ │ Pi │ │ Pi │ │ │ │ + │ │ │ │ Nemotron-3-Super │ │ Qwen3-Coder-Next │ │ │ │ + │ │ │ └────────┬─────────┘ └────────┬─────────┘ │ │ │ + │ │ │ │ OpenAI API │ OpenAI API │ │ │ + │ │ │ │ /v1/chat/completions │ /v1/chat/completions│ │ │ + │ │ └───────────┼──────────────────────────┼────────────────────-┘ │ │ + │ │ │ │ │ │ + │ └──────────────┼───────────────────────────┼────────────────────────┘ │ + │ │ WireGuard wg1 │ WireGuard wg1 │ + └─────────────────┼───────────────────────────┼───────────────────────────┘ + │ 192.168.3.0/24 │ 192.168.3.0/24 + │ UDP :56710 │ UDP :56710 + ▼ ▼ + ┌──────────────────────────┐ ┌──────────────────────────┐ + │ VM1 (A100 80GB) │ │ VM2 (A100 80GB) │ + │ 192.168.3.1 │ │ 192.168.3.3 │ + │ hyperstack1.wg1 │ │ hyperstack2.wg1 │ + │ │ │ │ + │ vLLM :11434 │ │ vLLM :11434 │ + │ Nemotron-3-Super 120B │ │ Qwen3-Coder-Next 80B │ + │ (Mamba+MoE, AWQ-4bit) │ │ (MoE, AWQ-4bit) │ + └──────────────────────────┘ └──────────────────────────┘ ``` **WireGuard topology:** -- cgit v1.2.3