Zaslal: st srpen 17 2022, 19:42 Předmět: Proxmox a virtualizace
Mám k dispozici starší PC s i5-3570K a chtěl bych si z něj vyzkoušet vytvořit server a nejspíš i router atd.
Jako základ se mi líbí Proxmox, ve kterém jdou spouštět virtualizované stroje nebo kontejnery. Pro zajímavost, ta 'Káčková' verze CPU neumí VT-d (bez K ho umí), takže bych to asi u síťových karet řešil vytvořením virtuálního portu nad fyzickým, ale ještě nevím, jaké z toho budou výhody/nevýhody nebo dopad na propustnost atd.
Už jsem se díval na různé varianty dister pro router + firewall a zatím nevím, jestli nasadit Untangle, pfSense nebo dokonce obojí. Dále na různé Linuxové distribuce, ale tam určitě skončím u Debianu. Co se týče služeb/services, tak ty bych řešil až naposled. Uvažuji o jednom virtuálním stroji na webový server, druhý na mailový server, třetí pro NAS apod.
Jedete někdo v něčem podobném? A máte nějaké dobré rady ze své zkušenosti?
Tak se s tím Proxmoxem hraji a vypadá to dobře. Základem je správně pochopit náležitosti, hlavně co se týče sítě, ale tím že to jde i naklikat, kdy při požadovaných blbostech to na ně upozorní, je dobrá zpětná vazba. Jakmile (snad) základ pochopím a vše bude funkční, tak přidání něčeho dalšího už bude jednoduché.
Spotřeba je vysoká (v idle kolem 60W), ale mám tam starší zdroj a ještě jsem se nehrál s omezením násobiče CPU nebo podtaktováním. Ale díky nabraným zkušenostem, by nakonec nebyl problém pořídit něco méně žravého. Navíc mám v PCI-E síťovou LAN kartu, WiFi kartu a NVMe SSD disk, pro který jsem musel upravit BIOS, protože z něj neuměl bootovat.
V Proxmoxu jsem přidal virtuální stroj s pfSense, který routuje/NATuje + obstarává firewall a další mám LXC kontejner s Debianem a NGINX + PHP. Ty LXC kontejnery jsou připraveny s Webminem + Adminerem, což je v prvním případě klikací nastavení, ale to ani není potřeba.
Vyzkoušel jsem i propustnost, kde z Windows přes USB LAN a celým Proxmoxem, kde jsou nad fyzickými síťovými kartami zapnuty karty virtuální a je velmi dobrá.
Ale jo, taky si hraju. Vyhodil jsem žravou příšeru a nasadil Raspberry (zkouška na RPi 400), v pondělí snad dorazí RPi 4/8GB tak budu pokračovat PiVPN, nějaký firewall, Mycroft asistent a doufám že i Frigate. Jediné co zatím nehodlám přesouvat je Home Assistant. Drobný problém mám s LXC kontejnery, musím najít něco rozumně funkčního na aarch64.
Hezky, další nadšenec
Je vidět, že asi ty 4GB RAM bude celkem limit, ale budeš mít 8GB. V tom svém mám 16GB RAM což ujde, ale zase ta spotřeba je proti RPi několikanásobná. Tím, že RPi není X86 nebo AMD64, tak to bude vždycky složitější. Pamatuji se na hrátky s Orange Pi, kde byl Allwinner H3 s architekturou sun8iw7p1 a to bylo větší peklo. Ani netuším, jak to má ten SoC od Broadcomu v RPi s virtualizací, jestli je v něm HW podpora.
Přes víkend jsem přihodil 500GB HDD a ten připojil do Storage jako adresář, aby se na něj ukládaly zálohy, stažené ISO a LXC. V už spuštěných kontejnerech lze zvolit "mount point" a dle zvoleného místa si na HDD alokuje stejně velký soubor. Jako další tam zkusím navést úložiště pro sambu, ftp, webové stránky apod.
K tomu Webminu jsem upínal větší naděje, ale spíše se v něm ztrácím a ne všechno funguje.
Zkusil jsem nainstalovat OpenWrt jako kontejner a přes něj jsem chtěl ovládat WiFi kartu a veškerý přístup do WiFi sítě. WiFi kartu v PCI-E slotu fyzicky vidím viz. screenshot, ale nejsem schopný ji nainstalovat a nahodit. Firmware a ovladače jsem přidal, jsou sice s příponou -ct (Candela Technologies), ale zkoušel jsem i bez -ct. Možná to je kvůli chybějícím VT-d na CPU, ale to by mohlo být zásadní pro virtuální stroj a ne kontejner.
Ono to je jinak, než jsem si myslel a jsem z toho zmaten. V OpenWrt kontejneru je sdílený kernel i moduly/ovladače z Proxmoxu, takže zavedení ovladačů a firmwarů je vlastně zbytečné, což může být i výhoda. Musím to nějak vstřebat.
_______ ________ __
| |.-----.-----.-----.| | | |.----.| |_
| - || _ | -__| || | | || _|| _|
|_______|| __|_____|__|__||________||__| |____|
|__| W I R E L E S S F R E E D O M
-----------------------------------------------------
OpenWrt 21.02.3, r16554-1d4dea6d4f
-----------------------------------------------------
root@openwrt:~# uname -a
Linux openwrt 5.15.39-3-pve #2 SMP PVE 5.15.39-3 (Wed, 27 Jul 2022 13:45:39 +0200) x86_64 GNU/Linux
root@openwrt:~# lsmod |grep ath
ath 36864 1 ath10k_core
ath10k_core 598016 1 ath10k_pci
ath10k_pci 49152 0
cfg80211 966656 3 ath10k_core,ath,mac80211
mac80211 1236992 1 ath10k_core
root@openwrt:~# dmesg
dmesg: klogctl: Operation not permitted
root@openwrt:~#
ale tyhle řádky mi při spuštění pokaždé smaže.
Zkoušel jsem i USB WiFi dongle, ale s tím taky nemám úspěch. Něco dělám blbě.
Edit: Tak jsem si nainstaloval ještě jeden OpenWrt jako VM, kde díky chybějícímu VT-d kartu v PCI-E nepřidám, ale přidal jsem USB WiFi dongle. Tomu jsem v OpenWrt doinstaloval ovladače + firmware a už je schopný tuto WiFi využít.
potřeboval jsem zrovna TUN adapter pod unprivileged CT (pro vpn)
V terminálu proxmoxu jsem vlastnictví házel pod "unprivileged root"
což by měly být UUID + 10000
kód:
chown 100000:100000 /dev/net/tun
a pak v konfigur áku /etc/pve/lxc/cislo_stroje.conf
doplňoval poslední dva řádky
dám ho sem celý
S tím zatím bojuji, co přesně je privileged nebo unprivileged. Určitě to bude hlavně co se týče bezpečnosti a izolace kontejneru, protože když jsem dal 0, tak mi neprošel ani ssh-rsa klíč a musel jsem vyplnit heslo. S tím vypnutím/zapnutím jsem se hrál, protože mi neprocházelo sdílení pomocí NFS, ale to mi zatím visí v luftě a někdy se k tomu vrátím. Budu to muset lépe prozkoumat, protože to bude mít vliv i co se týče přístupu k HW hostitele apod.
Sehnal jsem si levný CPU s VT-d, takže budu testovat i přímý přístup k PCI-E atd., ale vím, že s tímto bývá taky víc problémů než užitku, tak uvidím.
Tak s tím CPU s VT-d to nevyšlo. Proxmox sice jede na Debianu včetně aktualizací z jeho repozitářů, ale kernel pro virtualizaci mají upravený. Jenže k němu nejsou k dispozici zdrojáky (deb-src), takže kdybych chtěl patchnout Atheros ovladače, tak to nejde, protože příkaz stáhne zdrojáky pro Debian bullseye. V 5GHz mi jde nahodit AP pouze na kanálech 36-48 a proto jsem chtěl použít nejlépe OpenWrt, ale v něm mi funguje AP s USB WiFi donglem. Zatím to je takový patvar, protože v OpenWrt musím používat NAT, ale obě WiFi sítě fungují.
_______ ________ __
| |.-----.-----.-----.| | | |.----.| |_
| - || _ | -__| || | | || _|| _|
|_______|| __|_____|__|__||________||__| |____|
|__| W I R E L E S S F R E E D O M
-----------------------------------------------------
OpenWrt 21.02.3, r16554-1d4dea6d4f
-----------------------------------------------------
root@OpenWrt:~# iw dev
phy#0
Interface wlan0
ifindex 5
wdev 0x3
addr 48:5d:60:xx:xx:xx
ssid OpenWrt
type AP
channel 7 (2442 MHz), width: 20 MHz, center1: 2442 MHz
txpower 20.00 dBm
Takhle to vypadá před nahozením AP a po nahození.
kód:
Frequencies:
* 5180 MHz [36] (23.0 dBm)
* 5200 MHz [40] (23.0 dBm)
* 5220 MHz [44] (23.0 dBm)
* 5240 MHz [48] (23.0 dBm)
* 5260 MHz [52] (24.0 dBm) (no IR, radar detection)
* 5280 MHz [56] (24.0 dBm) (no IR, radar detection)
* 5300 MHz [60] (24.0 dBm) (no IR, radar detection)
* 5320 MHz [64] (24.0 dBm) (no IR, radar detection)
* 5500 MHz [100] (24.0 dBm) (no IR, radar detection)
* 5520 MHz [104] (24.0 dBm) (no IR, radar detection)
* 5540 MHz [108] (24.0 dBm) (no IR, radar detection)
* 5560 MHz [112] (24.0 dBm) (no IR, radar detection)
* 5580 MHz [116] (24.0 dBm) (no IR, radar detection)
* 5600 MHz [120] (24.0 dBm) (no IR, radar detection)
* 5620 MHz [124] (24.0 dBm) (no IR, radar detection)
* 5640 MHz [128] (24.0 dBm) (no IR, radar detection)
* 5660 MHz [132] (24.0 dBm) (no IR, radar detection)
* 5680 MHz [136] (24.0 dBm) (no IR, radar detection)
* 5700 MHz [140] (24.0 dBm) (no IR, radar detection)
* 5720 MHz [144] (24.0 dBm) (radar detection)
* 5745 MHz [149] (30.0 dBm)
* 5765 MHz [153] (30.0 dBm)
* 5785 MHz [157] (30.0 dBm)
* 5805 MHz [161] (30.0 dBm)
* 5825 MHz [165] (30.0 dBm)
* 5845 MHz [169] (27.0 dBm) (no IR)
* 5865 MHz [173] (27.0 dBm) (no IR)
Frequencies:
* 5180 MHz [36] (20.0 dBm)
* 5200 MHz [40] (20.0 dBm)
* 5220 MHz [44] (20.0 dBm)
* 5240 MHz [48] (20.0 dBm)
* 5260 MHz [52] (20.0 dBm) (no IR, radar detection)
* 5280 MHz [56] (20.0 dBm) (no IR, radar detection)
* 5300 MHz [60] (20.0 dBm) (no IR, radar detection)
* 5320 MHz [64] (20.0 dBm) (no IR, radar detection)
* 5500 MHz [100] (24.0 dBm) (no IR, radar detection)
* 5520 MHz [104] (24.0 dBm) (no IR, radar detection)
* 5540 MHz [108] (24.0 dBm) (no IR, radar detection)
* 5560 MHz [112] (24.0 dBm) (no IR, radar detection)
* 5580 MHz [116] (24.0 dBm) (no IR, radar detection)
* 5600 MHz [120] (24.0 dBm) (no IR, radar detection)
* 5620 MHz [124] (24.0 dBm) (no IR, radar detection)
* 5640 MHz [128] (24.0 dBm) (no IR, radar detection)
* 5660 MHz [132] (24.0 dBm) (no IR, radar detection)
* 5680 MHz [136] (24.0 dBm) (no IR, radar detection)
* 5700 MHz [140] (24.0 dBm) (no IR, radar detection)
* 5720 MHz [144] (disabled)
* 5745 MHz [149] (disabled)
* 5765 MHz [153] (disabled)
* 5785 MHz [157] (disabled)
* 5805 MHz [161] (disabled)
* 5825 MHz [165] (disabled)
* 5845 MHz [169] (disabled)
* 5865 MHz [173] (disabled)
Zrovna testuji TrueNAS, kde mám připojený na zkoušku pouze jeden disk. Chtěl jsem ještě testovat Docker a vše kolem něho, ale Proxmox mě natolik nadchnul, kde jeho modularita je obrovská, že u něj zůstanu.
Samozřejmě zbrkle skáču z jednoho do druhého, protože nápadů mám hodně, co bych všechno chtěl, ale pokud mi to na první dobrou jakž takž funguje, tak si myslím, že to vždy nějak dokopu do zdárného konce.
Jestli mi to doma nahradí 2-3 zařízení, které dohromady žerou 30-40W, tak budu spokojený, protože tohle bude (co se týče bezpečnosti) vždy aktualizované, než něco, co má poslední firmware starý 5 let apod.
Po svém ISP budu chtít veřejnou IPv4 (za 50 Kč měsíčně), takže časem budu mít vlastní emailový server, určitě cloud pro celou rodinu, ať už pomocí zkoušeného TrueNAS nebo Owncloud/Nextcloud, VPN služby nejspíš pomocí Wireguard atd.
Tak se mi nakonec podařilo sehnat CPU s VT-d a vše funguje jak má, což jsem nečekal. Četl jsem o tom, že je s tím víc problémů, než užitku.
Do VM OpenWrt jsem přidal PCI-E WiFi kartu od Qualcommu a AP můžu nahodit na kanálech viz. screenshot, což je jinde než 36-48 a samozřejmě správně.
Nyní si budu moci vše nakonfigurovat dle jakéhokoliv výmyslu.
Časy uváděny v GMT + 1 hodina Jdi na stránku 1, 2Další
Strana 1 z 2
Nemůžete odesílat nové téma do tohoto fóra. Nemůžete odpovídat na témata v tomto fóru. Nemůžete upravovat své příspěvky v tomto fóru. Nemůžete mazat své příspěvky v tomto fóru. Nemůžete hlasovat v tomto fóru. Nemůžete připojovat soubory k příspěvkům Můžete stahovat a prohlížet přiložené soubory
Informace na portálu Elektro bastlírny jsou prezentovány za účelem vzdělání čtenářů a rozšíření zájmu o elektroniku. Autoři článků na serveru neberou žádnou zodpovědnost za škody vzniklé těmito zapojeními. Rovněž neberou žádnou odpovědnost za případnou újmu na zdraví vzniklou úrazem elektrickým proudem. Autoři a správci těchto stránek nepřejímají záruku za správnost zveřejněných materiálů. Předkládané informace a zapojení jsou zveřejněny bez ohledu na případné patenty třetích osob. Nároky na odškodnění na základě změn, chyb nebo vynechání jsou zásadně vyloučeny. Všechny registrované nebo jiné obchodní známky zde použité jsou majetkem jejich vlastníků. Uvedením nejsou zpochybněna z toho vyplývající vlastnická práva. Použití konstrukcí v rozporu se zákonem je přísně zakázáno. Vzhledem k tomu, že původ předkládaných materiálů nelze žádným způsobem dohledat, nelze je použít pro komerční účely! Tento nekomerční server nemá z uvedených zapojení či konstrukcí žádný zisk. Nezodpovídáme za pravost předkládaných materiálů třetími osobami a jejich původ. V případě, že zjistíte porušení autorského práva či jiné nesrovnalosti, kontaktujte administrátory na diskuzním fóru EB.