Uživatelské nástroje

Nástroje pro tento web


private:emcc:infrastruktura

CESX server Ktiš

Server Supermicro x11ssm-f, v provozu od 12.2018

https://www.supermicro.com/en/products/motherboard/x11ssm-f

X11SSM-F - SUPERMICRO MB s1151 C236,4xDDR4,8xSATA,4xPCI-E
BX80677E31270V6 - INTEL Xeon E3-1270 v6 Kaby Lake / 4 jádra / 3,8 GHz / 8MB / LGA1151
M391A2K43BB1-CRC - SAMSUNG 16GB DDR4 2400 2Rx8 ECC UDIMM 4ks

IP adresace

IPMI: https://81.2.210.7
PROXMOX: https://81.2.210.106:8006
PROXMOX-MAILGW: https://81.2.210.106:8879

Disky:

root@ubuntu:/home/snemec# fdisk -l|grep "^Disk\ \/dev\/sd"
Disk /dev/sda: 111.8 GiB, 120034123776 bytes, 234441648 sectors
Disk /dev/sdc: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors
Disk /dev/sdd: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors
Disk /dev/sdb: 111.8 GiB, 120034123776 bytes, 234441648 sectors
Disk /dev/sde: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors
Disk /dev/sdg: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors
Disk /dev/sdh: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors
Disk /dev/sdf: 1.8 TiB, 2000398934016 bytes, 3907029168 sectors

Restart serveru

Po restartu je potřeba zkontrolovat, že se správně nastavily pravidla pro směrování

root@ubuntu:/home/snemec# ip route show
default via 81.2.210.1 dev eno1 proto static
10.6.0.0/24 via 10.13.238.10 dev lxdbr0
10.13.238.0/24 dev lxdbr0 proto kernel scope link src 10.13.238.1
81.2.210.0/25 dev eno1 proto kernel scope link src 81.2.210.106
81.2.210.128/25 dev eno1 proto kernel scope link src 81.2.210.132

a že se nastartoval firewall v LXC containeru ovpn

lxc exec ovpn -- bash

iptables -L

Seznam kontejnerů

root@cesx:~# pct list |grep run
100        running                 HAProxy
103        running                 post
104        running                 thematrade-sklad
109        running                 ovpn
110        running                 nxt-sicavfmp
119        running                 mailgwprx


ALL

VMID       Status     Lock         Name
100        running                 HAProxy
101        stopped                 mailgw01
102        stopped                 mailgw02
103        running                 post
104        running                 thematrade-sklad
105        stopped                 zeusapp
106        stopped                 aspvwp
107        stopped                 nextcloudnasa
108        stopped                 nextcloud-luksik
109        running                 ovpn
110        running                 nxt-sicavfmp
111        stopped                 www-rails
112        stopped                 www-drongnel
113        stopped                 www-bta
114        stopped                 farmabarochov
115        stopped                 dokuwiki
116        stopped                 nextcloud
117        stopped                 hugo01
118        stopped                 zeuswww
119        running                 mailgwprx

Konfigurace pro běžící kontejnery

root@cesx:~# pct config 100
arch: amd64
cores: 1
hostname: HAProxy
memory: 4096
net0: name=eth0,bridge=vmbr0,firewall=1,hwaddr=2E:5F:88:B7:8B:D5,type=veth
ostype: debian
rootfs: vspool03:subvol-100-disk-0,size=20G
swap: 512

root@cesx:~# pct config 100
arch: amd64
cores: 1
hostname: HAProxy
memory: 4096
net0: name=eth0,bridge=vmbr0,firewall=1,hwaddr=2E:5F:88:B7:8B:D5,type=veth
ostype: debian
rootfs: vspool03:subvol-100-disk-0,size=20G
swap: 512

root@cesx:~# pct config 104
arch: amd64
cores: 2
hostname: thematrade-sklad
memory: 8192
net0: name=eth0,bridge=vmbr0,firewall=1,hwaddr=06:B1:49:E5:FF:00,type=veth
ostype: debian
rootfs: vspool03:subvol-104-disk-0,size=8G
swap: 4096

root@cesx:~# pct config 109
arch: amd64
cores: 1
features: nesting=1
hostname: ovpn
memory: 4096
net0: name=eth0,bridge=vmbr0,firewall=1,hwaddr=92:80:B9:88:62:FC,type=veth
ostype: debian
rootfs: vspool01:subvol-109-disk-0,size=4G
swap: 4096

root@cesx:~# pct config 119
arch: amd64
cores: 4
hostname: mailgwprx
memory: 8192
net0: name=eth0,bridge=vmbr0,firewall=1,hwaddr=72:73:39:F1:7D:B9,type=veth
ostype: debian
rootfs: vspool02:subvol-119-disk-0,size=40G
swap: 8192

Blejd servery Sitel

BLEJD01

IP WAN: 81.2.210.7 - dočasná adresa
IP LAN: 192.168.133.11
IP LXD: 10.115.144.1

LXC Containery

bankerat01, dokuwiki, mailgw02, mailsrv, nextcloud, www02

Záloha

LXD kontejnery jsou uloženy na ZFS poolu.
Každý kontejner je zálohován pomocí lokálního zfs snapshotu.
Jednou denně se provádí replikace poolu na sousední server - BLEJD01 a na BCKSERVER v Kralupech.

Replikace na srv. BLEJD02

/usr/local/sbin/zxfer -dFkPv -o compression=lzjb -T blejd02 -R vspool/containers vspool/blejd01backup

Replikace na srv. BCKSRV

/usr/local/sbin/zxfer -dFkPv -o compression=lzjb -T bcksrv -R vspool/containers backup/blejd01

BLEJD02

IP WAN: 81.2.210.108
IP LAN: 192.168.133.12
IP LXD: 10.115.145.1

LXC Containery

aspvwp, fastech, mailgw01, skolawp, wiki, www, www-staticpages, www-thematrade

Záloha

LXD kontejnery jsou uloženy na ZFS poolu.
Každý kontejner je zálohován pomocí lokálního zfs snapshotu.
Jednou denně se provádí replikace poolu na sousední server - BLEJD01 a na BCKSERVER v Kralupech.

Replikace na srv. BLEJD01

/usr/local/sbin/zxfer -dFkPv -o compression=lzjb -T blejd01 -R vspool/containers vspool/blejd02backup

Replikace na srv. BCKSRV

/usr/local/sbin/zxfer -dFkPv -o compression=lzjb -T bcksrv -R vspool/containers backup/blejd02

Bios update

Servery Asrock e3c224d4i-14s

https://www.asrockrack.com/general/productdetail.asp?Model=E3C224D4I-14S#Manual

Po provedení aktualizace bios(u) jeden server nenaběhl. IPMI bylo funkční, bylo možné se dostat do menu bios(u), ale server nenabootoval. Vypadalo to, že při pokus nabootovat „zamrznul“. Bylo nutné ho „natvrdo“ vypnout.

Po opětovném provedení update biosu se závada odstranila.

ISPConfig

Backup log

Informace o stavu záloh

http://81.2.210.132:8889/backuplogger/

Kralupy kancl

OLD Veřejná IP - KNVNET do 21.5.2025: 89.239.25.64
Veřejná IP - KNVNET od 21.5.2025: 93.99.217.141

Router KNV-NET

Huawei HG8245H

Router od KNVNET. Dostupný přes VPN na adrese http://10.199.2.1
Na routeru je nastaven port forwarding na linux FW Krafwka.

Switch Mikrotik CSS106-5G-1S

Backup servery

IP: 10.199.1.50 - old - bežné PC - původně jako CESX v Sitelu

IP: 10.199.1.51 - ASROCK 32GB 8x4TB HDD - ZFS RaidZ2 - dostupný diskový prostor cca 20TB
OS: Debian 10
IPMI: http://10.199.1.105/index.html

PPTP VPN

Linux Krafwka

/etc/pptpd.conf
option /etc/ppp/pptpd-options
logwtmp
localip 10.199.5.201
remoteip 10.199.5.202-220,10.199.5.230
/etc/ppp/chap-secrets
# Secrets for authentication using CHAP
# client        server  secret                  IP addresses
 
lamauser01     *       XXXXXXXPASS             10.199.5.202
lamauser02     *       XXXXXXXPASS             10.199.5.203
iauser01       *       XXXXXXXPASS             10.199.5.204
buser01        *       XXXXXXXPASS             10.199.5.205

Mikrotik

Kralupy test server Intel - IPMI - PROXMOX

IPMI IP: http://10.199.1.123
MAC: 00:1e:67:a6:e2:82
Proxmox IP: https://10.199.1.124:8006

Etherwake NB Lenovo Kralupy

Na fw krafka je ve složce /usr/local/sbin dávka ethwakeNB

Mail server POKR - iredmail

Testovací mail server
IP: 10.199.1.151
iredadmin: https://10.199.1.151/iredadmin/users/ofiz.cz
mail: https://10.199.1.151

Certifikaty LE

SPF, DKIM, DMARC

Konfigurační záznamy - umístění

Hosting - CoolHousing

Coolhouse, hosting

https://www.coolhousing.net/

Administrace:
https://controlpanel.coolhousing.net/

IP: 87.236.197.237, 87.236.197.238

Server Dell PowerEdge R620

iDrac je vypnutý iDrac: https://10.199.1.154
root/calvin

Proxmox: https://87.236.197.237:8006
2 x CPU, 128GB RAM, 2 x 1TB SSD, 2 x 4TB SSD
Přístup povolen z Kralup a Veltrus

Rozmístění disků

  1. SSD 1TB - Boot disk - sda
  2. SSD 1TB - zatím nepoužitý
  3. SSD 4TB - ZFS mirror
  4. SSD 4TB - ZFS mirror

sda:
Model Family: Samsung based SSDs
Device Model: Samsung SSD 870 EVO 4TB
Serial Number: S758NS0W607656A

sdb:
Model Family: Samsung based SSDs
Device Model: Samsung SSD 870 EVO 1TB
Serial Number: S6PUNL0T702740Z

sdc:
Model Family: Samsung based SSDs
Device Model: Samsung SSD 870 EVO 4TB
Serial Number: S758NS0W607720A

sdd:
Model Family: Samsung based SSDs
Device Model: Samsung SSD 870 EVO 1TB
Serial Number: S6PUNL0T702718L

V serveru je flash Bios radice Perc H710 mini - řadic je nastaven v transparentním módu
https://fohdeesha.com/docs/perc.html

Poštovni server - postak

Poštovní server iRedMail
Administrace
URL: https://postak.emcc.cz/iredadmin

RoundCube
URL: https://postak.emcc.cz/mail/

MailGW - Proxmox Mail Gateway - PMG
URL: https://87.236.197.237:8866

private/emcc/infrastruktura.txt · Poslední úprava: autor: snemec

DokuWiki Appliance - Powered by TurnKey Linux