Matumbo

ESXI Server 24/7 mit XPEnology VM

Recommended Posts

Hallo erstmal :smile: ich freue mich dieses Forum gefunden zu haben.

 

Ich bin ITler und bastle gerne .....irgendwie sind wir halt doch alle noch Kinder.....

 

Ich möchte hier mein Projekt vorstellen und euch teilhaben lassen. Eure Erfahrung werden mir helfen nicht jeden Fehler zu machen :grin:

Ich bin natürlich über Tipps und eure Erfahrungen sehr dankbar

 

Hardware vorhanden:

- Server:

Dell PowerEdge T20 Intel Xeon 1225v3 VT-d, 16 GB DDR3 ECC Ram, Case für 4 x 2,5 Zoll Platten zusätzlich.....

Maximale Konfiguration 6 x 2,5 Zoll und 4 x 3,5 Zoll Festplattenplätze.

 

- Festplatten:

4x WD Green WD40EZRX 4 TB 3,5 Zoll -> sollen im Raid 5 agieren (WDIDLE3 Parken deaktiviert) (12TB) DLNA Speicherort

4x HGST Z7K1000 1TB 2,5 Zoll -> sollen im Raid 5 agieren (3TB)

Netzlaufwerke für Benutzerprofile und VM Daten

 

 

Hardware geplant:

2x SSD Cucial BX100 250GB für den ESXI, an dem Onboard SATA3 Anschlüssen (VM Speicherort leider ohne Trim Befehl) 200 Euro

2x Digitus DS-30104-1 für jeweils 4x SATA 3 Platten im (Soft)Raid 5 (XPenology) 80 Euro

 

Betriebssysteme:

ESXI 5.5u2 mit angepasster NIC auf dem Physikalischen Server (USB 2.0 8GB Nano)

VM1 Server 2012 R2 64Bit mit 4GB Ram als DHCP, DNS und DC (Vielleicht PXE WDS Betankung) SSD 1

VM2 Windows 7 Professional 64Bit 2GB Ram (Testmaschine) SSD 2

VM3 Windows 8.1 Professional 64Bit 2GB Ram (Testmaschine) SSD 2

VM4 Ubuntu 14.04.2 LTS 64Bit 2GB Ram (Testmaschine) SSD 1

VM5 XPenology aktuelle Version 4GB Ram 2 CPUs 2x PCle Passthrough und 1x USB Stick Passthrough für das OS

 

Räumliche Gegebenheiten:

 

Keller mit Gigabit Verkabelung und AC Wlan.

Temperaturen 14 - 20 Grad

 

 

Green IT:

Der Dell T20 verbraucht mit 2x SSD im Idle 24 Watt (Audio deaktiviert und kein Bildschirm angeschlossen)

Die zwei Digitus DS-30104-1 Controller sollen durchgereicht werden, damit die 8 Festplatten schlafen gelegte werden können (Spindown). Zusätzlich sollen die SMART Werte auslesbar sein.

Verbrauch pro Karte circa 3 Watt.

Also sollte das System theoretisch 30-40 Watt im Idle Verbrauchen.

 

 

 

FYI:

Software Raid ist schlechter als Hardware Raid.

Ein Raid schützt nicht vor Datenverlust.

ESXi muss verwendet werden wegen der PCie Passthrough Funktion.

Jeder benötigt andere Speicherkapazitäten.

WD Green sind nicht Optimal für Raids.

Server SSDs sind besser ohne Trim Befehl(aber zu teuer).

 

Ich würde gerne eure Meinung in Bezug auf die PCie Passthrough Funktion mit dem Digitus DS-30104-1 Controller erfahren.

Können 2 Controller von dem Xpenology DS3615xs verwaltet werden(Also 8 Platten)?

Den VMs würde ich gerne eine virtuelle 10 Gigabit Netzwerkkarte einbinden (XPenology auch) damit auf das NAS performant zugegriffen werden kann.

Habt ihr Erfahrungen sammeln können oder gibt es einen anderen Weg mehr als Gigabit ausnutzen zu können

Würdet ihr etwas anders machen?

 

Mir fällt leider nicht mehr ein......es fehlen bestimmt Informationen, die ich dann nachreichen werde.

 

Informationen zum Thema Hardware Raid und Spindows im Xpenology interessieren mich brennend.

 

 

Vielen Dank schon mal im Voraus .....und verzeiht mir die Rechtschreibfehler.....ich bin ein bisschen im Stress....

Share this post


Link to post
Share on other sites

Moin Matumbo,

deine Anforderungen sind vergleichbar mit meinem Setup in der Signatur.

Von daher beschreibe und ergänze ich mal aus meiner Erfahrung.

 

Grundsätzlich würde ich immer bewährte Komponenten einsetzen, also eher eine M1015 (cross-flashed) als die Digitus Lösung. Kostet unwesentlich mehr ist aber OOB in ESXi oder Xpenology (xpe) einsetzbar. Zur Digitus kann ich nichts sagen, vermute aber mal, dass es zZ keine Treiber in xpe gibt, so dass du sie selber kompilieren müsstest.

 

Als AD/DHCP/DNS-Alternative für den W2K12 kann ich UCS von Univention sehr empfehlen, für den Privatnutzer gibt es 50 User kostenfrei. Kann als fertiges OVA image deployed werden und bietet durch den eigenen App-Store noch viel mehr.

 

Über die Performance der virtuellen Switches würde ich mir keine Sorgen machen, hier stellen eher deine Festplatten das Limit dar...

Je nachdem für was du die xpe-vm einsetzen willst, würde ich eher ein RAID10 als Raid5 erstellen.

 

In meinem Fall laufen alle VMs, welche ich direkt nach dem Booten verfügbar haben möchte (utm, ucs und xpe) auf der SSD, die Test-VMs werden per NFS oder iSCSi durch die xpe bereitgestellt. Dies erfordert nach einem ESXi Neustart zwar einen manuellen Rescan der iSCSI-Device der ESXI, die Performance ist aber sehr gut und bei sequentiellen Zugriffen schneller als die iSCSI-Anbindung meiner DS415+ via LAN.

 

Bei Fragen melde dich gerne ...

 

edit ...

"VM5 XPenology aktuelle Version 4GB Ram 2 CPUs 2x PCle Passthrough und 1x USB Stick Passthrough für das OS"

 

Für die xpe-Vm benötigst du nur 2GB RAM und keinen USB Stick, da die boot-partition als vmdk vorliegt. Anleitung und Images für die Installation siehe xpenology.nl.

Share this post


Link to post
Share on other sites

Vielen Dank schonmal für deinen Beitrag.

 

Das überlege ich mir die ganze Zeit....kann der Hardware Raid Controller Spindown ? und wie viel verbraucht er zusätzlich?

Einen Raid Controller mit 15-20 Watt extra Verbrauch ist mir zu viel. Aber du hast natürlich Recht, dass ein Hardware Raid-Controller besser geeignet ist.

 

Der DS-30104-1 (MARVELL 88SE9230 Chipsatz) wurde schon von anderen verwendet und erfolgreich eingebunden. Dort funktionierte auch das Spindown der Festplatten.

http://xpenology.com/forum/viewtopic.php?f=6&t=3509

Hier wird alles beschrieben, darum habe ich mich für diesen Controller entschieden.

 

Wenn das Ganze auch mit einem LSI Raid Controller möglich ist, kann auch dieser verwendet werden. Der preisliche Unterschied ist im grünen Bereich.

 

Beim Thema DC, DNS, WDS und DHCP möchte ich auf Windows Server 2012r2 setzen, weil ich erstens Lizenzen habe und zweitens diese auch auf der Arbeit verwende.

 

 

 

Die im Link beschriebene Methode wird auf einem USB Stick installiert oder in einer von ESXI bereitgestellte Festplatte installiert?

 

 

UCS von Univention werde ich mir mal anschauen....kannte ich bis jetzt noch nicht.

Share this post


Link to post
Share on other sites

Moin, der M1015 wird im sog. Passthrough oder iT-Modus betrieben, nicht im Raid-Modus.

Einen guter Artikel über die Hintergründe findest du hier http://gurunest.com/2013/03/ibm-m1015-f ... si-9211-8i.

 

Das Powermanagement der Festplatten würdest du dann direkt in der XPE managen, da der Controller via PCI-Passthrough direkt vom XPE verwaltet wird.

 

Zur Installation

Wie in der Anleitung beschrieben, wird von der XPEnoboot_DS3615xs_5.1-5022.vmdk gebootet.

Die zweite vmdk mit ca 8-16GB wird benötigt um das XPE-OS zu installieren - dies können aber auch direkt deine HDDs sein. Der Vorteil dieser zweiten VMDK ist jedoch, das du xpe ohne den Hardwarecontroller und HHD installieren kannst und erst nachträglich hinzufügst. Auch können die Platten später einfacher neukonfigiert werden, da sich das OS nicht auf ihnen befindet.

Erwähnenswert wäre noch, das du die XPEnoboot.vmdk entweder als non-persistent deklarierst, oder in der syslinux.cfg den Parameter rmmod=ata_piix bei ALLEN Booteinträgen hinzufügst. Ansonsten wird bei der Erstinstallation auch das xpe-bootimage mit formatiert und du kannst von vorne anfangen...

 

Generelle Überlegungen zum Stromverbrauch und zur Nutzung

Ich habe hier im Forum einige unterschiedliche Ansätze und Anforderungen gelesen, die mit der xpe abgedeckt werden sollen.

 

Kurz gesagt, ich würde nicht die Quadratur des Kreises versuchen, sondern ein Optimum aus Verfügbarkeit, Ausfallsicherheit und Stromverbrauch anstreben, wobei sich diese Punkte teilweise ausschließen.

 

Wenn es mir primär um Stromverbrauch gehen würde, würde ich die xpe so betreiben, wie es graydeath hier im Forum beschrieben hat, also als einzelne Box.

Benötige ich die xpe für mein virtualisiertes Homelab (mein Anwendungsfall), so soll das Ganze zumindest zeitweise 24/7 laufen und der Stromverbrauch ist nachrangig.

Von daher ist es sicherlich sinnvoll, sich stromsparende Komponenten zu bezahlbaren Preisen auszuwählen, aber ob ich dafür die Platten ständig hoch und runterfahren würde, wäre mMn zu überdenken.

 

Ich habe jetzt mal meine Konfiguration nachgemessen und komme mit allen gestarteten VMs auf 70 Watt im Betrieb. Meine DS415+ mit 2HDDs+2SSD verbraucht so um die 40 Watt. Insofern relativiert sich der Stromverbrauch aus meiner Sicht...

Share this post


Link to post
Share on other sites
Ich würde gerne eure Meinung in Bezug auf die PCie Passthrough Funktion mit dem Digitus DS-30104-1 Controller erfahren.
Für mich war die Problematik, daß ich zwar auf dem X9SRH einen LSI-Controller drauf habe, für den es auch ESXi-Treiber gibt, der aber einfach eine unterirdische Performance liefert. So vl. 20 MB/s. Grund scheint zu sein, daß der keinen Cache hat. So in der Art kann man das googlen. Dabei hab ich auch gelesen, daß manche dieses Problem "lösen", indem sie den Controller mit pass through an ein VM-NAS (meist natürlich OpenNAS) weiterreichen. Da ich schon länger Synology verwende und auch mit XPEnology experimentiere, wurde ich hellhörig.

 

Das Ergebnis ist sensationell. Die vier HD im X9SRH mit Brutto 14 TB liefern unter SHR 9 TB netto. Als NFS den beiden ESXen zur Verfügung gestellt und fertig. Innerhalb des X9SRH kommt eine VM auf 250 MB/s.

1.jpg.7828aa1bb53bbbbdbce795e1150d27f2.jpg

xpe-vm160gb-clone-iops.PNG.85efca283a9f563f7697b7ad9bf1ee26.PNG

xpe-vm160gb-clone-xfer.PNG.a962e1cee148f5f9eb3d4c155059d0ff.PNG

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now