"Christmas - the time to fix the computers of your loved ones" « Lord Wyrm

Next Server: Dual Xeon Build

Denne 29.08.2018 - 18:30 8257 37
Posts

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Hi,

mein jetziger Server mit ASRock C2750D4I, 42TB Raw (30TB usable) kommt langsam an seine Grenzen, weshalb ein Upgrade erfolgt. Das ganze soll zum Großteil aus gebrauchten Serverkomponenten bestehen, die ich von euch (:D) + ebay bekomme :)

Ich würde einfach etwas Feedback benötigen, da es das erste Projekt in der Größenordnung und mit Serverkomponenten für mich ist. Zusätzlich soll das ganze auch ein Erfahrungsbericht/Build-log werden.


Einsatzzweck:
- Usenet
- Plex
- vllt. Nextcloud
- vllt. VMs als Rechenknechte für meine Arbeit (aktuell Data Science mit Python)


OS:
Aktuell tendiere ich extrem stark zu unRaid. Aktuell verwende ich OMV mit SnapRaid und MergerFS, was rennt. ABER das ganze kommt mir nicht 100% ausgereift vor. Major Release Upgrades sind teils ein Glücksspiel und oftmals ist es mit Bastelei verbunden.
unRaid sieht da wesentlich ausgereifter aus, den Preis dafür zahl ich gerne. Es soll alles via Docker laufen.


Hardware:
Basis sind 2x E5-2670v1 CPUs.

Mainboard:
Hier schwanke ich aktuell zwischen Intel S2600CP und Supermicro X9DRi-LN4F+. Gebe es noch Alternativen, die man auch bei ebay bekommt?

RAM:
32GB ECC sollten eigentlich reichen, eventuell nehme ich auch mehr, je nach Preis.

Case:
Aufgrund des Formfaktors der Mainboards ist das ein größeres Problem. Ich überlege, direkt Richtung Rack zu gehen und mir ein Supermicro SC846 zuzulegen. Alternative wäre wohl das Phanteks Enthoo Pro, funzt aber afaik nur mit dem Intel S2600CP und das auch nur halbherzig.
Das Supermicro SC846 würde genug Platz für alles bieten und die Mainboards könnten easy untergebracht werden. Zusätzlich hätte das Case eine Backplane, um easy bis zu 24 HDDs anschließen zu können, wobei ich vermutlich niemals so viele benötigen würde :D

Sonstiges:
Um genügend HDDs ansprechen zu können, plane ich mir einen SAS Expander (z.B. HP Smart Array SAS Expander) zuzulegen. Je nach Mainboard vielleicht noch ein Controller (z.B. LSI 9211-8i). Afaik lassen sich damit ja problemlos SATA-Festplatten betreiben mit den richtigen Kabeln.

PSU:
Hier sollte doch ein stinknormales Netzteil funktionieren oder? Auf was müsste ich achten? Falls es das Supermicro SC846 werden sollte, werde ich vermutlich das Netzteil austauschen, weil die normalen laut sein sollen.

CPU-Kühler:
Sollen leise sein! Ich habe mal irgendwo (glaube reddit) gelesen, dass Noctua Probleme mit dem Intel S2600CP machen soll. Gebe es andere Empfehlungen? RAM- und PCI-Steckplätze sollten nicht verdeckt werden :)


Über die restlichen Komponenten mache ich mir Gedanken, wenn das Grundgerüst steht. Das sollte dann aber nicht so kompliziert werden. Habe ich bis hierhin irgendetwas übersehen? Sind meine Überlegungen falsch und es funzt nicht so, wie ich es mir vorstelle?


Update:

Bisherige Hardware:
CPU: 2x E5-2670v1
MB: Supermicro x9dri-ln4f+
Case: Supermicro SC846A-R900B
RAM: 8x 8GB DDR3 1333 MHz PC3-10600R CL9 ECC
Sonstiges: HP 24 Bay SAS Expander
Bearbeitet von Denne am 31.08.2018, 12:10

othan

Layer 8 Problem
Avatar
Registered: Nov 2001
Location: Switzerland
Posts: 4206
Bei 16cores würde ich zu mindestens 64gb RAM greifen oder brauchst du wirklich nur 32gb?

Garbage

Administrator
The Wizard of Owls
Avatar
Registered: Jul 2000
Location: GR.ch|TI.ch
Posts: 11224
Zitat aus einem Post von Denne
CPU-Kühler:
Sollen leise sein! Ich habe mal irgendwo (glaube reddit) gelesen, dass Noctua Probleme mit dem Intel S2600CP machen soll. Gebe es andere Empfehlungen? RAM- und PCI-Steckplätze sollten nicht verdeckt werden :)[/url]
Und welche Probleme sollen das sein?
Das einizge Thema das mir einfällt ist, dass das Board am CPU-Header nur PWM kann und die Kühler die zu der Zeit von Noctua am Markt waren noch keine PWM-Lüfter hatten. Aber das ist seit etlichen Jahren kein Thema mehr.

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Zitat aus einem Post von othan
Bei 16cores würde ich zu mindestens 64gb RAM greifen oder brauchst du wirklich nur 32gb?

Mein jetziger Server benötigt nur 3-4GB RAM. 32GB würden locker reichen. Plex und meine hypothetischen VMs wären nur CPU intensiv. Aber ja, bei einem guten Preis tendiere ich auch zu mehr RAM.


Zitat aus einem Post von Garbage
Und welche Probleme sollen das sein?
Das einizge Thema das mir einfällt ist, dass das Board am CPU-Header nur PWM kann und die Kühler die zu der Zeit von Noctua am Markt waren noch keine PWM-Lüfter hatten. Aber das ist seit etlichen Jahren kein Thema mehr.

Ich glaube sogar das war das, was ich gelesen hatte. Der Eintrag scheint wohl älter gewesen zu sein. Danke für den Hinweis :)


edit:

Hab nun auf ebay Preisvorschläge zu einem Supermicro SC846 und Supermicro X9DRi-LN4F+ verschickt. Denke egal ob die angenommen werden oder nicht, werde ich mir die zwei Sachen fix zulegen.
Bearbeitet von Denne am 31.08.2018, 10:58

Garbage

Administrator
The Wizard of Owls
Avatar
Registered: Jul 2000
Location: GR.ch|TI.ch
Posts: 11224
Urgs, Supermicro.
Die Boards sind ja ok, aber mit leisen Lüftern kannst du die Teile nur durch herumdoktorn im IPMI ausstatten.
https://calvin.me/quick-how-to-decr...-fan-threshold/

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Zitat aus einem Post von Garbage
Urgs, Supermicro.
Die Boards sind ja ok, aber mit leisen Lüftern kannst du die Teile nur durch herumdoktorn im IPMI ausstatten.

Okay, da bin ich mal darauf gespannt. Geplant ist alle Lüfter und das Netzteil zu tauschen. Von großen Problemen habe ich da bisher noch nichts gelesen, aber lassen wir uns mal überraschen :D

edit: @link: Das soll mit den X9-Mainboards nicht funktionieren, zumindest haben es paar behauptet auf reddit. Aber da gibt es andere Lösungen, was ich gelesen habe. Ich probiere dann einfach was geht, wenn es soweit ist. Danke auf jeden Fall dafür!


Hat jemand Empfehlung für CPU-Kühler? Zwei Noctua NH-U9S sollten wohl passen oder?
Außerdem: Muss ich beim Netzteil auf irgendetwas achten? Bestimmte Anschlüsse für das Server-Board oder so?
Bearbeitet von Denne am 31.08.2018, 11:38

spunz

Super Moderator
Super Moderator
Avatar
Registered: Aug 2000
Location: achse des bösen
Posts: 11118
Braucht deine "Science" Applikation die CPU Power? Für den Rest würde ja selbst ein Pentium reichen.

Als OS würde ich noch einen Blick auf Proxmox werfen. Die Storage Konfig kann auch hier im Grunde schon gänzlich in der Gui erfolgen (selbst mit ZFS). Der KRam wird zwar mit lxc für Container geliefert, aber Docker wäre soweit auch machbar.

InfiX

she/her
Avatar
Registered: Mar 2002
Location: Graz
Posts: 13697
die noctua PWMs an meinem supermicro werden nach dem boot ganz normal runtergeregelt, also laut ist da nix...
könnte aber auch daran liegen, dass meine cpu fast nie was zu tun hat :D

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Zitat aus einem Post von spunz
Braucht deine "Science" Applikation die CPU Power? Für den Rest würde ja selbst ein Pentium reichen.

Die Science-Geschichten haben nicht sooo eine große Priorität, aber ja. Erst letztens etwas laufen gehabt, was ~7 Stunden (< 1GB RAM) auf meinem Xeon E3-1230v3 benötigt hat. Das Ding skaliert ganz gut mit der Anzahl der Kerne. Aber das sind alle selbst programmierte Programme/Module, die so konzipiert sind, dass sie eben gut skalieren, wenn das "Problem" es zulässt.

Ich habe Plex laufen, was ständig transkodiert, was sehr viel CPU-Power frisst, aber ebenfalls wenig RAM benötigt. Das ist wohl der Hauptübeltäter.


Zitat aus einem Post von spunz
Als OS würde ich noch einen Blick auf Proxmox werfen. Die Storage Konfig kann auch hier im Grunde schon gänzlich in der Gui erfolgen (selbst mit ZFS). Der KRam wird zwar mit lxc für Container geliefert, aber Docker wäre soweit auch machbar.

Noch nie damit gearbeitet, ist mir aber auch bekannt und nutzen scheinbar auch viele im Homelab-Bereich. Soweit ich weiß ist es schon ein gutes Stück "professioneller" als unRaid. Der Vorteil bei unRaid ist für mich die unkomplizierte Storage-Lösung. Ich kann jederzeit mein Storage erweitern (auch mit Festplatten unterschiedlicher Größe, und jeweils um eine Platte), habe dabei aber Redundanz (bis 2 Platten), wenn ich möchte. Im Katastrophenfall verliere ich nur die Daten auf den kaputten Platten, heißt einzelne Platten können weiter ausgelesen werden. Erinnert ein SnapRaid, nur dass ich nicht synchronisieren muss.

davebastard

Vinyl-Sammler
Avatar
Registered: Jun 2002
Location: wean
Posts: 11525
Zitat
Ich habe Plex laufen, was ständig transkodiert, was sehr viel CPU-Power frisst, aber ebenfalls wenig RAM benötigt. Das ist wohl der Hauptübeltäter.

ich glaube nicht dass das 16 cores braucht, gibt ja genügend consumer NAS die das können, die haben auch weniger cores. imho reicht eine von den CPUs sind ja noch immer 16 virtuelle cores

jetzt mal die science gschichten ausgenommen, aber ist halt die frage ob man dafür soviel geld ausgeben will...

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Zitat aus einem Post von davebastard
ich glaube nicht dass das 16 cores braucht, gibt ja genügend consumer NAS die das können, die haben auch weniger cores. imho reicht eine von den CPUs sind ja noch immer 16 virtuelle cores

Kommt immer darauf an, wie viele Filme Plex gleichzeitig transkodieren muss ;) Aber ja, eine CPU würde aktuell ziemlich sicher reichen. Wollte aber etwas Spielraum nach oben haben (und der Deal von RIDDLER war einfach zu gut. Von ihm habe ich ja die CPUs). Bei meinem letzten NAS/Server war gefühlt nach einem Jahr schon die CPU-Power der Flaschenhals.

Bei mir ists halt immer das gleiche: Ich finde immer Anwendungen, die die verfügbare Rechenpower ausreizen können :D Ist meine Art Spielzeug/Hobby. Von "vernünftig" sind wir schon meilenweit entfernt, das ist auch mir bewusst :)

davebastard

Vinyl-Sammler
Avatar
Registered: Jun 2002
Location: wean
Posts: 11525
achso, wenn dus günstig bekommen hast ist das was anderes ;) ehrlich gesagt hab ich gar nicht geschaut welche gen oder so das ist und bin von neukauf ausgegangen

Denne

Here to stay
Avatar
Registered: Jan 2005
Location: Germany
Posts: 2801
Um Gottes Willen, bei Neukauf hätte ich ja Privatinsolvenz beantragen können :D
Ist alles über ebay gebraucht gekauft worden. Nur so Geschichten wie Lüfter, Netzteil, Kabel etc. kaufe ich neu. Hab bisher für alles knapp 900€ ausgegeben.

Viper780

Moderator
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 48892
Warum transkodiert man Filme Heitzutage noch?
Ein günstiger FireTV spielt quasi alles ab und Bandbreite ist auch kein Problem mehr

daisho

SHODAN
Avatar
Registered: Nov 2002
Location: 4C4
Posts: 19590
Ich benutze Xplay auf meinem Fernseher um eben so gut wie gar nichts transkodieren zu müssen.
Manche Sachen gehe leider nicht ohne (oder man muss umständlich selbst vorher neu encoden > Zeitaufwand/Nutzen = in der Hölle) weil der TV streikt.

FireTV kenne ich nicht, glaube aber nicht das ich damit glücklich werde - wieder ein externes Ding mit eigener Fernbedienung usw > bäh.

Aber ja ... Transkodieren wird bald Geschichte sein imho, sobald alle TVs sämtliche Formate abspielen können.
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz