"Christmas - the time to fix the computers of your loved ones" « Lord Wyrm

FreeNas & Proxmox trifft Noob

Beatlejuice 07.10.2017 - 19:05 1399 6
Posts

Beatlejuice

forum slave
Avatar
Registered: Feb 2006
Location: in meiner koje
Posts: 356
Hallo zusammen!
Mal wieder ne "Storage solution trifft Noob" Geschichte ;)
Arbeite seit geraumer Zeit nun im Video/Film Berreich und hab schon bischen was an Material selbst erstellt und das Zeug braucht ein besseres Zuhause. - "Upgrade vom Zeltcamp zum Smarthome". (ACHTUNG: natürlich kein Endlager)
Relativ "on Budget" und hoffentlich ohne komplett an die Wand zu fahren.
Und nur so zur Info am Rande, ich Noob, also verschwindend geringe Erfahrung mit cli, storage, linux, bsd sowieso kein plan und von vielem anderem hab ich auch keine Ahnung. Aber man kann immer was lernen :)

FreeNAS - ZFS: Why? scheint mir eine gute Lösung zu sein was Datenintegrität angeht, weil evt. auch mal wichtigere kommerzielle Daten "zwischengelagert" werden müssen. FreeNas vs Nas4free (ene mene muh- Auswahl)

Proxmox: Wegen pcie passthrough und ein paar virtuellen spielwiesen f. z.B videos rendern (gpu passthrough)

HW:
E5 E-2650 (2nd hand)
Asus Z9PA-U8 (2nd)
16GB ram (2nd)
64gb mtron ssd (slc) (own)
6x2TB (3 own+3 2nd)
9211-8i -flashing in progress lol (ebay - china)
HP SAS expander geschw.. -but seems to working fine. Dual link, weiß aber nicht ob das im IT mode dann auch geht (own)
Chenbro Kübel 12x3,5 bays, 6 frei (own)
Netzteil MiG-29M

atm onboard nic, schiel aber richtung 10gb+ (>15m)
gpu comming soon
usv - noch kein kommentar ;)

Viel Spaß, werd mir beim Scheitern Mühe geben.
Kritik, Fragen, Anregungen, her damit.

lg J

Status 17/10/10:
Flashen hat am Serverbrett sofort funktioniert.
Host läuft, NAS-VM mit Passthrough der Laufwerke läuft auch, SMB shares und iscsi (file) auch. Mit einem Ubuntu hab ich auch schon gespielt. Performancewise kann ich mich ATM ned beschweren, das Netzwerk macht vorher schlap, so macht es zumindest den Anschein.

On plan:
vieeel meeehr ram
nvme für l2arc
Ein paar (>=3) second hand ssd ergattern für ein vol02 in freenas, welches per iscsi target für die VMs herhalten soll. (die 64gb mtron dient ja nur als "DOM")
Entlich entscheiden ob Mellanox 40GB Infiniband/Ethernet oder doch 10GB per SFP (ATM nur einen wichtigen perfomancesüchtigen Client)
Günstige second hand gpu für gpu passthrough besorgen f. Mac OS X VM
Noch mehr Distros ausprobieren
Noch mehr lernen
Windows von der workstation winken (mal sehn :))

Status 17/10/07:
Proxmox VE läuft schon. Nosubscription auch erledigt (momentan 100% private use, noch)
Habs noch ned gschaft Freenas oder irgendwas anderes zum Laufen zu kriegen, das wird schon noch, les mich da noch ein.
Die folgenden HBA Probleme sind im Moment von höherem Interesse:

Wenn der HBA eingebaut ist hab ich kein Netzwerk.
Wenn ich die SMBus Pins Abklebe hab ich Netzwerk, weiß aber noch nicht ob ich die Laufwerke sehe.
Die waren noch nicht konfiguriert und bin bereits zum flashen überggegangen, weil mit IR firmware kann man die Drives leider nicht als einzelne Drives konfigurieren, also kommt man an flashen nicht vorbei.

Und mit dem Flashen des HBA Kämpfe ich gerade. Und bin komplett verwirrt.
Das Board, das ich zum flashen nehmen möcht (der server ist ein bischen schwer zugänglich), ist ein Zotac itx Bretterl mit lga775 cantremember c2duo und hat so ein Award Bios.
Anleitung von T.Krenn versucht - spuckts mir den PAL error aus.
google - try (u)efi (efi uefi? kA. das file endet halt mit .efi statt .exe)
Efi Guide mit fat & Ordnerstruktur, das file dorthin, das dort. - rennt auch nicht. ich komm auf keinem Weg zu so nem shell ding.- Meine Hemmschwelle doch zum Server zu kriechen ist am sinken.
Bearbeitet von Beatlejuice am 10.10.2017, 21:13

spunz

Super Moderator
tot durch snu-snu
Avatar
Registered: Aug 2000
Location: achse des bösen
Posts: 10228
Ich würde gleich ganz auf Freenas verzichten und einfach ZoL am Host verwenden. Den HBA einfach beim Elektroschrott einlagern, die paar Platten kannst du auch direkt am Onboard anstecken.

Beatlejuice

forum slave
Avatar
Registered: Feb 2006
Location: in meiner koje
Posts: 356
Der HBA wird aber gebraucht, weil ich nicht 12 Anschlüsse am Board hab.
ZFS on linux, hat iwo noch nen haken, muss aber nochmal nachschaun was da war.

DAO

Si vis pacem, para bellum
Avatar
Registered: Mar 2001
Location: worldwide
Posts: 4502
installier freenas baremetal, nutz behyve (inkl. passthrough) bzw jails für erweiterungen.

zfs sollte immer direkt auf der hw laufen und nicht virtuallisiert.

Beatlejuice

forum slave
Avatar
Registered: Feb 2006
Location: in meiner koje
Posts: 356
ZFS es wird empfohlen auf der hw direkt zu laufen, aber kein muss.
Wenn es die Sache einfacher macht und ich auch einen halbwegs performaten video rechenknecht im jail haben kann, wäre das natürlich auch eine option. Kann ich da auch ein macOS+gpu passthrough laufen haben?

Viper780

Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 38050
Warum willst das NAS virtualisieren?
Rate davon ab. Würde storage so nahe am Metal wie nur möglich ansetzen.

Entweder bei Proxmox btrfs verwenden oder virtualisierung im FreeNAS

BTW ich bevorzuge NAS4FREE

Beatlejuice

forum slave
Avatar
Registered: Feb 2006
Location: in meiner koje
Posts: 356
Das NAS zu virtualisieren, hat sich eigentlich nebensächlich ergeben. Mit dem Brett+cpu+ram combo das ich 2nd hand bekommen habe, ist die HW für NAS only Betrieb bei mir zuhause ein wenig overkill.
Da ich aber mich immerschon mit dem Pinguin, Netzwerken, Virtualisierung, iscsi etc. auseinandersetzten wollte, hat sichs ergeben, sich für einen KVM host zu entscheiden.

btw. das mit dem flashen hat am serverbrett instant funktioniert. NAS & andere VMs laufen, passthrough hat auch "geklappt" - siehe status update 17/10/10

edit: btw hat schon wer zufällig eine ASUS Hyper M.2 X16 Card bestellt? ;)
Bearbeitet von Beatlejuice am 10.10.2017, 21:31
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz