Also ich würde vor allem Fokus auf die Anwendungstools und Auslastung setzen. Unser selbst gebauter Cluster um 500k war so Scheisze, dass ich viel empfehlen kann was man nicht machen sollte
URL: https://www.overclockers.at/desktops/machine-learning-rechner_259572/page_2 - zur Vollversion wechseln!
Aufpreis für ECC ist überschaubar und würde ich bei der geplanten Anwendung schon mitnehmen. Setzt aber angesichts der PCIe Leitungen für die Karten und einem evtl zukünftigen Speicherupgrade einen Threadripper Pro oder Xeon mit LGA3647 oder LGA4189 voraus.
Allerdings: Du wirst kein Board in einem Standardformat finden, das 4 Stück 3-Slot Karten ermöglicht. Die ganzen WS Boards sind auf 2-Slot ausgelegt.
Du könntest bei XI-Machines anfragen, die kenn ich und sind sehr kompetent.
okay, ich hab mir heute früh extra einige Papers rausgesucht, die auf den semantic KITTI benchmark gehen. Und dort haben einige Tesla V100 und einige eine 2080 Ti, 1080, etc.
was für einen support brauch ich da? software support wollen wir keinen, das wird von uns aufgesetzt. Hardware Support -> wenn eine GPU eingeht und die in garantie is, soll die halt ersetzt werden.
Zitat aus einem Post von GarbageAufpreis für ECC ist überschaubar und würde ich bei der geplanten Anwendung schon mitnehmen. Setzt aber angesichts der PCIe Leitungen für die Karten und einem evtl zukünftigen Speicherupgrade einen Threadripper Pro oder Xeon mit LGA3647 oder LGA4189 voraus.
Allerdings: Du wirst kein Board in einem Standardformat finden, das 4 Stück 3-Slot Karten ermöglicht. Die ganzen WS Boards sind auf 2-Slot ausgelegt.
Du könntest bei XI-Machines anfragen, die kenn ich und sind sehr kompetent.
Du bewegst dich mit so einem Setup in einer schmalen Nische.
Karten die plötzlich spinnen, zB nur eine Grafikkarte wird erkannt oder leistung ist nicht dort wo du sie dir erwartest.
Speicher wird nur zu 40% benutzt, plötzliche Reboots wenn Traffic auf der Netzwerkkarte ist,...
Lauter so Späßchen wo du einen sehr sehr guten Support benötigst um damit nicht verrückt zu werden
Ich kann dir aus der Krebsforschung berichten, unser deep learning spezialist war ein paarmal auf den Nvidia support angewiesen, weil es Fehler gab die er nicht selbst beheben konnte.
Übrigens das Förderungsprogramm heißt "AIM AT 2030" und man findet auch einen Kontakt im Ministerium. Ich würde es probieren.
Zitat aus einem Post von Viper780Du bewegst dich mit so einem Setup in einer schmalen Nische.
Karten die plötzlich spinnen, zB nur eine Grafikkarte wird erkannt oder leistung ist nicht dort wo du sie dir erwartest.
Speicher wird nur zu 40% benutzt, plötzliche Reboots wenn Traffic auf der Netzwerkkarte ist,...
Lauter so Späßchen wo du einen sehr sehr guten Support benötigst um damit nicht verrückt zu werden
Zitat aus einem Post von mr.nice.Ich kann dir aus der Krebsforschung berichten, unser deep learning spezialist war ein paarmal auf den Nvidia support angewiesen, weil es Fehler gab die er nicht selbst beheben konnte.
Übrigens das Förderungsprogramm heißt "AIM AT 2030" und man findet auch einen Kontakt im Ministerium. Ich würde es probieren.
Zitat aus einem Post von charminund da geht sich eine threadripper workstation mit 2 3090er ohne probleme mit 10k netto aus.
Haben uns deswegen nach zwei Jahren Anforderungsprofil und Tests entschieden eine fertige Lösung beim Profi zu kaufen. Also Noob kann man da imho nur verlieren 
Die CPU ergibt sich halt durch die Anforderung an die PCIe Slots und deren Anbindung, da bist dann eben schnell bei Threadripper Pro/Epyc und der großen Xeon Plattform.
Da muss man ja nicht unbedingt die größte CPU mit vielen Kernen reinstecken, du kaufst die Plattform eben wegen der anderen Features.
Ja aber welchen? Wir haben allein zwei Monate mit MHz versus Kerne gebenched, das ist für fünf Plus Software Anwendungen mit anderen spezialisierungen schon recht unterschiedlich.
Also ich würde vor allem Fokus auf die Anwendungstools und Auslastung setzen. Unser selbst gebauter Cluster um 500k war so Scheisze, dass ich viel empfehlen kann was man nicht machen sollte
OK, wir haben das aus unterschiedlichen Winkeln gesehen.
Ich hab mich nur auf die Unterlage aus technischer Sicht bezogen, die für 4x PCIe x16 nötig ist, ohne jetzt auf die eigentliche CPU-Leistung einzugehen.
Es ist natürlich richtig, dass die CPU zu den Zielanwendungen passen muss. Da wirds dann halt mitunter schwierig, wenn man nicht Zeit und Budget hat, 2-3 verschiedene CPUs mit den eigenen Anwendungen durchzutesten. Von daher bin ich da durchaus bei dir, dass der Profi (ich bin auf dem Gebiet keiner) da wohl bessere Tipps geben kann, was für die gewünschte Anwendung passt.
Genau das war eben auch unsere learnt lesson, daher haben wir selbst nach zwei Jahre Selektion auf einen qualifizierten Vendor gesetzt (CADFEM). Mag aber keine Werbung machen, es gibt sicher andere die dir einen gleich guten number cruncher für Simulation basteln.
IBM hat uns beeindruckt wie zielstrebig sie am Problem vorbei gearbeitet haben 
Ist halt ne globale AG...
Zitat aus einem Post von charminwhat do you suggest?
CADFEM ist eher auf CPU number cruncher spezialisiert. Bin gar nicht sicher ob die auch für AI/ML was haben.
Habe mal kurz recherchiert:
https://www.cadnetwork.de/de/produk...2AaAiEnEALw_wcB
https://skystark.net/gpu
https://www.thomas-krenn.com/de/pro...e-learning.html
https://www.ovhcloud.com/de/bare-me...chine-learning/
Kannst dir ja mal Architektur abkupfern. Bin mir aber wirklich nicht sicher ob es sinnvoll ist da selber Hand anzulegen oder besser was zusammenstellen zu lassen was genau auf den Usecase passt. Vielleicht ist GPU Numerik auch viel simpler als CPU Numerik, weil das Parallelisieren viel besser hinhaut. Ich würde aber bei 10k mal das Risiko gegen den Gewinn abwägen, vielleicht hat man kaum was davon wenn man 2k spart und dann das Ergebnis kacke ist
so danke für euren input jungens.
Wir haben heute das Angebot bekommen:
Fix fertige Lenovo Machine Learning Workstation mit Vor-Ort Austausch usw.
32 Core Threadripper, 128 GB ECC, 2 x Nvidia A6000 zu echt fairem Netto preis.
Weit unter dem Zeugs was sonst so verlangt wird.
Das klingt wirklich ganz brauchbar
Habt ihr Benchmarks gefunden wie die A6000 versus 30X0 und 20X0 abschneidet bei gängigen ML Applikationen?
Hört sich ja sehr gut an!
Magst mir den Preis schicken? ineressiert mich was das ca. kosten wird.
Wer ist da euer Partner?
overclockers.at v4.thecommunity
© all rights reserved by overclockers.at 2000-2026