URL: https://www.overclockers.at/grafikkarten/verwandelt-sich-nvidia-vollstndig-in-eine-ai-firma_261950/page_1 - zur Vollversion wechseln!
Zitat aus einem Post von WONDERMIKEWerden Consumerkarten womöglich ins Visier geraten und so die Preise wieder angeheizt?
Nvidia hat sich schon lange in die Richtung positioniert. Auch Automotive ist seit langem ein großer und Erfolgreicher Zweig.
Jetzt bin ich kein AI / KI Profi, aber was ich so mitbekomme ist die Größe des Neuronalen Netzes vorallem beim Training durch die Speichergröße beschränkt. Jedes Gigabyte mehr gibt entweder mehr Details oder ermöglicht ein komplexeres Modell. Aktuell sieht es noch nicht so aus als ob man in die Gegend von "ausreichend Speicher" gekommen wäre.
Ich frage mich eher wie lange es dauert bis die breite Masse sich von CUDA weg bewegt und andere KI Libraries welche auch auf non nvidia laufen stärker Verbreitung finden.
Es stimmt zwar, dass neuronale Netze größer geworden sind. Allerdings performen zu grosse Netze wieder schlechter. Die Speichergrösse ist vorrangig auch für die batch size wichtig und wenn man zb farbige 3d punktwolken hat, dann sind das gleich mal ein paar GB pro batch. Was mir in dem Bereich aufgefallen ist (3d punktwolken) ist, dass neueren Netze eher wieder einfacher werden und eher neue mathematische Konzepte verwenden wie bspw Transformer und dann auch eher approximationen weil der transformer sonst zu aufwändig zu trainieren is. Was ich sagen will: ich denke, dass der Speicherbedarf für neuronale Netze in Zukunft nicht so schnell wachsen wird wie es das jetzt am Anfang passiert is. Aber nur meine bescheidene Meinung.
Und quadros bzw A serie: sind halt runtergetaktet und laufen näher am energie/Effizienz sweetspot. Ausserdem darfst kommerziell gar keine RTX Karten fürs Training von AI verwenden. In der alten Firma hatten wir dann zwei a6000 besorgt. Hab aber auch viel mit der 3090er und 4090er trainiert. Die rennt dann halt sauheiss und laut, was eine a6000 dann halt weniger macht.
Zitat aus einem Post von Viper780Ich frage mich eher wie lange es dauert bis die breite Masse sich von CUDA weg bewegt und andere KI Libraries welche auch auf non nvidia laufen stärker Verbreitung finden.
Zitat aus einem Post von charminHab aber auch viel mit der 3090er
overclockers.at v4.thecommunity
© all rights reserved by overclockers.at 2000-2025