Philipp
Here to stay
|
Qwen 3.8 Flash Next läuft hier mit ca. 47 token/sek im Stromsparmodus (45W). Ich nehme an, das GLM 5.3 Flash im ~20 Token/sek Bereich liegen wird. Nicht umwerfend, aber noch brauchbar.
|
charmin
Vereinsmitgliedstay classy!
|
Every app on Earth is now open source... whether it likes it or not Geht um die gfladerte Adobe Suite. Und war eh irgendwie klar dass das slop ist.
Bearbeitet von charmin am 13.10.2026, 22:01
|
DuneV2
Little Overclocker
|
https://thenextweb.com/news/palanti...face-the-nationtldr: auch in Defense sind Modelle einfach austauschbar, das ganze geblubber mit security darf man eher als product placement verstehen Qwen 3.8 Flash Next läuft hier mit ca. 47 token/sek im Stromsparmodus (45W). Ich nehme an, das GLM 5.3 Flash im ~20 Token/sek Bereich liegen wird. Nicht umwerfend, aber noch brauchbar. Ohne da in unendliche Tiefe zu gehen, auf welcher Maschine wird das gehosted und was ist grob der Use Case? Ich finde 30-50 T/s auch noch ok, natürlich würde ich mir mehr wünschen, aber arbeiten kann man damit.
Bearbeitet von DuneV2 am 14.10.2026, 16:36
|
erlgrey
formerly known as der~erl
|
30-50t/s ist voll ok, kommt halt dann eher noch auf prefill an..
|
Philipp
Here to stay
|
https://thenextweb.com/news/palanti...face-the-nation
tldr: auch in Defense sind Modelle einfach austauschbar, das ganze geblubber mit security darf man eher als product placement verstehen Anthropic hat ohnehin schon eine neue Bedrohung gefunden: https://www.anthropic.com/research/self-replicating-aiJetzt versucht man wieder krampfhaft, die Open-Weight-Konkurrenten loszuwerden, die ja so extrem gefährlich sind. GLM 5.2 kann sich selbst reproduzieren und demnächst können es auch die kleinen Modelle. Da kopieren sich dann Gemma und Qwen in smarte Backöfen und Android-TV-Boxen, um mit 0.39 Token die Weltherrschaft zu übernehmen. Ohne da in unendliche Tiefe zu gehen, auf welcher Maschine wird das gehosted und was ist grob der Use Case? Mein Notebook. Ein kompletter Desktopersatz für unterwegs und wenn ich größere Modelle bis ca. 122 GB RAM direkt ausprobieren möchte.
|
TOM
LegendI Need More Space
|
GLM 5.2 kann sich selbst reproduzieren und demnächst können es auch die kleinen Modelle. Da kopieren sich dann Gemma und Qwen in smarte Backöfen und Android-TV-Boxen, um mit 0.39 Token die Weltherrschaft zu übernehmen. Nicht unbedingt Backöfen und Android-TV-Boxen, aber die Neoclouds sind durchaus ein attraktives Ziel für eine inkorrekt aligned AI, die sich selbst mal wo weg sichern möchten. Einen ***** voll GPU-Ressourcen und weit weniger know-how & sophistication im Security-Bereich (als die großen/altbekannten player) - für Hugging Face und co. hat's ja so schon gereicht.
|
DuneV2
Little Overclocker
|
Ist das eine dedicated GPU oder standard consumer/business AI book? Ich bin am überlegen, ob das nicht eine sehr gute Alternative für schnelle Prototypen wäre, im Vergleich zu irgendwelchen Cloudumgebungen, wo ich mit sensiblen Daten ohnehin nicht rauf darf, deshalb das Interesse  Gepaart mit irgendwelchen Containern könnte das eine sehr kostengünstige Lösung sein
|
davebastard
Vinyl-Sammler
|
"kostengünstig" und 128GB RAM Maschinen im einen Absatz 
|
DuneV2
Little Overclocker
|
""IN RELATION"" 
|
Master99
verträumter realist
|
kommt immer ein bissl auf den anschaffungszeitpunkt an.
ich bin letztens auch bei nem kollegen mit nem 'goldbarren' vorbeigekommen der eine 8TB ssd für die soundlibrary unterwegs einsetzt und die noch damals zu preisen bezogen wo das vertretbar war (<450 euro)
|
DuneV2
Little Overclocker
|
Ich könnt mir immer noch in den Popo beißen, dass ich mich dafür entschieden hab, dass 64GB privat genug sind
|
davebastard
Vinyl-Sammler
|
ja nona reden wir von Preisen jetzt. ging ja um Anschaffung. ich bin auch froh das ich meinem ryzen 5900x damals 64GB gegönnt hab als es noch "günstig" war (280€) 
|
Philipp
Here to stay
|
Ist das eine dedicated GPU oder standard consumer/business AI book? Ich bin am überlegen, ob das nicht eine sehr gute Alternative für schnelle Prototypen wäre, im Vergleich zu irgendwelchen Cloudumgebungen, wo ich mit sensiblen Daten ohnehin nicht rauf darf, deshalb das Interesse  Ist ein Strix Halo (Ryzen AI Max+) System: https://geizhals.at/hp-zbook-ultra-...d-a3530722.htmlHabe es noch im Januar gekauft, bevor die Preise wirklich gestiegen sind. ich bin auch froh das ich meinem ryzen 5900x damals 64GB gegönnt hab als es noch "günstig" war (280€)  Ja, ich bin mit meinen 192GB RAM auch ganz zufrieden 
|
Dargor
Shadowlord
|
ECO-Report über Mistral und ehemals EMMI AI aus Linz
|
DuneV2
Little Overclocker
|
https://loftorbital.com/orbitworks-...dge-ai-onboard/Erster Satellit im All mit Mistral drauf und einen Computer Vision Modul von Nvidia. Ist keine Tech Demo sondern den Quellen nach ein echter Use Case um Analysen im Orbit zu machen. Sachen gibt's. Besonders spannendes Detail, es scheinen 3B/8B Modelle dafür zu reichen.
|