"es ist wirklich eine masn deluxe" « COLOSSUS

KI News und was dazu gehört

Kirby 30.01.2025 - 22:57 43571 252 Thread rating
Posts

Philipp

Here to stay
Registered: Jul 2001
Location: Wien
Posts: 2065
Qwen 3.8 Flash Next läuft hier mit ca. 47 token/sek im Stromsparmodus (45W). Ich nehme an, das GLM 5.3 Flash im ~20 Token/sek Bereich liegen wird. Nicht umwerfend, aber noch brauchbar.

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16682

Geht um die gfladerte Adobe Suite. Und war eh irgendwie klar dass das slop ist.
Bearbeitet von charmin am 13.10.2026, 22:01

DuneV2

Little Overclocker
Registered: Dec 2025
Location: VIE
Posts: 90
https://thenextweb.com/news/palanti...face-the-nation

tldr:
auch in Defense sind Modelle einfach austauschbar, das ganze geblubber mit security darf man eher als product placement verstehen

Zitat aus einem Post von Philipp
Qwen 3.8 Flash Next läuft hier mit ca. 47 token/sek im Stromsparmodus (45W). Ich nehme an, das GLM 5.3 Flash im ~20 Token/sek Bereich liegen wird. Nicht umwerfend, aber noch brauchbar.

Ohne da in unendliche Tiefe zu gehen, auf welcher Maschine wird das gehosted und was ist grob der Use Case?

Ich finde 30-50 T/s auch noch ok, natürlich würde ich mir mehr wünschen, aber arbeiten kann man damit.
Bearbeitet von DuneV2 am 14.10.2026, 16:36

erlgrey

formerly known as der~erl
Registered: Aug 2002
Location: Wien
Posts: 4582
30-50t/s ist voll ok, kommt halt dann eher noch auf prefill an..

Philipp

Here to stay
Registered: Jul 2001
Location: Wien
Posts: 2065
Zitat aus einem Post von DuneV2
https://thenextweb.com/news/palanti...face-the-nation

tldr:
auch in Defense sind Modelle einfach austauschbar, das ganze geblubber mit security darf man eher als product placement verstehen
Anthropic hat ohnehin schon eine neue Bedrohung gefunden:
https://www.anthropic.com/research/self-replicating-ai

Jetzt versucht man wieder krampfhaft, die Open-Weight-Konkurrenten loszuwerden, die ja so extrem gefährlich sind.

GLM 5.2 kann sich selbst reproduzieren und demnächst können es auch die kleinen Modelle. Da kopieren sich dann Gemma und Qwen in smarte Backöfen und Android-TV-Boxen, um mit 0.39 Token die Weltherrschaft zu übernehmen.

Zitat aus einem Post von DuneV2
Ohne da in unendliche Tiefe zu gehen, auf welcher Maschine wird das gehosted und was ist grob der Use Case?
Mein Notebook. Ein kompletter Desktopersatz für unterwegs und wenn ich größere Modelle bis ca. 122 GB RAM direkt ausprobieren möchte.

TOM

Legend
I Need More Space
Avatar
Registered: Nov 2000
Location: Vienna
Posts: 7639
Zitat aus einem Post von Philipp
GLM 5.2 kann sich selbst reproduzieren und demnächst können es auch die kleinen Modelle. Da kopieren sich dann Gemma und Qwen in smarte Backöfen und Android-TV-Boxen, um mit 0.39 Token die Weltherrschaft zu übernehmen.

Nicht unbedingt Backöfen und Android-TV-Boxen, aber die Neoclouds sind durchaus ein attraktives Ziel für eine inkorrekt aligned AI, die sich selbst mal wo weg sichern möchten. Einen ***** voll GPU-Ressourcen und weit weniger know-how & sophistication im Security-Bereich (als die großen/altbekannten player) - für Hugging Face und co. hat's ja so schon gereicht.

DuneV2

Little Overclocker
Registered: Dec 2025
Location: VIE
Posts: 90
Ist das eine dedicated GPU oder standard consumer/business AI book? Ich bin am überlegen, ob das nicht eine sehr gute Alternative für schnelle Prototypen wäre, im Vergleich zu irgendwelchen Cloudumgebungen, wo ich mit sensiblen Daten ohnehin nicht rauf darf, deshalb das Interesse :)

Gepaart mit irgendwelchen Containern könnte das eine sehr kostengünstige Lösung sein

davebastard

Vinyl-Sammler
Avatar
Registered: Jun 2002
Location: wean
Posts: 13843
"kostengünstig" und 128GB RAM Maschinen im einen Absatz :p

DuneV2

Little Overclocker
Registered: Dec 2025
Location: VIE
Posts: 90
""IN RELATION"" ;)

Master99

verträumter realist
Avatar
Registered: Jul 2001
Location: vie/grz
Posts: 12941
kommt immer ein bissl auf den anschaffungszeitpunkt an.

ich bin letztens auch bei nem kollegen mit nem 'goldbarren' vorbeigekommen der eine 8TB ssd für die soundlibrary unterwegs einsetzt und die noch damals zu preisen bezogen wo das vertretbar war (<450 euro)

DuneV2

Little Overclocker
Registered: Dec 2025
Location: VIE
Posts: 90
Ich könnt mir immer noch in den Popo beißen, dass ich mich dafür entschieden hab, dass 64GB privat genug sind

davebastard

Vinyl-Sammler
Avatar
Registered: Jun 2002
Location: wean
Posts: 13843
ja nona reden wir von Preisen jetzt. ging ja um Anschaffung.

ich bin auch froh das ich meinem ryzen 5900x damals 64GB gegönnt hab als es noch "günstig" war (280€) :p

Philipp

Here to stay
Registered: Jul 2001
Location: Wien
Posts: 2065
Zitat aus einem Post von DuneV2
Ist das eine dedicated GPU oder standard consumer/business AI book? Ich bin am überlegen, ob das nicht eine sehr gute Alternative für schnelle Prototypen wäre, im Vergleich zu irgendwelchen Cloudumgebungen, wo ich mit sensiblen Daten ohnehin nicht rauf darf, deshalb das Interesse :)
Ist ein Strix Halo (Ryzen AI Max+) System: https://geizhals.at/hp-zbook-ultra-...d-a3530722.html

Habe es noch im Januar gekauft, bevor die Preise wirklich gestiegen sind.

Zitat aus einem Post von davebastard
ich bin auch froh das ich meinem ryzen 5900x damals 64GB gegönnt hab als es noch "günstig" war (280€) :p
Ja, ich bin mit meinen 192GB RAM auch ganz zufrieden ;)

Dargor

Shadowlord
Avatar
Registered: Sep 2006
Location: 4020
Posts: 2416
Beim Abspielen dieses Videos werden Daten an YouTube übermittelt. Durch einen Klick auf das Video wird es automatisch abgespielt und du akzeptierst damit die Datenschutzerklärung von YouTube bzw. Google.
ECO-Report über Mistral und ehemals EMMI AI aus Linz

DuneV2

Little Overclocker
Registered: Dec 2025
Location: VIE
Posts: 90
https://loftorbital.com/orbitworks-...dge-ai-onboard/

Erster Satellit im All mit Mistral drauf und einen Computer Vision Modul von Nvidia. Ist keine Tech Demo sondern den Quellen nach ein echter Use Case um Analysen im Orbit zu machen. Sachen gibt's.

Besonders spannendes Detail, es scheinen 3B/8B Modelle dafür zu reichen.
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz