"We are back" « oc.at

KI-Tools - der Sammelthread

charmin 13.08.2024 - 14:00 36480 124 Thread rating
Posts

charmin

Vereinsmitglied
stay classy!
Avatar
Registered: Dec 2002
Location:  
Posts: 16207
Mehr RAM oder ein MoE Modell nehmen wo nur ein Subset der Parameter aktiv ist.

Viper780

Elder
Er ist tot, Jim!
Avatar
Registered: Mar 2001
Location: Wien
Posts: 52250
Mehr RAM kann ich in der Firma nicht beeinflussen und privat will ichs nicht zahlen (Umstieg auf DDR5 und dann die Preise vom Speicher selbst)

Daeda

Renegade
Registered: Aug 2007
Location: Graz
Posts: 1781
Das openweight LLM GLM-5 geht grad ziemlich gut ab, in Benchmarks quasi gleich gut wie Opus 4.5-4.6 und GPT 5.2.
Bei Kilo Code (cli ist ein opencode fork, gibt auch IDE extensions) ist es aktuell gratis testbar und ich finds bisher wirklich sehr stark: https://blog.kilo.ai/p/glm-5-free-limited-time

Im z.ai Abo gibts GLM-5 aktuell nur im 2.- und 3.-höchsten Tier, im niedrigsten kommts erst in ein paar Tagen. Aber man will ja generell nicht über chinesische Server gehen, daher besser openrouter, huggingface oder whatever - the beauty of open weight! :)

Apropos:

daisho

Vereinsmitglied
SHODAN
Avatar
Registered: Nov 2002
Location: 4C4
Posts: 20033
Nachdem ihr da alles lokal laufen habt, auf was für Maschinen habt ihr das laufen?
Kann mir ja vorstellen dass das dann extrem zach lauft? Ich meine man wartet ja schon bei Google bis da Sachen abgearbeitet werden (sudern auf hohem Niveau klarerweise, ohne AI würd die Arbeit vermutlich Wochen dauern oder man gibt einfach auf ...)

Dreamforcer

New world Order
Avatar
Registered: Nov 2002
Location: Tirol
Posts: 9187
hat jemand ein ki tool für foto tagging in lightroom , dass man empfehlen kann ?
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz