OpenClaw (Moltbot) (Clawdbot)

Zitat aus einem Post von charmin

Hermes Agent — AI Agent Framework

An open-source agent that grows with you. Install it, give it your messaging accounts, and it becomes a persistent personal agent — learning your projects, building its own skills, and reaching you wherever you are.

Link: hermes-agent.nousresearch.com

neuer ai agent, der mitlernt

hab gestern zufällig mal mit openclawd gespielt und parallel dazu mit hermes.
hermes is mir 100x lieber, geht viel smoother von der config her etc. und die ergebnisse sind erstaunlich gut mit schwachem model dahinter.

wollte dann eh noch ausprobieren gemma 4 26b auf macbook pro über LM studio. in LM studio schaff ich knapp die 50t/s ... bin aber nimma dazu gekommen.

Die AI Studio free requests sind eh sehr großzügig

Zitat aus einem Post von charmin

50t/s wos gehtn

weiß grad nicht ob du das positiv oder negativ meinst
finds zumindest gar nicht so übel für lokale modelle, da kann man langsam schon was damit anfangen.
is ein M4 Pro mit 48GB RAM

Zitat aus einem Post von charmin

positiv. für ein notebook echt oag!

voll, was apple da ausm hut gezaubert hat und dann noch mit MLX, ... da geht schon gut was weiter und rennt halt alles auf der GPU. Wenn man da noch bissl größeren M4 mit mehr GPU Cores hätte ... meiner hat ja nur glaub ich nur 16 oder 20?

Hab auf X gelesen, dass die mit den Max Modelle recht gut an die ~100t/s kommen

Zitat aus einem Post von Viper780

Sind die Cores wirklich der bottleneck? Üblicherweise geht's um Speicherbandbreite und Größe

In meinem konkreten Fall glaub ich weder das Eine noch das Andere sondern wirklich die GPU Cores. Die GPU is auf Anschlag, RAM is beim 26B Modell noch genug frei und (ohne nachgeschaut zu haben) is die Speicherbandbreite glaub ich gleich oder nicht viel anders zwischen den Pro und Max Modellen oder?
Natürlich wenn ich Modelle mit mehr Parameter verwenden will brauchts mehr RAM