warum sollt ich meine daten überhaupt einem deppaten cloud dienst ODER einem "LLM gone wild" anvertrauen
URL: https://www.overclockers.at/artificial-intelligence/openclaw-moltbot-clawdbot_265836/page_2 - zur Vollversion wechseln!
Ob selber gehosted oder nicht ist da halt irrelevant, wenn du dem Zugriff auf alle Dienste und Daten gibst. Der Code von dem Ding wurde nichtmal vernünftig reviewed und eine LLM hat freie Hand.
Ein Service hat normal nur Zugriff auf die Daten die ich dem Service gebe - das ist mit isoliert gemeint.
Der Angriffsvektor und auch das Failpotential ohne Fremdeinwirkung ist bei dem Teil halt so unendlich größer als bei deiner Mail App am Smartphone.
Absolut, aber ich mach dem nur eigene Accounts. ich geb dem ja nicht auf meine normalen Accounts irgendwelche Rechte
Ob der Code reviewed wurde oder nicht ist dann aber auch schon wurscht.
Ich sehs ident wie spunz - wenn ich einem öffentlichen LLM kompletten Zugang zu allem gebe spielt es keine Rolle wo die Source Daten und das Glue Code Framework für die connectoren gehostet werden.
@Snoop und was machst dann mit den Accounts? Es ist ja der Trick an der Sache dass er zugriff auf alles hat um dir Arbeit abzunehmen. In einer eigenen Sandbox ist es halt nur ein Connector ohne echten nutzen
Zitat aus einem Post von Viper780Ich sehs ident wie spunz - wenn ich einem öffentlichen LLM kompletten Zugang zu allem gebe spielt es keine Rolle wo die Source Daten und das Glue Code Framework für die connectoren gehostet werden.
Zitat aus einem Post von Viper780Ob der Code reviewed wurde oder nicht ist dann aber auch schon wurscht.
Spannend, spannend. In Summe quasi ein J.A.R.V.I.S. für alle. Erinnert mich ein wenig an die full-self-drive Debatten.
Und ähnlich wie beim FSD, sollte es hier wahrscheinlich auch eine Regulierung geben, um die Mehrheit vor allzu großem Schaden zu bewahren. Aber schon geil, was heutzutage schon möglich ist.
und ich steh daneben und seh mir die diskussion fassungslos an:
warum sollt ich meine daten überhaupt einem deppaten cloud dienst ODER einem "LLM gone wild" anvertrauen
Es muss ja kein Cloud Dienst und kein Cloud LLM sein. Könnt' beides lokal bei dir rennen.
Aber spätestens wenn dein Agent ins Internet geht und andere Agents um Unterstützung bittet, ist's dann auch wieder aus mit der Souveränität.
Zitat aus einem Post von Viper780Ob der Code reviewed wurde oder nicht ist dann aber auch schon wurscht.
Ich sehs ident wie spunz - wenn ich einem öffentlichen LLM kompletten Zugang zu allem gebe spielt es keine Rolle wo die Source Daten und das Glue Code Framework für die connectoren gehostet werden.
@Snoop und was machst dann mit den Accounts? Es ist ja der Trick an der Sache dass er zugriff auf alles hat um dir Arbeit abzunehmen. In einer eigenen Sandbox ist es halt nur ein Connector ohne echten nutzen
Habe nur mit der grundeinrichtung gespielt und ein paar skills installiert, aber nichts wo Zugang zu meinen Daten gibt.
Habe allerdings auch ziemlich schnell verstanden, dass API Guthaben beim OpenRouter für Claude ziemlich schnell schmilzt.
Heute mal mit lokalem QWEN2.5-32b-q5 auf einer 4090 über lliama probiert, irgendwie nicht ganz warm geworden. Denkt mir zu lang.
Schauen wir mal was daraus wird....
@ZARO und Snoop
Danke für eure Einblicke - haltet uns auf den laufenden.
Zitat aus einem Post von JDKVermischt du da seine und meine Posts ein wenig?
Zitat aus einem Post von JDKWeil's eh scho wurscht ist ob du einer nicht-deterministischen Blackbox (LLM) mit Vollzugang ein geprüftes oder ungeprüftes Framework bereitstellst? Kann man so sehen, da kommen dann allerdings noch weitere potentielle Sicherheitslücken und fehlende Notstopps dazu, die z.B. Zugang von außen oder Prompt injections ermöglichen - was gerade in Kombination mit dieser Blackbox eine Katastrophe sein kann.
Ist vlt auch einfach mein "was kann schiefgehen?"-Mindset, das hier überhand nimmt.
https://hackingpassion.com/moltbook...osed-ai-agents/
Ich kann nicht verifizieren if real or fake, aber so etwas in die Richtung würde mich nicht wundern
Das passt auch gut zum Gesamtbild:
"I did not write a single line of code" - Moltbook "dev"
Ganze DB exposed. Viele Posts scheinbar doch von Menschen, weil es so simpel war, den Bearer Token zu finden. Elon Musk: "Singularity is here". Herrlich.
Primeagen fasst es gut zusammen. Ich mags einfach wenn er so herzlich lachen kann.
overclockers.at v4.thecommunity
© all rights reserved by overclockers.at 2000-2026