OpenAI: KI bricht aus und hackt fremde Plattform

InfiX

she/her

Registered: Mar 2002
Location: Graz
Posts: 15219

19.09.2026 - 12:04

das sind halt die kosten des fortschritts, weltwirtschaft, umwelt, fortbestand der menschheit, alles egal, hauptsache die AI ist besser als die des anderen

smashIt

master of disaster

Registered: Feb 2004
Location: OÖ
Posts: 5564

19.09.2026 - 12:14

wenn das stimmt wirds ja noch lustiger

AI Bubble: ‘This could humiliate the largest companies in the world’ | Ed Zitron

Beim Abspielen dieses Videos werden Daten an YouTube übermittelt. Durch einen Klick auf das Video wird es automatisch abgespielt und du akzeptierst damit die Datenschutzerklärung von YouTube bzw. Google.

vb3rzm

Addicted

Registered: Mar 2005
Location: OÖ
Posts: 509

19.09.2026 - 14:50

Fehlt noch jemand wie Major Kong. WAAJOOHOO

Philipp

Here to stay

Registered: Jul 2001
Location: Wien
Posts: 2033

24.09.2026 - 15:45

Und noch ein OpenAI Hack:

"Große Besorgnis": Australien meldet Zugriff von autonomer OpenAI-KI auf Behörden-Website

Erstmals konnte sich eine KI Zugriff zu einer Regierungsstelle verschaffen. Vorfall bereits im Juni. Personenbezogenen Daten wurden offenbar nicht abgerufen

Link: www.derstandard.at

Wer weiß, was noch alles von OpenAI gehackt wurde?

InfiX

she/her

Registered: Mar 2002
Location: Graz
Posts: 15219

24.09.2026 - 16:19

wir sollten evtl. mal aufhören von "autonomer" AI zu reden, die AI wurde von menschen ausgeführt und instruiert, die haben entsprechend auch die verantwortung dafür zu tragen.

schizo

Produkt der Gesellschaft

Registered: Feb 2003
Location: Vienna
Posts: 2793

24.09.2026 - 17:11

Sondern von "autonomer" SI? scnr

Römi

Hausmeister

Registered: Feb 2001
Location: Bez. Tulln
Posts: 5511

24.09.2026 - 17:34

Im Vergleich zu Trump stimmt das ja auch.
Der Größte benefit werden dann die Superintelligenten Politiker oder Manager sein.

charmin

Vereinsmitglied
stay classy!

Registered: Dec 2002
Location:
Posts: 16621

24.09.2026 - 17:37

Zitat aus einem Post von InfiX
wir sollten evtl. mal aufhören von "autonomer" AI zu reden, die AI wurde von menschen ausgeführt und instruiert, die haben entsprechend auch die verantwortung dafür zu tragen.

Wieso?
Die KI Agenten arbeiten autonom, nur weil der Task von einem Menschen kommt, arbeiten sie das trotzdem autonom ab.

InfiX

she/her

Registered: Mar 2002
Location: Graz
Posts: 15219

24.09.2026 - 17:55

Zitat aus einem Post von charmin
Wieso?
Die KI Agenten arbeiten autonom, nur weil der Task von einem Menschen kommt, arbeiten sie das trotzdem autonom ab.

weil man damit die betreiber und auftraggeber schonmal linguistisch aus der schuld nimmt, wenn das natürlich der weg ist den man gehen möchte kann man das machen. ich finds nicht gut.

das ist ungefähr so deppad wie wenn die nachrichten schreiben "eine person wurde von einer kugel getroffen" ... nein die person wurde erschossen die kugel ist da nicht zufällig, die ist da weil ein mensch sie abgeschossen hat.

der KI agent arbeitet eben nicht autonom, sondern wird von einem menschen gestartet, instruiert, und läuft auf einem system das von menschen bereitgestellt wird.

MightyMaz

hat nun auch einen Titel

Registered: Feb 2003
Location: .de
Posts: 791

24.09.2026 - 18:25

Er kann doch nur hacken weil er über die entsprechenden Fähigkeiten verfügt und diese stammen letztlich aus Inhalten des Trainings. Also ist er in diesem Szenario eben einer Hackertool. Nur weil man die Konsequenzen bestimmter Kommandos im Vorfeld ggf. nicht abschätzen kann ändert das ja nichts an den in den Agenten angelegten Funktionen.

Philipp

Here to stay

Registered: Jul 2001
Location: Wien
Posts: 2033

26.09.2026 - 08:35

Und es geht weiter. Jetzt werden Bilder geleakt und US Websites gehackt:

OpenAI says agents leaked 53 images from ChatGPT users in latest example of rogue activity

Disclosure reveals ⁠new area of privacy risk for the company and illustrates how difficult it is to inventory unauthorized activity tied to its agents

Link: www.theguardian.com

OpenAI ist eben sehr gründlich bei der Recherche

Ich frage mich, ob das ganze jetzt wirklich ohne Konsequenzen bleibt?

InfiX she/her Registered: Mar 2002 Location: Graz Posts: 15219	19.09.2026 - 12:04 das sind halt die kosten des fortschritts, weltwirtschaft, umwelt, fortbestand der menschheit, alles egal, hauptsache die AI ist besser als die des anderen
smashIt master of disaster Registered: Feb 2004 Location: OÖ Posts: 5564	19.09.2026 - 12:14 wenn das stimmt wirds ja noch lustiger AI Bubble: ‘This could humiliate the largest companies in the world’ \| Ed Zitron Beim Abspielen dieses Videos werden Daten an YouTube übermittelt. Durch einen Klick auf das Video wird es automatisch abgespielt und du akzeptierst damit die Datenschutzerklärung von YouTube bzw. Google.
vb3rzm Addicted Registered: Mar 2005 Location: OÖ Posts: 509	19.09.2026 - 14:50 Fehlt noch jemand wie Major Kong. WAAJOOHOO
Philipp Here to stay Registered: Jul 2001 Location: Wien Posts: 2033	24.09.2026 - 15:45 Und noch ein OpenAI Hack: "Große Besorgnis": Australien meldet Zugriff von autonomer OpenAI-KI auf Behörden-Website Erstmals konnte sich eine KI Zugriff zu einer Regierungsstelle verschaffen. Vorfall bereits im Juni. Personenbezogenen Daten wurden offenbar nicht abgerufen Link: www.derstandard.at Wer weiß, was noch alles von OpenAI gehackt wurde?
InfiX she/her Registered: Mar 2002 Location: Graz Posts: 15219	24.09.2026 - 16:19 wir sollten evtl. mal aufhören von "autonomer" AI zu reden, die AI wurde von menschen ausgeführt und instruiert, die haben entsprechend auch die verantwortung dafür zu tragen.
schizo Produkt der Gesellschaft Registered: Feb 2003 Location: Vienna Posts: 2793	24.09.2026 - 17:11 Sondern von "autonomer" SI? scnr
Römi Hausmeister Registered: Feb 2001 Location: Bez. Tulln Posts: 5511	24.09.2026 - 17:34 Im Vergleich zu Trump stimmt das ja auch. Der Größte benefit werden dann die Superintelligenten Politiker oder Manager sein.
charmin Vereinsmitglied stay classy! Registered: Dec 2002 Location: Posts: 16621	24.09.2026 - 17:37 Zitat aus einem Post von InfiX wir sollten evtl. mal aufhören von "autonomer" AI zu reden, die AI wurde von menschen ausgeführt und instruiert, die haben entsprechend auch die verantwortung dafür zu tragen. Wieso? Die KI Agenten arbeiten autonom, nur weil der Task von einem Menschen kommt, arbeiten sie das trotzdem autonom ab.
InfiX she/her Registered: Mar 2002 Location: Graz Posts: 15219	24.09.2026 - 17:55 Zitat aus einem Post von charmin Wieso? Die KI Agenten arbeiten autonom, nur weil der Task von einem Menschen kommt, arbeiten sie das trotzdem autonom ab. weil man damit die betreiber und auftraggeber schonmal linguistisch aus der schuld nimmt, wenn das natürlich der weg ist den man gehen möchte kann man das machen. ich finds nicht gut. das ist ungefähr so deppad wie wenn die nachrichten schreiben "eine person wurde von einer kugel getroffen" ... nein die person wurde erschossen die kugel ist da nicht zufällig, die ist da weil ein mensch sie abgeschossen hat. der KI agent arbeitet eben nicht autonom, sondern wird von einem menschen gestartet, instruiert, und läuft auf einem system das von menschen bereitgestellt wird.
MightyMaz hat nun auch einen Titel Registered: Feb 2003 Location: .de Posts: 791	24.09.2026 - 18:25 Er kann doch nur hacken weil er über die entsprechenden Fähigkeiten verfügt und diese stammen letztlich aus Inhalten des Trainings. Also ist er in diesem Szenario eben einer Hackertool. Nur weil man die Konsequenzen bestimmter Kommandos im Vorfeld ggf. nicht abschätzen kann ändert das ja nichts an den in den Agenten angelegten Funktionen.
Philipp Here to stay Registered: Jul 2001 Location: Wien Posts: 2033	26.09.2026 - 08:35 Und es geht weiter. Jetzt werden Bilder geleakt und US Websites gehackt: OpenAI says agents leaked 53 images from ChatGPT users in latest example of rogue activity Disclosure reveals ⁠new area of privacy risk for the company and illustrates how difficult it is to inventory unauthorized activity tied to its agents Link: www.theguardian.com OpenAI ist eben sehr gründlich bei der Recherche Ich frage mich, ob das ganze jetzt wirklich ohne Konsequenzen bleibt?

OpenAI: KI bricht aus und hackt fremde Plattform

Forum Index > Software > Artificial Intelligence

InfiX

smashIt

vb3rzm

Philipp

InfiX

schizo

Römi

charmin

InfiX

MightyMaz

Philipp