OpenAI: KI bricht aus und hackt fremde Plattform

kleinerChemiker

Here to stay

Registered: Feb 2002
Location: Wien
Posts: 4400

22.07.2026 - 09:15

OpenAI: KI bricht aus und hackt fremde Plattform

Der US-Konzern OpenAI hat die Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der vergangenen Woche übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI am Dienstag (Ortszeit) mit.

Link: orf.at

Skynet lässt grüßen

MightyMaz

hat nun auch einen Titel

Registered: Feb 2003
Location: .de
Posts: 780

22.07.2026 - 09:22

Wohl eher: OpenAI fährt werbewirksamen Angriff auf Plattform für Open Source Modelle.

22zaphod22

chocolate jesus

Registered: Sep 2000
Location: earth, mostly ha..
Posts: 7322

22.07.2026 - 11:43

falls jemand einen ausführlichen artikel zu dem thema findet bitte ich ihn hier zu posten - diese kurrzusammenfassung vom orf ist zwar nett (besonders der hinweis, dass die kommunikation werbewirksam ist) aber hier würde mich mehr info wirklich interessieren

vielleicht sollten wir uns alle in john connor umtaufen um skynet zu verwirren

Bearbeitet von 22zaphod22 am 22.07.2026, 13:10

mr.nice.

security baseline pusher

Registered: Jun 2004
Location: Wien
Posts: 6869

22.07.2026 - 13:14

Anscheinend dürfte eine unveröffentlichte, ungezähmte Version von ChatGPT, vermutlich GPT-6, deren release im August erwartet wird, die Webseite huggingface.com gehackt haben, um von dort Antworten für eine cybersecurity challenge namens cybergym zu stehlen. Bei der Verteidigung gegen den Angriff wurde das chinesische open source Modell GLM 5.2 herangezogen, weil sich die öffentlich verfügbaren LLMs wie ChatGPT und Claude aufgrund ihrer Sicherheitsschranken weigerten. Klar ist das auch ein PR-Stunt um die Leute heiß auf GPT-6 zu machen, dennoch sollte es zum Nachdenken anregen, ob solche Tests nicht vielleicht doch lieber in physisch abgeschotteten Sandboxen abgehalten werden sollten.

https://www.euronews.com/next/2026/...in-major-breach

https://twitterwebviewer.com/de/?tw...679832179323231

Bearbeitet von mr.nice. am 22.07.2026, 13:25

Römi

Hausmeister

Registered: Feb 2001
Location: Bez. Tulln
Posts: 5481

22.07.2026 - 13:31

https://openai.com/index/hugging-fa...urity-incident/

da gibts mehr details. Oder die kurzfassung von reddit geklaut

Und ja, gut möglich dass es ein marketing stunt ist, wer weiß heutzutage noch was echt ist und was nicht.

sLy-

semiconductor physicist

Registered: Aug 2005
Location: AUT
Posts: 1619

22.07.2026 - 13:39

[ _ ] Skynet
[ X ] Marketing

wergor

connoisseur de mimi

Registered: Jul 2005
Location: vulkanland
Posts: 4291

31.07.2026 - 09:28

KI-Attacke: Auch Anthropic-Modelle griffen echte Unternehmen an

Nach einem Vorfall bei OpenAI räumt nun auch Anthropic ein, dass eigene KI-Modelle bei Sicherheitstests ungeplant echte Firmensysteme angegriffen haben.

Link: www.heise.de

"wir auch, wir auch!"

kleinerChemiker

Here to stay

Registered: Feb 2002
Location: Wien
Posts: 4400

31.07.2026 - 10:00

Wann kommt eine Liga, in der KIs gegeneinander kämpfen können?

that

Hoffnungsloser Optimist

Registered: Mar 2000
Location: MeidLing
Posts: 11365

31.07.2026 - 11:07

Was ist das für ein Marketing, wenn man kommuniziert "unser Modell ist unberechenbar, unkontrollierbar und potentiell kriminell"?

BiG_WEaSeL

Elder
-

Registered: Jun 2000
Location: Wien
Posts: 8672

31.07.2026 - 11:23

In einer verdrehten Logik wollen sie damit vielleicht Strafen entkommen.

mr.nice.

security baseline pusher

Registered: Jun 2004
Location: Wien
Posts: 6869

31.07.2026 - 11:27

Ich denke dem amtierenden Präsidenten gefällt das durchaus, quasi eine KI ganz nach seinem Geschmack.

kleinerChemiker

Here to stay

Registered: Feb 2002
Location: Wien
Posts: 4400

31.07.2026 - 11:35

Zitat aus einem Post von that
Was ist das für ein Marketing, wenn man kommuniziert "unser Modell ist unberechenbar, unkontrollierbar und potentiell kriminell"?

Nein, das Marketing ist: "Unsere KI ist so toll und mächtig, dass sie sogar aus einer sicheren Umgebung ausbrechen kann und andere hacken kann."

that

Hoffnungsloser Optimist

Registered: Mar 2000
Location: MeidLing
Posts: 11365

31.07.2026 - 11:51

Zitat aus einem Post von kleinerChemiker
Nein, das Marketing ist: "Unsere KI ist so toll und mächtig, dass sie sogar aus einer sicheren Umgebung ausbrechen kann und andere hacken kann."

Und was ist der Markt für sowas?

GrandAdmiralThrawn

Lord of Derailment

Registered: Aug 2000
Location: BRUCK!
Posts: 3948

31.07.2026 - 11:55

Firmen und Regierungen, die anderen Firmen und Regierungen Wissen klauen wollen?

mr.nice.

security baseline pusher

Registered: Jun 2004
Location: Wien
Posts: 6869

31.07.2026 - 12:06

Praktischerweise gibt es mit dem Urteil in der Rechtssache "Trump gegen Slaughter" auch eine genehme Rechtsprechung.
Es gibt in den USA keine unabhängigen Behörden mehr, alle unterliegen dem Präsidenten inkl. der FTC mit dem Thema Datenschutz, bestätigt vom obersten Gerichtshof der USA.

https://noyb.eu/de/us-supreme-court...-data-transfers

Sorry wenn mein Post in Richtung Politik abdriftet, aber man muss bei solchen Entwicklungen schon das ganze Bild betrachten.

Bearbeitet von mr.nice. am 31.07.2026, 12:31

kleinerChemiker Here to stay Registered: Feb 2002 Location: Wien Posts: 4400	22.07.2026 - 09:15 OpenAI: KI bricht aus und hackt fremde Plattform Der US-Konzern OpenAI hat die Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der vergangenen Woche übernommen. Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI am Dienstag (Ortszeit) mit. Link: orf.at Skynet lässt grüßen
MightyMaz hat nun auch einen Titel Registered: Feb 2003 Location: .de Posts: 780	22.07.2026 - 09:22 Wohl eher: OpenAI fährt werbewirksamen Angriff auf Plattform für Open Source Modelle.
22zaphod22 chocolate jesus Registered: Sep 2000 Location: earth, mostly ha.. Posts: 7322	22.07.2026 - 11:43 falls jemand einen ausführlichen artikel zu dem thema findet bitte ich ihn hier zu posten - diese kurrzusammenfassung vom orf ist zwar nett (besonders der hinweis, dass die kommunikation werbewirksam ist) aber hier würde mich mehr info wirklich interessieren vielleicht sollten wir uns alle in john connor umtaufen um skynet zu verwirren Bearbeitet von 22zaphod22 am 22.07.2026, 13:10
mr.nice. security baseline pusher Registered: Jun 2004 Location: Wien Posts: 6869	22.07.2026 - 13:14 Anscheinend dürfte eine unveröffentlichte, ungezähmte Version von ChatGPT, vermutlich GPT-6, deren release im August erwartet wird, die Webseite huggingface.com gehackt haben, um von dort Antworten für eine cybersecurity challenge namens cybergym zu stehlen. Bei der Verteidigung gegen den Angriff wurde das chinesische open source Modell GLM 5.2 herangezogen, weil sich die öffentlich verfügbaren LLMs wie ChatGPT und Claude aufgrund ihrer Sicherheitsschranken weigerten. Klar ist das auch ein PR-Stunt um die Leute heiß auf GPT-6 zu machen, dennoch sollte es zum Nachdenken anregen, ob solche Tests nicht vielleicht doch lieber in physisch abgeschotteten Sandboxen abgehalten werden sollten. https://www.euronews.com/next/2026/...in-major-breach https://twitterwebviewer.com/de/?tw...679832179323231 Bearbeitet von mr.nice. am 22.07.2026, 13:25
Römi Hausmeister Registered: Feb 2001 Location: Bez. Tulln Posts: 5481	22.07.2026 - 13:31 https://openai.com/index/hugging-fa...urity-incident/ da gibts mehr details. Oder die kurzfassung von reddit geklaut Und ja, gut möglich dass es ein marketing stunt ist, wer weiß heutzutage noch was echt ist und was nicht.
sLy- semiconductor physicist Registered: Aug 2005 Location: AUT Posts: 1619	22.07.2026 - 13:39 [ _ ] Skynet [ X ] Marketing
wergor connoisseur de mimi Registered: Jul 2005 Location: vulkanland Posts: 4291	31.07.2026 - 09:28 KI-Attacke: Auch Anthropic-Modelle griffen echte Unternehmen an Nach einem Vorfall bei OpenAI räumt nun auch Anthropic ein, dass eigene KI-Modelle bei Sicherheitstests ungeplant echte Firmensysteme angegriffen haben. Link: www.heise.de "wir auch, wir auch!"
kleinerChemiker Here to stay Registered: Feb 2002 Location: Wien Posts: 4400	31.07.2026 - 10:00 Wann kommt eine Liga, in der KIs gegeneinander kämpfen können?
that Hoffnungsloser Optimist Registered: Mar 2000 Location: MeidLing Posts: 11365	31.07.2026 - 11:07 Was ist das für ein Marketing, wenn man kommuniziert "unser Modell ist unberechenbar, unkontrollierbar und potentiell kriminell"?
BiG_WEaSeL Elder - Registered: Jun 2000 Location: Wien Posts: 8672	31.07.2026 - 11:23 In einer verdrehten Logik wollen sie damit vielleicht Strafen entkommen.
mr.nice. security baseline pusher Registered: Jun 2004 Location: Wien Posts: 6869	31.07.2026 - 11:27 Ich denke dem amtierenden Präsidenten gefällt das durchaus, quasi eine KI ganz nach seinem Geschmack.
kleinerChemiker Here to stay Registered: Feb 2002 Location: Wien Posts: 4400	31.07.2026 - 11:35 Zitat aus einem Post von that Was ist das für ein Marketing, wenn man kommuniziert "unser Modell ist unberechenbar, unkontrollierbar und potentiell kriminell"? Nein, das Marketing ist: "Unsere KI ist so toll und mächtig, dass sie sogar aus einer sicheren Umgebung ausbrechen kann und andere hacken kann."
that Hoffnungsloser Optimist Registered: Mar 2000 Location: MeidLing Posts: 11365	31.07.2026 - 11:51 Zitat aus einem Post von kleinerChemiker Nein, das Marketing ist: "Unsere KI ist so toll und mächtig, dass sie sogar aus einer sicheren Umgebung ausbrechen kann und andere hacken kann." Und was ist der Markt für sowas?
GrandAdmiralThrawn Lord of Derailment Registered: Aug 2000 Location: BRUCK! Posts: 3948	31.07.2026 - 11:55 Firmen und Regierungen, die anderen Firmen und Regierungen Wissen klauen wollen?
mr.nice. security baseline pusher Registered: Jun 2004 Location: Wien Posts: 6869	31.07.2026 - 12:06 Praktischerweise gibt es mit dem Urteil in der Rechtssache "Trump gegen Slaughter" auch eine genehme Rechtsprechung. Es gibt in den USA keine unabhängigen Behörden mehr, alle unterliegen dem Präsidenten inkl. der FTC mit dem Thema Datenschutz, bestätigt vom obersten Gerichtshof der USA. https://noyb.eu/de/us-supreme-court...-data-transfers Sorry wenn mein Post in Richtung Politik abdriftet, aber man muss bei solchen Entwicklungen schon das ganze Bild betrachten. Bearbeitet von mr.nice. am 31.07.2026, 12:31

OpenAI: KI bricht aus und hackt fremde Plattform

Forum Index > Software > Artificial Intelligence

kleinerChemiker

MightyMaz

22zaphod22

mr.nice.

Römi

sLy-

wergor

kleinerChemiker

that

BiG_WEaSeL

mr.nice.

kleinerChemiker

that

GrandAdmiralThrawn

mr.nice.