OpenAI: KI bricht aus und hackt fremde Plattform

Natürlich will jeder, der eine KI nutzt, auch das beste Modell haben. Und wenn das Modell so gut ist, dass es sogar schafft, bei einem Test aus der gesicherten Umgebung auszubrechen, dann muss es ja auch andere Aufgaben besonders gut erledigen. Kaum jemand wird in so einer Pressemeldung ein Risiko für sich selber sehen, sondern nur wie intelligent die KI ist.

Zitat aus einem Post von smashIt

ist eher ein zeichen dafür, wie inkompetent die buden sind.

smashIt. Der grosse Tech Maestro. Immer super, deine qualifizierten Aussagen. Ma merkt, du hast Ahnung vom Fach.

Wenn das die ärgsten Skynet Modelle wären würde man sie air gapped testen wenn man klug ist.

Das ist der eigentliche Werbeeffekt solcher Aktionen. Es soll halt das Bild vermittelt werden, dass diese Programme selbständig denken und ganz geheime Dinge planen, ohne dass es irgendwem auffallen würde, wenn währenddessen das Rechenzentrum glüht.

Zitat aus einem Post von mr.nice.

Die Systeme waren logisch geairgapped.

ich denke wir haben grundlegend verschiedene vorstellungen davon, was ein airgap ist...

Zitat aus einem Post von mr.nice.

Ich finde es beachtlich, dass die KI einen so großen Aufwand betrieben hat, um beim Test zu schummeln ohne diese Idee zu verwerfen, weil es ohnehin aufgeflogen wäre.

https://jfrog.com/blog/jfrog-and-op...urity-findings/

Das ist das coole an der Sache. Die AI hat auf viele Dinge eine komplett andere Perspektive und Unvoreingenommenheit. Ich erinnere mich zurück an OpenAIs Anfänge mit dem Computerspiel Dota2. Die AI hat zwar nur anhand von Spielerdaten trainiert, konnte aber ihre eigenen Strategien entwickeln. Eine total interessante Entwicklung war, dass die AI so viel wie möglich die Ultimate Abilities der Heros verwendet hatte, welche normalerweise einen hohen Cooldown haben und deshalb von menschlichen Spielern immer versucht wird, diese im perfekten Zeitpunkt zu verwenden. Die AI hat im Prinzip kapiert, dass Dota2 im Kern kein Geschicklichkeitsspiel und auch kein Teamspiel ist, sondern ein Game of economy. Mehr Gold, mehr Macht. Jedenfalls auf diesem Hochklasseniveau. Und dadurch, dass sie so oft wie möglich diese Ultimate Abilities eingesetzt haben, konnten sie den Gegner so stark stören beim economy game, dass sie den menschlichen Gegner einfach sehr früh stark überlegen waren.

Das hat sich komplett von anderen Spielweisen abgesetzt und war kaum vergleichbar mit was anderem. Und wie ich schon sagte, sicher nicht in den Trainingsdaten vorhanden.

Ja da dürftest du Recht haben. Zumindest jetzt spuckt mir das Google auch aus. Ich hätte mir eingebildet, damals wurde das auch anders erklärt. Aber das sind mittlerweile fast 10 Jahre und man findet nur noch oberflächlich Informationen dazu.