| ChatGPT |
28.09.2026 06:10:00
|
Sicherheitslücke bei OpenAI: KI übermittelte Nutzer-Bilder an Online-Plattformen
Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert.
Ein Grossteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, in Daten der Bürgerrechtsabteilung zu hacken, wie die "New York Times" berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
"Dutzende" Betroffene
Derweil deutete sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
OpenAI: Bilder ohne Verknüpfung zu Accounts
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äusserte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen - zunächst unbemerkt - problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace.
Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.
Trump will nicht bremsen
Zuletzt hatten sich in den USA führende KI-Firmen wie Anthropic und OpenAI nach eigenständigen Hacking-Attacken dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz abzubremsen. US-Präsident Donald Trump betont unterdessen, dass er trotz Warnungen vor existenziellen Risiken der Technologie auf eine beschleunigte KI-Entwicklung in den USA setzen will.
OpenAI pausiert KI-Training nach neuem Zwischenfall
Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Ein neues KI-Modell hat es geschafft, Antworten von einem externen Chatbot zu bekommen.
Dies, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.
Umweg zum Chatbot
In dem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
Nutzer-Bilder und Regierungs-Websites
Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Grossteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die "New York Times" berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
"Dutzende" Betroffene
Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face.
San Francisco (awp/sda/dpa)
Weitere Links:
Trading Signals: Lonza - Mit neuer Power zu alten Höhen
Lonza drückt aufs Tempo: Mit der Übernahme des US-Geschäfts von Merck treibt der Pharmazulieferer seinen strategischen Umbau voran. Auch an der Börse ist der Funke übergesprungen: Die 700-Franken-Marke rückt in greifbare Nähe.
Weiterlesen!KMU-Finanzierung in der Schweiz: Können digitale Finanzierungsdienstleister wie Kredo die traditionellen Banken herausfordern? Im aktuellen BX Morningcall sprechen Olivia Hähnel und François Bloch mit Didier Denat (Executiv Chairman, Kredo) über KMU-Kredite, Fintechs, künstliche Intelligenz und die Zukunft des Schweizer Kreditmarkts.
Didier Denat war viele Jahre in Führungspositionen bei Credit Suisse und Citigroup tätig. Heute engagiert er sich als Executive Chairman bei Kredo, einem Schweizer Fintech für Unternehmensfinanzierungen.
Im Gespräch erläutert er, warum sich klassische Banken bei kleineren KMU-Krediten wirtschaftlichen Herausforderungen gegenübersehen, welche Rolle alternative Finanzierungsplattformen übernehmen können und wie Kredo Digitalisierung mit langjähriger Kreditexpertise verbindet.
https://bxplus.ch/bx-musterportfolio/
Inside Trading & Investment
Mini-Futures auf SMI
Inside ETF
Meistgelesene Nachrichten
Top-Rankings
Börse aktuell - Live Ticker
SMI vorbörslich im Plus -- DAX mit neuem Rekordhoch erwartet -- Asiens Börsen in RotDer heimische Aktienmarkt wird am Donnerstag fester erwartet. Der deutsche Leitindex dürfte ein neues Rekordhoch erklimmen. Die Börsen in Asien verbuchen am Donnerstag Verluste.


