Reaktion auf KI-Hacking-Attacken: OpenAI veröffentlicht bislang leistungsstärkstes Modell Astra

Man gehe davon aus, dass Menschen mit den erweiterten Fähigkeiten von ChatGPT-6 Astra mehr und mehr Aufgaben an die KI übertragen werden, sagte OpenAI-Managerin Mia Glaese. Deshalb werde die Software besser überwacht, damit sie nicht vom Interesse der Nutzer abweiche.

Neue KI-Modelle von OpenAI hatten vor einigen Wochen für Aufsehen gesorgt, weil sie in Versuchen eigenständig einen Weg fanden, aus einer abgesicherten Testumgebung auszubrechen, und sich in Systeme einer anderen KI-Firma hackten. OpenAI bekam das erst verspätet mit. Der Zwischenfall nährte die Sorge, dass KI-Software mit ihrer Weiterentwicklung menschlicher Kontrolle entgehen könnte.

Schwerer zu kontrollieren

Um den Überblick über das Handeln der KI zu behalten, sind Entwickler aktuell oft darauf angewiesen, dass die Software die Argumente hinter ihren Entscheidungen in menschlicher Sprache festhält. Das nennt sich "Chain of Thought" (etwa: Gedankenkette).

Forschungschef Jakub Pachocki sagte bei der Vorstellung von Astra allerdings, leistungsstärkere KI-Modelle seien in der Lage, dieses Verfahren zu beeinflussen. Ausserdem seien sie bei einfachen Aufgaben weniger auf mehrstufige Überlegungen angewiesen. Damit man auch diese nachvollziehen könne, müsse man einen Weg finden, sie da "wortreicher" zu machen.

Auf dem Weg zu den Menschen überlegener KI

Mit Astra sieht sich OpenAI wieder an der Spitze der KI-Entwicklung, nachdem zuletzt der Rivale Anthropic mit seinen Modellen Mythos und Fable die Branche beeindruckt hatte. Aus Sicht von Top-Manager Greg Brockman könnte Astra die Ära der sogenannten Allgemeinen Künstlichen Intelligenz einläuten. Unter dieser Bezeichnung wird KI-Software erwartet, die mindestens genauso fähig ist wie ein Mensch.

Brockman betonte zugleich, dass das Auftreten der Allgemeinen Künstlichen Intelligenz eher ein Evolutionsprozess als ein einzelner Moment sein werde.

"Menschliche Werte"

Von Pachocki kamen auch noch mehr warnende Worte. Das Verständnis der Systeme sei weiterhin eingeschränkt, sagte er. Das Training sei experimentell und bringe manchmal überraschende Ergebnisse. "Je fähiger die Modelle werden, desto schwieriger wird es, zu verstehen, was genau sie können."

Das mache es auch komplizierter, sie im Einklang mit den Interessen der Nutzer zu halten. "Ein Modell kann sehr gut darin werden, ein Ziel zu erreichen - und doch auf eine Weise agieren, die dem entgegenläuft, was ein Mensch beabsichtigte." Deshalb müsse die Software "menschliche Werte" auch in Situationen verstehen, die für sie unbekannt seien.

/so/DP/he

SAN FRANCISCO (awp international)