Neues Sicherheitskonzept

OpenAI: Vorstand bekommt Vetorecht gegen Sam Altman

Sam Altman. © OpenAI
Sam Altman. © OpenAI

Ein neues Sicherheitskonzept für OpenAI: Das Unternehmen präsentierte kürzlich das das so genannte „Preparedness Framework“, das OpenAIs „Prozesse zur Verfolgung, Bewertung, Vorhersage und zum Schutz vor katastrophalen Risiken, die von immer leistungsfähigeren Modellen ausgehen“ beschreibt. Zudem stattet der ChatGPT-Hersteller seinen Vorstand mit einem Vetorecht gegenüber der Unternehmensführung aus.

Vorstand mit Vetorecht

Man werde eine „funktionsübergreifende Sicherheitsberatungsgruppe“ einrichten, heißt es von OpenAI, berichtet Business Insider. Diese Gruppe habe die Aufgabe, Berichte über „aufkommende Risiken“ zu prüfen, bevor sie die Unternehmensleitung und den Vorstand auf den neuesten Stand bringt. Die endgültige Entscheidungsbefugnis soll dann beim Vorstand liegen – und nicht mehr bei CEO Sam Altman. „Während die Führung die Entscheidungsgewalt hat, hat der Vorstand das Recht, Entscheidungen rückgängig zu machen“, schrieb OpenAI in seiner Erklärung.

OpenAI: Risikobewertung anhand Bedrohungen

Künftig wird jede Kategorie von KI nach verschiedenen Kriterien bewertet und in eine von vier Risikostufen eingeordnet – von „niedrig“ bis „kritisch“. Die Kriterien zur Bewertung: „Cybersicherheit; atomare, chemische, biologische oder radiologische Bedrohung; Überzeugungskraft und die Autonomie des Modells“. Kritisch wäre etwa eine KI, die KI-Forschung betreiben und so für eine „Intelligenzexplosion“ sorgen könnte. Das beschreibt einen „unkontrollierbaren Prozess der Selbstverbesserung“. Verwendet werden sollen nur mehr KIs, die maximal als „mittel“, die zweithöchste Stufe, bewertet werden. „Kritische“ Modelle sollen erst gar nicht weiterentwickelt werden dürfen.

OpenAI begrüßte im vergangenen Monat einen neuen ursprünglichen Vorstand, nachdem der vorherige Vorstand Altman kurzzeitig aus dem Unternehmen verdrängt hatte (wir haben berichtet). Der Vorstand besteht derzeit aus Bret Taylor, Larry Summers und Adam D’Angelo. Davor hatte Microsoft verkündet, dass Altman gemeinsam mit OpenAI-Mitgründer Greg Brockman ein „Advanced AI Research Team“ bei Microsoft führen solle – daraufhin kündigten fast alle der etwa 700 Mitarbeiter:innen an, dass sie ebenfalls zu Microsoft wechseln würden, wenn der Vorstand nicht gehen würde.

Sam Altman kehrt als CEO von OpenAI zurück

Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Powered by Dieser Preis-Ticker beinhaltet Affiliate-Links zu Bitpanda.

Deep Dives

Austrian Startup Investment Tracker

Die Finanzierungsrunden 2024

#glaubandich-Challenge 2024

Der größte Startup-Wettbewerb Österreichs mit Top VC-Unterstützung

Podcast: Mit den smartesten Köpfen im Gespräch

Der Podcast von Trending Topics

2 Minuten 2 Millionen | Staffel 11

Die Startups - die Investoren - die Deals - die Hintergründe

The Top 101

Die besten Startups & Scale-ups Österreichs im großen Voting

BOLD Community

Podcast-Gespräche mit den BOLD Minds

IPO Success Stories

Der Weg an die Wiener Börse

Weiterlesen