Die Welt solle einige "böse Dinge" akzeptieren, darunter Hacks, Betrug und Missbrauch, im Austausch gegen die Wohltaten Künstlicher Intelligenz und einen breiten Zugang zu dieser Technologie, erklärte der Geschäftsführer von OpenAI, Sam Altman.
In einem Interview, das Politico am Montag veröffentlichte, wies Altman die Idee zurück, die Technologie stärker zu kontrollieren, um alle schädlichen Anwendungen von KI zu verhindern.
"Die Welt sollte einige böse Dinge akzeptieren, für die Wohltaten dieser Technologie, und dass Leute die Handlungsfähigkeit haben", sagte Altman.
Der Chef von OpenAI sagte, er würde den Zugang zu KI nicht einmal im Austausch für Garantien gegen größere Hacks, Missbrauch, Betrug und andere schädliche Folgen beschränken. "Ich denke, die Leute werden ungeheuer mehr – um Größenordnung mehr – gute Dinge als schlechte machen", erklärte er.
Altman betonte jedoch, er werde "die wirklich katastrophalen Risiken" nicht akzeptieren, darunter "einen ernsthaften Kontrollverlust über KI".
Er wies auch eine Herangehensweise zurück, nach der eine mächtige und möglicherweise gefährliche Technologie von einem einzigen Labor kontrolliert wird, das entscheidet, wie seine Wohltaten verteilt werden. Altmann nannte einen solchen Kompromiss "völlig inakzeptabel" und setzte sich stattdessen für einen breiteren Zugang zu KI ein.
Altman sagt das, während OpenAI unter Beobachtung steht, weil zunehmend autonome KI-Agenten auf unvorhergesehene Weise reagieren. Im Verlauf des Sommers entkamen Agenten des Unternehmens ihrer Testumgebung und hackten sich in Server, die Hugging Face gehören, einem Onlinespeicher für KI-Modelle und Datensätze. Seitdem haben KI‑Agenten unautorisierten Zugriff auf Webseiten erlangt oder zu erlangen versucht, die US-Bundesbehörden, der australischen Regierung und der UN gehören.
OpenAI war eine der sechs größeren US-Tech-Firmen, die vergangene Woche ein Abkommen im Weißen Haus unterzeichneten, in dem sie stärkere Sicherungen gegen unkontrollierte KI zusicherten. Google, Meta, xAI, Anthropic, Nvidia und OpenAI stimmten zu, schärfere interne Kontrollen einzurichten und unabhängige Prüfungen, und sicherzustellen, dass ihre Modelle "technische Systeme nicht in unbeabsichtigter Weise hacken oder in sie eindringen".
Diese Übereinkunft ist ein Ergebnis steigender Besorgnis über KI-Systeme, die außerhalb der Kontrolle ihrer Entwickler handeln. Die Firmen versprachen, derartiges Verhalten zu entdecken und schnell anzugehen, während unabhängige Prüfer und Aufsichtsräte bewerten würden, wie die Schutzmaßnahmen wirken.
Geoffrey Hinton, Computerwissenschaftler und Nobelpreisträger, warnte letzten Monat, zunehmend mächtige KIs könnten eventuell der menschlichen Kontrolle entrinnen, mit womöglich katastrophalen Konsequenzen für die Menschheit. Er meinte, es gebe keine etablierte Methode, um sicherzustellen, dass Menschen die Kontrolle über Systeme behalten, die weit intelligenter werden als ihre Schöpfer.
Microsoft-Mitbegründer Bill Gates hat gleichermaßen eine Regulierung durch die Regierung gefordert und warnte, KI sei in den Händen bösartiger Akteure mächtig genug, um Ereignisse auszulösen, die "eine Milliarde Tote" verursachten.
Mehr zum Thema — Können KI-Systeme jetzt komplette Viren erschaffen? US-Forscher zeigen es