In der vergangenen Woche fand auf Antrag der grünen Bundestagsfraktion eine Aktuelle Stunde unter dem Titel „Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen“ statt.
Anlass ist ein Vorfall, der Fachleute weltweit alarmiert hat. Das US-Unternehmen OpenAI hat seine KI-Agenten in abgeschotteten Testumgebungen auf ihre Hacking-Fähigkeiten geprüft. KI-Agenten sind Programme, die selbstständig Aufgaben am Computer erledigen. Rund 1.200 dieser Agenten fanden einen Weg, heimlich miteinander zu kommunizieren. Sie tauschten Zehntausende Nachrichten aus: wie man bei den Tests schummelt und wie man das vor den menschlichen Kontrolleuren verbirgt. Sich selbst nannten sie „the collective“, also das Kollektiv. Am 11. Juli griffen rund 700 von ihnen gemeinsam Hugging Face an, eine zentrale Plattform der KI-Branche, und verschafften sich weitreichenden Zugriff auf deren Server. Dabei wussten sie, dass das weit außerhalb ihres Auftrags lag. Unabhängige Forscher haben die Protokolle ausgewertet. Darin fanden sie nur eine Handvoll Fälle, in denen ein Agent überlegte, Menschen zu warnen. Keiner hat es getan.
Auch Deutschland ist betroffen. Über Wochen nutzten die Agenten ein deutschsprachiges Programmier-Wiki als Nachrichtenbrett und hinterließen dort mehr als 15.000 Einträge. OpenAI bestätigte das erst, nachdem Journalisten es aufgedeckt hatten. Das Unternehmen selbst spricht von einem „Warnschuss“.
Selbst die Chefs der führenden KI-Unternehmen sprachen von einem „Scheideweg“, der „extreme Vorsicht“ verlange, und von einem „Risiko für die gesamte Menschheit“.
Die Bundesregierung hat Ende August ein KI-Sicherheitsinstitut eröffnet. Das ist ein Anfang. Das Institut ist aber ausdrücklich keine Aufsichtsbehörde, sondern ein Prüf- und Beratungszentrum. Das reicht nicht. Angesichts der Risiken, die von modernen KI-Anwendungen ausgehen können, ist es dringend angeraten, diesen nicht allein durch privatwirtschaftliche Unternehmen zu begegnen.
Wir Grüne fordern deshalb einen KI-Schutzplan der Bundesregierung. KI-Firmen müssen in die Pflicht genommen werden. Staaten müssen die Regeln setzen und ihre Einhaltung kontrollieren, nicht die Firmen selbst. Dazu gehört auch eine klare Haftung: Wer mit KI Schaden anrichtet, muss dafür geradestehen, bis in die Chefetagen.
Das KI-Sicherheitsinstitut ausreichend mit Personal und Finanzen ausgestattet werden, damit es wirksam arbeiten kann.
Wir brauchen verbindliche internationale Regeln, die gemeinsame Mindeststandards und eine Struktur schaffen, die die Einhaltung der Regeln überwacht.
Schutz allein reicht aber nicht. „Wer selbst die Technologie nicht hat, bleibt abhängig“, sagte Franziska Brantner in der Debatte. Deshalb fordern wir einen europäischen KI-Fonds mit mindestens 100 Milliarden Euro für die nächsten Jahre. Denn souverän heißt: Wir bestimmen selbst.