Sicherheit und Kontrolle von KI-Systemen gewährleisten - Staatliche Schutzverantwortung ernst nehmen

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Weitere Wortmeldungen in dieser Aussprache liegen mir nicht vor. Ich schließe sie. Interfraktionell wird die Überweisung des Gesetzentwurfs auf Drucksache 21/7824 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. – Weitere Überweisungsvorschläge sehe ich nicht. Dann verfahren wir dementsprechend. Ich rufe auf den Zusatzpunkt 9: Aktuelle Stunde auf Verlangen der Fraktion BÜNDNIS 90/DIE GRÜNEN Sicherheit und Kontrolle …

Vielen Dank. – Weitere Wortmeldungen in dieser Aussprache liegen mir nicht vor. Ich schließe sie. Interfraktionell wird die Überweisung des Gesetzentwurfs auf Drucksache 21/7824 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. – Weitere Überweisungsvorschläge sehe ich nicht. Dann verfahren wir dementsprechend. Ich rufe auf den Zusatzpunkt 9: Aktuelle Stunde auf Verlangen der Fraktion BÜNDNIS 90/DIE GRÜNEN Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen Ich warte eine Sekunde, bis alle, die uns verlassen wollen, das getan haben. Alle, die sich platzieren, sollen das zügig tun. Ich eröffne die Aussprache und erteile das Wort Dr. Franziska Brantner für die Fraktion Bündnis 90/Die Grünen. Beifall: Grüne

DR Dr. Franziska Brantner Grüne rede Im Protokoll ↗

Sehr geehrter Herr Präsident! Sehr geehrte Kolleginnen und Kollegen! Diese Woche sprachen Altman und Amodei vor dem UN-Sicherheitsrat. Die Chefs der beiden mächtigsten KI-Firmen der Welt bitten um Hilfe: Reguliert uns! Bremst uns! – Echt jetzt? Warum verändern sie eigentlich nicht ihre Programmierung? Und wenn es brennt? Dann rufen die Techanarchisten auf einmal nach mehr Staat. Aber gut, sei’s drum. …

Sehr geehrter Herr Präsident! Sehr geehrte Kolleginnen und Kollegen! Diese Woche sprachen Altman und Amodei vor dem UN-Sicherheitsrat. Die Chefs der beiden mächtigsten KI-Firmen der Welt bitten um Hilfe: Reguliert uns! Bremst uns! – Echt jetzt? Warum verändern sie eigentlich nicht ihre Programmierung? Und wenn es brennt? Dann rufen die Techanarchisten auf einmal nach mehr Staat. Aber gut, sei’s drum. Nehmen wir ihren Appell trotzdem ernst. Wenn selbst die Entwickler vor ihrer eigenen Technologie warnen, dann ist das offensichtlich ein Alarmsignal. Und was machte Donald Trump in dieser Woche? Er bezeichnete vor den Vereinten Nationen internationale Regeln als „globalistisches Komplott“ und lehnte sie ab. Dann empfing er seinen neuen besten Freund Xi Jinping zum Staatsbankett. Am Tisch saßen die ganzen Tech-Bosse. Wer nicht am Tisch saß, war Europa. Und das, sehr geehrte Kolleginnen und Kollegen, dürfen wir nicht länger hinnehmen. Beifall: Grüne Beifall: Linke (einzelne Abg.) Beifall: Johannes Schätzl (SPD) Die Mächtigsten ringen mit den Werkzeugen, die die mächtigsten unserer Zeit sein werden. Sie bestimmen über unsere Wirtschaft, über unsere Sicherheit, über unsere Demokratie, über unsere Gedanken. KI verändert unser Zusammenleben grundlegend. Sie kann unsere größte Chance sein, aber nur unter zwei Bedingungen: Sie muss sicher sein, und sie muss souverän sein. Im Juli – wir alle haben es mitbekommen – sind KI-Modelle aus ihrer Testumgebung ausgebrochen, haben auf eigene Faust eine Entwicklerplattform gehackt. Das ist keine Science-Fiction, sondern Realität. Hier hat der Staat verdammt noch mal eine Schutzverantwortung für unsere Bürgerinnen und Bürger und für die Unternehmen. Und darum geht es uns bei dieser heutigen Aktuellen Stunde. Beifall: Grüne Lassen Sie mich deutlich sein: Die Tech-Brothers haben vielleicht die Algorithmen auf ihrer Seite. Aber wir sind nicht ohnmächtig. Wir brauchen und können gemeinsam internationale Sicherheitsstandards und eine unabhängige internationale KI-Aufsicht schaffen. ↳ Helge Limburg (Grüne): »Richtig!« Und auch hier bei uns brauchen wir einen KI-Schutzplan der Bundesregierung und eine KI-Aufsicht auf Augenhöhe mit den KI-Unternehmen. Lassen Sie mich hinzufügen: Wer solche Systeme auf den Markt bringt, der muss haften, wenn sie Schaden anrichten, und zwar persönlich, bis in die Chefetage. Beifall: Grüne Beifall: Johannes Schätzl (SPD) Und KI muss souveräner werden, souverän sein. Denn wer die Technologie nicht selbst hat, bleibt abhängig. Wir haben es im Juni gesehen: Eine Entscheidung wurde in Washington getroffen, und die stärksten KI-Modelle waren fast drei Wochen lang für uns gesperrt. Stellen Sie sich mal vor: Eine Patientin ist im Krankenhaus, ihre ganze Behandlung hängt von KI ab, und diese wird über Nacht ausgeschaltet. Oder: Die ganze Produktion einer Mittelständlerin ist von einem chinesischen KI-Modell abhängig. Ich kann Ihnen klar sagen: Souveränität heißt für uns deswegen: Wir bestimmen selbst. Niemand kann uns die KI einfach abdrehen, kein Konzern im Silicon Valley, keine Partei in Peking und kein Präsident im Weißen Haus. Beifall: Grüne Beifall: SPD (einzelne Abg.) Beifall: Linke (einzelne Abg.) Angst mag das Geschäftsmodell der Tech-Bros sein. Unser Geschäftsmodell muss die Selbstbestimmung sein. Und dazu haben wir das Potenzial: Robotik, industrielle KI, Medizintechnik, Energie, so viele Bereiche. Und selbst bei den von Frontier-Modellen ist doch der Zug noch längst nicht abgefahren. Aber was uns fehlt, sind Tempo und Geld, viel Geld. Deswegen fordern wir einen europäischen KI-Fonds im Umfang von mindestens 100 Milliarden Euro für die nächsten Jahre. Klotzen statt 27-mal kleckern ist jetzt angesagt. Beifall: Grüne Der Staat – in Deutschland sind das die Kommunen, die Länder und der Bund – muss jetzt endlich seine eigenen Notwendigkeiten bündeln, als Ankerkunde einmal einheitlich auftreten, am besten gleich europäisch. Auch die Unternehmen müssen ihre Kräfte bündeln. Und dafür brauchen wir eine entschlossene Bundesregierung. Bis jetzt, liebe Kolleginnen und Kollegen, sind wir noch nicht so sicher, ob das im Kanzleramt wirklich ernst genug genommen wird. Beifall: Grüne Während in Washington das Bankett läuft, sortiert sich das Kanzleramt erst mal neu. So nimmt die Bundesregierung ihre Schutzverantwortung nicht ernst genug. Sehr geehrte Kolleginnen und Kollegen, sichere und souveräne KI kann Krankheiten heilen. Sie kann uns Lasten abnehmen, sie kann Europa richtig stark machen. Aber diese Chance gehört den Menschen, nicht denen, die damit Geld verdienen wollen, und erst recht nicht jenen, die damit nur Macht ausüben wollen. Über unsere Zukunft bestimmen wir, Beifall: Grüne nicht Trump, nicht Xi Jinping, nicht die Tech-Bros, sondern wir. Deshalb, liebe Bundesregierung, machen Sie es zur Chefsache! Kämpfen Sie für eine sichere KI mit internationalem Schutz! Kämpfen Sie für eine souveräne KI made in Europe. Herzlichen Dank. Beifall: Grüne Beifall: SPD (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist der Parlamentarische Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung, Thomas Jarzombek. Beifall: Union Beifall: SPD (einzelne Abg.)

TH Thomas Jarzombek Parl. Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung regierung Im Protokoll ↗

Herr Präsident! Liebe Kolleginnen und Kollegen! Es ist schön, dass wir heute die Gelegenheit haben, hier zum wiederholten Male über KI zu reden. Das ist ein superwichtiges Thema. Frau Kollegin Brantner, ich finde den gesamten Aufschlag der Grünen, zu sagen: „Wir müssen hier mehr machen“, interessant. Wir als Bundesregierung machen bei KI. In den drei Jahren der Ampelregierung lag das …

Herr Präsident! Liebe Kolleginnen und Kollegen! Es ist schön, dass wir heute die Gelegenheit haben, hier zum wiederholten Male über KI zu reden. Das ist ein superwichtiges Thema. Frau Kollegin Brantner, ich finde den gesamten Aufschlag der Grünen, zu sagen: „Wir müssen hier mehr machen“, interessant. Wir als Bundesregierung machen bei KI. In den drei Jahren der Ampelregierung lag das Hauptaugenmerk darauf, Regulierungen zu bauen, ↳ Dr. Konstantin von Notz (Grüne) den AI Act zu bauen, und zwar mit einer Detailliertheit an Regulierungsinstrumenten auf über 100 Seiten, die nicht dazu beigetragen hat, dass eine starke KI in Europa einfach zu bauen war. Sie hat es den Gründerinnen und Gründern schwer gemacht. Deshalb ist unser Fokus als Bundesregierung vor allem, es den Gründerinnen und Gründern leicht zu machen, damit wir es schaffen, die Innovation aus den Hochschulen in globale Marktführerschaft zu übersetzen. Beifall: Union Genau das haben wir bei der Raumfahrt getan. Wir haben gestern an diesem Pult darüber diskutiert, wie es Isar Aerospace geschafft hat, den ersten kommerziellen Raumflug Europas durchzuführen. Ein kleiner Rückblick – Frau Kollegin Brantner, auch Sie haben ja die letzten Jahre im Wirtschaftsministerium gearbeitet –: Als ich Luft- und Raumfahrtkoordinator war, mussten wir 500 Millionen Euro in einer ESA-Periode an Ariane geben. Daraus sind Dinge entstanden, über die an diesem Podium keiner geredet hat. Von diesen 500 Millionen Euro hat ein piratiger Raum- und Luftfahrtkoordinator 27 Millionen Euro abgezwackt und in einen Wettbewerb mit drei Start-ups gegeben. Für den Gewinner Isar Aerospace gab es Aufträge in Höhe von 11 Millionen Euro mit dem Staat als Ankerkunden; wir haben die Flüge eins und zwei gekauft. Es folgten 500 Millionen Euro private Investments. Das Ganze ist erfolgreich gewesen. Es gab drei Teams. Es gab auch noch Teams aus Frankreich, Spanien und UK. Und die Jungs aus Bayern waren halt die Besten. Der Wettbewerb hat funktioniert, und es folgten private Investitionen. ↳ Ralph Brinkhaus (Union): »Wer war denn dieser Staatssekretär?« ↳ Grüne – Da muss man nicht die Augen verdrehen. Wenn wir jetzt hingehen und sagen: „Wir bauen VEB ‚Künstliche Intelligenz‘, und die Europäische Kommission nimmt 100 Milliarden in die Hand“, wird es auf diese Art und Weise nicht zum Erfolg führen. Beifall: Union ↳ Dr. Anna Lührmann (Grüne): »Was machen denn die Chinesen und Amerikaner?« Wir brauchen an dieser Stelle Wettbewerb, Mut und Start-ups. Übrigens gibt es diese auch aus Deutschland. Ich gucke auf Black Forest Labs, die gerade ein führendes World Model bauen, oder auf DeepL, die Marktführer sind, oder Cognigy, die globaler Marktführer bei Kundendienstleistungen mit 1 Milliarde Dollar Transaktionsvolumen sind. Das sind die Beispiele, die wir haben. Wir müssen jetzt einfach gucken: Was können wir als Staat damit machen? Sie haben ja recht: Wir müssen Ankerkunde werden. Das tun wir auch. Wir haben den „Agentic AI Hub“ gebaut. Wir bringen jetzt schon in der zweiten Runde Start-ups mit Kommunen zusammen und kommen hier zu sehr erfolgreichen Lösungen, die den Menschen helfen: Wenn Anträge zur Pflege gestellt und 100 Seiten Dokumente eingereicht werden, kann das die KI, anstatt dass Sachbearbeiter darüber tagelang brüten müssen, schön aufbereiten und damit den ganzen Prozess beschleunigen. Beifall: Union Oder ich nenne als Beispiel SPARK, unsere agentische Planungsplattform. Damit können wir beispielsweise beim Bau von Stromtrassen – ein wichtiges Thema für uns alle –, von Wasserstoffleitungen oder von Autobahnbrücken, die gerade zerbröseln, die Planungsgeschwindigkeit verdoppeln, also den Planungszeitraum halbieren, indem wir mit KI die Verfahren an dieser Stelle unterstützen. Deshalb ist das Wichtigste, dass wir die KI nutzen. Sie bringt Nutzen für die Bürgerinnen und Bürger in diesem Land. Sie macht den Staat schneller und einfacher. Das Stichwort, mit dem Sie heute in diese Debatte gehen, ist ein anderes. Denn jetzt wird sehr viel über die Risiken geredet. Das hat auch Gründe, weil es bei KI natürlich nicht nur alle diese Chancen gibt, die ich gerade beschrieben habe, sondern es gibt bei KI auch große Risiken. Keine Technologie ist ohne Risiken, und damit müssen wir in der Tat umgehen. Wir nehmen das als Bundesregierung sehr ernst, und wir sind deshalb auch aktiv. Ich will drei zentrale Elemente nennen. Erstens. Unser Bundesminister Karsten Wildberger setzt sich dafür ein, dass es eine globale KI-Aufsicht gibt, und die braucht es auch. Beifall: Union Beifall: SPD (einzelne Abg.) Beifall: Grüne (einzelne Abg.) Es braucht globale Standards. Es braucht eine globale, unabhängige Aufsicht. Und es braucht eine Einsicht in Modelle und in Systeme. Zweitens. Wir bauen gerade ein AI Safety and Security Institute, das AISI Deutschland, ein Stück weit auch nach britischem Vorbild – nicht nur, um Zugang zu frühen und auch zu ungefilterten Modellen zu bekommen, sondern auch, um Beurteilungskompetenz zu erreichen. Wir wollen eine Behörde oder eine Truppe aufbauen, die helfen und auch abwehren kann. Drittens. Gerade letzte Woche hat Bundesminister Karsten Wildberger mit einer Delegation Kanada bereist und die Messe ALL IN besucht. Wir haben uns committet, nach Kanada nun bis zu 100 Millionen Euro in LawZero zu investieren. Das ist eine Initiative des KI-Professors Yoshua Bengio, einem der meistzitierten KI-Forscher der Welt, der eine KI baut, die eine Art Aufsicht und moralische Instanz für andere KIs ist. Ist das am Ende die finale Lösung? Das wissen wir nicht! Aber es ist sicherlich ein vielversprechender Ansatz, und wir investieren. Wir sind aktive Spieler in dem Ganzen. Beifall: Union Beifall: Johannes Schätzl (SPD) Ich will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft. Das ist auch erst mal ein guter Schutz, da am Ende derjenige, der Systeme in Umlauf bringt, die wirtschaftlichen Schaden anrichten, dafür auch haften muss. Das ist nicht nur nach europäischem Recht so, sondern das ist im Übrigen auch nach US-amerikanischem Recht so. Das wird sicherlich einen sehr großen Einfluss haben, möglicherweise auch auf manche Erklärungen der Tech-CEOs, die gerade zitiert wurden. Denn diese Firmen müssen haften. Und wenn hier großer wirtschaftlicher Schaden entsteht, weil Systeme kompromittiert werden oder Systeme ausfallen, dann wird das sicherlich sehr starke Konsequenzen auf die Entwicklung in den Laboren haben. Denn es muss so sein, dass die Systeme, die veröffentlicht werden und Zugang zum Internet bekommen, verstanden werden und man sicher sein kann, dass sie keinen Schaden anrichten. Am Ende ist es mir wichtig, noch mal zu betonen: Das größte Risiko besteht darin, dass wir die Chancen verpassen. Hier müssen wir in Europa ran. Und das tun wir. Wir treten gezielt als Ankerkunde auf. Wir stärken Forscherinnen und Forscher. Wir machen mit dem gestern novellierten Wissenschaftsfreiheitsgesetz und demnächst mit dem Innovationsfreiheitsgesetz Dinge einfacher. Das ist der Weg, wie wir als Europa hier eine starke Stimme werden, sind und bleiben. Vielen Dank. Beifall: Union Beifall: SPD (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank, Herr Staatssekretär. – Der nächste Redner ist Ruben Rupp für die AfD. Beifall: AfD

RU Ruben Rupp AfD rede Im Protokoll ↗

Sehr geehrter Herr Präsident! Geehrte Kollegen Abgeordnete! Wenn die Grünen über künstliche Intelligenz sprechen, dann können wir sicher sein: Es geht ihnen um Risiken, Regulierung und Verbote. Die Verbots- und Angstpartei der Grünen bleibt sich auch heute treu: erst Angst schüren vor dem Weltuntergang durch Klimawandel, jetzt Angst schüren vor dem Weltuntergang durch KI. Mit Ihnen ist definitiv kein Staat …

Sehr geehrter Herr Präsident! Geehrte Kollegen Abgeordnete! Wenn die Grünen über künstliche Intelligenz sprechen, dann können wir sicher sein: Es geht ihnen um Risiken, Regulierung und Verbote. Die Verbots- und Angstpartei der Grünen bleibt sich auch heute treu: erst Angst schüren vor dem Weltuntergang durch Klimawandel, ↳ Ina Latendorf (Linke): »Dazu ist gar nichts gesagt worden!« ↳ Dr. Konstantin von Notz (Grüne): »Herr Rupp, wo kommen Sie denn her?« jetzt Angst schüren vor dem Weltuntergang durch KI. Mit Ihnen ist definitiv kein Staat zu machen. Beifall: AfD Und ja, künstliche Intelligenz birgt Risiken; auf die werde ich auch noch eingehen. ↳ Grüne – Hören Sie genau zu! – Aber wissen Sie, was für Deutschland inzwischen eines der größten Risiken ist? Es ist auch in der Regierung angekommen: dass wir bei der wichtigsten Technologie unserer Zeit, der künstlichen Intelligenz, die epochale Veränderungen mit sich bringt, vollkommen abgehängt wurden. Das ist doch das Kernproblem, und da sind Sie alle mitverantwortlich: von der Ampel bis zur CDU/CSU-Fraktion. Beifall: AfD Die leistungsfähigsten KI-Modelle, die entscheidenden Chips und die großen Cloud-Plattformen kommen nicht aus Deutschland, ganz zu schweigen von notwendiger Rechenleistung. KI-bezogene Investitionen betragen eine halbe Billion Dollar pro Jahr in den Vereinigten Staaten, in China 130 Milliarden Euro, in Europa insgesamt, großzügig geschätzt, 85 Milliarden Euro, von Deutschland alleine ganz zu schweigen. Während andere in den USA oder in China die technologische Zukunft mit Frontier-Modellen und KI-Agenten bauen, diskutieren wir in Deutschland über Regulierung und Verbote, und das, obwohl wir in ganz Europa noch kein einzig wirklich vergleichbar leistungsfähiges KI-Frontier-Modell haben. Das ist doch völlig absurd: Sie wollen vom Katzentisch aus Weltmächten wie den USA und China die Bedingungen für KI diktieren. So läuft das aber nicht! Beifall: AfD ↳ Filiz Polat (Grüne) Donald Trump sagte gerade erst über künstliche Intelligenz: „Whoever wins AI, wins!“ Und auch wenn Sie es nicht hören wollen: Genau damit hat er einfach recht. ↳ Ina Latendorf (Linke): »Nein, auf keinen Fall!« Entweder wir steigen endlich in den Wettbewerb für die besten KI-Lösungen ein und reden auch hier im Parlament darüber, oder wir steigen in einen absurden Wettbewerb der Überregulierung ein, bei dem wir unsere eigene Digitalwirtschaft in Europa abwürgen. Aber die EU kennt sich ja bestens damit aus, wie man mit einem Bürokratiemonster Unternehmen ertränken kann und so die europäische Wirtschaft zerstört. Diesen Weg gehen wir als AfD garantiert nicht mit. Beifall: AfD Ich bin froh, dass Digitalminister Wildberger dieser Tage ausdrücklich von KI als „Befreiungsschlag“ für Deutschland gesprochen hat und nicht auf Doomsday-Szenarien einsteigt, die immer wieder auch von linker, grüner und SPD-Seite kommen. Das können Sie leugnen; es ist aber so. Wie die AfD diesen Befreiungsschlag umsetzen wird, haben wir in unserem Großantrag für einen nationalen Aufbruch in die KI-Zukunft aufgezeigt: mehr Rechenzentren, bezahlbare Energie, Kapazitäten bei Halbleitern, Cloud und Hochleistungsrechnern sowie eigene leistungsfähige KI-Modelle und ein europäischer KI-Airbus. Und genau das brauchen wir jetzt, wenn wir als deutsche Politik im Bereich KI weltweit ernst genommen werden wollen. Beifall: AfD Und dann müssen wir natürlich auch über die Sicherheitsrisiken der nächsten KI-Generationen sprechen; die sind real. Denn wir reden nicht mehr nur über einen Chatbot, der einen Text schreibt oder ein Bild erzeugt. Wir reden über Systeme, die selbstständig Aufgaben erledigen, programmieren, Software bedienen und über viele Arbeitsschritte hinweg handeln können. Deshalb sagen wir genauso klar: Technologischer Fortschritt: Ja, bitte! Fahrlässiger KI- Kontrollverlust: Nein, danke! Beifall: AfD Bei den leistungsfähigen KI-Frontier-Modellen brauchen wir echte technische Sicherheitstests. Wir brauchen Red Teaming Tests über Cyberfähigkeiten von Modellen und einiges mehr. Das wird teilweise auch schon gemacht. Das Entscheidende bleibt aber: Wir brauchen keine Regulierung wie den AI Act, der einen mittelständischen Maschinenbauer am Ende genauso behandelt wie ein Frontier Lab, das an der Grenze zur nächsten KI-Generation arbeitet. Das brauchen wir nicht! Meine Damen und Herren, Deutschland darf nicht Zuschauer der KI-Revolution bleiben. Wir brauchen nicht weniger künstliche Intelligenz. Wir brauchen mehr, aber auch sichere künstliche Intelligenz, um den wirtschaftlichen und gesellschaftlichen Sprung, die weltweit kommende Produktivitätsexplosion in Deutschland nicht zu verpassen, sonst sind wir wirtschaftlich nämlich sehr bald weg vom Fenster. Denn nur ein Land, das diese KI-Technologien selbst beherrscht, kann souverän über Chancen und Risiken entscheiden und sich international Gehör verschaffen. Danke schön. Beifall: AfD

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Johannes Schätzl ist der nächste Redner für die SPD-Fraktion. Beifall: SPD Beifall: Union

JO Johannes Schätzl SPD rede Im Protokoll ↗

Sehr geehrter Herr Präsident! Liebe Kolleginnen! Liebe Kollegen! Frau Brantner, danke, dass Sie das Thema auf die Tagesordnung gesetzt haben. Aus der Ferne betrachtet, wirkten die beiden Reden von Frau Brantner und Herrn Jarzombek tatsächlich konfrontativ. Aber ich gehe davon aus, Sie haben am Ende beide recht. Das ist eine Abwägung zwischen Chancen und Risiken. Die Frage, ob man zunächst …

Sehr geehrter Herr Präsident! Liebe Kolleginnen! Liebe Kollegen! Frau Brantner, danke, dass Sie das Thema auf die Tagesordnung gesetzt haben. Aus der Ferne betrachtet, wirkten die beiden Reden von Frau Brantner und Herrn Jarzombek tatsächlich konfrontativ. Aber ich gehe davon aus, Sie haben am Ende beide recht. Das ist eine Abwägung zwischen Chancen und Risiken. Die Frage, ob man zunächst an Chancen oder Risiken denkt, wenn man das Wort „KI“ hört, die muss jeder selbst beantworten. Dennoch bin ich mir sicher: Wir alle könnten spontan zehn Chancen aufzählen. Wir haben es hier an diesem Pult relativ häufig gemacht – ich muss nicht alles aufzählen –: Medizin, Industrie, Handwerk, Verwaltung usw. Und tatsächlich – auch wenn es zu dieser späten Zeit vielleicht nicht mehr so wirkt –: Mich begeistert dieses Potenzial. Ja, wir müssen Lust auf diesen Fortschritt haben. Wir müssen als Parlament sicherstellen, dass dieser Fortschritt am Ende auch bei den Menschen im Land ankommt. Deshalb bin ich auch in der Abwägung zwischen Chancen und Risiken der festen Überzeugung, dass wir in Deutschland KI entwickeln, erproben und einsetzen sollten. Beifall: SPD Wenn ich sage, wir hätten sofort ein Gefühl für zehn Chancen, dann heißt das aber auch: Wir haben vermutlich nicht alle sofort ein Gefühl für zehn Risiken. Ja, die Risiken, sie werden größer. Jedes Modell arbeitet am Ende mit Wahrscheinlichkeiten. Es gibt keine eindeutig richtigen, definierten Antworten, die man vorgibt. Das wäre vermutlich ein geringeres Problem, würden wir nur über Textbausteine reden. Aber ja, wir geben der KI zunehmend Werkzeuge an die Hand. Sie kann Programme ausführen, sie kann E-Mails versenden, sie kann auf Daten zugreifen. Tatsächlich liegt aus meiner Sicht genau da das Risiko. Aus einer falschen Antwort kann plötzlich eine falsche Handlung werden. Und reden wir über Risiken, sehe ich ganz konkret drei Risiken. Erstens. KI kann Missbrauch erheblich erleichtern. Wir sehen, dass Cyberangriffe durch KI unterstützt werden. Das ist beispielsweise eine stark personalisierte, betrügerische E-Mail, und das ist bei Weitem nicht das Worst-Case-Problem. KI führt nicht immer eigenständig Angriffe durch, und dennoch gelingen mit ihr trotz Cybersicherheit Angriffe leichter. KI macht Angriffe skalierbarer. Zweites Risiko aus meiner Sicht. Auch ohne böswilligen Nutzen können sehr gefährliche Fehler entstehen. In Testszenarien wurden einige Modelle eingesetzt und dabei beispielsweise auch das Mittel der Erpressung benutzt, um das vorgegebene Ziel zu erreichen. Ja, das waren sehr gezielte, zugespitzte Versuchsanordnungen. Das belegt nicht, dass die heutigen Systeme dieses Vorgehen im Alltag nutzen. Dennoch zeigt es aber sehr eindeutig, dass unter gewissen Voraussetzungen Sicherheitsschranken versagen können. Drittes Risiko. Ja, wir brauchen einen Markt, aber der Markt darf nicht die falschen Anreize setzen. Wer aktuell das leistungsfähigste Modell zuerst auf den Markt bringt, hat einen Vorteil: Er gewinnt Kunden, er gewinnt Kapital. Gründliche Sicherheitsprüfungen hingegen kosten Geld. Wenn Unternehmen den Gewinn erhalten, die Gesellschaft aber den möglichen Schaden tragen müsste, würde hier ein gefährliches Ungleichgewicht entstehen. Aus meiner Sicht gibt es hier vier mögliche Lösungsszenarien. Erstens. Ja, wir müssen die europäische KI-Verordnung wirksam durchsetzen. Wir brauchen unabhängige Prüfkapazitäten, aussagekräftige Sicherheitstests und am Ende eine Aufsicht mit Personal, das Sachverstand und den tatsächlichen Zugang zu diesen Systemen hat. Beifall: SPD Beifall: Grüne (einzelne Abg.) Zweitens. Jede KI, die selbst handelt, braucht stärkere Zugriffsrechte. Ich finde, der Grundsatz muss gelten: Je mehr Befugnisse eine KI hat, desto enger müssen die sicherheitstechnischen Grenzen gezogen werden. Drittens. Wir müssen über das Thema Souveränität sprechen. Europa braucht eigene Modelle. Wir müssen die europäische Handlungsfähigkeit aufbauen. Vierter und, so glaube ich, wichtigster Ansatz – Frau Brantner, da gebe ich Ihnen recht –: Wir müssen über die Haftung der Inhaber und der Vertreter dieser Modelle reden. Es reicht nicht ein einfacher Ausschluss in den AGBs. Wer einen Schaden verursacht, muss am Ende auch persönlich haften. Beifall: SPD Beifall: Grüne Beifall: Union (einzelne Abg.) Zusammengefasst, liebe Kolleginnen, liebe Kollegen: Wer KI voranbringen will, muss ihre Sicherheit mitentwickeln. Genau das ist unsere Aufgabe. Deswegen noch mal danke für das gut gewählte Thema. Danke für die Aufmerksamkeit. Beifall: SPD Beifall: Union (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Die nächste Rednerin ist Sonja Lemke für die Fraktion Die Linke. Beifall: Linke

SO Sonja Lemke Linke rede Im Protokoll ↗

Sehr geehrte Zuhörende! Herr Präsident! KI-Regulierung ist eine sinnvolle Sache. Deswegen hatten wir bereits einen sehr umfangreichen Antrag vorgelegt, in dem wir Maßnahmen vorgeschlagen haben. Aber wir reden heute nicht über KI-Regulierung, weil jetzt eine Mehrheit zu der Einsicht gekommen ist, dass diese Technologie mehr Schaden anrichtet, als dass sie Nutzen bringt. Wir reden heute über KI-Regulierung, weil drei der …

Sehr geehrte Zuhörende! Herr Präsident! KI-Regulierung ist eine sinnvolle Sache. Deswegen hatten wir bereits einen sehr umfangreichen Antrag vorgelegt, in dem wir Maßnahmen vorgeschlagen haben. Aber wir reden heute nicht über KI-Regulierung, weil jetzt eine Mehrheit zu der Einsicht gekommen ist, dass diese Technologie mehr Schaden anrichtet, als dass sie Nutzen bringt. Wir reden heute über KI-Regulierung, weil drei der Ober-Tech-Bros auf einmal der Meinung sind, dass man Regulierung braucht. Das erstaunt natürlich; denn die machen ja ihr Geld mit KI-Systemen. Also, warum fordern sie das? Der erste Grund ist relativ einfach: Es dient ihren Geschäftsinteressen. Die großen Sprachmodelle sind an der Grenze dessen angekommen, was sie leisten können. Das heißt, man trainiert, trainiert und trainiert und hat extreme Kosten, aber das Endprodukt wird nicht spürbar besser als sein Vorgänger. Währenddessen hat die Konkurrenz Zeit, das Ganze aufzuholen – und das will man verhindern. Der zweite Grund ist, dass die Modelle immer noch nicht profitabel sind; also muss man alle davon überzeugen, dass die KI-Systeme bald übermenschlich sind. Und das effektivste Mittel, das zu tun, ist, Angst zu schüren. Das macht man dadurch, dass ganz aus Versehen ein KI-System bei einer Firma einbricht, die dann ganz zufällig auch vom KI-Hype profitiert, und die einen zufälligerweise nicht in Grund und Boden klagt, obwohl man das eigentlich verdient hätte. Und das macht man dadurch, dass man eine KI zurückhält, weil sie angeblich zu gefährlich ist. Da überrascht es dann auch nicht so sehr, dass ein Typ bei Anthropic kündigt und, wie viele vor ihm, medienwirksam verkündet, dass alle dort glauben, dass die KI bald die Welt vernichten wird. Das mag ja sein, dass sie das wirklich glauben. Aber haben Sie sich mal angeschaut, was man in der Technobubble noch so glaubt? Die Menschen dort glauben, dass sie die Auserwählten sind und die Menschheit verbessern müssen und dafür über Leichen gehen dürfen. Die verachten Demokratien und wollen sie durch eine Oligarchie-Aktiengesellschaft ersetzen. Das Ganze nennen sie dann „Dark Enlightenment“, die dunkle Aufklärung. Das ist einfach nur eine weitere Weltuntergangssekte, und genau so sollte man auch darüber berichten. Beifall: Linke Wir sollten uns daher von den Regulierungen, die wirklich nötig sind, nicht ablenken lassen; denn KI-Systeme richten auch jetzt schon massiven Schaden an. Techkonzerne ziehen in einem Raubzug durch das Internet. Texte, Bilder, Videos, Musik: Alles stehlen sie für das Training von KI-Systemen, ohne einen Cent dafür zu zahlen, während Tausende unterbezahlte Datenarbeiter/-innen die Daten für sie beschriften und sortieren, in viel zu langen Arbeitszeiten, wo sie den ganzen Müll des Internets sehen müssen. Jeder Mensch, dessen Arbeit in KI-Systeme eingeflossen ist, muss auch vernünftig dafür entlohnt werden. Es braucht jetzt eine Entschädigung für alle Kreativschaffenden und alle Datenarbeitenden, deren Arbeit diese Systeme überhaupt erst möglich gemacht haben. Beifall: Linke Gleichzeitig werden alle Arbeitnehmenden massiv unter Druck gesetzt, weil man sie angeblich durch KI-Systeme ersetzen kann. Aber der Einsatz von KI-Systemen darf nicht dazu führen, dass Arbeit einfach nur weiter verdichtet wird. Es braucht gerade jetzt eine deutliche Stärkung des Arbeitsrechts und betriebliche Mitbestimmung. Beifall: Linke ↳ AfD: »Noch mehr Regulierung!« Dazu kommt, dass es gerade eine extreme Machtkonzentration bei den Tech-Bros gibt, auch indem Informationskanäle versiegen, weil das Internet nur noch durch Chatbots vorgefiltert zugänglich ist und massiv von KI-Müll-Bots überschwemmt wird, vor allem aber, indem hier gerade eine massive Überwachungsindustrie aufgebaut wird. Automatisierte Analysen des Internets, Videoüberwachung, automatisierte Grenzkontrollen, von Palantir bis Lavender: Diese Systeme üben Gewalt gegenüber uns allen aus, und sie bringen uns in die gruseligste aller Dystopien. Das können wir nicht zulassen! Beifall: Linke Nicht zuletzt sehen wir die unglaublichen ökologischen Auswirkungen. Wir sehen das gerade sehr deutlich in den USA: massiver Flächenverbrauch, verseuchte Luft durch Dieselgeneratoren, massiver Wasserverbrauch. Aber die USA haben auch gerade eine große und vielfältige Gegenbewegung. Von den Demokraten bis hin zu den Republikanern, über alle politischen Lager hinweg haben die Menschen dort keinen Bock mehr auf KI-Systeme und Rechenzentren – zu Recht. Doch anstatt, dass wir davon lernen, steht jetzt im Raum, dass es eine europäische KI schon richten wird. Das heißt aber: der gleiche Datendiebstahl, der gleiche Raub von Arbeit, die gleiche Flächenversiegelung, der gleiche Stromverbrauch, der auch hier nur von fossilen Energieträgern erzeugt wird, und der gleiche horrende Wasserverbrauch hier noch einmal in Europa. Das kann doch nicht Ihr Plan für die Zukunft sein. Beifall: Linke Die Regulierung von KI-Systemen ist ein großes Vorhaben. Wir dürfen uns auf gar keinen Fall von denen beeinflussen lassen, die von KI-Systemen profitieren. Gehen wir eine gute und strenge KI-Regulierung an, die die echten Probleme in den Blick nimmt! Denn dass die Zeit drängt, darüber sind wir uns hier wohl einig. Vielen Dank. Beifall: Linke

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Marvin Schulz für die CDU/CSU-Fraktion. Beifall: Union

MA Marvin Schulz Union rede Im Protokoll ↗

Sehr geehrter Herr Präsident! Meine sehr geehrten Damen! Meine Herren! Wer von Ihnen ist heute Morgen mit dem Fahrstuhl auf die Plenarsaalebene gefahren? Vielleicht der ein oder andere. Ich bezweifle aber, dass irgendjemand von Ihnen in dieser Zeit an Elisha Otis gedacht hat. Warum auch? Sie sind einfach in den Fahrstuhl rein und mit ihm gefahren. Meine Damen, meine Herren, …

Sehr geehrter Herr Präsident! Meine sehr geehrten Damen! Meine Herren! Wer von Ihnen ist heute Morgen mit dem Fahrstuhl auf die Plenarsaalebene gefahren? Vielleicht der ein oder andere. Ich bezweifle aber, dass irgendjemand von Ihnen in dieser Zeit an Elisha Otis gedacht hat. Warum auch? Sie sind einfach in den Fahrstuhl rein und mit ihm gefahren. Meine Damen, meine Herren, wir sprechen heute über die größte Technologie der Menschheitsgeschichte, künstliche Intelligenz. Aber ich muss Sie zu Beginn noch einmal zurück in die Vergangenheit mitnehmen. 1854 hat Elisha Otis über den Köpfen einer schaulustigen Menge auf einer Plattform gestanden, gesichert nur durch ein Trageseil. Dann hat er dieses Trageseil durchgeschnitten. Die Plattform rauschte wenige Zentimeter nach unten, hielt dann aber an. Elisha Otis hat an diesem Tag in New York nicht etwa den Aufzug erfunden – den gab es nämlich schon; die Menschen sind nur nicht mit dem Aufzug gefahren, weil sie Angst hatten, abzustürzen –, er hat an diesem Tag die Fangvorrichtung erfunden. Er hat das getan, meine Damen und Herren, weil er auf der einen Seite die Sorgen der Menschen ernst genommen hat, auf der anderen Seite aber Fahrstühle nicht verbieten wollte, sondern in der Mitte eine Lösung für ein Problem gefunden hat. Ich glaube, dieses Mindset beantwortet die Problematik dieser Aktuellen Stunde mindestens schon mal zur Hälfte. Beifall: Union Beifall: SPD (einzelne Abg.) Künstliche Intelligenz ist in der Tat eine Bedrohung. Wir haben es gehört: In den vergangenen Monaten sind KI-Systeme an der einen oder anderen Stelle aus Testumgebungen ausgebrochen. Das ist ein Problem. Aber auf der anderen Seite werbe ich einfach dafür, dass wir die Chancen bei künstlicher Intelligenz trotz allem nicht aus den Augen verlieren. In einer großen deutschen Mammografiestudie kam heraus, dass KI-Unterstützung zu 17,6 Prozent mehr Brustkrebserkennungen führt, das heißt weniger schlimme Krankheitsverläufe, weniger Tod. Insofern ist künstliche Intelligenz – weil das Thema Schutzverantwortung hier von den Grünen aufgerufen wurde – auch vor dem Hintergrund zu beurteilen, dass es staatliche Schutzverantwortung ist, alles dafür zu tun, die medizinische Versorgung der Bürgerinnen und Bürger in idealer Weise zu gewährleisten. Beifall: Union Deshalb ist die Frage heute: Wie bauen wir diese Fangvorrichtung? Naturgemäß können wir Elisha Otis nicht mehr fragen. Deshalb müssen Sie mit zwei Gedanken von mir vorliebnehmen. Erstens. Wir brauchen eine starke Aufsicht. Aber glücklicherweise entsteht die ja gerade. Seit Ende Juli haben wir das nationale Durchführungsgesetz für den europäischen AI Act. Die Bundesnetzagentur ist mittlerweile KI-Marktüberwachungsbehörde. Und seit September haben wir bei mir im schönen Berlin auch das AISI Germany, also das KI-Sicherheitsinstitut, wo Kolleginnen und Kollegen daran arbeiten, KI-Systeme, besonders die leistungsfähigen, zu kontrollieren. Meine Damen und Herren, „Kontrolle“ ist auch das Stichwort für dieses Haus. Der Deutsche Bundestag bekommt unendlich viele Berichte. Das heißt, es ist unsere Aufgabe als Parlamentarier, auch dafür zu sorgen, dass wir bei der KI-Gesetzgebung immer up to date sind und alles Parlamentarische unternehmen, um die Menschen in Deutschland vor den Risiken künstlicher Intelligenz zu schützen. Beifall: Union Dazu gehört im Übrigen auch, dass wir uns über die Relevanz von künstlicher Intelligenz Gedanken machen. Ich würde mich freuen, wenn der Deutsche Bundestag beim nächsten Mal, wenn er über KI diskutiert, die Kraft findet, das nicht ganz am Ende einer Sitzungswoche als letzten Tagesordnungspunkt zu tun. ↳ Ralph Brinkhaus (Union): »Das ist die Primetime!« ↳ Mayra Vriesema (Grüne): »Ihr hättet doch auch eine Aktuelle Stunde machen können!« Insofern, glaube ich, können wir gemeinsam daran arbeiten, diesen Punkt noch ein Stück weiter nach oben auf die Agenda zu setzen. Nichtsdestotrotz – und das ist der zweite Gedanke, den ich äußern möchte – brauchen wir bei künstlicher Intelligenz, auch wenn es um Risiken geht, natürlich einen globalen Ansatz. KI-Systeme machen nicht an Ländergrenzen halt. Insofern ist es gut, Herr Staatssekretär, dass Sie ausgeführt haben, dass die Bundesregierung den Schulterschluss zu Partnerländern sucht: Kanada, Frankreich unlängst. Es gibt aber auch sozusagen den Wunsch aus dem Parlament an die Bundesregierung, dass Sie weiterhin alles unternehmen, um die beiden großen KI-Supermächte China und USA an einen Tisch zu bringen. Ohne die beiden wird es nämlich nicht gehen. Und es besteht einfach die Gefahr, dass der Westen bei der KI-Entwicklung bremst, China aber ungebremst weitermacht. Das sollten wir nicht geschehen lassen. Vergessen wir bitte auch nicht den Middle East. Was in Saudi-Arabien und in den Vereinigten Arabischen Emiraten gerade in Sachen KI-Entwicklung passiert, ist viel rasanter als vieles, was wir hier in Europa haben. Das ist ebenfalls unsere Aufgabe aus dem Deutschen Bundestag heraus: alles zu unternehmen, um dieses Thema global voranzutreiben. Beifall: Union Beifall: Johannes Schätzl (SPD) Meine Damen, meine Herren, viele von Ihnen sind heute Morgen in den Aufzug gestiegen, ohne darüber nachzudenken, nicht weil Aufzüge ungefährlich sind, sondern weil wir gelernt haben, diese Aufzüge sicherzumachen. Genau das Gleiche wünsche ich mir für künstliche Intelligenz: dass wir es schaffen, KI sicherzumachen. Insofern: Danke für die Möglichkeit der heutigen Debatte! Beifall: Union Beifall: SPD (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Tobias Ebenberger für die AfD-Fraktion. Beifall: AfD

TO Tobias Ebenberger AfD rede Im Protokoll ↗

Herr Präsident! Sehr geehrte Damen und Herren Abgeordnete! Liebe Bürger! Lassen Sie mich zunächst mit zwei Zitaten beginnen. Das erste stammt von Jakub Pachocki, Chefwissenschaftler bei OpenAI, und erschien am 6. September: „Dies ist eine Zeit, die äußerste Vorsicht gebietet. Ich bin besorgt, dass niemand auf die Folgen eines anhaltend raschen Anstiegs der Maschinenintelligenz vorbereitet ist.“ Zitat Ende. Das zweite …

Herr Präsident! Sehr geehrte Damen und Herren Abgeordnete! Liebe Bürger! Lassen Sie mich zunächst mit zwei Zitaten beginnen. Das erste stammt von Jakub Pachocki, Chefwissenschaftler bei OpenAI, und erschien am 6. September: „Dies ist eine Zeit, die äußerste Vorsicht gebietet. Ich bin besorgt, dass niemand auf die Folgen eines anhaltend raschen Anstiegs der Maschinenintelligenz vorbereitet ist.“ Zitat Ende. Das zweite stammt von diesem Mittwoch. Da warnte Anthropic-Chef Dario Amodei vor dem UN-Sicherheitsrat: „Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte.“ Zitat Ende. Meine Damen und Herren, diese Aussagen klingen eher zurückhaltend, verglichen mit den Warnungen früherer Angestellter der großen KI-Entwickler. Der viral gegangene Tweet des ehemaligen Mitarbeiters von OpenAI und Anthropic Jacob Coxon ist nur die am meisten beachtete Warnung. Zitat: „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte.“ Zitat Ende. Anthropic-Chef Amodei widersprach seinem Ex-Angestellten nicht. Seiner Einschätzung zufolge könnte KI innerhalb von sechs bis zwölf Monaten das gesamte Internet kontrollieren und einen Schaden in Milliardenhöhe verursachen. ↳ Johannes Schätzl (SPD) Und jetzt komme ich zur „guten“ Nachricht: Ein solches Szenario läge letztendlich nicht in der Verantwortung von Deutschland. ↳ Rasha Nasr (SPD): »Na dann!« Schließlich sitzen die KI-Giganten in San Francisco und Hangzhou und nicht in Saarbrücken und Hannover. Bei uns entwickelt nämlich niemand eine künstliche Superintelligenz. Man könnte schon froh sein, etwas klassische Intelligenz genießen zu dürfen, insbesondere hier im politischen Berlin. Beifall: AfD Wenn Wissenschaftler die ersten von KI entworfenen Viren synthetisieren und KI längst NSA-Rechner knackt, dann dürfen wir nicht länger nur auf technologische Wertschöpfung blicken. ↳ Dr. Konrad Körner (Union): »Ja, machen wir auch nicht!« Eine sich verselbstständigte künstliche Superintelligenz außerhalb menschlicher Kontrolle kann hier im Hohen Hause ja niemand wollen. Auch wenn uns auf dem globalen Parkett zurzeit nicht viel Beachtung geschenkt wird: Deutschland sollte sich daher für internationale Spielregeln starkmachen, ↳ Johannes Schätzl (SPD): »Sie sollten sich mal abstimmen ein bisschen!« nicht weil es im globalen KI-Wettlauf ohnehin auf der Zuschauertribüne hockt, sondern weil es schlichtweg der vernünftige Weg ist, meine Damen und Herren. ↳ Franziska Hoppermann (Union): »Vielleicht klären Sie das erst mal in Ihrer Fraktion, was Ihre Haltung eigentlich ist!« Wichtig ist, dass wir europäische Unternehmen nicht noch stärker überregulieren und jetzt nicht überhastet über das Ziel hinausschießen, wie es die Grünen meistens wollen, auch wenn ich persönlich die Risiken, was die KI betrifft, sehr ernst nehme: ↳ Filiz Polat (Grüne): »Persönlich?« Es wäre nicht das erste Mal, dass sich dieses Parlament von Schlagzeilen über drohendes Unheil in die Irre führen lässt. Es hilft nicht, Angst und Panik vor dem drohenden Untergang durch KI zu schüren. Angst und Panik, meine Damen und Herren, verbreiten Sie ja schon jeden Tag zur Genüge. ↳ Dr. Konstantin von Notz (Grüne): »Das machen die Leiter dieser Unternehmen! Meine Güte!« Das überfrachtet die Menschen, das belastet die Menschen und macht Sie vielleicht in Ihren Augen leichter regierbar. Und das wollen wir als AfD-Bundestagsfraktion eben nicht. Beifall: AfD Wir prüfen daher, ob der Vorschlag des Digitalministers für eine internationale KI-Aufsicht – wie die Atombehörde IAEA – in die richtige Richtung geht. Was wir verhindern müssen, ist, dass eine weitere UN-Organisation entsteht, die dann wie die WHO von Konzernen und privaten Geldgebern gekapert wird. An alle, die immer gegen Tech-Bros oder die Techunternehmen schimpfen und davor warnen: Wann beschäftigen Sie sich eigentlich mal mit der Fremdsteuerung Ihrer heißgeliebten UN durch privates Großkapital, gerade hier auf der linken Seite im Parlament? Beifall: AfD Meine Damen und Herren, als AfD-Bundestagsfraktion wollen wir die Vorteile der KI völlig ausschöpfen: für die Medizin, für die Produktivität, für den Zugang zu Kultur und Information. Die Voraussetzungen dafür, insbesondere im Bereich der Energiepolitik, werden wir schaffen. Was wir nicht wollen, sind autonome Killerroboter, Massenzensur, Verhaltenssteuerung der Bürger. Wenn wir bei KI-Risiken sind, dann müssen wir auch über ihren Einschlag ins Bildungssystem und in die Arbeitswelt sprechen; Stichwort „Substituierbarkeitspotenzial“. Es ist ein Skandal, dass Sie sich angesichts dieser enormen Herausforderung nur mit dem eigenen Machterhalt beschäftigen. Herzlichen Dank für die Aufmerksamkeit. Mahlzeit, schönes Wochenende. Beifall: AfD

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Dr. Karl Lauterbach für die SPD-Fraktion. Beifall: SPD

DR Dr. Karl Lauterbach SPD rede Im Protokoll ↗

Herr Präsident! Liebe Kolleginnen und Kollegen! Zunächst einmal möchte ich mich dafür bedanken, dass die Grünen diese Aktuelle Stunde heute aufgesetzt haben. Das Thema ist sehr wichtig, und es sollte diskutiert werden ohne Parteipolitik. Weshalb trägt hier ausgerechnet der ehemalige Gesundheitsminister zu diesem Thema vor, wird der eine oder andere sich fragen. Ich habe mich seit vielen Jahren mit KI …

Herr Präsident! Liebe Kolleginnen und Kollegen! Zunächst einmal möchte ich mich dafür bedanken, dass die Grünen diese Aktuelle Stunde heute aufgesetzt haben. Das Thema ist sehr wichtig, Beifall: SPD (einzelne Abg.) und es sollte diskutiert werden ohne Parteipolitik. Beifall: SPD Weshalb trägt hier ausgerechnet der ehemalige Gesundheitsminister zu diesem Thema vor, wird der eine oder andere sich fragen. Ich habe mich seit vielen Jahren mit KI in der Medizin auseinandergesetzt und habe auch im Rahmen meiner Ministerzeit versucht, unser System AI-ready zu machen. Die elektronische Patientenakte zum Beispiel funktioniert so, dass die Daten mit KI ausgewertet werden können, auch das Forschungsdatenzentrum. In dem Zusammenhang möchte ich darauf hinweisen, erstens dass wir tatsächlich in der Ampel, was KI angeht, viel gemacht haben und zum Zweiten dass wir auch sehr gut zusammengearbeitet haben mit den Grünen. Das muss hier ausdrücklich gesagt werden. Beifall: SPD (einzelne Abg.) ↳ Dr. Götz Frömming (AfD): »Überraschen tut es mich eh nicht!« ↳ Tobias Ebenberger (AfD): »Dass Sie sich gut verstehen, das wundert mich nicht!« Beispielsweise Janosch Dahmen von den Grünen ist da sehr kenntnisreich und war ein sehr guter Partner. Ich glaube, dass das ganze Problem nicht lösbar sein wird, indem wir kleinkarierte Parteipolitik machen. Beifall: SPD Beifall: Grüne Der Forschungsausschuss, dem ich vorstehe, beschäftigt sich derzeit intensiv mit KI. Wir sind an der Westküste gewesen: Stanford Uni, UC Berkeley. Wir haben die großen Labore von DeepMind, OpenAI und Intrinsic besucht. In der letzten Woche war ich am MIT an der Harvard Uni, dort haben wir auch mit Anthropic gesprochen. Wir sind im engen Austausch mit den Laboren. Was hört man aus den Laboren, was für uns hier relevant ist? Relevant sind drei Dinge. Zum Ersten ist es für diese Szene – wenn man die KI-Ingenieure selbst befragt – überraschend, wie schnell KI derzeit skaliert. Tatsächlich entwickelt sich KI schneller als gedacht, und auch die Generalisierbarkeit der Ergebnisse nimmt immer mehr zu. Somit sehen wir eine Beschleunigung der Entwicklung. Zum Zweiten. Agentische KI macht nicht nur die Codierung sehr viel schneller, sondern macht es immer schwerer, KI zu kontrollieren. Das Alignment lässt sich immer schwerer verfolgen. Zum Dritten. Durch das sogenannte Recursive Self-Improvement wird es bald so sein, dass KI sich selbst weiterentwickelt. In den neuesten Modellen ist das schon zu 30 Prozent der Fall. Das heißt, spätestens in zwei Jahren kommt der größte Teil der KI-Entwicklung aus der KI selbst, und Menschen können kaum mehr diese Entwicklung verfolgen, geschweige denn richtig beeinflussen. Das bringt aus meiner Sicht drei wichtige Konsequenzen, die für uns politisch von Bedeutung sind. Zum Ersten brauchen wir zum jetzigen Zeitpunkt eine Verlangsamung; denn diese neue Beschleunigung macht eine Regulierung notwendig, von der wir jetzt nicht genau wissen, wie sie funktionieren kann. Daher wäre eine Verlangsamung richtig, und das, was Karsten Wildberger, mit dem ich dazu in Kontakt stehe, derzeit vorschlägt, hat meine volle Unterstützung. Das muss keine Verlangsamung auf Dauer sein, aber es ist eine Verlangsamung, die notwendig ist, um Sicherheit aufzubauen. Beifall: SPD Das Zweite, was mindestens genauso wichtig ist: Deutschland und auch Europa muss KI-Teilnehmer sein. Das heißt, wir können es uns nicht leisten, dass wir bei der wichtigsten technologischen Innovation in unserer Lebenszeit, wahrscheinlich der größten technologischen Innovation dieses Jahrhunderts, nicht mit vorne dabei sind. Das ist nicht akzeptabel. Ich weiß, dass KI-Systeme an der KI-Front jetzt zweistellige Milliardenbeträge kosten würden. Ich weiß, dass wir keine Modelle haben, auf die wir leicht aufbauen können. Ich weiß, dass es auch im europäischen Rechtsrahmen schwierig ist, Daten zu erheben auf die Art und Weise, wie das in China und den Vereinigten Staaten möglich ist. Trotzdem sollten wir das angehen; denn wenn wir das nicht tun, dann laufen wir in eine brutale Abhängigkeit von China und den Vereinigten Staaten hinein. Wir werden ein riesiges Sicherheitsproblem haben; denn wir haben dann keine eigenen KI-Fähigkeiten, um uns zu wehren, wenn wir tatsächlich zum Opfer von KI-Angriffen – welcher Art auch immer – sind. Das dürfen wir uns nicht leisten. Wir müssen in dieses Rennen einsteigen. Davon bin ich überzeugt. Beifall: SPD Beifall: Grüne (einzelne Abg.) Es muss kein VEB sein. In der Auseinandersetzung mit Boeing haben wir es mit Airbus auch geschafft. Das hat Europa geschafft. Das ist kein Sozialismus. Wir haben die Leute und das Geld. Es macht einfach keinen Sinn, jetzt zu sagen: Wir sind abgeschlagen. – Wir können das noch schaffen. Schließlich müssen wir unsere gesamte Gesellschaft auf KI vorbereiten. Wir dürfen uns nicht nur darauf konzentrieren, was alles nicht gemacht werden darf, sondern wir müssen KI integrieren in unseren Schulen, in unsere Ausbildung, in die Studiengänge, in die Forschung, damit wir aus KI das Beste herausziehen und das Schlimmste verhindern. Dafür müssen wir gemeinsam antreten. Beifall: SPD Beifall: Union Daher vielen Dank für diese Aktuelle Stunde, die mir Gelegenheit gibt, das darzustellen.

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank.

DR Dr. Karl Lauterbach SPD kurz Im Protokoll ↗

Ich komme zum Schluss.

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Zum letzten Satz, bitte.

DR Dr. Karl Lauterbach SPD kurz Im Protokoll ↗

Diese Aktuelle Stunde war eine großartige Idee. Das sollen wir fortsetzen, und wir müssen nach vorne sehen. Vielen Dank. Beifall: SPD Beifall: Grüne Beifall: Union (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Dr. Konstantin von Notz von der Fraktion Bündnis 90/Die Grünen. Beifall: Grüne

DR Dr. Konstantin von Notz Grüne rede Im Protokoll ↗

Herr Präsident! Meine sehr verehrten Damen und Herren! Zitat: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale Möglichkeiten. Aber KI ist …

Herr Präsident! Meine sehr verehrten Damen und Herren! Zitat: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale Möglichkeiten. Aber KI ist eben nicht nur ein Wirtschaftsthema, sondern es ist auch ein Sicherheitsthema, meine Damen und Herren. Beifall: Grüne Beifall: SPD (einzelne Abg.) Wer das unterkomplex, Herr Rupp, auf Wirtschaft reduziert, dem sei gesagt: Das ist nicht wirtschaftsliberal, sondern das ist naiv, es nur so zu diskutieren. Derzeit erleben wir, dass praktisch über Nacht Bereiche entstehen, bei denen aus diffusen sehr reale Bedrohungslagen werden. KI-Agenten missachten Befehle, umgehen Sicherheitsvorkehrungen und nisten sich als Schläfer in digitale Systeme ein. Man erfährt von völlig unzureichenden Sicherheitsvorkehrungen der Unternehmen, von Weitergabe der Tools an Dritte, die sie in kriegerischen Konflikten bei den Huthi einsetzen. Man hört, dass es ein durchaus realistisches Szenario sei, dass die Menschheit bis zum Ende der Dekade ausgelöscht sein könnte, sprich in drei bis vier Jahren. Man kann also mal über die Sicherheitsrisiken im Bundestag reden. Deswegen haben wir das Thema heute aufgesetzt, meine Damen und Herren. Beifall: Grüne Beifall: SPD Der Gesetzgeber und dieses Parlament muss der staatlichen Schutzverantwortung gegenüber den Bürgerinnen und Bürgern gerecht werden. Wir müssen gemeinsam – da hat der Kollege Lauterbach vollkommen recht – alles daransetzen, zu verhindern, dass uns diese Technologie entgleitet. Es stimmt: Wir sind, was die Regulierung der KI angeht, sehr viel weiter als andere. Der AI Act ist ein gutes Regelwerk. Er definiert, wo und unter welchen Bedingungen neue KI-Anwendungen zum Einsatz kommen. Er zeigt auch rote Linien auf und verbietet Anwendungen dort, wo der Einsatz gesellschaftspolitisch gefährlich ist. Er nimmt die Unternehmen in die Pflicht und definiert sogar sehr drastische Strafen bei Verstößen. Das ist alles gut und richtig. Aber die beste EU-Gesetzgebung nützt nichts, wenn sie nicht entschlossen in nationales Recht umgesetzt wird und wenn es nicht zugleich Aufsichtsbehörden gibt, die imstande sind, zumindest einigermaßen auf Augenhöhe mit den milliardenschweren KI-Firmen zu agieren, sie zu kontrollieren und notfalls auch zu sanktionieren. Klare Haftungsregeln – da hat der Kollege Jarzombek völlig recht – braucht es. Davon sind wir aber meilenweit entfernt, meine Damen und Herren. Beifall: Grüne Beifall: SPD Die Aufgabe ist groß, und wir können das nur mit einem gemeinsamen Kraftakt schaffen. Ich gebe zu: Der Staatssekretär Jarzombek, der Minister sowieso, aber auch der Bundeskanzler arbeiten daran und sind da auf einem guten Weg. Das erkenne ich an; aber das wird nicht reichen. Wir müssen erstens das Thema tatsächlich zu einer Priorität in dieser Wahlperiode machen, und wir müssen zweitens es auf alle Tagesordnungen aller internationalen Treffen der nächsten Monate setzen, meine Damen und Herren. Beifall: Grüne Beifall: Union (einzelne Abg.) Was gilt es konkret zu tun? KI-Labore müssen zukünftig gänzlich anders als bisher kontrolliert werden. Wir brauchen eine Beweislastumkehr, und wir müssen wieder durchsetzen, was selbstverständlich ist, nämlich: Wer nicht garantieren kann, dass seine Systeme keine massiv negativen Auswirkungen auf unsere Gesellschaft und ihre Menschen haben, der darf sie nicht an den Start bringen. Das ist eine Selbstverständlichkeit. Beifall: Grüne Beifall: Johannes Schätzl (SPD) Wir brauchen eine international anerkannte Instanz, die diese Sicherheitsstandards überwacht. Ich bin, ehrlich gesagt, nicht bereit – das ist gesellschaftlich nicht akzeptabel –, darauf reduziert zu werden, alle paar Monate in neuen Firmenberichten nachlesen zu müssen, wie knapp man diesmal wieder an einer Katastrophe vorbeigeschrammt ist. Deswegen: Wir müssen in diesem Bereich was tun. Beifall: Grüne Beifall: Dr. Karl Lauterbach (SPD) Deswegen folgende Grundsätze: Der Mensch muss den Kontext der Mechaniken unserer Welt immer verstehen können; wir brauchen Transparenz. Alle relevanten Entscheidungen müssen von Menschen und dürfen nicht von Maschinen getroffen werden. Es müssen das Primat der Politik und die Reversibilität durch demokratische Veränderung gewährleistet sein. Ich möchte Ihnen, Herr Rupp, zum Schluss noch auf den Weg geben: Wenn man KI nur als eine Technologie versteht, mit der man seine komischen völkischen Weltbilder auf Wahlplakate bringt, dann ist man eben nicht in der Lage, zu erkennen, wozu dieses Parlament verpflichtet ist, Beifall: Maja Wallstein (SPD) nämlich hier eine klare Industriepolitik zu machen und einen klaren Rahmen zu schaffen, sodass diese Technologie den Menschen dient. Ganz herzlichen Dank. Beifall: Grüne Beifall: SPD

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Ich erteile das Wort Dr. Thomas Pauls von der CDU/CSU-Fraktion für die nächste Rede. Beifall: Union

DR Dr. Thomas Pauls Union rede Im Protokoll ↗

Sehr geehrter Herr Präsident! Sehr geehrte Damen und Herren! Wir sprechen heute über eines der wichtigsten Themen der Menschheit, und leider tun wir das meiner Meinung nach oft viel zu einseitig, auch hier in der Debatte. Wenn man die Schlagzeilen verfolgt, dann begegnet einem vor allem Angst. Ein paar Nachrichten-Headlines: „99 Prozent der Arbeitnehmer könnten bis 2030 arbeitslos sein“, „Autonome …

Sehr geehrter Herr Präsident! Sehr geehrte Damen und Herren! Wir sprechen heute über eines der wichtigsten Themen der Menschheit, und leider tun wir das meiner Meinung nach oft viel zu einseitig, auch hier in der Debatte. Wenn man die Schlagzeilen verfolgt, dann begegnet einem vor allem Angst. Ein paar Nachrichten-Headlines: „99 Prozent der Arbeitnehmer könnten bis 2030 arbeitslos sein“, „Autonome Killerschwärme? China meldet Durchbruch bei Drohnen-KI“, „So könnte die KI die Menschheit auslöschen – drei Szenarien für das Ende der Menschheit“. Warum verfangen solche Schreckensszenarien so leicht, selbst bis hierhin, ins Hohe Haus? Weil wir evolutionsbiologisch darauf gepolt sind, zuerst die Gefahr zu sehen. Das hat unser Überleben in der Vergangenheit gesichert; aber das passt nicht zur Neuzeit. Im 19. Jahrhundert glaubte man an die Eisenbahnkrankheit. Man glaubte, das Gehirn könne bei Geschwindigkeiten von über 30 km/h Schaden nehmen. Im Jahr 1999 glaubte man, die Welt stünde vor dem Untergang, weil Computer die Umstellung auf das Jahr 2000 wegen der zwei Nullen nicht schaffen würden. ↳ Sonja Lemke (Linke) Und auch heute ist die Neigung hoch, bei neuer Technologie zuerst mit Angst zu reagieren. Ein Kommentar an der Stelle zu den Kollegen von der AfD: Angst – das haben Sie den Grünen vorgeworfen – ist meiner Meinung nach eher Ihr Geschäft. ↳ Lars Haise (AfD): »Ach ja!« Ob Sie jetzt Angst vor der KI haben oder nicht, da müssen Sie sich in Ihren Redebeiträgen vielleicht noch mal einig werden. Heiterkeit: Union (einzelne Abg.) Aber bei den Worten „mRNA“ oder „erneuerbare Energien“ spüre ich schon eine gewisse Angst bei Ihnen. Beifall: Union Beifall: Dr. Anna Lührmann (Grüne) Meine sehr geehrten Damen und Herren, wenn es um die Zukunftstechnologien des 21. Jahrhunderts geht, dann darf dieser Reflex, dann darf die Angst nicht unser Kompass sein. Daher möchte ich Ihnen auch ein paar andere Meldungen präsentieren – übrigens auch vor dem Hintergrund, dass Sie, liebe Kollegen von der Linkspartei, gerade gesagt haben, die KI mache mehr Schaden, als sie nutze –: „KI entdeckt Antibiotikum gegen Krankenhauskeime“ – aus Tausenden möglichen Wirkstoffen hat man mit der KI wirksame Stoffe identifiziert –, „KI stellt Sprache wieder her“ – ein Patient, der durch ALS seine Sprache verloren hatte, konnte nach fünf Jahren durch die KI wieder sprechen –, „KI beschleunigt die Energiewende“ – eine KI hat 2,2 Millionen neue Werkstoffe gefunden, darunter Hunderte Materialien, die sich für effizientere Batterien, Solarzellen oder Supraleiter nutzen lassen –, und auch – Thema Jobs –: KI treibt die Gründerszene zu immer neuen Rekorden. Noch nie wurde in Deutschland so viel neu gegründet. Dank künstlicher Intelligenz haben wir im ersten Halbjahr 2026 mehr Gründungen als im ganzen Jahr 2024. Das sind keine Luftschlösser; das sind reale Schlagzeilen der letzten Monate. Beifall: Union ↳ Dr. Fabian Fahl (Linke): »Bei den aktuellen überwiegen die Nachteile!« Ja, es gibt auch andere Meldungen: KI-Agenten, die Sicherheitsvorkehrungen umgangen haben, oder auch führende KI-Entwickler, die dazu aufrufen, das Entwicklungstempo zu drosseln. Auch wenn ich nicht sicher bin, wie viel Marketing gerade hinter diesen letzten Aufrufen steckt: Selbstverständlich gibt es Sicherheitsfragen. Aber die Bundesregierung handelt. Erstens. Wir haben es bereits gehört: Wir haben das KI-Sicherheitsinstitut des Bundes. Ich hätte es lieber in Darmstadt angesiedelt. Aber willkommen in Berlin! Heiterkeit: Grüne (einzelne Abg.) Die Bundesnetzagentur wird zur zentralen Marktüberwachungsbehörde. Zweitens. Wir modernisieren: Deutschland-Stack, ZenDiS und EUDI-Wallet werden als Bereichsausnahmen über das Sondervermögen finanziert. Die Antwort auf mögliche Bedrohungen durch KI können ja nicht USB-Sticks und Netzlaufwerke oder sogar der Weg zurück zum Papier sein – wobei wir fairerweise sagen müssen, dass wir manchmal ja noch immer beim Papier sind –, sondern kann logischerweise nur ein konsequentes Update auf moderne und sichere Technologien sein. Drittens. Auch das ist schon öfter angeklungen: Die KI-Technologien, über die wir sprechen, finden leider noch gar nicht so richtig bei uns statt. Daher ist eine internationale Kontrollbehörde, analog zur Atomenergiebehörde, der richtige Weg. Und ja, dafür müssen wir China und die USA an Bord holen. Wie bekommen wir das hin? Indem wir am Tisch sitzen, indem KI hier bei uns stattfindet. ↳ Tobias Ebenberger (AfD): »Wir sind im Moment am Katzentisch!« Meine Damen und Herren, das machen wir. Wir holen das Know-how nach Deutschland. Wir haben den Staat als Ankerkunden bei LawZero. Wir haben eine Vervierfachung der Mittel für die KI-Entwicklung und vieles mehr, was wir hier schon gehört haben. Mindestens genauso wichtig dafür, die KI nach Deutschland zu holen, ist noch etwas anderes. Wir dürfen uns auch bei der Regulierung nicht von Angst treiben lassen und vor allem nicht deswegen nach deutschen Goldrandlösungen suchen. Beifall: Union Denn auch wenn die US-Riesen gerade nach mehr Regulation geschrien haben: Ich bin überzeugt, dass wir mit mehr Regulation keinen von ihnen nach Deutschland locken werden, weil so ernst es ihnen wahrscheinlich doch nicht ist. Meine Damen und Herren, ich sage ganz klar Ja zur Schutzverantwortung des Staates. Angst ist immer ein schlechter Ratgeber. ↳ Ruben Rupp (AfD): »Auch Angst vor der AfD!« Heiterkeit: AfD (einzelne Abg.) Daher lassen Sie uns die Chancen sehen, selbstverständlich ohne die Sicherheit aus den Augen zu verlieren. Wer Angst hat und sich nur auf die Bremse konzentriert, der muss zuschauen, wenn andere ins Ziel fahren. Vielen Dank für Ihre Aufmerksamkeit. Beifall: Union Beifall: SPD (einzelne Abg.)

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Lars Haise für die AfD. Beifall: AfD ↳ Filiz Polat (Grüne): »Jetzt kommt noch eine neue Position! Eine Partei, drei Positionen!«

LA Lars Haise AfD rede Im Protokoll ↗

Herr Präsident! Liebe Kollegen! Der Titel der heutigen Debatte klingt gewichtig: „Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen“. Doch wenn wir ehrlich zu uns selbst sind und die Sonntagsreden einmal beiseitelassen, von denen wir jetzt gerade sehr viele gehört haben, müssen wir feststellen: Deutschland kann bei der Kontrolle von künstlicher Intelligenz heute im Grunde gar nicht …

Herr Präsident! Liebe Kollegen! Der Titel der heutigen Debatte klingt gewichtig: „Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen“. Doch wenn wir ehrlich zu uns selbst sind und die Sonntagsreden einmal beiseitelassen, von denen wir jetzt gerade sehr viele gehört haben, müssen wir feststellen: Deutschland kann bei der Kontrolle von künstlicher Intelligenz heute im Grunde gar nicht mitreden. Beifall: AfD Warum? Weil man nur das kontrollieren, regulieren und mitgestalten kann, was man auch versteht und in den eigenen Händen hält. Wir haben in der Spitzenforschung schlichtweg den Anschluss verloren. Die großen Entscheidungen über die Zukunft der künstlichen Intelligenz, über Sicherheitsstandards, ethische Leitplanken und technologische Durchbrüche fallen längst in den USA oder im kommunistischen China. Deutschland und die EU sitzen nicht am Verhandlungstisch, sondern stehen an der Seitenlinie des wichtigsten Technologiewettkampfes unserer Zeit. Beifall: AfD ↳ Filiz Polat (Grüne): »Das hatten wir doch schon!« Wenn wir nach Ursachen für diesen beispiellosen Niedergang fragen, landen wir sehr schnell bei einem typisch deutschen Phänomen: der verheerenden German Angst. Es ist eine Mentalität der Bedenkenträgerei und der Technologiefeindlichkeit, die insbesondere von den Grünen in diesem Parlament seit Jahrzehnten gepflegt wird. Aus purer Ideologie und einer lähmenden Angst vor dem Fortschritt sind wir bereits aus der sicheren Kernkraft ausgestiegen. ↳ Filiz Polat (Grüne): »Nein, was ist das denn für eine Sonntagsrede aus der Mottenkiste?« Wir haben unsere eigenen Hochtechnologien und damit unsere wirtschaftliche Lebensgrundlage an Orten wie Philippsburg und Gundremmingen sprichwörtlich in die Luft gejagt. ↳ Filiz Polat (Grüne): »Mottenkiste!« Dieselbe Geisteshaltung droht uns nun bei der künstlichen Intelligenz zum Verhängnis zu werden. Bevor wir auch nur ein einziges wettbewerbsfähiges Spitzenmodell entwickelt haben, rufen Sie schon nach Regulierungen, Verboten und staatlicher Überwachung. Beifall: AfD Doch die Verantwortung liegt nicht allein bei den Grünen: Deutschland hat sich jahrzehntelang in falscher Sicherheit gewogen. Man glaubte naiv, wirtschaftlich und wissenschaftlich für immer an der Weltspitze mitzuspielen, ohne dafür hart arbeiten zu müssen. Stattdessen war dieses Land viel zu sehr mit sich selbst und der Erforschung unzähliger Fantasiegeschlechter beschäftigt. Insbesondere die ungelösten Probleme der Migration, die sich seit dem Jahr 2015 abermals drastisch verstärkt haben, ↳ Franziska Hoppermann (Union): »KI-gesteuert, oder?« ↳ Mayra Vriesema (Grüne): »Bleiben Sie mal beim Thema! Was ist das denn?« haben gewaltige finanzielle, administrative und gesellschaftliche Ressourcen gebunden, ↳ Johannes Schätzl (SPD): »Das ist eine ganz schlechte Rede!« Ressourcen und Kapazitäten, die uns vor allem in der Spitzenforschung, an den Universitäten und in der digitalen Infrastruktur fehlen. Die Ergebnisse von PISA vor wenigen Tagen waren hier nur ein neuer, tragischer Tiefpunkt. Beifall: AfD Es ist also das gemeinsame Verdienst von Union, SPD, Grünen und einer glücklicherweise schon gar nicht mehr im Parlament vertretenen gelben Partei, ↳ Tobias Ebenberger (AfD): »Wie hießen die noch gleich?« dass wir heute genau an diesem Punkt stehen. Sie alle haben das Land gelähmt, die Zukunftsfähigkeit verspielt und Deutschland faktisch zu einer digitalen Kolonie schrumpfen lassen: Wir konsumieren US-amerikanische Software und chinesische Hardware, während wir selbst nur noch Bürokratie produzieren. Beifall: AfD ↳ Mayra Vriesema (Grüne): »Die AfD lebt doch im letzten Jahrhundert!« Meine Damen und Herren, so funktioniert echte Verantwortung nicht. Wenn wir als Deutschland und Europa wirklich Einfluss auf die globale Kontrolle und die Sicherheit von KI-Systemen nehmen wollen, dann schaffen wir das nicht durch Papiertiger und Paragrafen aus Brüssel oder Berlin. Wir brauchen eigene Spitzenmodelle aus heimischer Forschung und Industrie. Beifall: AfD Nur wer die eigene Technologie auf Weltniveau besitzt, sitzt am Tisch der Großen dabei und kann bei der internationalen Regulierung auf Augenhöhe mitreden. In der aktuellen Situation der technologischen Abhängigkeit nimmt uns auf der Weltbühne überhaupt niemand mehr ernst. Hören wir endlich auf, den Mangel an Innovation durch einen Überfluss an Regulierung kaschieren zu wollen. Nur die Alternative für Deutschland will wieder in die Spitzenforschung investieren, ↳ Franziska Hoppermann (Union): »Mein Gott! Was für eine Debatte!« unsere besten Talente im Land fördern und halten, ↳ Sonja Lemke (Linke): »Vergraulen wollen Sie sie! Vergraulen!« ideologische Denkverbote abschaffen und Deutschland zu einem Ort machen, an dem die Zukunft führend mitgestaltet wird. Ich bedanke mich recht herzlich für Ihre uneingeschränkte Aufmerksamkeit und wünsche ein schönes Wochenende. Beifall: AfD

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der nächste Redner ist Dr. Konrad Körner für die CDU/CSU-Fraktion. Beifall: Union

DR Dr. Konrad Körner Union rede Im Protokoll ↗

Herr Präsident! Liebe Kolleginnen und Kollegen! Wenn man die Debatte über künstliche Intelligenz hier verfolgt, dann sehe ich schon, dass wir hier eigentlich gleich unterwegs sind. Warum? Weil jeder weiß, dass es Risiken und Chancen gibt. Zugegebenermaßen: Bei der AfD brauchte es zweieinhalb Redner, um das Thema „Risiken und Chancen“ hinzubekommen. Die meisten hier bekommen das sogar in einer Rede …

Herr Präsident! Liebe Kolleginnen und Kollegen! Wenn man die Debatte über künstliche Intelligenz hier verfolgt, dann sehe ich schon, dass wir hier eigentlich gleich unterwegs sind. Warum? Weil jeder weiß, dass es Risiken und Chancen gibt. Zugegebenermaßen: Bei der AfD brauchte es zweieinhalb Redner, um das Thema „Risiken und Chancen“ hinzubekommen. Die meisten hier bekommen das sogar in einer Rede hin. Warum? Weil jeder Mensch da draußen weiß: Jede Technologie hat Chance und Risiko. Es ist immer die Frage, wie man sie anwendet, es ist die Frage, mit welchen Regeln wir spielen, und es ist die Frage, wer sie in den Händen hat. ↳ Sonja Lemke (Linke) Und natürlich ist es völlig in Ordnung, eine Aktuelle Stunde zu beantragen, in der man auch mal über Risiken spricht. Wir müssen natürlich auch klar sagen: Ja, KI braucht Leitplanken, Regeln und Regulierung. Aber es ist schon bezeichnend, wenn sich hier das Hufeisen wieder ein bisschen schließt. Lachen: Linke ↳ Sonja Lemke (Linke) Wenn Frau Lemke von Furcht, Angst und den bösen Tech-Bros spricht, die uns alle nur kontrollieren und ausnehmen wollen, ↳ Sonja Lemke (Linke): »Tun sie doch!« und Herr Ebenberger – Herrn Rupp nehme ich heute ausnahmsweise mal aus; er ist aber auch gar nicht mehr da – dann auch von den großen Techkonzernen, die die UN und die Welt beeinflussen, schwadroniert, dann merkt man schon, welches Geschäftsmodell hier Einzug gehalten hat. Beifall: Union Aber wichtig ist: Wenn wir über Risiken reden, dann müssen wir doch darüber reden, wie wir sie adressieren. Und dann müssen wir darüber reden, dass Deutschland eben gerade die klügsten Köpfe herholt, indem wir mit dem KI-Institut eine wissenschaftliche Institution schaffen. Zu Ihnen, Herr Haise, wollen nämlich die klügsten Köpfe gar nicht mehr kommen, weil Wissenschaft schon seit Goethe davon profitiert, dass sie sich in Europa austauscht, dass sie sich weltweit austauscht. Mit Ihrer Attitüde wird das nichts. Beifall: Union ↳ Dr. Götz Frömming (AfD): »Wir haben gute Kontakte in die ganze Welt! Im Gegensatz zu Ihnen!« Also nur mit Deutschland und mit Sachsen-Anhalt wird es leider nichts werden. Wir müssen uns austauschen, wir müssen diskutieren, und wir müssen die klügsten Köpfe nach Deutschland holen. Das werden wir mit unserem KI-Institut jetzt schaffen. ↳ Lars Haise (AfD): »Holen Sie erst mal die klügsten Köpfe in Ihre Partei!« – Uijuijui! Jetzt müssen wir aber vorsichtig sein. Wenn es aber darum geht, wie wir diese Technologie einsetzen, dann geht es doch vor allem darum, wer sie einsetzt. Und da geht es dann auch darum, dass sie – das wurde heute schon oft gesagt – gerade in Amerika und China entwickelt wird. Ich muss schon sagen: Dann müssen wir uns der Chance stellen, ↳ Dr. Götz Frömming (AfD): »„Chance stellen“! Eine Chance nutzt man!« die die Technologie bietet, aber auch der Chance, die wir haben, wenn wir Einfluss auf diese Technologie nehmen. Und es ist richtig, dass wir in Europa oft schnell dabei sind, zu sagen: Lasst uns erst mal eine Technologie regulieren und dann schauen, wie wir sie einsetzen können. – Aber gerade bei der KI sehen wir jetzt: Auf das Alignment kommt es an. Es kommt darauf an, nach welchen Werten und mit welchen Daten diese KI trainiert wird. Und genau deswegen ist es so wichtig, dass wir auf europäische Souveränität setzen. Genau deswegen ist es so wichtig, dass die KI am Ende lieber deutsche Antiquariatsbücher liest als chinesische. Mir sind die aufklärerischen Schriften aus einem deutschen Antiquariat, um ehrlich zu sein, dann lieber als irgendwelche chinesischen kommunistischen Fantasien. ↳ Tobias Ebenberger (AfD) Deswegen ist es so wichtig, dass wir unsere eigenen Modelle entwickeln, dass die westliche Welt sich dort behauptet. Denn das Schlimmste, das wäre eine gefährliche KI erst, wenn sie in den falschen Händen ist und wir nichts haben, um uns dagegen zu verteidigen. Vor wenigen Monaten haben Wissenschaftler, Unternehmen und Investoren ein Szenario „Europe 2031“ formuliert, einen Weckruf, der sagt: Ja, wir werden bedroht, aber wir drohen eben den Anschluss zu verlieren. – Deswegen geben wir in Deutschland Gas. Deswegen entwickelt das Bundesdigitalministerium eigene agentische Modelle. ↳ Lars Haise (AfD) Deswegen setzen wir sie vor Ort ein, und deswegen müssen wir den Leuten Lust machen, diese Technologie einzusetzen. Deswegen müssen wir unseren Unternehmen sagen: Gebt Gas! Steigt mit ein! Entwickelt eure eigenen Produkte und Dienstleistungen! Deswegen müssen wir jedem Bürger sagen: Beschäftige dich mit der Technologie! Denn nur wenn man sich damit beschäftigt, wenn man Wissen erwirbt, dann wird die Angst weniger, die Erkenntnis mehr und die Selbstbehauptung größer. Und das ist wichtig, weil es darum geht, dieses Land sicher zu halten. Herzlichen Dank und ein schönes Wochenende. Beifall: Union

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Der letzte Redner in dieser Aktuellen Stunde ist Ralph Brinkhaus für die CDU/CSU-Fraktion. Beifall: Union Beifall: SPD

RA Ralph Brinkhaus Union rede Im Protokoll ↗

Herr Präsident! Meine Damen und Herren! Erst mal ganz herzlichen Dank an die grüne Fraktion, dass sie diese Aktuelle Stunde möglich gemacht hat. Und Herr von Notz, ich teile ausdrücklich, was Sie gesagt haben. KI ist ein Thema von einer so großen Bedeutung, dass in allen Gremien, übrigens nicht nur in den weltweiten Gremien, sondern auch im Deutschen Bundestag, viel …

Herr Präsident! Meine Damen und Herren! Erst mal ganz herzlichen Dank an die grüne Fraktion, dass sie diese Aktuelle Stunde möglich gemacht hat. Und Herr von Notz, ich teile ausdrücklich, was Sie gesagt haben. KI ist ein Thema von einer so großen Bedeutung, dass in allen Gremien, übrigens nicht nur in den weltweiten Gremien, sondern auch im Deutschen Bundestag, viel mehr darüber debattiert und gesprochen werden muss. Es gibt ja Leute, die sagen: KI ist eine weitere industrielle Revolution. Und Karl Lauterbach hat gesagt: Das ist wahrscheinlich die größte technologische Innovation dieses Jahrhunderts. – Meine Damen und Herren, das ist gut gemeint, aber es ist mehr. Ich glaube, mit KI stehen wir im Guten wie im Schlechten an einem Kipppunkt der Menschheit. KI ist keine normale Technologie. Wenn Sie sich die normalen Technologien anschauen – vom Faustkeil am Anfang über das Rad bis zur Elektrizität oder zum Internet –, dann ist es immer so gewesen, dass bei all diesen Technologien der Mensch noch auf dem Fahrerstuhl gesessen hat. Wir sind jetzt in der Situation, eine Technologie entwickelt zu haben, mit der wir eine Box geöffnet haben und der Mensch eben nicht mehr zwangsweise auf dem Fahrersitz sitzt und es eben nicht mehr gewährleistet ist, dass der Mensch alles kontrolliert. Ich will das an zwei Ursachen festmachen. KI ist die erste Technologie, die theoretisch und wahrscheinlich auch schon praktisch die Fähigkeit hat, sich ohne menschliche Impulse selbst zu verbessern und weiterzuentwickeln. Ohne menschliche Impulse! Und KI hat auch noch eine weitere Eigenschaft; denn KI ist eine Technologie, die dadurch auch kognitive Fähigkeiten entwickeln kann. Das war bisher eine Sache, die weitestgehend dem Menschen überlassen war. Das ist jetzt nicht mehr der Fall. Und wenn diese Technologie, Herr Lauterbach, sich auch noch selbst skalieren kann, dann hat das eine Bedeutung, die kaum zu überschätzen ist. Das Schlechte an der Sache ist, dass – abgesehen von den meisten Leuten, die heute in diesem Saal sitzen – außerhalb dieses Raumes in der Politik nur sehr, sehr wenige Menschen darüber nachdenken. Und deswegen: Wenn überhaupt an einem Freitagnachmittag ein Signal von so einer Debatte ausgehen kann, dann muss das Signal sein: KI ist unglaublich wichtig. Sie ist das Wichtigste, was Menschen in der Geschichte der Menschheit überhaupt je gestaltet haben. Ich sage das bewusst so stark: Sie ist das Wichtigste, was die Menschen in der Geschichte der Menschheit überhaupt je gestaltet haben. Denn KI wird, wenn wir es falsch machen, alles ändern. Ich wundere mich manchmal auch über die Debatten, die wir führen. Es ist total wichtig, und ich habe großen Respekt davor, dass wir sagen, was dabei Gefährliches herauskommen kann. Und das müssen wir auch; das ist wichtig. Es ist aber auch genauso wichtig, darüber zu sprechen, was für Chancen KI hat. Das ist der Sicherheitsaspekt. Aber transformative KI hat noch eine andere Bedeutung. Sie hat wahnsinnige Auswirkungen auf unsere Gesellschaft, auf die Art und Weise, wie wir leben. Es geht eben nicht nur darum, dass sich KI-Agenten selbstständig machen, dass KI Dinge tut, die wir nicht mehr verstehen – denn auch das gehört zur Wahrheit dazu, meine Damen und Herren: die KI ist eine Technologie, die wir schon heute nicht mehr komplett verstehen –, sondern es geht um die Frage, was das eigentlich mit unserer Gesellschaft macht. Wir streiten momentan beherzt – mal qualifizierter, mal weniger qualifiziert – um eine Rentenreform. Eine Rentenreform basiert auf der Verbeitragung von menschlicher Arbeit. Was ist denn, wenn das, was Thomas Pauls gesagt hat, wirklich Realität wird, dass tatsächlich 90 Prozent der menschlichen Arbeit ersatzlos durch Maschinen, durch KI-Steuerung ersetzt werden? Dann ist doch alles das, was wir heute diskutieren, Makulatur, dann ist doch alles das, wo wir unser Gehirnschmalz reinstecken, vergeblich und umsonst. ↳ Sonja Lemke (Linke) Deswegen werbe ich dafür, dass wir keine Horrorszenarien an die Wand malen, aber dass wir uns wirklich mal damit beschäftigen, wie die Welt mit KI morgen aussehen kann, und uns heute darüber Gedanken machen, wie wir diese Welt gestalten können. Denn das ist das Problem, das wir im politischen Bereich haben – und KI lehrt uns da vielleicht, es anders zu machen –: Wir versuchen als Politikerinnen und Politiker immer, die Welt von heute besser zu machen. Aber das ist der ganz große Fehler; denn die Welt von heute gibt es morgen nicht mehr. Wir erleben eine unglaubliche Dynamik, und es wäre wirklich gut, wenn wir diese Dynamik antizipieren würden und versuchen würden, tatsächlich die Welt von morgen zu gestalten. Das Schöne ist: Bis auf einige Redner – das war nicht gut, darüber müssen wir nicht reden – haben die allermeisten Redner und auch die Digital- und KI-Politiker, die im Deutschen Bundestag sitzen, das irgendwo verstanden. Ich glaube, unsere Aufgabe als Digital- und KI-Politiker ist jetzt, als Evangelisten dieser Botschaft durch den großen politischen Raum zu ziehen und unsere anderen Kolleginnen und Kollegen davon zu überzeugen, dass das die wichtigste Aufgabe ist. Deswegen noch mal: Danke für diesen Nachmittag! Beifall: Union Beifall: SPD Beifall: Grüne

OM Omid Nouripour Vizepräsident sitzungsleitung Im Protokoll ↗

Vielen Dank. – Weitere Wortmeldungen liegen mir nicht vor. Ich schließe die Aktuelle Stunde. Wir sind damit am Ende unserer heutigen Tagesordnung angelangt. Ich danke allen, die uns ihre Aufmerksamkeit geschenkt haben. Gerade nach einer Woche mit doch harten Tagesrandzeiten danke ich den Mitarbeiterinnen und Mitarbeitern des Hohen Hauses, die uns beigestanden haben. Ich berufe die nächste Sitzung des Deutschen …

Vielen Dank. – Weitere Wortmeldungen liegen mir nicht vor. Ich schließe die Aktuelle Stunde. Wir sind damit am Ende unserer heutigen Tagesordnung angelangt. Ich danke allen, die uns ihre Aufmerksamkeit geschenkt haben. Gerade nach einer Woche mit doch harten Tagesrandzeiten danke ich den Mitarbeiterinnen und Mitarbeitern des Hohen Hauses, die uns beigestanden haben. Beifall Ich berufe die nächste Sitzung des Deutschen Bundestages ein auf Mittwoch, den 7. Oktober 2026, 14 Uhr. Bis dahin können wir alle gemeinsam Jürgen Klopp und der Nationalmannschaft heftigst die Daumen drücken. Die Sitzung ist geschlossen. (Schluss: 16:11 Uhr) Anlagen zum Stenografischen Bericht Anlage 1 Entschuldigte Abgeordnete Abgeordnete(r) Ahmetovic, Adis SPD Alabali Radovan, Reem SPD Amtsberg, Luise BÜNDNIS 90/ DIE GRÜNEN Auernhammer, Artur CDU/CSU Bas, Bärbel SPD Bauer, Marcel Die Linke Brandes, Dirk AfD Chrupalla, Tino AfD Dietz, Thomas AfD Douglas, Christian AfD Drößler, Christopher AfD Fehre, Micha AfD Gambir, Schahina BÜNDNIS 90/ DIE GRÜNEN Gebhard, Wilhelm CDU/CSU Geissler, Dr. Jonas CDU/CSU Goßner, Hans-Jürgen AfD Hanker, Mirco AfD Helferich, Matthias AfD Hermeier, Mareike (gesetzlicher Mutterschutz) Die Linke Hilmer, Olaf AfD Knodel, Sieghard fraktionslos König, Jörn AfD Krampe, Jan Die Linke Limbacher, Esra SPD Loop, Denise BÜNDNIS 90/ DIE GRÜNEN Mayer, Andreas AfD Minich, Sergej AfD Moser, Christian CDU/CSU Müller, Claudia BÜNDNIS 90/ DIE GRÜNEN Mützenich, Dr. Rolf SPD Nanni, Sara BÜNDNIS 90/ DIE GRÜNEN Naujok, Edgar AfD Otten, Gerold AfD Pellmann, Sören Die Linke Pistorius, Boris SPD Queckemeyer, Marcel AfD Rathert, Dr. Anna AfD Roth, Claudia BÜNDNIS 90/ DIE GRÜNEN Rouenhoff, Stefan CDU/CSU Rudzka, Angela AfD Schneider, Carsten SPD Schönberger, Marlene BÜNDNIS 90/ DIE GRÜNEN Schröder, Stefan AfD Schuhmann, Bernd AfD Schulze, Svenja SPD Sichert, Martin AfD Uhlig, Katrin BÜNDNIS 90/ DIE GRÜNEN Wadephul, Dr. Johann David CDU/CSU Willnat, Christin Die Linke Zaum, Christian AfD Zerbin, Dr. Daniel AfD Zerr, Anne Die Linke Zons, Ulrich von AfD Anlage 2 Erklärungen nach § 31 GO zu der namentlichen Abstimmung über den von der Bundesregierung eingebrachten Entwurf eines Gesetzes zur Modernisierung des Bundespolizeigesetzes (Tagesordnungspunkt 33)

SE Sebastian Fiedler SPD rede Im Protokoll ↗

Ich gebe zu meiner Zustimmung zum Entwurf eines Gesetzes zur Modernisierung des Bundespolizeigesetzes folgende Erklärung gemäß § 31 der Geschäftsordnung des Deutschen Bundestages ab: Das Gesetz zur Modernisierung des Bundespolizeigesetzes bedurfte nach meiner Rechtsauffassung, die von der SPD-Bundestagsfraktion geteilt wird, zu keinem Zeitpunkt einer Mehrheit der Mitglieder des Deutschen Bundestages im Sinne von Artikel 87 Absatz 3 Satz 2 GG. …

Ich gebe zu meiner Zustimmung zum Entwurf eines Gesetzes zur Modernisierung des Bundespolizeigesetzes (BPolModG) folgende Erklärung gemäß § 31 der Geschäftsordnung des Deutschen Bundestages ab: Das Gesetz zur Modernisierung des Bundespolizeigesetzes bedurfte nach meiner Rechtsauffassung, die von der SPD-Bundestagsfraktion geteilt wird, zu keinem Zeitpunkt einer Mehrheit der Mitglieder des Deutschen Bundestages (Kanzlermehrheit) im Sinne von Artikel 87 Absatz 3 Satz 2 GG. Maßgeblich für den bundespolizeilichen Behördenaufbau, einschließlich der Bundespolizeidirektionen als Mittelbehörden, ist nach der Auffassung der SPD-Bundestagsfraktion allein Artikel 87 Absatz 1 Satz 2 GG. Diese Norm gestattet dem Bund ausdrücklich die Einrichtung von Bundesgrenzschutzbehörden auch in dezentraler, mehrstufiger Form. Ein ergänzender Rückgriff auf die strengeren Voraussetzungen des Artikel 87 Absatz 3 Satz 2 GG ist für die Bundespolizei daher weder erforderlich noch einschlägig. Die Änderungen im Bundespolizeigesetz durch das Modernisierungsgesetz ändern hieran nichts. Sie sind nicht verfahrensrechtlich anhand eines Mehrheitserfordernisses, sondern materiell anhand der vom Bundesverfassungsgericht entwickelten Gepräge-Doktrin zu beurteilen, wonach die Bundespolizei nicht zu einer allgemeinen, mit den Landespolizeien konkurrierenden Polizei ausgebaut werden darf. Nach meiner Auffassung und derjenigen der SPD-Bundestagsfraktion halten sich die im Gesetz vorgesehenen Aufgaben innerhalb dieses Gepräges als Grenz-, Bahn- und Luftsicherheitspolizei. Diese Rechtsauffassung wird durch die Gesetzgebungspraxis der vergangenen Jahrzehnte bestätigt. Keine der bisherigen Erweiterungen der Aufgaben der Bundespolizei bzw. ihrer Vorgängerorganisation, des Bundesgrenzschutzes, wurde mit einer Mehrheit der Mitglieder des Bundestages beschlossen. Dies gilt namentlich für das Gesetz zur Übertragung der Aufgaben der Bahnpolizei und der Luftsicherheit auf den Bundesgrenzschutz vom 23. Januar 1992 (Bundestagsdrucksache 12/1091), das dem Bundesgrenzschutz die gesamten Aufgaben der ehemaligen Bahnpolizei der Deutschen Bundesbahn sowie den Schutz der Flughäfen übertrug und damit die bis dahin größte Aufgabenerweiterung in der Geschichte des Bundesgrenzschutzes darstellte, für das Gesetz zur Neuregelung der Vorschriften über den Bundesgrenzschutz vom 19. Oktober 1994 (Bundestagsdrucksache 12/8047), das unter anderem die Strafverfolgungszuständigkeiten erheblich erweiterte, sowie für das Gesetz zur Steuerung und Begrenzung der Zuwanderung (Zuwanderungsgesetz) vom 30. Juli 2004 (Bundestagsdrucksache 15/420), das die bundespolizeilichen Zuständigkeiten neu im Aufenthaltsgesetz verortete und zugleich das Bundesgrenzschutzgesetz änderte. Die Aufgabenerweiterungen von 1992 und 1994 waren Gegenstand einer verfassungsgerichtlichen Überprüfung durch das Bundesverfassungsgericht (BVerfGE 97, 198). Das Bundesverfassungsgericht hat diese Aufgabenerweiterungen ausschließlich anhand von Artikel 87 Absatz 1 Satz 2 GG und der von ihm entwickelten Gepräge-Doktrin geprüft und gebilligt, ohne Artikel 87 Absatz 3 Satz 2 GG auch nur zu erwähnen. Dass die Frage einer Kanzlermehrheit weder in der Gesetzgebungspraxis noch in der verfassungsgerichtlichen Überprüfung dieser Gesetze jemals aufgeworfen wurde, bestätigt, dass die vorliegende Beschlussfassung mit einfacher Mehrheit der langjährigen und verfassungsgerichtlich nicht beanstandeten Staatspraxis entspricht. Die Frage einer Kanzlermehrheit hat in den parlamentarischen Beratungen zu keinem Zeitpunkt eine Rolle gespielt und war zu keinem Zeitpunkt Gegenstand der Beratung, weder in den Ausschussberatungen noch im Plenum noch in den Gesprächen der regierungstragenden Fraktionen. Nach Überzeugung der SPD-Bundestagsfraktion handelt es sich bei der Eingangsformel schlicht um einen redaktionellen Fehler. Die Eingangsformel des Gesetzentwurfs ist kein materieller Bestandteil des Gesetzes. Sie beschreibt lediglich das Zustandekommen des Gesetzes, ohne selbst Rechtsnormen zu enthalten. Maßgeblich für die formelle Verfassungsmäßigkeit des Gesetzesbeschlusses ist allein das tatsächliche Abstimmungsverhalten des Bundestages, nicht eine im Regierungsentwurf vorläufig antizipierte und im Beschluss versehentlich nicht angepasste Formel. Die Verwendung der Formulierung „mit der Mehrheit seiner Mitglieder“ in der Eingangsformel beruhte auf einer unzutreffenden Annahme und ist als solche nicht bindend. Sie ändert nichts daran, dass das Gesetz mit der nach der Verfassung erforderlichen und tatsächlich erreichten Mehrheit wirksam beschlossen wird. Um zu vermeiden, dass die Notwendigkeit einer Mehrheit der Mitglieder des Bundestages zu Unrecht als Maßstab für künftige Gesetze im Bereich der Bundespolizei oder anderer Materien der Bundesverwaltung herangezogen wird, betont die SPD-Bundestagsfraktion, dass für die Verabschiedung dieses Gesetzes die einfache Mehrheit der abgegebenen Stimmen nach Artikel 42 Absatz 2 Satz 1 GG ausreichend und maßgeblich wäre. Ungeachtet dieser Rechtsauffassung stimme ich einer erneuten Schlussabstimmung über den Gesetzentwurf zu. Ausweislich des Protokolls der Plenarsitzung vom 10. Juli 2026 ist die Durchführung einer dritten Lesung des Gesetzentwurfs vor der Schlussabstimmung nicht dokumentiert. Um jeden Zweifel an der ordnungsgemäßen Durchführung des Gesetzgebungsverfahrens von vornherein auszuräumen, halte ich eine Wiederholung der Schlussabstimmung mit Kanzlermehrheit für sachgerecht. Eine bloße Berichtigung der Eingangsformel und Abstimmung mit einfacher Mehrheit anstelle einer Abstimmung mit Kanzlermehrheit hätte demgegenüber zu einer zusätzlichen Verzögerung des Gesetzgebungsverfahrens geführt, weil der Gesetzentwurf hierfür an den Innenausschuss hätte zurücküberwiesen werden müssen. Da unsere Sicherheitsbehörden auf die im Gesetz vorgesehenen neuen Befugnisse zeitnah angewiesen sind, habe ich mich für den Weg entschieden, der den zügigsten Abschluss des Verfahrens ermöglicht. Aus demselben Grund ist an den Bundesrat die Bitte um eine Fristverkürzung für seine Beratung des Gesetzentwurfs gerichtet worden. Meine Zustimmung zur erneuten Schlussabstimmung ist damit verfahrensökonomisch und aus Gründen der Rechtssicherheit für den weiteren Verfahrensgang motiviert. Sie beruht nicht auf der Auffassung, die ursprüngliche Schlussabstimmung vom 10. Juli 2026 sei mangels Kanzlermehrheit unwirksam gewesen. Vor diesem Hintergrund stimme ich dem Gesetzentwurf zu.

AL Alexander Throm Union rede Im Protokoll ↗

Nach meiner Rechtsauffassung bedarf das Gesetz zur Modernisierung des Bundespolizeigesetzes keiner Mehrheit der Mitglieder des Deutschen Bundestages nach Artikel 87 Absatz 3 Satz 2 GG. Ich betone das, damit die Notwendigkeit der Mehrheit der Mitglieder des Bundestages nicht maßstabsbildend für weitere Gesetze im Sicherheitsbereich wird. Maßgeblich ist vielmehr Artikel 87 Absatz 1 GG, sodass für die Verabschiedung des Gesetzes die …

Nach meiner Rechtsauffassung bedarf das Gesetz zur Modernisierung des Bundespolizeigesetzes keiner Mehrheit der Mitglieder des Deutschen Bundestages nach Artikel 87 Absatz 3 Satz 2 GG. Ich betone das, damit die Notwendigkeit der Mehrheit der Mitglieder des Bundestages nicht maßstabsbildend für weitere Gesetze im Sicherheitsbereich wird. Maßgeblich ist vielmehr Artikel 87 Absatz 1 GG, sodass für die Verabschiedung des Gesetzes die einfache Mehrheit ausreicht. Da die Eingangsformel des Gesetzentwurfs gleichwohl eine Mehrheit der Mitglieder des Deutschen Bundestages vorsieht und diese bei der Schlussabstimmung am 10. Juli 2026 nicht festgestellt wurde, ist eine Wiederholung der Schlussabstimmung erforderlich. Um das Gesetzgebungsverfahren ohne weitere Verzögerungen abschließen zu können, stimme ich dem Gesetzentwurf zu. Anlage 3 Erklärung nach § 31 GO des Abgeordneten Bodo Ramelow (Die Linke) zu der namentlichen Abstimmung über den von der Bundesregierung eingebrachten Entwurf eines Gesetzes zur Umsetzung der Richtlinien (EU) 2025/1 und (EU) 2025/2 zur Festlegung eines Rahmens für die Sanierung und Abwicklung von Versicherungsunternehmen sowie zur Änderung des Aufsichtsrahmens für Versicherungsunternehmen (Versicherungs-Sanierungs-Abwicklungs-und-Aufsichtsänderungs-Gesetz – VSAAG) hier: Artikel 11 (Änderung des Energiesteuergesetzes), Artikel 12 (Änderung der Energiesteuer-Durchführungsverordnung) und Artikel 13 Absatz 4 (Inkrafttreten der Artikel 11 und 12) in der Ausschussfassung (Tagesordnungspunkt 41a) Ich habe versehentlich mit Ja gestimmt. Mein Votum lautet Nein. Anlage 4 Amtliche Mitteilungen ohne Verlesung Der folgende Ausschuss hat mitgeteilt, dass er gemäß § 80 Absatz 3 Satz 2 der Geschäftsordnung von einer Berichterstattung zu den nachstehenden Vorlagen absieht: Ausschuss für Recht und Verbraucherschutz – Unterrichtung durch die Bundesbeauftragte für die Opfer der SED-Diktatur beim Deutschen Bundestag Jahresbericht 2026 Der lange Schatten der SED-Diktatur. Die Bewältigung der Folgen des staatlichen Unrechts in der DDR als Gesellschaft gemeinsam gestalten. Drucksachen 21/6840, 21/7984 Nr. 1.1 Die Vorsitzenden der folgenden Ausschüsse haben mitgeteilt, dass der Ausschuss die nachstehenden Unionsdokumente zur Kenntnis genommen oder von einer Beratung abgesehen hat: Innenausschuss Drucksache 21/1653 Nr. A.6 Ratsdokument 11613/25 Drucksache 21/5075 Nr. A.2 Ratsdokument 6849/26 Drucksache 21/5075 Nr. A.3 Ratsdokument 6854/26 Drucksache 21/7109 Nr. A.5 K(2026)3557 endg. Drucksache 21/7998 Nr. A.5 Ratsdokument 11582/26 Drucksache 21/7998 Nr. A.6 Ratsdokument 11586/26 Ausschuss für Recht und Verbraucherschutz Drucksache 21/860 Nr. C.13 Ratsdokument 10108/23 Finanzausschuss Drucksache 21/3384 Nr. A.7 Ratsdokument 15453/25 Drucksache 21/7998 Nr. A.14 EU-Dok 171/2026 Ausschuss für Wirtschaft und Energie Drucksache 21/6499 Nr. A.8 Ratsdokument 8821/26 Drucksache 21/6499 Nr. A.9 Ratsdokument 8823/26 Drucksache 21/6499 Nr. A.10 Ratsdokument 8824/26 Drucksache 21/6499 Nr. A.11 Ratsdokument 8825/26 Drucksache 21/6499 Nr. A.12 Ratsdokument 8828/26 Ausschuss für Arbeit und Soziales Drucksache 21/1653 Nr. A.44 Ratsdokument 11823/25 Drucksache 21/6499 Nr. A.13 Ratsdokument 8779/26