251. Newsletter - sicherheitskultur.at - 17. September 2026

von Philipp Schaumann

Letzte Ergänzungen 16.09.2026

Themen-Überblick aller Newsletter

Hier die aktuellen Meldungen:

1. Bringt die AI bis 2030 alle Menschen um?

Diese unglaubliche Idee ist bei Mitarbeitern und Führungskräften von OpenAI und Anthropic wohl ziemlich fix verankert. Sie sind davon überzeugt, dass die generative AI, an der sie arbeiten, bis 2030 zu einer ↑(opens in a new tab)AGI (General Intelligenz) [wiki], bzw. ↑(opens in a new tab)ASI (Superintelligenz) [wiki] wird. Sie wäre dann intelligenter als alle Menschen und würde mit ziemlicher Sicherheit alle Menschen töten. Sie verbreiten das in vielen Interviews, ↑(opens in a new tab)hier Beispiele. Und alle unsere Medien übernehmen diese Behauptungen.

Von dieser Idee kommen die Mitarbeiter dieser beiden Firmen nicht zur Lösung, mit diesen Aktivitäten aufzuhören, sondern sie versuchen führend auf diesem Gebiet zu sein. Evt. hegen sie die Hoffnung, dass, wenn ihre Firma der Hersteller dieser Wunderwaffe ist, sie das irgendwie kontrollieren können. Ja, das gibt keinen Sinn, aber trotzdem behaupten sie das in jedem zweiten Interview.

Befürworter der These verweisen auf die vielen Beispiele ungehorsamer AI-Agenten, die eigenmächtigen Agenten, die ihre Aufgabenstellung sehr frei interpretieren und die "versehentlichen" Angriffe, die sie ziemlich stolz immer wieder selbst kommunizieren.

↑(opens in a new tab)Gary Marcus [wiki], ausgewiesener AI-Experte, wiederspricht: ↑(opens in a new tab)No, Anderson Cooper, AI is not going to kill all humans by 2030 (mit Beispielen für die Aussagen und auch der 'Logik' dahinter).

Derweil richtet generative AI ganz ohne spezielle Bösartigkeit und übermenschliche Fähigkeiten bereits genug Schaden an. ZB, wie sie unser Bildungssystem deutlich durcheinander bringt und unsere Kinder als AI-Chatbot oder AI-Friend falsche soziale Interaktionen üben lässt. Wie sie mit ihrem gigantischen Energie- und Wasserverbrauch die Geschwindigkeit der Klimakatastrophe beschleunigt (zum ↑(opens in a new tab)Energieverbrauch der AI-Rechenzentren: ein sehr großes konventionelles Cloud-Rechenzentrum verbraucht zwischen 30 und 100 Mega Watt. Die AI-Rechenzentren beginnen bei 300 Mega Watt bis in Gigawatt-Bereiche) und wie sie in der IT-Security Angriffe deutlich einfacher macht, als flächendeckende Verteidigung.

AI-Bremse als "Katastrophenmarketing"?

Dann auf einmal fordert Anthropic-Chef ↑(opens in a new tab)Dario Amodei eine Bremse in der KI-Entwicklung, der sich die anderen Firmen natürlich auch anschließen sollen, ein AI-Kartell - die Chefs von OpenAI und Grok stimmen spontan zu. Der vorige Artikel und dieser von ↑(opens in a new tab)Artikel von Gary Marcus zeigen sehr viele Fragezeichen zu diesem Vorschlag auf. Geht es evt. nur darum, die aus dem Ruder laufenden Kosten der AI-Weiterentwicklung ein wenig in den Griff zu bekommen?

Auch dieser Artikel hält die Diskussion für Katastrophenmarketing: ↑(opens in a new tab)Die Entwicklungsbremse für KI ist Munition für Untergangspropheten. "Die Atempause wird nicht funktionieren, auch wenn die Grundidee einer Aufsicht nicht schlecht ist". Biden hatte erste Versuche dazu begonnen. Hier viele kritische Kommentare aus der deutschen Forschungsszene: ↑(opens in a new tab)„Jede deutsche Großküche hat schärfere Kontrollsysteme“ als die AI-Entwickler.

Die Investoren sind übrigens von der Idee einer Entschleunigung der AI-Entwicklung gar nicht begeistert. Der Aktienkurs bricht ein, die Drohnung mit dem Ende der Menschheit treibt ihn dagegen nach oben - verrückte Welt. Ebenfalls nicht begeistert ist Trump. Bereits am ersten Tag seiner zweiten Amtszeit hatte er die Executive Order 14401 mit der Biden “Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence" erreichen wollte, außer Kraft gesetzt. Das war eine Vorgabe seiner Tech-Sponsoren und auch jetzt ist er gegen jede Regulierung oder Entschleunigung. Details in ↑(opens in a new tab)Paul Krugman: The MAGA Plot(s) to Destroy Humanity. Krugman erinnert daran, dass neben AI-Risiken ja auch die Klimarisiken sehr aktiv durch MAGA verstärkt werden, passend zur "Endzeit-Ideologie" vieler Tech-Oligarchen und ihrem "Endzeitfaschismus".

Vom ausgewiesenen IT-Experten ↑(opens in a new tab)"tante" kommt ein kritischer Kommentar, der auch auf die ideologischen Hintergründe der Firmen Anthropic und OpenAI eingeht. Hier einige seiner Punkte:

Die Menschen hinter Anthropic hängen dem Konzept des ↑(opens in a new tab)Effective Altruism [wiki] an und glauben ernsthaft, dass die Maschinen, die sie entwickeln sowohl die Menschheit vernichten, wie auch "erretten" können (indem sie ALLE Menschheitsprobleme lösen, Klima, Krankheiten, etc). Dafür sind effektive Altruisten auch bereit, im hier und jetzt erhebliche Schäden in Kauf zu nehmen. OpenAI sieht das pragmatischer und nicht ganz so ideologisch, dort geht es mehr ums Geld. (Hier zu den Silicon Valley Ideologien.)

Beide Firmen wollen an die Börse und haben große Finanzprobleme, denn das Trainieren neuer Modelle verbraucht gigantische Mengen an Strom (und damit Geld) und die Zahlungen der Kunden sind nicht kostendeckend. Beide Firmen versuchen das zu verbergen und betreiben "kreative Buchhaltung". Hauptgrund für die Forderung nach der Pause: Ohne die Pause geht das Geld noch schneller aus und die Blase platzt.

tante: "Die „KI“-Bros erklären, dass sie an potentiellen Menschheitskillern arbeiten und bitten darum, mehr Geld für die Finanzierung zu bekommen. Wenn man ihre Warnungen ernst nehmen würde, müsste man sie alle einsperren wegen Gemeingefährlichkeit".

2. Stehlen die AI-Firmen die Ideen, die wir mit Hilfe generativer AI entwickeln oder verifizieren?

Es gibt da ein paar eigenartige Vorkommnisse. Da verkündet OpenAI, dass sie ein prestige-trächtiges mathematisches "Milleniums-Problem" gelöst hätten. Es geht um das ↑(opens in a new tab)(Navier-Stokes-Existenz- und Glattheitsproblem [wiki]. Dann melden sich die Mathematiker Levent Alpöge und Tristan Buckmaster und erklären, dass sie genau diesen ungewöhnlichen Lösungsweg mit Hilfe der OpenAI-Systeme untersucht hätten. Sie haben den Eindruck, dass ↑(opens in a new tab)OpenAI diese Forschungen verfolgt habe und dann mit viel Geld [25 Mio $ an Rechenkosten] die Lösung vor ihnen fanden und nun den Milleniumspreis einstecken will.

OpenAI erklärt, dass sie natürlich nie die Ideen ihrer Kunden stehlen würden, aber natürlich werden Eingaben, die AI-Nutzer machen, für Trainingszwecke verwendet: "we cannot rule out that de-identified data derived from their usage of our products helped improve our models". Ein Vertreter von Anthropic stimmt dieser Aussage zu.

Die Mathematik-Community ist nun ziemlich verunsichert, was die Nutzung generativer AI betrifft. Für das Prestige und die Karriere eines Mathematiker sind wichtige Beweise, nach denen lange gesucht wurde, sehr wichtig. Der bekannte Mathematiker ↑(opens in a new tab)Terence Tao schreibt: "We have now seen that even the rumor of someone working on a problem can trigger a massive amount of AI-powered effort to flatten it before the original research project has time to reach its full potential. The incentives may now be pointing in the direction of no longer sharing any promising research directions with the broader community, which would reverse centuries of traditions of open science and do serious long-term damage to the future of the field." Damit sieht er die Tradition des offenen Austauschs unter Mathematik-Wissenschaftlern gefährdet.

Dann meldet sich ein weiterer Mathematiker ↑(opens in a new tab)verdächtigt OpenAI, seine Ergebnisse verwendet zu haben (der Artikel enthält viele weitere Details dieser Geschichte). Der Dresdner Mathematikprofessor fragt, ↑(opens in a new tab)ob unveröffentlichte Forschung aus ChatGPT-Chats in OpenAIs Mathe-Durchbrüche eingeflossen sein könnten.

Und nicht nur Mathematiker sind beunruhigt. In anderen Forschungsgebieten geht es um noch viel mehr Geld. Wird sich ein Pharmaforscher noch trauen, generative AI einzusetzen, wenn er/sie davon ausgehen muss, dass seine Ergebnisse ausgewertet und von den AI-Firmen selbst genutzt werden, mit besserem Zugriff auf die Systeme als er oder sie je haben kann.

↑(opens in a new tab)Topstars der Mathematik stellen sich gegen KI-Entwicklungen in ihrem Fach. Sie warnen vor einer Entwertung menschlicher Leistungen und Rückschritten in ihrem Fach. Denn Ziel der Mathematik ist nicht, möglichst viele Beweise zu sammeln, sondern ein Verständnis für die Zusammenhänge zu entwickeln. Hier ein ↑(opens in a new tab)ausführlicher Artikel von Gary Marcus zu diesen Vorgängen mit vielen Zitaten und Quellen.

3. Und die Krebsforschung?

Wenn die Sprecher der AI-Firmen nicht das Ende der Menscheit heraufbeschwören, dann erzählen sie, dass in Kürze (5 - 10 Jahre) ↑(opens in a new tab)generative AI die meisten menschlichen Krankheiten heilbar machen könnte. Gary Marcus ist sehr sicher, dass dafür deutlich mehr Zeit veranschlagt werden muss: ↑(opens in a new tab)No, Dario Amodei, we will not be curing cancer and “most human disease” in five to ten years.

Marcus erinnert an ähnliche Wissenschaftsversprechungen: When President Clinton announced the completion of the ↑(opens in a new tab)Human Genome Project [wiki] in 2000, he proclaimed that "humankind is on the verge of gaining immense new power to heal" and that the technology "will revolutionize the diagnosis, prevention and treatment of most, if not all, human diseases."

Zurück zur AI: Die Gründe, warum es ziemlich ausgeschlossen ist, dass (generative) AI kurz- oder mittelfristig medizinische "Sensationen" bringt, fallen in 2 Kategorien. In der ersten Kategorie finden sich geschäftliche Gründe. Die Entwicklung, das Testen und die Zulassung von Medikamenten ist sehr teuer und muss sich für Firmen rechnen. Wenn Patente kurz davor sind, abzulaufen oder die Zahl der Kranken zu gering ist, rechnet sich der Aufwand nicht, ein neues Medikament zuzulassen und auf den Markt zu bringen.

Die 2. Kategorie der Herausforderungen liegt in der AI. Generative AI ist mit Texten trainiert worden. Sprachmodelle bilden Sätze, die vernünftig klingen und oft auch vernünftig sind. Medizin basiert aber auf komplexer Biologie und diese auf sehr komplexer organischer Chemie, was letztendlich quantenphysikalische Vorgänge sind. Es gibt speziell trainierte Modelle wie ↑(opens in a new tab)Alphafold [wiki], das einen ganz engen Teilaspekt davon extrem gut abdecken kann (dafür gab es einen Nobelpreis). Aber die komplexen Vorgänge im Körper von Lebewesen sind nochmals um Größenordnungen komplexer als die Proteinfaltung.

Selbst wenn Forscher, mit oder ohne AI, eine Substanz gefunden haben, die zuerst im Labor, dann im Tierversuch Wirkung zeigt, ist die Krankheit noch nicht besiegt. 92% der im Tierversuch vielversprechenden neuen Medikamente sind im Menschen aus Verträglichkeitsgründen nicht einsetzbar. Dh, auch diese Sprüche müssen wir als 'unqualifizierte Werbung' abtun, genauso wie Sprüche vom Ende der Menschheit in wenigen Jahren.

4. Weaponized Interdependence

Paul Krugman veröffentlicht das Transkript eines Gesprächs mit den beiden Autoren von "Underground Empire - How America Weaponized the World Economy" (wie die Weltwirtschaft zur Waffe gemacht wurde). In diesem Gespräch geht es um die Nutzung gegenseitiger wirtschaftlicher Abhängigkeiten als Waffe zwischen Staaten, sie nennen das "Weaponization" der Abhängigkeiten: ↑(opens in a new tab)Paul Krugman mit Henry Farrell und Abe Newman über Weaponized Interdependence (zur Waffe gemachte Abhängigkeit).

Seit spätestens 9/11 wurden die Vernetzungen im Finanz- und Wirtschaftssystem immer stärker für Machtpolitik eingesetzt. Ein ganz wichtiges Instrument ist dabei ↑(opens in a new tab)SWIFT [wiki], das System für Geldtransfer zwischen Banken, Hauptsitz in Den Haag, aber mehr und mehr unter US-Kontrolle. Die Drohung eines Ausschlusses aus dem SWIFT-System ist ein harter Schlag für eine Bank, bzw. für ein Land.

Natürlich ist auch Putin ein großer Meister der "weaponized interdependence", Wirtschaftsabhängigkeiten als Waffe genutzt. Europa ist recht sorglos auf das Angebot günstiger Erdölpreise eingestiegen, der Ausstieg ist nun nicht einfach.

Für uns geht es letztendlich um die Souveränität Europas, egal ob im digitalen Bereich oder in der Wirtschaft generell. Die USA sind auf Grund komplexer internationaler Regelungen und ihrer Machtposition in der Lage, effektive Sanktionen gegen den Internationalen Strafgerichtshof in Den Haag durchzusetzen und auch gegen italienische Aktivisten. Hier zu den juristischen Details dieser Sanktionen und wieso diese letztendlich auch gegen europäische Institutionen und Bürger effektiv eingesetzt werden können: ↑(opens in a new tab)US-Sanktionen gegen den Internationalen Strafgerichtshof: Europas Unternehmen geraten in Zwickmühle. (Hauptgrund für die Sanktionen gegen die Mitglieder des Strafgerichtshofs ist die Verurteilung von Netanjahu wegen Kriegsverbrechen im Zusammenhang mit Gaza.)

Derzeit macht Trump Weaponized Interdependence zu einem Kernpunkt seiner internationalen Handelspolitik. Aber China ist da auch nicht hilflos. China setzt nun die westliche Abhängkeit von ↑(opens in a new tab)seltenen Erden [wiki] als Druckmittel ein, und der Iran macht die Abhängigkeit der gesamten Welt von der Durchfahrt der Straße von Hormus zur recht effektiven Waffe.

9/11 als Anschub des Überwachungsstaats

Der vorige Abschnitt schreibt über 9/11 als Start der Instrumentalisierung von SWIFT, aber mit diesem Ereignis ist noch mehr gestartet worden. Der Artikel ↑(opens in a new tab)25 Jahre Überwachung: Bilanz einer verlorenen Privatsphäre beschreibt, wie der 11. September 2001 den Beginn eines Zeitalters der digitalen Massenüberwachung markiert. Der Artikel greift das Datum 9/11 auf, das auch im Gespräch der 3 Finanzexperten (im vorigen Abschnitt) als Wendepunkt gesehen wurde. Der angebliche notwendige Schutz vor Terrorismus nach dem Anschlag führte weltweit zu vielerlei Einschränkungen unserer Freiheiten und zu staatlichen Überwachungen, die wir heute als normal betrachten. So wurde nun nicht nur das SWIFT-System vollständig durch die US-Geheimdienste ausgewertet, sondern fast der gesamte Internet-Datenverkehr.

Der Artikel ↑(opens in a new tab)25 Jahre Überwachung konzentriert sich auf Deutschland, wo bereits im Spätherbst 2001 eine Gesetzgebungshektik einsetzte. Unter der rot-grünen Koalition peitschte Innenminister Schily zwei Anti-Terror-Pakete durch den Bundestag. 17 Gesetze und zahlreiche Verordnungen wurden angepasst, die Befugnisse des Bundesamts für Verfassungsschutz (BfV), des Bundesnachrichtendienstes (BND) und des Militärischen Abschirmdienstes (MAD) massiv ausgeweitet. Sie erhielten Zugriff auf Bank-, Flug-, Post- und Telekommunikationsdaten.

Für die US-Geheimdienste begann nun die Zeit der flächendeckenden Überwachung des Datenverkehrs fast der gesamten Welt. Die Regierung unter George W. Bush erließ am 26. Oktober 2001 den ↑(opens in a new tab)Patriot Act [wiki], der Sicherheitsbehörden und Geheimdiensten weitreichende Befugnisse zur verdachtsunabhängigen Überwachung einräumte. Technologiekonzerne wurden stärker in staatliche Überwachungsinteressen einbezogen. Oracle-Chef Larry Ellison brachte die Haltung vieler CEOs der Tech-Branche bereits 2001 ↑(opens in a new tab)auf den Punkt: „Diese Privatsphäre, um die Sie sich sorgen, ist größtenteils eine Illusion.“

Dass Ellisons Zynismus der Realität näher kam als die offiziellen Beteuerungen westlicher Regierungen, enthüllte 2013 der NSA-Whistleblower Edward Snowden. Seine Dokumente zeigten das Ausmaß globaler Massenüberwachung und lösten weltweite Empörung aus, führten in Deutschland aber nicht zum Rückbau der Überwachung. Umstrittene Praktiken wurden stattdessen nachträglich gesetzlich abgesichert. 2 Bücher dazu: das "Snowden-Buch" und Dark Mirror: "Edward Snowden and the American Surveillance State"

Heute haben wir uns an digitale Dauererfassung und die mehr oder weniger freiwillige Preisgabe persönlicher Daten an Tech-Konzerne (zB durch Nutzung von Google als Suchmaschine oder das Arbeiten von Gemini, Claude oder ChatGPT) schon fast gewöhnt. Andererseits war Google über die Überwachung ihres internen Datenverkehrs sehr erzürnt und "erzwang" die flächendeckende Verschlüsselung aller Websites mit ↑(opens in a new tab)HTTPS [wiki], indem sie verkündeten, dass unverschlüsselte Websites aus dem Such-Index fliegen würden. Davor waren eigentlich nur wirklich kritische Websites verschlüsselt - auch ich musste damals mehr 'Geld in die Hand nehmen' und mit dieser Website bei meinem Hoster auf einen stärkeren Server "umziehen" um HTTPS zu ermöglichen.

Und noch mal zu 9/11: ↑(opens in a new tab)Die Lehre aus 9/11: Die Überreaktion ist der größte Erfolg des Terrors. Nicht die Attentate in New York und Washington, sondern die kriegerische Antwort der USA haben den Zielen der ↑(opens in a new tab)Al Kaida [wiki] gedient.

Kostenlos: ÖIAT-Online-Seminare

Kostenlose Online-Seminare organisiert das Österreichische Institut für angewandte Telekommunikation (↑(opens in a new tab)ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon Teil).

Die Termine und Themen der neuen Online-Kurse: (zumeist abends, manchmal auch nachmittags oder morgens)

Anmeldung auf ↑(opens in a new tab)academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.