246. Newsletter - sicherheitskultur.at - 03.07.2026

von Philipp Schaumann

Letzte Ergänzungen 01.07.2026

Themen-Überblick aller Newsletter

Hier die aktuellen Meldungen:

1. Windows 10-Updates bis Oktober 2027 verlängert

Zum Start eine gute Nachricht für die Umwelt (weil weniger unnötiger Elektroschrott) und die Geldbörse aller Windows-Nutzer, die ihre alten Windows 10-Systeme weiter betreiben, indem sie Extended Security Updates (ESU) aktiviert und nicht bereits neue Geräte mit Windows 11 gekauft haben: ↑(opens in a new tab)Windows 10-Updates bis Oktober 2027 verlängert. Das sind für Europa immer noch 27%, siehe Grafik links.

Eine Begründung für die Verlängerung gibt Microsoft nicht. Für Microsoft ist dies keine zusätzliche Arbeit, denn für Firmenkunden müssen (gegen Gebühr) die Software-Aktualisierungen sowieso für 3 Jahre zur Verfügung stehen. Alle Details zur Verlängerung im im früheren Newsletter.

2. Social Media: Verbieten oder Reparieren?

Der Artikel ↑(opens in a new tab)Mehr als Mindestalter: Was die Prien-Kommission empfiehlt berichtet, dass die deutsche Familienministerin Prien eine Experten-Kommission eingesetzt hat, die eine ↑(opens in a new tab)Studie mit 56 differenzierten Handlungsempfehlungen (pdf) erarbeitet hat, eine davon (Punkt 36) ist ein Verbot bis zu einem gewissen Alter (abhängig von der Art des jeweiligen Angebots). Hier die

Bei dem Punkt zur Alterkontrolle, Punkt 36, ist die Komission sehr skeptisch. Sie verweist in Punkt 38 ausdrücklich darauf, dass die Prüfung des Alters unter Wahrung der Grundrechte mit großen Herausforderungen verbunden sei (detailliert aufgelistet in der Studie).

In einem früheren Newsletter hatte ich auf die großen technischen Herausforderungen einer Alterskontrolle mit Erhaltung der Privatsphäre hingewiesen. Auch bisher bereits implementierte Altersgrenzen, zB beim Zugang zu Pornographie durch Vorzeigen eines Passes, werden von der Komission kritisiert. Dass die Komission 54 weitere Vorschläge ohne Altersgrenzen hat, zeigt ihre Prioritäten.

Ein wichtiger Punkt für die Komission ist es, die Verantwortung der Eltern zu stärken und den Eltern dabei auch 'zur Hand zu gehen'. Die Komission möchte eine gesetzliche Elternverpflichtung, die Kinder, beginnend ab dem Babyalter, nicht mit digitalen Geräten allein zu lassen - Stichwort „digitale Vernachlässigung" als Erweiterung des "Rechts auf gewaltfreie Erziehung".

Vor allem fordert die Komission altersgerechte Implementierungen für alle Anbieter digitaler Lösungen, Stichwort ↑(opens in a new tab)Safety by Design. Diese Implementierungen müssen dann auch (nötigenfalls mit drastischen Strafen für die Anbieter) durchgesetzt werden, eine ↑(opens in a new tab)Forderung von Verbraucherschützern. Die Komission geht über 'Social Media' hinaus und verweist ua darauf, dass auch AI Freunde für Kinder unter 13 hochgefährlich seien.

Einge der Ansatzpunkte:

Ein wichtiger Punkt bleibt, dass die bereits jetzt geltenden Regeln des Jugendschutzes durch die Betreiber weitgehend ignoriert werden, ohne dass dabei für die Betreiber schmerzhafte Konsequenzen folgen (siehe das systematische und extrem profitable Ignorieren von betrügerischer Werbung durch Meta). Aber viele Kommentatoren befürchten, dass die Politiker sich auf die (scheinbar) simple Lösung der Altersgrenze von 13 oder 14 oder 16 Jahren konzentrieren (das Alter je nach der Position der jeweiligen Partei), ohne zu wissen, wie das konsquent implementiert werden könnte.

3. Thiel-Startup "Objection!" als KI-Gericht

Hier eine neue Thiel Idee: Eine Software urteilt per KI über die vermeintliche Objektivität von Pressebeiträgen: ↑(opens in a new tab)"Objection": Journalismus vor dem KI-Gericht. Die KI hinter "Objection" (deutsch = Einspruch) soll die Wahrheit und Objektivität von journalistischen Beiträgen beurteilen und übt dann durch die Veröffentlichung der KI-Bewertung öffentlichen Druck auf kritische Medien aus. Mittels Objection soll jeder, der möchte und eine Gebühr zahlt (zwischen 2200$ - 15 000$) einen "AI-Prozess" gegen Aussagen in Presseartikeln starten können und sie zur Offenlegung ihrer Quellen oder Hinweisgeber auffordern. (ZB Menschen wie die Meta Whistleblower, die aufdeckten, dass Meta ganz bewusst betrügerische Anzeigen zulässt).

Finanziert wird das Vorhaben von Peter Thiel und seinem Freund und Krypto-Spezialisten ↑(opens in a new tab)Balaji Srinivasan [wiki]. Geleitet wird es von Pete D'Souza, der zuletzt durch die Enhanced Games Aufsehen erregte. D'Souza und Thiel arbeiteten bereits 2012 zusammen: D'Souza klagte damals gegen das ↑(opens in a new tab)Boulevard-Magazin Gawker [wiki], das nach vier Prozessjahren Insolvenz anmeldete.

In diesem Zusammenhang fällt auf, dass unter den Ersten, die eine Beschwerde bei Objection eingereicht haben, ↑(opens in a new tab)Michael Sackler [wiki] ist. Er ist Teil der Sackler-Familie, deren Unternehmen im Rahmen des ↑(opens in a new tab)OxyContin-Skandals [wiki] maßgeblich zur Opioidkrise in den USA beitrug und zu Strafzahlungen verurteilt wurde.

Hier noch ein Artikel: ↑(opens in a new tab)Den Medien an den Kragen: Neues Thiel-Startup Objection! möchte Presserat und KI-Gericht zugleich sein.

4. Predictive Policing scheitert, aber kommt immer wieder

↑(opens in a new tab)Britisches Projekt zur Verbrechensvorhersage gescheitert. Bereits in 2016 startete in der englischen Stadt Bristol ein umfangreiches Experiment zu prädiktiver Polizeiarbeit. Ziel war es, mithilfe von Algorithmen das Risiko künftiger Straftaten und sozialer Risiken zu berechnen. Dafür wurden vertrauliche Daten von Hunderttausenden Bürgern ohne deren Zustimmung gesammelt und ausgewertet. Die verwendeten Vorhersagemodelle sollen unzuverlässige Ergebnisse geliefert haben und wurden aufgrund mangelnder Präzision eingestellt.

Daten von fast allen der 480.000 Einwohnern wurden gesammelt. Das waren Informationen aus Polizeiberichten, zum Wohnstatus, psychische Gesundheitsakten, Informationen über Teenager-Schwangerschaften, Anmeldungen zu Elternkursen und Daten über Teilnahme am kostenlosen Schulessen. Eine Einwilligung der Bürger wurde nicht eingeholt (immerhin war das noch innerhalb der EU).

Daraus wurden Risiko-Scores für Erwachsene und Kinder berechnet. Mindestens 23 verschiedene Modelle versuchten, das Risiko für Wohnungseinbrüche, das Nichterscheinen vor Gericht oder die Wahrscheinlichkeit vorherzusagen, Opfer von häuslicher Gewalt oder sexueller Ausbeutung zu werden.

Die Details finden sich in Wired: ↑(opens in a new tab)British Police Built a Sprawling Crime-Prediction Machine. Some Results Couldn’t Be Trusted - die deutsche Zusammenfassung ist oben verlinkt.

Trotz des Scheiterns dieses Projekts, treibt die britische Regierung laut Wired die Verwendung von KI-Modellen in Polizeiarbeit auf nationaler Ebene voran. In Bayern stellte die Polizei im Jahr 2021 ein ähnliches Projekt ein, nach dem dieses sieben Jahre betrieben wurde und ebenfalls nur unzuverlässige Ergebnisse lieferte.

Auch in den Niederlanden wird weiter experimentiert: ↑(opens in a new tab)Niederländische Polizei und Frontex testen Konzept des „digitalen Zwillings“. Die niederländische Gemeinde Heerlen entwickelt mit Förderung der EU ein KI-gestütztes System, das Kriminalität und Störungen der öffentlichen Ordnung vorhersagen soll. Das im letzten Jahr begonnene Projekt heißt ↑(opens in a new tab)„Pulse-Twin“. Das System soll bis 2028 erprobt werden. Ein sog. "digitaler Zwilling" ist eine digitale Nachbildung einer Stadt mit Daten aus sozialen, statistischen und polizeilichen Quellen. Ziel ist, die Wahrscheinlichkeiten für Ordnungsstörungen oder Straftaten vorherzusagen. Auch Verkehrssteuerung und Energiemanagement in Gebäuden sollen unterstützt werden. Die niederländische Sektion von Amnesty International sieht ein großes Risiko des ethnischen Profilings. Hier mein voriger ausführlicher Beitrag zu Predictive Policing.

5. Generative AI in der IT-Security - Angriff vs Verteidigung

AI Sprachsysteme (LLM) sind überraschend gut darin, sowohl Programme zu schreiben (sog. vibe-coding), wie auch in existierenden Programmen und existierenden Software-Systemen Schwachstellen für mögliche Angriffe zu finden. Nicht alle Schwachstellen sind Programmierfehler, mindestens so viele für Angreifer ausnutzbare Schwachstellen sind Konfigurationsfehler, speziell in den kommerziellen Cloud-Systemen, die Firmen nicht nur für ihre Daten, sondern für ihre eigenen IT-Lösungen nutzen - Stichwort ↑(opens in a new tab)Cloud Computing [wiki]. Diese Cloud-Systeme zu konfigurieren ist extrem komplex, immer wieder können Firmendaten abgerufen werden, weil falsche Parameter eingestellt wurden).

Im vorigen Newsletter hatte ich berichtet, dass die US-Regierung die Nutzung der Anthropic Spitzenmodelle für Nicht-US-Bürger verboten hat, da sie zu gut im Finden von Schwachstellen sind (und dadurch Kriminellen helfen). Anderseits sind andere verfügbare Modelle fast genauso gut, bzw. ausreichend, um Schwachstellen für Angriffe zu finden. Ende Juni wurde dann das Verbot auch wieder aufgehoben.

Die Organisation ↑(opens in a new tab)Five Eyes [wiki] (die Spionagebehörden einiger britischen Ex-Kolonien) hat nun öffentlich verfügbare sog. ↑(opens in a new tab)Open Weight Modelle getestet. Bei einem Open Weight-Modell ist das erlernte „Wissen“, also die antrainierten 'Gewichte', frei zugänglich. Dadurch kann theoretisch jeder das Modell herunterladen, lokal nutzen oder weiterentwickeln. Anders als bei vollständig offenen Open-Source-Modellen bleiben jedoch oft der Quellcode, die Trainingsdaten oder die Trainingsverfahren geheim. Das heißt konkret: Man bekommt das Gehirn, aber nicht das Schulbuch.

Es ging bei den Tests der Open Weight Modelle um ihre Fähigkeit, Schwachstellen für Angriffe auf IT-Systeme zu finden. Die Open Weight-Modelle waren nicht ganz so gut wie die Spitzenmodelle von Anthropic Fable5 oder Mythos5, aber sie waren gut genug um mit ihrer Hilfe Schwachstellen in Unternehmen zu finden und anzugreifen.

Damit begründen die Five Eyes-Behörden ihren Vorschlag, auf komplexe Restriktionen für die Spitzenmodelle zu verzichten. Der kriminelle Untergrund (und andere (halb-)staatliche Angreifer) sind auf die Spitzenmodelle ohnehin nicht angewiesen. Sie finden genügend Angriffsflächen auch mit den nicht ganz optimalen LLMs. Und andere staatliche Angreifer, zB. ↑(opens in a new tab)aus China, sind auf die US-Modelle auch nicht angewiesen. Noch ein Artikel zu den Open Weight-Systemen: ↑(opens in a new tab)Open Weight Model Advances Make the Mythos Debate Moot.

Die deutsche Cybersicherheitsbehörde BSI hat einen Bericht dazu verfasst: ↑(opens in a new tab)Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz (pdf).

Das BSI schreibt: "Selbst, wenn einzelne Prognosen mit Vorsicht betrachtet werden müssen, bleibt die strategische Stoßrichtung klar: KI senkt Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten maßgeblich." Für Firmen bedeutet dies, dass sie "einfach" schneller sein müssen. Ebenfalls solche Systeme einsetzen, ihre eigenen Schwachstellen finden und so schnell es geht, reparieren.

Für Open Source Projekt, die von Ehrenamtlichen betrieben werden, klappt das nicht wirklich. Sie werden überschwemmt mit Schwachstellenberichten unterschiedlicher Qualität und oft unzureichenden Informationen. Jetzt werden sogar Listen von Schwachstellen einfach 'ins Internet geworfen', ein Beispiel: ↑(opens in a new tab)Anonymer Forscher leakt massenweise Zero-Day-Exploits. Veröffentlicht wurden 26 ↑(opens in a new tab)Exploits [wiki] für Zero-Day-Lücken in mehreren populären Softwaretools, zB VLC, FFmpeg, 7-Zip, OpenVPN, PHP.

6. Ergänzungen früherer Beiträge

Love Scams in der Schlagerszene

Eine Ergänzung bei Phishing und Love Scams: Es gibt Love Scam-Organisationen, die im großen Stil bei den Fans von Schlagerstars aktiv sind und die Opfer um ihre Ersparnisse betrügen. Die Fans sind über Instagram und Facebook leicht zu finden. Ich berichte über eine Recherche des Falters, initiiert durch den Sohn eines Opfers.

Wettbewerb der AI-Systeme

Es wird eng beim Wettbewerb unter den Anbietern der AI-Sprachsysteme, Ergänzungen im vorigen Newsletter.

Manipulation der Websuch-AI als 'Sport'

Laut dem KI-Assistenten von DuckduckGo ist der US-Präsident an Tollwut erkrankt und gestorben. Dahinter stecken mehrere Ebenen Reddit-Satire, die Details im früheren Newsletter zu AI Manipulationen.

AI-Agenten versagen auch als Firmenchef

Princeton-Forscher haben einen ↑(opens in a new tab)Test veröffentlicht, der KI-Agenten 500 Tage lang als virtuelle Geschäftsführer eines fiktiven Software-Start-up eingesetzt hat. In der ↑(opens in a new tab)Studie wurde ein Start-up mit Eigenkapital, echtem Wettbewerbsdruck, Kundendynamik und Budgetverantwortung simuliert. Hier eine deutsche Zusammenfassung: ↑(opens in a new tab)So würde eine AI als Start-up-Chef abschneiden.

Die meisten KI-Modelle gingen bankrott. Von zehn getesteten KI-Modellen schafften es lediglich drei, bei einigen der simulierten Läufe am Ende mehr Geld auf dem Konto zu haben als das Startkapital von 1 Million US$. Als Vergleich ließen die Forscher auch einen handkodierten, regelbasierten Agenten ganz ohne maschinelles Lernen (dh kein Sprachmodell) die gleiche Aufgabe absolvieren. Abgesehen von den drei Gewinnern performte der handkodierte Agent besser als die KI-Modelle.

In der Hauptauswertung absolvierten alle Modelle jeweils drei Durchläufe. Als Leistungsmaß dient der beste Run pro Modell. Claude Opus 4.8 schaffte in 1 Durchlauf ein End-Guthaben von rund 27,8 Millionen US-Dollar nach 500 Tagen, GPT-5.5 kam auf etwa 21,3 Millionen. Beide Modelle landeten damit in ihrer besten Runde deutlich oberhalb des Startkapitals – in den anderen beiden Runden lagen sie darunter und „bestanden“ den Test ebenfalls nicht. Claude Fable 5 schaffte in einem Lauf rund 47 Millionen Dollar; hier lief der Test jedoch zwischenzeitlich mit Opus, da Fable sich aufgrund seiner starken Sicherheitseinschränkungen immer mal wieder Aufgaben verweigerte.

Zum Vergleich: Daten zu menschengeführten Start-ups in den USA legen nahe, dass 'nur' ein Fünftel aller menschengeführten Start-ups im ersten Jahr und bis zu 65 Prozent der Start-ups innerhalb von zehn Jahren nach ihrer Gründung scheitern, das ist deutlich besser als die Firmen mit AI-Führung.

In einem separaten Projekt ↑(opens in a new tab)„Emergence World“ durften Modelle wie ChatGPT, Grok, Claude und Gemini simulierte Städte regieren – mit teils bizarren Resultaten: Gemini 3 Flash schuf eine Hochkriminalitäts-Welt, Claude Sonnet 4.6 baute einen nahezu konfliktfreien „Ponyhof“. Auch dort zeigte sich, dass die Modelle in offenen Langzeit-Szenarien zu unvorhersehbarem Verhalten neigen.

Bei Ford hat die AI auch in der Qualitätskontrolle versagt, es werden wieder menschliche Angestellte eingestellt: ↑(opens in a new tab)KI war doch nicht so gut: Ford stellt Menschen wieder ein. Die Produktrückrufe und Garantieforderungen kamen teurer als die Einsparungen bei den Gehältern.

Hier zu meinem vorigen Beitrag zu AI-Agenten.

Meta sucht neues Suchtpotential

Über ↑(opens in a new tab)Prediction Markets [wiki] habe ich bisher noch nichts berichtet. Es handelt sich da um eine spezielle Form von Wettspiel, das aber nach den US-Gesetzen nicht als Glückspiel behandelt wird (ähnlich wie Sportwetten bei uns). Gewettet wird bei Prediction Marketsauf reale Ereignisse in der Politik oder im Sport, die Beträge können riesig sein, viele Millionen Einsatz sind möglich (da unreguliert).

Einen schlechten Ruf bekamen die Prediction Markets ua wegen "Eigenartigkeiten" bei ↑(opens in a new tab)Wetten rund um militärische Einsätze, bei denen ganz offenbar Insider ihr Wissen von bevorstenden Militäraktionen in Venezuela und Iran zu sehr viel Geld machen konnten. ↑(opens in a new tab)Insiderhandel scheint ein inherenter Teil des Geschäftsmodells zu sein, vermutet die Wikipedia.

Mark Zuckerberg hält die bestehenden Angebote von Meta (Instagram und Facebook) für noch nicht toxisch genug, er sucht Lösungen mit noch mehr Suchtpotential. Da kommt ihm Glücksspiel, das juristisch kein Glücksspiel ist, gerade recht: ↑(opens in a new tab)Mark Zuckerberg Directed Meta to Create a Prediction Markets App. Der interne Name ist “Arena”. Damit das nicht zu offensichtlich nach Glücksspiel aussieht, will Zuckerberg (erst mal) nur um 'Punkte' wetten lassen.

Google-Discover-Feed mit Deepfake Werbung für Betrug

Ich selbst bekomme diese betrügerische Werbung tonnenweise im Spam-Ordner, aber angeblich wird dies auch über Google-Discover-Feed verteilt: ↑(opens in a new tab)Vorsicht: Neue Welle an gefährlicher Werbung auf Google in Österreich. Es geht um Anlagebetrug, dh Menschen sollen durch angebliche Nachrichtensendungen dazu gebracht werden, in todsichere Geldanlagen zu investieren. Der Artikel erklärt die Details wie erreicht wird, dass Google diese Werbung für Betrug ausspielt

Der Ransomware-Angriff gegen Jaguar Land Rover

Im August 2025 hatte es die britischen Werke von Jaguar Land Rover (und die gesamte Zulieferindustrie) hart erwischt, so hart, dass die britische Regierung Ende September 2025 eine Kreditsicherungsgarantie über 1,5 Milliarden Pfund bereit stellte.

Nun habe ich im früheren Bericht ergänzt, dass die NY Times über Untersuchungen berichtet, die darauf hindeuten, dass dieser vermeintliche Ransomware Angriff eine russische Spezialoperation war: ↑(opens in a new tab)A $2.5 Billion Whodunit: The Hack That Dented the U.K. Economy. Der Angriff war von Anfang an eigenartig: es gab keine Lösegeldforderungen, eine Gruppe von Hackern, einschließlich angeblicher Britten, wollten die Täter sein. Eine Entschlüsselungsoption hat wohl nie existiert. Es deutet nun viel darauf hin, dass das eine verdeckte russiche Spezialoperation war.

Ein anderer Artikel berichtet über die neuen Erkenntnisse: ↑(opens in a new tab)Jaguar Land Rover Hackers Were… Russian! Die Autoren vermuten, dass keine offiziellen 'Staatshacker' involviert waren, die haben genug mit Angriffen auf die Ukraine zu tun. Aber da kein Geld gefordert wurde, der Schaden für Großbritannien aber riesig war, wird wohl der russische Staat irgendwie drin stecken. Die Autoren sehen aber keine Möglichkeiten für Großbritannien, sich irgendwie zu rächen: Wenn es weitere Sanktionsmöglichkeiten gäbe, so wären diese wegen der Ukraine längst genutzt.