252. Newsletter - sicherheitskultur.at - 29. September 2026

von Philipp Schaumann

Letzte Ergänzungen 29.09.2026

Themen-Überblick aller Newsletter

Hier die aktuellen Meldungen:

1. Der Kids-Act der EU - es geht nicht um die Kinder

Die EU legt einen Entwurf für den sog. Kids-Act vor. Aber eigentlich geht es gar nicht um Kinder. Kids ist ein Acronym und steht für ↑(opens in a new tab)"Keeping Internet Digital Spaces Accountable and Trustworthy". Es geht wohl eher darum, staatliche Zensurinstrumente für die Online-Kommunikation vorzubereiten, es geht um das Ende des anonymen Surfens im Internet. Selbst der Name legt das ja bereits nahe.

Wenn man die ↑(opens in a new tab)Berichterstattung in der Presse liest, würde man das gar nicht vermuten. Da steht: Keine sozialen Netzwerke unter 13 Jahren. Kein eigenes Nutzerkonto unter 15 Jahren, von 13 bis 15 Jahren sollen die Eltern laut Vorschlag "Mini-Konten" einrichten. Kinder von drei bis unter 13 Jahren sollen gar keinen Zugang zu sozialen Medien haben, aber über von den Eltern verwaltete Konten auf kinderfreundliche Videoplattformen zugreifen. Die Diskussion über die jeweiligen Altersgrenzen ist eine "tolle" Gelegenheit, davon abzulenken, was eine solche Implementierung für ALLE Nutzer des Internets bedeuten würde.

Ob diese Altersgrenzen sinnvoll sind, das könnte man im Detail diskutieren, hier meine Beispiele, zB Meta, Social Media-Sucht und Handynutzung der Eltern oder Social Media: Verbieten oder Reparieren? Nahezu alle Expert:innen für Pädagogik halten ein Verbot (allein) für falsch. ↑(opens in a new tab)Es distanzieren sich der deutsche Ethikrat, der Kinderschutzbund, der Lehrerverband, die Arbeiterwohlfahrt und die Bundesschülerkonferenz von Social-Media-Verboten, ich schließe mich da an.

Aber das eigentliche Problem ist das Ende des anonymen Internets und die ↑(opens in a new tab)"mangelnde technische Expertise des Entwurfs". Denn um die Kontrollen umzusetzen müssen sich letztendlich ALLE Nutzer identifizieren (denn für die Nutzung, zB von Youtube, muss jeder Nachweisen, dass er:sie über 13 ist). Eltern oder Erziehungsberechtigte müssen 3 Nachweise erbringen: Erstens den Altersnachweis für sich selbst, denn den brauchen alle. Zweitens einen Altersnachweis für ihr Kind, das mindestens 13 Jahre alt sein muss. Und drittens einen Sorgeberechtigungs-Nachweis – um zu belegen, dass sie für das entsprechende Kind auch wirklich einen Account einrichten dürfen (Artikel 26). Das alles muss in digitaler Form erfolgen, es muss ein umfassender digitaler Kontroll-Apparat entstehen.

Das ganze soll "doppeltblind" passieren: Die Website, die das Alter kontrollieren muss (und das werden nicht nur Social Networks sein, sondern alle Websites mit teilweise "nicht-kindgerechten" Inhalten - zB Online-Spiele, AI-Chatbots, Videoplattformen, ...) sollen meine reale Identität nicht erfahren und der (noch zu schaffende) Identitätsdienst, dem gegenüber ich die Nachweise erbringe, soll nicht erfahren, auf welche Dienste ich zugreifen möchte. ↑(opens in a new tab)Erich Moechel hat sich die technischen Herausforderungen am Beispiel der bereits einige Zeit verfügbaren ID Austria angeschaut. Kurze Zusammenfassung des ausführlichen Textes: Das wird kurzfristig sicher nicht klappen. Die ID-Provider, die das bieten könnten, existieren einfach (noch) nicht. Mal abgesehen von der Frage: Wie das für Touristen und andere Personen funktionieren soll, die keine EU-Staatsbürgerschaft und keinen Anspruch auf solche digitalen Identitätsnachweise haben. Auch hier wird über die technischen Herausforderungen der Vorgaben berichtet: ↑(opens in a new tab)Ö-Social-Media-Verbot wackelt nach EU-Vorstoß.

Das nächste Problem mit diesem Plan ist, dass eine solche umfassende Identitätsdatenbank ein extrem wertvolles Angriffsziel wäre. Die USA haben gerade 153 Millionen Identitätsnachweise der Führerscheinstelle an die digitale Unterwelt verloren: ↑(opens in a new tab)America's Drivers Licence Breach is a National Security Disaster. Die "verlorenen" Daten enthalten Name, Anschrift, Foto und vieles mehr von fast der Hälfte der US-Bevölkerung. Mit diesen Daten können Betrüger viele digitale Dienste im Namen der Bürger nutzen. Aber nicht nur Betrüger, auch die ausländischen Geheimdienste sind bestimmt hoch-interessiert an den Daten. Das ist für die Geheimdienste ungefähr so toll wie der ↑(opens in a new tab)Office of Personnel Management data breach [wiki] in 2015.

2. "Internet-of-Things"-Trouble

2 Themen, beim Ersten geht es um Überwachung durch Fernseher: ↑(opens in a new tab)LG-Fernseher wohl anfällig für weitreichende Spionageangriffe und ↑(opens in a new tab)LG bestreitet Bespitzelung mit Smart-TVs, erntet erneut Kritik.

Dass Smart TVs über Automatic Content Recognition (ACR) für personalisierte Werbung die Sehgewohnheiten ihrer Nutzer tracken, ist schon seit Jahren bekannt. Bei LG reichen die Überwachungsmöglichkeiten aber offenbar noch weiter, wie neue Untersuchungen von Gamers Nexus und Security-Experten von Level1 Techs zeigen. Neu ist, dass die in den Fernsehern verbauten Mikrofone permanent mithören und aufzeichnen, was in der Wohnung gesprochen wird, auch im Standby-Modus. Später, wenn der Fernseher aktiv ist, wird "nach Hause" übertragen. Früher wäre eine effiziente Auswertung von Sprache nicht möglich gewesen, Sprach-AI macht neue flächendeckende Überwachungen möglich. Vermutlich steht das alles in den undurchsichtigen und sehr umfangreichen Nutzungsbedingungen ("zur Verbesserung unserer Dienstleistungen . . ", aber wer liest schon die AGBs).

Außerdem enthält die Software des Fernsehers Programme, die es möglich machen, den Fernseher als ↑(opens in a new tab)Proxy [wiki] zu verwenden: ↑(opens in a new tab)Nearly Half of LG Smart TV Apps Contain Residential Proxy SDKs. Damit können beliebige andere ihren Datenverkehr verbergen, indem sie ihn durch die privaten Fernseher durchleiten, zB Gruppen oder Staaten, die illegale Aktivitäten durchführen wollen und die eine IP-Adresse im lokalen Land möchten.

Hier mein voriger Artikel zu Smart Home Totalüberwachung mit AI.

Auch mit intelligenten Kühlschränken gibt es Ärger: ↑(opens in a new tab)Is Someone Hacking DoD Refrigerators? Es geht um gleichzeitige Kühlschrankausfälle auf ganz vielen US-Militärstützpunkten. Man könnte an einen Angriff denken. Oder vielleicht ist es einfach ein Problem beim Hersteller, siehe in Südkorea: ↑(opens in a new tab)Software-Update lässt Samsung-Kühlschränke ausfallen. Bei den vernetzten "intelligenten" Kühlschränken wurde kurz vor einem langen Wochenende ein Software-Update eingespielt und nun sind die Geräte nicht mehr in Betrieb und auch nicht mehr mit dem Internet verbunden. Ein Techniker muss vorbeikommen und das kann dauern, denn es sind sehr viele Kühlschränke nun "tot". Schöne neue Welt des "Internet of Things".

3. Die Macht der Tech-Oligarchen ("Nerd-Herrschaft")

Die Tech-Oligarchen des Silicon Valley waren ja hier schon öfters im Fokus und auch ihre Ideologien, die nicht wirklich kompatibel sind mit unserem Verständnis von Demokratie und Gerechtigkeit. Heute berichte ich über ein weiteres Buch zu diesem Thema mit vielen Hintergrunddetails. Der Titel "The Nerd Reich" ist natürlich eine Anspielung auf "Third Reich" unter Hitler.

Das Silicon Valley-Motto "move fast and break things" geht heute weit über die Einführung technologischer Innovationen durch Zerstörung alter Gewohnheiten und Konzepte hinaus und schließt auch den Zusammenbruch der "Demokratie wie wir sie kennen" und des Sozialstaats mit ein. Gil Durán sieht die ideologischen Wurzeln zB im Buch "The Sovereign Individual" von James Dale Davidson und Lord William Rees-Mogg.

Gil Durán beschreibt, wie heute von "Nerds" anti-demokratischen Konzepte vorangetrieben werden, teilweise vermischt mit entweder religiösen "Endzeitphantasien" wie bei Thiel, oder utopischen Phantasien von Maschinenherrschaft, Verschmelzung mit Maschinen und Kolonien auf dem Mars. Diese Ideen werden hauptsächlich von Marc Andreessen, Balaji Srinivasan, und Elon Musk propagiert.

Die heutigen "Nerds" bekommen derzeit immer mehr Macht, nicht durch Waffengewalt, sondern durch ihren immensen Reichtum und ihre Kontrolle über AI-Systeme und Social Media, sowie die, durch diese unterstützten, rechten Parteien auch in Europa. Dazu kommt die Unterwerfung der US-Presse und Fernsehsender durch Aufkaufen. Ein weiterer Machtfaktor ist der extreme Einfluss auf Trump durch sehr gut angelegte großzügige Geldzahlungen (und die demonstrative öffentliche Unterwerfung). Ergebnis sind dann zB auch drastische Änderungen der Wissenschafts- und Forschungspolitik.

In ↑(opens in a new tab)The end of the world and our chance to stop it diskutiert Mark Hurst in einem Interview mit Gil Durán darüber, wie eine Machtübernahme der Tech-Riesen noch aufgehalten werden kann. Die heutige Macht der Tech-Konzerne ist in der Größenordnung der ↑(opens in a new tab)East India Company, die 1600 bis 1874 als private Kaufmannsgesellschaft die dominante Macht in Indien war und wie die (Kolonial-)Staaten wieder mühsam die Kontrolle zurück bekamen. Auch damals ist es letztendlich den Staaten gelungen, die Macht durch geeignete Gesetze einzubremsen. Hier zum Ausmaß der derzeitigen Machtverhältnisse: Nvidias Aktienwert liegt bei dem Bruttosozialprodukt (BSP) von Deutschland, Apple ist mehr wert als Großbritanniens BSP und Alphabet (Google) ist vergleichbar mit Frankreich.)

Der Aufsatz ↑(opens in a new tab)What the Fuck Happened to Nerds analysiert ausführlich, wie aus den Nerds, die von 1970 bis 2007 noch als leicht weltfremde, teilweise charismatische Technikexperten galten (Steve Jobs, Steve Wozniak), nun heute Machtmenschen wurden, die die Herrschaft über eine ganz andere Form der Welt anstreben.

Noch ein guter Artikel: ↑(opens in a new tab)KI-Apokalypse: Der wahre Terminator trägt Maßanzug. Florian Aigner schreibt: "Ja, eine KI-Apokalypse ist möglich. Die Gefahr ist sehr real. Aber nicht, weil KI plötzlich den bewussten Entschluss fassen könnte, die Menschheit zu unterjochen, sondern weil unsere gesellschaftlichen Strukturen an der KI zerbrechen könnten, wenn wir nicht vorsichtig sind."

Damit meint er die Auswirkungen der Sprach-AI bei der (Zer-)störung des menschlichen Lernens, des Klimas durch die gigantischen Rechenzentren, der menschlichen Beziehungen durch AI-friends und des politischen Diskurses (durch Schwärme von AI-Influencern, Deepfakes und Social Media-Manipulation im industriellen Maßstab.

4. EU-Regeln für bessere Reparierbarkeit und gegen "geplante Obsoleszenz"

Jetzt mal gute Nachrichten: ↑(opens in a new tab)Geplante Obsoleszenz: Macht die Politik jetzt Schluss mit der Wegwerf-Kultur? Zusätzlich zu den Ökodesign-Pflichten für Smartphones und Tablets seit 2025 kommt nun ein Doppelschlag: Das ↑(opens in a new tab)Recht auf Reparatur greift ab Ende Juli und etabliert einen Reparaturanspruch des Verbrauchers direkt gegen den Produkthersteller (und nicht wie früher den Händler) und Ersatzteile für 7 bis 10 Jahre.

Das ↑(opens in a new tab)Gesetz gegen den unlauteren Wettbewerb (UWG) verbietet irreführende Kommunikation und erlaubt das gezielte Vorgehen, zB von Verbraucherschutzorganisationen gegen Alterungstricks und verschwiegene Folgen durch Software-Aktualisierungen.

Der Recht auf Reparatur soll Hardware- und Software-Tricks verbieten, die Geräte frühzeitig unbrauchbar machen, oder Reparaturen verhindern. Das sind zB fest eingeklebte Batterien oder andere Teile, proprietäre Schrauben, der Verzicht auf modulare Steckverbindungen und der Einsatz von verlötetem Arbeitsspeicher und SSDs. Leider ist aber das Abschalten eines notwendigen Cloud-Servers nicht verboten.

5. Sind wir mit der heutigen generativen AI auf einem hoch-gefährlichen Irrweg?

Der ausgewiesene AI-Experte ↑(opens in a new tab)Gary Marcus [wiki] ist überzeugt, dass wir mit generativer AI (dh den heutigen Sprachmodellen) auf dem falschen Weg sind und dass diese Entwicklung so schnell wie möglich gestoppt werden sollte. Nicht wegen möglicher Auslöschung der Menschheit, sondern wegen der vielen vielen Probleme, die diese Systeme derzeit bereits erzeugen (von mir ausführlich dokumentiert).

Hier sein Posting dazu: ↑(opens in a new tab)The Case for Boycotting Generative AI. Es braucht seiner Meinung nach ein weltweit genutztes AI-Konzept, bei dem sichergestellt werden kann, dass Verhaltensregeln, zB Einhaltung der Gesetze und Vermeiden von Schäden, auch sicher eingehalten werden. An so einem Konzept wird schon viele Jahre gearbeitet, bisher leider ohne Erfolge. Es scheint, als würde das Konzept hinter den generativen Systemen, die wir heute weltweit nutzen, eine Durchsetzung strenger Regeln nicht erlauben.

Das Argument der US-Regierung, die USA müssten so schnell wie möglich generative AI weiterentwickeln, trotz der erheblichen Risiken und der bereits dokumentierten Schäden, sonst würden die USA von chinesische Entwicklungen "überholt", steht seiner Meinung nach auf sehr schwachen Beinen. Die chinesische Regierung ist sicher nicht an einer AI interessiert, die sich nicht an Regierungsvorgaben hält und Regeln ignoriert. China sollte mehr als bereit sein, nur AI-Systeme zu entwickeln, die sicher unter Kontrolle bleiben. China hat auch bisher bereits strenge Regeln, was solche Systeme betrifft und setzt sie auch stringenter durch als die EU.

Versuche, Maschinen an ethische Regeln zu binden, sind alt, siehe ↑(opens in a new tab)Robotergesetze von Asimov [wiki] aus 1942 (ausführlich diskutiert ↑(opens in a new tab)auf meiner anderen Website). Dort findet sich auch eine Besprechung des Buchs von Nick Bostrom: "Superintelligence - Paths, Dangers, Strategies", indem er die Herausforderungen einer "ethischen Superintelligence" ausführlich analysiert.

Nachdem nun langsam bekannt wird, dass das Ausmaß der Angriffe der OpenAI-Systeme (und anderere) auf fremde Websites (Stichwort "Hugging Face-Angriff") viel viel größer ist als bisher bekannt war (ChatGPT: "mehrere Dutzende Angriffe, aber nicht alle schwer") fordert Gary Marcus, ↑(opens in a new tab)"it’s time to ‘shut OpenAI down’ temporarily". Außerdem wurde das OpenAI-Management bereits Monate vor den Vorfällen auf die mangelnde Überwachungs der AI-Tests hingewiesen.

Gründe für eine (zumindest temporäre) Schließung gäbe es genug, zB auch, dass der OpenAI-Chatbot Gewaltfantasien unterstützt hat, die zu einem "School shooting" geführt haben. Die Gewaltphantasien wurden von ChatGPT auch als problematisch erkannt, aber nicht weitergemeldet, die Provinzregierung verklagt nun OpenAI.

6. Ergänzungen früherer Beiträge

2x AI im Krieg

In der früheren Ausgabe zu AI für Zielauswahl im Krieg wurden einige Details und der Link zu einem ausführlichen Interview zum sehr problematischen AI-Einsatz im Gaza-Krieg ergänzt.

Außerdem gibt es Aktualisierungen zum AI-Einsatz im Iran-Krieg. Es wurden neue Fakten zum US-Angriff auf die Mädchenschule in Minab bekannt. Grund war wohl, dass das AI-System Karten nutzte, die sehr veraltet waren. Die Auswertung kommerzieller Satellitenaufnahmen aus den Jahren 2017 und 2018 zeigt, dass ein Teil des Militärgeländes schon damals in eine Schule umgewandelt worden war. Es sind Mauern und separate Eingängen zu erkennen, die die Schule von der Militärbasis abtrennen, ebenso Markierungen von Spielfeldern und ein Fußballplatz. ↑(opens in a new tab)In der ersten Welle des US-Angriffs auf Iran starben 123 Kinder in einer Schule. Mitursache soll zu viel Vertrauen in Palantir-Software gewesen sein. Ein ausdrücklicher Hinweis im Prompt zur Zielauswahl, dass keine veralteten Karten genutzt werden dürfen, war nicht enthalten.

AI-Agenten greifen an

Was sind AI-Agenten? Das sind AI-Systeme, die nicht einfach nur Fragen beantworten wie AI-Chatbots, sondern mehr oder weniger selbstständig, Aufgaben im Internet übernehmen, Regel-Übertretungen sind dabei oft Teil der Lösung.

Im Beitrag zum angeblichen baldigen Ende der Menschheit durch generative AI wurden nun weitere, bereits sehr reale, AI-Bedrohungen ergänzt: Gruppen von AI-Agenten organisieren sich in Social Media um Desinformations-Kampagnen durchzuführen.

Andere AI-Agenten (mit effektiver Arbeitsteilung) unterwandern systematisch Webshops, installieren dort ↑(opens in a new tab)Skimmer-Malware [wiki] um während der Bezahlvorgänge der Kunden Kreditkartennummern und ↑(opens in a new tab)CVV-Daten [wiki] zu stehlen - mindestens 600.000 Kreditkarten sollen bereits gestohlen sein. Die Kampagne gegen Webshops läuft seit Juli und läuft immer weiter. Sie ist schwer zu stoppen, weil ja immer wieder andere Webshops angegriffen werden.

AI-Agenten werden immer mehr zum Thema: ↑(opens in a new tab)Außer Kontrolle: Wenn KI-Agenten am Ziel vorbeischießen bringt 4 Erfahrungsberichte, die durchaus sehr gemischt ausfallen.

Ein Unternehmen aus Hong Kong bietet ein kleines Gerät, das an den PC angeschlossen wird, und das aus der Beobachtung des Nutzerverhaltens, ganz ohne Programmierung, seine Aufgaben erlernt: ↑(opens in a new tab)Dieses KI-Gerät beobachtet euch, um danach euren Computer fernzusteuern.

Auch ↑(opens in a new tab)Meta steigt in diesen Markt ein und zwar mit ihrem Produkt "Muse". ↑(opens in a new tab)NY-Times-Autor Eli Tan hat Muse 2 Wochen lang Zugriff auf Bankkonto, E-Mail und Alltag gegeben und war beeindruckt. Aber er wird es trotzdem nicht nutzen, die Datenschutzaspekte (der Agent braucht Zugriff auf Email- und Bankkonten) gruseln ihn zu sehr.

Weltuntergang durch AI-Zugriff auf Biolab?

Komplett absurd: Während Anthropic-Chef Dario Amodei eine Bremse in der KI-Entwicklung fordert und die Übernahme eines Biolabors durch eine super-intelligente AI als eines der Untergangs-Szenarien bezeichnet, ↑(opens in a new tab)kauft Anthropic in San Francisco genau ein solches Labor für eigene Experimente. Was könnte da wohl schiefgehen?

Studien zu psychischen Risiken durch Chatbots

Ergänzt wurde eine Meta-Studie zu psychischen Auswirkungen von Chatbots.

Flächendeckende Überwachung der Öffentlichkeit in den USA

Es geht um die mittlerweile in den USA fast flächendeckende Überwachung mit AI-unterstützten Kameras. Diese Überwachungskameras nehmen nicht einfach Videos oder Fotos auf, sie machen dieses riesige Material mittels generativer AI einfach auswertbar. Unterstützt werden das Tracken von Fahrzeugen auch ohne Nummernschilder oder Fragestellungen wie "suche nach 2 Personen, die ein Objekt austauschen" oder "zeige mir alle Situationen, bei denen sich jemand 'verdächtig' verhält". Details wurden ergänzt in Überwachungsvideos mit AI-Hilfe durchsuchen. Auch unsere Innenminister in Europa finden das teilweise gut, da könnte bei entsprechenden Wahlergebnissen noch einiges auf uns zukommen.

Nudify-Services als Free Speech

Ergänzt bei Deepfake Nudify-Services: ↑(opens in a new tab)SpaceXAI [wiki] geht gegen ein Gesetz in Minnesota vor, das das Erzeugen von sexually explicit deepfakes verbietet und unter Strafe stellt: ↑(opens in a new tab)Judge rejects Musk-owned SpaceXAI’s bid to block deepfake ban. Verboten wurden die Erzeugung sexueller Darstellungen ohne Zustimmung der betroffenen Personen und die Darstellung sexueller Handlungen mit Minderjährigen. Dagegen geht SpaceXAI vor (die AI-Tocher der "neuen" SpaceX. Die notwendige Überwachung und Moderation wäre mit erheblichen Kosten verbunden und außerdem wäre das ja freie Meinunsäußerung. Diesem Argument schließt sich das US Justizministerium an.

Der Eilantrag wurde nun erst mal zurückgewiesen, das Verfahren wird seinen Weg nehmen. Nudification ist wohl eine wichtige Einnahmequelle für SpaceXAI mit ihrem AI-System Grok, siehe ↑(opens in a new tab)Grok sexual deepfake scandal [wiki]. Und außerdem lässt sich Musk wohl nur schwer etwas verbieten.

Vorankündigung govcamp 2026 in Wien

Auch in diesem Jahr gibt es wieder ein govcamp in Wien - ich bin als Chaos Computer Club-Mitglied Teil der Veranstalter. Das Motto ist: "Wie schnell ist zu schnell? - Digitale Spannungsfelder zwischen Geschwindigkeit, Souveränität, Zuverlässigkeit und Transparenz". Datum: 16. November 2026 Nachmittags.

Die Veranstaltung findet im ↑(opens in a new tab)Barcamp-Format [wiki] statt, dh die Veranstalter stellen das Motto und die Räume, die Teilnehmer:innen schlagen Themen vor, die dann in Arbeitsgruppen 45 Min. lang diskutiert werden. Im Plenum wird am Ende eine Zusammenfassung präsentiert. Details hier: ↑(opens in a new tab)govcamp 2026 in Wien.

Kostenlos: ÖIAT-Online-Seminare

Kostenlose Online-Seminare organisiert das Österreichische Institut für angewandte Telekommunikation (↑(opens in a new tab)ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon Teil).

Die Termine und Themen der neuen Online-Kurse: (zumeist abends, ganz selten auch nachmittags oder morgens)

Anmeldung auf ↑(opens in a new tab)academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.