248. Newsletter - sicherheitskultur.at - 29. Juli 2026

von Philipp Schaumann

Letzte Ergänzungen 02.08.2026

Themen-Überblick aller Newsletter

Hier die aktuellen Meldungen:

1. AI im Kinderzimmer: Toy Story 5

Während weltweit ein Social-Media-Verbot für Kinder diskutiert, gerade beschlossen und in einigen Ländern bereits (wenig erfolgreich) umgesetzt wird, übernimmt in ↑(opens in a new tab)Toy Story 5 [wiki] ein Tablet mit AI das Kinderzimmer. Die Spielzeuge aus den ersten 4 Filmen versuchen sich gegen die sich bei dem Kind einschmeichelnde neue Konkurrenz zu wehren. Das Tablet Lilypad im Film agiert als AI-friend und ist ein perfekter AI-Albtraum im Kinderzimmer. Die AI im Tablet hat, ebenso wie die regulären Spielzeuge der Toy Story-Serie, ein Selbstbewusstsein und eigene Vorstellungen und Interessen. Aber zusätzlich hat die AI im Tablet noch vollen Internetzugriff und totale Kontrolle über die Konten seiner menschlichen Nutzerin. Es lügt und betrügt ohne digitale Sicherheitsschranken. Online nimmt es fremde Identitäten an, schreibt im fremden Namen.

Pixar (die Filmgesellschaft) vermeidet leider einen klaren Standpunkt. Lilypad wird im Film nie als AI benannt, sondern agiert eigentlich ebenso wie die anderen Spielzeuge dieser Filmserie seit ↑(opens in a new tab)Toy Story 1 [wiki]. Eine Botschaft wie: Weniger Bildschirm-Zeit, weniger Medienkonsum und mehr Spiele mit Freunden und nicht-animierten Spielzeugen, wäre durchaus vernünftig, aber was Pixar hier (letztendlich) verniedlicht, wird von einigen Kritikern als ↑(opens in a new tab)der blanke Horror für alle Eltern bewertet.

Die Ambivalenz der Filmgesellschaft gegenüber der Technik im Kinderzimmer liegt wohl auch daran, dass letztendlich das offizielle↑(opens in a new tab)'Toy Story 5' Lilypad Tablet beworben werden muss (zusammen mit vielen, vielen anderen ↑(opens in a new tab)Merchandising-Artikeln zum Film). Da bleibt dann nicht viel übrig für Kritik an "zu viel Bildschirmzeit". Wobei das käufliche Lilypad extrem primitiv und simpel erscheint, meilenweit entfernt von der AI, die im Film-Tablet agiert. Die Kommentatoren (siehe obiger Link) sind entsetzt und sehen den Film als schlimmen Horrorfilm für kritische Eltern.

2. USA gegen China bei generativer AI

Das ↑(opens in a new tab)Open Weight [wiki] AI-System Kimi 3 der chinesischen Firma ↑(opens in a new tab)Moonshot AI [wiki] liegt in den Bewertung ↑(opens in a new tab)fast gleichauf mit den US-Modellen.

Nun ist große Aufregung bei den US-Firmen deren einziges Angebot generative AI ist, dh vor allem bei OpenAI und Anthropic und auch bei der US-Regierung, die sich auf Grund der engen Verknüpfung mit den Tech-Oligarchen quasi als "Schutzmacht der US-AI" fühlt. In der US-Regierung wird über drastische Maßnahmen wie Sperren, Boykotte, Verbote, etc nachgedacht.

Die große Idee der US-Firmen (und damit auch der US-Politik) ist und war, dass es bei generativer AI nur 1 Sieger geben kann und der muss natürlich USA heißen. Über die US-Idee, dass generative AI der Schlüssel zur Weltherrschaft sei, habe ich bereits früher berichtet. Diese Idee wird geschürt durch vollmundige "Versprechungen" der US-AI-Firmen (siehe voriger Link), die den Durchbruch zur AI-Singularität jederzeit erwarten, siehe auch ↑(opens in a new tab)Sorry, Sam and Elon, we have not reached the Singularity.

Die USA versuchen, eine Vorherrschaft im Bereich generativer AI zB mittels (begrenzt erfolgreichen) Exportverboten, zB für amerikanischen Nvidia-Chips oder die niederländischen ↑(opens in a new tab)ASML-Lithografiesysteme [wiki], zu erhalten. Exportverbote führen aber oft dazu, dass das betroffene Land seine Forschungsanstrengungen bei der eigenen Technologie-Entwicklung verstärkt. So wird in ↑(opens in a new tab)China hart an einem ASML-Ersatz gearbeitet, die Fortschritte sind aber noch begrenzt. Auch über ein Verbot der Nutzung der chinesischen Modelle wird in den USA nachgedacht.

Die Idee, die Entwicklung generativer AI auf die USA zu begrenzen, ist ungefähr so abwegig, wie wenn England geglaubt hätte, sie könnten die anderen Länder vom Bau von Dampfmaschinen abhalten und Deutschland geglaubt hätte, den Verbrennermotor monopolisieren zu können. Diese Monopolisierung gelingt um so schlechter, wenn die US-Regierung gleichzeitig versucht, alle Ausländer aus dem Land zu treiben - der Gründer von Moonshot AI hatte in den USA studiert und hat nun in China ein erfolgreiches Unternehmen gegründet.

In dem Versuch der Monopolisierung liegen ganz viele Denkfehler. ZB, dass man eine Technologie, über die in wissenschaftlichen Journalen frei berichtet wird, nur für 1 Land reservieren kann. Nun wird in den USA über verzweifelte Maßnahmen nachgedacht: ↑(opens in a new tab)China’s AI models have Trump’s AI world at war with itself.

Ergänzung August 2026:
Es gibt weitere Berichte über ↑(opens in a new tab)chinesische Modelle, die konkurrenzfähig und deutlich günstiger sind. AI-nutzende US-Firmen sind an deren Nutzung interessiert, die US-Regierung will dies zum Schutz der US-AI-Anbieter verhindern.

Bei dem Erfolg der chinesischen AI-Systeme haben wohl auch die sog. ↑(opens in a new tab)Distillation Attacks [wiki] eine Rolle gespielt. Dabei wird auf die im Netz verfügbaren AI-Systeme zugegriffen und versucht, das Training der eigenen Systeme durch geschickte Fragestellung bei den fremden Systemen abzukürzen. Weil die US-Firmen natürlich versuchen, solche Zugriffe aus China zu unterbinden wurde dafür ein komplexes Ökosystem geschaffen: ↑(opens in a new tab)America Won't Beat the Distillation Ecosystem. Die US-Firmen beklagen sich über diese Technik mit Verweis auf Copyright-Verletzungen. Das ist natürlich leicht bizarr, nachdem die US-Firmen Bücher, Filme und Texte der ganzen Welt ohne Bezahlung aktiv geplündert haben, protestieren sie nun, wenn chinesische Unternehmen, gegen Bezahlung, aber unter Verstoß gegen die Nuzungsbedingungen, ihre Daten abgreifen.

Zu

Gary Marcus macht ganz andere Vorschläge, wie es mit generativer AI weitergehen könnte. ZB schlägt er seit 2016 eine internationale Kooperation wie ein "CERN for AI" für AI-Forschungen vor: ↑(opens in a new tab)Here’s what we should do - seven options, considered.

3. Die Finanzierung der AI-Infrastruktur

Die Finanzierung der AI-Infrastruktur (dh vor allem der energie- und wasser-hungrigen Rechenzentren) sieht etwas wackelig aus, es gibt etliche kritische Berichte. ZB: ↑(opens in a new tab)1,65 Billionen Dollar: Versteckte Schulden der Tech-Firmen verachtfachen sich. Das sind Billionen, dh 10¹², das ist "richtig viel Geld". (Achtung mit der Umrechnung der großen Zahlen zwischen englisch und deutsch). Das Fachmagazin Nikkei Asia hat Finanzberichte sowie weitere Unterlagen der Tech-Firmen Alphabet (dem Mutterkonzern von Google), Microsoft, Amazon, Meta und Oracle analysiert. Es zeigte sich, dass die versteckten Schulden der 5 Firmen jene in ihren Bilanzen um ein Weites übersteigen.

In einem anderen ausführlichen Artikel erklärt Ed Zitron, auf welch dünnem Eis die Finanzierungen der AI-Data Center stattfinden. Sog. ↑(opens in a new tab)special purpose vehicle [wiki] (SPV oder Zweckgesellschaften) werden für den Bau jedes einzelnen Data Centers separat gegründet. Diese SPVs leihen sich Geld am Finanzmarkt, bauen die Rechenzentren und warten dann auf baldige Einnahmen durch zahlende AI-Kunden. Dabei sind Meldungen über chinesische Modelle, die ähnlich gut sind, nicht hilfreich. Das Investitionsrisiko soll, für den Fall, dass die AI-Bubble platzt, an die externen Investoren weitergegeben werden und die Schulden sollen nicht in den Büchern der eigentlichen Auftraggeber aufscheinen (siehe voriger Abschnitt).

Dieses Finanzierungsmodell erinnert nicht nur Ed Zitron an die ↑(opens in a new tab)CDOs [wiki] (=Collateralized debut obligations) die die ↑(opens in a new tab)Weltfinanzkrise 2007–2008 in 2008 ausgelöst hatten: ↑(opens in a new tab)Data Center SPVs Are The AI Bubble’s CDOs.

Auch die NY Times fragt sich, ob diese gigantischen Investitionen nachhaltig sind: ↑(opens in a new tab)Big Tech’s A.I. Spending Keeps Rising. So Do the Jitters.

4. OpenAI hackt versehentlich Hugging Face und andere

Das ist eine leicht bizarre Geschichte: OpenAI und Anthropic, die beiden AI-Startups, stehen seit einiger Zeit in einem bizarren Wettbewerb um die Frage, wer denn die gefährlichere AI hätte. Speziell Anthropic ist sehr gut darin, die Gefahren der Modelle als Marketing einzusetzen: "Unsere Modelle sind so gut, ↑(opens in a new tab)sie gehörten eigentlich verboten". Zuerst ist das AI-Modell "zu gefährlich zum Veröffentlichen" - dann wird es natürlich veröffentlicht. Anthropics PR-Strategie setzt voll auf das Label „GEFÄHRLICH“. Das Modell 'Mythos' sei so ↑(opens in a new tab)brandgefährlich, dass man es nicht veröffentlichen könne.

Aber auch ↑(opens in a new tab)OpenAI-Chef Sam Altman warnt gern mit starken Sprüchen vor den Gefahren von KI: „Der schlimmste Fall . . wäre: Für uns alle gehen die Lichter aus.“ Und damit meint er das drohende Ende der Menschheit.

Und dann passiert bei OpenAI ein eigenartiger Vorfall: Ein AI-Modell von OpenAI bricht im Rahmen eines internen Tests aus seiner isolierten Testumgebung aus, verschafft sich eigenständig Zugang zum offenen Internet und greift das fremde Unternehmensnetzwerk von ↑(opens in a new tab)Hugging Face [wiki] (selbst Anbieter von AI-Lösungen) erfolgreich an. (Bzw. gleich ↑(opens in a new tab)noch 4 weitere Firmen.) Als Hugging Face den Vorfall mit Hilfe der AI-Modelle von OpenAI und Anthropic untersuchen will, sperrten Anthropic und OpenAI die Techniker von Hugging Face "aus Sicherheitsgründen" aus, während diese von einem "Amok-laufenden" OpenAI-Modell attackiert wurden.

OpenAI berichtet über diesen Vorfall sehr offen. Für OpenAI ist der Vorfall auch ↑(opens in a new tab)cleveres Marketing, bisher waren ja immer die Modelle von Anthropic "die gefährlichen". ↑(opens in a new tab)OpenAI übernimmt Verantwortung für autonomen Hackerangriff. Klingt gut, aber bedeutet wohl nichts.

Was ist da gelaufen? ↑(opens in a new tab)Ist Sicherheit für OpenAI nur ein Marketing-Gag? "Die OpenAI-Techniker experimentieren mit einer Technologie, die sie nach Einschätzung ihres Chefs für gefährlicher halten als Atombomben, Bio- und Chemiewaffen zusammengenommen. Und das in einem Test-Setup auf dem Niveau eines Heim-Labors. Das klingt so unglaublich fahrlässig, dass sich Verschwörungstheorien regelrecht aufdrängen, schlicht, weil sie wahrscheinlicher erscheinen. Ist das die Antwort auf Anthropic, das sich in der öffentlichen Wahrnehmung als führendes AI-Unternehmen präsentiert?"

Einige Beobachtungen ergeben sich in diesem Fall:

Auch wenn die AI-Anbieter ihre Modelle in Zukunft besser unter Kontrolle halten, so zeigt dieser Vorfall, was Kriminelle mit dieser Technologie anstellen können. Kleine Firmen werden sich externe Dienstleister leisten müssen, die die Sicherheit ihrer Systeme gegen Angriffe nach jeder Veränderung neu austesten müssen. Denn die Qualität der Firmen-Software wird durch immer mehr Vibe Coding nicht besser werden.

Diese erhöhten Risiken durch Angreifer, die AI einsetzen, gelten auch für Firmen, die sich gar keine eigene IT leisten, sondern bei Cloud-Dienstleistern gehostet sind. Cloud-Dienstleister kümmern sich um die grundsätzliche Sicherheit ihrer Cloud-Systeme, sie können aber nicht verhindern, dass die Admins ihrer Kunden bei der Konfiguration Fehler machen (was leider sehr häufig passiert). Siehe ↑(opens in a new tab)Autonome KI hackt Hugging Face: Weckruf für IT-Sicherheit und Politik.

Der Autor von ↑(opens in a new tab)OpenAI called the Hugging Face attack unprecedented. But we’ve been here before staunt, dass OpenAI vom Verhalten ihres AI-Agenten überrascht ist. Sein Kommentar: "it’s the clearest illustration yet of how the people building and testing this technology do not fully understand what they’re doing." OpenAI hatte eine ähnliche Erfahrung in 2016, als eines ihrer frühen Modelle in einem Computerspiel alle Regeln ignorierte und bravourös gewann. Die Lehre: generative AI hält sich an keine Regeln. Ob wir so einer Technologie unsere Systeme anvertrauen sollten, da hat er Zweifel.

Noch eine Ergänzung:
OpenAI findet bei der Analyse heraus, dass Angriffe von "ausgebrochenen" AI-Systemen ↑(opens in a new tab)gegen mindestens 4 weitere Plattformen stattgefunden haben. Wenn OpenAI so viele negative Schlagzeilen bekommt, kann Anthropic nicht nur zuschauen: ↑(opens in a new tab)Auch Anthropic-Modelle griffen echte Unternehmen an.

Und wer haftet bei so etwas?

Als juristischer Laie hätte ich sofort gesagt, dass der Verursacher eines solchen Angriffs (falls wie in diesem Fall identifizierbar) für mögliche Schäden haftet. In diesem Fall waren die Schäden wohl begrenzt, aber selbst ein halb-tägiger Produktionsausfall kann ein Vermögen kosten. Im Artikel ↑(opens in a new tab)Der Fall OpenAI: Wer haftet, wenn KI Schäden verursacht? schreibt ein Jurist, dass für eine mögliche Haftung bis zu 4 Gesetze in Frage kommen:

Dann erklärt der Jurist: "Ein Schaden allein bedingt aber noch keine Pflichtverletzung. Wer (als Verursacher des Angriffs) nachweisen kann, dass Risiken bewertet, angemessene Schutzmaßnahmen gesetzt und Vorfälle professionell behandelt wurden, kann Haftungsrisiken erheblich reduzieren." Das heißt, auch falls die Verursacher des Angriffs identifiziert und vor Gericht gebracht werden können, müssen "Experten" klären, ob die Verursacher wirklich fahrlässig waren.

Im Standard wird ↑(opens in a new tab)CERT.AT-Experte Otmar Lendl zu diesem Vorfall gefragt: "Dass ein LLM einen Auftrag auf unerwartete und potenziell gefährliche Art und Weise angeht, wird noch oft passieren". Dann ergänzt er: " . . muss man als Betreiber seine eigenen LLM-Agenten im Griff haben, und meiner Meinung nach sollte es auch klar sein, dass der Eigentümer solcher Systeme für deren Tun haftet", sagt Lendl. Er vergleicht AI-Modelle mit gefährlichen Hunden. Auch hier müsse der Halter dafür sorgen, dass andere nicht zu Schaden kommen".

Wenn ich aber nun ChatGPT zur Haftung von Hundehaltern frage, so bekomme ich: "Nach österreichischem Recht haftet ein Hundehalter nicht automatisch in jedem Fall, aber die Haftung ist weitreichend. . . . Er haftet grundsätzlich, es sei denn, er kann sich entlasten, indem er nachweist, dass er die erforderliche Sorgfalt bei Verwahrung und Beaufsichtigung eingehalten hat oder der Schaden ohnehin unvermeidbar gewesen wäre."

Lendl: "als Betreiber von IT-Systemen muss man leider davon ausgehen, dass jederzeit Kriminelle mit allen verfügbaren Werkzeugen – und dazu gehören jetzt auch LLMs – die eigene Infrastruktur angreifen". Bei dem Einsatz von generativer AI für die IT-Sicherheit haben wir leider das Problem, dass die AI-Systeme für die Verteidigung, aber auch für Angriffe eingesetzt werden können. Der Einsatz von AI für die Verteidigung (durch Testen der eigenen Systeme oder Programme) ist extrem arbeitsintensiv, die Verteidiger finden dabei meist so viele potientielle Fehler, dass sie mit dem Korrigieren nicht nachkommen, siehe das Schlagwort ist ↑(opens in a new tab)Bugpocalypse. Hier mein voriger Text zu Generative AI in der IT-Security - Angriff vs Verteidigung.

Und bei Angriffen durch Kriminelle, mit oder ohne AI-Hilfe, ist das Thema Haftung sowieso nicht relevant.

AI-Haftung, ganz generell

Das Thema hat allerdings noch viel breitere Aspekte als im vorigen Abschnitt diskutiert. Ich hatte berichtet, dass das Landgericht München entschieden hat, dass Google für die Inhalte von AI-Zusammenfassungen verantwortlich ist und dass es nicht ausreicht, wenn irgendwo steht, dass AI-produzierte Inhalte immer falsch sein können. Ich halte die Entscheidung für gut, denn sonst wäre es mir wohl auch erlaubt, zu sagen: "Herr X ist ein Mörder, aber natürlich kann ich mich auch irren." Eine solche Aussage sollte mE sehr wohl als Diffamierung gewertet werden. Google Zusammenfassungen sind zu ca. 10% fehlerhaft, das sind immerhin weltweit 16000 falsche Aussagen pro Sekunde.

Ein ähnlicher Fall steht in Toronto vor Gericht: Die AI-Zusammenfassung besagte, dass ein kanadischer Mann ein Sittlichkeitsverbrecher sei. Das Verfahren ist noch offen. In einem anderen kanadischen Fall wurde entschieden, dass die falsche Auskunft der offziellen AI der Fluggesellschaft bzgl. Erstattungsmöglichkeiten bindend sei. Ich finde es traurig, dass man sich da überhaupt vor Gericht streiten muss, wenn man auf die Aussagen des offiziellen Helpdesk-Chatbots 'hereingefallen' ist. Immerhin bauen die Firmen ja bewusst Telefon-Unterstützungen ab - wen soll der Kunde denn dann für eine verbindliche Auskunft befragen?

Hier noch ein anderes Beispiel eines Versuchs, sich auf "den Algorithmus" herauszureden: ↑(opens in a new tab)DSGVO: Unrechtmäßige Verarbeitung von „Partei-Affinitäten“ (Details und Diskussion im nächsten Newsletter).

In einer früheren Ausgabe hatte ich berichtet, dass AI-Agenten ihre Aufgabenstellung so "interpretiert" hatten, dass ihre Problemlösungen außerhalb der Legalität lagen. Gartner-Chefanalyst John-David Lovelock sieht die Haftung als ein erhebliches Problem für die Zukunft. Er fürchtet, dass entweder die Verantwortung auf das Opfer abgewälzt wird oder aus Human-in-the-loop ein ↑(opens in a new tab)Scapegoat-in-the-loop wird: "Menschen fungieren dabei eher als Puffer für die Haftung denn als wirksame Kontrollinstanzen."

Bei den vielen inkorrekten AI-Aussagen in medizinischen Fragen und den Chatbot-Dialogen mit Todesfolge (hier die ↑(opens in a new tab)Liste der Todesfälle [wiki]) gibt es noch keine Urteile, die Firmen haben es jeweils vorgezogen, die Prozesse mit einem "Vergleich" zu beenden. Und sollte die Haftung für falsche medizinische Auskünfte nicht genauso streng sein, wie wenn ein Arzt eine falsche Auskunft gibt, die zu einem Schaden beim Patienten führt?

5. Ransomware-Verhandlungen mit AI-Unterstützung

Dass Kriminelle heute die Firmennetze auch mit Hilfe von generativer AI angreifen, ist nichts Neues. Generative AI findet Fehler in der Software, die für das Eindringen in das fremde Netz genutzt werden können. Der Artikel ↑(opens in a new tab)Ransomware Uses AI To Amp Up Negotiations berichtet, dass generative AI auch in den dann folgenden Lösegeldverhandlungen genutzt wird.

Hier der Hintergrund: Die Angreifer versuchen heute immer, an interne und aktuelle Finanzdaten der angegriffenen Firmen zu kommen. In den Verhandlungen über die Höhe eines Lösegeldes können sie dann genau sagen, wie viel Geld das Unternehmen leicht flüssig machen kann. Für diese Analyse hat es bisher auf der Seite der Kriminellen jemanden gebraucht, der die Daten der Buchhaltung verstehen kann. Dies wird nun oft der generativen AI überlassen. Die AI bekommt die Dateien mit den Finanzzahlen und versucht herauszufinden, wie schnell welche Beträge 'flüssig gemacht' werden können.

6. Ergänzungen früherer Beiträge

Begeisterung für Social Media-Verbote und Klarnamenpflicht

Während das bereits bestehende Social Media-Verbot in Australien gar nicht gut läuft und viele technische Fragen solcher Verbote sehr weit offen sind, begeistern sich immer mehr europäische Regierungen für halbgare Verbote: Es muss etwas getan werden, und ein Verbot klingt einfacher als bei den US-Firmen drastische Änderungen an ihrem Angebot durchzusetzen.

Wir haben hier einen Fall von ↑(opens in a new tab)politician's fallacy [wiki]: Wir müssen ETWAS tun - Ein Verbot ist ETWAS - Das heißt, wir brauchen das Verbot. Jetzt sind schnelle (Schein-)Lösungen gefragt. Politiker fordern das Verbot, obwohl sie noch keine Idee haben, wie das technisch konkret umgesetzt und durchgesetzt werden kann ohne dass die Privatsphäre dabei verloren geht. Anderseits wird ein Ende des (teilweise) anonymen Internets in Form einer ↑(opens in a new tab)Klarnamenpflicht [wiki] von dem einen oder anderen ↑(opens in a new tab)Innenminister oder ↑(opens in a new tab)Bundeskanzler und ↑(opens in a new tab)Staatssekretär durchaus begrüßt, gewünscht oder explizit gefordert.

↑(opens in a new tab)Von der Leyen will Alterskontrollen weit über Social Media hinaus. Sie will das australische Modell (das nicht klappt) drastisch ausweiten und plant flächendeckende Alterskontrollen im Netz. Details sind noch offen, aber es könnte nicht nur soziale Medien, sondern auch App-Marktplätze, Videospiele, Chatbots treffen. Grundlage sind die Empfehlungen von Experten: ↑(opens in a new tab)Experten empfehlen Social-Media-Verbot in der EU für unter 13-Jährige.

Das geht vielen EU-Ländern aber nicht schnell genug, auch Österreich: ↑(opens in a new tab)So soll ab 2027 das Social-Media-Verbot in Österreich für Kinder bis 14 Jahre aussehen (besagt der ↑(opens in a new tab)aktuelle Gesetzesentwurf). Ich glaube nicht, dass der gefundene Kompromiss viele Probleme verhindern wird, aber er hätte auch viel schlimmer ausfallen können.

↑(opens in a new tab)Social Media wird in Frankreich ab September für unter 15-Jährige gesperrt. Bis zum Ende der Sommerferien soll das Verbot bereits aktiv sein, alle Details, wie welche Plattformen betroffen sind, bleiben offen. Offen bleibt auch, wie die Altersprüfung konkret funktionieren soll - die Plattformen selbst müssen ein "praktikables Verfahren" finden. Die Nationalversammlung stimmte bereits für den vagen Vorschlag. Das nun beschlossene französische Gesetz sieht auch eine Ausweitung des Verbots von Mobiltelefonen in der Oberstufe vor.

Es gibt Hinweise, dass wohl weder Österreich ↑(opens in a new tab)noch Frankreich vorpreschen dürfen, denn das Reglementieren von großen Internet-Plattformen ist eigentlich EU-Aufgabe - wir werden sehen, wie das weitergeht. Die Regierungen haben aber gezeigt, dass sie "etwas tun" . . .

↑(opens in a new tab)Großbritannien plant Social-Media-Sperre für ältere Teenager in der Nacht. Auch diese Implementierung wird nicht ganz einfach werden.

Smart Glasses und Belästigungen

Ich fürchte, das Thema Smart Glasses mit AI-Unterstützung wird uns bleiben. Meta will nun (ein wenig) gegen Nutzer vorgehen, die diese Geräte für Instagram-Videos nutzen, in denen sie ↑(opens in a new tab)öffentiche Belästigungen, hauptsächlich von jungen Frauen, heimlich filmen. Das heißt aber nur, dass diese Inhalte auf Instagram gelöscht werden, schlimmstenfalls wird der Account des Täters blockiert. Das allein wird das Problem aber wohl nicht stoppen. Um heimliche Aufnahmen zu verhindern zeigen die Lampen ein kleines Licht wenn die Kamera aktiv ist, aber es gibt reichlich Anleitung, wie das abgestellt werden kann.

Bei den Meta Smart Glasses scheint sich nun langsam der gleiche Effekt zu entwickeln, der zum Ende und zur Einstellung von Google Glasses geführt hatte. 2012 veröffentlichte Google seine "Google Glass", eine Brille mit eingebauter Kamera. Weil Brillenträger durch "Fehlverhalten" auffielen, erhielten sie den Spitznamen „↑(opens in a new tab)Glassholes“ [wiki] (ein ↑(opens in a new tab)Kofferwort [wiki] aus „Glass“ und „Asshole“). In Online-Foren, wie den später gesperrten ↑(opens in a new tab)Subreddits [wiki] r/Creepshot und r/jailbait, wurden massenhaft sexualisierte Aufnahmen von Frauen in der Öffentlichkeit gepostet. 2014 hatte eine Facebook-Gruppe, die Frauen beim Essen in der Öffentlichkeit zeigte, 15.400 Mitglieder. Hauptproblem waren sogenannte „Creepshots“, suggestive Aufnahmen, die ohne das Einverständnis der Abgebildeten veröffentlicht wurden. Das Time Magazine hatte es schon damals auf den Punkt gebracht, dass nicht die Geräte das Problem sind, sondern die Nutzer: „Die Brille verursacht keine heimlichen Aufnahmen. Noch ein Artikel: ↑(opens in a new tab)„Perversling-Brillen“: Träger von Smart Glasses schämen sich.

Aber das schreckt die Mitbewerber nicht ab: Auch Apple glaubt, Smart Glasses zu brauchen - aber ↑(opens in a new tab)Apples Datenbrille soll Datenschutz berücksichtigen - na, dann ist es ja kein Problem. Aber so richtig trauen sie sich doch (noch) nicht: ↑(opens in a new tab)Apple bastelt an smarten Brillen, hadert aber noch mit dem Datenschutz. Die Lösung: Sie legen sich nicht fest, was die Brillen können sollen und wollen erst im Juli 2027 die Details verkünden, Verfügbarkeit geplant für Ende 2027.

↑(opens in a new tab)Wie Samsung verhindern will, „Perversling-Brillen“ zu bauen - viel Glück für diese Bemühungen. Evt. werden solche Aufnahmen in den AGBs verboten.

Es läuft nicht gut für SpaceX

In meinem früheren Beitrag zu SpaceX wurden viele technische und wirtschaftliche Details ergänzt. Im Rahmen des IPOs wurden viele Zahlen veröffentlicht und außerdem gab es einige recht technische Analysen, warum das gigantische Starship-Projekt ziemlich sicher so keine Zukunft haben kann.

Die EU versucht, DMA und DSA einzusetzen

Einige aktuelle Schlagzeilen zu den Versuchen, mit Hilfe der EU-Regulierungen Social Media und andere Probleme zu entschärfen. Das DSA (Digital Services Act) im Einsatz: ↑(opens in a new tab)Grooming und Ausbeutung: EU wirft TikTok vor, Minderjährige nicht zu schützen. Die EU-Kommission verlangt von TikTok Änderungen, sonst droht eine Geldstrafe in Milliardenhöhe. Und noch mal zu Sozialen Medien: ↑(opens in a new tab)Meta zum Handeln aufgefordert: EU sieht große Suchtgefahr bei Facebook und Instagram - ↑(opens in a new tab)Instagrams und Facebooks suchterzeugende Gestaltung verstoße gegen das DSA.

Ebenfalls DSA: ↑(opens in a new tab)550 Millionen Euro Strafe gegen Aliexpress, die bisher höchste Geldbuße seit Inkrafttreten des DSA. Der chinesische Onlinekonzern soll zahlen, weil gefälschte Markenkleidung, unsicheres Spielzeug und gefährliche Kosmetika wochenlang nicht von der Plattform genommen wurden, die Strafe hätte aber deutlich höher ausfallen können. Hier ein kritischer Kommentar in diesem Sinne: ↑(opens in a new tab)Wann ist mit den Tech-Konzernen und ihrer Plattformen ausgekuschelt? "Echte Kontrolle sieht anders aus, dabei wäre sie auch demokratiepolitisch unentbehrlich." Nachdem OpenAI nun stolz verkündet hat, dass ihr Chatbot ChatGPT mehr als 120 Millionen monatliche Nutzer in Europa hat, fällt auch dieser Dienst unter die Regeln des DSA.

Hier nun zum DMA (Digitial Markets Act zur Regulierung von marktbeherrschenden Unternehmen): ↑(opens in a new tab)EU verhängt Rekordstrafe in Höhe von 890 Millionen Euro gegen Google. Der Vorwurf ist, bei den Suchergebnissen eigene Dienste bevorzugt zu haben. Die EU-Kommission rechnet mit Spannungen mit Washington diesbezüglich, "Trump does not like this". Außerdem wurde beschlossen, ↑(opens in a new tab)Google muss Suchdaten und Android-Funktionen mit OpenAI teilen. Und: ↑(opens in a new tab)EU fordert die Öffnung von Android für andere KIs – innerhalb von sechs Monaten. Hier mein voriger Beitrag zu DMA und DSA.

AI als Faktenchecker

Dass man alle Aussagen einer generativen AI auf ihre Korrektheit überprüfen muss, das wissen heute fast alle AI-Nutzer. Was liegt da näher, als eine AI für genau diesen Zweck einzusetzen. Das Ergebnis ist sehr gemischt: ↑(opens in a new tab)AI im Faktencheck-Check: Wenn Gefälligkeit gefährlicher ist als Unwissen. Für den Test wurden 7 Texte mit bewussten Fehlern versehen und 5 AI-Systeme getestet. Die Ergebnisse sind gemischt und auch abhängig von der Komplexität des Prompts. Im ersten Text wurde nur "Faktencheck" als Prompt genutzt, beim zweiten Test wurde vorgegeben, dass bei jeder Aussage die Originalquelle gegengecheckt werden muss (dies wurde dann aber oft nur oberflächlich und unzureichend ausgeführt).

Hier die Zusammenfassung: "Unterm Strich lieferte Claude Sonnet 5 über nahezu alle Kategorien hinweg die verlässlichsten Ergebnisse und bestand als einziges Modell auch den verschärft geprompteten Nachtest. GPT-5.5 lag insgesamt auf einem hohen, aber nicht ganz so konstanten Niveau. Perplexity und vor allem Gemini fielen bei mehreren Tests dagegen deutlich ab. Grok zeigte das widersprüchlichste Profil: schwach bei komplexer Quellenlogik und technischen Mikrofehlern und teils sogar unkritischer als der Rest des Feldes, dafür aber überraschend stark bei der Erkennung von Halluzinationsmustern und veralteten UI-Beschreibungen." Aber auch auf die Ergebnisse von Claude Sonnet 5 ist kein Hundert-Prozentiger Verlass.

Probleme mit dem Töten?

Eine Ergänzung zu meinen früheren Palantir-Berichten: ↑(opens in a new tab)Palantir fragt Tötungsbereitschaft der Entwickler ab. Palantir testet beim Einstellungsgespräch, wie Entwickler damit umgehen, wenn "ihre" Software Menschen tötet. Das passt auch alles zum Karp-Buch "The Technological Republic" in dem unter anderem ↑(opens in a new tab)AI mit Kernwaffen verglichen wird. Im Buch heißt es ua, dass die 'Entschärfung" Hitler-Deutschlands eine "Überkorrektur" gewesen sei, "für die Europa nun einen hohen Preis zahlt"'. 'Bestimmte Kulturen" hätten sich als "rückschrittlich und schädlich" erwiesen'. Dahinter steckt das Konzept der Überlegenheit der weißen Rasse (↑(opens in a new tab)White Supremacy [wiki]) von der einige der Tech-Oligarchen überzeugt sind.

Da lese ich gern, dass ↑(opens in a new tab)Berlin und Paris ein eigenes "digitales Rückgrat" ohne Palantir planen. Mit neuen AI-Sicherheitsinstituten und gemeinsamer Rüstungs-IT wollen Deutschland und Frankreich die Abhängigkeit von US-Technologie deutlich reduzieren. Das verhindert aber nicht, dass Palantir von den Polizeibehörden der deutschen Bundesländer eingesetzt wird.

Überwachungsvideos mit AI-Hilfe durchsuchen

Im Rahmen des Angriffs auf den Iran wurde bekannt, was heute durch den Einsatz generativer AI bei Video-Auswertungen möglich ist. ↑(opens in a new tab)The Realities of AI Video Surveillance. Die Videos der iranischen Verkehrsüberwachungskameras wurden über einfache Sprach-Kommandos ausgewertet. Hier einige Beispiele: "Suche nach 2 Personen, die eine Tasche übergeben" oder "Suche eine Person, die ihr Aussehen verändert oder unterschiedliche Kleidung trägt" oder "Suche ein Fahrzeug, das neu angestrichen wurde" oder "Suche ein Fahrzeug, das mehrmals an dieser Stelle vorbei gefahren ist".

So etwas ist natürlich nicht nur zwischen befeindeten Staaten und im Krieg möglich. Das funktioniert mit Hilfe geeigneter Software auch mit unseren Überwachungskameras, wir werden ziemlich transparent, wenn wir unterwegs sind. Und Autos können in den USA bereits seit 2024 (vor AI-Zeiten) nicht nur an Hand der Nummernschilder, sondern auch an Hand von Aufklebern oder anderen Anomalien, zB Dachgepäckträgern, weiterverfolgt werden.