216. Newsletter - sicherheitskultur.at - 31.01.2025

Letzte Änderungen 01.01.2026

von Philipp Schaumann

Zum Archiv-Überblick

 

Hier die aktuellen Meldungen:

1. Transhumanismus, Longtermismus, Kosmismus und andere bizarre Ideen im Silicon Valley

Der Transhumanismus ist eine Denkschule, die Philosophie, Neurowissenschaft und Informatik zusammenführen will. Popularisiert wurde sie Anfang der 2000er im Silicon Valley in den USA. Zu verwandten Theorien zählen Longtermismus, Singularitarismus und Kosmismus. Zwei Themen des Transhumanismus sind ewiges Leben durch Bio-Technologie und Verschmelzung der Menschen mit den intelligenten Maschinen.

Bekannte Transhumanisten sind Sam Altman, Chef des KI-Konzerns OpenAI, Investor Peter Thiel, Elon Musk, der Oxford-Philosoph Nick Bostrom, Ray Kurzweil von Google und viele andere aus diesem Umfeld.

Problematisch ist beim Longtermismus vor allem, dass alle ethischen Entscheidungen ohne Berücksichtigung der aktuell lebenden Menschen getroffen werden, weil die Zahl der in den nächsten Millionen Jahren noch folgenden Generationen die derzeit lebenden Menschen einfach überstimmmt (daher auch der Name). Das bedeutet z.B. für den Energiehunger der generativen AI-Systeme, dass wir den Energieverbrauch und die Klimakrise ignorieren müssen, denn die Hoffnung darauf, dass künftige AI-Systeme alle Probleme der Menschheit lösen - multipliziert mit der Zahl aller zukünftigen Menschen sind die Sorgen und Nöte der derzeit lebenden Menschen vernachlässigbar.

Was bedeutet der Hitzetod von 1-2 Milliarden Menschen in den nächsten 100 Jahren, verglichen mit Milliarden von zukünftigen Generationen denen die AI-Systeme ein sorgenfreies Leben ohne Arbeit und Mühen bescheren könnten, teilweise verschmolzen mit intelligenten Maschinen. Das klingt extrem bizarr - ist aber leider das Denken von Musk, Thiel, Altman und ihren Geschäftskollegen. Hier ein Artikel dazu: Die KI-Religion der Tech-Barone. Dieser Artikel verweist wiederum auf einen Vortrag beim Congress des Chaos Computer Clubs in 2024: Longtermismus – der „Geist“ des digitalen Kapitalismus - Die stark gruselige KI-Religion der Tech-Barone wie Elon Musk und anderer Silicon Valley Oligarchen.

Ergänzung Februar 2025:
Eine Ergänzung zum Artikel zu Transhumanismus und Longtermismus als Philosophie der Silicon Vally Herrscher: Ganz in diesem Sinne ist Musks Entscheidung, die US Entwicklungshilfe USAID komplett und ersatzlos einzustellen. Hier noch ein guter Artikel zu Longtermismus: Longtermism: Die Moral der Milliardäre.

An anderer Stelle hatte ich bereits früher über Konzepte wie Longtermism und das "Eulenbuch" von Nick Bostrom berichtet.

Ergänzung April 2025:
Hier ein guter ausführlicher Artikel zu diesen Themen: Longtermismus: Warten auf den KI-Gott . Ebenfalls lesenswert ist Der Aufstieg des Cyberfaschismus. Viele Entwicklungsländer spüren bereits die Wirkungen des Longtermismus, zB durch die Einstellung der US-Entwicklungshilfezahlungen für Ernährung, Verhütung und Impfungen in Afrika. Aber die Tech-Milliardäre wollen auch in den USA und in Europa ihre undemokratischen Konzepte schrittweise umsetzen.

Ergänzungen August 2025:
Hier ein beunruhigendes Interview mit der US-Rechtsanwältin Sandra Navidi: "Die Tech-Titanen wollen die Weltherrschaft". Sie berichtet: "Früher waren beim Weltwirtschaftsforum in Davos die Bank-CEOs die Kings, die dort hofiert wurden. Dann wurden sie von den Tech-Titanen verdrängt, die nun die Weltherrschaft anstreben. (Dies ist auch im August 2025 Newsletter ein Thema).

"Vermögen in den USA sind extrem konzentriert. Mittlerweile gibt es über 900 Milliardäre in den Vereinigten Staaten und 25 Millionen Millionäre." Die Ideologie von einigen der Einflussreichsten rankt sich um religiöse und rechte Ideen, sie lehnen die Demokratie ab und sind auf dem besten Weg, viele der demokratischen Institutionen in den USA zu entmachten.

Einer der Menschen, die sehr aktiv im Hintergrund an der Abschaffung der Demokratie arbeiten, ist Peter Thiel, der hier ja bereits öfter erwähnt wurde. Und natürlich Elon Musk. Auch die Trump-Kleptokratie ohne Hemmungen oder Scham sind Themen von Sandra Navidi. Noch ein aktueller Artikel zu den eigenartigen Konzepten des Transhumanismus: Wie der "Transhumanismus" à la Elon Musk das Menschenbild zerstört.

 

Ergänzungen Dez. 2025:

Warum nicht ewig Leben?

Im Standard ein ausführlicher Artikel: Überreiche wollen auch noch ewig leben. Die Tech-Oligarchen aus Sicht eines Volkswirts und Psychotherapeuten: "Mussten antike Helden noch gegen Drachen kämpfen, so genügte früheren Kapitalisten eine exorbitante Vermögensmehrung. Nun suchen Tech-Milliardäre (und Diktatoren in Russland oder China) auch nach Unsterblichkeit." An dieser Stelle ist auch das eigenartige Bibelverständnis von Peter Thiel zu erwähnen.

 

Die Besiedlung des Mars - Musk, Thiel, Bezos: Alle Tech-Bros wollen ins All. Warum nur, um Gottes Willen?

Alle Tech-Bros wollen, dass die Menschheit ins All auswandert. Musk und Bezos haben extra Raumfahrt-Unternehmen gegründet, um ihr Jugendziel zu erreichen. Der Mars ist seit langer Zeit eine Projektionsfläche für technische und soziale Utopien. Der Artikel im Falter Feuilleton untersucht, warum die Tech-Oligarchen unbedingt dorthin wollen und zählt Gründe auf, warum das wirklich Blödsinn ist. (Falter-Probeabo erschließt den ganzen Artikel.)

Denn selbst die unwirtlichste Landschaft auf Erde, selbst 4° über den jetzigen Temperaturen, ist ein Paradies gegenüber einer Mars-Landschaft: sehr extreme Temperaturen, hohe Strahlung aus dem Weltall, giftges Peroxid überall im Boden, fehlende Atmosphäre machen das Leben dort sehr sehr schwierig. Terraforming des Mars ist theoretisch möglich, aber wahnsinnig aufwendig

Und weil mich das Thema Raumfahrt seit Kindheit beschäftigt, hier, optional, eine Sammlung zu den extremen Herausforderungen im Weltall.

 

 

2. Zum Selbst-Testen: Wie gut kann eine AI Fotos analysieren

Ein indischer Ex-Google-Mitarbeiter und Softwareentwickler hat ein Tool entwickelt, das uns zeigt, was Google alles aus unseren Fotos herauslesen kann: they see your photos. Das Tool verbindet sich zur Google Vision API, Nutzer laden Photos mit Menschen hoch und das Google-System liefert eine Analyse der abgebildeten Menschen, z.B. eine Schätzung von Alter, Emotionen, Einkommen und mögliche politische Ausrichtung (auf USA bezogen). Außerdem schlägt die AI noch vor, welche Produkte man bei diesen Menschen bewerben könnte.

Wer ganz vorsichtig sein will, der/die verwendet die Beispielfotos der Website. Hier ein Hintergrundartikel dazu: Dieses Tool zeigt, was Googles KI aus euren Fotos herausliest.

 

Mann und Frau stehen am Fluss, der Mann hat ein Boot, wie können beide auf die andere Seite kommen?

Ein Mann und Frau stehen am Fluss, der Mann hat ein Boot, wie können beide auf die andere Seite kommen? - Die Generative AI ist verwirrt durch die bekannte Aufgabenstellung: Mann, Wolf, Ziege, Kohlkopf. Die AI erkennt nicht, dass in diesem Fall keinerlei Problem vorliegt.

3. Schon wieder AI, 2x (unfreiwilliger) AI-Humor

Das alte Problem der generativen AI: es fehlt ein grundlegendes Verständnis der Welt und logisches Denken.

Hier hat sich jemand eine Variation des Schachspiels ausgedacht und er fragt ChatGPT, welche neuen Strategien sich daraus ergeben. Die Aufgabenstellung:

Läufer und Springer vertauschen ihre Anfangspositionen und sie vertauschen auch die Art, wie sie sich bewegen. Dh der Läufer 'springt' nun und der Springer zieht in den Diagonalen. ChatGPT hält das für eine neue interessante Schachvariante.

Dann wird weiter verkompliziert: Springer und Läufer tauschen nun gegenseitig zusätzlich noch ihr Aussehen. ChatGPT erklärt:

". . . it’s a great way to break out of standard chess patterns and see how adaptable your board vision truly is!" Nun ja, . . .

Aktualisierung Mai 2025:
Die Halluzinationen scheinen sogar zuzunehmen, es kommt zu mehr absurden Antworten.

 

 

4. Trump und Silicon Valley - die (Selbst-)Unterwerfung der Oligarchen

Die augenblicklichen Entwicklungen rund um die Wahl von Trump zum Präsidenten haben leider auch viel mit Themen rund um das Internet und Social Media zu tun. Die reichsten Firmenchefs im Silicon Valley, d.h. die reichsten Menschen der Welt, scharen sich derzeit um den neuen Präsidenten, spenden für die Feier der Amtseinführung und passen in vorauseilendem Gehorsam ihre Produkte an.

In 2024 wurde Zuckerberg von Trump wegen angeblicher Zensur mit Gefängnis bedroht (wegen Moderation und Vorgehen gegen Beschimpfungen und Drohungen gegen LGBT-Menschen, 'Linke' und Ausländer). Januar 2025 schaffte Zuckerberg dann Moderation in den USA komplett ab, er bereut öffentlich in Trump-orientierten Sendern die frühere Moderation als Zensur und erlaubt Hetze auf Facebook und Instagram, derzeit erst mal nur in den USA. Viele der Meta-Angestellten sind in erheblicher Panik: "Totales Chaos" intern bei Meta, Angestellte erzürnt wegen Anti-LGBT-Änderungen. Zuckerbergs Reaktion: Wer nicht spurt, fliegt: Meta will "Low Performer" aussortieren.

Nun wird auch bekannt, dass bereits seit einiger Zeit ein guter Anteil der Profile auf Facebook AI-bots sind, zum Teil recht 'diverse' Profile, z.B. lesbisch und afro-american. Ob diese Profile bleiben werden ist sehr fraglich, einige sind bereits verschwunden. Denn Zuckerberg hat auf Facebook für mehr "maskuline Energie", weniger Diversität und eine Firmenkultur, "die Aggression ein wenig mehr feiert", geworben. Zuckerberg ist aber nicht der einzige der Silicon Valley-Firmenchefs, der sich Trump komplett unterwirft. Hier geht es weiter zu den US-Oligarchen.

Auf der Website des Chaos Computer Clubs Wien habe ich übrigens eine ganz kurze Geschichte des Internets in Tabellenform mit weiteren "Sündenfällen des Internets".

Hier mein voriger Artikel zu Social Media Sündenfälle.

 

5. Neues zu Standortdaten

Vor 2 Monaten hatte ich über den Handel mit Standortdaten berichtet. Der von mir geschilderte Handel mit unseren Ortsdaten war eigentlich schrecklich genug. Aber es kommt nun noch eine ganze Stufe gruseliger und hinterhältiger.

Eine Hackergruppe hat den US-Datenhändler namens Gravy Analytics gehackt, eine große Menge Daten entführt und analysiert. Dabei fanden sie Ortsdaten, zusammen mit den Namen der rund 40.000 unterschiedlichen Apps, die diese geliefert hatten. Die Daten stammen aus USA, Russland und Europa.

Die Überraschung:
Die Apps gliedern sich in 2 Gruppen. In der ersten Gruppe sind Apps, die ganz offen den Standort mittels GPS abfragen, dazu gehören z.B. Flightradar 24, Wetter Online, Kleinanzeigen, Messenger Kik, die queere Dating-App Hornet. Diese Apps liefern exakte Standortinformationen und die Nutzer haben die Standort-Abfrage explizit frei gegeben.

Die 2. (größere) Gruppe der Apps sammelt gar keine Ortsdaten und die Entwickler schwören, dass sie keine Ortsdaten haben und daher auch nicht verkaufen können. Und in den allermeisten Fällen stimmt das sogar.

Was alle diese Apps aber gemeinsam haben, das ist, dass sie, zumindest in der kostenlosen Version, Werbung schalten. Um diese Werbung abzurufen (im Rahmen des sog. real-time biddings (RTB)) melden sich die Apps bei einem Werbenetzwerk, natürlich mit der IP-Adresse des Smartphones. Dieses Werbenetzwerk verkauft die IP-Adressen und möglicherweise weitere demografische Daten, die die App weitergegeben hat, an Datenhändler weiter. Die Datenhändler bestimmen aus der IP-Adresse den ungefähren Standort, dafür gibt es weltweite Tabellen. Der Standort ist zwar oft recht fehlerhaft, aber die ungefähre Gegend kommt üblicherweise schon hin. Das ist zumindest ausreichend, um ein gewisses Bewegungsmuster festzuhalten.

Die App-Entwickler wissen/wussten von diesem Handel mit den Ortsdaten ihrer Nutzer wirklich nichts, sie dachten, dass sie einfach Werbung schalten, aber nicht, dass sie Ortsdaten weitergeben.

Zu dieser Grupppe von Apps, bei denen der Standort aus der IP-Adresse bestimmt wird, gehören z.B. Candy Crush, Vinted, Tinder, Grindr, Temple Run, Subway Surfers, Harry Potter: Puzzles&Spells; Moovit, My Period Calendar&Tracker, MyFitnessPal, Tumblr, Yahoo Email client, Microsoft 365 office app, Muslim Prayer Apps und christliche Bibel Apps, unterschiedliche Schwangerschaftstracker und sogar VPN-Apps (das ist extra ironisch, denn die werden benutzt um den Standort zu verschleiern). Hier eine Liste mit über 12000 Apps auf Google Docs.

Es wird extrem schwierig sein, diesen Datenhandel abzustellen. Denn zu den Kunden, die diese Daten kaufen, gehören US Immigration and Customs Enforcement, US Customs and Border Protection, die US-Steuerbehörde IRS, das FBI und Drug Enforcement Administration. Diese Überwachung kann bei den geplanten Aktionen von Trump noch stark zum Einsatz kommen und wird sicher nicht abgestellt.

Netzpolitik.org zeigt 7 Wege, um den Standort vor Databrokern zu schützen - aber so richtig klappt das nur mit Apps, die den realen Standort kommunizieren möchten, nicht die Apps, die den Standort über die IP-Adresse weitergeben.

Zum vorigen Beitrag der Analyse der deutschen Bewegungsdaten hier die illustrierte Version vom Chaos Computer Congress im Dezember: Databroker Files: Wie uns Apps und Datenhändler der Massenüberwachung ausliefern.

Aktualisierung Nov. 2025:
netzpolitik.org war wohl frustriert über die geringen Reaktionen, speziell aus Brüssel auf ihre Enthüllungen. Daher haben sie die Bewegungsdaten nun auch für Brüssel ausgewertet und einige der davon betroffenen hochgestellten Persönlichkeiten besucht, deren detaillierter Tagesablauf in diesen Location Daten transparent wird. Der Artikel berichtet davon: . . . als wir die Databroker Files nach Brüssel holten.

Ebenfalls Standortdaten sammeln alle Hersteller von PKWs und LKWs. Dazu gibt es ausführliche Recherchen an anderer Stelle.

 

6. Ergänzungen früherer Beiträge

IT-Security Lehrbücher, nun kostenlos: Ross Anderson, Security Engineering

DER Klassiker zu technischer Sicherheit in allen Aspekten - schon das Inhaltsverzeichnis zeigt, wie umfassend sein Zugang zu Sicherheit ist. Ross Anderson, Security Engineering - A Guide to Building Dependable Distributed Systems.

Das Hardcover-Buch hat stolze 1232 Seiten, nachdem er leider recht früh gestorben ist, gibt es nun das gesamte Buch kostenlos als PDF auf seiner Website: Ross Anderson, Security Engineering. Als Bonus noch 15 1-stündige Videos von seinem Unterricht an der Uni.

 

Als Pendant zum EU Resilience Act: U.S. Cyber Trust Mark

Einige Aktualisierungen und Präzisierungen zum U.S. Cyber Trust Mark. Es ist gut, dass nicht nur die EU eine Sicherheitsverbesserung bei Internet of Things-Geräten belohnt.

 

Medien-Monitor von Saferinternet.at

Ich hatte im vorigen Newsletter über Medien-Konsum der Jugend berichtet. saferinternet.at bringt nun aktuelle Zahlen: Der aktualisierte Medien-Monitor von Saferinternet.at.

Die Grafik zeigt: WhatsApp auf Platz 1, auf Platz 2 folgt YouTube, dahinter liegen Snapchat und Instagram, sowie TikTok. Danach folgt überraschenderweise MS Teams. Microsoft hat das wohl über seine Präsenz in den Schulen zur Covid-Zeit geschafft.

 

Krypto und Love Scams - es geht immer weiter

Ergänzung zu meinem Bericht über die Krypto und Love Scams. Aktuell wird über einen chinesischen Schauspieler berichtet, der einen Wechat-Post mit einem Job-Angebot gesehen hatte, nach Thailand flog und dann in ein Camp der Scammer in Myanmar gebracht wurde, wo er Love- und Kryptoscams hätte durchführen müssen. Auf Intervention seiner Partnerin konnte er befreit werden. Schauspieler aus Scamcenter-Hölle in Myanmar befreit.

Ergänzung Feb. 2025:
Was alles geht: Thailand, das bisher die Myanmar-Provinzen in denen sich die Scam-Lager in Myawaddy, Payathonzu und Tachileik befinden mit Energie versorgt hat, hat nun den Strom abgedreht. Das trifft aber natürlich die ganze Bevölkerung, ist also keine wirkliche Lösung. Ohne Energie gibt es auch kein sauberes Trinkwasser, das ist wirklich eine brutale Intervention.

Ergänzung März 2025:
Das ist leider aber nicht das Ende dieser Zwangsarbeitslager - mit Hilfe von Starlink sind die Lager wieder online. Die Details im März.

Das hatte gefehlt: Watchlist-internet.at: Geswiped, geflirted, getäuscht? Vorsicht vor Love Scams auf Dating-Portalen. Wie kann man so etwas erkennen, speziell bei Freunden und Freundinnen erkennen und wie kann man ihnen helfen.

 

Digitalzwang revisited

Zum vorigen Artikel zu Digitalzwang gibt es leider Aktualisierungen, die BVG-App (Berliner Verkehrsbetriebe) ist noch ein gutes Stück problematischer, sie funktioniert nämlich sehr oft und für viele einfach gar nicht - die Details beim vorigen Link.

 

UN-Cybercrime-Konvention

Zum vorigen Artikel zur UN-Cybercrime-Konvention: Trotz starker Kritik: Umstrittene UN-Cybercrime-Konventionverabschiedet. Netzaktivisten haben vergeblich vor der Verabschiedung der Konvention gewarnt. Denn Initiator dieser Konvention ist Russland. 'Cybercrime' kann nun beliebig weit verstanden werden, solange ein Computer involviert ist. Es droht daher die Verpflichtung, digitale Beweismittel über oppositionelle Aktivitäten an alle Staaten zu liefern, die solche Aktivitäten unter 'Cybercrime' fassen.

 

AI Act + AI Code of Practice

Nun eine Ergänzung zum AI Act. Die Arbeit am Text des AI Acts wurde ja bereits 2021 begonnen, zu einer Zeit, als generative AI-Systeme wie Large Language Models (LLM) und andere nicht-fachspezifischen AI Systeme noch kein großes Thema waren. Dann kam ChatGPT und ähnliche 'generelle' AI Systeme, die im ersten Entwurf gar nicht enthalten waren, die aber durchaus spezifische Risiken darstellen können.

Um die Arbeit am AI Act nicht zu verzögern wurde entschieden, die Regeln für general-purpose AI in ein separates Dokument auszulagern, dem AI Code of Practice. Die Arbeit am AI Code of Practice wurde September 2024 begonnen. Hier 2 Texte dazu: On the EU AI Code of Practice und Feedback on the Second Draft of the General-Purpose AI Code of Practice.

Und hier eine ganz frische positive Bewertung des AI Acts (so positiv wie ich das auch sehe): AI Act: Ab Sonntag sind hochgefährliche KI-Anwendungen in der EU verboten.

 

"Markets in Crypto-Assets" (Mica) + "Digital Operational Resilience Act" (Dora)

Noch mal die EU: Die MiCA-Verordnung ist seit Dezember in Kraft und dazu kommt noch Dora. Hier die Mica- und Dora-Details.

 

"Sexting"

Im Zusammenhang mit dem Vorgehen gegen "bildliche sexualbezogene Darstellungen minderjähriger Personen" ist die Hälfte der 'erwischten' Personen minderjährig, meist beim Austausch von sexualisierten Fotos mit Gleichaltrigen. Die Details an anderer Stelle.

 

7. Videos vom Chaos Computer Congress

Hier folgt nun die recht lange Liste der Videos, die ich sehenswert fand, zum Teil mit Link auf meine früheren Beiträge dazu: