216. Newsletter - sicherheitskultur.at - 31.01.2025
von Philipp Schaumann
Hier die aktuellen Meldungen:
1. Transhumanismus, Longtermismus, Kosmismus und andere bizarre Ideen im Silicon Valley
Der Transhumanismus ist eine Denkschule, die Philosophie, Neurowissenschaft und Informatik zusammenführen will. Popularisiert wurde sie Anfang der 2000er im Silicon Valley in den USA. Zu verwandten Theorien zählen Longtermismus, Singularitarismus und Kosmismus. Zwei Themen des Transhumanismus sind ewiges Leben durch Bio-Technologie und Verschmelzung der Menschen mit den intelligenten Maschinen.
Bekannte Transhumanisten sind Sam Altman, Chef des KI-Konzerns OpenAI, Investor Peter Thiel, Elon Musk und der Oxford-Philosoph Nick Bostrom, Ray Kurzweil von Google und viele andere aus diesem Umfeld.
Problematisch ist beim Longtermismus vor allem, dass alle ethischen Entscheidungen ohne Berücksichtigung der aktuell lebenden Menschen getroffen werden, weil die Zahl der in den nächsten Millionen Jahren noch folgenden Generationen die derzeit lebenden Menschen einfach überstimmmt (daher auch der Name). Das bedeutet z.B. für den Energiehunger der generativen AI-Systeme, dass wir den Energieverbrauch und die Klimakrise ignorieren müssen, denn die Hoffnung darauf, dass künftige AI-Systeme alle Probleme der Menschheit lösen, erschlägt, multipliziert mit den Zahl aller zukünftigen Menschen die Sorgen der derzeit lebenden Generationen und ihrer direkten Nachkommen.
Was bedeutet der Hitzetod von 1-2 Milliarden Menschen in den nächsten 100 Jahren, verglichen mit Milliarden von zukünftigen Generationen denen die AI-Systeme ein sorgenfreies Leben ohne Arbeit und Mühen bescheren, teilweise verschmolzen mit intelligenten Maschinen. Das klingt extrem bizarr - ist aber leider das Denken von Musk, Thiel, Altman und ihren Geschäftskollegen. Hier ein Artikel dazu: Die KI-Religion der Tech-Barone. Dieser Artikel verweist wiederum auf einen Vortrag beim 2024 Congress des Chaos Computer Clubs: Longtermismus – der „Geist“ des digitalen Kapitalismus - Die stark gruselige KI-Religion der Tech-Barone wie Elon Musk und anderer Silicon Valley Oligarchen.
An anderer Stelle habe ich bereits früher über Konzepte wie Longtermism und das "Eulenbuch" von Nick Bostrom berichtet.
2. Zum Selbst-Testen: Wie gut kann eine AI Fotos analysieren
Ein indischer Ex-Google-Mitarbeiter und Softwareentwickler hat ein Tool entwickelt, das uns zeigt, was Google alles aus unseren Fotos herauslesen kann: they see your photos. Das Tool verbindet sich zur Google Vision API, Nutzer laden Photos mit Menschen hoch und das Google-System liefert eine Analyse, z.B. eine Schätzung von Alter, Emotionen, Einkommen, mögliche politische Ausrichtung (auf USA bezogen) der abgebildeten Menschen. Außerdem schlägt die AI noch vor, welche Produkte man bei diesen Menschen bewerben könnte.
Wer ganz vorsichtig sein will, der/die verwendet die Beispielfotos der Website. Hier ein Hintergrundartikel dazu: Dieses Tool zeigt, was Googles KI aus euren Fotos herausliest.
Ein Mann und Frau stehen am Fluss, der Mann hat ein Boot, wie können beide auf die andere Seite kommen? - die Generative AI ist verwirrt durch die typische Aufgabenstellung: Mann, Wolf, Ziege, Kohlkopf. Die AI erkennt nicht, dass hier keinerlei Problem vorliegt.
5. Schon wieder AI, 2x (unfreiwilliger) AI-Humor
Das alte Problem der generativen AI: es fehlt ein grundlegendes Verständnis der Welt und logisches Denken.
Hier hat sich jemand eine Variation des Schachspiels ausgedacht und er fragt ChatGPT, welche neuen Strategien sich daraus ergeben. Die Aufgabenstellung:
Läufer und Springer vertauschen ihre Anfangspositionen und sie vertauschen auch die Art, wie sie sich bewegen. Dh der Läufer 'springt' nun und der Springer zieht in den Diagonalen. ChatGPT hält das für eine neue interessante Schachvariante.
Dann wird weiter verkompliziert: Springer und Läufer tauschen nun gegenseitig zusätzlich noch ihr Aussehen. ChatGPT erklärt:
". . . it’s a great way to break out of standard chess patterns and see how adaptable your board vision truly is!" Nun ja, . . .
4. Trump und Silicon Valley - die Selbst-Unterwerfung der Oligarchen
Die augenblicklichen Entwicklungen rund um die Wahl von Trump zum Präsidenten haben leider auch viel mit Themen rund um das Internet und Social Networks zu tun. Die meisten der Firmenchefs im Silicon Valley, d.h. die reichsten Firmen und die reichsten Menschen der Welt, scharen sich derzeit um den neuen Präsidenten, spenden für die Feier der Amtseinführung und passen in vorauseilendem Gehorsam ihre Produkte an.
In 2024 wurde Zuckerberg von Trump wegen angeblicher Zensur mit Gefängnis bedroht (wegen Moderation und Vorgehen gegen Beschimpfungen und Drohungen gegen LGBT-Menschen, 'Linke' und Ausländer). Januar 2025 schaffte Zuckerberg dann Moderation in den USA komplett ab, er bereut öffentlich in Trump-orientierten Sendern die frühere Moderation als Zensur und erlaubt Hetze auf Facebook und Instagram, derzeit erst mal nur in den USA. Viele der Meta-Angestellten sind in erheblicher Panik: "Totales Chaos" intern bei Meta, Angestellte erzürnt wegen Anti-LGBT-Änderungen. Zuckerbergs Reaktion: Wer nicht spurt, fliegt: Meta will "Low Performer" aussortieren.
Nun wird auch bekannt, dass bereits seit einiger Zeit ein guter Anteil der Profile auf Facebook AI-bots sind, zum Teil recht 'diverse' Profile, z.B. lesbisch und afro-american. Ob diese Profile bleiben werden ist sehr fraglich, einige sind bereits verschwunden. Denn Zuckerberg hat auf Facebook für mehr "maskuline Energie", weniger Diversität und eine Firmenkultur, "die Aggression ein wenig mehr feiert", geworben. Zuckerberg ist aber nicht der einzige der Silicon Valley-Firmenchefs der sich Trump komplett unterwirft.
Auf der Website des Chaos Computer Clubs Wien habe ich eine ganz kurze Geschichte des Internets in Tabellenform mit weiteren "Sündenfällen des Internets".
Hier mein voriger Artikel zu Social Media Sündenfälle.
3. Einige Videos vom Chaos Computer Congress
Hier folgt nun die recht lange Liste der Videos, die ich sehenswert fand, zum Teil mit Link auf meine früheren Beiträge dazu:
6. Neues zu den Standortdaten
Vor 2 Monaten hatte ich über den Handel mit Standortdaten berichtet. Der von mir hier geschilderte Handel mit unseren Ortsdaten war eigentlich schrecklich genug. Aber es ist nun noch eine ganze Stufe gruseliger und hinterhältiger.
Eine Hackergruppe hat den US-Datenhändler namens Gravy Analytics gehackt, eine große Menge Daten entführt und analysiert. Dabei fanden sie Ortsdaten, zusammen mit den Namen der rund 40.000 unterschiedlichen Apps, die diese geliefert hatten. Die Daten stammen aus USA, Russland und Europa.
Die Überraschung:
Die Apps gliedern sich in 2 Gruppen. In der ersten Gruppe sind Apps, die ganz offen den Standort mittels GPS abfragen, dazu gehören z.B. Flightradar 24, Wetter Online, Kleinanzeigen, Messenger Kik, die queere Dating-App Hornet. Diese Apps liefern exakte Standortinformationen und die Nutzer haben die Standort-Abfrage explizit frei gegeben.
Die 2. (größere) Gruppe der Apps sammelt gar keine Ortsdaten und die Entwickler schwören, dass sie keine Ortsdaten haben und daher auch nicht verkaufen können. Und in den allermeisten Fällen stimmt das sogar.
Was alle diese Apps aber gemeinsam haben, das ist, dass sie, zumindest in der kostenlosen Version, Werbung schalten. Um diese Werbung abzurufen (im Rahmen des sog. real-time biddings (RTB)) melden sich die Apps bei einem Werbenetzwerk, natürlich mit der IP-Adresse des Smartphones. Dieses Werbenetzwerk verkauft die IP-Adressen und möglicherweise weitere demografische Daten, die die App weitergegeben hat, an Datenhändler weiter. Die Datenhändler bestimmen aus der IP-Adresse den ungefähren Standort, dafür gibt es weltweite Tabellen. Der Standort ist zwar oft recht fehlerhaft, aber die ungefähre Gegend kommt üblicherweise schon hin. Das ist zumindest ausreichend, um ein gewisses Bewegungsmuster festzuhalten.
Die App-Entwickler wissen/wussten von diesem Handel mit den Ortsdaten ihrer Nutzer wirklich nichts, sie dachten, dass sie einfach Werbung schalten, aber nicht, dass sie Ortsdaten weitergeben.
Zu dieser Grupppe von Apps, bei denen der Standort aus der IP-Adresse bestimmt wird, gehören z.B. Candy Crush, Vinted, Tinder, Grindr, Temple Run, Subway Surfers, Harry Potter: Puzzles&Spells; Moovit, My Period Calendar&Tracker, MyFitnessPal, Tumblr, Yahoo Email client, Microsoft 365 office app, Muslim Prayer Apps und christliche Bibel Apps, unterschiedliche Schwangerschaftstracker und sogar VPN-Apps (das ist extra ironisch, denn die werden benutzt um den Standort zu verschleiern). Hier eine Liste mit über 12000 Apps auf Google Docs.
Es wird extrem schwierig sein, diesen Datenhandel abzustellen. Denn zu den Kunden, die diese Daten kaufen, gehören US Immigration and Customs Enforcement, US Customs and Border Protection, die US-Steuerbehörde IRS, das FBI und Drug Enforcement Administration. Diese Überwachung kann bei den geplanten Aktionen von Trump noch stark zum Einsatz kommen und wird sicher nicht abgestellt.
Netzpolitik.org zeigt 7 Wege, um den Standort vor Databrokern zu schützen - aber so richtig klappt das nur mit Apps, die den realen Standort kommunizieren möchten, nicht die Apps, die den Standort über die IP-Adresse weitergeben.
Zum vorigen Beitrag der Analyse der deutschen Bewegungsdaten hier die illustrierte Version vom Chaos Computer Congress im Dezember: Databroker Files: Wie uns Apps und Datenhändler der Massenüberwachung ausliefern.
7. Ergänzungen früherer Beiträge
 |
Nun kostenlos: Ross Anderson, Security Engineering
DER Klassiker zu technischer Sicherheit in allen Aspekten - schon das Inhaltsverzeichnis zeigt, wie umfassend sein Zugang zu Sicherheit ist. Ross Anderson, Security Engineering - A Guide to Building Dependable Distributed Systems.
Das Hardcover-Buch hat stolze 1232 Seiten, nachdem er leider recht früh gestorben ist, gibt es nun das gesamte Buch kostenlos als PDF auf seiner Website: Ross Anderson, Security Engineering. Als Bonus noch 15 1-stündige Videos von seinem Unterricht an der Uni.
Als Pendant zum EU Resilience Act: U.S. Cyber Trust Mark
Einige Aktualisierungen und Präzisierungen zum U.S. Cyber Trust Mark. Es ist gut, dass nicht nur die EU eine Sicherheitsverbesserung bei Internet of Things-Geräten belohnt.
Medien-Monitor von Saferinternet.at
Ich hatte im vorigen Newsletter über Medien-Konsum der Jugend berichtet. saferinternet.at bringt nun aktuelle Zahlen: Der aktualisierte Medien-Monitor von Saferinternet.at.
Die Grafik zeigt: WhatsApp auf Platz 1, auf Platz 2 folgt YouTube, dahinter liegen Snapchat und Instagram, sowie TikTok. Danach folgt überraschenderweise MS Teams. Microsoft hat das wohl über seine Präsenz in den Schulen zur Covid-Zeit geschafft.
Krypto und Love Scams - es geht immer weiter
Ergänzung zu meinem Bericht über die Krypto und Love Scams Aktuell wird über einen chinesischen Schauspieler berichtet, der einen Wechat-Post mit einem Job-Angebot gesehen hatte, nach Thailand flog und dann in ein Camp der Scammer in Myanmar gebracht wurde, wo er Love- und Kryptoscams hätte durchführen müssen. Auf Intervention seiner Partnerin konnte er befreit werden. Schauspieler aus Scamcenter-Hölle in Myanmar befreit.
Kostenlos: ÖIAT-Online-Schulungen
Kostenlose Online Schulungen beim Österreichischen Institut für angewandte Telekommunikation (ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon teil).
Die Termine und Themen der Kurse ab Februar: (Abends, entweder 18:30 - 20:00 oder 17:00 - 20.00)