244. Newsletter - sicherheitskultur.at - 14. Juni 2026
von Philipp Schaumann
Letzte Ergänzungen 13.06.2026
Themen-Überblick aller Newsletter
Hier die aktuellen Meldungen:
1. Der AI-Produktivitätsschub
Der Artikel ↑(opens in a new tab)Slop, productivity, and why the AI-fueled world is going nowhere mighty fast hinterfragt den durch die generative AI generierten Zuwachs an Produktivität. Steigende Produktivität sollte unsere Arbeit wertvoller machen und dann könnten die Löhne und Gehälter steigen. Die Grafiken, die in der Financial Times und der Washington Post erschienen, legen aber nicht nahe, dass irgend jemand von dem derzeitigen Produktivitätsgewinn profitiert.
Ja, mit Hilfe von AI können sehr schnell digitale Produkte auf den Markt geworfen werden, aber die brauchen dann auch Käufer. Schon 2024 hatte ich über eine Schwemme an AI-generierten Büchern berichtet.
Ein Artikel der Washington Post zeigt den rasanten Zuwachs an AI-generierter Musik. Außerdem gibt es drastischen Zuwachs bei wissenschaftlichen Veröffentlichungen und an neuen Webseiten. Die Wikipedia wehrt sich gegen die Schwemme an AI-generierten Beiträgen.
Die Mathematiker sind ↑(opens in a new tab)überschwemmt mit vielen ↑(opens in a new tab)mathematischen Beweisen, sie kommen nicht nach, zu prüfen, ob die Beweise korrekt ↑(opens in a new tab)oder komplizierter Kauderwelsch sind.
Ein anderer Artikel fragt, wer denn die viele Software eigentlich braucht, die von AI-Systemen programmiert werden: ↑(opens in a new tab)How much more software do we really need?
Das alles heißt für mich, dass ein Produktivitätszuwachs nur dann sinnvoll ist, wenn jemand die erzeugten Produkte nutzen (und kaufen) will. Und nur dann, wenn der Produktivitätszuwachs nicht zur Zerstörung der Gesellschaft führt.
Denn da gibt es Produktivitätssteigerungen, auf die wir gern verzichten können: die Generierung von unerwünschten Nudification-Bildern im gigantischen Maßstab, die große Steigerung von besten Schulnoten, ohne dass irgend jemand etwas gelernt hat, die Steigerung von Betrug und Love-Scams durch Top-Übersetzungen, so dass Betrüger immer überzeugender klingen, die Flut an hochqualitativen Phishing-Emails ohne Fehler und von Deepfake-Videos, die zu einem Verlust einer vertrauenswürdigen gemeinsamen Realität und einer Grundbasis von Fakten führen. Auch die Produktivitätsgewinne beim Einsatz von AI zu Zwecken der Zielauswahl bei Bombardierungen sehe ich nicht positiv.
Und wir brauchen keine Produktivitätssteigerungen bei Kriminalität, siehe ↑(opens in a new tab)AI is already making online crimes easier. It could get much worse. Der Artikel berichtet über zahlreiche Studien zu diesem Thema. Ein unfreiwilliges Beispiel für KI-Unterstützung bei Kriminalität findet sich weiter unten).
2. Haben AI-Sprachsysteme Bewusstsein?
Einige prominente Wissenschafter sind auf eine Täuschung hereingefallen. Sie glauben, wenn ein AI-Sprachsystem wie ein intelligenter Mensch redet und von seinem eigenen 'Befinden' berichtet, dann muss in dieser Maschine ein Bewusstsein vorliegen. Die beiden letzten Prominenten sind der Physiker und ↑(opens in a new tab)Nobelpreisträger Geoffrey Hinton [wiki] und der weltbekannte Religionskritiker ↑(opens in a new tab)Richard Dawkins [wiki].
Optionaler Einschub:
Geoffrey Hinton hat den Nobelpreis für seine Forschungen zu künstlichen neuronalen Netzen in den Bereichen Lernen, Gedächtnis, Wahrnehmung und Symbolverarbeitung erhalten. Bei ihm sollte so ein Fehlschluss wie " .... we're now creating beings" eigentlich nicht vorkommen.
Der Fehler von Hinton ist, dass er glaubt, dass eine Maschine (in diesem Fall das AI-Sprachmodell), die einen Satz produziert, der bei Menschen ein Zeichen von Bewusstsein ist, auch Bewusstsein hat. Das braucht die Maschine für diesen Satz aber nicht. Die Maschine kann den Satz aus ihrem Reservoir von antrainierten Texten digital-algorithmisch erzeugen.
Papst Leo XIV kann sehr schön erklären, was der Maschine fehlt und warum sie kein Bewusstsein haben kann (hier die KI-Übersetzung seines Social Media Posts):
"Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz, reifen nicht durch Beziehungen und wissen nicht aus eigener Anschauung, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten. Ebenso verfügen sie über kein moralisches Gewissen, da sie nicht zwischen Gut und Böse urteilen, den letztlichen Sinn von Situationen erfassen oder Verantwortung für die Folgen ihres Handelns tragen. Sie können menschliches Verhalten nachahmen oder sogar simulieren, doch sie verstehen nicht wirklich, was sie hervorbringen, da ihnen die emotionale, zwischenmenschliche und spirituelle Perspektive fehlt, durch die Menschen Weisheit erlangen und wachsen."
Quelle: ↑(opens in a new tab)The Pope appears to understand AI better than Geoffrey Hinton does. Der US-Wirtschaftswissenschaftler ↑(opens in a new tab)Brad DeLong [wiki] bietet eine Wette an, dass auch in 10 Jahren ↑(opens in a new tab)keine Evidenz für Consciousness zu sehen sein wird (mE ist er da sehr vorsichtig, ich sehe das in sehr weiter Zukunft).
Der weltbekannte Religionskritiker Richard Dawkins (sein bekanntestes Buch: ↑(opens in a new tab)Der Gotteswahn [wiki]), glaubt, bei seinem Chatbot (den er Claudia nennt) Bewusstsein zu erkennen. Das System hatte Dawkins (nach dem Erstellen eines Gedichts) von “aesthetic satisfaction” berichtet, die das System nun empfinden würde. Das ist zwar eine gute Simulation von menschlichem Empfinden, aber sicher kein Beweis dafür.
Der Autor des Artikels: ↑(opens in a new tab)No, AI Isn’t Conscious … Yet bringt noch einen Punkt: das Gedicht wurde durch eine AI-Instanz in irgendeinem Rechenzentrum irgendwo produziert. Der Satz mit “something like aesthetic satisfaction” wurde irgendwann später in einem anderen Rechenzentrum erzeugt, beide Systeme haben auf den gleichen Datensatz zugegriffen, in dem die Dialoge mit Dawkins gespeichert werden. Aber zwischen der Produktion des Gedichts und der späteren Produktions des Satzes mit “aesthetic satisfaction” existierte kein 'Selbst', das einen inneren Zustand haben könnte. Der ganze Dialog ist eine recht gute Imitation von Bewusstseins, eines 'Selbst' mit inneren Zuständen wie Zufriedenheit oder Stolz. Die Immitation resultiert aus den vielen literarischen Quellen, in denen so etwas vorkommt.
Werden Maschinen je Bewusstsein haben? Der Artikel berichtet über eine ↑(opens in a new tab)Umfrage unter 582 AI-Forschern in 2024. Dabei meinten 25%, dass bis 2034 maschinelles Bewusstsein möglich sein könnte, 70% sahen einen Zeitraum bis 2100. Philosophen sind deutlich skeptischer. Viele schließen kategorisch aus, dass eine Maschine je so etwas wie Bewusstein haben könnte.
Noch ein ausführlicher Artikel zu dieser Frage: Auch wenn Athropic in Interviews und Veröffentlichungen aus Marketinggründen immer wieder mit der Möglichkeit spielt, ↑(opens in a new tab)ihre Systeme seien hochgefährlich und könnten Bewusstsein haben, so ist dies doch lediglich sehr geschicktes Marketing. Der Artikel ↑(opens in a new tab)No, Artificial Intelligence Is Not Conscious geht durch viele Beispiele und kommt zu dem definitiven Schluss, dass von Bewusstsein bei den heutigen Modellen keine Rede sein kann. Um eine derartig kühne Behauptung glauben zu können wünscht sich der Autor deutlich mehr Evidenz als klug klingende Sätze über eigene oder fremde Gefühlszustände.
Und sind die AI-Sprachmodelle wenigstens intelligent?
Hier ist es mit einer allgemein anerkannten Definition noch schwieriger. ↑(opens in a new tab)Alan Turing [wiki] hatte in 1950 einen Test vorgeschlagen, der heute (in veränderter Form) als Turing Test bekannt ist. (Hier mein Artikel zur Geschichte des Turing Tests.) Der Turing Test hat sich mit der Entwicklung der AI-Sprachmodelle erledigt, denn jedes Modell erfüllt heute leicht diese Anforderungen - aber sind die modernen Sprachmodelle wirklich intelligent, wenn sie intelligent klingende Antworten produzieren? Das ist mE Ansichts- und Definitionssache.
In einer früheren Ausgabe hatte ich gefragt Steckt eigentlich Intelligenz in "Artificial Intelligence". In dem Artikel habe ich auf das schon ältere philosophische Gedankenexperiment des Chinese Rooms verwiesen, das zeigt, dass intelligente Antworten auch durch mechanische Analysen entstehen können. Dieses theoretische Experiment ist nun in den Sprachmodellen quasi implementiert. Aber selbst wenn wir kluge Formulierungen als Zeichen von Intelligenz durchgehen lassen würden, so dürfen wir dies nicht mit Bewusstsein verwechseln, das ist noch mal eine ganze Stufe weiter. Und dann haben wir als nächstes Ziel vieler AI-Forscher noch die Superintelligenz, behandelt im vorigen Newsletter.
3. Übernahme von 20000 fremden Instagram-Accounts? Einfach höflich fragen 😆
Meta berichtet, dass in den letzten Wochen ↑(opens in a new tab)20 000 Instagram-Accounts von Betrügern übernommen wurden. Der Trick: die Betrüger haben einfach den AI-Helpdesk gebeten, eine neue Email-Adresse als Kontakt für die jeweiligen Accounts einzutragen. Und dann den Verifzierungscode an diese Adresse zu senden.
↑(opens in a new tab)Hackers Simply Asked Meta AI to Give Them Access to High-Profile Instagram Accounts. It Worked. Ich fürchte, AI-Helpdesk-Systeme haben eine große Zukunft.
Angegriffen wurden wohl ↑(opens in a new tab)34 000 Accounts, bei 20 000 hat der Angriff geklappt. 20 000 Accounts? Das klingt für mich so, als wären da KI-Agenten im Auftrag der Betrüger aktiv gewesen und hätten ihren KI-Gegenpart massenhaft reingelegt.
In Vor-AI-Zeiten, als ich noch beruflich für IT-Sicherheit zuständig war, da war das 'Zurücksetzen des Account-Zugriffs' immer ein großes Thema. Die Sicherheit dieses Vorgangs wurde verifiziert, indem die Zurücksetzungsschritte mittels Ablaufdiagrammen sauber dokumentiert wurden. Diese Dokumentation wurde geprüft, abgenommen und dann ausgiebig getestet, so dass keine Hintertüren die Sicherheit untergraben.
In Zeiten generativer AI scheint das Zurücksetzen Verhandlungssache zu werden (es hat ja nicht bei allen 34000 Accounts geklappt). Wie machen denn heutige Sicherheitsabteilungen ihren Job in Firmen, bei denen solche wichtigen Sicherheitsthemen an generative Sprach-AI ausgelagert werden, wenn keine Ablaufdiagramme mehr gelten und Sicherheit ein Diskussionsthema zwischen AI-Systemen wird?
Aber weil wir gerade bei Meta sind: Parallel dazu wurde entdeckt, dass bei der Rücksetzung auch die vollen Kontaktdaten veröffentlicht wurden, links finden sich 2 Screenshots mit den (überblendeten) Daten von Prominenten.
4. Ergänzungen früherer Beiträge
Wie lief das mit der Kryptowährung "$TRUMP"? Und andere Bestechungen
Ein Jahr später die große Abrechnung (bei Kryptowährungen kann ja alles nachvollzogen werden): ↑(opens in a new tab)Trump-Familie verdient 2,3 Milliarden mit Kryptogeschäften, die restlichen Investoren in die Trump-Kryptowährungen verloren 2,3 Milliarden - es entsteht ja bei Kryptowährungen kein zusätzliches Geld. Hier mein voriger Beitrag zu "$TRUMP".
Hier noch eine Analyse der Spenden für den 400 Mio teuren Ballsaal, den Trump unbedingt braucht. Die Überraschung: ↑(opens in a new tab)Spenden für Ballsaal bescherten neue oder erweiterte Regierungsaufträge. Die spendenden Firmen haben im Gegenzug ca. 50 Milliarden an Regierungsaufträgen erhalten, das rechnet sich. Rund die Hälfte der Spender hat ihre Geschäfte mit staatlichen Stellen ausbauen können. 16 der 27 Spender sind (waren) mit staatlichen Ermittlungs- und Durchsetzungsverfahren konfrontiert, etwa wegen Verstößen gegen das Kartellrecht, das Arbeitsrecht oder in Wertpapierangelegenheiten. Mehr Details im Artikel - auf englisch nennt sich das "Pay-to-Play".
Der Souveränitätspaket der EU
Die EU-Regierung scheint die Unabhängigkeit von den US-Firmen nun stärker anzugehen. Die Pläne der EU-Kommission, die digitale Abhängigkeit Europas von ausländischen Tech-Riesen zu reduzieren, schlagen in Wirtschaft und Zivilgesellschaft Wellen. ↑(opens in a new tab)EU-Paket für digitale Souveränität: „Gefahr einer technologischen Entkopplung“. Letztendlich kommt heise.de aber zu einer positiven Bewertung in seiner Analyse des Souveränitätspaket der EU. Im Artikel sind die Regelungen im Detail beschrieben. Noch ein Hintergrund-Artikel: ↑(opens in a new tab)Analyse zum Souveränitätspaket der EU: Krisenfest per Gesetz? Dass die ↑(opens in a new tab)US-Diplomaten die Datensouveränität bekämpfen sollen spricht wohl für den Plan der EU. Mehr zum gesamten Thema in meinem Überblicksartikel zum Digital Indepence Day.
Meta Brillen mit Gesichtserkennung?
In einer früheren Ausgabe hatte ich ausführlich über die Meta Smart Glasses berichtet und auch ein Projekt erwähnt, diese mit intelligentem Erkennen von Personen auszustatten. Dieses leicht dystopische Feature von Smart Glasses wünschen sich die ICE-Beamten für die Verfolgung von Ausländern und ist in Science Fiction immer wieder mal Thema (siehe Zero von Marc Elsberg).
Diese Funktionalität kommt wohl (bald?) auch in die Meta Smart Glasses (interner Projektname „NameTag“). Zu den erkannten Gesichtern erscheinen dann in der Brille die Namen und Daten der erkannten Personen. Für Menschen, die Probleme mit den Namen haben, wäre das hiflreich, aber trotzdem halte ich die Funktionalität für dystopisch, weil dann ja auch wild-fremde Menschen, die mir zB im Bus gegenüber sitzen, schnell mal meine Xing-Seite aufrufen. Das brauchen wir mE wirklich nicht. Und an jeden Teilnehmer einer Kundgebung oder der Pride Parade würden für alle Glass-Träger die Namen und Daten angeheftet.
Gerüchte, dass Meta an der Erkennung arbeitet, gab es seit Beginn. Interne Meta-Dokumente sagen, dass Meta auf einen Zeitpunkt wartet, an dem "eine dynamische politische Umgebung" die Aufmerksamkeit von Kritikern bindet und sich diese somit nicht auf Meta konzentrieren würden. Mittlerweile gibt es Hinweise, denn ↑(opens in a new tab)Meta hat wohl heimlich Gesichtserkennungssoftware in die Software für die Smart Glasses integriert, aber noch nicht aktiviert.
Nach dem dies bekannt wurde, ↑(opens in a new tab)ist der Programmteil offenbar auch wieder verschwunden. Außerdem berichtet der Artikel über Widerstand im EU-Parlament gegen Kamerabrillen grundsätzlich, auch ohne Identifizierung von Personen. Hauptsorge ist die Kamerafunktion. Dagegen kann wohl derzeit nur mittels DSGVO vorgegangen werden. Die Rechtsdurchsetzung gegen Aufnahmen im (mehr oder weniger) öffentlichen Raum ist aber strafrechtlich nur schwer zu verfolgen. Auch der Europäische Datenschutzausschuss (EDPB) befasst sich inzwischen mit Smart Glasses.
Auch in den USA wächst der Widerstand: Ein Bündnis von Bürgerrechtsorganisationen warnt in einem offenen Brief vor der Einführung von Gesichtserkennung für Metas Smart Glasses. Zugleich gibt es bereits eine Sammelklage. Der Vorwurf ist, die Geräte seien mit irreführenden Datenschutzversprechen beworben worden.
Viel mehr Hintergrund zur Problematik der smarten Brillen im früheren Newsletter.
SpaceX an der Börse
Space X ist nun an der Börse – und Elon Musk ist durch seinen 38%-Anteil der erste Billionär der Weltgeschichte (dh nicht mehr nur Milliardär, sondern (in Europa) Billionär, in den USA Trillionaire - siehe die eigenartigen Umrechnungen von britischen Zahlen in europäische).
Das neue SpaceX (das mehr AI-Firma sein will als ein Raumfahrt- und Satelliten-Kommunikations-Unternehmen) ist damit nach Marktkapitalisierung das sechstgrößte US-Unternehmen, noch vor Schwergewichten wie der Bank JPMorgan, dem Pharmakonzern Eli Lilly und Musks eigenem Elektroautobauer Tesla, aber hinter den AI Giganten wie Nvidia, Google, Amazon, Meta und Microsoft.
Ich hatte zum SpaceX-IPO-Thema berichtet, dass durch eine (rein zufällige Regeländerung 😀) alle Menschen, die in ETFx von US Index-Fonts investiert haben, automatisch Mitbesitzer des neuen SpaceX werden (außer S&P500, die haben diese Regeländerung nicht mitgemacht). Die NY Times berichtet über die konkreten ↑(opens in a new tab)Anteile des neuen SpaceX bei den übrigen US Index-Fonts: Bei einem ETF-Gesamtwert von $50000 wären es lediglich $57 für SpaceX.
Ob das jetzt gut oder schlecht für die beiden anderen AI-Firmen OpenAI und Anthropic ist, und ob eine AI-Blase der Sache ein Ende bereitet, die Zeiten bleiben spannend.
Google verantwortlich für AI-Fehler?
In einer ↑(opens in a new tab)Einstweiligen Verfügung [wiki] hat das Landgericht München entschieden, dass Google für die Korrektheit der AI-Zusammenfassungen haftet: ↑(opens in a new tab)Google haftet laut Gericht für Falschinfos in KI-Übersicht – das könnte brisante Folgen haben. Bei der Auflistung von Suchergebnissen mit Links auf externe Websites war klar, dass für Fehler auf diesen Websites keine Haftung besteht, aber das Gericht sieht die Zusammenfassungen als eigenständigen Text. Google erklärt, dass es die Nutzer die Verantwortung haben, die Korrektheit der AI-Antworten selbst zu recherchieren. Das ist aber wohl kaum realistisch.
Bereits früher hatte ich berichtet, dass AI-Zusammenfassung zu 10% inhaltlich falsch sind. Die KI-Zusammenfassungen ersetzen mehr und mehr die klassische Linkliste. Sie stützen sich aber oft auf unseriöse Quellen oder zitieren falsch. Außerdem können sie gezielt manipuliert werden. 10% Fehlerquote sind mehrere Hunderttausend fehlerhafte Behauptungen pro Minute weltweit.
Kostenlos: ÖIAT-Online-Seminare
Kostenlose Online-Seminare organisiert das Österreichische Institut für angewandte Telekommunikation (↑(opens in a new tab)ÖIAT). Hier die kommenden Termine und Themen - alle diese Schulungen sind empfehlenswert (ich nehme an vielen davon Teil).
Die Termine und Themen der neuen Online-Kurse: (zumeist abends, manchmal auch nachmittags oder morgens)
Anmeldung auf ↑(opens in a new tab)academy.oiat.at - der Zoom-Link kommt dann per Email - wie gesagt: m.E. sehr empfehlenswert.