195. Newsletter - sicherheitskultur.at - 30.04.2023

 

Einer der Kritikpunkte an dem offenen Brief (der sicher nicht perfekt ist und nicht alle Problemstellungen abdeckt) ist, dass er von einer Organisation initiiert wurde, die offenbar AUCH von Problemstellungen beunruhigt ist, die ich noch nicht für AKTUELL problematisch halte: Longtermism - Verbesserungen der FERNEN Zukunft als moralische Priorität. Andere kritisieren, dass Menschen wie Elon Musk unterschrieben haben, dann kann es ja nicht vernünftig sein. ;-) - Full disclosure: ich bin einer der 27 500, die unterschrieben haben.

Ein anderer Kritikpunkt bezieht sich auf die ebenfalls geforderte Regulierung (die in der EU ja bis 2025 versucht wird, mehr dazu siehe unten). Die Kritiker sagen, dass Regulierung von Technologien nicht möglich sei. Aber da gibt es Gegenbeispiele: Autoverkehr wurde erfolgreich reguliert mit Anschnallpflicht, Kindersitzen, Alkoholbeschränkungen und in den meisten Ländern Geschwindigkeitsbegrenzungen (trotzdem extrem tödlich: 1 Tote alle 2 Minuten weltweit ). Andere erfolgreiche Regulierungen: Luftverkehrsicherheit, Feuersicherheit, Kernenergie-Regulierungen, elektrische Sicherheit durch VDE - ein privater deutscher Verein, ihre Regeln werden weltweit getestet ...)

Einige Gegner einer solchen Weiterentwicklungspause in der westlichen Welt befürchten, dass China diese 6 Monate nutzen könnte und schnell die AGI erfinden und die Weltherrschaft mit Hilfe dieses Systems übernehmen - für mich und viele andere komplett unrealistisch.

AI-Experte Gary Marcus schreibt: GPT-5 and irrational exuberance. Noch ein kritischer Artikel dazu: Von Musk und Co geforderte KI-Entwicklungspause verheimlicht reale Gefahren - unglücklich Konzentration auf Musk bei 26 000 Unterzeichnern.

Gary Marcus erklärt an anderer Stelle, warum er trotz Elon Musk unterschrieben hat, auch wenn er selbst einen anderen offenen Brief mit ähnlichen Forderungen bereits in Arbeit hatte: I am not afraid of robots. I am afraid of people. Gary Marcus verlinkt dabei auf den obigen Witz mit dem Rettungsboot.

Einen interessanten Aspekt fand ich in diesem Youtube-Video von Tom Scott: I tried using AI. It scared me. Er berichtet von einer kleinen Programmierübung, die ChatGPT mit Fehlern, aber eigentlich ganz ordentlich erledigt hat. Seine nachfolgenden Überlegungen sind, dass der derzeitige Stand der LLMs ganz ordentlich ist, aber nichts, was die Welt verändern wird. Aber wir können uns nicht sicher sein, ob dies nicht erst der erste winzige Anfang ist, so wie Napster als Musik-Download Service in 1999 die Musik-Industrie nur begrenzt erschreckt hatte, ein Problem, das man bis 2001 durch viele Prozesse 'behoben' hatte. Aber letztendlich war Napster nur der harmlose Beginn eine Revolution des Medien-Konsums, der zum Ende der Musik-CDs und Video-Disks, zum Niedergang der großen Labels und nun zu Spotify und Netflix geführt hat: Musik und Filme als Konsum statt als Besitz.

Der Punkt von Tom Scott: Falls ChatGPT nur der Napster-ähnliche Start des AI-Einsatzes ist, so hat er große Bedenken, dass sich unsere Gesellschaft, die Arbeitswelt und vieles was wir derzeit kennen (z.B. unsere Arbeitswelt) so drastisch verändern könnte, wie die Musik- und Film-Industrie sich in den 20 Jahren verändert hat.

Hier zu weiteren Diskussionen rund um den Sinn von Technologie-Regulierungen.

Gary Marcus bringt sehr überraschende und mE recht logische Argumente für eine Regulierung generativen AI Systemen (wie ChatGPT). Seine Argumentation:

• Eine Regulierung mit dem Zwang, dass diese Systeme nicht fabulieren dürfen sondern nur Fakten präsentieren lässt sich mit den jetzigen Konzepten nicht realisieren.
• China verlangt von seinen AI-Forschern, dass generative Systeme immer die Positionen der Kommunistischen Partei wiedergeben müssen, auch das wird mit den jetzigen Konzepten kaum möglich sein (siehe Fabulieren)
• Damit zwingt China seine AI Forscher, an neuen Konzepten zu arbeiten statt sich mit dem was derzeit Stand-der-Technik ist in Produktion zu gehen und sich damit zufrieden zu geben - wie die US-Firmen das derzeit tun
• Ein Zwang zu generativen Systemen, die die Wahrheit berichten müssen und sich an ethische Regeln halten würde die westlichen Forscher zwingen, ähnlich kreativ zu werden wie die chinesischen Kolleg:innen

• Vieles wird sich bei der Lehre ändern (müssen), an Hochschulen und wohl auch in den Oberstufen der Schulen. Als Beispiel früherer Umbrüche Diskussion über Taschenrechner im Mathe-Unterricht genannt (Logarithmentafeln und Rechenschieber sind schon lange keine Thema mehr).
• Hochschulen (und Schulen) müssen darüber nachdenken, welche Kompetenzen sie eigentlich vermitteln (und abprüfen) wollen
• Manche Arten von Abschlussarbeiten werden sich erledigen, z.B. Literaturzusammenfassungen - Mehr tun lassen als Wissen abzufragen. Grundsätzliche Änderung der Prüfungsansätze - weniger Erinnern und Verstehen, besser ist Anwenden und Analysieren, optimal wäre mehr Erzeugen, Evaluieren. Evt auch mehr mündliche Prüfungen, zB sich die Arbeit erklären oder präsentieren lassen. (Details zu 'Prüfen', speziell auch digital prüfen zB auf Kompetenzorientiert Prüfen: Assessment auf allen Ebenen)
• AI-Systeme können zum hilfreichen Tool für Lehrende und Studierende bei vielen Detailproblemen werden - aber der Einsatz muss (speziell am Rahmen von Prüfungen und studentischen Arbeiten) als eines der genutzten Hilfsmittel offen legt werden - Transparenz
• Die Nutzung solcher Systeme wird Teil des Arbeitslebens für viele sein und muss daher auch Teil des Unterrichts sein (ab einem gewissen Alter) - der 'Werkzeugkasten' muss unterrichtet werden

Sehr ähnlich ein Strategiepapier der Universität Hohenheim Unlocking the Power of Generative AI Models and Systems such as GPT-4 and ChatGPT for Higher Education - A Guide for Students and Lecturers. Eine Zusammenfassung des Dokuments auf ChatGPT im Hörsaal: Wie Hochschulen auf generative KI-Werkzeuge reagieren.

Und eine juristische Studie: Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung der Ruhr-Unviversität Bochum. Vom Verein Forum Neue Medien in der Lehre Austria (fnma): KI / ChatGPT in Lehre und Forschung - Der Livestream ist weiter online verfügbar.

AI dating profile optimizer
Auch außerhalb der Hochschulen gibt es immer mehr Anwendungsfälle. Viele Firmen bieten jetzt Services mit einer ChatGPT-Integration an: zB THERE'S AN AI FOR THAT - 3,366 Als for 938 tasks. Sponsored by LoveGenius - AI dating profile optimizer - In der NY Times war ein Erlebnisbericht zu AI-Dating: Generierung eines Profils auf Tinder und dann Durchführung der Dialoge mit Hilfe von ChatGPT: Seduced by a Charming AI Chatbot.

Der Kurs ist auf Uni-Niveau, Anfängervorlesung, es gibt auf Wunsch auch ECTS-Punkte (dann fallen Gebühren an).

Es sind weder fortgeschrittene Mathematik oder Programmierkenntnisse nötig. Für jedes der sechs Kapitel muss man 5 bis 10 Stunden rechnen. Einige Übungen fordern aber einige Gehirnarbeit, Skizzieren aufs Papier und sorgfältiges Lesen der Kursinhalte und Aufgabenstellungen. Es gibt keinen Zeitstress - es wird empfohlen, 6 Wochen als eigenes Ziel zu setzen - aber man kann sich auch mehr Zeit nehmen. Ich bin übrigens irgendwo in der Mitte des Kurses.

Es gibt auch Teil II, der heißt 'Building AI' und ist wohl technischer - weitere 50 Std.

Zuerst die simple Methode, ChatGPT über die Microsoft Suchmaschine Bing zu nutzen. Diese nutzt das ältere ChatGPT 3.5 und ist auf 20 Fragen pro Tag begrenzt. Zuerst muss man den Browser Edge installieren, dann dort auf bing.com gehen.

Dort gibt es oben eine Zeile, die bietet Suchen (das ist die normale Suche mit Ergebnislisten) und rechts daneben Chat. Wenn man dort klickt, so bekommt man beim ersten Aufruf einen Prompt, dass man sich einloggen muss. Ich weiß nicht, ob jede Email-Adresse klappt, ich habe meine hotmail-Adresse genutzt.

Dann geht es los: man kann eine Frage eintippen und bekommt eine Textantwort. Im Gegensatz zum Standard-ChatGPT ist dabei jede der Sätze auf eine Website als Quelle referenziert, dh diese Version erfindet nicht Quellen sondern verlinkt sie.

Der zweite Test nutzt die 'richtige' ChatGPT-Version von OpenAI.
Der erste Schritt ist SignUp (und zwar mit Email + Phone). Damit ist man in der (leicht veralteten) und kostenlosen Version, Menschen die das System beruflich einsetzen empfehlen die Plus-Version für 20 $ pro Monat. Ich bleibe bei kostenlos. Dann geht es schon los und Fragen können auf deutsch oder englisch gestellt werden, auf Wunsch wird auch übersetzt. Hier die Antwort auf die Frage nach den Risiken von generative AI:

• Generative KI hat wie jede Technologie das Potenzial für positive und negative Auswirkungen. Eine mögliche Gefahr von generativer KI besteht darin, dass sie verwendet werden kann, um überzeugende gefälschte Inhalte wie gefälschte Nachrichtenartikel, Videos und Bilder zu erstellen, die zur Verbreitung von Fehlinformationen und Manipulation der öffentlichen Meinung verwendet werden können.
• Eine weitere mögliche Gefahr besteht darin, dass generative KI verwendet werden könnte, um realistische Deepfake-Videos zu erstellen, die dazu verwendet werden könnten, den Ruf von Personen zu schädigen oder Propaganda zu verbreiten. Darüber hinaus könnte generative KI neue Formen von Cyberangriffen erstellen, z.B. durch das Erstellen von gefälschten Profilen und deren Verwendung zur Verbreitung von Malware oder zum Diebstahl sensibler Informationen.
• Es besteht auch das Risiko, dass generative KI verwendet wird, um Aufgaben auf eine Weise zu automatisieren, die menschliche Arbeiter verdrängt, was zu Arbeitsplatzverlusten und wirtschaftlicher Ungleichheit führt.
• Schließlich besteht auch die Möglichkeit, dass generative KI zur Schaffung autonomer Waffen verwendet wird, die potenziell Entscheidungen ohne menschliche Eingabe treffen und Schaden verursachen können.
• Es ist wichtig, diese möglichen Gefahren zu berücksichtigen und Maßnahmen zu ergreifen, um sie zu mildern, während wir weiterhin die Entwicklung und Implementierung von generativer KI-Technologie vorantreiben.

Das habe ich mir dann als Text für 5 PPT-Slides strukturieren lassen. Ich könnte den Text auch für eine bestimmte Zielgruppe oder Altersgruppe anpassen lassen.

Hier noch einige Tools die hilfreich sein können:

• ChatGPT Splitter - es geht darum, dass die Textmenge die man in einen Prompt posten kann, begrenzt ist. Wenn man seine ganze Master-Arbeit hochladen und überarbeiten lassen will, so splittet man die. Die Ergebnisse des ChatGPT Splitters können direkt eingefügt werden, sie enthalten jeweils bereits die Kommandos die sagen, dass noch mehr kommt.
• The Best Third-Party Tools and Extensions Built for ChatGPT
• Hilfestellungen zum Formulieren von Prompts, viele Beispiel-Prompts
• eines der Chrome-Plugins, das ein Transcript von Youtube-Videos erstellt. Diesen Text kann man dann splitten und von ChatGPT zusammenfassen und/oder übersetzen lassen: Das Plugin im Chrome Store
• der Artikel enthält auch prakische Tipps für Plugins, wie z.B. die Möglichkeit, sich eine Textzusammenfassung von Youtube-Videos erstellen zu lassen, ohne dass man diese ansehen muss.
• 10 Tipps: Was bringt mir ChatGPT im Alltag?

Midjourney ist vom gleichnamigen Forschungsinstitut. Die Nutzung beginnt so: midjourney.com
Dort steht 'join the beta'. Einen Account auf Discord anlegen (das ist die Gaming Plattform auf der die letzten Pentagon-Leaks waren)
Dann kommt Verification des Emails und des Telefons.
Wenn man dann drin ist (ich musste neu einsteigen) gibt es links eine Leiste, die bietet Midjourney an. Nächster Schritt ist, einen Server auszuwählen (das scheint so was wie eine virtuelle Community sein). Oder einen eigenen starten (was ich getan habe). Dann kommen noch einige recht verwirrende Schritte (terms of service, etc).
Man musste ich einen Kanal auswählen (zB newbies-123), dann geht es los.

Jetzt sieht man die vielen Kreationen die andere auf dem System in diesem Kanal gerade erzeugen, recht interessant.

Ganz unten auf dem verwirrenden Hauptschirm ist eine Prompt-Zeile.
/imagine eingeben, dann kommt eine Aufforderung für einen Prompt. Ich habe gewählt 'a family with a dog in the rain' (deutsche Sprache wäre auch gegangen)

Ich habe leider bekommen
'Due to extreme demand we can't provide a free trial right now. Please /subscribe or try again tomorrow.'

Hier der vermutliche Hintergrund: Midjourney ends free trials - Die Angebote starten bei monatlich 10 $ pro Monat.

Das Tool ist auf der Website von OpenAI. Dort kommt das Angebot "Try DALL·E 2" und dann muss man einen Account anlegen oder einloggen.

Wer noch keinen OpenAI-Account hat, muss den an dieser Stelle anlegen und verifizieren, siehe meine Anleitung für ChatGPT.

Dann kommt die Ernüchterung: Auch das ist nicht (mehr) kostenlos, man muss Credits kaufen. Minimum ist 15 US$ + Steuern = 18$. Ich habe mir das geleistet. Dafür gibt es 115 Eingaben, die jeweils 4 Bilder generieren, das ist 'zum Rumspielen' für einen Nicht-Profi wie mich mE reichlich.

Nun geht es schon los, der Bildschirm zeigt 'Start with a detailed description' oder 'Surprise me'. Oder 'upload an image to edit'. Eingaben auf deutsch werden übrigens nicht akzeptiert. Ich mache den ersten Versuch:

"a family with 2 dogs in the rain, background is a moon-like landscape with big machines on the horizon" - wenn man die Bilder nun vergrößert sieht man in jedem der Bilder 'Eigenartigkeiten', ganz stark in Bild 4. Oder der Dackel in Bild 2 hat keine Hinterbeine.

Mit ... 'Generate variations' kann man von einem der Bilder neue Varianten erzeugen

Neuer Versuch: "female person on top of mountain, other high mountains in the background, end-time mood, hand-drawing style"

Zitat: " . . Die Basis der Bildgeneratoren sind riesige Datensätze: Milliarden von Bildern, mit denen Modelle wie DALL·E, Midjourney und Stable Diffusion trainiert wurden. Einer dieser Datensätze ist Laion-5B. Er umfasst 5,85 Milliarden Text-Bild-Paare, wovon 2,3 Milliarden auf Englisch und 2,2 Milliarden in anderen Sprachen verfasst sind.

"Enthalten sind Unmengen von Bildern, die eigentlich unter das Urheberrecht fallen. Der gemeinnützige Verein, der Laion-5B zur Verfügung stellt, beruft sich auf eine rechtliche Sonderstellung, die Forschende vom normalen Urheberrecht ausnimmt.

"Die kommerziell orientierten Firmen hingegen, die Bilder auf Grundlage von Laion-5B erzeugen, argumentieren, dass die entstandenen Werke keine exakten Kopien von vorhandenen Bildern seien. Es sind im Übrigen die gleichen Unternehmen, die dem Verein die finanziellen Mittel zur Verfügung stellen, die er für seine Arbeit benötigt.

Das wird als Datenwäsche bezeichnet: How Academic and Nonprofit Researchers Shield Tech Companies from Accountability.
Und noch komplizierter:

Anne Lauber-Rönsberg, Professorin für Recht an der TU Dresden: "Die Nutzung bestehender Inhalte für das Training von KI-Systemen wird grundsätzlich von den Regelungen zum Text- und Data-Mining im europäischen Urheberrecht erfasst (§ 44 b und § 60 d UrhG), wonach eine automatisierte Analyse zur Extraktion von Informationen zulässig ist. Wenn eine Software Daten erfasst, um sie zum Beispiel als Trainingsdaten aufzubereiten, dann ist das grundsätzlich zulässig, sofern diese Daten nach der Verarbeitung wieder gelöscht werden."

Wem gehören die resultierenden Bilder?
Midjourney gibt die Rechte an die Menschen ab, die den Text eingegeben haben, bei DALL·E hingegen verbleiben sie bei der Mutterfirma OpenAI.
Das United States Copyright Office negiert beide Möglichkeiten. In einer Entscheidung über das Urheberrecht eines KI-generierten Comics befand die Regierungsorganisation, dass die enthaltenen Illustrationen nicht das Produkt menschlicher Urheberschaft seien. Hier zur Urheberrechtsfrage, die österreiche juristische Lage - Wer ist Urheber eines KI-Werkes?

In der Spielebranche wirkt sich das alles bereits aus: Grafiker:innen berichten, dass sie nur noch für das Ausbessern von AI-generierten Bildern eingesetzt werden, mit geringerer Bezahlung.

Das System ist sehr gründlich, es analysiert 315 Input-Variable, z.B. Alter, Geschlecht, Beziehungsstatus, Sprachkenntnisse, ob die Person Kind(er) hat, ob allein wohnt, in welcher Umgebung, wie viele Mitbewohner, finanzielle Situation, Verdacht auf Drogenkonsum, Zugang zum Arbeitsmarkt, etc. Die 'Herkunft' (ethnicity, Migrationshintergrund) wird nicht explizit abgefragt, aber dies wird über die Qualität ihrer Holländisch-Kenntnisse miterfasst. Viele dieser Variablen wurden durch Sozialarbeiter subjektiv abgeschätzt.

Ein Kritikpunkt ist, dass Variable für den Risk Score verwendet werden, die genau der Grund für ihre Notsituation sind: schlechte Sprachkenntnisse, Kinder-allein-erziehen, zu wenig Geld um ohne Mitbewohner wohnen zu können, Drogen-Probleme. Der Kritikpunkt ist, dass dies genau die Problemstellungen sind, die Hilfe brauchen, z.B. Kinderbetreuung, Sprachkurse, Entziehungskurse.

Die Analyse des Algorithmus ergab (wenig überraschend), dass der Risk Score am höchsten war bei jungen Frauen mit Kind. Andere Variable die eine negative Prognose ergaben sind das Wohnen in einer Umgebung mit hohem Ausländeranteil und engen Wohnverhältnissen, kombiniert mit schlechten Sprachkenntnissen (was für den Migrationshintergrund steht).

Die Unterlagen der Stadt Rotterdam besagen, dass der Einsatz eine Verbesserung von 50% gegenüber einer Zufallsauswahl bringt. Dies wird von Experten als 'nicht wirklich besser als Zufall' kategorisiert. Das System enthält sogar ein Check auf 'Voreingenommenheit' (sind spezifische Gruppen überrepräsentiert bei den Verdächtigen), diese Daten wurden aber von der Stadt nie ausgewertet.

Hier der Artikel dazu: Inside the Suspicion Machine und hier die ausführliche Analyse Lighthouse Reports Methodology - Andere Städte setzen übrigens dieses oder ähnliche System ebenfalls ein, aber nur Rotterdam hatte einer Analyse zugestimmt.