Skeptisches Staunen: KI-Anwendungen in der Zivilgesellschaft

Am 09. Dezember war digital verein(t) eingeladen, die Fachtagung zu Chancen, Grenzen und Risiken von KI im Ehrenamt in Dornbirn mit einem Impulsvortag und einem Workshop zu begleiten. Unser Mobilreferent Sebastian Honert folgte gerne der Einladung. Seinen Impulsvortrag findet ihr auf YouTube. Ihr möchtet KI für eure Vereinsarbeit nutzen? Dann kommt in einen unserer Workshops oder meldet euch für die Beratungssprechstunde an.

Was brauchen Ehrenamtliche, um zu einem souveränen Umgang mit KI-Anwendungen zu gelangen? So lautet die Frage, die Sebastian in seinem Vortrag stellt.

Als erstes geht es darum, zu verstehen, was KI-Anwendungen sind und wie sie funktionieren. KI-Anwendungen sind keine Zaubermaschinen, sondern Entscheidungssysteme, die Muster in großen Datenmengen erkennen und auf Basis dieser Muster neue Inhalte erzeugen können.

Wo werden KI-Entscheidungssysteme eingesetzt? Wir nutzen zum Beispiel generative KI-Anwendungen, um Texte für unsere Öffentlichkeitsarbeit zu produzieren. Wir nutzen KI auch im Straßenverkehr, um Fahrzeuge autonom fahren zu lassen. KI wird auch im Krieg genutzt: Drohnen entscheiden heute zum Teil selbständig, welches Ziel angegriffen wird und welches nicht.

Am Ende des Vortrags gibt Sebastian einen Leitfaden für Ehrenamtliche. Mit Hilfe des Leitfadens kann Schritt für Schritt überlegt werden, wo KI-Anwendungen in der eigenen Vereinsarbeit sinnvoll eingesetzt werden können. digital verein(t) unterstützt euch gerne bei der Umsetzung.

Künstliche Intelligenz: Entscheidungssysteme

„Künstliche Intelligenz“ ist ein Sammelbegriff, der ganz unterschiedliche Forschungs- und Anwendungsbereiche bezeichnet ‒ etwa im Zusammenhang mit Mustererkennung, Bildauswertung, Robotik oder der Spieleprogrammierung. Mit Blick auf die aktuellen technologischen Entwicklungen stellen wir uns im Projekt digital verein(t) die Frage, welche Chancen und Risiken die Nutzung von KI-Anwendungen in der Zivilgesellschaft mit sich bringt.

Als Arbeitsdefinition möchten wir uns auf KI in der Funktion als Entscheidungssysteme konzentrieren. Unter Künstlicher Intelligenz verstehen wir algorithmische Entscheidungssysteme, zum Beispiel in Form neuronaler Netze, die auf der Grundlage maschinellen Lernens Muster in großen Datenmengen erkennen und reproduzieren können.

Neuronale Netze sind Netze aus künstlichen Neuronen, die biologischen Gehirnstrukturen nachempfunden wurden. Im Allgemeinen funktionieren diese Netze so, dass sie ein Eingangssignal (links) durch eine oder mehrere Verarbeitungsschichten bestehend aus gewichteten Knoten leiten (Mitte), um am Ende eine Auskunft darüber zu geben, mit welcher Wahrscheinlichkeit sich das jeweilige Eingangssignal einem bestimmten Ergebnis zuordnen lässt (rechts).

Wo werden Entscheidungssysteme eingesetzt?

Entscheidungssysteme können zum Beispiel dabei unterstützen, medizinische Diagnosen zu stellen oder den Netzwerkverkehr in Unternehmen und Organisationen zu überwachen. An der Börse entscheiden solche Systeme darüber, ob und zu welchen Bedingungen bestimmte Finanztransaktionen durchgeführt werden. Damit autonome Fahrzeuge selbständig und sicher am Straßenverkehr teilnehmen können, müssen sie ebenfalls ständig eine ganze Reihe von Entscheidungen treffen:

• Ist das da eine Ampel, und wenn ja: Steht sie auf rot, gelb oder grün?
• Wo verläuft die Fahrbahnmarkierung?
• Wie weit ist das vorausfahrende Fahrzeug entfernt und wie schnell fährt es?
• Was ist das für ein Verkehrsschild?

Sprachmodelle wie ChatGPT basieren im Wesentlichen auf KI-Entscheidungssystemen. Sie treffen auf der Grundlage riesiger Datenmengen Entscheidungen darüber, welches Wort in einem bestimmen Kontext sinnvollerweise als nächstes folgen könnte.

Ebenso kommen im Zusammenhang mit bilderzeugenden KI-Anwendungen Entscheidungssysteme zum Einsatz, speziell in Generative Adversarial Networks (GANs). Dort haben sogenannte „Diskriminatoren“ – also Entscheidungsfunktionen – die Aufgabe, bei der Erzeugung von Bildern, Videos oder Musikstücken zwischen echten Daten und von einem Generator erzeugten Daten zu unterscheiden, um dadurch die Qualität des Outputs zu verbessern.

Autonome Fahrzeuge und Fluggeräte kommen auch in militärischen Konflikten zum Einsatz. Hier treffen algorithmische Systeme unter anderem Entscheidungen darüber, welche Ziele bombardiert werden sollen und welche Kollateralschäden in Kauf genommen werden.

Sind algorithmische Entscheidungssysteme gut oder schlecht?

Das Beispiel der Kriegsführung zeigt, dass die Bewertung von Künstlicher Intelligenz vor allem davon abhängt, zu welchem Zweck sie eingesetzt wird. Das Spektrum ist dabei extrem breit: KI kann bei der Verbesserung der medizinischen Versorgung oder bei der Entwicklung neuer Medikamente ebenso helfen wie bei der staatlichen Massenüberwachung in autokratischen Systemen oder bei der Liquidierung politischer Rivalen durch Drohneneinsätze.

Der „Wert“ von KI für die Zivilgesellschaft hängt also im Wesentlichen davon ab, was wir damit tun und zu welchem Zweck.

Von Magie nicht zu unterscheiden?

Die Fähigkeiten von KI-Anwendungen haben mittlerweile ein Niveau erreicht, das menschliche Fähigkeiten in vielen Bereichen weit hinter sich gelassen hat. Die Ergebnisse versetzen uns regelmäßig aufs Neue in Staunen. Der britische Science-Fiction-Autor Arthur C. Clarke hat einmal gesagt:

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.“

Das trifft sicher auch auf KI-Anwendungen zu. In unseren digital verein(t)-Workshops geht es jedoch eher darum, den magischen Aspekt von Künstlicher Intelligenz zu entzaubern. KI-Systeme sind schließlich keine Zauberei.

Künstliche Intelligenz: Eine ambivalente Technologie

Aus Erfahrung wissen wir, dass neue Technologien häufig ambivalent sind. Sie befähigen uns, bestimmte Dinge zu tun, und gleichzeitig entstehen durch die Nutzung neue Probleme. Denken wir zum Beispiel an die Entwicklung digitaler Kommunikationsmedien und sogenannter „Social Media“-Plattformen: Auf der einen Seite ermöglichen sie ein nie dagewesenes Maß an Vernetzung. Auf der anderen Seite befeuern sie eine aus dem Ruder gelaufene Aufmerksamkeitsökonomie, Desinformation, Überwachung, Populismus und Hass. Diese Doppelseitigkeit von Chancen und Risiken gibt es so auch im Bereich der Künstlichen Intelligenz.

Die konkreten Anwendungen von KI-Systemen liegen deshalb üblicherweise innerhalb der Schnittmenge von Chancen und Risiken.

Chancen: Selbstermächtigung

KI lässt sich in Teilen durchaus als Werkzeug der Selbstermächtigung verstehen: Sie ermöglicht es uns, Dinge zu tun, die wir bisher nicht tun konnten, weil uns dazu die individuellen Fertigkeiten oder schlicht die Ressourcen gefehlt haben. KI-Systeme eignen sich etwa gut dazu, Prozesse zu automatisieren oder zu beschleunigen.

KI kann auch dazu beitragen, unsere Kommunikation zu verbessern. Sie kann Textentwürfe für uns schreiben, Texte zusammenfassen, Texte in andere Sprachen übersetzen und komplizierte Texte in einfachere Texte umschreiben.

Für die Öffentlichkeitsarbeit von Vereinen und ehrenamtlichen Organisationen kann KI damit einen echten Mehrwert bieten – zum Beispiel, wenn wir eine barrierearme Vereinswebsite in leichter Sprache anbieten wollen oder fremdsprachige Zielgruppen mehr oder weniger „auf Knopfdruck“ gezielt in unsere Informationsangebote einbeziehen möchten.

KI kann auch zur Ausarbeitung von Strategien für die Vereinsarbeit eingesetzt werden, zum Beispiel für Social Media-Redaktionspläne, Fördermittelanträge, das Werben neuer Mitglieders oder das Vereinsmarketing.

Insgesamt haben KI-Anwendungen das Potenzial, finanzielle und personelle Ressourcen einzusparen. Für Vereine und ehrenamtliche Einrichtungen ist das ein großer Anreiz, diese Technologien zu nutzen.

In unseren digital verein(t)-Workshops zeigen wir anhand praktischer Beispiele und mit interaktiven Übungen, wie sich mit KI-Anwendungen die Arbeit von Ehrenamtlichen in Vereinen gestalten lässt.

Risiken: Selbstentmachtung

Dass KI-Anwendungen „Ermächtigungs-Technologien“ sind, ist aber nur die eine Seite der Medaille. Auf der anderen Seite gibt es diverse Risiken, die mit dem Einsatz von KI-Technologien einhergehen.

Die Nutzung von KI stelle unsere eigene Autonomie in dem Maße infrage, in dem wir uns auf sie verlassen. Wenn ich meine Texte nur noch von KI-Anwendungen schreiben lasse, verlerne ich es irgendwann, meine eigenen Gedanken zu systematisieren, eigene Texte zu schreiben oder Prozesse entlang meiner tatsächlichen Bedarfe zu definieren. Das ist nicht nur im Kleinen so: In dem Maße, in dem wir gesellschaftliche Teilbereiche der KI überlassen, verkleinern wir unsere Spielräume zu deren Neugestaltung oder Korrektur.

Dass wir mit KI Texte, Bilder, Musik und Videos erstellen können, kann in der Öffentlichkeitsarbeit hilfreich sein. Die Kehrseite der Medaille ist allerdings eine Flut von Fehl- und Desinformationen, deren schiere Menge und „Qualität“ (das heißt sie sind zunehmend weniger von Informationen mit einem echten Wirklichkeitsbezug zu unterscheiden) direkt auf die breite Verfügbarkeit von KI-Anwendungen zurück geht.

Auch sind KI-Anwendungen naturgemäß fehleranfällig. Entscheidungssysteme sind Heuristiken, denen ein tiefes Weltverständnis und die Möglichkeit zur Reflexion fehlt. KI-Entscheidungssysteme sind immer nur so gut oder schlecht wie die verwendeten Trainingsdaten.

Auch im Kontext von Datenschutz und Urheberrecht sind KI-Anwendungen problematisch. Zum einen arbeiten nur die wenigsten KI-Anwendungen DSGVO-konform. Und beim Training von KI-Anwendungen spielt das Urheberrecht so gut wie keine Rolle. Hier zeigt sich ein steiles Machtgefälle zwischen Herstellern und Anwendern. Als Anwender sind wir maximal transparent, während die Technologie für uns häufig maximal intransparent bleibt. Wir wissen nicht, auf welcher Datengrundlage KI-Systeme zu Entscheidungen kommen. Ihre Entscheidungen können auf ganz anderen Werten aufbauen als denen, die unserer Vereinsarbeit zugrunde liegen.

Hinzu kommt, dass die Entwicklung und das Training von KI-Modellen mit einem sehr hohen Energie- und Wasserverbrauch einhergeht. Das Training wird von den Unternehmen zum Teil an Clickworker in Ländern wie Kenia ausgelagert, die regelmäßig von Ausbeutung, Überwachung und Perspektivlosigkeit berichten.

Bei allem Staunen über KI ist also Skepsis angebracht. Denn wenn wir die vermeintlichen KI-Zaubertricks genauer untersuchen, stellen wir fest, dass sich dahinter viele ungelöste Probleme offenbaren.

Fluch oder Segen?

Die Entwicklung und Nutzung von Künstlicher Intelligenz geht mit Vor- und Nachteilen einher. Sind KI-Anwendungen eher Fluch oder eher Segen? Wir hoffen es ist klar geworden, dass die Antwort wahrscheinlich lauten muss: Es kommt darauf an.

Worauf es ankommt, möchten wir abschließend anhand eines kurzen Leitfadens zusammenzufassen. Wenn wir KI für die Vereinsarbeit nutzen, dann sollten wir das möglichst umsichtig tun – mit einem Mindestmaß an digitaler Souveränität.

Leitfaden: KI-Anwendungen in der Zivilgesellschaft nutzen

Datenschutz

Wenn wir KI-Anwendungen nutzen, sollten wir darauf achten, dass das DSGVO-konform geschieht und unsere Privatsphäre und die der Vereinsmitglieder respektiert wird. Die KI sollte für uns da sein, und nicht wir – in der Funktion als Datenspender:innen – für die KI-Wirtschaft. Es gilt stets, die eigenen, teils hochsensiblen persönlichen Daten zu schützen und nicht unbedacht preiszugeben.

Transparenz

Auch sollten wir größtmögliche Transparenz einfordern, wenn es darum geht, wie die genutzten KI-Anwendungen funktionieren, wer sie betreibt, mit welchen Daten sie trainiert werden, welche Daten sie verarbeiten und welche Stakeholder zu welchem Zweck Zugriff auf diese Daten erhalten. Ohne das Wissen um die Funktionsweise können wir keine digital souveränen Entscheidungen treffen.

Bedarfsorientierung

Wir sollten zudem unsere konkreten Bedarfe kennen. Und wir sollten von Fall zu Fall prüfen, inwiefern diese Bedarfe überhaupt von Digitaltechnologien im Allgemeinen bzw. von KI-Anwendungen im Speziellen bedient werden können. Es wird heute gelegentlich so getan, als wäre KI die Lösung all unserer Probleme – nach dem Motto: „KI kann sprechen, also kann sie alles!“ Das stimmt so natürlich nicht. Viele Probleme lassen sich weiterhin viel effektiver ohne KI lösen.

Vor- und Nachteile abwägen

Ebenso sollten wir immer die Vor- und Nachteile der verwendeten Technologien gegeneinander abwägen. Wir sollten uns fragen:

• Welche Vorteile hat eine technische Lösung gegenüber einer anderen?
• Welche Kompromisse erfordert der Einsatz einer digitalen Lösung, etwa beim Thema Datenschutz oder Urheberrecht?
• Auf welche Weise ermächtigen bzw. entmachten uns die verwendeten Lösungen?
• Wie werden wir die KI wieder los, wenn sie sich im nicht als hilfreich erweist?
• Macht es überhaupt Sinn, eine bestimmte Aufgabe an eine KI zu delegieren?

In zivilgesellschaftlichen Organisationen gibt es viele Aufgaben und Tätigkeiten, die vielleicht gerade nicht „wegautomatisiert“ werden sollten, ganz einfach, weil dabei nicht Effizienz und Produktivität im Vordergrund stehen, sondern die Arbeit für und mit Menschen.

Als Teil der Zivilgesellschaft haben wir nicht die Aufgabe, eine marktwirtschaftliche Optimierungslogik nachzuahmen. Vielmehr haben wir die Aufgabe, Rückzugsräume zu schaffen gegen eine immer stärker um sich greifende Tendenz zur „Optimierung“ aller Lebensbereiche nach Maßgabe von Effizienz- und Produktivitätsgewinnen.

Beratungsangebote nutzen

Digitalisierung ist oft kompliziert. Zum Glück gibt es viele Beratungsangebote. Lasst euch nicht davon abhalten, diese Angebote wahrzunehmen, nur weil plötzlich viele Menschen so tun, als müssten wir alle bereits verstanden haben, was KI eigentlich ist, wie sie funktioniert und wie sie eingesetzt werden sollte. Viele Fragen zum Thema KI und Zivilgesellschaft sind noch völlig offen, zumal sich die Technik schnell weiterentwickelt.

Ein mögliches Beratungsangebot ist digital verein(t). Wir laden euch herzlich dazu ein, unsere Workshops zu besuchen und unsere kostenlose Beratungssprechstunde wahrzunehmen.

Wir sagen danke!

Zum Schluss möchten wir uns ganz herzlich im Namen des gesamten digital verein(t)-Teams bei Kriemhild Büchel-Kapellar bedanken, dass wir die Fachtagung Ehrenamt in Dornbirn mit einem Vortrag und einem Workshop begleiten durften. Außerdem ein ganz herzliches Dankeschön an Klemens Thaler und seine Kolleg:innen vor Ort für die ausgezeichnete Organisation und Betreuung während der Veranstaltung. Danke!

Hier geht’s zum Video auf YouTube: