KI in der Partizipation – Erfahrungen und Leitlinie

Das Versprechen von künstlicher Intelligenz in der Partizipation ist groß: effizientere Verfahrensabwicklung und Inklusion sind dabei die meistgenannten Argumente. So war es auch auf der Safe Democracy Convention 2025 in Wien zu hören. Doch bei dem augenscheinlichsten Thema, der Analyse einer Vielzahl an Rückmeldungen über so genannte LLMs, also Large Language Models, ist Vorsicht geboten.

Sensibler Umgang mit anvertrauten Inhalten

Denn die von Beteiligten für eine konkrete Situation zur Verfügung gestellten Inhalte sind uns nicht dafür anvertraut worden, um sie heute mit KI auszuwerten und morgen an Andere wieder auszugegeben. Die aktuell gut funktionierenden LLMs sind auf Basis von „data scraping“ trainiert worden und oft in US-Hand mit Google Bard, LLaMA von Meta, ChatGPT und Bing AI. So sieht ChatGPT seine Gefahren bei seinem Einsatz in Partizipationsverfahren bei geringere Transparenz, Diskriminierung, fehlender Empathie oder der Manipulationsanfälligkeit. Bevor LLMs eingesetzt werden, sollten Guidelines zur sicheren Nutzung berücksichtigt werden.

Kollegin Romy Grasgruber-Kerl vom Partizipationsbüro sieht daher lokale KI-Installationen von Vorteil. „Während wir bei Decidim KI für Übersetzungen einsetzen, nutzen andere Betreiber bspw. Speech to Text-Funktionen. Für Verwaltungsbedienstete ist Unterstützung bei der Eingabe von Texten und Auswertung von Inhalten besonders hilfreich. Da wird sich in den nächsten Jahren bei Decidim vieles tun“, schätzt sie den KI-Stand ein.

Gute Erfahrungen in der Arbeit mit KI

Bei DIALOGPLUS setzen wir KI aktuell immer wieder in der Qualitätssicherung ein. So testen wir im Vorfeld eines Verfahrens die Verständlichkeit unsere Vermittlungsarbeit. Einfache Sprache wird anhand von Personas geprüft. Das Angebot Sprachnachrichten statt Text abzugeben, macht Verfahren niederschwelliger. Die Übernahme mit speech to text-Modulen ist dann ebenso ein Thema wie beispielsweise die automatische Schrifterkennung auf Klebezettel.

Unsere KI-Leitlinie: Transparenter Einsatz, keine LLMs für anvertraute Daten und ein trainiertes Auge für das Gemeinwohl

Aus den bisherigen Erfahrungen halten wir uns bei DIALOGPLUS an die folgende KI-Leitlinie. Wo und wie wir KI einsetzen wollen, stimmen wir vor ihrem Einsatz ab und machen es in den Verfahren zu den Beitraggebenden transparent. Die Erfahrungen unsere Mitarbeiter:innen für die Auswertung von Rückmeldungen stammen von niederschwelligen, aktivierenden und zukunftsgewandten Veränderungsprozessen im deutschsprachigen Raum, die wir persönlich durchführen. Dies ist aktuell unsere wertvollste Unternehmens-Ressource – und qualitativ besser als LLMs. Denn unsere Beteiligungs-Augen werden ähnlich einem Muskel regelmäßig trainiert. Damit erkennen wir benachteiligte Personengruppen, implizite Toxizität, können Fragen so stellen, dass es neue Erkenntnisse gibt und stellen sicher, dass Personen mit größeren (finanziellen) Ressourcen nicht die Leisen in die Unsichtbarkeit abdrängen. DIALOGPLUS verwendet keine Large Language Models für die Analyse von Rückmeldungen.

Freudvoller KI-Einsatz, aber hinterfragen notwendig

Wie der Einsatz von künstlicher Intelligenz rasch zu Selbstwirksamkeit und freudvollen Erkenntnissen führt, präsentierte gerade mein Kollege Fabian Mayrhofer von der Caritas Stadtteilarbeit im Rahmen eines Projekts für die Gebietsbetreuung Stadterneuerung in Floridsdorf. Mit bildgebender KI entwarf er mit Jugendlichen die Zukunft für einen resilienten und klimafitten Stadtteil rund um den Kinzerplatz. „Der spielerische und einfache Zugang hat den jungen Menschen einen neuen Blick auf die Weiterentwicklung eines sozial gerechten, öffentlichen Raums ermöglicht.“ Das Hinterfragen, was die KI zeigt, was sie auslässt und welche Gedankenkonzepte oder Vorurteile der KI-Entwickler:innen dabei mitschwingen, ist für das Erlernen eines kritischen und kompetenten Umgangs mit KI entscheidend. Die Ergebnisse sprechen für sich.