Jenny Pfister hat mit Künstlicher Intelligenz nichts am Hut. Durch Zufall wird sie Mitglied eines Bürgerrats. Acht Monate später vertritt sie das Gremium im Stuttgarter Wissenschaftsministerium und überreicht ein Strategiepapier.
Zuerst dachte sie, die Stadt Hemsbach schicke ihr einen Strafzettel. Als sie dann den Brief öffnete und die Zeilen überflog, war sie vollends verwirrt. Der Bürgermeister Jürgen Kirchner schrieb sie persönlich an: „Ihre Meinung ist gefragt!“ Und zwar zu dem Thema Künstliche Intelligenz: Die Universität Tübingen wolle einen Bürgerrat aus rund 40 Personen bilden, und sie, Jenny Pfister aus Hemsbach, einem Städtchen an der Grenze zu Hessen, habe nun „die Möglichkeit, sich bei diesem zukunftsweisenden Thema einzubringen“.
Jenny Pfister, 43, ist eigentlich eine selbstbewusste Frau. Sie ist Mutter von drei Kindern, hat eine kaufmännische Ausbildung abgeschlossen und arbeitet seit vielen Jahren für einen Personaldienstleister in Mannheim. KI war ihr zwar irgendwie ein Begriff. „Wir haben zuhause eine Alexa, die Kinder sind in den sozialen Medien unterwegs, die Firma besitzt ein firmeneigenes Chat GPT“, zählt sie auf. Und manchmal schaue sie mit ihrem Mann Science-Fiction-Filme wie „Person of Interest“, die einem Angst vor KI einjagen. Aber damit endet auch schon ihre Expertise. „Ich bin keine Forscherin, habe nichts mit IT am Hut – wie soll ich Wissenschaftlern von der Universität behilflich sein?“ Sie wollte schon absagen.
Ein 31-seitiges Empfehlungsschreiben für Ministerin Olschowski
Doch dann beschlich sie eine Ahnung, sie könnte eine einmalige Gelegenheit verpassen. Schließlich ging es hier um eine Technologie mit weitreichenden Folgen für künftige Generationen, und sie könnte heute ihre Perspektive darauf einfließen lassen. Also schrieb sie zurück, dass sie interessiert sei. „Die werden mich schon nicht nehmen.“ Dachte sie. Und so nahm alles seinen Lauf.
Seither sind acht Monate vergangen, und Jenny Pfister hatte an diesem Montag einen wichtigen Termin bei der baden-württembergischen Wissenschaftsministerin. Als eine von fünf Vertretern des Bürgerrats „KI und Freiheit“ überreichte sie Petra Olschowski ein „Strategiepapier“. Das 31-seitige Empfehlungsschreiben gibt Antworten auf die große Frage: „Wie können Wissenschaft und Gesellschaft gemeinsam die Zukunft der Forschung zu Künstlicher Intelligenz gestalten?“ Und es trägt auch die Handschrift von Jenny Pfister.
Bürgerräte sind Versammlungen von 30 bis 200 zufällig ausgewählten Bürgerinnen und Bürgern, die über gesellschaftsrelevante Themen diskutieren und am Ende der Politik Handlungsempfehlungen übergeben. Zuletzt gab es Bürgerräte zu Themen wie Ernährung, Verkehrswende oder Bildung. Ein Bürgerrat zur Zukunft von KI erschien der Universität Tübingen überfällig. „Wir sehen eine wachsende Kluft zwischen der schnellen Entwicklung der KI-Forschung und dem Wissensstand der breiten Öffentlichkeit“, sagt Patrick Klügel von der Universität Tübingen, der den Bürgerrat initiiert hat.
Wohin die Reise der Forschung geht, sollte nicht allein von monetären Interessen der Wirtschaft abhängen. „Zumal viele heutige KI-Anwendungen aus privatwirtschaftlicher Forschung entstanden sind. Deshalb brauchen wir die Perspektive von Bürgerinnen und Bürgern, die das Gemeinwohl im Auge haben und die öffentlich finanzierte Forschung begleiten.“ Die Universität Tübingen gehört zum Cyber Valley, Europas größter KI-Forschungskooperation, in die bereits öffentliche Gelder in dreistelliger Millionenhöhe geflossen sind.
Aber wie bringt man rund 40 unterschiedlich informierte Bürger, darunter Datenschutz-Verfechter und Personen, die nicht einmal ein Smartphone besitzen, innerhalb von vier Treffen von jeweils 10 bis 16 Uhr auf den neuesten Stand? „Zuerst konnten alle ein Grundverständnis von KI entwickeln“, berichtet Patrick Klügel. Durch einen analogen Computer, der nur aus Briefumschlägen mit Spielsituationen besteht und schrittweise lernt, Tic-Tac-Toe zu spielen, brachte die Tübinger Professorin Ulrike von Luxburg den Teilnehmenden das so genannte maschinelle Lernen näher, einen wesentlichen KI-Bereich. Hier sei keine „inhärente Intelligenz“ oder ein ominöser Agent am Werk, betonte Ulrike von Luxburg, sondern lediglich ein lernendes System, das mithilfe von Wahrscheinlichkeiten Muster in Daten erkenne und Vorhersagen ableiten könne. Jenny Pfister ging bei diesem Vortrag ein Licht auf. „Dadurch hat KI für mich viel von ihrem Schrecken verloren.“
Später stellten junge Wissenschaftler vor, an welchen KI-Anwendungen sie derzeit forschen. Lisa Haxel arbeitet zum Beispiel an einer „KI-optimierten Hirnstimulation zur Behandlung neurologischer Erkrankungen“. Und Kerstin Rau nutzt KI, um präzise Karten von Bodeneigenschaften zu erstellen, die etwa Landwirten, Städteplanern oder Umweltschützern die Arbeit erleichtern könnten.
Ein Wissenschaftler schilderte auch, wie bereits fertige KI-Lösungen an bürokratischen Hürden scheiterten oder erst nach Jahrzehnten umgesetzt werden könnten. „Da habe ich gespürt, wie frustrierend die Arbeit von Wissenschaftlern sein kann“, sagt Jenny Pfister. „Und mir wurde klar, welche Verantwortung wir jetzt haben. Unsere Meinung ist wirklich gefragt.“
Sie beeindruckt vor allem, was Künstliche Intelligenz bei der Behandlung von Krankheiten alles bewirken kann. „Meine Freundin leidet an Demenz“, erzählt sie. Würden Daten zur Gehirnaktivität vorliegen aus der Zeit vor einer solchen Erkrankung, könnte durch KI die Aussicht bestehen, diese Daten bei der Behandlung als anzustrebenden Zielzustand zu nutzen. So könnten Gedächtnisfunktionen und motorische Fähigkeiten durch gezielte Hirnstimulation zurückgewonnen werden. „Es wäre schön, wenn Patienten eines Tages keine Zeit mehr für Therapien verschwenden müssten, die ihnen am Ende gar nicht helfen.“
Bei aller Euphorie sieht sie aber auch Gefahren. „KI sollte natürlich nicht dazu führen, dass Ärzte irgendwann ihr Handwerk nicht mehr beherrschen. KI darf nie mehr sein als eine Empfehlung. Wir sollten das eigenständige Denken nie verlernen.“ Jenny Pfister glaubt an Gott und hält die diesjährige Jahreslosung für hochaktuell: „Prüft alles und behaltet das Gute!“
Auch andere Teilnehmende bewegte die Frage, welche Chancen und Risiken KI im Gesundheitsbereich birgt. Der Bereich Medizin und Gesundheit war daher einer von mehreren, zu denen sich die Räte in Arbeitsgruppen austauschten. Eine andere Gruppe knöpfte sich den Einsatz von KI in den Medien vor, wo diese Wohl und Wehe sein kann: Wie kann KI helfen, Falschinformationen zu enttarnen? Aber auch: Wie kann sich die Gesellschaft vor Manipulationen durch KI schützen? Weitere Gruppen setzten sich mit dem Einsatz von KI im Verkehr und einem verantwortungsvollen Umgang mit Daten im Allgemeinen auseinander.
Wie umgehen mit Datenspenden für die Medizin?
Einig war man sich am Schluss, dass der Austausch zwischen Wissenschaft und Gesellschaft dringend verstärkt werden müsse, auch um Ängste und Vorurteile abzubauen. Auch empfiehlt der Bürgerrat, dass der Forschung generell Daten einfacher bereit gestellt werden sollten, wobei jeder Bürger festlegen können sollte, ob und welche Daten er für welche Zwecke spendet.
Im Arbeitskreis Gesundheit und Medizin sprach sich eine Mehrheit der Räte sogar dafür aus, anonymisierte „Datenspenden“ von Patienten als Grundsatz festzulegen – „außer man widerspricht“. So eine Widerspruchslösung ist auch bei Organspenden seit langem in der Diskussion. Sechs Personen des Arbeitskreises bereitet diese Vorstellung jedoch Unbehagen, wie in dem Strategiepapier festgehalten wurde.
Konkrete Vorschläge machte der Bürgerrat bei der Frage, wie gesellschaftliche Belange über reine Wirtschaftsinteressen hinaus bei der Förderung von KI-Forschung stärker berücksichtigt werden könnten. „Wir empfehlen ein zusätzliches Budget, das ausschließlich für Forschungsthemen vorgesehen ist, die aus einem gesellschaftlichen Bedürfnis hervorgegangen sind“, heißt es in dem Strategiepapier. Bürger sollten die Möglichkeit erhalten, eigene Vorschläge bei einer Sammelstelle einzureichen. Ein Expertengremium sollte prüfen, ob diese ethisch vertretbar und auch realisierbar sind.
Patrick Klügel nimmt aus den vergangenen Monaten vor allem zwei Erkenntnisse mit: „Menschen, die sich anfangs nicht kompetent fühlen, etwas über Künstliche Intelligenz zu sagen, kann so ein Projekt befähigen, wichtige Perspektiven bei der Gestaltung von KI-Forschung einzubringen“, sagt er. Auch sei er überrascht, dass alle Teilnehmenden bereit waren, „konstruktiv mitzudenken“, sagt Klügel. „Es hätte ja auch sein können, dass sie sich eher auf Regulierungen konzentrieren, so wie wir es derzeit im politischen Diskurs sehen.“
Für Jenny Pfister stellt sich nach all der Arbeit die Frage, ob das Empfehlungsschreiben wirklich einen Unterschied machen wird. „Sind wir nicht viel zu spät dran?“ Sie denke an Länder wie China und die Vereinigten Staaten, die in der KI-Forschung viel aggressiver vorgingen und es mit dem Datenschutz nicht so genau nähmen. „Werden uns diese Länder nicht sowieso am Ende links liegen lassen?“
Was sie sicher sagen kann: Die Teilnahme am Bürgerrat hat zumindest für sie persönlich einen Unterschied gemacht. „Ich bin gewachsen. Ich bin vielleicht eine kleine Leuchte, aber ich kann leuchten.“ Und vielleicht könne sie andere Menschen ermutigen, sich ebenfalls einzubringen mit ihrer Perspektive. „Wenn es um unsere gemeinsame Zukunft geht, sind wir alle Experten.“
Zum Empfehlungsschreiben des Bürgerrats
Strategiepapier
Das ganze Empfehlungsschreiben des Bürgerrats KI und Freiheit befindet sich unter dem folgenden Link: www.bürgerrat-KI.de.
Historie
Die historischen Wurzeln der Bürgerräte reichen zurück ins antike Griechenland, wo ausgeloste Bürger in Gremien mitwirken durften. In der modernen Form entstanden Bürgerräte ab den 1970er Jahren zunächst in Kanada und Dänemark. Seit den 2000er Jahren haben sie sich weltweit verbreitet, besonders in Irland, Frankreich und Deutschland, wo sie bei Themen wie Klimaschutz, Verfassungsfragen oder gesellschaftlichem Wandel eingesetzt wurden.
