Je weiter Künstliche Intelligenz in neue Lebensbereiche vordringt, desto mehr Fragen ergeben sich zu den beabsichtigten und unbeabsichtigten Folgen von Automatisierung und Digitalisierung. Vor allem Fragen nach der Datensicherheit und den negativen Folgen für die Nutzerinnen und Nutzer spielen dabei eine entscheidende Rolle. In der Session wurden interaktiv die unbeabsichtigten Folgen des Technikeinsatzes diskutiert. Kernfragen dabei waren: Wie können unbeabsichtigte Folgen frühzeitig identifiziert werden? Wie kann man mit negativen unbeabsichtigten Folgen umgehen?
In seinem einleitenden Impulsvortrag zeigte Bruno Gransche anschaulich, wie schwierig Abgrenzungen zwischen Folgen und Nebenfolgen, beabsichtigten und unbeabsichtigten Folgen, positiven und negativen Werturteilen zu tätigen sind. Die anschließenden Kleingruppendiskussionen zeigten entsprechend eine Vielzahl möglicher Betrachtungsweisen auf folgende Kernfragen:
Die Teilnehmer stimmten darin überein, dass eine frühzeitige Einbindung von Nutzerinnen und Nutzern essenztiell für die Reflektion von Folgen sei. Dafür müsse die zugrunde liegende Wissensbasis möglichst groß sein, ein neuer Umgang mit großen Datenmengen gepflegt sowie der Aufbau eines sozialen Werteverständnisses stattfinden. Alle Akteure sollten Mut haben, Neues schnell auszuprobieren, um so frühzeitig auf Folgen durch Beeinflussung oder Abbruch der Entwicklung zu reagieren.
Partizipative Ansätze wiesen jedoch auch Schwierigkeiten auf, etwa wenn während des Forschungsprojekts eine emotionale Bindung der Nutzerinnen und Nutzer an das Neue entstehe, aber kein nachhaltiges Konzept für dessen Nutzung nach Projektende bestünde. Zusätzlich würden die technikinduzierten Vorteile, wie bspw. eine Erleichterung der Pflegearbeit direkt zu ökonomischen Veränderungen führen. An dieser Stelle wäre die Politik gefragt, Impulse gegen solche Trends hin zu mehr Wertschätzung für die zwischenmenschlichen Leistungen zu geben.