Wie groß ist die Gefahr, dass die Menschheit in absehbarer Zeit die Kontrolle über technische Anwendungen verlieren wird? Die Netzwerkforscherin und Mitbegründerin von AlgorithmWatch, Prof. Dr. Katharina Zweig, und der Leiter der IBM Watson Group Deutschland, Dr. Wolfgang Hildesheim, debattierten in einem von Tom Hegermann moderierten Streitgespräch über Chancen und Risiken der Künstlichen Intelligenz.
Bei der Debatte waren nicht nur die Diskutanten auf dem Podium gefragt. Auch das Publikum konnte immer wieder per TED seine Meinung äußern und beantwortete die Einstiegsfrage „Ist KI mehr Chance oder mehr Risiko für die Gesellschaft?“ optimistisch mit 76,7 Prozent zugunsten der Chancen. Die Diskutanten sahen ebenfalls viele Chancen, zum Beispiel für die Personalisierung der Medizin oder das Autonome Fahren. Uneins waren sie bei den Risiken. Nach Katharina Zweig sollten Algorithmen vor allem dort eingesetzt werden, wo sie z. B. bei der Präzisierung medizinischer Diagnosen besser sein können als der Mensch. Ungeeignet seien sie aber z. B. bei der Urteilsfindung im Gerichtssaal. Hier bestehe die Gefahr, dass Algorithmen gesellschaftlich unerwünschte und für die Betroffenen nicht nachvollziehbare Entscheidungen treffen. Entscheidungen, die ethischer Natur sind, sind dabei oft besonders schwierig algorithmisch zu implementieren.
Bei der Frage, ob man eine ethische KI gestalten kann, zeigte sich das Publikum gespalten: 50,4 Prozent stimmten dafür, 49,6 Prozent dagegen. Katharina Zweig betonte, dass es nicht immer notwendig ist, in den Code eines Systems zu sehen. Zudem plädierte sie dafür, klare Kriterien zu finden, anhand derer der Nutzen von KI-Systemen bewertet wird. 65 Prozent der Zuhörer hielten die Umsetzung von effektiven Kontrollen angesichts der Komplexität von KI ohnehin nicht für realistisch.
Wolfgang Hildesheim argumentierte, dass es eine „starke KI“, wie wir sie z. B. in Hollywood-Filmen sehen, gar nicht gebe. Zurzeit seien wir immer noch auf dem Stand von einfachen neuronalen Netzen, die von ihren Nutzern trainiert und geprägt werden. Diese Nutzer müssten früh einbezogen werden, um die Algorithmen zu verstehen und richtig anwenden zu können. IBM habe genau dafür entsprechende Think-Center eingerichtet.
Für Deutschland sei KI vor allem eine Chance, neben Dienstleistungen und Produkten auch moralische Werte zu exportieren. Dazu passte die Einschätzung der Publikumsmehrheit (58,4 Prozent), dass Deutschland als Exportnation eine moralische Verpflichtung zur führenden Rolle habe. Die Diskussion schien beim Publikum letztendlich die bestehenden Meinungen zu bestätigen. Die Antwort auf die zum Schluss noch einmal gestellte Eingangsfrage fiel mit 77,7 Prozent zu 22,3 Prozent nahezu identisch aus, wie zu Beginn der Diskussion.