Im Auftaktvortrag zu den Grenzen und Möglichkeiten Künstlicher Intelligenz gab Stefanie Kaste von der Initiative D21 erst einmal Entwarnung: Der Terminator wird die Lehrkraft im Klassenzimmer ihrer Meinung nach sobald nicht ersetzen. Eine „starke KI“, also eine Künstliche Intelligenz auf mindestens gleichem Niveau wie das menschliche Gehirn, ist heute noch eine weit entfernte Utopie. Existierende KIs fokussieren sich immer auf konkrete Anwendungsprobleme. Kaste versteht KI als Instrument. Der springende Punkt für sie ist, dass Menschen – wir – entscheiden, wie dieses Instrument eingesetzt wird, mit welchen Daten die KI „gefüttert“ wird um zu lernen und wie mit diesen Daten umgegangen wird.
Fördern oder überwachen?
Wie nah Förderung und Überwachung beieinander liegen können, verdeutlichte sie anhand zweier plastischer Beispiele: In den USA wird mit der „School of one“ KI erfolgreich eingesetzt, um Schüler/-innen basierend auf ihren jeweiligen Fähigkeiten und Lernergebnissen täglich einen individualisierten Lern- und Übungsplan zur Verfügung zu stellen. Durch den Einsatz der KI wurden die Lernerfolge stark verbessert. Auch in China sei der Einsatz Künstlicher Intelligenz im Klassenzimmer verbreitet. Durch die Aufzeichnung des Unterrichts mit Kameras könne z.B. sehr genau ausgewertet werden, wie aufmerksam die einzelnen Schüler/-innen den Unterricht verfolgen, an welchen Stellen Verständnisschwierigkeiten vorliegen etc. Die Schlussfolgerungen zögen die Lehrkräfte.
Wie also umgehen mit den Versprechen, Benefits und Risiken Künstlicher Intelligenz und Digitalisierung? Dieser Frage stellten sich die Jugendlichen in den folgenden drei Tagen in fünf sogenannten „Dicussion-Hubs“. Diese legten den Brennpunkt jeweils auf einen Teilaspekt:
- HUB 1: Don´t be evil – Welche ethischen Prinzipien brauchen KI
- HUB 2: Open Data & Machine-Learning
- HUB 3: KI, unsere Daten & Du [Big Data]
- HUB 4: Was bedeutet der Hype um KI für Schulen? – Bildung unter Bedingungen der Digitalität
- HUB 5: Zukunftsnarrative: wie wollen wir mit digitalen Technologien leben?
Food for thought und jede Menge Fakten gaben zwei zusätzliche Impulsreferate. Dr. Thilo Hagendorff, Medienethiker an der Universität Tübingen, sprach über KI-Anwendungen im Alltag. Was zunächst recht trocken klingen mag, wurde sehr schnell anschaulich. Sei es beim Flaschenrückgabeautomaten im Supermarkt, bei der Nutzung eines Sprachassistenten oder automatischen Übersetzungsprogrammen: Dass jede und jeder von uns tagtäglich mit Künstlicher Intelligenz zu tun hat, dürfte vielen Menschen klar sein. Dass Künstliche Intelligenz auch für Vorhersagemodelle verwendet wird – etwa in der sogenannten „vorausschauenden“ Polizeiarbeit, bei Kreditbewertungssystemen oder gar bei Vorhersage, ob eine Schwangerschaft besteht – dürfte weniger Menschen geläufig sein. Die beispielhaft live angewendete Gesichtserkennung informierte das Publikum u.a. über das Alter des Referenten. Doch auch der Gesundheitszustand oder die sexuelle Orientierung einer Person ließen sich durch Gesichtserkennungs-KIs einschätzen, informierte Hagendorff. Ein weiteres praktisches Beispiel machte deutlich, wie auf Knopfdruck Fake-News erstellt werden können. Der automatisch generierte Artikel zum vom Publikum gewählten Thema „Die Welt ist eine Scheibe“ überzeugte zwar nicht jede/-n im Raum von der Richtigkeit der These, ließ aber erahnen, wie schnell vermeintlich gut recherchierte Artikel produziert werden können.
Es braucht nicht viel Phantasie, um zu erkennen, dass dem Nutzen von KI ein erhebliches Risiko von Missbrauch oder Diskriminierung bestimmter Personengruppen durch solche Anwendungen und automatisierte Entscheidungsmodelle entgegensteht.