Wenn wir über Künstliche Intelligenz (KI) sprechen, scheinen die meisten Menschen diese als neue Technologie anzusehen. Die einen unterhalten sich ehrfürchtig darüber, was damit in Zukunft alles möglich sein wird. Und sie sind entzückt von der scheinbaren Magie, wenn Technologie mithilfe von KI ein zunehmend Menschen-ähnliches Verhalten aufweist.
Die anderen unterhalten sich über die dahinter liegenden mathematischen Konzepte. Handelt es sich um wissensbasierte Systeme wie IBM Watson, die logische Schlüsse ziehen und damit als Experten bei der Entscheidungsfindung unterstützen können? Oder sind es Musteranalyse und Mustererkennung-Systeme, die aus zumeist optischen oder sprachlichen Informationen Darstellungen wie Gesichter oder Menschen erkennen und analysieren können, wie dies z.B. Google Brain macht.
Aktuell en Vogue sind Approximationsmethoden (maschinelles Lernen) und Deep Learning, die über den Aufbau neuronaler Netze versuchen unsere Hirnstrukturen nachzubilden. Für solche Systeme konnten in letzter Zeit Durchbrüche z.B. bei AlphaGo oder für die weitere Entwicklung beim Autonomen Fahren erzielt werden.
Wie lernen KI-Systeme?
Der Aspekt, über den wir bei all diesen Technologie-Diskussionen nicht sprechen, sind die Daten zum Anlernen dieser KI-Systeme. Künstliche Intelligenz braucht Daten, und zwar unsere Daten in riesigen und unvorstellbaren Mengen. Und das ganze nicht erst seit gestern, sondern seit fast 20 Jahren.
Google China Gründer und AI-Experte Kai-Fu Lee hat den Begriff der vier Wellen von AI (Artificial Intelligence) geprägt. Es ist absolut spanend (und auch ein wenig beängstigend) zu verfolgen, wie stark sich in den letzten 20 Jahren die Art und Weiseverändert hat, auf die KI Systeme an ihre Daten kommen.
- Internet KI, ab 1998 mit Unternehmen wie Google, Facebook oder Amazon
- Business KI, ab 2004, mit Unternehmen wie IBM Watson oder Palantir
- Wahrnehmungs KI, ab 2011 mit Anwendungen wie Amazon Echo, oder Amazon Go
- Autonome Ki, ab 2015 mit Unternehmen wie Tesla und Uber beim Autonomen Fahren
Internet KI
Vor 20 Jahren bildeten Daten, die wir selbst erfasst haben, die Grundlage für KI- Systeme. Wir haben eine Bestellung ausgelöst, einen Artikel gelesen, einen Beitrag geliked. Und der Anbieter hat über Systeme für Künstliche Intelligenz daraus Schlüsse gezogen. Die Intention dieser Systeme ist, Entscheidungen von uns Menschen zu beeinflussen. Immerhin haben wir die Daten selbst eingegeben – aber welche Schlussfolgerungen das KI System daraus zieht, bleibt uns verborgen.
Dass diese Beeinflussung der ältesten KI-Technologie immer weiter voranschreitet, zeigen die Diskussionen um Fake News und Wahl-Manipulation. Zum Missbrauch kommt es schon bei diesen mit 20 Jahren uralten KI Systemen, wenn die Daten, die wir selbst erfasst haben, in einen anderen Kontext übertragen und somit gegen uns verwendet werden.
Business KI
Business KI Systeme wie IBM Watson aggregieren vorhandenes Wissen und Daten, die viele Menschen erfasst haben, zu Expertensystemen. Datentechnisch passieren hier keine neuen Grausamkeiten, die nicht schon mit Internet KI Systemen möglich waren.
Für den Benutzer von Expertensystemen verändert sich jedoch eine Menge: Ein Arzt, der jetzt durch ein Experten-System „unterstützt“ wird, steht vor der neuen Herausforderung, dass er die fünf Prozent Fehlerquote, die das Experten-System macht, erkennen muss. Er muss also in 20 Vorschlägen des Expertensystems die eine falsche Antwort finden, die das System statistisch gesehen noch macht. Verantwortlich bleibt dabei immer er als Arzt, nie das Expertensystem. Ähnlich geht es Flugzeug-Piloten mit den Möglichkeiten der Autopilot-Systeme.
Wahrnehmungs KI
Eine neue Dimension der Künstlichen Intelligenz haben wir dann mit den Wahrnehmungs-KI Systemen erreicht. Anstelle der Datenerfassung durch Menschen überlassen wir dies nun Sensoren und Sensor-Netzwerken. Das hört sich im Kontext von Internet of Things (IoT) noch ganz sinnvoll an. Es bedeutet aber auch, dass schon die Prüfung auf Sinnhaftigkeit der Daten und deren Plausibilisierung einem Algorithmus überlassen wird.
In dieser dritten KI Stufe bleibt die letztendliche Entscheidung immer noch uns Menschen überlassen. Durch die Vielzahl der in anderen Kontexten gesammelten Daten wird die Anfälligkeit gegenüber Manipulation im Vergleich zu einer sauber und ergebnisoffen aufbereiten Auswahl aber immer größer.
Wir haben einfach keinen Einfluss mehr darauf, ob von Sprachassistenten wie Alexa auch unsere Gemütsverfassung, oder mit der Aufzeichnung der Fahrzeuggeschwindigkeit unser Aggressivitätslevel erfasst bzw. interpretiert werden und in andere Empfehlungen einfließen.
Autonome KI – ein Traum?!
Auch wenn autonomes Autofahren ein Menschheitstraum ist, sollten wir uns einmal vor Augen führen, was dabei genau passiert: Damit eine Maschine all diese Entscheidungen fällen kann, braucht sie eine riesige Datenbasis. Auch wenn Google inzwischen schon so ziemlich alles über uns weiß, an Fahrzeugdaten kommt der Konzern nur heran, indem er eine Testflotte aufbaut (was Google auch getan hat).
Tesla fährt einen anderen Ansatz: Tesla kann all diese Daten mit und ohne Personalisierung sammeln, weil das Unternehmen uns ein Auto mit tausenden von Sensoren zur Verfügung stellt. In diesem Fall sind dann nicht mehr nur die Eingangsdaten für Entscheidungen nicht von Menschen gesammelt, sondern bei Bots und autonomen Maschinen werden dann auch die Entscheidungen von Maschinen gefällt.
Autonome Entscheidungen von Maschinen setzen das autonome Sammeln von Daten damit quasi voraus. Wenn wir uns also Maschinen wünschen, die allein Entscheidungen fällen, dann haben wir diesen Maschinen implizit die Erlaubnis gegeben, autonom unsere Daten zu sammeln.
Mit dieser Verdeutlichung der Zusammenhänge möchte ich mich keineswegs gegen autonome Künstliche Intelligenz aussprechen. Aber wir müssen uns über die Konsequenzen im Klaren sein.
Künstliche Intelligenz und Datenschutz
Ein autonomer Staubsauger weiß, wann wir zu Hause sind und noch vieles mehr. Die Frage ist, was der Hersteller des Staubsaugers mit diesen Daten macht oder machen darf. Darf er die mit seinen Sensoren erfassten Daten oder die daraus abgeleiteten Erkenntnisse an die Spülmaschine oder den Thermomix übertragen?
Während wir über technischen Datenschutz reden und verneinen, dass eine Versicherung Daten über unsere Essgewohnheit erhält, wünschen wir auf der anderen Seite einen immer höheren Komfort. Etwa dass die Waschmaschine genau dann mit ihrem Waschprogramm fertig ist, wenn wir wieder nach Hause kommen. Mit unserem Wunsch nach Komfort- und Bequemlichkeit sehnen wir uns also nach aktiver Verletzung unserer Datensouveränität. Wir erwarten von unseren Helferlein, dass sie hinter unserem Rücken Daten über unsere Gewohnheiten und Pläne gesammelt haben und ihre Schlussfolgerungen daraus ziehen.
Immerhin: einige Verbraucher und auch die Politik werden bei den KI Systemen, die auf den Konzepten von vor fast 20 Jahren basieren, langsam aktiv und versuchen der Datenweitergabe hinter unserem Rücken bei Facebook und Google ein paar Riegelchen vorzuschieben.
Doch spätestens für die aktuellen autonomen Systeme wie Saugrobotor oder (halb-) autonome Autos brauchen wir neue Konzepte für wirksamen Datenschutz. Und eine neue Vorstellung, welchen Stellenwert wir als Menschen in einer autonomen Maschinen-Welt noch spielen wollen.
