-
-
Gesetze anpassen, Leitplanken definieren und vor Auswüchsen schützen
Wir erwarten vom Gesetzgeber, dass er auf die Chancen und Risiken der KI-Revolution reagiert und die Gesetzgebung an die Möglichkeiten und Risiken der neuen Technologie anpasst. Ihm kommt die Aufgabe zu, justitiable Leitplanken, rote Linien und wertebasierte Korridore zu definieren. So ist der Gesetzgeber gefragt, wenn es um Lenkung der Entwicklung und Schutz vor den Auswüchsen der Künstlichen Intelligenz geht, wie zum Beispiel bei der Frage, wie Manipulationen durch KI erkannt und unterbunden werden können. Damit die zunehmende Automatisierung in Gesellschaft und Wirtschaft gelingt, darf der Gesetzgeber allerdings Innovationen und Forschung in Sachen Digitalisierung und KI keinesfalls be- und verhindern. Damit sehen wir den Gesetzgeber vor einem wichtigen und sicher alles andere als einfachen Balanceakt, das eine zu tun, ohne das andere zu lassen.
-
Haftung, Kontrolle und Verantwortlichkeit
Zu den regulierungsbedürftigen Themen gehören auch Fragen der Haftung, Kontrolle und Verantwortlichkeit. So ist es Sache des Gesetzgebers, zu klären, ob bei algorithmenbasierter Intelligenz und bei Robotern der Tatbestand der Haftung und Verantwortlichkeit hinreichend geklärt ist. Auch sollte er Antworten darauf geben können, wie ein rechtliches Rahmenwerk aussehen kann, das in der Lage wäre, Entwicklung, Test, Anwendung, Kontrolle und Kontrollierbarkeit autonomer Lern- und Entscheidungssysteme zu regulieren.
-
Klärung der Frage: Wem gehören die Daten?
Daten sind Macht, und wer über die Daten und ausreichende Rechenkapazitäten verfügt, kontrolliert die Zukunft. Wir begrüßen es von daher sehr, dass der Gesetzgeber z.B. mit der neuen Datenschutzgrundverordnung (DSGVO) einen wichtigen Schritt unternommen hat, um die Frage der Datenhoheit zu klären. Mit der Regelung von Themen wie z.B. der Zweckbindung von Daten, der Auskunftspflicht über gespeicherte Daten oder dem Recht auf Vergessen gibt er die Datenhoheit und die Kontrolle über die Verwendung der Daten an den Nutzer zurück. Damit leistet der Gesetzgeber auf nationaler wie europäischer Ebene einen wichtigen Beitrag, um die Bildung oder, wo bereits vorhanden, die weitere Verfestigung von digitalen Datenmonopolen zu unterbinden. Durch die Klärung des Rechtsstatus in Bezug auf Dateneigentum verhindert der Gesetzgeber zugleich, dass sich diese Monopole zu Machtzentren entwickeln, die nach eigenen Regeln operieren und sich jeglicher Kontrolle von außen entziehen.
-
Verbot der De-Anonymisierung, kundenfreundliche Vereinfachung, unveräußerliche Daten
Als wichtigen Schritt in Richtung digitaler Daten-Souveränität sähen wir darüber hinaus, wenn der Gesetzgeber jegliche De-Anonymisierung von Daten und Informationen und damit die Herstellung des Personenbezugs durch Zusammenführung unterschiedlicher (Kunden)Daten verbieten würde. Da eine solche Identifizierung heute technologisch machbar ist, appellieren wir an den Gesetzgeber, schon für den Versuch einer solchen Re-Identifikation empfindliche Strafen vorzusehen. Des Weiteren sollte ein solches Gesetzeswerk eine Vereinbarung über den Umgang mit Daten enthalten, die unter allen Umständen im Sinne des Kunden ist. Als Modell einer solchen simplifizierenden, vertrauensbildenden und vor zur Gelassenheit führenden Maßnahme könnten hier z.B. die AGBs dienen: Deutsche Bürger stimmen den AGBs ungeprüft zu, da sie an eine übergeordnete Prüfung durch Regelungsinstanzen vertrauen und davon ausgehen, dass sittenwidrige Klauseln nicht erlaubt und somit nichtig sind.
-
Manipulation durch Algorithmen beschädigt unsere Demokratie und schadet der Wirtschaft
Der Gesetzgeber sollte prüfen, wie Manipulationen z.B. durch Algorithmen gesteuerte Bots und sogenannte Meinungstrolle unterbunden werden können. Es gilt als erwiesen, dass Algorithmen z.B. auf den Social Media-Plattformen und in den Suchmaschinen ursächlich daran beteiligt sind, unsere Aufmerksamkeit und damit unsere Emotionen sowie unsere Meinung zu steuern. Indem sie Inhalte filtern, die unser Weltbild und unsere Einstellungen verstärken, erzeugen sie für uns eine individuelle Filterblase, die wir nolens volens für die objektive Welt halten. Im Vordergrund stehen negative Emotionen und nicht die rationale Auseinandersetzung mit einem Sachverhalt z.B. durch die Vielfalt der Meinungen und Fakten. Der Einfluss, den Algorithmen damit z.B. auch auf die politische Meinungsbildung, auf Abstimmungsergebnisse oder Wahlverhalten haben, ist enorm. Aufmerksamkeitslenkung und Manipulation von Meinung bedrohen von daher nicht nur unsere Demokratie, vielmehr richten sie auch in der Wirtschaft großen Schaden an. So zum Beispiel, wenn durch sogenannte FUD(Fear, Uncertainty und Doubt)-Nachrichten negative Gerüchte über ein Unternehmen gezielt und hochfrequent gestreut und so z.B. Aktienkurse, Annahmen über den Firmenwert oder Investmententscheidungen beeinflusst werden. Natürlich funktioniert dies auch in die umgekehrte Richtung, wobei negativ gefärbte Nachrichten erwiesenermaßen eine durchschlagendere Wirkung entfalten als positive.
-
Wahrheit und Wahrhaftigkeit auf dem Prüfstand
Als neue Herausforderung für die Gesetzgebung durch Künstliche Intelligenz sehen wir Regelungen, unsere Fotos vor Missbrauch und Manipulation durch Dritte zu schützen. An die manipulativen Möglichkeiten der Bildbearbeitung haben wir uns inzwischen gewöhnt. Mit den neusten KI-basierten Applikationen ist es allerdings seit Neuestem selbst für technisch Unbedarfte möglich, Bewegtbilder zu manipulieren, beliebige Gesichter auf fremde Körper zu montieren und in Verbindung mit der automatisierten Spracherzeugung täuschend echte Fake-Videos herzustellen. Dies stellt nicht nur ein unbegrenztes Missbrauchs- und Manipulationspotential dar, vielmehr rüttelt es am Grundvertrauen in unsere Sinne und damit an der Wahrheit. Wenn es keinen festen Ankerpunkt mehr gibt, an dem Fake News, Fake Fotos und Fake Videos von echten Zeugnissen unterschieden werden können, wird die Wahrheit endgültig zum Spielball von Manipulation – und damit Glaubenssache.
-