Wie können wir dazu beitragen, dass die Europäische Union weltweite Vorreiterin bei der Regulierung von Technologie wird? Wieso werden Normen und Standards das Erfolgsrezept für die EU von morgen sein? Wie können wir die Einhaltung der Grund- und Menschenrechte im gesamten digitalen Raum gewährleisten und wie können wir sicherstellen, dass die künstliche Intelligenz zur Verbündeten der Demokratie wird?
Menschenmögliches in der neuen Moderne
Generaldirektor MAK – Museum für angewandte Kunst
Wir leben im zweiten Jahrzehnt einer neuen Moderne, die im Jänner 2007 mit der Präsentation des iPhone durch Steve Jobs begonnen hat. Der durch den Siegeszug des Smartphones bewirkte mobile turn hat nicht nur das Leben und die Arbeitsweise von Milliarden von Menschen völlig verändert – er befeuert auch den Vormarsch künstlicher Intelligenz, also automatisierter Entscheidungsprozesse.
Unsere körperlichen und geistigen Regungen werden durch digitale Giganten laufend vermessen und effektivst vermarktet. Wie in einem selbstfahrenden Auto steuert unsere Zivilisation unbekümmert auf eine kommerziell optimierte, automatisierte Zukunft zu, in der digitale Manipulation menschliches Vertrauen ersetzt. Der virtuelle Raum ist zur low-trust oder gar no-trust zone geworden und infiziert damit auch die Gesellschaft im realen Raum.
Wollen wir diesen Weg wirklich weitergehen und uns dieser Automatik ausliefern? Raffen wir uns stattdessen lieber dazu auf, unsere Zukunft aktiv mitzugestalten und uns andere Möglichkeiten als die vorprogrammierte „DefaultOption“ zu eröffnen!
Unter den großen Wirtschaftsräumen der Welt hat EU-Europa gerade jetzt – mit einem neugewählten Europäischen Parlament und einer neuen Kommission – die Riesenchance, das Zukunftsmodell einer vertrauenswürdigen, humanistischen Digitalen Moderne zu entwickeln: eine demokratische high-trust society im realen wie virtuellen Raum, die sich mit Hingabe und von innovativen Technologien unterstützt den beiden Mega-Herausforderungen Klimapflege (climate care) und soziale Nachhaltigkeit widmet. Und zwar mit Hilfe souveräner Bürgerinnen und Bürger, die bestens informiert sind und klug zu handeln wissen!
Um eine solche Möglichkeit Wirklichkeit werden zu lassen, brauchen wir zukunftsfähige Werte. Die VIENNA BIENNALE FOR CHANGE 2019 am MAK hat diese dringend notwendige Wertediskussion mit einer Vielzahl von Projekten aus Kunst, Design und Architektur vorangetrieben und inspiriert. Höhepunkte der Kooperation mit der ERSTE Stiftung in diesem Jahr waren das Fachseminar mit Digitalexperten sowie der Publikumsabend mit Marietje Schaake bei uns im Museum. Im Fokus stand der Aufruf zu einer selbstbewussten europäischen Technologie-Governance, die die Macht des Gesetzes statt das Gesetz der Macht in den Mittelpunkt stellt.
#3 – Möglichkeit, 19. September 2019
Macht der Gesetze oder Gesetze der Macht? Weshalb Europa die Governance von Technologie global vorantreiben muss
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Eröffnung
Künstlerische Intervention von Rupert Huber
Begrüßung
Christoph Thun-Hohenstein, MAK – Museum für angewandte Kunst
Boris Marte, ERSTE Stiftung
Vortrag
Marietje Schaake: Macht der Gesetze oder Gesetze der Macht? Weshalb Europa die Governance von Technologie global vorantreiben muss
Bühnengespräch
Lucy Bernholz, Stanford University
Joanna Goodey, Agentur der Europäischen Union für Grundrechte
Krzysztof Izdebski, ePaństwo-Stiftung
Thomas Lohninger, epicenter.works
Marietje Schaake, Stanford University
Moderation: Verena Ringler, Kuratorin der Tipping Point Talks 2019
Đorđe Krivokapić und Michael Oghia
30 Civic-Technology-Akteure aus Mitteleuropa erarbeiten Prioritäten der EU-Governance im digitalen Raum
Während der letzten zwanzig Jahre hat sich die Art, wie die Technologie Gesellschaften auf der ganzen Welt formt, drastisch verändert. Das rasante Voranschreiten in den Bereichen künstliche Intelligenz (KI), Informationstechnologie und Cyberkriegsführung destabilisiert die globale Politik und schafft neue Bedrohungen für die nach dem Zweiten Weltkrieg entstandene internationale Zusammenarbeit. Gleichzeitig trägt die technologische Entwicklung zu einer immer größer werdenden Distanz zwischen den Generationen bei, vor allem in der Art, wie wir lernen,
Unternehmen gründen und wählen. Neue Tools und der technologische Fortschritt erleichtern uns nicht mehr bloß den Alltag, sondern ändern unsere Art zu denken und zu überlegen von Grund auf.
Historisch betrachtet haben wir den dem Menschen innewohnenden Hang zur Unordnung durch Organisation, Regulierung und die Zurücknahme unserer persönlichen Interessen zugunsten des Gemeinwohls ausgeglichen. Im Zeitalter der „Plattformisierung“, der Dominanz von Big Tech und der schieren Macht, die deren digitale Imperien sowohl off- als auch online über unsere heutige Gesellschaft ausüben, stellt sich angesichts dieser hyperbeschleunigten Veränderungen die Frage: Herrscht in dieser neu eingeläuteten Ära das Gesetz der Macht oder die Macht des Gesetzes? In der Folge schaffen diese Veränderungen auch neue Herausforderungen in Hinblick auf Governance, da den vielfältigen akuten und existenziellen Bedrohungen, vom Klimawandel bis hin zu koordinierten Desinformationskampagnen, nur durch globale Zusammenarbeit begegnet werden kann.
Mit dieser Realität vor Augen ist es unabdingbar, dass sich die Europäische Union als Weltmacht im Bereich technologischer Governance etabliert. Als eine Weltmacht, deren Grundverständnis auf der Einhaltung von Normen und der Legitimierung von Standards beruht und die gleichzeitig sicherstellt, dass die grundlegenden Menschenrechte im gesamten digitalen Raum gewahrt werden, um die Demokratie zu stärken und zu schützen.
Die Europäische Union als Weltmacht der Normen und Standards
Bis all dies umgesetzt ist, gilt es, wichtige Gelegenheiten für den Dialog am Schopf zu packen. Während eine neue Generation an politischen GestalterInnen und EntscheidungsträgerInnen ihre Arbeit in den Brüsseler EU-Institutionen aufnimmt, lädt die ERSTE Stiftung am Donnerstag, den 19. September 2019, zu einem handlungsorientierten Strategieseminar unter gemeinsamer Leitung von Marietje Schaake und Verena Ringler im MAK – Museum für angewandte Kunst in Wien.
Wien erweist sich als hervorragender Austragungsort für einen europäischen zivilgesellschaftlichen Dialog über Technologie zwischen Ost und West. Wie neue Forschungsergebnisse des European Council on Foreign Relations zeigen, gibt es eine wesentliche Differenz zwischen der Einschätzung des österreichischen Einflusses vonseiten anderer EU- Mitglieder in der Region und der praktischen Ausschöpfung dieses Potenzials. Auch die Wahrnehmung des eigenen Engagements für mehr europäische Integration durch das Land und die tatsächliche Performance klaffen auseinander. Diskussionen wie diesen Raum zu geben ist also in jedem Fall ein Schritt in die richtige Richtung.
Marietje Schaakes Vortrag geht ein Seminar voran, das die Bedeutung der europäischen Führungsrolle im weltweiten Umgang mit Technologie beleuchtet. Im Wiener Workshop treffen 30 AktivistInnen, ForscherInnen, ExpertInnen und VertreterInnen des öffentlichen Sektors aus sämtlichen Bereichen der Technologie-Governance und vielen Ländern Europas zusammen, um über die unzähligen Herausforderungen und Risiken zu sprechen, die vor uns liegen. Das Seminar beleuchtet die Bedeutung der europäischen Führungsrolle im weltweiten Umgang mit Technologie und geht Marietje Schaakes Abendvortrag zu diesem Thema voran.
Die TeilnehmerInnen haben die Aufgabe, in einem strukturierten, offenen und informellen Gespräch die Herausforderung für die neue EU-Kommission in Worte zu fassen und Schlüsselelemente für die EU-Governance im digitalen Raum zu definieren. Die ExpertInnen und AktivistInnen konzentrieren sich außerdem auf die langfristigen Folgen und notwendigen Entwicklungen der EU-Governance im sich ständig erweiternden Ökosystem der digitalen Technologie sowie auf eine Verschränkung ethischer Fragen mit digitalpolitischen Überlegungen, vor allem im Kontext der Menschenrechte, des schrumpfenden öffentlichen Raums, der Rechtsstaatlichkeit und der globalen Rolle und, daraus folgend, der Außenpolitik der EU.
Von europäischer Tech-Politik zur Tech-Diplomatie
Die TeilnehmerInnen sind sich darüber einig, dass der digitale Raum ein soziales Habitat darstellt, das von mehr als nur der Marktdynamik geprägt ist. Es entspinnt sich jedoch eine rege Diskussion darüber, wie unsere supranationalen regulatorischen Ambitionen im Einklang mit den grundlegenden Menschenrechten und sozialen Interessen neu ausgerichtet werden können. Überraschenderweise würden einige der Anwesenden fehlende Regulierung als tragfähige Lösung akzeptieren.
Viele der TeilnehmerInnen bekritteln, dass die öffentliche Debatte über die Verbindung zwischen Technologie und Menschenrechten in Europa viel zu eng geführt wird. Neben den üblichen Kernthemen wie Privatsphäre und Datenschutz, Gleichberechtigung und NichtDiskriminierung wird auch thematisiert, dass Technologie eine Gefahr für alle Menschenrechte darstellt. Einige Stimmen verlangen nachdrücklich die Anerkennung und Anwendung der gesamten Grundrechtecharta im digitalen
Raum.
Es herrscht Konsens darüber, dass jede mögliche Hilfe in Anspruch genommen werden sollte, um Klarheit darüber zu gewinnen, wie unsere Grundrechte auf die neuen Technologien angewandt werden können. Auf Grundlage dessen sollte die „vierte Generation der Menschenrechte“ entwickelt werden, die für die vierte industrielle Revolution benötigt wird.
Die Stimmung unter den Anwesenden zeigt den weit verbreiteten Wunsch nach der Ausarbeitung einer spezifisch europäischen Position im Bereich Tech-Regulierung basierend auf den Werten, denen die EU besondere Bedeutung beimisst. Dies könnte zur Grundlage der europäischen außenpolitischen Agenda werden und als zentrales Element alle wichtigen globalen Herausforderungen verbinden, zu denen die folgenden zählen:
● Nachhaltige Umweltpolitik (z. B. der exponentiell wachsende Energiebedarf der Datenverarbeitung);
● Demokratie (z. B. die Zersplitterung der Politik und Institutionen mangels Gemeinsinns und
gemeinsamer Ziele);
● Zukunft der Arbeit (z. B. die Minderung der Qualität und Bedeutung von Arbeit durch
Automatisierung);
● Globale öffentliche Gesundheit (z. B. Verständnis der Verbreitung von Infektionskrankheiten dank Durchbrüchen in der KI); und
● Ungleichheit (z. B. die Art und Qualität von Technologie für Wohlhabende und Mittellose).
Einigkeit herrscht auch darüber, dass die Ausübung der Grundrechte in der digitalen Welt nach neuen Fähigkeiten verlangt, um digitale Inklusion und Zugang zu Information zu ermöglichen. Die Entwicklung solcher Fähigkeiten unter den VertreterInnen aus dem Bereich der Politik, Verwaltung und Beschaffung sehen viele als ersten wichtigen Schritt an. In einem nächsten Schritt muss das digitale Know-how in der allgemeinen Bevölkerung zur Stärkung spezifischer Kompetenzen in den Bereichen Medien und Justiz vermehrt werden, eingebettet in einen robusten und ganzheitlichen politischen Rahmen, der finanzielle Unterstützung und sektorübergreifende Expertise garantiert.
Die einzigartige Führungsposition der Europäischen Union ist unbestritten. Die umfassende Debatte im Vorfeld der DSGVO und die Bandbreite an Akteuren, die in die Formulierung eingebunden waren, zeugen von der Macht der EU, die – nicht zuletzt dank der Größe ihres Binnenmarkts – hohe Maßstäbe anlegen und deren Umsetzung auch jenseits ihrer Außengrenzen erzwingen kann. Die großen Plattformbetreiber zahlen bereits Strafen und ihr Ruf leidet, weil sie sich nicht an die neuen Regeln halten.
EU agiert als zentrale Gesprächspartnerin für Facebook & Co.
Die Diskussion dreht sich aber auch um einige andere Bereiche, in denen Regulierung notwendig ist. Mit Blick auf die Netzwerkeffekte und die Tendenz zur Marktkonzentration einiger großer Tech-Unternehmen in der digitalen Wirtschaft wird klar, dass die Wettbewerbspolitik eine aktivere Rolle im Zusammenhang mit Wertschöpfung und -steigerung spielen muss. Die existierenden Rahmenbedingungen müssen angepasst werden, um wettbewerbsfähige und bestreitbare Märkte im digitalen Zeitalter zu schaffen. Anstatt den Schaden für die KonsumentInnen ausschließlich über die Preisschiene zu beziffern, sollten kartellrechtliche Regulierungen auch Privatsphäre und Datenschutz, Konsumentenwahl, Marktstruktur, Wechselkosten und Lock-in-Effekte bedenken und entsprechende politische Maßnahmen auf regionaler oder globaler Ebene ergreifen.
Für die Gruppe besteht kein Zweifel daran, dass es die EU ist, die im Dialog mit digitalen Technologieunternehmen wie Google und Facebook als Gesprächspartnerin auftreten muss. Im Vergleich zu den einzelnen Mitgliedstaaten befindet sie sich in einer weitaus besseren Verhandlungsposition und hat mehr Durchsetzungsvermögen. Große Plattformen wie Google und Facebook stellen nicht in sämtlichen Ländern Gesprächspartner für Regierungen. Häufig gibt es auch keine MitarbeiterInnen, die der Landessprache mächtig sind. Wir brauchen die EU und ihre Mitgliedstaaten für ein wirksames Gleichgewicht zwischen einer Regulierung des digitalen Raums für den Schutz unserer demokratischen Prinzipien und KonsumentInnen auf der einen Seite und der Wahrung der Grundfreiheiten und Schaffung von ausreichend Raum für Innovation auf der anderen Seite.
Die Bürgerinnen und Bürger von Beitrittskandidaten genießen keinerlei Schutz, da sie Vereinbarungen mit US-amerikanischen Unternehmen eingehen und nicht mit den Töchterfirmen in der EU, die ihren Sitz meist in Irland haben. Die Internetriesen unterhalten keine Niederlassung in diesen Ländern, deren EinwohnerInnen deshalb auch nicht vom Konsumenten- und Datenschutz erfasst sind, der überall sonst in der EU zum Tragen kommt.
Der Workshop widmet sich auch der Bedeutung der Medienvielfalt und den Schritten, die die EU zu ihrem Schutz setzen kann. Von den TeilnehmerInnen kommt der Vorschlag, dass nicht gewinnorientierter Journalismus als wohltätig gelten und dementsprechende Begünstigungen erhalten sollte. Es bestehe außerdem Bedarf an Gutachten über den Umgang mit Themen, die die Medienfreiheit betreffen, insbesondere in Bezug auf die Nachhaltigkeit von Medien, journalistische Sicherheit, das Spannungsfeld zwischen dem Recht auf Vergessenwerden und der Pressefreiheit sowie Desinformation und Falschinformation.
Öffentlich-rechtliche Medien und die erweiterte Medien-Community sollten in Diskussionen über Internet-Governance eingebunden werden, vor allem in Hinsicht auf Medienfreiheit, Zugang zu Information und digitaler Inklusion sowie Nachhaltigkeit und Wirtschaftlichkeit. Vor allem in unterentwickelten Regionen werden die Interessen des Journalismus und der Medienorganisationen in politischen Entscheidungen und Maßnahmen nicht ausreichend berücksichtigt. Wir sollten die Bedeutung und Rolle öffentlich-rechtlicher Medien sowie die negativen Auswirkungen digitaler Konvergenz auf ihr Geschäftsmodell und die daraus resultierenden Folgen für ihre Rolle innerhalb der Gesellschaft anerkennen.
Die Diskussionsrunde in Wien betont die Bedeutung der Moderation von Content, insbesondere vor dem Hintergrund der Kontrolle von Medien durch einflussreiche Akteure und dem Aufschwung autoritärer Politik in manchen Ländern, vor allem am Westbalkan, da die sozialen Netzwerke oft der einzige verbleibende Freiraum für Informationsaustausch und Debatten sind. Online-Propaganda, Extremismus, Desinformation und Nationalismus kapern Narrative in den sozialen Netzwerken und unterminieren dadurch die Rechtsstaatlichkeit und das Vertrauen in die Institutionen und der BürgerInnen zueinander. Dadurch gefährden sie das soziale Gefüge, auf dem die Demokratie und die Integrität der gewählten VertreterInnen beruhen.
Medien-Community soll bei Internet Governance mitreden
Es folgt eine ausgedehnte Debatte über automatisierte Entscheidungsfindung, ein System, das automatisierte Schlussfolgerungen als Hilfestellung oder Ersatz für einen Prozess heranzieht, der sonst von Menschen ausgeführt wird. Es ist unbestritten, dass nicht nur die Herausforderungen diskutiert, sondern auch Lösungsvorschläge zur Regulierung dieser Sphäre gemacht werden müssen. Das Thema der Debatte schwankt zwischen rechtlichen Überlegungen und der Entwicklung und Akzeptanz ethischer Richtlinien, die ein vertrauenswürdiges KI-System fördern sollen. Zudem muss ein Weg gefunden werden, die Grundrechte im Zusammenhang mit KI und gemeinsam mit Prinzipien zu fördern und zu schützen, die eine Anzahl von Erfordernissen für vertrauenswürdige KISysteme definieren: menschliches Handeln und menschliche Kontrolle, Widerstandsfähigkeit, Sicherheit, Privatsphäre, Transparenz, Nichtdiskriminierung, ökologisches und gesellschaftliches Wohlbefinden und Verantwortlichkeit.
Der lebhafte Austausch von Ansichten über dieses Thema zeigt die Notwendigkeit eines Rahmenwerks auf, das sowohl Daten als auch KI für gesellschaftliche Zwecke anstatt nur für kommerzielle Interessen einsetzt. Die EU hat die Macht, die großen Unternehmen in diesem Bereich zur Herausgabe von nutzergenerierten Rohdaten an ihre Mitbewerber zu zwingen. In einem anderen Modell könnte es darum gehen, dass sie das mithilfe von KI erzeugte Wissen mit öffentlichen Einrichtungen teilen und damit zur Entwicklung öffentlicher Dienstleistungen beitragen.
Vorkämpfer für digitale Rechte noch chronisch unterfinanziert
Die neuen digitalen Bedrohungen für die Menschenrechte und die wachsende Zahl von Kontroll- und Manipulationsmechanismen gehen sowohl auf den staatlichen als auch den privaten Sektor zurück. Diese Umwälzungen verlangen nach einer angemessenen Reaktion vonseiten zivilgesellschaftlicher Einrichtungen in Europa, deren Ressourcen, Erfahrung und Expertise in diesen technologisch heiklen Themen meist begrenzt sind.
Der Tenor unter den TeilnehmerInnen lautet, dass SozialwissenschafterInnen, EthikerInnen, RechtsanwältInnen und AktivistInnen wieder in einen Dialog mit den Techies und Start-ups, die das digitale Ökosystem und Innovation vorantreiben, treten müssen. Viele betonen aber auch, dass die mit digitalen Rechten befassten Organisationen in Europa noch immer chronisch unterfinanziert und auch deshalb nicht in der Lage dazu sind, als durchsetzungsstarke Interessenvertretung auf nationaler und europäischer Ebene politisch mitzumischen. Um als öffentlich-rechtliche Interessenvertretung tatsächlich wirksam zu werden, würden sie weitaus mehr Unterstützung aus unabhängigen Quellen benötigen.
Während der abschließenden BrainstormingSession haben die Teilnehmenden die Gelegenheit, eine mittelfristige (bis 2024) und eine langfristige (bis 2050) Priorität zu definieren und im Anschluss gemeinsame Prioritäten auszuwählen.
Auf Platz 1 für das Jahr 2024 landet der Vorschlag, eine Rechenschaftspflicht für neue technologische Lösungen einzuführen. Diese Priorität wird von ähnlichen Vorschlägen untermauert, die eine sofortige Reaktion auf die Folgen der Technologisierung fordern, wie zum Beispiel die Entwicklung einer Vorlage für die nutzerfreundliche Erläuterung von automatisierten Entscheidungsfindungssystemen, die Einführung von Evaluierungen der Auswirkungen von technologischen Neuerungen und Algorithmen, die im öffentlichen Sektor umgesetzt werden, und die Entwicklung digitaler Kompetenzen, die sich auf die gesellschaftlichen Auswirkungen von Technologie konzentrieren. Für das Jahr 2050 einigen sich die TeilnehmerInnen darauf, dass die wichtigste europäische Priorität die Schaffung einer rechtlichen und technischen Infrastruktur (z. B. einer öffentlichen Datenbank) sein sollte, die Daten aus dem Einflussbereich der privaten Unternehmen in die öffentliche Domäne überführt. Dieser Punkt bringt einen weiteren Ideenprozess ins Rollen. Die Gruppe listet eine Reihe von Vorschlägen auf, die tiefgehende Veränderungen im Zusammenspiel von Europäischer Union/nationalstaatlicher Politik, Gesellschaft und Wirtschaft
bewirken könnten.
Titelbild: MAK-Ausstellungshalle, UNCANNY VALUES: Künstliche Intelligenz & Du, Heather Dewey-Hagborg und Chelsea E. Manning, Probably Chelsea, 2017, Foto: © Aslan Kudrnofsky / MAK – Museum für angewandte Kunst
© ERSTE Stiftung, Am Belvedere 1, 1100 Wien, Österreich • office@erstestiftung.org • Impressum | Datenschutz | Copyright
