Stellungnahme zum Entwurf für ein europäisches Gesetz für künstliche Intelligenz (KI), den sog. Artificial Intelligence Act (AIA)

1. Ausgangslage

Die EU-Kommission hat am 21.04.2021 den Entwurf für ein europäisches Gesetz für künstliche Intelligenz (KI), den sog. Artificial Intelligence Act (AIA), vorgestellt. Der Bundesverband Deutsche Startups e.V. (BVDS) unterstützt das Ziel der EU-Kommission, die grenzüberschreitende Freizügigkeit von KI-basierten Waren und Dienstleistungen zu gewährleisten. Der BVDS begrüßt auch die Absicht der Kommission, Mitgliedsstaaten daran zu hindern, die Entwicklung, Vermarktung und Anwendung von KI-Systemen zu beschränken. Der BVDS sieht es im Hinblick auf das Innovationspotential der KI als angemessen an, die Regulierung auf Verbote für inakzeptable KI-Systeme zu beschränken und lediglich hochriskanten KI-Systemen besondere Pflichten aufzuerlegen. Der BVDS ruft das Parlament und den Rat dazu auf, diese Linie der gebotenen Selbstbeschränkung zu wahren.

2. Regulatory Sandboxes - Chance zur Förderung von Innovation

Der Regulierungsentwurf sieht u.a. die Etablierung sog. KI-Regulatory Sandboxes zur Förderung von Innovation vor.¹ Dieser Experimentierräume sollen dabei eine kontrollierte Umgebung zur Förderung der Entwicklung, Testung und Validierung innovativer KI-Anwendungen für eine begrenzte Zeit vor der Markteinführung oder Implementierung nach einem definierten Ablauf schaffen.² Zudem soll in den KI-Regulatory Sandboxes unter Aufsicht und Beratung zuständiger Behörden die Konformität mit dem AIA sowie anderen anwendbaren Vorschriften gewährleistet werden.

Der BVDS begrüßt diesen Vorschlag. Er setzt sich dafür ein, bereits im Vorfeld des Inkrafttretens des AIA solche KI-Experimentierräume für Innovation und Regulierung in Deutschland und nach Möglichkeit in grenzüberschreitender Kooperation mit den anderen Mitgliedstaaten zu fördern und ggf. aufzusetzen. Der BVDS ist davon überzeugt, dass solche Freiräume „Realexperimente“ zur erfolgreichen und zuverlässigen Entwicklung, Prüfung und Absicherung innovativer KI-Systeme ermöglichen. Insbesondere Startups würde die Einrichtung von KI-Regulatory Sandboxes die Möglichkeit bieten, Geschäftsmodelle in überschaubaren Zeiträumen mit absehbaren Kosten zu entwickeln und vorsichtig zu skalieren. Zudem könnte den Teilnehmern auf diese Weise der Zugang zu den Datensätzen ermöglicht werden, die für die Entwicklung bestimmter KI-Anwendungen notwendig sind. Dadurch könnte sowohl die Qualität der KI-Anwendungen steigen und die Geschwindigkeit der Innovationen beschleunigt werden. Zugleich würden die KI-Regulatory Sandboxes den teilnehmenden Startups eine Planungssicherheit bieten, die sich positiv auf die Risikoeinschätzung von Kapitalgebern auswirken würde.

Nachbarländer wie Polen, Dänemark, Niederlande und Großbritannien haben bereits vor einigen Jahren Regulatory Sandboxes etabliert und damit gute Erfahrungen gesammelt. Österreich und Spanien auch. Die Schweiz und Liechtenstein sehen Modelle für eine „kooperative Gründung“, Frankreich ein „kooperatives Lizenzierungsmodell“ vor.

Das BMWi zählte mind. 27 Praxisbeispiele solcher Praxisräume für Innovation und Regulierung, bezüglich Blockchain und Internet of Things (IoT), E-Government, Energiewende, Elektromobilität, autonomen Fahren, autonomer Schifffahrt, Produktentwicklung, Logistik, Smart Cities und Wohnraumnutzung sowie Innovationsförderung auf.³  Der BVDS plädiert dafür, auf diese Erfahrung aufzubauen und spezifische KI-Regulatory Sandboxes in diesen als auch in weiteren Branchen einzurichten. So könnten diese z.B. aktuell für innovative Geschäftsmodelle an der Schnittstelle von Gesundheits- und Datenschutz oder Bildung und Datenschutz von besonderem Nutzen sein. Auch ließen sich die Anforderungen des Datenschutzes z.B. bei der Nutzung digitaler Gesundheitsdaten oder Patientenakten bereits vor Inkrafttreten des AIA bei der Entwicklung neuer Technologien und Geschäftsmodelle berücksichtigen (Privacy by Design).

Beispiel Gesundheitssektor: Artikel 54 AIA sieht zum Beispiel die Möglichkeit einer Weiterverwendung persönlicher Daten für die Entwicklung bestimmter KI-Applikationen im öffentlichen Interesse vor. Die Schaffung von KI-Regulatory Sandboxes für Startups im Gesundheitssektor könnte zum einen, einem übergeordneten Ziel dienen – dem Gesundheitsschutz, zum anderen, könnte den Entwicklern der Zugang zu einem diverseren Datenpool ermöglicht werden und die regulatorische Unsicherheit damit behoben werden. Gleichzeitig würden die zuständigen Behörden sicherstellen können, dass die KI-Regulierung bei der Entwicklung und Verwendung der KI-Lösungen angewandt wird.

Gleichzeitig würden die KI-Regulatory Sandboxes auch für den Gesetzgeber die Möglichkeit darstellen, die technologische Entwicklung mitzuverfolgen, sowie die Risiken rechtzeitig und wirksam zu adressieren. So haben z.B. die Datenschutzbehörden in Norwegen (Datatilsynet) und Frankreich (Commission Nationale de l’Informatique et des Libertés (CNIL)) von entsprechenden Experimentiermöglichkeiten bereits Gebrauch gemacht. Die Anwendung der KI-Regulierung könnte auf diesem Wege bereits im Entwicklungsstadium sichergestellt, entsprechende Regulierungen könnten angepasst, ggf. auf den Weg gebracht werden. Zudem könnte man dadurch sicherstellen, ob es sich bei den betreffenden KI-Anwendungen um die sog. High Risk Applikationen handelt. Dies könnte eine zusätzliche Planungssicherheit für die Startups sowie Investoren bieten.

Damit Regulatory Sandboxes langfristig eine förderliche Perspektive für Startups darstellen, sieht der BVDS folgende Voraussetzungen:

● Transparenz hinsichtlich der Bedingungen einer Verstetigung, andernfalls schwindet die Chance des Startups auf (private) Finanzierung.
● Zugang zu Datensätzen und Sicherstellung der Diversität der Daten, z.B. durch unterschiedliche Erhebungsmethoden und/oder -orte.
● Klar definierte Ziele, Verantwortungsbereiche, sowie Prozesse und transparent formulierte Anforderungen und Erwartungshaltungen.
● Eine Stärkung von Startups durch die Erleichterung von Vergaben im öffentlichen Sektor.
● Der bürokratische Aufwand der Sandbox sollte dem Ziel der Innovationsförderung nicht entgegenstehen.

Zum Bundesverband Deutsche Startups e.V.
Der Bundesverband Deutsche Startups e.V. (Startup-Verband) wurde im September 2012 in Berlin gegründet und vertritt derzeit mehr als 1.000 Mitglieder. Der Verein ist Repräsentant und Stimme der Startups in Deutschland. Er erläutert und vertritt die Interessen, Standpunkte und Belange von Startup-Unternehmen gegenüber Gesetzgebung, Verwaltung und Öffentlichkeit. Übergeordnetes Ziel des Vereins ist es, Startups in Deutschland zu stärken und zu fördern.

_________________________________________

1 Artikel 54 AIA.
2 Artikel 54 (1) AIA.
3 BMWi, Freiräume für Innovation. Handbuch für Reallabore, S. 76.