Der folgende Beitrag wurde als Beitrag für das Internationale Rechtsinformatik Symposion IRIS 2020 in Salzburg angenommen und wird im Februar 2020 im Tagungsband erscheinen.


Mit dem Voranschreiten der Digitalisierung scheint das Recht mit seinen Regelungsansprüchen zunehmend ins Hintertreffen zu geraten. Die wissenschaftlichen Diagnosen deuten an, dass Recht, so wie wir es kennen, mittel- bis langfristig nicht in der Lage sein könnte, seine rechtsstaatliche verbriefte normative Deutungshoheit über die Gewichtung und den Ausgleich gesellschaftlicher und individueller Interessen zu behaupten. Als möglicher Vorbote einer solchen Entwicklung zeigt sich eine laufend zunehmende Zahl von als «ethisch» bezeichneten Regelungsprogrammen für die Entwicklung künstlicher Intelligenz, die von nationalen und internationalen staatlichen wie privaten Organisationen publiziert wurden und werden. Der vorliegende Beitrag stellt in einer kurzen Übersicht den zentralen Gehalt der Programme für ethische KI in den Kontext des nationalen und internationalen rechtlichen Geltungsanspruchs.

1. Die ethischen Ziele für die Entwicklung und den Betrieb von KI

[1] Maschinenethik ist im Zuge der Entwicklung von Computern entstanden und hat parallel zur rasanten Entwicklung der elektronischen Informationssysteme an Bedeutung zugenommen.[1] Zurzeit erlebt insbesondere die Ethik betreffend den Betrieb von sog. künstlichen Intelligenzen eine Blütezeit. Es sei eine wahre Flut von entsprechenden öffentlichen Bekenntnissen zu verzeichnen, so die Autorinnen einer im September 2019 in nature machine intelligence erschienen Studie.[2] Bei der Durchsicht des Anhangs wird schnell klar, dass diese Aussage keineswegs übertrieben ist: nicht weniger als 84 Dokumente wurden gesichtet und nach quantitativen Gesichtspunkten ausgewertet – ohne Anspruch auf Vollständigkeit.[3]

[2] Ziel der Studie ist die Ermittlung von Gemeinsamkeiten in den deklarierten ethischen Grundsätzen sowie eine Einschätzung der Gewichtung der einzelnen Grundsätze aufgrund der globalen Verbreitung (= Anzahl Nennungen in den untersuchten Dokumenten). Die Quantitative Auswertung zeigt, dass die in den verschiedenen Erklärungen aufgelisteten ethischen Grundsätze zum Einsatz von sog. künstlicher Intelligenz keineswegs gleichmässig verteilt oder gewichtet sind.[4]

[3] Dennoch ist eine angesichts der kulturellen Vielfalt der erklärenden Staaten und Organisationen bemerkenswerte Ähnlichkeit festzustellen – mit feinen Unterschieden, etwa in Bezug auf die Gewichtung von Sensibilisierungsstrategien zugunsten von KI.[5] Immerhin ist der Erklärungsgehalt genügend homogen, dass es den Autorinnen plausibel gelingt, aus den gesichteten Dokumente elf ethische Metaprinzipien[6] zu bilden, die nach Anzahl Nennungen in den gesichteten Dokumenten sortiert werden. Es sind dies Transparenz (transparency; 73), Gerechtigkeit und Fairness (justice and fairness; 68), Nichtschadensprinzip (non-maleficence; 60), Verantwortung (responsibility; 60), Privatheit (privacy; 47), Wohltätigkeit (beneficence; 41), Freiheit und Autonomie (freedom and autonomy; 34), Vertrauen (trust; 28), Nachhaltigkeit (sustainability; 14), Würde (dignity; 13) und Solidarität (solidarity; 6).[7]

2. Rechtlicher Status der Erklärungen

[4] Wie nun aber können diese Absichtserklärungen rechtlich erfasst werden? Handelt es sich um ernsthafte Bestrebungen, sich im Dialog an einen künftigen Rechtsstandard anzunähern oder eher um virtue signaling bzw. gar rechtspolitische Verzögerungstaktiken? Die Bezeichnung als «ethische» Leitlinien macht zumindest deutlich, dass eine Übersetzungsleistung notwendig ist, um einen vorhandenen rechtlichen Gehalt herauszuschälen. Dies kann an dieser Stelle indes nur skizzenhaft geleistet werden. Das Ergebnis kann immerhin einen Orientierungspunkt für die Bestimmung der künftigen Rechtsentwicklung bilden.

2.1. Bezeichnung als «ethisch» durch verschiedene Akteure

[5] Die aufgelisteten Richtlinien zur ethischen KI stammen von Akteuren aus dem privaten wie dem öffentlichen Sektor und wurden auf nationaler wie internationaler Ebene verabschiedet. Es handelt sich hierbei neben Staaten und internationale Organisationen vor allem um Technologiekonzerne und private NGO. Eine interessantere Kategorisierung der erklärenden Akteure ist indes die Differenzierung zwischen regelungsbefugten Instanzen und privatrechtlich organisierten Konzernen, welche die tatsächliche Entwicklung von KI vorantreiben.
Für die Staaten und ihre Organisationen kann davon ausgegangen werden, dass die Erlassform sowie die Bezeichnung als «ethisch» verdeutlichen, dass die entsprechenden Richtlinien zunächst als sog. «soft law»[8], d.h. als rechtlich unverbindliche Absichtserklärungen, kategorisiert werden sollen, auf welchen eine künftige Rechtsentwicklung aufbauen soll.[9] Beispielsweise stellen die Draft Ethics Guidelines for Trustworthy AI der AI High Level Expert Group der Europäischen Kommission mit Nachdruck fest, dass die Guidelines weder einen Ersatz für Regulierung darstellen, noch Regulierung verhindern sollen.[10] Noch deutlicher kommt diese Strategie in China zum Ausdruck, dessen New Generation Artificial Intelligence Development Plan von 2017 eine initiale Schaffung ethischer Fundamente für KI vorsieht, die bis 2025 inhaltlich präzisiert und in rechtliche Erlasse übersetzt werden sollen.[11]

[6] Die Bezeichnung als «ethisch» durch die Privaten bezweckt vermutungsweise eher, solche Prinzipien und Grundregeln soweit wie möglich vom Geltungsbereich der vertraglichen AGB auszunehmen und deren Umsetzung dem Gutdünken der Industrie zu überlassen – wobei Nutzer insbesondere aufgrund des fehlenden Vertrauensverhältnisses (wie dies etwa bei Ärzten gegeben ist) nicht damit rechnen können, dass ihre Interessen hierbei genügend berücksichtigt werden.[12] Auf der internationalen Ebene zeitigen solche Erklärungen der privaten KI-Industrie dagegen keine rechtliche Wirkung in dem Sinne, als sie eine sich herauskristallisierende opinio iuris eines Rechtssubjekts des Völkerrechts darstellen könnten.[13]

[7] Wenn dem so ist, dann haben die staatlichen und privaten Erklärungen auf zwei unterschiedlichen Rechtsebenen eine tendenziell entgegengesetzte Wirkung: während im internationalen Bereich «soft law» den Vorläufer einer sich bildenden opinio iuris[14] der beteiligten Staaten bilden, und damit einen Zwischenschritt zur Etablierung von gewohnheitsrechtlichem «hard law» (d.h. zu verbindlichen rechtlichen Normen) darstellen kann,[15] dürfte im innerstaatlichen (beispielsweise Schweizer) Recht die Erklärung durch Private eher als Wille aufgefasst werden, diese als «ethisch» bezeichneten Handlungsziele gerade nicht als rechtlich verpflichtend anzuerkennen.[16] Eine entsprechende innerstaatliche Rechtsentwicklung kann schliesslich dazu führen, dass sich aus dieser Richtung eine innerstaatliche opinio iuris bzw. ein korrespondierender rechtspolitischer Gestaltungswille in Einklang mit diesen privaten Erklärungen bildet.

2.2. Verbindlicherklärung im inner- und zwischenstaatlichen Recht

2.2.1. Durch Private

[8] Im Rahmen des Schweizerischen Zivilrechts erscheint unbestritten, dass solchen Erklärungen, soweit sie nicht als verbindlicher Vertragsbestandteil bezeichnet, also beispielsweise über die AGB in einen Vertrag eingebunden werden, keine rechtliche Verbindlichkeit aus Vertrag zukommen soll.[17] Zudem deutet die ausdrückliche Bezeichnung als «ethisch» - im Gegensatz zu «rechtlich» oder «vertraglich» - auf eine Absicht hin, solche Erklärungen im Rahmen einer vertraglichen Interpretation nach Art. 18 OR nicht als Auslegehilfe zur Bestimmung der vereinbarten rechtlichen Pflichten gegenüber anderen Vertragsparteien anzuerkennen.[18] Schliesslich können solche Erklärungen eine Verzögerung der benötigten rechtlichen Regulierung bewirken.[19]

[9] Weiter besteht die Möglichkeit, dass die Auslegung der offenen Rechtsnormen im Bereich KI-Nutzung durch Private über (internationale) Schiedsgerichte abgewickelt wird und dadurch ein globaler, ausserrechtlicher Billigkeitsstandard entsteht.[20] Schiedsgerichte könnten die bis dato publizierten ethischen Leitlinien und Erklärungen als Auslegehilfen für Branchenstandards anwenden, ohne dass sich die Beteiligten notwendigerweise den grund- und menschenrechtlichen Schutzpflichten der zur Regulierung zuständigen Staaten rechtlich verpflichtet fühlen.[21]

2.2.2. Durch staatliche Instanzen

[10] Die Rechtsqualität solcher Erklärungen im innerstaatlichen Recht wird schwieriger zu bestimmen, wenn man diese den ausservertraglichen Rechtsinstituten des Zivil- und Verfassungsrechts gegenüberstellt, insbesondere den «guten Sitten», dem Handeln nach «Treu und Glauben» bzw. dem Vertrauensschutz sowie den grundrechtlichen Schutzpflichten des Staates. Hier wäre es denkbar, dass ein Richter im Rahmen einer verfassungskonformen Auslegung von zwingenden Bestimmungen des Vertragsrechts bzw. der Auslegung des Umsetzungsgebots der Grundrechte in Art. 35 Abs. 3 BV oder aber in Anwendung des Rechts modo legislatoris nach Art. 1 Abs. 2 ZGB öffentliche Erklärungen einer Beklagten als rechtlich relevant berücksichtigen könnte, soweit diese in einem solchen Dokument «ethische» Prinzipien konkretisieren, die zugleich rechtlich verankerte sind. Es stellte sich dann die Frage, auf welche bereits vorhandenen rechtlichen Standards ein Gericht sich berufen könnte bzw. inwiefern die ethischen und die rechtlichen Zielvorgaben sich überschneiden müssten, um sich gegenseitig zu informieren.

[11] Zudem ist es dem Gesetzgeber unbenommen, eigenen Regelungen vorzunehmen oder aber auf entsprechende Regelungen von Privaten zu verweisen. Darüber hinaus können die zuständigen innerstaatlichen Instanzen entsprechende Vertragsverhandlungen auf internationaler Ebene prüfen oder Handlungen vornehmen, die das Vorhandensein einer entsprechenden opinio iuris andeuten oder gar belegen.

2.3. Übersetzung ethischer Standards in rechtliche Pflichten

[12] Die bisherigen Ausführungen zeigen, das «ethische» Standards aus je unterschiedlichen Gründen nicht ohne weiteres eine rechtliche Wirkung erzielen, dass eine solche Wirkung indes eintreten kann. Im Völkerrecht erfolgt dies durch den Nachweis einer opinio iuris, im innerstaatlichen Recht durch eine Form der rechtlichen Verbindlicherklärung. Selbst wenn ein solcher formalrechtlicher Link hergestellt wird, ist damit noch nicht klar, wie die entsprechenden ethischen Standards in rechtliche Pflichten übersetzt werden können. Dazu soll im Folgenden ein mögliches Übersetzungsmodell skizziert werden. Dieses gründet auf zwei Messgrössen: dem Grad der Übereinstimmung zwischen einem als «ethisch» bezeichneten Prinzip und einem ähnlich gelagerten Rechtsprinzip sowie dem formellen Gewicht dieses Rechtsprinzips; ob es also im Verfassungsrecht, auf Gesetzesstufe oder aber einer unterhalb des Gesetzes liegenden Erlassebene verankert ist.

2.3.1. Ausganspunkt: Überschneidung der Schutzfunktionen in Bezug auf Rechtsgüter

[13] In den Erklärungen zu «ethischer» KI werden überwiegend Prinzipien genannt, die andernorts bereits als rechtliche Normen festgelegt sind und somit eine gewisse Rechtsnähe zeigen. Umgekehrt verweisen viele rechtliche Prinzipien in ihrem normativen Gehalt auf zugrundeliegende moralische Prinzipien[22] und damit auf die entsprechenden ethischen Fragekomplexe.[23] Dem Recht kommt hier insbesondere die Funktion zu, solche ursprünglich moralischen, und nunmehr als rechtlich für verbindlich erklärte prinzipielle Normen zu konkretisieren (in der Form von Gesetzen und anderen Erlassen), zu stabilisieren (in der Form einer fortlaufend ausdifferenzierenden Anwendungspraxis der betreffenden Rechtsnormen), gesellschaftlich zu reflektieren[24] sowie im Einzelfall zwischen sich widersprechenden Normen zu vermitteln bzw. entscheiden, indem es diese in einen möglichst schonenden Ausgleich zu einander bringt.[25] Letzteres bedeutet, dass das Recht einen mittels legitimierender Momente der demokratischen Willensbildung und der demokratischen Kontrolle rechtsstaatlich eingebetteten Mechanismus zur Abwägung zwischen konkurrierenden Prinzipien bereitstellt.

[14] In Anwendung dieses Abwägungsmechanismus obsiegt ein Prinzip unter erhaltender Optimierung[26] der gegenläufigen, gleichsam unterlegenen Prinzipien.[27] Aus der entstandenen Prinzipienhierarchie lässt sich schliesslich die im Einzelfall anwendbare, «kontextbezogene Regel» bilden.[28] Um diese Rechtsregel sauber bilden zu können, muss indes bestimmbar sein, inwieweit ein Prinzip insgesamt oder Teilgehalte desselben rechtlich wirksam sind. Hierbei sind die Bestimmtheit und der Legitimationsgrad der verweisenden Rechtsnorm entscheidend, um die formelle rechtliche Gewichtung[29] der durch sie transportierten Prinzipien zu begründen.

[15] Dies hat zur Folge, dass ein als «ethisch» bezeichnetes Prinzip, das von einer Organisation erklärt wird, welche nicht zur Rechtssetzung befugt ist, nur insoweit eine geltende Rechtspflicht in ihrer Wirkung beschränken kann, als es zum Zweck dieser Einschränkung mit genügender Legitimation (z.B. durch den Gesetzgeber[30]) für rechtsverbindlich erklärt wurde.[31] Auf der anderen Seite können mittels der Gegenüberstellung von wesensgleichen «ethischen» und rechtlichen Prinzipien sowohl der Gehalt des rechtlichen Prinzips konkretisiert als auch das rechtliche Gewicht des «ethischen» Prinzips ermittelt werden.

[16] Im Ergebnis bedeutet dies zudem auch, dass die Bezeichnung eines Prinzips oder einer Handlungsanweisung für den Einsatz von KI als «ethisch» aus rechtsstaatlicher Sicht irrelevant ist, wenn ohne Ankerpunkt in einem genügend legitimierten Erlass ein verfassungsrechtlich geschütztes Rechtsgut - wie etwa die Persönlichkeit - in einer unverhältnismässigen Art und Weise belastet wird. Dies gilt umso mehr im Bereich des «unantastbaren Kerngehalts» eines Grundrechts.[32]

2.3.2. Die Rechtsnähe der Metaprinzipien

[17] Die in der erwähnten Studie identifizierten Metaprinzipien lassen sich grossmehrheitlich auf bestehende rechtliche Normen abbilden, wie sie im Risiko- bzw. Technologierecht, insbesondere im Daten- und Umweltschutzrecht, im Medizinrecht, aber auch im zivilrechtlichen Persönlichkeits- und Haftpflichtrecht sowie auf Verfassungsebene verankert sind. Durch eine Gegenüberstellung kann im Einzelfall das formalrechtliche Wertungsgewicht ermittelt werden.

[18] So stehen beispielsweise die Transparenz und die damit verbundenen Prinzipien wie etwa Erkennbarkeit, Erklärbarkeit, Nachvollziehbarkeit oder die grundsätzliche Pflicht zur Offenlegung von Informationen in einer Wechselwirkung mit den gleichlautenden, auf nationaler wie internationaler Ebene verankerten Prinzipien des Datenschutzrechts.[33] Das Nichtschadensprinzip findet sich bereits in der Form des Rechtsgrundsatzes neminem laedere im römischen Recht und bildet noch heute einen der Grundpfeiler moderner Rechtsordnungen. Dies zeigt sich etwa im Haftpflichtrecht oder im Strafrecht, welche die Schädigung von Rechtsgütern ausgleichen bzw. unter Strafe stellen.

[19] Weiter wird mit der Privatheit ein den datenschutzrechtlichen bzw. persönlichkeitsrechtlichen Grundrechten zugrundeliegendes Schutzprinzip angesprochen.[34] Privatheit bezeichnet in diesem Zusammenhang einen Freiraum zur Entwicklung der Persönlichkeit, zur effektiven, unbeobachteten Ausübung der Grundrechte sowie zur gegenseitigen Sicherung der verfassungsrechtlich garantierten Autonomie.[35] Das Prinzip der Verantwortung bildet sodann eines der zentralen Prinzipien der rechtsstaatlich eingerahmten Privatautonomie und ist ausdrücklich in Art. 6 BV verankert. Es bildet das Korrelativ zu den Prinzipien der Freiheit und der Autonomie, die im Kanon der Grundrechte insgesamt zum Ausdruck gebracht werden. Derweil gilt das Prinzip der Nachhaltigkeit als eines der Strukturprinzipien des Umweltrechts.[36]

[20] Schliesslich bildet die Würde in der rechtlichen Form der in Art. 7 BV verankerten Garantie der Menschenwürde einen unabdingbaren zentralen Pfeiler moderner rechtsstaatlicher Demokratien wie der Schweiz.[37]

3. Ethische Normen als Ausdruck einer (rechtlich begleiteten?) Selbstregulierung

[21] Die Diskussion, welche in den Erklärungen zum ethischen Umgang mit KI ihren Ausdruck findet, dreht sich im Kern um die Frage, wie KIn strukturiert sein, bzw. welchen Mindestanforderungen ihre Architekturen genügen müssen. Denn das Design einer KI bestimmt weitgehend darüber, welche rechtlichen Anforderungen im Rahmen des Betriebs tatsächlich erfüllt werden können[38] – mit anderen Worten ist Regulierbarkeit nicht automatisch gegeben sondern muss als affordance (Angebot) in die Technologie eingebaut werden,[39] um nicht von einem immanenten constraint, be- oder gar verhindert zu werden.[40] Wird demnach eine Designmethode als Zulässig erachtet, ergibt sich daraus zugleich ein signifikanter Teil der möglichen (oder eben unmöglichen) regulatorischen Erfassung. Längerfristig betrachtet stellen beiden Seiten somit Ansprüche an künftige, verbindliche Regelungen. Es wird offenbar versucht, wesentliche Gehalte eines künftigen rechtlichen Normenkomplexes vorwegzunehmen.

[22] Hier sind zwei problematische Aspekte besonders hervorzuheben. Zum einen wird durch den öffentlichen Austausch von Erwartungen über künftige Rechtsnormen in diesem Bereich die demokratische Mitwirkung von Bürgerinnen und Bürgern sowie die Rechtsetzungshoheit des Parlaments berührt. Zum anderen verlagern sich im Zuge einer «ethischen» Selbstregulierung von KI-Firmen die mit den Datenschutzrechten verbundenen Momente des Grund- und Persönlichkeitsschutzes der Bevölkerung zunehmend auf diese Firmen. Ein Beispiel hierfür ist die Verantwortung, welche Google und anderen Suchmaschinenbetreibern durch den Europäischen Gerichtshof zugewiesen wurde, Umsetzungsparameter des Rechts auf Vergessen festzulegen.[41]

[23] Ein denkbares Modell für eine sinnvolle Funktionsteilung bestünde beispielsweise darin, dass der Rechtsstaat sich darauf zurückzieht, ein Forum für die Ermittlung rechtlicher Normativität zur Verfügung zu stellen, um im Sinne einer «bottom up» Strategie private Initiativen zu unterstützen[42] und verfassungsrechtlich zu monitoren. Derweil könnten die Proklamierten, als «ethisch» bezeichneten Prinzipienbündel zur Umsetzung von KI als diskursive Plattform dienen, auf welcher die zu einem späteren Zeitpunkt im rechtsstaatlichen Forum auf ihre rechtliche Verbindlichkeit überprüfbaren Handlungsanweisungen und Standards ausgehandelt würden.[43] Hierbei wäre sicherzustellen, dass die verlinkten Foren der Ethik und des Rechts in genügender Art und Weise miteinander und mit den Sicherungsmechanismen des Rechtsstaats gekoppelt sind, mithin eine genügende rechtsstaatliche Qualität aufweisen, um bei der Verletzung von staatlichen Schutzpflichten einen Rechtsentscheid zu ermöglichen.

4. Fazit und Ausblick

[24] Im Ergebnis stellt sich mit dem Advent von «ethischen» Prinzipienerklärungen für die Entwicklung und den Betrieb von KI-Systemen durch internationale Organisationen und Konzerne die Frage der Trennung und des Zusammenwirkens von «soft law» und «hard law» in diesem Zusammenhang nicht mehr nur im zwischenstaatlichen Kontext, sondern auch im Rahmen des innerstaatlichen Rechts. Für die Schweiz bedeutet dies, dass sich mit der Zeit, ausgehend von der Vielzahl von Erklärungen zu ethischer KI im In- und Ausland und über rechtliche Übersetzungsmechanismen wie der Achtung der guten Sitten, dem Gebot des Handelns nach Treu und Glauben, der richterlichen Rechtsschöpfung nach Art. 1 Abs. 2 ZGB sowie den aus Art. 35 Abs. 3 BV fliessenden grundrechtlichen Schutzpflichten des Staates, (gewohnheits-)rechtliche Designvorgaben für künstlich intelligente Algorithmen herausbilden könnten. Auf internationaler Ebene ist abzusehen, dass jene Prinzipien, die in solchen Dokumenten den grössten Niederschlag gefunden haben, mit der Zeit den Status von Gewohnheitsrecht oder aber von allgemeinen Rechtsgrundsätzen erlangen, sofern sie nicht kodifiziert werden.

[25] Die als «ethisch» bezeichneten Pflichten dürften, soweit sie sich auf den Schutz von Rechtsgütern beziehen und mit bestehenden allgemeinen rechtlichen Schutzpflichten korrespondieren, den Gehalt von rechtlichen Sorgfaltspflichten informieren, etwa im Haftpflicht-, Straf- oder Datenschutzrecht. Für die inhaltliche Entwicklung von rechtsverbindlichen Normkomplexen wird mitentscheidend sein, ob und wie die Unterschiede im Erklärungsgehalt, die typischerweise zwischen privaten und staatlichen Erklärungen dieser Art festzustellen sind,[44] in Einklang gebracht werden können.

[26] Eine solche Entwicklung dürfte über Zeit auch zu Änderungen in «harten» innerstaatlichen Rechtsquellen führen, namentlich den Verfassungen und Gesetzen von Bund und Kantonen. Für das Schweizer Recht kann in dieser Hinsicht insbesondere auf die Entwicklung von ungeschriebenem Verfassungsrecht durch das Bundesgericht im 20. Jahrhundert verwiesen werden. Die hierbei aus einem allgemeinen, gesellschaftlichen Gerechtigkeitsempfinden entwickelten Grundrechte wurden in der Folge zu verschiedenen Zeitpunkten je einzeln, spätestens aber mit der Revision im Jahr 2000 in die Bundesverfassung aufgenommen.[45]

[27] Damit die rechtsstaatliche Entwicklung an die angelaufene Diskussion anknüpfen kann, müssten Prozesse definiert werden, die in der Lage sind, nationale und internationale gesellschaftliche Diskussionen um Normen ethischer KI zu identifizieren und gegebenenfalls ins Recht zu übersetzen. Im Ergebnis müssten umsetzbare Vorschriften in genügend legitimierten Erlassen, eine genügende Einbindung in staatlich beaufsichtigte Kontroll- bzw. Zertifizierungssysteme sowie ergänzende Massnahmen für Schadensminimierung und -ausgleich resultieren. Im Sinne der Rechtssicherheit wäre der ethische vom rechtlich verbindlichen Gehalt zu unterscheiden und auszuweisen. Es erscheint aufgrund der Komplexität und der Ubiquität der Herausforderungen nicht sinnvoll, diese Fragen ausschliesslich den Gerichten zu überlassen, da diese die Entwicklung nur punktuell beeinflussen und zudem durch Schiedsgerichte aus der rechtlichen Diskussion verdrängt werden könnten.[46]

5. Literatur

Alexy Robert, Rechtsregeln und Rechtsprinzipien, in: Alexy/Koch/Kuhlen/ Rüßmann, Elemente einer juristischen Begründungslehre, Nomos Verlagsgesellschaft, Baden-Baden 2003.
Belser Eva Maria/Epiney Astrid/Waldmann Bernhard, Datenschutzrecht – Grundlagen und öffentliches Recht, Stämpfli Verlag AG, Bern 2011.
Besson Samantha, Droit International Public - Précis de droit et résumés de jurisprudence, Stämpfli Editions, Bern 2019.
Borowski Martin, Formelle Prinzipien und Gewichtsformel, in: Klatt (Hrsg.), Prinzipientheorie und Theorie der Abwägung, Mohr Siebeck, Tübingen 2013.
Gauch Peter, Auslegung, Ergänzung und Anpassung schuldrechtlicher Verträge, in: Peter Gauch/Jörg Schmid (Hrsg.), Die Rechtsentwicklung an der Schwelle zum 21. Jahrhundert, Symposium zum Schweizerischen Privatrecht, Schulthess Verlag, Zürich 2001.
Glass Philip, Die rechtsstaatliche Bearbeitung von Personendaten in der Schweiz - Regelungs- und Begründungsstrategien des Datenschutzrechts mit Hinweisen zu den Bereichen Polizei, Staatsschutz, Sozialhilfe und elektronische Informationsverarbeitung, 1. Auflage, Dike Verlag, Zürich/St. Gallen 2017, zugl. Diss. Univ. Basel 2016.
Hartzog Woodrow, Privacy's Blueprint, The Battle to Control the Design of New Technologies, 1st Printing, Harvard University Press, Cambridge (MA)/London 2018.
Herdegen Matthias, Völkerrecht, 18., überarbeitete und erweiterte Auflage, Verlag C.H. Beck, München 2019.
Hildebrandt Mireille, Smart Technologies and the End(s) of Law, Edward Elgar Publishing, Cheltenham UK, Northampton, MA, USA 2016.
Ipsen Nils Christian, Private Normenordnungen als Transnationales Recht?, Duncker & Humblot, Berlin 2009.
Jobin Anna/Ienca Marcello/Vayena Effy, The global landscape of AI ethics guidelines, Nat Mach Intell 1, 389–399 (2019), 2. September 2019.
Kuhlen Lothar, Normverletzung im Recht und in der Moral, in: Alexy/Koch/Kuhlen/Rüßmann, Elemente einer juristischen Begründungslehre, 1. Auflage, Nomos Verlagsgesellschaft, Baden-Baden 2003.
Misselhorn Catrin, Grundfragen der Maschinenethik, Philipp Reclam jun. Verlag GmbH, Stuttgart 2018.
Mittelstadt Brent, Principles Alone Cannot Guarantee Ethical AI, Nat Mach Intell (2019), DOI10.1038/s42256-019-0114-4.
Morley Jessica/Wang Vincent/Floridi Luciano, The Chinese Approach to Artificial Intelligence: an Analysis of Policy and Regulation, SSRN, 2019.
Orakhelashwili Alexander, Akehurst’s Modern Introduction to International Law, 8th Ed., Routledge, London and New York 2019.
Rhinow René/Schefer Markus/Übersax Peter, Schweizerisches Verfassungsrecht, 3. Erweiterte und aktualisierte Auflage, Helbing Lichtenhahn Verlag, Basel 2016.
Rüpke Giselher/V. Lewinski Kai/Eckhardt Jens, Datenschutzrecht, Verlag C.H. Beck, München 2018.
Schefer Markus, Die Kerngehalte von Grundrechten - Geltung, Dogmatik, inhaltliche Ausgestaltung, Stämpfli Verlag AG, Bern 2001.
Schuppert Gunnar Folke, The World of Rules - A Somewhat Different Measurement of the World, MPI for European Legal History Open Access Publication, Berlin 2017
Seelmann Kurt/Demko Daniela, Rechtsphilosophie, 7., überarbeitete Auflage, Verlag C.H. Beck, München 2019.
Sheplyakova Tatjana, Prozeduralisierung des Rechts - Tema con Variazioni, in: Sheplyakova (Hrsg.), Prozeduralisierung des Rechts, Moor Siebeck, Tübingen 2018.
Vesting Thomas, Die Medien des Rechts: Computernetzwerke, Erste Auflage, Velbrück Wissenschaft, Weilerswist 2015.
Wischmeyer Thomas, Regulierung intelligenter Systeme, AöR 143 1-66, DOI10.1628/aoer-2018-0002.
Zippelius Reinhold, Juristische Methodenlehre, 11. Auflage, Verlag C.H. Beck, München 2012.


photo originally by unknown, Montreal


  1. Misselhorn, Grundfragen der Maschinenethik, Philipp Reclam jun. Verlag GmbH, Stuttgart 2018, S. 8 ff. ↩︎

  2. Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, Nat Mach Intell 1, 389–399 (2019), S. 389. ↩︎

  3. Zuletzt erschien im Oktober 2019 beispielsweise ein sehr ausführliches Gutachten der Datenethikkommission der Deutschen Bundesregierung. ↩︎

  4. Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 389. ↩︎

  5. Siehe dazu Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 396. ↩︎

  6. Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 391; "Eleven overarching ethical values and principles have emerged from our content analysis". ↩︎

  7. Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, Table 3. ↩︎

  8. Zum Begriff Orakhelashwili, Akehurst’s Modern Introduction to International Law, 8th Ed., London and New York 2019, S.48 f. ↩︎

  9. Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 389. ↩︎

  10. AI High Level Expert Group, Draft Ethics Guidelines for Trustworthy AI, European Commission, 18 December 2018, Executive Summary, S. ii. ↩︎

  11. Morley/Wang/Floridi, The Chinese Approach to Artificial Intelligence: an Analysis of Policy and Regulation, SSRN, 2019, S. 3 f. ↩︎

  12. Mittelstadt, Principles Alone Cannot Guarantee Ethical AI, Nat Mach Intell (2019), DOI10.1038/s42256-019-0114-4, S. 3. ↩︎

  13. Siehe Besson, Droit International Public Précis de droit et résumés de jurisprudence, Bern 2019, Rz. 936. ↩︎

  14. Zum Begriff, Orakhelashwili, Akehurst’s Modern Introduction to International Law, S.41 f. ↩︎

  15. Besson, Droit International Public, Rz. 934 f.; Herdegen, Völkerrecht, 18., überarbeitete und erweiterte Auflage, Verlag C.H. Beck, München 2019, S. 174 f.; Schuppert, The World of Rules - A Somewhat Different Measurement of the World, MPI for European Legal History Open Access Publication, Berlin 2017, S. 169 f. ↩︎

  16. Im Sinne einer streng rechtspositivistischen Unterscheidung zwischen Recht und Moral; vgl. dazu Kuhlen, Normverletzung im Recht und in der Moral, in: Alexy/Koch/Kuhlen/Rüßmann, Elemente einer juristischen Begründungs-lehre, 1. Auflage, Nomos Verlagsgesellschaft, Baden-Baden, 2003, S. 443. ↩︎

  17. Gauch, Auslegung, Ergänzung und Anpassung schuldrechtlicher Verträge, in: Die Rechtsentwicklung an der Schwelle zum 21. Jahrhundert, Symposium zum Schweizerischen Privatrecht, Zürich 2001, S. 218. ↩︎

  18. Gauch, Auslegung, Ergänzung und Anpassung schuldrechtlicher Verträge, S. 211 ff. ↩︎

  19. Mittelstadt, Principles Alone Cannot Guarantee Ethical AI, S. 1; Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 389. ↩︎

  20. Ipsen, Private Normenordnungen als Transnationales Recht?, Duncker & Humblot, Berlin 2009, S. 228. ↩︎

  21. Vgl. Vesting, Die Medien des Rechts: Computernetzwerke, Erste Auflage, Velbrück Wissenschaft, Weilerswist 2015, S. 113. ↩︎

  22. Seelmann/Demko, Rechtsphilosophie, 7., überarbeitete Auflage, C.H. Beck, München 2019, S. 84 ff. ↩︎

  23. Zum Verhältnis zwischen Ethik und Moral Misselhorn, Grundfragen der Maschinenethik, S. 45 ff. ↩︎

  24. Zippelius, Juristische Methodenlehre, 11. Auflage, Verlag C.H. Beck, München 2012, S. 47 f. ↩︎

  25. Angesprochen ist hier das sog. Prinzip der praktischen Konkordanz; dazu Rhinow/Schefer/Übersax, Schweizerisches Verfassungsrecht, 3. Erweiterte und aktualisierte Auflage, Helbing Lichtenhahn Verlag, Basel 2016, Rz. 1126. ↩︎

  26. Zum Begriff Glass, Die rechtsstaatliche Bearbeitung von Personendaten in der Schweiz - Regelungs- und Begründungsstrategien des Datenschutzrechts mit Hinweisen zu den Bereichen Polizei, Staatsschutz, Sozialhilfe und elekt-ronische Informationsverarbeitung, 1. Auflage, Dike Verlag, Zürich/St. Gallen 2017, S. 226. ↩︎

  27. Alexy, Rechtsregeln und Rechtsprinzipien, in: Alexy/Koch/Kuhlen/Rüssmann (Hrsg.), Elemente einer juristischen Begründungslehre, Nomos, Baden-Baden 2003, S. 231 f. ↩︎

  28. Mit «Kontext» sind die spezifischen Einzelheiten der zu beurteilenden Umstände gemeint; Glass, Die rechtsstaatliche Bearbeitung von Personendaten in der Schweiz, S. 18. ↩︎

  29. Zur Gewichtung durch formelle Prinzipien siehe Borowski, Formelle Prinzipien und Gewichtsformel, in: Klatt (Hrsg.), Prinzipientheorie und Theorie der Abwägung, Mohr Siebeck, Tübingen 2013, S. 186. ↩︎

  30. So ist der Gesetzgeber in der Schweiz gemäss Art. 36 BV befugt, schwere Eingriffe in die Grundrechte zu rechtfertigen. ↩︎

  31. Für das Schweizer Recht BGE 136 IV 97 (Zwangsernährung), S.111, E. 6.2.2.; vgl. dazu auch SAMW/FMH, Rechtliche Grundlagen im medizinischen Alltag - Ein Leitfaden für die Praxis, 2. Überarbeitete und erweiterte Auflage, 2013, abrufbar über www.samw.ch (zuletzt am 11.12.2019), S. 12 f.; zu den Integrationsmöglichkeiten ins innerstaatliche Recht Ipsen, Private Normenordnungen als Transnationales Recht?, S. 232. ↩︎

  32. Garantiert in Art. 36 Abs. 4 BV; BIAGGINI, Bundesverfassung der Schweizerischen Eidgenossenschaft, 2., überarbeitete und erweiterte Auflage, Orell Füssli Verlag, Zürich 2017, Art. 36 Rz. 24 ff. m.w.H., insb. auf die diesbezüglich «zentrale Rolle der Menschenwürde»; als «materielle Grenzen des Rechts» bei Schefer, Die Kerngehalte von Grundrechten - Geltung, Dogmatik, inhaltliche Ausgestaltung, Stämpfli Verlag AG, Bern 2001, S. 229 f. ↩︎

  33. Zum «Grundsatz» der Transparenz siehe Epiney, in: Belser/Epiney/Waldmann, Datenschutzrecht – Grundlagen und öffentliches Recht, Stämpfli Verlag AG Bern 2011, § 9 Rz. 37 ff.; zu den Transparenzpflichten in der DSGVO siehe Rüpke, in: Rüpke/v. Lewinski/Echhardt, Datenschutzrecht, Verlag C.H. Beck, München 2018, § 15 Rz. 1 ff. ↩︎

  34. Glass, Die rechtsstaatliche Bearbeitung von Personendaten in der Schweiz, S. 153 ff. ↩︎

  35. Ibid. S. 174 f.; mit Hinweis auf die diesbezüglich zersetzende Wirkung von intransparenten Datenbearbeitungen. ↩︎

  36. Vgl. für das Schweizer Recht Art. 73 BV. ↩︎

  37. Für das Schweizer Recht Art. 7 BV: «Die Würde des Menschen ist zu achten und zu schützen»; dazu statt vieler BIAGGINI, Bundesverfassung der Schweizerischen Eidgenossenschaft, Art. 7, Rz. 4. ↩︎

  38. Wischmeyer, Regulierung intelligenter Systeme, AöR 143 1-66, S. 20. ↩︎

  39. Vgl. dazu das Konzept der legal protection by design bei Hildebrandt, Smart Technologies and the End(s) of Law, Edward Elgar Publishing, Cheltenham UK, Northampton, MA, USA 2016, S. 218. ↩︎

  40. Zu den Begriffen Hartzog, Privacy's Blueprint, The Battle to Control the Design of New Technologies, Harvard University Press, Cambridge (MA)/London 2018, S. 31 f. ↩︎

  41. EuGH, Urteil des Gerichtshofs (Große Kammer) vom 13. Mai 2014, C‑131/12 (Google v. Spanien), Rz. 88. ↩︎

  42. Dazu Mittelstadt, Principles Alone Cannot Guarantee Ethical AI, S. 9; Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 396. ↩︎

  43. Vgl. Somek, Rechtliches Wissen, Frankfurt am Main 2006, S.101, zitiert bei Sheplyakova, Prozeduralisierung des Rechts - Tema con Variazioni, in: Sheplyakova (Hrsg.), Prozeduralisierung des Rechts, Tübingen 2018, S. 20. ↩︎

  44. Siehe dazu Jobin/Ienca/Vayena, The global landscape of AI ethics guidelines, S. 396. ↩︎

  45. Dazu Rhinow/Schefer/Übersax, Schweizerisches Verfassungsrecht, Rz. 975 ff. ↩︎

  46. So auch Ipsen, Private Normenordnungen als Transnationales Recht?, S. 174. ↩︎