forum Richtlinien zum Umgang mit künstlicher Intelligenz

Einführung in das Thema

Hinweis: Hier gibt es das Handbuch zum Gremium

1. Einleitung

Digitale Hilfsmittel prägen das Alltagsleben von Menschen seit Ende des letzten Jahrhunderts. Von der Mondlandung bis zur Globalisierung der Kommunikation haben IT-Systeme eine Vielzahl an Entwicklungen in Bereichen wie der Politik, Wirtschaft und den Naturwissenschaften ermöglicht, die ohne sie undenkbar gewesen wären. Seit Beginn dieses Jahrzehnts haben sich außerdem immer mehr IT-Systeme entwickelt, die in der Lage sind, komplexe Probleme mithilfe flexibler Programme zu verarbeiten. Diese autonomen Systeme bezeichnet man im allgemeinen Sprachgebrauch als Künstliche Intelligenz, abgekürzt KI. Sie sind in der Lage, Problemstellungen, die bisher exklusiv von Menschen angegangen wurden, selbstständig zu lösen.
Mit dieser Fähigkeit geht jedoch eine Vielzahl an Problemen einher. Trotz der Fähigkeit solcher Programme, komplexe Aufgaben wahrzunehmen, kommt es vor, dass sie weniger offensichtliche Bestandteile dieser nicht berücksichtigen oder relevante Fähigkeiten zu ihrer Bearbeitung nicht besitzen. Darunter können beispielsweise die spontane Entscheidungsfähigkeit und ethisch-moralische Bewertungen bei Extremsituationen wie einem Autounfall fallen. Darüber hinaus kann ein IT-System nicht die juristischen Konsequenzen seiner Handlungen tragen.

Neue ethische und juristische Richtlinien sind somit notwendig, um die Entwicklung und Anwendung von KI-basierten Systemen zu regulieren sowie deren Missbrauch zu vermeiden. Einen international anerkannten Richtlinienkatalog zu erstellen, wäre ein wichtiger erster Schritt beim Umgang mit solchen Technologien. Die immer rascher voranschreitende Entwicklung von KI-Technologien könnte sich dann an diesen Richtlinien orientieren. Sie könnten ebenfalls als Hinweise für die nationale Gesetzgebung der Mitglieder der internationalen Staatengemeinschaft dienen und somit den Aufbau rechtlicher Rahmen für KI beschleunigen. 

 

2. Hintergrund und Grundsätzliches

Unter dem Begriff Künstliche Intelligenz versteht man im Allgemeinen die Eigenschaft eines IT-Systems, bei der Durchführung eines Programms menschenähnliche, intelligente Verhaltensweisen zu zeigen. Darunter fällt unter anderem die Fähigkeit, dass ein KI-fähiges IT-System durch wiederholtes Ansammeln und Verarbeiten von Daten selbstständig neue Erkenntnisse erlernt, die dann für die Erfüllung einer Aufgabe genutzt werden. Diese Erkenntnisse werden beispielsweise durch eine wiederholte Durchführung des Programms und eine Bewertung der Ergebnisse gewonnen. Anhand dieser Bewertungen kann das System dann die Durchführung des Programms verbessern. Ein solches Verfahren bezeichnet man als maschinelles Lernen. So kann ein KI-System beispielsweise durch wiederholtes Hören einer menschlichen Stimme besser darin werden, gesprochene Wörter zu erkennen. 

Dies setzt aber eine hohe Rechenkapazität voraus. Da eine solche Rechenkapazität bis zum aktuellen Jahrzehnt außerhalb von großen, kostspieligen Rechenzentren nicht verfügbar war, ist die Entwicklung von KI bis vor Kurzem ein recht spezielles  Forschungsgebiet gewesen. Nun, da die notwendige Rechenkapazität zur Verfügung steht und die weltweite Vernetzung es ermöglicht, von fast überall mit einem mobilen Gerät auf solche hochleistungsfähige Rechenzentren zuzugreifen, ist die weltweite Forschung und Entwicklung von KI-basierten Systemen und Programmen für eine Vielzahl von Entwickler*innen möglich geworden. Insbesondere das ausgesprochen breite Spektrum an Anwendungen solcher Technologien verlockt viele Privatunternehmen und globale Technologieunternehmen, in dieses Feld zu investieren und Forschungsprojekte sowie spezialisierte Entwickler*innen zu finanzieren. So sind zurzeit alle Mitglieder der sogenanntenBig Four” Technologieunternehmen (Apple, Amazon, Facebook und Google) an der Entwicklung von KI-basierten Anwendungen beteiligt. Unter den möglichen Anwendungen findet man unter anderem selbstfahrende Fahrzeuge, automatische Bild- und Videobearbeitungs- sowie Gesichtserkennungsprogramme und autonome Waffensysteme. Diese breite Anwendbarkeit hat in den letzten Jahren zu einer Vielzahl neuer KI-basierter Programme geführt, mit der andere Bereiche der menschlichen Entwicklung wie Rechtsprechung oder Ethik kaum mithalten konnten. Die moralische Vertretbarkeit autonomer Waffensysteme, die zukünftig in der Lage sein könnten, ohne jegliche menschliche Kontrolle Zielobjekte zu töten, ist beispielsweise oft in Frage gestellt worden. 

Die nationale Sicherheit von Staaten könnte aufgrund der immer weiter voranschreitenden Digitalisierung sensibler Bereiche wie des Militärs oder des Gesundheitswesens ebenfalls durch Künstliche Intelligenzen gefährdet werden. Diese finden in modernen Arten von Cyber-Angriffen eine breite Verwendung und ermöglichen es, große Angriffe mit nur einer kleinen Anzahl an Personen durchzuführen. Auch in der Wirtschaft sind KI-basierte Programme ein möglicher Grund zur Sorge, da sie im Vergleich zu konventionellen Programmen in der Lage sind, in Aufgabenbereiche, bei denen bisher exklusiv menschliche Arbeitskräfte verwendet werden konnten, einzuschreiten. Die maschinelle Übernahme vollständig neuer Kompetenzen, die bisher im allgemeinem Recht und in der Verwaltung von Unternehmen nicht für IT-Systeme vorgesehen gewesen sind, könnte ebenfalls ein Problem darstellen. Weitreichende Verluste von Arbeitsplätzen in Bereichen wie Logistik oder Fertigung von Produkten werden in den nächsten Jahren nach Ergebnissen vieler Studien erwartet, was zusätzlich auf eine Frage der Anstellungssicherheit in der Welt mit KI hindeutet.   

 

3. Aktuelles

Momentan befindet sich die Entwicklung von KI-basierten Technologien auf einem immer schnelleren Weg dazu, in das Alltagsleben von Menschen weltweit vorzudringen. Einige Staaten haben bereits begonnen, mit Gesichtserkennungssoftware zur automatischen Erkennung von Kriminellen zu experimentieren und möchten die Technologie in Zukunft für die Überwachung einer großen Anzahl an Individuen verwenden können. Andere wenden Künstliche Intelligenz seit Jahren bei automatischen Drohnen im militärischen Bereich an, so wie zur Luftbetankung bemannter Flugzeuge. Voraussichtlich werden in der nahen Zukunft autonome Drohnen mit offensiven Anschlagskapazitäten hergestellt werden können. Im Netz wird zudem derzeit Künstliche Intelligenz zur Verbreitung von Falschinformationen angewendet. Mit den umgangssprachlich als “Web-Brigaden” bezeichneten Programmen, die auf verschiedene Weisen im Netz falsche Gerüchte und Nachrichten verbreiten, können Stimmungs- und Meinungsverhältnisse auf Onlineforen und Sozialen Netzwerken zugunsten staatlicher Interessen beeinflusst werden. Auch neue KI-basierte Softwareanwendungen wie DeepFake oder FaceApp, die in der Lage sind, Videos oder Bilder automatisch zu bearbeiten, um falsche Reden von Politiker*innen oder künstlich gealterte Fotografien von Menschen herzustellen, können auf staatlich gesponsorte Softwareentwickler zurückgeführt werden. Unter den Staaten, die am meisten an der Entwicklung solcher Technologien beteiligt sind, befinden sich die Vereinigten Staaten, die Russische Föderation sowie die Volksrepublik China.

Zusätzlich wurde im Bereich der Geschlechtergerechtigkeit im Sommer 2019 eine KI-basierte App namens DeepNude diskutiert, die in der Lage war, automatisch Bilder von gekleideten Frauen auf eine solche Weise zu verarbeiten, dass diese realistisch ohne jegliche Kleidung angezeigt werden könnten. Einen rechtlichen Präzedenzfall, um eine formale Anklage gegen den Entwickler erheben zu können und falsche Fotos aus dem Netz zu entfernen, gab es nicht. Da es bei Künstlicher Intelligenz noch sehr wenige Präzedenzfälle gibt und ein umfangreicher rechtlicher Rahmen nicht existiert, sind solche Gesetzeslücken häufig vorzufinden. Eine ähnliche Problemstellung entstand im Jahre 2018, als in den Vereinigten Staaten zum ersten Mal ein Verkehrsunfall stattfand, bei dem ein selbstfahrendes Fahrzeug der Firma Uber eine Fußgängerin tötete. Die Untersuchung benötigte aufgrund der völlig neuen Natur des autonomen Wagens deutlich mehr Zeit und stellte das damalige Untersuchungsgericht vor eine Vielzahl an neuen Fragen, die bisher nicht bei gewöhnlichen Verkehrsunfällen vorgekommen waren.

Jenseits dieser rechtlichen und ethischen Umstände ist es jedoch in Gebieten wie der Forschung und den Naturwissenschaften dank KI-basierter Anwendungen zur Lösung von bisher äußerst komplizierten oder sogar analytisch unlösbaren Problemstellungen gekommen. So ist in der Biochemie seit kurzem ein KI-basiertes Programm namens AlphaFold dazu in der Lage, die dreidimensionale Struktur von Proteinen in deutlich kürzer Zeit richtig vorherzusagen, als menschliche Forschungsgruppen dies können. Die numerische (d.h. durch Computerprogramme erzeugte) Lösung mathematischer Probleme kann ebenfalls durch die Anwendung von KI in spezialisierten Programmanwendungen wie Mathematicas “Neural Networks” deutlich erleichtert werden. Und auch jenseits hiervon gibt es eine breite Anzahl von Anwendungen, die das allgemeine Wohl der Gesellschaft weltweit fördern könnten.

 

 

4. Probleme und Lösungsansätze

 

 

Beim Umgang mit diesen neuen KI-basierten Technologien stellt sich vor allem die Frage, nach welchen ethischen und rechtlichen Maßstäben sich die Regulierung und Entwicklung selbiger richten muss.

Die Europäische Union (EU) hat hierzu bereits eine Richtlinie ethischer Maßstäbe für vertrauenswürdige Künstliche Intelligenzen veröffentlicht, die unter anderem vorsieht, dass sich diese an bereits bestehende Gesetzgebungen halten und grundlegende ethische Prinzipien berücksichtigen müssen. Die EU gibt aber unter diesen Maßstäben beispielsweise keine Hinweise dafür, wer die rechtliche Verantwortung bei Missbrauch Künstlicher Intelligenzen trägt.
Konkretere Richtlinien zum zukünftigen Umgang mit Künstlicher Intelligenz wurden vom Verband der Internetwirtschaft (Englisch: Electronic Commerce Organization, ECO) aufgestellt, der eine weit gefächerte Anzahl an neuen Maßnahmen und Strukturen vorschlug, um die sachgemäße Nutzung der Technologie in Zukunft gewährleisten zu können. So wurde in diesen Richtlinien unter anderem vorgeschlagen, dass die Nutzung Künstlicher Intelligenz im Alltag als Wirtschafts- und Standortfaktor anerkannt wird. Denn ihre streng wissenschaftlichen Anwendungen haben KI-fähige Systeme mittlerweile hinter sich gelassen. Bereits seit einigen Jahren spielen sie in Sektoren wie der Wirtschaft oder der Gesundheit eine Rolle. Sollten diese Anwendungen die ökonomische Attraktivität des jeweiligen Anwendungsortes beeinflussen, können Künstliche Intelligenzen als ein Standortfaktor betrachtet werden.

Diese Richtlinien haben jedoch noch keine breite Anerkennung erlangt. Noch immer fehlt ein Bekenntnis der internationalen Staatengemeinschaft zu einem konkreten Katalog an Richtlinien. Diesen ersten international anerkannten Richtlinienkatalog zu erstellen, wäre somit ein solider Anfang, um den verantwortungsvollen Umgang mit Künstlicher Intelligenz in Zukunft gewährleisten zu können. Unter diesen Richtlinien könnte man Punkte der Richtlinien vom Verband der Internetwirtschaft einarbeiten, sowie auch neue, innovative Regelungen und Grenzsetzungen, die von der Staatengemeinschaft als notwendig erachtet werden. Wenn das Gremium der Ansicht ist, dass diese Fragestellungen konkreter ausgeführt werden sollten, könnte es unter Umständen angemessen sein, diese an eine bestehende Expert*innenkommission für die Findung von Regularien in einzelnen Anwendungsgebieten (z.B. Waffensysteme oder Gesundheitssektor) zu überweisen.

Wichtig ist, dass sich die Generalversammlung über die nicht-verbindliche Natur solcher Richtlinien bewusst ist. Damit eine Umsetzung garantiert werden kann, sollten die Positionen von Ländern, die zurzeit im Feld der Forschung Künstlicher Intelligenzen am meisten aktiv sind, bei den Verhandlungen besonders beachtet werden. 

Bei den Debatten sollte vor allem die Frage im Vordergrund stehen, welche Grenzen und Ziele beim Umgang mit Künstlicher Intelligenz allgemein aufgestellt und beachtet werden sollten. Konkrete, fachspezifische Fragen wie der richtige Umgang mit solchen Technologien bei unterschiedlichen militärischen Anwendungen sollten bei Bedarf an spezialisierte Gremien wie den Ausschuss für Abrüstung und Internationale Sicherheit der Generalversammlung übergeben werden. Auch eine Debatte darüber, wie genau Künstliche Intelligenzen definiert werden können oder was damit in Zukunft möglich sein wird, überschreitet die Grenzen dieses Tagesordnungspunktes und könnte eventuell von der Kommission für Wissenschaft und Technologie des Wirtschafts- und Sozialrates aufgenommen werden. Die Frage für die Generalversammlung ist im Wesentlichen nicht, wozu Künstliche Intelligenz in der Lage ist oder sein kann, sondern, zu was sie aus internationaler Sicht in der Lage sein soll und zu was nicht.

 

5. Punkte zur Diskussion

  • Sollte es eine Grenzsetzung bei der Forschung und Entwicklung Künstlicher Intelligenzen geben? Wenn ja, welche? Sollte beispielsweise reguliert werden, welche Institutionen zuverlässig genug sind, um KI entwickeln zu können? 

  • Wer sollte bei Missbrauch Künstlicher Intelligenzen die juristische Verantwortung tragen? Ist das tendenziell fallspezifisch und wenn ja, unter welchem rechtlichen Rahmen sollte man bei solchen Fällen den Missbrauch untersuchen?

  • Inwiefern sollten KI-basierte Systeme unabhängig von dem*der Benutzer*in agieren können? Wann sollte es notwendig sein, für die Durchführung der Aufgabe eines KI-basierten Programms die manuelle Bestätigung durch eine verantwortliche Person zu fordern?

  • Welche Punkte aus bereits bestehenden Richtlinien wie denen der Europäischen Union oder des Verbandes der Internetwirtschaft können aus internationaler Sicht übernommen werden und in welcher Form? 

  • Sollten Expert*innenkommissionen damit beauftragt werden, zu einem bestimmten Anwendungsbereich Künstlicher Intelligenzen konkretere Richtlinien zu finden? Falls ja, welche Bereiche sollten konkret in Betracht gezogen werden und von wem?

  • Welche zukünftigen Möglichkeiten durch KI, insbesondere im Bereich der Wirtschaft oder der wissenschaftlichen Forschung, sollten gefördert und welche gehemmt werden? Sollten Künstliche Intelligenzen in der Lage sein, alle Tätigkeiten zu übernehmen, zu deren Ausführung sie fähig sind? Oder sollten sensible Aufgaben, die beispielsweise wie die einer*s Flugzeugpiloten*in eine Verantwortung über das Leben einer großen Anzahl von Menschen mit sich bringen, menschlichen Arbeitskräften überlassen werden?

 

6. Lexikon

Autonome Waffensysteme: Drohnen und andere selbstgesteuerte Gefährte, die in der Lage sind, mithilfe montierter Sensoren und Waffen selbstständig Ziele aufzusuchen und zu neutralisieren.

Expert*innenkommission: Im Rahmen der Behandlung dieses Tagesordnungspunktes wären es Neben- und Unterorgane der Vereinten Nationen so wie beispielsweise die Hauptausschüsse 1-6 der Generalversammlung, die Kommission für Wissenschaft und Technologie oder Institute der Vereinten Nationen wie das UNICRI (United Nations Interregional Crime and Justice Research Institute).

Gesichtserkennungsprogramme: Programme, die in der Lage sind, durch Vergleich mit einer Datenbank von Bildern und Namen eine Person in einer Bild- oder Videoaufnahme zu identifizieren.

Globalisierung: Weltweite Verflechtung in Bereichen wie der Wirtschaft, Politik und Kultur.

Internationale Staatengemeinschaft: Gemeinschaft der 193 Mitgliedsstaaten der Vereinten Nationen.

IT-Systeme: Abgekürzte Form aus dem Englischen “Information Technology Systems”; diese Bezeichnung stellt eine allgemeine Form dar, um sich auf Computer, Mobiltelefone, Fernseher und andere digitale Speichermedien mit der Fähigkeit, Daten zu bearbeiten, zu beziehen.

Maschinelles Lernen: Verfahren, bei dem ein IT-System durch wiederholte Durchführung eines Programms neue Daten sammelt, um bei zukünftigen Durchführungen ein besseres Ergebnis zu liefern.

Proteine: Biologisches Molekül, aus dem unterschiedliche Strukturen im Körper eines Lebewesens aufgebaut werden können (z.b. die Haare, die Muskeln, die Haut). Proteine bestehen aus langen Ketten von Aminosäuren, die in einer dreidimensionalen Struktur so zusammengefaltet werden, dass sie eine für das Protein wichtige Eigenschaft ermöglichen (so wie beispielsweise für das Hämoglobin im Blut das Einbinden von Sauerstoff). 

Rechenkapazität: Fähigkeit eines Computers oder IT-Systems, ein Programm oder eine Berechnung innerhalb eines bestimmten Zeitraums durchzuführen.

Richtlinienkatalog: Auflistung von Regeln, nach denen sich ein bestimmter Bereich menschlicher Aktivitäten zu richten hat.

Selbstfahrende Fahrzeuge: Fahrzeuge, die dazu fähig sind, gemäß der etablierten Verkehrsregeln ohne jegliche menschliche Kontrolle in dem Verkehrsnetz zu fahren. 

Wirtschafts- und Standortfaktore: In der Marktstrategie und im Marketing wesentliche Kriterien, die bei der Entscheidung über finanzielle Angelegenheiten oder über die Eröffnung von Filialen an einen neuen Unternehmensstandort von Bedeutung sind.

 

7. Wichtige Dokumente 

International Telecommunication Union, AI for Good Global Summit, 2017, https://www.itu.int/en/ITU-T/AI/Pages/201706-default.aspx – Quelle zu offiziellen Interviews und Äußerungen hochrangiger Politiker*innen und Expert*innen in einem Zusammentreffen im Rahmen der UN (Englisch).

United Nations Interregional Crime and Justice Research Institute, Centre for Artificial Intelligence and Robotics, 2015: http://www.unicri.it/in_focus/on/UNICRI_Centre_Artificial_Robotics  – Quelle zur Online Webseite einer Kommission für Künstliche Intelligenz vom UN-Institut für interregionale Kriminalitäts- und Justizforschung (Englisch).

Unabhängige hochrangige Expert*innenkomission für KI, eingesetzt durch die EU, Ethische Leitlinien für vertrauenswerte Künstliche Intelligenzen, Juni 2018: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai – Wichtiges Dokument als Quelle möglicher Richtlinien (Englisch und Deutsch).

Verband der Internetwirtschaft (ECO), Richtlinien zum Umgang mit Künstlicher Intelligenz, Berlin, 17. September 2018: https://www.eco.de/wp-content/uploads/dlm_uploads/2018/09/20180918_eco_LTL-K%C3%BCnstliche-Intelligenz.pdf – Wichtiges Dokument als Quelle möglicher Richtlinien (Deutsch).

United Nations Economic and Social Council, Konferenzwebsite „The future of everything“, 11.Oktober 2017: https://www.un.org/sustainabledevelopment/blog/2017/10/looking-to-future-un-to-consider-how-artificial-intelligence-could-help-achieve-economic-growth-and-reduce-inequalities/Quelle zu offiziellen Interviews und Äußerungen hochrangiger Politiker*innen und Expert*innen in einem Zusammentreffen im Rahmen der UN (Englisch).

 

8. Quellen und weiterführende Links

Patrick Beuth, “Die Automaten brauchen Aufsicht”, 25.Oktober 2017: http://www.zeit.de/digital/internet/2017-10/kuenstliche-intelligenz-deepmind-back-box-regulierung – Artikel auf Zeit Online zur Kontrolle von Künstlicher Intelligenz (Deutsch).

Calum McClelland, “The Impact of Artificial Intelligence – Widespread Job Losses”, 17.August 2018: https://www.iotforall.com/impact-of-artificial-intelligence-job-losses – Studie zum zukünftigen Verlust von Arbeitsplätzen aufgrund Künstlicher Intelligenzen (Englisch).

Matthew Hutson, “AI protein-folding algorithms solve structures faster than ever”, 22.Juli 2019: https://www.nature.com/articles/d41586-019-01357-6 – Artikel zum Beitrag AlphaFolds im Forschungsbereich von Proteinstrukturen (Englisch).

Simon Parkin, “The rise of the Deepfake and the threat to democracy”, 22.Juni 2019: https://www.theguardian.com/technology/ng-interactive/2019/jun/22/the-rise-of-the-deepfake-and-the-threat-to-democracy  – Bericht von The Guardian zum Thema DeepFakes und ihrer Bedeutung für die moderne Politik (Englisch).

Taylor Telfold,”‘The world is not yet ready for DeepNude’: Creator kills app that uses AI to fake naked images of women”, 28.Juni 2019: https://www.washingtonpost.com/business/2019/06/28/the-world-is-not-yet-ready-deepnude-creator-kills-app-that-uses-ai-fake-naked-images-women/ – Artikel von The Washington Post zur Anwendung von DeepFakes in der mobilen App DeepNude, sowie deren Entfernung aus dem Netz (Englisch).

Julia Merlot, “Autonome Waffen außer Kontrolle”, 24.Februar 2019:

https://www.spiegel.de/wissenschaft/technik/autonome-waffen-ausser-kontrolle-a-1253320.html – Spiegel Online Artikel zur Zukunft autonomer Waffensysteme (Deutsch).

Lisa Hegemann und Dirk Peitz, “Autonome Waffen können kein Mitleid zeigen”, 11. April 2019:

https://www.zeit.de/digital/internet/2019-04/kriegssysteme-autonome-waffen-digitalisierung-wird-das-was-digitalpodcast – Ausführlicher Podcast der Zeit zum Thema autonomer Waffensysteme (Deutsch).

description Positions- und Arbeitspapiere

Papiere 1 bis 25 von 79.
Papiere 1 bis 25 von 79.
© Model United Nations Schleswig-Holstein 2021