Die Natur der Technologien als nicht-neutrales Konstrukt impliziert die Einbeziehung der Kulturen und Werte derer, die sie entwerfen und entwickeln, wovon Technologien der künstlichen Intelligenz nicht ausgenommen sind, einschließlich der Silicon-Valley-Kultur.
Lara Gálvez
In einem einjährigen Forschungs- und Koordinationsprojekt haben neunzehn Datenforschungsexper*innen aus ganz Lateinamerika und der Karibik die erste umfassende Bestandsaufnahme zum Thema "Künstlichen Intelligenz in Lateinamerika und der Karibik" erarbeitet. Der Band bietet eine Fülle von Wissen, Analysen und Politikempfehlungen und trägt dazu bei, ein Forschungsfeld anzustoßen, das sich auf den regionalen Kontext konzentriert und aber auch über diesen hinausgeht. GuIA ist ein Projekt des Centro de Estudios en Tecnología y Sociedad (CETyS), Universidad de San Andrés, Argentinien.
Dr. Carolina Aguerre, Initiatorin und Herausgeberin des Bandes, ist Co-Direktorin des CETyS und setzt diesen Weg in ihrer aktuellen Forschung als Senior Research Fellow am Kolleg fort. Zu den Ursprüngen des Projekts erklärt Aguerre, dass es notwendig sei, die konzeptuellen Voraussetzungen und praktischen Herausforderungen einer Region sichtbar zu machen, die andere Merkmale aufweist als jene entwickelten Volkswirtschaften, in denen die meisten KI-Systeme entwickelt werden. Diese akademische Produktion wird in das KI-Observatorium (fAIr LAC) der Interamerikanischen Entwicklungsbank (IADB) einfließen. Nur eine solcherart koordinierte interdisziplinäre Forschung könnte sich erfolgreich mit einem Thema befassen, das verschiedene Ebenen der Expertise einschließt. Gleichzeitig ist dies mehr als ein rein akademisches Unterfangen. Überkommene Formen des Regierens werden hier in einem regionalen Kontext in Frage gestellt. Aguerre reflektiert über "modulares Regieren" als eine Technik zur Verwaltung komplexer Systeme. Sie setzt sich mit den Theoretikern Gasser und Almeida auseinander, die drei miteinander verbundene Governance-Ebenen für Daten, Ethik und Regulierung vorschlagen. Ziel sei es jedoch, dieses Modell zu überdenken und im Kontext der KI weiterzuentwickeln.
Es gibt große Unterschiede unter diesen Ländern. Einer der faszinierenden Aspekte bei der Lektüre des Sammelbandes ist die Vielfalt der Art und Weise, wie die einzelnen Länder auf die sich abzeichnende KI-Innovation reagieren. Gesundheits- und soziale Klassifikationssysteme stehen im Mittelpunkt der Herausforderung. In Kolumbien wird SISBEN, ein soziales Klassifikationssystem, diskutiert. Hier wird die "arme" Person durch einen Algorithmus konzipiert und als Subjekt von Sozialleistungen definiert (López und Castañeda). Man ist sich einig, dass regulatorische Sandkästen ein gangbarer Weg sind, um Innovation in definierten Versuchsrahmen (de-)zu regulieren [sandbox-Modell]. In einem Beitrag wird ein regulatorischer Sandkasten auf innovative Weise vorgeschlagen, um die "Erklärbarkeit" der KI zu testen, denn "Privatsphäre, Handlungsfähigkeit, Autonomie und Selbstbestimmung sind wesentliche Rechte, die sich an einem Scheideweg zwischen ethischen Prinzipien und gesetzlichen Regeln befinden" (Castaño).
Betrachtet man die einzelnen Länder, so wird deutlich, dass staatliche Institutionen, die Zivilgesellschaft und die Wissenschaft in unterschiedlichem Maße beteiligt sind - eine Disparität, die zu Spannungen führen kann. Aguerre ist davon überzeugt, dass zivilgesellschaftliche Organisationen zwar wirkungsvolle Dokumente veröffentlichen, diese aber manchmal "empirisch nicht fundiert" seien. Sie schätzt die akademische Freiheit eines gut finanzierten Projekts, das die Motivationen institutioneller Geldgeber mit denen von Akademikern verbindet. Regionale und globale Perspektiven sind hier miteinander verflochten.
Aguerre, die in ihrem eigenen Beitrag zu dem Band nationale KI-Strategien und Data Governance unter die Lupe genommen hat, reflektiert über eine mögliche Harmonisierung von Gesetzgebung oder Standards. Wäre dies unter den Ländern in einem regionalen Kontext wünschenswert? Ihrer Ansicht nach überwiegt die nationale Politik. Lateinamerika, das sei, im Hinblick auf den politischen Raum, ein Konstrukt. Was steht auf dem Spiel? Starke Asymmetrien in der Data-Governance-Politik könnten sich verstärken; sie öffnen sich neu zwischen Datenlieferanten und Lösungsanbietern und spiegeln ähnliche Asymmetrien auf globaler Ebene wider.
Gibt es eine globale Plattform für die Beratung und Koordinierung der Governance der KI? Die ersten Schritte der Global Partnership of AI (GPAI), einer mit Unterstützung der OECD durchgeführten Arbeit, könnten einen zukünftigen Entwurf für einen multidisziplinären Prozess mit staatlicher Aufsicht liefern, um sich auf Leitregeln für verantwortungsvolle Anwendungen der KI-Technologie zu einigen. Die OECD arbeitet mit den Regierungen Frankreichs, Deutschlands und Kanadas sowie zwölf weiteren Staaten im Rahmen des GPAI zusammen, und Aguerre nimmt an einer der Arbeitsgruppen zum Thema "Verantwortungsvolle KI" teil. Aguerre meint, die OECD erweitere ihre Agenda zur KI-Governance mit einer größeren Dynamik als viele UN-Organe. Aus ihrer Sicht geht
die Führungsrolle in diesem Bereich weit über den Kreis der Mitgliedsländer in der OECD hinaus. Sie wird bei der Umsetzung dieser Prinzipien wahrscheinlich eine effizientere Organisation werden als viele UN-Organisationen. Auch die Industrie sieht sieht es als sinnvoll an, die Arbeit der OECD im Bereich der KI-Governance zu fördern. Es gibt viele Sponsoren aus der Privatwirtschaft, die in der OECD ein effizientes Sekretariat sehen, das diese Thematik fördern kann. Dennoch sollte die Herausforderung der Inklusivität und Repräsentativität von Nicht-OECD-Ländern gründlich bedacht und anerkannt werden, wenn GPAI einen Einfluss auf die globale KI-Governance haben soll.
Aguerre nahm in diesem Jahr auch als Mitglied an der UNESCO Ad-hoc-Expert*innen-Arbeitsgruppe teil, die ein Dokument über Empfehlungen zur Anwendung ethischer Prinzipien in der AI erarbeiten sollte. Das Dokument wird nun von den Regierungen vor der endgültigen Verabschiedung im August 2021 geprüft. Dieses Dokument wurde soeben als eine der wirkungsvollsten KI-Ethikinitiativen dieses Jahres gewürdigt.
Artificial Intelligence in Latin America and the Caribbean. Ethics, Governance and Policies.
ISSN 2684-0278 Buenos Aires, Argentina.
CETyS. UdeSA
Editor: Carolina Aguerre
Authors: Carolina Aguerre - Carlos Amunátegui Perelló - Chelcée Brathwaite - Juan Diego
Castañeda - Daniel Castaño - Claudia Del Pozo - Lorena Flórez Rojas - Constanza Gómez
Montt - Juan Carlos Lara Gálvez - Joao López - Raúl Madrid - Ana Victoria Martín del Campo -
Juliana Vargas Leal
Project GU.IA documents available at https://guia.ai/ and www.iadb.org/fairlac.
Gasser, Urs, and Virgilio A.F. Almeida (2017). 'A Layered Model forAI Governance.' IEEE Internet Computing 21 (6) (November): 58–62. Doi:10.1109/mic.2017.4180835
