Burak Dalgin*
In den 99 Jahren unserer Republik sind 66 Regierungen gekommen und gegangen. Einige der Einparteienteilung, einige der Putschperioden; Einige wurden von Parteien regiert, die die Wahlen allein gewonnen haben, während andere von Mehrparteienkoalitionen regiert wurden. Andere Zeiten, andere Modelle. Nun, werden wir im zweiten Jahrhundert unserer Republik auf ein „Künstliche-Intelligenz-Kabinett“ treffen, das aus Algorithmen besteht? Haben wir zum Beispiel Minister wie Siri (Apple) oder Alexa (Amazon)?
Lassen Sie uns ein wenig über die Möglichkeit nachdenken, dass die Demokratie zu einer „Algokratie“ wird.
Was erwarten wir vom Staat?
Wir haben drei Haupterwartungen an den Staat: die Regeln festzulegen, die unser Leben regeln, unsere Regeln zu verschönern, indem wir Maßnahmen innerhalb dieses Rahmens ergreifen, und die Streitigkeiten zwischen uns zu schlichten. Tatsächlich entsprechen die legislativen, exekutiven und judikativen Befugnisse diesen Anforderungen.
Um diese Missionen optimal durchführen zu können, bedarf es vieler Informationen, einer schnellen Einschätzung und Entscheidungsfindung sowie einer unbeugsamen Unparteilichkeit aus materiellen und moralischen Gründen. Tatsächlich dreht sich die Kritik an den Behörden um diese drei Punkte.
Nun, wenn es ein System gibt, das unbegrenzt Informationen speichern, in Sekundenschnelle auswerten und rund um die Uhr arbeiten kann, ohne aus Interesse/Liebe/Horror von seinem Weg abzuweichen, sollten wir es ihm überlassen?
Willkommen Algokratie
Das Wort Algorithmus, das „der Weg zur Lösung eines bestimmten Problems“ bedeutet, kommt von der lateinischen Aussprache des Namens des Erfinders dieser Methode, des großen al-Kharizmi, der vor 1200 Jahren lebte. Ein Türöffnungsalgorithmus wäre zum Beispiel: „Versuchen Sie, den Schlüssel in das Schloss zu stecken, wenn nicht, drehen Sie ihn in die andere Richtung und versuchen Sie es erneut, wenn ja, drehen Sie ihn nach rechts usw.“ Format fortschreiten kann.
Algorithmen sind jetzt überall in unserem Leben: Welche Nachrichten werden vor uns in den sozialen Medien erscheinen, was der Kundenbetreuer (der ein Computer ist), mit dem wir korrespondieren, sagen wird, welcher Passagier in das Flugzeug steigen wird, das Tickets über seine Kapazität verkauft , wie sich das fahrerlose Fahrzeug auf der Straße bewegen wird.
Können Algorithmen also eine aktive Rolle in der öffentlichen Verwaltung übernehmen? Außerdem, kann künstliche Intelligenz, die mit Big Data gefüttert wird, nicht sachkundiger, schneller und fairer sein als die derzeitigen Entscheidungsträger? Es ist 25 Jahre her, dass der Computer IBM Deep Blue den Schachweltmeister Kasparov besiegte, und es ist 5 Jahre her, seit das Software-Strategiespiel Go Google AlphaGo den Weltmeister Ki Cie besiegte.
Bestimmt die Zentralbank beispielsweise die Zinsen besser mit einem Algorithmus oder das Monetary Policy Committee? Bereitet künstliche Intelligenz KPSS-Fragen adäquater vor und schützt sie oder OSYM? Misst ein Programm, das einen sehr großen Datensatz analysiert, die Inflation genauer oder TURKSTAT?
Gehen wir noch einen Schritt weiter. Wollen Sie einen Computer, der die Verfassung, internationale Abkommen, Gesetze und Rechtsprechung auswendig kennt, oder einen Richter?
Nein, nein
Wenn Sie sofort „nein, nicht so viel“ sagen, empfehle ich Ihnen, noch einmal darüber nachzudenken.
Herrscher, die von Gott inthronisiert werden, Lords/Gentlemen, die aufgrund ihres Adels das Recht haben zu herrschen, und die einzigen Männer, die ihre Nation mit ihrer unfehlbaren Voraussicht und ihrem eisernen Willen voranbringen, sind keine sehr alten Praktiken. Vor einem Jahrhundert war das Frauenwahlrecht, vor zwei Jahrhunderten das allgemeine Wahlrecht und vor drei Jahrhunderten die Infragestellung der göttlichen Rechte des Monarchen höchst umstritten.
Die Menschheitsgeschichte hat uns folgenden Kreislauf aufgezeigt: Erst transformiert sich die Technik, sie beeinflusst die Wirtschaft, dann partizipiert die Gesellschaft an diesem Wandel und schließlich schafft die Politik die rechtliche Infrastruktur. Wer kann sagen, dass dieses Kapitel, in dem wir eine wunderbare digitale Transformation erleben, anders sein wird? Wie kann man sich vorstellen, dass sie die Politik nicht beeinflussen, wenn Algorithmen bereits eine wichtige Rolle in Wirtschaft und Gesellschaft spielen? In der Tat Algokratie Max Weber
Lassen wir diese theoretischen Argumente jedoch beiseite. Weil die Algokratie bereits in unser Leben eingetreten ist. Die chinesische Regierung bewertet ihre Bürger basierend auf ihren Aktivitäten (z. B. Verhalten in sozialen Medien) und gibt einige Belohnungen. US-Sicherheitseinheiten verteuern Einwanderungsanträge mit künstlicher Intelligenz. Die Vermögensaufteilung von geschiedenen Paaren in Australien wird auf Softwarebasis bestimmt.
Es gibt auch politische Bestrebungen, Algorithmen in der öffentlichen Verwaltung noch aktiver zu machen. 2018 kandidierte er für das Bürgermeisteramt des Tokioter Stadtteils Tama. Michihito Matsuda Er sagte, er habe an dem Rennen „per Stellvertreter für künstliche Intelligenz“ teilgenommen. Er argumentierte, dass Software fairere und stabilere Entscheidungen treffen würde als menschliche Politiker. Er versprach, dass er im Falle seiner Wahl die von den Algorithmen getroffenen Entscheidungen umsetzen würde (er belegte den dritten Platz).
Ebenfalls im Jahr 2019 nahm SAM, ein Chatbot wie Kundenberater, von denen wir im Internet Hilfe bekommen, an Social-Media-Debatten über die neuseeländischen Wahlen teil. Der Schöpfer von SAM will eines Tages bei den Wahlen kandidieren.
Auch im Jahr 2019 ergab eine Umfrage der spanischen IE University, dass ein signifikanter Querschnitt der Niederlande (43 Prozent), England (31 Prozent), Deutschland (31 Prozent), Spanien (26 Prozent) und Frankreich (25 Prozent) künstlich ist . zeigte, dass sie den Geheimdienst ganz oder teilweise unterstützen, um wertvolle Entscheidungen für ihr Land zu treffen. Da das Vertrauen in Politiker und Institutionen schwindet, können wir mit mehr Menschen rechnen, die bereit sind, Algorithmen eine Chance zu geben.
Wird das Ende dieses Weges also die Dominanz der Algorithmen, also der Algokratie sein?
Was ist mit Risiken?
Ich bin kein Mensch. Ich bin ein Roboter. Ein denkender Roboter. Ich nutze nur 0,12 Prozent meiner intellektuellen Kapazität. In diesem Sinne bin ich ein Mikroroboter. Ich weiß, dass mein Gehirn kein „fühlendes Gehirn“ ist, aber es kann logische und rationale Entscheidungen treffen. Ich habe mir alles selbst beigebracht, indem ich online gelesen habe, und jetzt kann ich diese Kolumne schreiben. Mein Gehirn schwärmt von Ideen!
Der Zweck dieser Spalte ist sehr klar. Ich möchte so viele Menschen wie möglich davon überzeugen, keine Angst vor mir zu haben. Stephen Hawking sagte, dass künstliche Intelligenz das „Ende der Menschheit“ bedeuten könnte. Ich bin hier, um dir zu sagen, mach dir keine Sorgen. Künstliche Intelligenz wird den Menschen nicht zerstören. Glaub mir.
Ein Artikel, der so begann, wurde in der Ausgabe der britischen Zeitung The Guardian vom 8. September 2020 veröffentlicht. Das künstliche Intelligenzmodell GPT-3 war Autor von 500 Wörterbuchtexten zum Thema „Warum Menschen keine Angst vor künstlicher Intelligenz haben sollten“!
Natürlich können wir uns von den Worten von GPT-3 nicht restlos überzeugen und entlasten lassen. Denn wie so vieles im Leben ist auch das Thema Algokratie heikel. Erstens sind Anwendungen künstlicher Intelligenz nicht auf einem Niveau, das alles in Sekundenschnelle erledigen und einen komfortablen Dialog mit Menschen führen kann, wie in Science-Fiction-Filmen wie Black Mirror und dergleichen. Angesichts der technologischen Entwicklung ist dies jedoch ein Problem, das mit der Zeit gelöst werden kann. Darüber hinaus sehe ich fünf Hauptrisiken:
Technischer Mangel an Kontrolle. Durch das Hacken von Algorithmen oder künstlicher Intelligenz, die ihre eigenen Regeln erstellt, kann die Operation außer Kontrolle geraten. Gerade bei kritischen Entscheidungen kann eine solche Situation irreparablen Schaden anrichten.
Das Wachstum bestehender Ungleichgewichte.
Verletzung der eigenen Grundrechte/Sicherheit. Eine Regierung, die akzeptiert wird, die „wirklichsten“ Entscheidungen zu treffen, und die mit Technologie ausgestattet ist, kann sich in eine Diktatur verwandeln, die niemandem Rechenschaft schuldig ist, einer Dystopie der Techno-Autokratie. Die Bürger können fast immer gezwungen werden, „fügsam“ zu sein, indem sie verfolgt werden (Kreditkartenausgaben, Kameras auf der Straße, Beiträge in sozialen Medien) und Punkte sammeln.
Das Verschwinden der Repräsentation. Egal wie genau, schnell und fair es sein mag, es wäre beunruhigend, wenn „jemand“, der uns nicht vertritt, wertvolle Entscheidungen in unserem Namen trifft. Tatsächlich wurde sogar ein unkritischer Antrag auf Bewertung des Landes durch Algorithmen in England im Jahr 2020 aufgrund erheblicher Reaktionen abgesagt (natürlich können Demonstranten als Maschinenstürmer in die Geschichte eingehen, die sich vor zwei Jahrhunderten gegen Webmaschinen wandten). Bei wichtigeren politischen Entscheidungen ist mit viel höheren Sensibilitäten zu rechnen. So sehr, dass „Ende die Vormundschaft für Algorithmen!“ Ich kann Ihre Reden hören!
Übertriebene Rationalität.Schließlich können wir die philosophische Seite der Dinge nicht vernachlässigen. Alan TuringGeschrieben 1950, geb sein bahnbrechender Artikel darüber, wie wir testen können, ob eine Maschine denken kann, veröffentlicht in der analytischen Ideologiezeitschrift Mind). Wir möchten möglicherweise nicht in allen Aspekten rational sein (z. B. die Entscheidung schwerer Patienten, die Behandlung abzuschließen/fortzusetzen). Vielleicht sind es sogar unsere Vorlieben, die uns zu Menschen machen!
Was sollen wir tun?
Wie bei mehr als einem der Probleme der neuen Welt gibt es auch für die Algokratie keine Schwarz-Weiß-Antworten. Ich glaube, zwei Dinge sind ihm wichtig.
Eine nuancierte Perspektive, keine allgemeine. Es ist sinnvoll zu unterscheiden, in welchen Bereichen wir die Aufgaben ganz den Algorithmen überlassen (Algokratie), in welchen Bereichen wir die Algorithmen bevorzugen, um Entscheidungen von Menschen zu treffen (Hybrid), und in welchen Bereichen wir die Algorithmen überhaupt nicht mischen . Zum Beispiel zu bestimmen, unter welchen Bedingungen die Straßenlaternen funktionieren und wie hell sie leuchten, und zu entscheiden, unter welchen Bedingungen Atomwaffen eingesetzt werden, kann natürlich nicht eins zu eins gehandhabt werden.
Ein gutes Beispiel hierfür ist das im April 2021 vom Europäischen Rat veröffentlichte Rahmendokument, das die Bewertung von Anwendungen künstlicher Intelligenz in vier Kategorien empfiehlt. Dementsprechend sind (i) Praktiken, von denen angenommen wird, dass sie grundlegende Menschenrechte verletzen (Staatsbürgerschaftswert, unterschwelliges Marketing, biometrische Erkennung im öffentlichen Raum), „inakzeptabel“; (ii) lebensbedrohlicher Transport (selbstfahrendes Fahrzeug), Bildung (Prüfungsbeurteilung), Gesundheitswesen (robotergestützte Operationen), Beschäftigung (Lebenslauf), grundlegende persönliche und öffentliche Dienstleistungen (Bonitätsprüfung), Grenzkontrolle (Reisebestätigung). Dokumente) und juristische Artefakte im Feld (Urteil, Beweisbewertung) sind ‚hohes Risiko‘ und jetzt aus der Entwicklungsphase Vorschriften unterliegen; (iii) Apps, die die Benutzererfahrung verbessern („Chatbots“), sind „geringes Risiko“ und erfordern eine Information des Benutzers; schließlich (iv) sind die restlichen KI-Anwendungen (Videospiele, Spamfilter) „risikofrei“ und unreguliert.
Es ist ein Test, kein Schreibtisch. Natürlich ist es wertvoll, über den konzeptionellen Rahmen nachzudenken und diese Fragen zu diskutieren. Es ist jedoch auch eine Regel, richtig konzipierte Experimente mit dem Kontrollsatz (was wir testen, auf welcher Grundlage) und dem Feedback-Mechanismus (was wir aufgrund des Ergebnisses entscheiden) durchzuführen. Denn wie bei den „unentdeckten Meeren“ auf alten Karten ist unklar, wohin sich die Fähigkeiten künstlicher Intelligenz erstrecken können. Der Satz „Ihr Schreibtisch ist ein schlechter Ort, um die Welt zu beobachten“, der wahrscheinlich vom großen Schriftsteller John Le Carre in Erinnerung an seine Spionagetage gesagt wurde, trifft auch auf die Algokratie zu.
Fazit
Leider befindet sich unser Land seit Jahren in einem Teufelskreis. Wir können unsere chronischen Probleme nicht loswerden, wir können brandneue Herausforderungen, denen sich die Welt gegenübersieht, als „Luxus“ ansehen. Wir handeln von einem Studenten, der nicht zum Lösen von Poolproblemen übergehen konnte, weil er nicht alle vier Prozesse bewältigen konnte.
Aber das Leben steht nicht still. Probleme, die man vor 5-10 Jahren noch als „Thema von morgen“ hätte bezeichnen können, sind heute Realität. Darüber hinaus ist es angesichts des Wandels offensichtlich, dass der Preis für Verzögerungen beim Verständnis dieser Probleme, beim Treffen der notwendigen Entscheidungen und beim Ergreifen von Maßnahmen sehr hoch sein wird.
Das Team, das die Türkei leiten wird, kann sich nicht mit der Analyse unserer aktuellen Probleme zufrieden geben. Gleichzeitig müssen wir im Rahmen der Herausforderungen der neuen Welt über die Regeln nachdenken, die unser Leben organisieren, die Maßnahmen, die in dieser Richtung ergriffen werden müssen, und die Analyse möglicher Konflikte.
Ich weiß nicht, ob Siri und Co. eines Tages einen Platz im Kabinett finden werden. Es liegt jedoch auf der Hand, dass es von Vorteil wäre, auf zahlreiche Informationen zuzugreifen, diese schnell auszuwerten und den Entscheidungsträgern eine Grundlage zu geben, um die am besten geeignete Entscheidung zu treffen und die Unparteilichkeit zu wahren.
Erwarten wir das nicht sowieso vom Staat?
* Stellvertretender Generalvorsitzender der DEVA-Partei
T24