Es ist spannend, wie man Entscheidungen trifft, die das Leben beeinflussen. Mein Papa meinte, ich solle die HAK machen, weil das für Mädchen eine gute Ausbildung sei. Da könne man zum Beispiel Sekretärin werden. Also tat ich das. Danach war es naheliegend, BWL zu studieren. Das wäre in Linz möglich gewesen, aber ich wollte nicht zu Hause wohnen. Und so erklärte ich meinen Eltern, dass ich Handelswissenschaften studieren will. Das kann man nur in Wien.

Nach zwei Semestern stieg ich um, war aber todunglücklich, bis ich bei einem Auslandssemester in den USA Lehrveranstaltungen zum Thema Organisation und komplexe soziale Systeme besuchte. Dann wusste ich, was ich wollte.

Dieses generative KI-System kann Eigenständiges hervorbringen. Das ist eine völlig neue Form. KI ist aber in der Wissenschaft schon seit etwa 1970 ein Thema – mit Phasen der Euphorie und Abkühlung. In den 1980er-Jahren hat KI dann ein entscheidendes Revival erlebt: Deep Learning ermöglichte substanzielle Fortschritte im maschinellen Lernen. 2016 folgte ein Meilenstein, als das erste Mal eine Maschine durch selbst erlernte Strategien einen Menschen im Go-Spiel besiegte. Etwa zu dieser Zeit ahnte man in der Europäischen Kommission, dass diese Technologie disruptiv werden würde. 2018 richtete sie daher eine ExpertInnengruppe für die Ethik-Richtlinien ein.

Ich bewarb mich – und sie nahmen mich. Das ist doch eine schöne Geschichte über die EU: Ein Mädchen von einem Bauernhof im Mühlviertel hat an den KI-Ethik-Richtlinien für Europa mitgearbeitet.

Ja. Auf deren Basis gibt es einen Regulierungsentwurf. Er wird gerade verhandelt und soll 2024 beschlossen werden.

Vereinfacht gesagt: Sobald Menschen direkt oder indirekt in ihren Grundrechten betroffen sind, braucht es eine Zertifizierung. Ihr Smartphone zum Beispiel verwendet Ihre biometrischen Daten, damit Sie Zugang zu Ihren Apps haben. Der Software-Entwickler muss beweisen, dass die Datensicherheit gewährleistet ist – und dass niemand aufgrund von Geschlecht oder Hautfarbe diskriminiert wird. Und wenn bei einer Anwendung von KI das Risiko untragbar sein sollte, sind Verbote vorgesehen. Die Echtzeit-Gesichtserkennung zum Beispiel darf nur in ganz bestimmten Ausnahmefällen gemacht werden. Etwa, wenn man versucht, ein abgängiges Kind zu finden.

Bei dieser Gruppe von KI-Anwendungen gibt es zumindest ein Transparenzgebot. Die Menschen müssen es wissen, wenn sie mit einem Chatbot interagieren.

Wir werden Kompetenzen entwickeln müssen, um den Qualitätsgehalt einer Information richtig beurteilen zu können. Die seriösen Medien als vierte Säule der Demokratie werden wichtiger werden. In den USA erhalten zwei von drei Menschen ihre täglichen Nachrichten nur mehr über Social Media. Auch in Amerika weiß man, wie gefährlich diese Filterblasen für die Demokratie sind. Wir müssen daher wieder hin zum klaren Prinzip der institutionellen Vertrauensbildung. Plattformbetreiber sollten verantwortlich dafür sein, was gepostet wird.

Diese Regulierungsvorschriften gelten für alle Produkte, die in Europa eingesetzt werden. Auch chinesische Unternehmen, die ihre Produkte in Europa verkaufen wollen, müssen sich daran halten. Die Technologie zu verbieten, ist keine Lösung, das wäre auch nicht gegangen.

Ich finde nicht. Die meisten Staaten arbeiten aktuell an KI-Regulierungen. Europa ist in diesem Prozess schon recht weit, setzt Standards und schafft damit für die Wirtschaft und für die KonsumentInnen sichere Rahmenbedingungen, die auch für Innovation notwendig sind.

Ja, wir haben die „Big Five“, darunter Google, Facebook, Microsoft und Tencent, die den Social-Media-, Daten- und KI-Markt dominieren. Derart große Unternehmen wollen ihre eigenen Standards setzen. Das behindert den Wettbewerb. Um genau solche Machtkonzentrationen zu verhindern, ist Regulierung wichtig. Mehr als 180 Staaten unterschrieben die OECD-Ethik-Richtlinien, darunter auch Länder wie China. Sie sind zwar nicht rechtlich durchsetzbar, aber ein wichtiges Signal hinsichtlich Selbstbindung. Wenn man eine Technologie, die so machtvoll ist, nicht jetzt vorsichtig reguliert, wird man hart regulieren müssen, wenn die großen Probleme auftreten. Diese Regulierungen sind dann aber, das weiß man aus Erfahrung, oft überschießend und hauen den Markt noch stärker zusammen.

Arbeitsplätze haben sich durch Software-Technologien in den letzten Jahrzehnten immer wieder verändert. Die Frage ist natürlich, wie schnell das geschieht. Und da gibt es jetzt einen disruptiven Schub. Zunächst wurde in den Fabriken automatisiert; jetzt sind wir in der Phase, in der wir Schreibtischjobs automatisieren. Der Punkt ist nicht, dass es die Sekretärin nicht mehr geben wird, sondern dass sich das Aufgabenprofil deutlich verändert hat und deutlich verändern wird. Die Sekretärin hier im Institut macht schon seit Jahren keine Sekretariatsarbeit mehr, sondern Office Management mit vielen EDV-Systemen. Wir haben nicht zu wenige Arbeitsplätze, sondern zu wenige Menschen, die über die benötigten Qualifikationen verfügen. Das World Economic Forum prognostiziert, dass es bei jedem zweiten Arbeitsplatz weltweit einen Upskilling-Bedarf geben wird. Aus früheren industriellen Revolutionen wissen wir, dass diese Transitionsphase kritisch ist. Denn es gibt Menschen, die das Upskilling aus welchen Gründen auch immer nicht schaffen. Wie können wir die Menschen auf diese Wende vorbereiten? Da müssen wir investieren!

Nicht unbedingt. Es gibt Hinweise, dass es durch KI und Roboterisierung zu einer Reindustrialisierung in Europa kommen wird. Früher errichtete man Fabriken in Niedriglohnländern. Jetzt aber kann man die Produktion aufgrund der Automatisierung wieder herholen. Das heißt, es gibt schon viel Potenzial. Aber wir müssen das Schulsystem grundlegend verändern. Wir „produzieren“ immer noch Menschen für eine industrielle, aber nicht für eine postindustrielle Gesellschaft: Kreativität und Eigenständigkeit wird den Kindern genommen, sie müssen sich vorgegebenen Schemata anpassen. Aber nach der Schule werden plötzlich Individualität, Problemlösung und divergentes Denken verlangt.

SchülerInnen müssen zum Beispiel lernen, ChatGPT sinnvoll zu nutzen. Es bringt ja nix, sich alle Aufsätze schreiben zu lassen. Denn abgesehen davon, dass diese oft nicht stimmen: Ich lerne nicht, mich auszudrücken. Aber ich könnte vielleicht mithilfe des Tools zu kreativen Aufsatzanfängen oder zu stichhaltigen Argumenten kommen. Das heißt, man muss den Kindern beibringen, es so zu nutzen, dass sie ihre eigenen Kompetenzen erweitern und nicht verringern. Zudem muss man die MINT-Fächer – Mathematik, Informatik, Naturwissenschaft und Technik – forcieren. Man braucht Menschen, die diese KI-Technologien entwickeln, steuern, kontrollieren. Ein Riesenthema ist die Frage: Wie kriegen wir die Frauen in die Technik? Und dann gibt es noch ein drittes Feld – mit all den komplementären Kompetenzen, die eine KI gar nicht haben kann, darunter soziale Kompetenzen, analytisches, divergentes und induktives Denken, komplexes Problemlösen und so weiter. All diese Fähigkeiten werden in Zukunft wichtiger werden, weil sie nicht automatisiert werden können. Wir haben einen Pflegenotstand! Uns muss klar werden: Das ist das, was Menschen machen müssen.

Ich glaube schon. Allerdings ist die Schuldebatte dermaßen ideologisiert, dass nichts weitergeht. Ich habe einen elfjährigen und einen 16-jährigen Sohn. Und finde es unendlich schade, was da abläuft. Alle leiden, die Kinder, die LehrerInnen – und die Eltern leiden mit. Aber offensichtlich ist der Leidensdruck noch nicht so groß, dass man Veränderungen angeht.

Ja, es gibt Untersuchungen, die zeigen, dass Frauen tendenziell stärker von der aktuellen Automatisierung betroffen sind – und dass sich die Ungleichheit über die Zeit verstärkt. Aufgrund stereotyper Aufteilung von unbezahlter Arbeit zu Hause lernen die Kinder stereotype Rollen. Sie treffen dann stereotype Bildungsentscheidungen: Mädchen gehen in die HAK, Burschen in die HTL. Später arbeiten die Frauen in sozialen, die Männer in technischen Berufen. Und dann entwickeln die Männer ihre Technologien nach männlichen Vorstellungen – schneller, besser, weiter, größer. Das ist genau der Punkt, warum wir dringend mehr Frauen im MINT-Bereich brauchen. Nicht nur, weil viele Fachkräfte fehlen. Frauen würden viele Designfragen anders lösen. Statt um schneller, besser, weiter, größer ginge es zum Beispiel um Sicherheit, Nachhaltigkeit, Nutzerfreundlichkeit. Deswegen ist es so wichtig, dass die Technologie demokratisiert wird.

Dann wäre der Algorithmus vermutlich ein anderer. Denn hinter dem Tool gibt es viele Menschen, die es codiert – und das System „ethisch“ gemacht haben. Über das Setzen verschiedener Parameter und über das Modelldesign kommen unsere Wertvorstellungen auch in solche Systeme. ChatGPT ist ja keine objektive Technologie, und natürlich bringen die AuftraggeberInnen ihre Wertvorstellungen hinein. Über diesen Einfluss würde die Technologie auch anders ausschauen, wenn mehr diverse EntwicklerInnen mitgearbeitet hätten. Hinzu kommt noch etwas: ChatGPT spiegelt kulturell unsere Vergangenheit. Denn das System kann nur auf das zurückgreifen, was wir geschrieben haben.

Nein. Weil diese Technologie viel Potenzial hat, aber auch viele Gefahren birgt. Ich will, dass wir es nicht verbocken. ● ○