Rezension

Die Allmacht der Algorithmen in Alexis Brocas Un Dieu dans la machine

Was wäre, wenn wir die Möglichkeit hätten unsere Zukunft vorherzusagen? Alexis Brocas entwirft eine Welt, in der Algorithmen diese prophetische Macht zuteilwird. In Un Dieu dans la machine sind Algorithmen allwissend, sie kennen unsere Gedanken, unsere Geheimnisse, unsere Wünsche und, viel entscheidender, unsere Zukunft.

Informationserfassung durch KI

In drei Zeitfenstern – Partie I (2003-2918), Partie II (mai 2018-novembre 2019) und einem „Épilogue“ – zeichnet Brocas die Geschichte eines anonymen Ich-Erzählers, der nach langer Arbeitslosigkeit bei dem mysteriösen Konzern “Larcher” angestellt wird und darüber die Beziehung zu seiner Videospiele-affinen Tochter Emma aus dem Blick verliert. Bei „Larcher“ besteht seine offizielle Aufgabe darin, unterschiedlichste Texte zu verfassen. Vor Arbeitseintritt musste er jedoch eine Verschwiegenheitserklärung unterschreiben, in der er einwilligt seine Arbeit sowie seinen Arbeitgeber geheim zu halten. Bei “Larcher” werden ihm Algorithmen zur Verfügung gestellt, die nicht nur allgemeine statistische Daten einer bestimmten Stichprobe der Bevölkerung Frankreichs ermitteln können, wie zum Beispiel die Haarfarbe von allen Menschen mit dem Nachnamen Arnold, die in Lyon leben, sondern auch sehr präzise Informationen über einzelne Individuen und ihre Zukunft. Aus diesen Massendatensätzen, Big Data, gilt es Kausalketten und Prognosen über beispielsweise das Kaufverhalten bestimmter Individuen abzuleiten. Diese nutzt er, um Textsynthesen in Form von Geschichten zu verfassen. Als Lehrer für Literatur, und gescheiterte Romanautor ist er dafür regelrecht vorherbestimmt. Unter anderem ist der Algorithmus in der Lage, tragische Unfälle mit einer unheimlichen Genauigkeit vorherzusagen und so zu beschreiben, wie sie zu dem genannten Zeitpunkt tatsächlich stattfinden. Nachdem sich der Protagonist davon überzeugen konnte, dass die Geschehnisse exakt eintreffen, versucht er die betroffenen Personen über soziale Netzwerke oder per E-mail zu kontaktieren und zu warnen. Diese glauben ihm jedoch nicht und halten ihn für wahnsinnig.

Ein weiterer Aspekt, den der Autor aufgreift, ist die Angst vor der Rückverfolgbarkeit von persönlichen Daten, der wir im täglichen Leben ausgesetzt sind. Durch die starke Onlinepräsenz großer Teile der Bevölkerung auf sozialen Medien haben Großkonzerne freien Zugriff auf unsere persönlichen Daten. Diese werden dann gespeichert und selbst, wenn wir einen Beitrag löschen, haben die Konzerne immer noch Zugriff auf diese Daten. Die Datenerhebung und der Eingriff in die Privatsphäre durch künstliche Intelligenz anderer, wird im Roman als ethisch problematisch dargestellt. Der im Buch beschriebene Konzern “Larcher” nutzt die persönlichen Daten zu ihrem Vorteil; selbst beim Vorstellungsgespräch des Protagonisten werten die Maschinen seine Fähigkeiten aus.

Technische Singularität in der Arbeitswelt

Der Roman bietet eine Perspektive auf ein modernes Frankreich, in der die Technische Singularität die Arbeitswelt durchdringt. Brocas wirft die Frage auf, inwieweit Maschinen den Menschen ersetzen können: « Au début, je me demande à quoi je sers. La machine est tout à fait capable de fabriquer ses histoires seule à partir de petits bouts de phrases tirés de rapports de police ou de matériaux trouvés sur le Web. Certes, ce ne serait pas tout à fait les mêmes. Peut-être a-t-elle besoin de mêler à ses calculs une pincée d’arbitraire humain. » (S.42) Der Protagonist vermutet, dass er und die anderen Journalisten eigentlich nur dazu angestellt sind, um den verfassten Artikeln den „menschlichen Touch“ zu verleihen, um nicht den Eindruck zu wecken, dass die Texte gänzlich maschinell erstellt worden sind. Es enerviert ihn, dass bei “Larcher” alles im Geheimen bleibt, seine Fragen bezüglich seiner Arbeit, als auch bezüglich seiner Lohnerhöhungen werden nicht beantwortet. Deshalb überlegt der Protagonist, ob seine Arbeit wirklich rechtens sei. Der Autor beschreibt die Zerrissenheit des Protagonisten eindrücklich, zwischen der Faszination für die Allmacht künstlicher Intelligenz und dem Hinterfragen der Richtigkeit eben dieser.

Bereits bei der Einarbeitung im Konzern “Larcher” wird ersichtlich, dass der Konzern seine Tätigkeiten nicht nur vor der Öffentlichkeit, sondern auch vor den eigenen Mitarbeitern verheimlicht. « D’abord, ils nous distribuent des copies des contrats qu’on nous proposera en bout de formation et nous invitent à lire les clauses. Comprenons-nous qu’une fois ces documents signés il nous sera interdit d’évoquer à l’extérieur 1) quoi que ce soit sur les activités de la filiale LarcherConseil ; 2) quoi que ce soit sur notre emploi au sein de celle-ci ?

Quand j’observe qu’on ne nous a encore rien dit de LarcherConseil ou de notre futur boulot, le dénommé Dupond me regarde comme si j’étais un cloporte pétomane.

– C’est pourtant simple : chez LarcherConseil, vous traiterez les demandes clients en vue de les aider à consolider leur processus décisionnel. C’est clair ? » ( S.6 ) Die Mitarbeiter müssen sich an die Klauseln im Arbeitsvertrag halten und dürfen keine Interna an die Öffentlichkeit weitergeben, was die Aktivitäten der Firma oder Ihre eigne Beschäftigung angeht. Als der Protagonist einen seiner Chefs nach seiner Beschäftigung fragt, wird klar dass auch innerhalb der Firma das Fragen unerwünscht ist. Der Chef gibt ihm nur eine grobe Antwort, dass seine Aufgabe darin bestünde, Kundenanfragen zu bearbeiten und ihnen bei Entscheidungsprozessen zu helfen.

Der Protagonist tauscht sich häufig mit seinem Arbeitskollegen Brice aus. Dieser ist davon überzeugt, dass sie bei „Larcher“ nicht als Journalisten eingestellt worden sind, die mithilfe der Software zu allen Themen leicht verständliche Artikel schreiben können, sondern dass „Larcher“ die beschriebenen Geschehnisse prospektiv produziert. Ihre Aufgabe sei es nur, die statistischen Prognosen in erzählter Form an die Öffentlichkeit zu bringen und dadurch die Zukunft zu formen. Dies ist auch der Grund, weshalb es bei Larcher Klauseln im Arbeitsvertrag gibt, die besagen, dass sie nichts Internes aus der Firma an die Öffentlichkeit weitersagen dürfen. Für den Protagonisten scheint es unvorstellbar, dass die künstliche Intelligenz nicht nur die Zukunft voraussagen, sondern sogar produzieren kann: «– Tu sais, j’ai compris pourquoi ils recrutent des crevards comme nous. Pourquoi ils vont pas chercher un expert en thrips pour pondre le rapport sur les thrips, ou un sociologue de Nintendo pour étudier les vieilles qui se voient en Reines des abeilles.

– Parce que justement on est spécialiste de rien ? Parce que ça nous dispose à réécrire leur horrible prose spécialisée avec des mots simples, sous une forme agréable ? Parce qu’on nous a formés pour ça ?

– C’est ce qu’ils veulent qu’on croie. Mais comment tu justifies toutes les clauses de confidentialité ?

– Très simplement : ils ne veulent pas que leurs petits secrets de méthodologie se baladent dans la nature.

– Tu crois que les Duponds, les menaces, les badges, c’est pour protéger la méthodologie ? Arrête de jouer au con, tu sais très bien où je veux en venir. C’est le minerai fermé, la valeur ajoutée des études LarcherConseil. Nous, on est là pour l’extraire, le rendre présentable et la boucler.

– Selon toi, c’est Larcher qui produit le minerai fermé ? Oui, Brice, je vois où tu veux en venir : quelque part au fin fond des ténèbres de l’organigramme, une structure mystérieuse sait tout sur tout, même l’avenir. Ils utilisent la psychomécanique inca ou la science infuse des aliens troglodytes? » (S.12)

Spielsucht und Leistungsdruck bei Jugendlichen

Der Protagonist fragt die Software auch nach Informationen über seine eigene Tochter Emma, die zu Beginn des Romans 6 Jahre alt ist. Der Algorithmus antwortet mit der Prognose, dass seine Tochter mit 17 in einen Unfall geraten und sterben würde. Obwohl der Protagonist die Prognose zunächst nicht für wahr hält, muss er sich eingestehen, dass die künstliche Intelligenz sich nur selten irrt. Daraufhin beschließt er, mit seinen Vorgesetzten zu reden. Beim Gespräch erläutert er seine Sorgen, doch die Chefs erklären ihm, dass es sich um eine Art Systemfehler handeln muss und dass die Algorithmen Fehler oder „bugs“ enthalten können. Dennoch beruhigt ihn diese Aussage nicht, er hinterfragt die allwissenden Maschinen und den Sinn seiner Arbeit. Dabei wird die Diskrepanz zwischen dem technischen Fortschritt allwissender Maschinen und moralischen Grundsätzen ersichtlich. In Un Dieu dans la machine zeigt der Autor die Unsicherheit beim Umgang mit dieser Art von Algorithmen. Der Protagonist kann nicht an die Prognose glauben, doch mit der Zeit wird er von der Angst überwältigt, seine einzige Tochter in Folge eines Unfalls im Videospiel “Yourland” zu verlieren.

Im ersten Teil des Buches ist Emma noch ganz jung und bereits als kleines Mädchen fragt sie ihren Vater, ob er eine „freudige Nachricht“ für sie habe. Damit meint sie, ob er nach mehreren Jahren der Arbeitslosigkeit endlich eine Arbeitsstelle gefunden habe. Mit 9 Jahren schenkt der Protagonist seiner Tochter ihre erste Nintendo Wii und eine PS4 Konsole, mit 10 Jahren ihr erstes Smartphone. Der Vater spielt auch mehrere Stunden auf den Konsolen mit Emma. Das Spiel „Yourland“ bringt der Protagonist das erste Mal von seiner Arbeit mit. Es scheint, als würde er die materiellen Wünsche seiner Tochter erfüllen, doch gleichzeitig ist sie vom frühen Alter gewohnt, ihre Freizeit im Internet oder beim Online-Spielen zu verbringen und macht ihre ersten Bekanntschaften im Jugendalter ebenfalls im Netz. Emma verbringt nicht nur ihre gesamte Freizeit beim Spielen von „Yourland“, sondern ihr Verhalten ändert sich: in der Schule ist sie oft irritiert und aggressiv, ihre Noten verschlechtern sich drastisch. Emma interessiert sich für nichts mehr außer „Yourland“. So hat sie vom jungen Alter an Konsolen, Computer und ihr Smartphone nach Belieben nutzen können, ohne Begrenzungen zu kennen, was in eine Sucht ausgeartet ist.

Emma verliert sich schließlich in der virtuellen Welt. Sie verbringt jeden Tag mehrere Stunden damit, das Spiel „Yourland“ zu spielen; nach einer Weile kann sie die virtuelle Welt nicht mehr von der digitalen Welt unterscheiden. Sie ist fest davon überzeugt nicht nur im Spiel, sondern auch im echten Leben, ein Avatar zu sein. Es erfolgt eine Verschmelzung der digitalen Welt mit der Realität. Sie trifft sich nicht mehr mit ihren Freunden, außer in der virtuellen Welt, sie verpasst Schulstunden, nur um die Beste im weltweiten Ranking zu werden. Emma verschließt sich zunehmend, sie flieht in eine digitale Welt, in der sie sich besser zurechtfindet als in der realen Welt. Ein weiterer wichtiger Aspekt, der mit der Figur von Emma ersichtlich wird, ist der Leistungsdruck im Spiel, der sich negativ auf ihre Psyche auswirkt. Als Emma in der realen Welt dann tatsächlich in einen Unfall verwickelt wird, den die Statistiken von „Larcher“ ja prognostiziert hatten, verflucht ihr Vater „Lacher“ und wünscht sich die „alte Welt von damals“ herbei, in der, fernab von Big Data und Virtueller Realität, das Lesen und Schreiben noch Bestand haben.

Un Dieu dans la machine ist ein interessanter und zugleich ungewöhnlicher Roman, der brandaktuelle Fragen aufwirft nach der Allmacht der Algorithmen und dem freien Willen des Menschen. Brocas fragt auch nach der Zukunft von intellektuell anspruchsvollen Arbeitsprofilen. Werden Journalisten nur zu Handlangern von textgenerativer KI? Wann und wie werden uns Maschinen beim Verfassen von Texten ersetzen? Darüber hinaus ist Un Dieu dans la machine die Geschichte über eine Vater-Tochter-Beziehung zu Zeiten virtueller Lebenswelten. Brocas zeigt, wie der zunehmende Realitätsverlust Leben aufs Spiel setzt. Zusammenfassend ist Un Dieu dans la machine besonders empfehlenswert für alle, die sich für künstliche Intelligenz begeistern und dystopische Geschichten mögen. 

Steckbrief und Rezension von Estera Kulkieka im Rahmen des B.A. Seminars von Dr. Sofina Dembruk

Beiträge zur französischen Literatur

Beiträge zu anderen romanischen Sprachen

Das Projekt

Bildquelle:

Alexis Brocas – https://www.lejdd.fr/culture/la-curiosite-cosmique-dalexis-brocas-5920