[
  {
    "start": 10.86,
    "end": 11.0,
    "text": ""
  },
  {
    "start": 17.36,
    "end": 23.48,
    "text": "Um zu einer neuen Folge von TLDR, dem Podcast des CISPA-Hemmels Zentrum zur Informationssicherheit."
  },
  {
    "start": 24.32,
    "end": 27.28,
    "text": "Die Abkürzung TLDR steht für too long didn't read."
  },
  {
    "start": 27.76,
    "end": 37.68,
    "text": "Wir haben diesen Titel gewählt, weil wir euch mit diesem Podcast das Lesen komplexer Forschungstexte ersparen wollen, indem wir mit unseren CISPA-Forschnenden direkt über ihre Arbeit sprechen."
  },
  {
    "start": 38.82,
    "end": 43.6,
    "text": "Mein Name ist Felix Koltermann und ich bin Mitarbeiter in der Abteilung Corporate Communications am CISPA."
  },
  {
    "start": 44.32,
    "end": 47.46,
    "text": "Heute bei mir zu Gast ist der CISPA-Forscher Julian Sieber."
  },
  {
    "start": 48.28,
    "end": 49.32,
    "text": "Herzlich willkommen Julian."
  },
  {
    "start": 50.52,
    "end": 50.88,
    "text": "Vielen Dank."
  },
  {
    "start": 51.76,
    "end": 52.38,
    "text": "Schön hier zu sein."
  },
  {
    "start": 52.8,
    "end": 54.62,
    "text": "Ja, ich freue mich auch auf unser Gespräch."
  },
  {
    "start": 55.88,
    "end": 60.68,
    "text": "Julian, du bist Doktorand in der Forschungsgruppe von CISPA Faculty Bernd Finkbeiner."
  },
  {
    "start": 61.04,
    "end": 63.2,
    "text": "Erzähl uns doch mal, wie du ans CISPA gekommen bist."
  },
  {
    "start": 64.08,
    "end": 67.44,
    "text": "Ja, das war im Prinzip über die Lehre und die Forschung von Bernd."
  },
  {
    "start": 67.66,
    "end": 70.94,
    "text": "Also ich habe hier an der Uni einen Zapprücken studiert."
  },
  {
    "start": 71.7,
    "end": 80.08,
    "text": "Und Bernd macht zur Vorlesung, wie Verifikationen, wo es darum geht, mit formalen Methoden zu beweisen, dass Systeme gewisse Eigenschaften erfüllen."
  },
  {
    "start": 80.14,
    "end": 99.96,
    "text": "Also grundsätzlich geht es oft darum, dass sie korrekt sind, also die richtigen Ausgaben berechnen, aber auch zum Beispiel Sicherheitsagenschaften, wie das keine geheimniste Preis gegeben werden oder dass zum Beispiel auch so Dinge wie Drohne der Luftfahrt nicht abstürzen oder in dem Fall zumindest einen Plan B sozusagen haben."
  },
  {
    "start": 101.4,
    "end": 122.86,
    "text": "Das fand ich immer sehr faszinierend, also diese Zuverlässigkeit von Systemen in kritischen Bereichen zu erhöhen und das hat mich dann direkt sehr angezogen und dadurch habe ich mich dann eben auch um der Bachelorarbeit, Masterarbeit in der Richtung bemüht und habe dann irgendwann mit dem Doktor auch in diesem Feld angefangen."
  },
  {
    "start": 123.68,
    "end": 133.08,
    "text": "Ja, und du bist jetzt schon einige Jahre am CIS-Bahn, hast du uns auch schon zu einer Vielzahl von Themen publiziert, im Moment des einer deiner thematischen Schwerpunkte die algorithmische Fairness."
  },
  {
    "start": 133.56,
    "end": 135.52,
    "text": "Woher kommt denn dein Interesse an diesem Thema?"
  },
  {
    "start": 136.72,
    "end": 142.54,
    "text": "Ja, im Grunde eben auch aus diesem Bereich, Systeme an kritischen Bereichen zu untersuchen."
  },
  {
    "start": 143.42,
    "end": 158.58,
    "text": "und während sich ursprünglich eben vielleicht auch über Systeme, wie diese Drohlen uns weiter nachgedacht haben, bei denen das oft irgendwie auch tatsächlich um so die physische, das physische Wohlergehen der Benutzer und Benutzerinnen geht."
  },
  {
    "start": 159.08,
    "end": 176.28,
    "text": "Es ist seit so, sage ich mal, zehn Jahren oder fünf bis zehn Jahren dieses Thema von algorithmischer Fairness immer weiter in den Fokus gerückt, dass ... benutze eben auch mit Systeme interagieren, die jetzt vielleicht eine physische oder so kritische Konsequenzen haben, aber eben auch ökonomisch oder sozial."
  },
  {
    "start": 176.74,
    "end": 185.2,
    "text": "Also dadurch, dass sie zum Beispiel vielleicht bei der Kreditvergabe benachteiligt werden oder auch bei sowas wie Gerichtswesen."
  },
  {
    "start": 186.0,
    "end": 197.46,
    "text": "Und da habe ich dann recht schnell irgendwie parallel für mich gesehen, weil es halt weder darum geht, irgendwie die Zuverlässigkeit zu erhöhen und kritische Outcomes zu vermeiden."
  },
  {
    "start": 198.14,
    "end": 205.22,
    "text": "Und hatte das Gefühl, da können wir auch wirklich was beitragen mit den Methoden, die wir eher, diesen formalen Methoden aus Dingen wie der Luftfall."
  },
  {
    "start": 206.28,
    "end": 220.72,
    "text": "Also, wenn ich richtig viel verstanden habe, um das nochmal zusammenzufassen, auch aus so einer Perspektive des Newcomers in dem Bereich, geht es letztlich darum, dass es um dieses Thema in kritischen Bereichen und die Sicherheit geht, wie Systeme funktionieren."
  },
  {
    "start": 220.78,
    "end": 224.74,
    "text": "Und da ist eben ein mögliches Beispiel, was man sich angucken kann, eben auch Algorithmen."
  },
  {
    "start": 225.8,
    "end": 242.24,
    "text": "Genau, ich meine, eigentlich bestehen diese Systeme meistens aus einer Kombination von Algorithmen und irgendwelchen Dingen wie Sensoren oder Aktuatoren, die zum Beispiel Wundtoren, Anantrone oder so bewegen."
  },
  {
    "start": 242.92,
    "end": 254.6,
    "text": "Und in dem Fall, in denen Fern jetzt relevant ist, ist es vielleicht eine Kombination von Algorithmen und menschlichen Entscheidern, die vielleicht dann basierend Aufnahmen, Vorschlag der Algorithmen, Kredite vergeben oder nicht."
  },
  {
    "start": 255.16,
    "end": 261.48,
    "text": "Es kann sogar auch komplett automatisch sein, also eigentlich ein großer Algorithmus, der vielleicht ein Lebenslauf annimmt oder ablehnt in Bewerbungsphasen."
  },
  {
    "start": 261.94,
    "end": 267.72,
    "text": "In der algorithmischen Ferne geht es eben um diese automatischen Systeme, also die durch Algorithmen gesteuert werden."
  },
  {
    "start": 268.78,
    "end": 272.42,
    "text": "Und das ist ein bisschen um sich abzugrenzen von vielleicht dem philosophischen Fernesbegriff."
  },
  {
    "start": 273.28,
    "end": 276.76,
    "text": "Vielleicht schauen wir uns nochmal einzelne Begriffe so ein bisschen systematischer an."
  },
  {
    "start": 277.18,
    "end": 285.64,
    "text": "Eine der Grundlagen oder ein wesentlicher Bestandteil des Begriffs algorithmischer Fairness ist ja der Begriff Algorithmus, also Algorithmen."
  },
  {
    "start": 286.22,
    "end": 294.26,
    "text": "Einfach gefragt, in welchen Bereichen der IT und Datenverarbeitung kommen denn heute Algorithmen überhaupt zum Einsatz und welche Bedeutung haben die für den Einzelnen?"
  },
  {
    "start": 295.06,
    "end": 303.64,
    "text": "Ja, also Algorithmen sind in dem Sinne ja erstmal Berechnungsvorschriften, also die mir sagen, wie ich aus Eingaben in irgendwelche Ausgaben generiere."
  },
  {
    "start": 304.2,
    "end": 310.9,
    "text": "Und klassischerweise würden wir die vielleicht als Programm aufschreiben oder auch irgendwie anschriftlich auf dem Papier als Pseudocode."
  },
  {
    "start": 312.16,
    "end": 315.48,
    "text": "Und die sind so ein bisschen für die Informatik, wie das Mehl in der Bäckerei."
  },
  {
    "start": 315.54,
    "end": 319.26,
    "text": "Also jedes IT-Produkt besteht am Ende aus Algorithmen."
  },
  {
    "start": 319.42,
    "end": 320.46,
    "text": "ganz so kundelingend."
  },
  {
    "start": 321.06,
    "end": 322.66,
    "text": "Schöner Vergleich, aber den kann ich auch noch nicht."
  },
  {
    "start": 322.76,
    "end": 324.56,
    "text": "Algorithmen als Mehl in der Bäckerei."
  },
  {
    "start": 325.8,
    "end": 337.84,
    "text": "Ich glaube, was sich jetzt vielleicht nochmal geändert hat in den letzten Jahren, ist wirklich die Art und die Art der Algorithmen und vielleicht schon auch die Bereiche, in denen sie verstärkt angesetzt werden."
  },
  {
    "start": 337.9,
    "end": 348.12,
    "text": "Also es sind jetzt viele Bereiche, die in denen ursprünglich schon hauptsächlich menschliche Entscheidungsträger diese kritischen Entscheidungen über die wir vorhin geredet haben getroffen haben."
  },
  {
    "start": 348.18,
    "end": 353.74,
    "text": "Also es waren halt Personal, die vielleicht entschieden haben, ob ein Lebenslauf jetzt weitergegeben wird oder nicht."
  },
  {
    "start": 354.32,
    "end": 361.06,
    "text": "Und da gibt es einfach einen Trend dazu, das mit automatischen Systemen und Algorithmen zu tun."
  },
  {
    "start": 361.68,
    "end": 391.82,
    "text": "Und diese Systeme bestehen jetzt eben selten aus Programmen, die irgendjemand aufgeschrieben hat, explizit und dementsprechend auch wo jemand mal die Regeln verstanden hat, sage ich mal, sondern verstärkt aus künstlicher Intelligenz, also zum Beispiel neuronalen Netzen, die ihre Regeln sozusagen durch das Trainieren auf historischen Daten hest im Trainingsprozess und deren Regeln auch nicht mehr so leicht verständlich sind wie in einem Programm."
  },
  {
    "start": 392.08,
    "end": 406.82,
    "text": "Dieses Spannungsfeld von einerseits schwierig verständlichen Regeln nach denen entschieden wird und gleichzeitig kritischen Bereichen in denen diese Entscheidung jetzt eine Rolle spielen, hat halt Fairness auf den Plan gebracht im Prinzip her."
  },
  {
    "start": 407.72,
    "end": 422.54,
    "text": "Also könnten wir quasi sagen durch künstliche sogenannte künstliche Intelligenz, maschinelles Lernen, was einfach immer wichtiger ist in allen Bereichen unseres Lebens quasi Algorithmen auch nochmal eine ganz neue Bedeutung bekommen, weil sie im maschinellen Lernen so zentral sind."
  },
  {
    "start": 423.3,
    "end": 423.7,
    "text": "Genau, ja."
  },
  {
    "start": 424.6,
    "end": 442.76,
    "text": "Also mittlerweile merkt man auch oft, wenn Leute irgendwie darüber reden, dass ihr Spotify oder YouTube Algorithmus irgendwas macht, dann meinen sie im Prinzip eigentlich den maschinell geländen Algorithmus oder auch künstlicher Intelligenz in dem Sinne, die dahinter in diese Dinge präsentiert."
  },
  {
    "start": 442.84,
    "end": 448.4,
    "text": "Also der Begriff ist wirklich sehr weit gefasst und betrifft jetzt nicht mehr nur Programme oder so."
  },
  {
    "start": 450.16,
    "end": 466.2,
    "text": "Okay, und die Besonderheit wäre quasi, dass im maschinellen Lernalgorithmen quasi ab einem gewissen Punkt autonom in den neuronalen Netzwerken selber lernen und agieren und dass eben der Unterschied ist zu einem Algorithmus in einem menschengeschriebenen Programm."
  },
  {
    "start": 467.2,
    "end": 472.32,
    "text": "Genau, ich meine dieses Autonomell lernen, dass auch praktisch während der Anwendung noch passieren kann."
  },
  {
    "start": 472.36,
    "end": 473.86,
    "text": "Das ist ein weiter großer Punkt."
  },
  {
    "start": 475.2,
    "end": 481.2,
    "text": "Ich glaube, Das ist eigentlich ein weiteres Fass, das wir da irgendwie aufmachen."
  },
  {
    "start": 481.8,
    "end": 485.2,
    "text": "Ich glaube, initial ist das Hauptproblem ein bisschen, dass sie schwierig verständlich sind."
  },
  {
    "start": 485.28,
    "end": 499.82,
    "text": "Also am Ende wieder die Entwickler noch praktisch auch irgendwelche Behörden, die sie vielleicht das neuronale Netz anschauen, wirklich genau sagen können, was hier eigentlich passiert."
  },
  {
    "start": 501.12,
    "end": 506.14,
    "text": "Und dementsprechend eben Methoden notwendig sind, um das zu untersuchen."
  },
  {
    "start": 507.4,
    "end": 511.14,
    "text": "Sowohl vor als auch während der Anwendung von der künstlichen Intelligenz."
  },
  {
    "start": 512.559,
    "end": 516.38,
    "text": "Vielleicht gehen wir mal einen Schritt weiter in Richtung der algorithmischen Fairness."
  },
  {
    "start": 517.08,
    "end": 521.539,
    "text": "Vielleicht auch da nochmal einfach gefragt, wie würdest du denn den Begriff algorithmische Fairness definieren?"
  },
  {
    "start": 522.5,
    "end": 536.22,
    "text": "Ja, also wie ihr vorhin vielleicht schon angedeutet ist, ist es im Prinzip die Eigenschaft, dass Individuen, die mit einem algorithmischen System interagieren, nicht basierend auf irgendwelchen illegitimen Faktoren oder Attributen."
  },
  {
    "start": 536.88,
    "end": 538.56,
    "text": "benachteiligt oder befohlenzigt werden."
  },
  {
    "start": 539.14,
    "end": 543.86,
    "text": "Es gibt durchaus legitime Gründe, dass jemand vielleicht einen Kredit bekommt und jemand anderes nicht."
  },
  {
    "start": 544.04,
    "end": 548.5,
    "text": "Also vielleicht einfach höheres Einkommen und damit höhere Kreditwürdigkeit oder so."
  },
  {
    "start": 548.96,
    "end": 553.28,
    "text": "Aber es sollte jetzt eben nicht basierende Aufatributengeschehen, die z.B."
  },
  {
    "start": 553.54,
    "end": 554.64,
    "text": "auch gesetzlich geschützt sind."
  },
  {
    "start": 554.72,
    "end": 558.02,
    "text": "Also passieren oft um Geschlecht oder der ethnischen Herkunft."
  },
  {
    "start": 559.5,
    "end": 565.8,
    "text": "Wenn das passiert, spricht man ja von Bayes, von Algorithmen oder Algorithmischer Verzerrung, wenn ich es richtig verstanden habe."
  },
  {
    "start": 565.96,
    "end": 584.0,
    "text": "Wenn es quasi eine Benachteiligung von Einzelnen durch ein technisches System oder durch ein Algorithmus gesprochen wird, kannst du da nochmal ein paar konkrete Beispiele geben, bevor wir zur Fairness kommen, was quasi der Gegenteil ist, nämlich eben der Bayes oder die verzerrte Entscheidung."
  },
  {
    "start": 585.34,
    "end": 593.8,
    "text": "Genau, in gewisser Weise, sag ich mal, fern ist da die positive Eigenschaft und dann weiß oder Verzerrung halt, was passiert, wenn ein System nicht fair ist oder unfair ist."
  },
  {
    "start": 595.68,
    "end": 631.72,
    "text": "Genau, also da gibt es wirklich eine Amphils davon, beispielsweise, die ich jetzt gerade immer wieder in Nebensätzen getroppt habe, aber ich glaube, einer der größten Fälle, der auch große Schlagzahlen gemacht haben, sag ich mal damals, war zum Beispiel ein System in USA, also das Kompassystem, was die Rückfallverscheinigkeit von Angeklagten in Gerichtsprozessen abgeschätzt hat und praktisch als Hilfe für die Gerichte dienen sollte, um dann eben zu entscheiden, ob jemand mit Kaution frei kommt oder direkt ins Gefängnis muss."
  },
  {
    "start": 633.3,
    "end": 636.24,
    "text": "Teilweise wurde es aber auch später in richtigen Prozessen verwendet."
  },
  {
    "start": 638.44,
    "end": 661.16,
    "text": "In dem Fall haben dann Studien, speziell die von ProPublica herausgefunden, dass dieses System eben wesentlich schlechter für schwarze US-Amerikaner funktioniert und dementsprechend zum Beispiel weiße Amerikaner da einen Vorteil hatten beim Interagieren mit diesem System."
  },
  {
    "start": 662.66,
    "end": 669.1,
    "text": "Speziell zum Beispiel einfach, dass das Risiko rückfällig zu werden, einfach höher angeschätzt wurde für Schwarze."
  },
  {
    "start": 670.24,
    "end": 678.38,
    "text": "Wenn wir jetzt zum Beispiel ein Beispiel wie Kompass nehmen, was ist denn eigentlich der Grund dafür, dass diese algoritmische Verzerrung überhaupt auftritt oder dieser Bayer ist?"
  },
  {
    "start": 678.68,
    "end": 681.52,
    "text": "Das kann im Prinzip eine Vielzahl von Gründen haben."
  },
  {
    "start": 681.82,
    "end": 689.6,
    "text": "In dem Fall ist die gängige Theorie, also basierend auf den schlechten Trainingsdaten passiert ist."
  },
  {
    "start": 690.8,
    "end": 696.94,
    "text": "Und das ist auch, sag ich mal, ein Hauptpunkt, warum algorithmische Fairness generell verletzt wird."
  },
  {
    "start": 697.22,
    "end": 707.84,
    "text": "Gerade jetzt im Gerichtswesen in den USA kann man sich gut vorstellen, dass hier schon immer in der Historie gewisse Verzerrungen entstanden sind, auch menschliche Natur."
  },
  {
    "start": 709.02,
    "end": 718.32,
    "text": "Und wenn man diese Daten dann eben zum Trainieren der künstlichen Intelligenz zugrunde legt, automatisch auch eine Verzerrung in diesem Algorithmus."
  },
  {
    "start": 719.24,
    "end": 719.92,
    "text": "übertragen wird."
  },
  {
    "start": 720.68,
    "end": 723.54,
    "text": "In anderen Fällen ist es vielleicht auch noch, sage ich mal, perfidere Gründe."
  },
  {
    "start": 723.76,
    "end": 736.84,
    "text": "Also, wenn ein Firmen vielleicht am Lebenslauf ist, gerne könnte durchaus zum Beispiel ein ekonomisches Interesse daran sein, Frauen zu benachteiligen, weil vielleicht die Gefahr einer Schwangerschaft oder so im Raum steht."
  },
  {
    "start": 738.08,
    "end": 750.14,
    "text": "Das kann zum einen sehr direkt passieren, aber viel öfters passiert ist auch noch unbewusst, weil man zum Beispiel basierend auf der Jahre der aktiven Teilhabe am Unternehmen oder so optimiert."
  },
  {
    "start": 751.36,
    "end": 760.6,
    "text": "Und praktisch dieses Optimierungskriterium dann sich etwas in die Entscheidungen auch so unfair auswirkt auf die Entscheidungen."
  },
  {
    "start": 761.7,
    "end": 769.18,
    "text": "Das heißt, es gibt sozusagen verschiedene Möglichkeiten, wann und wie algorithmische Unfairness, sagen wir mal, entsteht."
  },
  {
    "start": 769.24,
    "end": 771.42,
    "text": "Also das Training ist eine Option, die Trainingsdaten."
  },
  {
    "start": 772.78,
    "end": 784.42,
    "text": "Oder ich kann quasi der KI bestimmte Kriterien mitgeben und sagen, also Geschlecht und die Wahrscheinlichkeit von Schwangerschaft, würde ich sozusagen negativ bewertet haben."
  },
  {
    "start": 785.38,
    "end": 790.52,
    "text": "Genau, das kann ich expliziter oder auch einfach unbewusster und ausversehn machen."
  },
  {
    "start": 790.7,
    "end": 798.06,
    "text": "Das stimmt aber absolut, dass es halt viele Stellen gibt, wo diese Fehler eintreten können."
  },
  {
    "start": 798.4,
    "end": 800.26,
    "text": "Prinzipiell eher in der Trainingsphase."
  },
  {
    "start": 802.62,
    "end": 817.12,
    "text": "Okay, also sozusagen um das nochmal so vielleicht so einen Punkt zu machen für algorithmische Fairness und den Blick darauf, vor allem das Training ein entscheidender Faktor, also was an Daten reingegeben wird und jetzt vielleicht ein bisschen weniger die Anwendung."
  },
  {
    "start": 818.1,
    "end": 830.4,
    "text": "Ja, wobei du vorhin ja auch schon einen Punkt gebracht hast, dass solche Systeme durchaus auch während der Anwendung auch sich praktisch weiterentwickeln und das dann mischt auch ein bisschen diese starke Trennung zwischen Training und Anwendung."
  },
  {
    "start": 831.68,
    "end": 833.4,
    "text": "Aber es ist der Trainingsteil, der das Problem ist."
  },
  {
    "start": 836.34,
    "end": 849.9,
    "text": "Wenn der Trainingsteil das Problem ist, also beim Training geht es ja darum, ich gebe Daten ein, die Daten haben bestimmte Merkmale oder Kategorien, könnte man dann ganz einfach denken, ich lasse einfach bestimmte Merkmale raus und habe dann keine Verzerrung mehr."
  },
  {
    "start": 850.08,
    "end": 855.36,
    "text": "Ist das eine Möglichkeit für eines herzustellen oder ist das zu einfach gedacht aus?"
  },
  {
    "start": 855.68,
    "end": 856.04,
    "text": "Grund X?"
  },
  {
    "start": 856.5,
    "end": 861.8,
    "text": "Nee, das ist eine sehr gute Frage, weil es eigentlich die offensichtliche Möglichkeit erst mal sein sollte."
  },
  {
    "start": 862.34,
    "end": 876.26,
    "text": "Aber tatsächlich gibt es in Daten einfach viel zu viele Korrelationen zwischen den Merkmalen, die man rausgenommen hat und anderen Merkmalen, die man vielleicht als Legitim bewertet und durchaus auch Sinn machen würden."
  },
  {
    "start": 876.32,
    "end": 903.18,
    "text": "Also zum Beispiel bei Compass war es durchaus der Fall, dass man Also was praktisch in dem Vorgebung als Race oder so gelebet wurde rausgenommen hatte, aber einfach so viele andere Fragen gestellt hatte und auch Dinge, die in gewisser Weise dann einfach doch offenlegen, was da der Eintrag war und dem System dann ermöglichen, praktisch eine Shortcut zu wählen und was die dann darauf die Entscheidung zu treffen."
  },
  {
    "start": 904.92,
    "end": 925.82,
    "text": "Vielleicht noch mal was könnte ein Beispiel sein, also wenn ich jetzt so dran denke, ich habe in Berlin gewohnt, lange Jahre und würde vielleicht wäre ein Kriterium soziale Herkunft, aber nehmen das raus, aber habe gleichzeitig den Wohnort, ist dann Wohnort vielleicht gleich soziale Herkunft, weil eine bestimmte Schicht mit einem bestimmten Einkommen in einem bestimmten Stadtteil wohnt."
  },
  {
    "start": 925.86,
    "end": 933.78,
    "text": "Wäre das so ein Beispiel von, ich nehme einen Merkmal raus, aber es ist eigentlich da über ein anderes Kriterium, eine andere Kategorie?"
  },
  {
    "start": 934.2,
    "end": 934.76,
    "text": "Absolut, ja."
  },
  {
    "start": 934.86,
    "end": 939.3,
    "text": "Der Wohn- und Wessung-Klassisches Beispiel, was in der Regel stark organisiert."
  },
  {
    "start": 940.0,
    "end": 945.82,
    "text": "Wenn man ein bisschen sich mit dem Thema Vertraut macht, liest man immer wieder auch von verschiedenen Ansätzen, um Fairness herzustellen."
  },
  {
    "start": 945.9,
    "end": 950.8,
    "text": "Also man hört dann Dinge wie Human in the Loop, erklärbare KI oder Fairness-Metriken."
  },
  {
    "start": 951.64,
    "end": 954.68,
    "text": "Was steckt denn dahinter und wie lässt sich das umsetzen?"
  },
  {
    "start": 955.7,
    "end": 965.46,
    "text": "Ja, das sind relativ, sag ich mal ... Das ist ja das jungte Ansatz an das Problem, die in gewisser Weise einfach unterschiedliche Problemfelder davon abarbeiten."
  },
  {
    "start": 965.58,
    "end": 970.54,
    "text": "Also ein, sag ich mal, fangen wir vielleicht mal von hinten an mit Fairness-Metriken."
  },
  {
    "start": 970.6,
    "end": 981.5,
    "text": "Das ist, sag ich mal, der Ansatz, mathematisch zu definieren, wann ein System fährt, sondern wann nicht, basierend in dem man gewisse Wahrscheinlichkeiten für Ergebnisse, für verschiedene Gruppen vergleicht."
  },
  {
    "start": 981.96,
    "end": 986.56,
    "text": "Das macht Mathematiker glücklich und auch die Mathematiker."
  },
  {
    "start": 988.18,
    "end": 994.16,
    "text": "Aber es gibt durchaus vielleicht auch die Kritik daran, dass fernes Schwächste bewerten ist so objektiv."
  },
  {
    "start": 994.28,
    "end": 1009.9,
    "text": "Und das ist jetzt zum Beispiel dann der Ansatz human in the loop, wo es ein bisschen mehr darum geht, Menschen abschätzen zu lassen, wie fair jetzt eine gewisse Entscheidung war oder nicht, weil man vielleicht davon ausgehen können, dass Menschen noch mehr Hintergrundfaktoren mit einbeziehen können."
  },
  {
    "start": 1010.92,
    "end": 1014.48,
    "text": "Das ist natürlich sehr aufwendig, praktisch umzusetzen."
  },
  {
    "start": 1015.44,
    "end": 1021.02,
    "text": "Und das letzte war genau erklärbare KI, das ist natürlich auch in diesem Feld."
  },
  {
    "start": 1021.44,
    "end": 1039.46,
    "text": "Ich glaube, das werde ich jetzt nicht ganz gerecht, aber was da schön ist, ist so ein bisschen, dass es viele Ansätze gibt, die praktisch für einige konkrete Entscheidungen offenlegen und praktisch zurückverfolgen können, was die Eingaben waren, die jetzt für diesen Hautkammer relevant waren."
  },
  {
    "start": 1039.96,
    "end": 1047.3,
    "text": "Und auch da kann man jetzt Praktisch dann für sich selber oder für eine bestimmte Entscheidung nachvollziehen, was hätte ich denn ändern können oder so."
  },
  {
    "start": 1047.42,
    "end": 1054.44,
    "text": "Und klar, wenn da jetzt, sag ich mal, meine ethnische Erkunft steht, dann wäre das schlecht, weil das auf der Klar- auf Unfährnis hindeuten würde."
  },
  {
    "start": 1055.16,
    "end": 1056.26,
    "text": "Vielleicht als ein Arzt wichen."
  },
  {
    "start": 1056.38,
    "end": 1061.9,
    "text": "Fazit an dieser Stelle, wie lassen sich kurz zusammengefasst denn für dich Algorithmen fair gestalten?"
  },
  {
    "start": 1062.22,
    "end": 1099.8,
    "text": "Also aus meiner Sicht, was vielleicht wieder ein bisschen der formalen Methode ist, aber ich glaube auch, dass das langsam in der... Das ist eben, dass man fern ist wirklich auf dem gleichen Level wie andere Eigenschaften betrachten muss, also ähnlich wie Privacy oder Informationssicherheit, ähnlich wie Korrektheit oder Genauigkeit von den Systemen, muss es praktisch von Anfang an ein Teil und das Entwicklungsprozess sein und ein Ziel des Entwicklungsprozesses bis auch zur Anwendung und dem... dem Untersuchen davon, ob es dann auch tatsächlich in der Anwendung dabei bleibt, dass das System fair ist."
  },
  {
    "start": 1100.9,
    "end": 1105.9,
    "text": "Und ich glaube, dass sind wir jetzt schon sehr viele Schritte weiter als jetzt vor zehn Jahren vielleicht."
  },
  {
    "start": 1106.96,
    "end": 1112.4,
    "text": "Das würde dann bedeuten nicht nur Privacy bei Design, sondern kann man dann sagen Fairness bei Design?"
  },
  {
    "start": 1112.96,
    "end": 1113.4,
    "text": "Absolut, ja."
  },
  {
    "start": 1114.66,
    "end": 1117.44,
    "text": "Genau, wie gesagt, also auf dem gleichen Level."
  },
  {
    "start": 1118.3,
    "end": 1126.86,
    "text": "Wenn wir jetzt konzertieren, dass algorithmische Fairness ein Problem ist, bleibt ja nochmal die Frage, so ein bisschen abstrakter wieder drauf zu reagieren ist, und ob es eine Art auch von Kontrolle braucht."
  },
  {
    "start": 1127.32,
    "end": 1128.44,
    "text": "Wie ist denn deine Einschätzung?"
  },
  {
    "start": 1128.56,
    "end": 1132.32,
    "text": "Braucht es eine Kontrolle, wenn ja, welche Instanz sollte diese ausüben?"
  },
  {
    "start": 1132.4,
    "end": 1134.88,
    "text": "Also überliegt das der Wissenschaft, NGOs, Behörden?"
  },
  {
    "start": 1135.82,
    "end": 1143.1,
    "text": "Also wenn Fairness bei Design die Zukunft ist, an wem obliegt es, das einzufordern und zu kontrollieren?"
  },
  {
    "start": 1145.44,
    "end": 1157.68,
    "text": "Also es braucht auf jeden Fall eine Kontrolle, einfach aus dem Grund, dass viele dieser Algorithmen von Firmen mit ökonomischen Interessen eingesetzt werden, die eben nicht zwangseise Fairness werden halten."
  },
  {
    "start": 1159.12,
    "end": 1167.26,
    "text": "Da gibt es durchaus Theorien dazu, ob es irgendwie im ökonomischen Interesse ist, aber ich bin überzeugt, dass das im Zweifelsfall eben keinen Sinn macht für Firmen darin zu investieren."
  },
  {
    "start": 1168.06,
    "end": 1173.82,
    "text": "Und dementsprechend... brauchst auch eine Instanz, die in gewisser Weise Durchsetzungsfähigkeit hat."
  },
  {
    "start": 1174.3,
    "end": 1189.64,
    "text": "Also die Wissenschaft und NGOs hat jetzt seit einigen Jahren, denke ich, dieses Thema in Fokus gebracht und hat dafür loviert, dass das Dinge, die Leute, die wirklich was entscheiden können, auch mit einbeziehen."
  },
  {
    "start": 1190.18,
    "end": 1194.3,
    "text": "Und das hat jetzt auch ... schon gut zu einem guten Stück Früchte getragen."
  },
  {
    "start": 1194.36,
    "end": 1201.66,
    "text": "Und Behörden, wo ich denke, dass sie die mögliche Macht haben dafür, haben das mittlerweile auch wirklich auf dem Schirm."
  },
  {
    "start": 1201.88,
    "end": 1211.96,
    "text": "Und es gibt dementsprechend einige Gesetzesinitiativen und auch schon Regulagien, die diesen Begriff mit einbeziehen und sich darum kümmern."
  },
  {
    "start": 1212.1,
    "end": 1215.84,
    "text": "Vielleicht nur noch mal kurz nachgefragt, ob ich es richtig verstanden habe."
  },
  {
    "start": 1215.98,
    "end": 1225.16,
    "text": "Aus ökonomischem Interesse würde es wäre deine These, dass Unternehmen sich gegen algorithmische Fairness entscheiden."
  },
  {
    "start": 1227.18,
    "end": 1227.96,
    "text": "Im Zweifelsfall schon."
  },
  {
    "start": 1228.24,
    "end": 1240.52,
    "text": "Es kommen natürlich immer ein bisschen auf den konkreten Fall an, aber es ist durchaus nicht so simpel, dafür zu sorgen, dass die Systeme fair sind und damit kostet allein schon Resurs, um das zu tun."
  },
  {
    "start": 1241.0,
    "end": 1248.02,
    "text": "Es kann auch durchaus Nachteile haben, weil es ist Modelle vielleicht erst mal nicht genau so gut funktionieren, wie wenn ich es einfach nicht betrachten würde."
  },
  {
    "start": 1249.18,
    "end": 1254.76,
    "text": "Aber ja, also beides kostet Geld, gewisserweise."
  },
  {
    "start": 1255.44,
    "end": 1266.62,
    "text": "Und dementsprechend ist der einzige Hebel, den Dutzende vielleicht haben, ist eben, weiß ich nicht, Shit Stones auf Social Media oder so."
  },
  {
    "start": 1267.26,
    "end": 1279.9,
    "text": "Aber das gestaltet sich jetzt in dem Fall extrem schwierig, weil man einfach nicht genug Insight in... diese Prozesse hat, um auch dann als Benutzender so sagen zu können, ich wurde ungefähr behandelt."
  },
  {
    "start": 1281.38,
    "end": 1282.12,
    "text": "Und die sprechen klar."
  },
  {
    "start": 1282.34,
    "end": 1285.4,
    "text": "Also die einzigen, die da wirklich Levelchamps sind, wir hören."
  },
  {
    "start": 1286.88,
    "end": 1293.04,
    "text": "Auf europäischer Ebene gibt es ja jetzt den EUAI-Act sowie den Digital Services Act."
  },
  {
    "start": 1293.22,
    "end": 1296.58,
    "text": "Welche Rolle spielen denn diese schon in Bezug auf algorithmische Fairness?"
  },
  {
    "start": 1297.9,
    "end": 1299.56,
    "text": "Ja, eine sehr große Rolle."
  },
  {
    "start": 1299.66,
    "end": 1308.8,
    "text": "Also die sind ja auch wirklich sehr... aktuell und teilweise auch noch nicht komplett ausgearbeitet in gewissen Punkten."
  },
  {
    "start": 1309.68,
    "end": 1329.38,
    "text": "Aber im Prinzip legt gerade der EU AI Act zum Beispiel fest, welche ja, sozusagen, Obligations- oder Pflichtenfirmen haben, die künstliche Intelligenz einsetzen."
  },
  {
    "start": 1329.98,
    "end": 1342.34,
    "text": "und eben zum Beispiel dokumentieren müssen, in welcher Hinsicht sie Dinge wie Fairness oder Rupustheit oder Informationssicherheit in ihrem Entwicklungsprozess beachtet haben."
  },
  {
    "start": 1342.88,
    "end": 1353.68,
    "text": "Und müssen sich da eben auch an die neuesten Kenntnisse aus der Wissenschaft halten, um diese Eigenschaften, die erst mal nicht, sage ich mal, offensichtlich in ihrem Interesse sind, trotzdem durchzusetzen."
  },
  {
    "start": 1355.0,
    "end": 1373.8,
    "text": "Und genau, der Digital Services Act ist in der Hinsicht auch interessant, weil da einfach für ein bisschen dazu zwingt, Daten frei zu geben, gewisserweise, also gerade vor allem um große Social Media-Seiten, die vorher jetzt an sich kein Interesse hatten, diese Daten rauszurücken, auch für Wissenschaftler oder NGOs nicht."
  },
  {
    "start": 1374.2,
    "end": 1377.2,
    "text": "Jetzt müssen sie es einfach, wenn sie in der EU fertig sein wollen."
  },
  {
    "start": 1378.8,
    "end": 1391.38,
    "text": "Also sind beides Initiativen, von denen du sagen würdest, die kommen diesen Bedürfnis nach Kontrolle und nach behördlicher Kontrolle schon entgegen und bieten da eine gute Grundlage auch für die Wissenschaft da einzusteigen?"
  },
  {
    "start": 1391.9,
    "end": 1399.34,
    "text": "Ja, ich wüsste auch nicht mal unbedingt, ja okay, also Kontrolle klingt erstmal so negativ, aber man muss es halt auch so sehen, dass das eher die ganze Kontrolle bei den Firmen lag."
  },
  {
    "start": 1399.44,
    "end": 1406.64,
    "text": "Also ich glaube, wir haben als Gesellschaft einfach absolut Interesse daran, das ein bisschen zu vergemeinschaftlichen."
  },
  {
    "start": 1407.9,
    "end": 1408.96,
    "text": "weil es uns aber alle betrifft."
  },
  {
    "start": 1409.82,
    "end": 1412.5,
    "text": "Vergemeinschaftlich ist es bestimmt ein guter Begriff dabei."
  },
  {
    "start": 1412.92,
    "end": 1413.3,
    "text": "Ein"
  },
  {
    "start": 1413.36,
    "end": 1414.04,
    "text": "bisschen geladen."
  },
  {
    "start": 1414.62,
    "end": 1414.68,
    "text": "Ja,"
  },
  {
    "start": 1414.86,
    "end": 1415.9,
    "text": "aber"
  },
  {
    "start": 1415.94,
    "end": 1429.1,
    "text": "ich meine, es geht ja manchmal auch um eine Zuspitzung oder einfach um Gegenentwurf zu komplett privatwirtschaftlicher Kontrolle von Algorithmen, die trotzdem die Lebensbereiche aller in alltäglichen treffen."
  },
  {
    "start": 1429.84,
    "end": 1430.24,
    "text": "Ganz genau."
  },
  {
    "start": 1430.92,
    "end": 1439.98,
    "text": "Wir sprechen ja unter anderem zu diesem Thema, weil du in diesem Jahr ein Paper mit dem Titel Stream-Based Monitoring of Algorithmic Fairness veröffentlicht hast."
  },
  {
    "start": 1440.7,
    "end": 1442.9,
    "text": "Was genau hast du denn im Paper untersucht?"
  },
  {
    "start": 1443.46,
    "end": 1479.04,
    "text": "In vielen dieser Regularien oder gerade im URL eigentlich speziell, ist ein großer Punkt, dass es eben nicht nur ausreicht, das Training zu untersuchen oder zumindest die Filme dazu verpflichten, Fairness als... Trainingsobjektiv mit einzubeziehen, sondern eben auch während der Anwendung dieser Algorithmen weiterhin zu beobachten, ob diese Fairness-Metriken eingehalten werden, potenziell auch noch mit zusätzlichen menschlichen Interventionen, wenn es auffällt, dass es nicht der Fall ist."
  },
  {
    "start": 1479.2,
    "end": 1489.16,
    "text": "Also im Prinzip muss ich einen Abschaltknopf haben für diese künstliche Intelligenz, wenn ich merke, dass die Unfaire Entscheidungen oder auch anderweitig falsche Entscheidungen trifft."
  },
  {
    "start": 1490.22,
    "end": 1495.16,
    "text": "Und das bringe ich ein bisschen auch zurück auf das, was ich am Anfang gesagt habe."
  },
  {
    "start": 1495.34,
    "end": 1514.88,
    "text": "Diese Art von Beobachtung von Systemen in der Ausführung ist was, was es eigentlich schon lange gibt und zwar vor allem in Bereichen ja auch kritischer Ergebnisse und schlechte Ergebnisse liefern können wie jetzt in der Luftfahrt, wo wir vermeiden wollen, dass Flugzeuge oder Drohnen abstürzen."
  },
  {
    "start": 1515.74,
    "end": 1531.8,
    "text": "Und für diese Bereiche hat Bent und seine Gruppe praktisch schon seit einigen Jahren Tool entwickelt, also AT-Lola, um eben solche Systeme in der Ausführung zu beobachten."
  },
  {
    "start": 1532.78,
    "end": 1545.26,
    "text": "Und was wir in dem Papier jetzt praktisch gemacht haben, wir haben untersucht, inwiefern sich dieses Tool auch auf algorithmische Fairness anwenden lassen kann und haben gemerkt, dass es tatsächlich sehr gut geht."
  },
  {
    "start": 1546.12,
    "end": 1552.86,
    "text": "Es gab einige so konzeptuelle Unterschiede zwischen diesen Anwendungsbereichen, die dann auch ein bisschen Anpassungen erfordert haben."
  },
  {
    "start": 1553.58,
    "end": 1569.14,
    "text": "Aber im Prinzip können wir eben diese Zuverlässigkeit und Sicherheit, die das Tour praktisch schon in der Luft weit stiftet, eben auch auf diese Bereiche der künstlichen Intelligenz, in denen fern ist eine Rolle spielt, übertragen."
  },
  {
    "start": 1569.44,
    "end": 1572.14,
    "text": "Und das ist praktisch die Aufkontribution davon."
  },
  {
    "start": 1572.26,
    "end": 1572.54,
    "text": "Es"
  },
  {
    "start": 1573.66,
    "end": 1587.9,
    "text": "ist ja total spannend, weil du gerade ja von Luftfahrt gesprochen hast und Luftfahrt als ein kritisches System, wo quasi Sicherheit ganz entscheidend ist, was sie übertragt auf Künstlich-Hendigens und Algorithmen und vor allem die Anwendung."
  },
  {
    "start": 1588.42,
    "end": 1592.44,
    "text": "Vielleicht nochmal gefragt, wo sind die Parallele?"
  },
  {
    "start": 1592.6,
    "end": 1600.26,
    "text": "Also was zugespitzt auf so ein paar Begriffe Luftfahrt, Algorithmen, sicher, also was, was lässt sich da vergleichen?"
  },
  {
    "start": 1600.3,
    "end": 1602.96,
    "text": "Das erscheint jetzt einem von außen erstmal so ein bisschen abstrakt."
  },
  {
    "start": 1604.96,
    "end": 1625.56,
    "text": "Also im Prinzip ist es auch in der Luft dazu, dass gesetzliche Vorgaben oder sage ich mal auch Vorgaben auf Industrieverbänden gibt, die festlegen, wie hoch die Redundanz oder auch die Sicherheit von diesen Thron- oder Flugzeugen sein muss, als ein klassisches Beispiel wäre vielleicht."
  },
  {
    "start": 1627.06,
    "end": 1632.54,
    "text": "Es gibt Sensoren, die sehr schnell sind, aber dafür ein bisschen ungenau und angreifbar."
  },
  {
    "start": 1633.96,
    "end": 1636.02,
    "text": "die würde ich natürlich gerne benutzen, weil sie so schnell sind."
  },
  {
    "start": 1636.96,
    "end": 1646.7,
    "text": "Gleichzeitig muss ich die aber immer mal wieder validieren mit eingesammelten Daten, die sehr genau sind, aber die ich nur langsam bekommen kann."
  },
  {
    "start": 1647.26,
    "end": 1654.3,
    "text": "Und der Prozess, der das validiert, ist eben super wichtig, dass er richtig geschrieben wird."
  },
  {
    "start": 1654.42,
    "end": 1669.08,
    "text": "Und eine Möglichkeit wäre, dass es zum Beispiel mit RT-Lola zu machen, weil wir hier eine genaue Semantik der Ausdruck haben und genau wissen, was dieser Monitor nachher auch macht."
  },
  {
    "start": 1670.12,
    "end": 1680.54,
    "text": "Natürlich könnt ihr jetzt auch einen Entwickler irgendwie einen Zielprogramm verschreiben, aber da ist eben der Sicherheitsaspekt ein bisschen kritisch, weil wir einfach nicht genau wissen, was dabei rauskommt."
  },
  {
    "start": 1682.76,
    "end": 1687.7,
    "text": "Ein Attilole-Ausdruck erlaubt uns hier einfach noch eine etwas höhere Zusicherung."
  },
  {
    "start": 1689.58,
    "end": 1697.64,
    "text": "Ähnlich könnte natürlich jetzt auch jeder Firma oder Behörde einen eigenen Monitor für eine künstliche Integranz schreiben."
  },
  {
    "start": 1698.28,
    "end": 1709.04,
    "text": "Das ist natürlich ein Ansatz, aber auch hier hat man einfach wieder das Problem, dass man ein bisschen diese Verantwortung abgibt und dann vertrauen muss, dass das stimmt."
  },
  {
    "start": 1710.78,
    "end": 1723.9,
    "text": "Während wir bei RTOLA, was praktisch eine Spezifikationssprache auf der Logegebene ist, sehr leicht verstehen können, wann der Monitor sagt ja alles okay und wann, Achtung, du musst jetzt aufpassen."
  },
  {
    "start": 1724.92,
    "end": 1733.8,
    "text": "Und dieses Level an Vertrauen, das sind beiden Bereichen einfach wichtig."
  },
  {
    "start": 1735.28,
    "end": 1739.58,
    "text": "Also sozusagen das verbindende Element, dass ich Vertrauen in das System habe."
  },
  {
    "start": 1740.0,
    "end": 1748.16,
    "text": "Und eine Sprache, ein Toolbrauche, was misst, ob dieses wie groß dieses Vertrauen ist oder worauf es basiert."
  },
  {
    "start": 1748.82,
    "end": 1754.38,
    "text": "Und das ist ein anderer Gegenstand, ein anderes Parameter, wo ich bei KI darauf gucke, als bei der Luftfahrt."
  },
  {
    "start": 1754.94,
    "end": 1758.46,
    "text": "Aber aus eurer Denke ist es sozusagen nur ein anderes Anwendungsfeld."
  },
  {
    "start": 1759.42,
    "end": 1759.66,
    "text": "Genau."
  },
  {
    "start": 1759.76,
    "end": 1761.04,
    "text": "Und das ist vielleicht noch ein guter Punkt."
  },
  {
    "start": 1761.14,
    "end": 1774.9,
    "text": "Also, damit das funktioniert, muss ja... Das System, was da draufblickt und beobachtet hat in irgendeiner Weise einfacher sein als das System, das tatsächlich ausgeführt wird, weil ansonsten habe ich keinen wirklichen Vertrauensgewinn."
  },
  {
    "start": 1775.66,
    "end": 1789.44,
    "text": "Und das ist so ein bisschen der Knackpunkt und der Vorteil von einer formalen Spezifikationssprache wie RT-Lola gegenüber handgeschriebenen Monitoring-Programmen."
  },
  {
    "start": 1792.1,
    "end": 1795.78,
    "text": "Dann wäre jetzt noch mal so ein bisschen die Frage Spezifikationssprache."
  },
  {
    "start": 1796.32,
    "end": 1797.52,
    "text": "Also was genau ist das?"
  },
  {
    "start": 1797.82,
    "end": 1801.5,
    "text": "Wie kann man das noch so ein bisschen transparenter machen im Allgemeinen?"
  },
  {
    "start": 1801.56,
    "end": 1805.86,
    "text": "Dann vielleicht noch mal im zweiten Schritt, was genau ist das besondere RT-Lola?"
  },
  {
    "start": 1807.48,
    "end": 1813.76,
    "text": "Also Spezifikationssprachen sind praktisch wie so eine Mischung aus einer Programmiersprache."
  },
  {
    "start": 1814.72,
    "end": 1818.28,
    "text": "oder RT-Lola im Speziellen ist so ein bisschen wie eine Mischung aus einer Programmiersprache."
  },
  {
    "start": 1819.62,
    "end": 1824.06,
    "text": "Die mir sagt, Du hast diese Variablen, du veränderst die im nächsten Schritt so."
  },
  {
    "start": 1824.42,
    "end": 1827.58,
    "text": "Wenn das eine höher ist als das, machst du das, wenn nicht, dann das nicht."
  },
  {
    "start": 1828.0,
    "end": 1831.7,
    "text": "Und auf der anderen Seite, auf der anderen extremen Seite stehen ein bisschen Logiken."
  },
  {
    "start": 1832.8,
    "end": 1847.22,
    "text": "Also Logiken sind praktisch mathematische Ausdrücke oder erlauben uns mathematische Ausdrücke zu schreiben, die praktisch einen eindeutig definierte Welt festlegen."
  },
  {
    "start": 1847.34,
    "end": 1856.14,
    "text": "Also zum Beispiel ... beschreiben, dass immer, wenn ich diese Ausgabe, diese Eingabe bekomme in das Programm, dann muss die Ausgabe genauso aussehen."
  },
  {
    "start": 1856.78,
    "end": 1859.04,
    "text": "Und das sehr präzise und relativ kurz."
  },
  {
    "start": 1860.7,
    "end": 1862.38,
    "text": "Das Problem ist, ich kann Logiken nicht ausführen."
  },
  {
    "start": 1862.54,
    "end": 1868.0,
    "text": "Also Logiken sind sehr deklarativ und sagen so ein bisschen, das ist das Richtige."
  },
  {
    "start": 1868.68,
    "end": 1873.42,
    "text": "Aber ich kann dem Ausdruck nicht eine Eingabe geben und dann schauen, was rauskommt."
  },
  {
    "start": 1874.42,
    "end": 1884.54,
    "text": "Während ich eine Programmiersprache ... wie soll ich sagen ... ... wenig diskriptiv ist, ... ... sondern sehr fein geprockelt ... ... Schritte aufschreibt."
  },
  {
    "start": 1885.22,
    "end": 1899.34,
    "text": "Und ... ... dem kann ich eine Eingabe geben ... ... und bekomme eine Ausgabe, aber es ... ... gibt mir nicht ... ... also ... ... keine ... ... Korrektheits ... ... also ... ... hat keinen Begriff von Korrektheit in dem Sinne, ja."
  },
  {
    "start": 1899.38,
    "end": 1900.26,
    "text": "Okay."
  },
  {
    "start": 1901.74,
    "end": 1922.78,
    "text": "Und RT Lola ist hier ... ... so ein bisschen so ein Mittelding, weil ... ... Logiken oft das Problem haben, dass sie hier ... ein bisschen zu simpel sind, also weil Programme eben mit komplexen Daten wie Integer Variablen oder Zahlen von beliebiger Größe, sag ich mal, umgehen können und diese multiplizieren und antieren und so weiter."
  },
  {
    "start": 1923.46,
    "end": 1936.78,
    "text": "Und Logiken oft nur dann, sag ich mal, für gewisse Werkzeuge zur Verfügung stehen, wenn sie eben diese Komplexität wegwerfen."
  },
  {
    "start": 1937.38,
    "end": 1942.38,
    "text": "Und zum Beispiel eben nicht beliebig große Zahlen erlauben, sondern vielleicht auch nur Nullen und Einsen und so weiter."
  },
  {
    "start": 1942.86,
    "end": 1951.32,
    "text": "Dann sind Logiken sehr tolle Tools, weil ich damit zum Beispiel automatisch überprüfen kann, ob ein Programm tatsächlich diese Spezifikation erfüllt."
  },
  {
    "start": 1951.98,
    "end": 1958.08,
    "text": "Aber das kommt halt, also das kostet eben die Aufgabe dieser Komplexität."
  },
  {
    "start": 1958.72,
    "end": 1964.22,
    "text": "Und Lola ist so ein bisschen in der Mitte, in dem Sinne, dass es immer noch diese beliebig großen Variablen erlaubt."
  },
  {
    "start": 1964.64,
    "end": 1970.16,
    "text": "Es lappt zum Beispiel auch Realzeit, also beliebig kleine Zeitschritte zwischen Ereignissen."
  },
  {
    "start": 1970.28,
    "end": 1976.98,
    "text": "Also das ist vielleicht der zweite Punkt, dass es hier nämlich um Ereignisse, die über einen langen Zeitraum passieren können, geht."
  },
  {
    "start": 1977.56,
    "end": 1991.12,
    "text": "Und Lola hier ist in der temporale Spezifikationssprache, in dem Sinne ist, dass wir auch diese zum Beispiel den Abstand zwischen den Ereignissen, also temporale Aspekte von so ich habe Korrektheitsangenschaften mitgreifen können."
  },
  {
    "start": 1991.64,
    "end": 1993.06,
    "text": "Jetzt ist natürlich die Frage, wo ist der Catch?"
  },
  {
    "start": 1993.16,
    "end": 1996.34,
    "text": "Also, es ist generell besser als jede Logik."
  },
  {
    "start": 1996.98,
    "end": 2014.5,
    "text": "Natürlich nicht, weil wir eben zum Beispiel nicht ein ganzes System nehmen können und automatisch beweisen können, dass das System immer, egal wann, diese Spezifikation erfüllt, sondern was wir machen können ist, wir können auch eine Ausführung beobachten und dann entscheiden, ob die Eigenschaft gilt oder nicht."
  },
  {
    "start": 2015.04,
    "end": 2025.12,
    "text": "Das ist aber im Prinzip schon ein großer Gewinn, weil anders als wenn wir das System nur testen würden, können wir einfach sicherstellen, dass während der Ausführung alles richtig ist."
  },
  {
    "start": 2025.64,
    "end": 2039.42,
    "text": "Unsere Eigenschaft könnte zum Beispiel sein, ich will wissen, oder sicher sein, ein System ist sicher oder ein System ist fair und das werden sozusagen dann mit den entsprechenden Kriterien, die ich festgelegt habe, etwas, was ich dann im zeitlichen Verlauf testen kann."
  },
  {
    "start": 2039.84,
    "end": 2040.22,
    "text": "Genau, ja."
  },
  {
    "start": 2040.28,
    "end": 2040.42,
    "text": "Wenn"
  },
  {
    "start": 2040.56,
    "end": 2051.4,
    "text": "wir jetzt nochmal RT-Lola in Bezug zu algorithmischen Fairness setzen, wie genau überprüft RT-Lola algorithmische Fairness?"
  },
  {
    "start": 2052.48,
    "end": 2053.92,
    "text": "Das ist ein guter Punkt."
  },
  {
    "start": 2054.28,
    "end": 2058.44,
    "text": "Das sieht jetzt auch ein bisschen auf, was wir da vorhin alle besprochen haben."
  },
  {
    "start": 2059.52,
    "end": 2063.84,
    "text": "Das Problem bei algorithmischer Fairness ist, dass es sich streng genommen nicht um eine Ausschung."
  },
  {
    "start": 2064.239,
    "end": 2065.659,
    "text": "handelt, die da betrachtet wird."
  },
  {
    "start": 2066.179,
    "end": 2078.3,
    "text": "Also bisher habe ich immer konnte Artilola eben einen Flug von der Drohne betrachten und dann sagen, ob alles okay ist oder nicht oder ob die Drohne vielleicht landen sollte, weil vielleicht ein Sensor ausgefallen ist oder so."
  },
  {
    "start": 2079.34,
    "end": 2112.54,
    "text": "Das Problem bei Fairness ist, dass es im Grunde ganz, ganz viele Prozesse in die Parallel ablaufen und weil sich vielleicht hundert Leute gerade gleichzeitig auf eine Stelle bewerben und ich jetzt sozusagen jeden einzelnen Prozess beobachten muss, in gewisser Weise akkrigieren muss, was die Wahrscheinlichkeiten dann für gewisse Gruppen bedeuten, also wenn es von den hundert Leuten praktisch alle Männer ein Job bekommen, aber alle Frauen nicht, dann wäre zum Beispiel die Wahrscheinlichkeit extrem weit auseinander zwischen den beiden Gruppen und ich müsste eine Warnung werfen."
  },
  {
    "start": 2113.14,
    "end": 2119.5,
    "text": "Und was wir jetzt praktisch gemacht haben, ist, dass er den Lola in der Hinsicht zu erweitern, dass er es erkennen kann, wenn diese parallelen Ausführungen passieren."
  },
  {
    "start": 2120.02,
    "end": 2129.48,
    "text": "und dann eben über diese Parallelen wieder zusammenführt und die Ergebnisse von den einzelnen Beobachtungen zu einem Gesamtergebnis erkriegiert."
  },
  {
    "start": 2130.84,
    "end": 2141.66,
    "text": "Das war so ein bisschen der Punkt, was es davor einfach aus der bisherigen Perspektive nicht gebraucht hat und jetzt in dem Fall von Fairness notwendig war."
  },
  {
    "start": 2142.86,
    "end": 2147.38,
    "text": "Und ihr habt quasi dem System Kriterien von Fairness an die Hand gegeben?"
  },
  {
    "start": 2148.74,
    "end": 2170.34,
    "text": "Genau, also das Coole halt ist, weil es eben so eine Spezifikationssprache ist, gibt es erst mal nicht irgendwie nur drei Kriterien, die es kann und dann muss ich es nochmal neu entwickeln oder so, sondern jeder Entwickler oder jeder Benutzende von Lohntelola kann selber diese Kriterien aufschreiben."
  },
  {
    "start": 2170.86,
    "end": 2193.42,
    "text": "Also klar, in der Literatur gibt es vielleicht... Sie sehen verschiedene Fernesbegriffe, die immer wieder auftreten, die man vielleicht für unterschiedliche Anwendungen aber auch umschreiben muss, weil klar, die sind super abstrakt, die sagen, die eine Gruppe darf halt nicht eine wesentlich höhere Wahrscheinlichkeit haben als die andere Gruppe, aber Gruppen sind je nach Anwendung unterschiedlich definiert."
  },
  {
    "start": 2193.48,
    "end": 2203.3,
    "text": "Das können jetzt vielleicht geschlechter sein, aber es könnten eben auch vielleicht die Sprache oder so von Menschen sein."
  },
  {
    "start": 2205.5,
    "end": 2214.46,
    "text": "Und im Prinzip müsste ja als jeder, der so eine künstliche Intelligenz irgendwo einsetzt, dann jedes Mal einen neuen Monitor schreiben in dem Sinne."
  },
  {
    "start": 2215.04,
    "end": 2227.62,
    "text": "Und RT Lola erlaubt eben diese Fairness-Spezifikation für jeden Fall mit relativ wenig Aufwand umzuschreiben, weil es in gewisser Weise parametrisiert ist."
  },
  {
    "start": 2227.68,
    "end": 2236.38,
    "text": "Also ich müsste halt an ein paar Stellen vielleicht ... einen kleinen Teil dieser Spezifikation ändern, aber im Grunde bleibt das Konstrukt komplett gleich."
  },
  {
    "start": 2237.3,
    "end": 2247.4,
    "text": "Und auch wenn sich irgendwann nochmal neue Fairness-Meträgen ergeben sollten, dürfte die Anpassung relativ klein sein mit Lola als Becker."
  },
  {
    "start": 2247.52,
    "end": 2247.64,
    "text": "Zwei"
  },
  {
    "start": 2249.48,
    "end": 2250.5,
    "text": "Fragen kommen ja noch in den Sinn."
  },
  {
    "start": 2250.6,
    "end": 2274.02,
    "text": "Die erste ist, wenn ich es richtig verstanden habe, ist ja auch, wenn wir nochmal gucken, wie RT Lola zum Beispiel in der Luftfahrt verwendet wurde, da habe ich quasi eigentlich ja einen, ich würde sagen, linearen Prozess, aber ich habe einen Flug, der beobachtet wird, einer Drohne und da gibt es wahrscheinlich verschiedene Parameter, die entscheiden, ob dieser Flug sich ist oder nicht."
  },
  {
    "start": 2274.06,
    "end": 2284.72,
    "text": "Wenn ich jetzt Entscheidungsprozesse einer KI habe, habe ich nicht nur im Übertragensinn einen Einflug, sondern hunderte Flügel parallel mit unterschiedlichen Parametern, kann man das so sagen."
  },
  {
    "start": 2284.78,
    "end": 2292.14,
    "text": "Also sozusagen die Komplexität steigt, weil ich so viele mehr mögliche Eingaben und Ausgaben habe?"
  },
  {
    "start": 2292.9,
    "end": 2296.28,
    "text": "Absolut, ja, das trifft es sehr genau, ja."
  },
  {
    "start": 2298.26,
    "end": 2312.36,
    "text": "In gewisser Weise braucht es natürlich einen Kriterium, basierend auf den ich diese Flüge unterscheide, aber im Zweifelsfall haben in diesen Prozessen unterschiedliche Nutzer meistens eine eigene ID, wodurch diese Unterscheidung sehr einfach ist, ja."
  },
  {
    "start": 2312.5,
    "end": 2322.52,
    "text": "Das heißt aber auch gleichzeitig, dass es schon doch auch entscheidende Weiterentwicklung von RT-Lola ist, weil es ja eine andere Anwendungs-Szenario ist."
  },
  {
    "start": 2324.24,
    "end": 2325.44,
    "text": "Absolut, ja, das stimmt."
  },
  {
    "start": 2325.86,
    "end": 2340.24,
    "text": "Und im Grunde, sag ich mal, hat das auch einige Verbindungen zu den theoretischeren Betrachtungen, die wir in den formalen Methoden auch haben."
  },
  {
    "start": 2341.14,
    "end": 2359.88,
    "text": "Also diese Unterscheidung zwischen ich betrachte oder wer gefizieren nur eine einzelne Ausführung von einem System gegenüber von ich muss, um zu entscheiden, ob ein System eine Eigenschaft erfüllt oder nicht, muss ich viele, im Zweifelsfall sogar alle Ausführungen das System im Parallel sozusagen anschauen."
  },
  {
    "start": 2360.32,
    "end": 2368.74,
    "text": "Das ist auch ein recht revolutionäres Konzept, wo wir das eine einzelne Spureigenschaft nennen."
  },
  {
    "start": 2369.32,
    "end": 2382.22,
    "text": "weil nur eine Spur betrachtet wird und das andere eine Hyper-Eigenschaft, weil es wirklich über einer Spur ist, also mehrere Spuren so gesehen, von der rein der theoretischen Seite für uns als Wissenschaftler."
  },
  {
    "start": 2382.26,
    "end": 2388.02,
    "text": "Es ist auch spannend, weil wir RT-Lola hier in der Hinsicht weitergebracht haben."
  },
  {
    "start": 2389.38,
    "end": 2395.78,
    "text": "Okay, ja, total spannend, wenn sich so ein Ansatz quasi nochmal entwickelt, über so ein Zeitraum hinweg."
  },
  {
    "start": 2396.92,
    "end": 2399.56,
    "text": "Und jetzt noch so zweite Frage, was die Anwendung angeht."
  },
  {
    "start": 2401.92,
    "end": 2404.32,
    "text": "Man sagt immer so schön das Testen in the wild."
  },
  {
    "start": 2404.68,
    "end": 2406.9,
    "text": "Also was waren so eure Erfahrungen damit?"
  },
  {
    "start": 2407.64,
    "end": 2408.76,
    "text": "Habt ihr das getestet?"
  },
  {
    "start": 2409.8,
    "end": 2415.58,
    "text": "In Bezug auf algorithmische Fairness bezogen auf bestimmte Vorhersagen, was war eure Erfahrungen?"
  },
  {
    "start": 2415.94,
    "end": 2421.2,
    "text": "Oder ist es jetzt erstmal auf einer theoretischen Ebene des Nachweises, dass das System funktioniert?"
  },
  {
    "start": 2422.6,
    "end": 2423.88,
    "text": "Nee, wir haben das getestet."
  },
  {
    "start": 2423.94,
    "end": 2427.62,
    "text": "Also im Prinzip hat das Papier auch zwei Fallstudierende."
  },
  {
    "start": 2428.18,
    "end": 2432.6,
    "text": "Die eine ist zu dem vorher genannten Compass Tool."
  },
  {
    "start": 2432.72,
    "end": 2444.6,
    "text": "Da haben wir uns natürlich die Daten, die auch ProPublica damals verwendet hat, besorgt und haben anders als sie damals, die in einer zeitlichen Reihenfolge mal angeschaut."
  },
  {
    "start": 2445.1,
    "end": 2455.48,
    "text": "Also ProPublica hat das halt nachdem das System so vier, fünf Jahre in Verwendung war, einfach mal global geschaut, was passiert, war das insgesamt jetzt fair oder unfair."
  },
  {
    "start": 2456.32,
    "end": 2463.26,
    "text": "Aber im Endeffekt würden wir möglichst früh im Prozess erkennen können, ob Fairness oder Unfairness vorliegt."
  },
  {
    "start": 2463.88,
    "end": 2471.76,
    "text": "Und da war für uns eben sehr wichtig zu sehen, wie sich die Einschätzung von den Monitorn über den Zeitraum verändert."
  },
  {
    "start": 2471.88,
    "end": 2477.7,
    "text": "Also wie schnell kann ich wirklich erkennen, ob hier Fairness oder Unfairness vorliegt."
  },
  {
    "start": 2480.7,
    "end": 2502.56,
    "text": "Im Endeffekt geht das sehr schnell, sobald die ersten eindeutigen Entscheidungen sind, also man hätte praktisch drei Monate nachdem die ersten Entscheidungen praktisch final feststehen, erkennen können, dass hier vielleicht schon eine zu starke Diskrepanz vorliegt und damit halt auch, sag ich mal, jahrelang von Jahren voller unfairer Entscheidungen durchaus vermeiden können."
  },
  {
    "start": 2503.54,
    "end": 2512.1,
    "text": "Und das war natürlich... großer Punkt, warum wir auch so den Wert in der Monitoring sehen."
  },
  {
    "start": 2512.96,
    "end": 2537.32,
    "text": "Und was wir auch noch gemacht haben, ist eine eher synthetische Fallstudie, wo wir praktisch die Daten selber generiert haben, weil zum einen ist natürlich das Problem, dass wir erst seitdem Regularien überhaupt an viele Daten kommen und zum anderen ist es auch wichtig, wie groß die Datenmengen sein dürfen für dieses Tool."
  },
  {
    "start": 2538.94,
    "end": 2548.2,
    "text": "Und uns, da war halt insbesondere richtig, wie lange braucht das überhaupt, um zu berechnen, wie ob Fairness oder Unfönness vorliegt."
  },
  {
    "start": 2548.62,
    "end": 2554.9,
    "text": "Warum zu wissen, okay, ist es überhaupt realistisch, dass das auf diesen Terabyte von Daten, die die EU praktisch täglich liefert."
  },
  {
    "start": 2556.28,
    "end": 2566.06,
    "text": "Okay, vielleicht nicht täglich, aber mehrere Gigabyte von Daten, die die EU-Lieferheit tatsächlich auch zu Ergebnissen führt."
  },
  {
    "start": 2567.44,
    "end": 2568.22,
    "text": "Ist es realistisch?"
  },
  {
    "start": 2568.82,
    "end": 2580.14,
    "text": "Ja, also wir schauen, dass es tatsächlich auch performanter ist als viele, sag ich mal, eher traditionellere Ansätze auf Daten, die basierend auf Datenbanken sind."
  },
  {
    "start": 2580.8,
    "end": 2594.52,
    "text": "Und das zeigt schon, dass sich diese, sag ich mal, Jahre an der Entwicklung dieses Tool geflossen sind, ausgezahlt haben und die jetzt auch mittlerweile wirklich performant funktionieren."
  },
  {
    "start": 2594.6,
    "end": 2604.44,
    "text": "Da haben wir jetzt So ein bisschen inspirieren lassen von der Universität hier, die so ein Seminarvergabelsystem hat, wo sich Leute bewerben und dann Seminare bekommen oder nicht."
  },
  {
    "start": 2605.14,
    "end": 2607.26,
    "text": "Und das haben wir praktisch so als Setting genommen."
  },
  {
    "start": 2608.4,
    "end": 2615.96,
    "text": "Aber die Daten, sag ich mal, haben bis auf die Laufzeit keine wirklich Aussagekraft, weil sie sind halt synthetisch generiert."
  },
  {
    "start": 2617.28,
    "end": 2620.9,
    "text": "Das ist gerade schon nochmal die Regularien, die Bedeutung von Regularien angesprochen."
  },
  {
    "start": 2621.08,
    "end": 2628.94,
    "text": "Deswegen jetzt auch die Frage, wir haben ja festgestellt, es gibt beim Digital Services Act eben diesen Bezug zu Algorithmischer Fairness."
  },
  {
    "start": 2628.98,
    "end": 2636.06,
    "text": "Wenn ich jetzt euer Tool anschaue, könnten denn Behörden damit schon konkret arbeiten und das für diesen Zweck einsetzen?"
  },
  {
    "start": 2636.36,
    "end": 2639.92,
    "text": "Oder braucht es da noch Entwicklungsschritte hin Richtung Anwendung?"
  },
  {
    "start": 2641.24,
    "end": 2644.84,
    "text": "Also im Prinzip ist das Tool absolut einsatzbereit."
  },
  {
    "start": 2646.92,
    "end": 2650.38,
    "text": "ziemlich ausgereift für ein akademisches Tool in dem weitesten Sinne."
  },
  {
    "start": 2651.36,
    "end": 2663.2,
    "text": "Und es gibt auch durchaus die Möglichkeit, da mit einem sehr niedrigen Einstieg, mit einem sehr niedrigen Einstiegsel, sag ich mal."
  },
  {
    "start": 2663.26,
    "end": 2685.62,
    "text": "Also meine Kollegen haben da durchaus sehr viel Arbeit dran gesteckt, Tutorials zu schreiben und eine Website zu bauen, die einem sehr kleinschrittig... weil bringt, wie man mit der Spezifikationssprachansicherung geht und das einem auch visualisiert, was der Outkampf für einen gewissen Datensatz ist."
  },
  {
    "start": 2686.26,
    "end": 2689.76,
    "text": "Prinzipiell muss man sagen, da ist natürlich immer was zu tun."
  },
  {
    "start": 2690.92,
    "end": 2699.4,
    "text": "Aktuell sind wir zum Beispiel auch sehr gespannt auf weitere Datensätze, die durch den DSA-Akt freigegeben werden."
  },
  {
    "start": 2701.6,
    "end": 2707.82,
    "text": "sind da eigentlich auch in einem kontinuierlichen Prozess, das gerade für diesen Anwendungsfall noch ein bisschen weiterzuentwickeln."
  },
  {
    "start": 2707.94,
    "end": 2724.06,
    "text": "In gewisser Weise werden wir da auch sehr auf Feedback von Nutzenden angewiesen und dementsprechend möchte ich eigentlich alle dazu motivieren, sich das mal anzuschauen und uns gerne auch Feedback zu hinterlassen, wenn es da noch Verbesserungsvorschläge gibt."
  },
  {
    "start": 2724.88,
    "end": 2727.76,
    "text": "Das ist sicherlich ein spannender Prozess für euch."
  },
  {
    "start": 2727.94,
    "end": 2729.36,
    "text": "Und ich habe mir das Tool auch angeschaut."
  },
  {
    "start": 2729.42,
    "end": 2737.58,
    "text": "Ich muss sagen, ich bin doch eher ausgestiegen und dachte, also ich bin zumindest nicht die Zielgruppe, die es tatsächlich nutzen kann."
  },
  {
    "start": 2738.18,
    "end": 2742.12,
    "text": "Aber ich denke, IT-affinere Menschen haben da sicherlich noch mal anderen Zugang."
  },
  {
    "start": 2742.16,
    "end": 2775.36,
    "text": "Was mich grundsätzlich noch interessiert, an so einer Stelle als Wissenschaftler ist immer die Frage, ich habe ja entweder die Option das Ganze ja auch länger und über eine Karriere als theoretisches Projekt zu betreiben und sozusagen die Grundlagen zu erarbeiten, aber an so einer Stelle ist ja auch die Frage, ist nicht auch von Interesse was aus zu gründen, Tools zu entwickeln, die wirklich bis zur Marktreife für jeden einzelnen gehen, wo sich so eigentlich dich und deine Interesse sozusagen nämlich interessiert eher."
  },
  {
    "start": 2776.36,
    "end": 2783.5,
    "text": "Ja sozusagen diese Grundlagen auch auf der theoretischen Ebene, oder kannst du dir auch vorstellen, in die so eine konkrete Produktentwicklung zu gehen?"
  },
  {
    "start": 2783.94,
    "end": 2809.9,
    "text": "Also mein persönliches Interesse jetzt während den letzten Jahren war auch immer sehr in der Theorie, was erstmal negativ klingt, aber gerade zum Beispiel auch im Bereich Fernis, wobei spannend das war, dass da noch so viel eigentlich entwickeln ist, und ich mal die Definition, die er ist vor vielleicht... zehn Jahre entwickelt haben, jetzt ultra den Einfluss haben und die auf sehr theoretischen Communities entstanden sind."
  },
  {
    "start": 2810.68,
    "end": 2813.82,
    "text": "Da bin ich zum Beispiel gerade im Bereich Erklärbarkeit dran."
  },
  {
    "start": 2814.7,
    "end": 2825.9,
    "text": "Gleichzeitig muss ich sagen, es ist mir super wichtig, dass Dinge auch wirklich nutzen bringen und dadurch sehe ich auch super viel Potenzial in so einem Tour wie Atelola."
  },
  {
    "start": 2827.24,
    "end": 2827.32,
    "text": "Ich"
  },
  {
    "start": 2827.62,
    "end": 2846.34,
    "text": "kann jetzt auch nur aus Erfahrung oder natürlich meine Beobachtung ... gerade für dieses Tool ... ... sagen und was ... ... auch funktioniert ist einfach, ... ... dass akademisch weiterzuentwickeln, aber eben ... ... immer wieder Kooperationen zu suchen, ... ... wie jetzt bei AT Lola mit Volocopter."
  },
  {
    "start": 2847.16,
    "end": 2867.08,
    "text": "Und ... ... das erlaubt halt auch ein bisschen ... ... unabhängig von, sag ich mal, ... ... ökonomischen Inzentisten an diesen Folien zu arbeiten ... ... und sie auch öffentlich zugänglich zu machen und so weiter, ... ... was eben ... ... denke ich in diesem ... ... in dem ... Ich höre natürlich, dass Betrachten als Produkt leichter ein bisschen unter den Tisch fallen würde."
  },
  {
    "start": 2867.54,
    "end": 2871.5,
    "text": "Nach der Veröffentlichung eines Papers ist ja auch die Frage, wie es mit der Forschung zu dem Thema weitergeht."
  },
  {
    "start": 2871.88,
    "end": 2879.7,
    "text": "Ist das Thema für dich algorithmische Fairness jetzt erstmal erledigt, weil du die nächste Herausforderung suchst oder arbeitest du weiter daran?"
  },
  {
    "start": 2880.34,
    "end": 2892.36,
    "text": "Ne, wir arbeiten da auf jeden Fall aktiv weiter daran, weil wir da absolut das Potenzial sehen, praktisch der Veränderung zu erreichen und eben auch gerade durch z.B."
  },
  {
    "start": 2892.62,
    "end": 2910.62,
    "text": "die Gesetzgebung wie den EUAI-Akt, wir uns ein bisschen bestätigt fühlen, dass es eben die Notwendigkeit dafür gibt und wir da wirklich eine positive Veränderung erwirken können."
  },
  {
    "start": 2911.2,
    "end": 2925.98,
    "text": "Konkret sind wir sehr gespannt, wie gesagt, auf die weitere Veröffentlichung von Daten an Bezug auf Social Media Plattformen, weil dass ein Bereich ist, wo der jetzt noch nicht so sehr mit Bezug auf Fairness untersucht worden ist."
  },
  {
    "start": 2927.42,
    "end": 2937.58,
    "text": "Und in gewisser Weise natürlich auch, je neuer die Daten, dass du interessanter die Ergebnisse, gleichzeitig auch ein bisschen der Punkt der Benutzbarkeit."
  },
  {
    "start": 2938.02,
    "end": 2947.04,
    "text": "und klar, ich meine, wie du gerade schon angesprochen hast, das tut erwartet immer noch ein gewisser Level an Expertenwissen."
  },
  {
    "start": 2948.52,
    "end": 2958.82,
    "text": "Gerade für Beruhen sollten wir das noch weiter verringern und arbeiten da auch aktiv dran, um die Komplexität ein bisschen zu verringern."
  },
  {
    "start": 2960.38,
    "end": 2968.18,
    "text": "Wir sind auf jeden Fall gespannt und viel Erfolg bei deiner weiteren Forschung zum Thema algorithmische Fairness und der Weiterentwicklung von RT Lula."
  },
  {
    "start": 2968.96,
    "end": 2969.36,
    "text": "Vielen Dank."
  },
  {
    "start": 2971.0,
    "end": 2978.76,
    "text": "Wir sind ja jetzt quasi auch am Ende des Podcasts angekommen und ich würde das gerne nutzen, um dir noch ein paar kurze Fragen zu stellen."
  },
  {
    "start": 2979.9,
    "end": 2983.2,
    "text": "Auf welches Smartphone-App würdest du auf keinen Fall verzichten wollen?"
  },
  {
    "start": 2985.02,
    "end": 2987.36,
    "text": "Auf jeden Fall in irgendeiner Orientierungs-App."
  },
  {
    "start": 2987.4,
    "end": 2989.26,
    "text": "Also ich gehe gerne laufen und Fahrrad fahren."
  },
  {
    "start": 2989.46,
    "end": 2992.52,
    "text": "Wahrscheinlich kommut, auch wenn die damit verkauft worden sind."
  },
  {
    "start": 2994.18,
    "end": 2999.4,
    "text": "Gibt es denn einen Bereich, in dem du in keinen Fall auf eukorhythmische Empfehlungen verzichten würdest?"
  },
  {
    "start": 3001.78,
    "end": 3002.94,
    "text": "Interessanterweise Musik."
  },
  {
    "start": 3003.08,
    "end": 3009.72,
    "text": "Ich habe das Gefühl, Empfehlungsalgorithmen, gerade von Spotify oder so für Songs sind sehr guter dann."
  },
  {
    "start": 3010.74,
    "end": 3014.26,
    "text": "Dinge, die man noch nicht kennt, aber interessant sind zum Fehl."
  },
  {
    "start": 3014.42,
    "end": 3014.56,
    "text": "Wenn"
  },
  {
    "start": 3015.8,
    "end": 3019.58,
    "text": "du zu einem Vortrag eingeladen werden würdest, wo würdest du eher hingehen?"
  },
  {
    "start": 3019.86,
    "end": 3025.6,
    "text": "Zum Chaos Computer Club, der NGO Algorithm Watch oder zum Technologie-Konzern Meta."
  },
  {
    "start": 3027.44,
    "end": 3031.92,
    "text": "Ich denke zum Chaos-Computerclub war ich die Vorderung von denen super unterhaltsam finde."
  },
  {
    "start": 3033.0,
    "end": 3036.12,
    "text": "Hieße eine Herausforderung ein genauso unterhaltsam Vortrag zu entwickeln?"
  },
  {
    "start": 3036.72,
    "end": 3037.24,
    "text": "Absolut, ja."
  },
  {
    "start": 3038.48,
    "end": 3041.26,
    "text": "Würdest du der medizinischen Diagnose eines KI-Modells"
  },
  {
    "start": 3041.36,
    "end": 3041.76,
    "text": "trauen?"
  },
  {
    "start": 3043.38,
    "end": 3043.9,
    "text": "Nee, nee."
  },
  {
    "start": 3045.22,
    "end": 3046.3,
    "text": "Und letzte Frage."
  },
  {
    "start": 3046.52,
    "end": 3048.64,
    "text": "Das Zisper ist im Saarland angesiedelt."
  },
  {
    "start": 3048.72,
    "end": 3049.88,
    "text": "Bei uns ist es hügeleg."
  },
  {
    "start": 3049.98,
    "end": 3051.58,
    "text": "Wir haben aber weder Berge noch mehr."
  },
  {
    "start": 3051.9,
    "end": 3056.46,
    "text": "Wo zieht es denn dich für den Urlaub hin, eher in die Berge oder ans Meer?"
  },
  {
    "start": 3057.62,
    "end": 3063.24,
    "text": "Im Zweifelsfall eher in die Berge zum Wandern, wobei ich sagen muss, wenn beides geht, das ist auch richtig gut."
  },
  {
    "start": 3064.2,
    "end": 3071.54,
    "text": "Ich war im Frühjahr dieses Jahres auf Greta und dann so Berge und Felsen direkt da am Strand hat."
  },
  {
    "start": 3071.92,
    "end": 3073.26,
    "text": "Auf jeden Fall war es auch zum Wandern."
  },
  {
    "start": 3075.22,
    "end": 3076.82,
    "text": "Also, der goldene Mittelweg."
  },
  {
    "start": 3077.42,
    "end": 3077.5,
    "text": "Ja,"
  },
  {
    "start": 3077.86,
    "end": 3080.46,
    "text": "damit sind wir am Ende des Podcasts angekommen."
  },
  {
    "start": 3080.58,
    "end": 3083.76,
    "text": "Vielen Dank, Julian, für deinen Besuch und dass du dir die Zeit genommen"
  },
  {
    "start": 3083.82,
    "end": 3083.98,
    "text": "hast."
  },
  {
    "start": 3084.74,
    "end": 3085.72,
    "text": "Ja, vielen Dank."
  },
  {
    "start": 3086.36,
    "end": 3087.2,
    "text": "Hat mich auch sehr gefreut."
  },
  {
    "start": 3087.26,
    "end": 3087.76,
    "text": "Vielen Dank."
  },
  {
    "start": 3089.06,
    "end": 3089.3,
    "text": "Super."
  },
  {
    "start": 3089.54,
    "end": 3091.94,
    "text": "Dann dir noch ein viel Erfolg für deine Forschung."
  },
  {
    "start": 3092.0,
    "end": 3092.6,
    "text": "Ciao, Julian."
  },
  {
    "start": 3093.84,
    "end": 3110.54,
    "text": "Ciao."
  }
]