[
  {
    "speaker": "Sebastian Pitzler",
    "start": 2.39,
    "end": 6.42,
    "text": "Herzlich Willkommen zu einer neuen Folge unseres BSI Software Shortcasts."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 6.87,
    "end": 10.94,
    "text": "In der Staffel 2 beschäftigen wir uns im Schwerpunkt mit den ganzen Themenstellungen"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 10.94,
    "end": 15.97,
    "text": "rund um AI Agents, also Agentic AI, dem Thema Agent Relationship Management"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 15.97,
    "end": 19.64,
    "text": "der Zukunft und weitere Fragestellungen, die unsere Branchen hier bewegen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 20.0,
    "end": 23.82,
    "text": "Ich freue mich sehr, dass wir in der heutigen Folge eine ganz neue Perspektive"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 23.82,
    "end": 28.97,
    "text": "mit an den Tisch bringen, repräsentiert durch Philipp Kühn, seines Zeichens Anwalt."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 29.44,
    "end": 33.53,
    "text": "Ich freue mich also sehr, dass wir heute juristische Perspektiven auf das ganze"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 33.53,
    "end": 37.96,
    "text": "Thema Agentic AI, hybride Organisationen, Human in the Loop mitbringen können."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 38.59,
    "end": 43.96,
    "text": "Der Titel unserer heutigen Folge lautet nämlich Autonome AI Agents oder doch Human in the Loop?"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 45.75,
    "end": 50.31,
    "text": "Philipp ist Rechtsanwalt und Partner bei RSM Ebner Stolz in Köln."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 50.93,
    "end": 55.14,
    "text": "Der Schwerpunkt seiner Beratung, Vorträge und Publikationen liegt im Bereich"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 55.14,
    "end": 57.91,
    "text": "Digitalisierung, Datenschutz und IT-Recht."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 58.55,
    "end": 62.78,
    "text": "Seit 2019 ist er bei RSM Ebner Stolz beschäftigt, davor war er unter anderem"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 62.78,
    "end": 66.48,
    "text": "Syndikusanwalt in einem großen deutschen Versicherungskonzern und bei einem"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 66.48,
    "end": 68.3,
    "text": "internationalen Modehersteller."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 69.0,
    "end": 70.43,
    "text": "Was ich besonders toll finde, ist,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 70.43,
    "end": 74.16,
    "text": "dass wir hier nicht irgendeinen Anwalt sozusagen heute begrüßen dürfen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 74.6,
    "end": 78.18,
    "text": "Philipp hat sich über viele Jahre eine starke Reputation aufgebaut,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 78.18,
    "end": 81.49,
    "text": "eben in diesem Bereich Digitalisierung, Datenschutz und Co."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 81.86,
    "end": 88.0,
    "text": "So wird er beispielsweise vom Handelsblatt als einer der Best Lawyers Germany seit 2023 geführt."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 88.51,
    "end": 95.04,
    "text": "Außerdem ist er seit 2023 geführtes Mitglied einer Leaders League und führender"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 95.04,
    "end": 98.41,
    "text": "Anwalt für IT-Recht seit 2024."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 98.67,
    "end": 101.68,
    "text": "Von Juve ist er ein empfohlener Anwalt für Datenschutzrecht."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 102.3,
    "end": 105.58,
    "text": "Was man in unserem Kontext besonders hervorheben darf, ist, dass er an einem"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 105.58,
    "end": 108.63,
    "text": "bedeutenden Kommentar zur KI-Verordnung mitgeschrieben hat."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 109.28,
    "end": 112.46,
    "text": "Damit nicht genug, neben seiner breiten Aufstellung im Bereich,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 112.94,
    "end": 117.82,
    "text": "IT-Recht ist er nebenberuflich engagiert als Vorstandsvorsitzender im PropTech"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 118.01,
    "end": 122.8,
    "text": "Powerhouse, einem Digitalhub, der sich mit dem ganzen Thema Digitalisierung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 122.8,
    "end": 124.45,
    "text": "der Immobilienwirtschaft beschäftigt."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 124.83,
    "end": 130.63,
    "text": "Er ist außerdem als Dozent an der Universität zu Köln am Institut für Informationssysteme tätig."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 131.23,
    "end": 134.39,
    "text": "Wie ist er zu all dem Ruhm und zum Engagement gekommen?"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 134.78,
    "end": 139.39,
    "text": "Er hat Rechtswissenschaften an der Universität in Bonn studiert und das 2013"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 139.39,
    "end": 141.02,
    "text": "erfolgreich abgeschlossen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 141.73,
    "end": 144.54,
    "text": "Mensch Philipp, du bringst eine Menge Bandbreite mit. Habe ich das ungefähr"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 144.54,
    "end": 147.79,
    "text": "richtig zusammengefasst? Wenn man mit Anwälten redet, muss man ja aufpassen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 147.89,
    "end": 152.54,
    "text": "Ja, also erstmal vielen Dank für die Einladung und vielen Dank für die Vorschusslorbeeren."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 152.54,
    "end": 154.43,
    "text": "Das bin ich gar nicht gewohnt, aber vielen Dank."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 154.93,
    "end": 156.74,
    "text": "Ich habe dem nichts hinzuzusetzen, ja."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 157.02,
    "end": 161.98,
    "text": "Das freut mich. Dann würde ich doch vorschlagen, folgen wir unserem Shortcast Leitmotiv."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 162.5,
    "end": 165.33,
    "text": "Drei Fragen, ein Statement. Los geht's."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 165.87,
    "end": 167.25,
    "text": "Also heute beschäftigen wir"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 167.25,
    "end": 170.98,
    "text": "uns mit der Fragestellung autonome AI-Agents oder doch Human in the Loop."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 171.59,
    "end": 177.25,
    "text": "Meine erste Frage bezieht sich gleich auf dein sozusagen öffentliches LinkedIn-Profil."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 177.77,
    "end": 183.8,
    "text": "Dort hast du einen Slogan stehen, Tech and Data Privacy Lawyer passionate about Tech Transaction."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 185.27,
    "end": 188.96,
    "text": "Welche Themen treiben dich aktuell um, wenn du die Entwicklungen im Tech-Markt"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 189.14,
    "end": 191.58,
    "text": "rund um Agentic AI als Anwalt betrachtest?"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 191.99,
    "end": 193.47,
    "text": "Und noch eine kleine Zusatzfrage."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 194.0,
    "end": 198.0,
    "text": "Welche Entwicklungen und Herausforderungen erwartest du im Sinne Autonomie gerade"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 198.32,
    "end": 199.94,
    "text": "der agentischen Systeme?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 200.84,
    "end": 204.81,
    "text": "Also was vielleicht wichtig ist zu sagen, ist, dass sich die Tech-Transaktionen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 204.81,
    "end": 208.66,
    "text": "nicht auf die agentischen Transaktionen beziehen, wie man sich das in dem Kontext"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 208.66,
    "end": 211.5,
    "text": "hier denken könnte, sondern in der Tat eher M&A-Transaktionen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 211.99,
    "end": 216.33,
    "text": "wo auch wirklich schon nicht ganze Agentensysteme, aber immerhin auch Algorithmen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 216.72,
    "end": 221.2,
    "text": "und natürlich auch Gesellschaften gehandelt werden, die entsprechend massiv"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 221.2,
    "end": 225.27,
    "text": "in KI investieren, sodass wir da genau diese Themen, die wir gleich auch nochmal"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 225.27,
    "end": 227.44,
    "text": "kurz betrachten können, auch prüfen müssen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 227.86,
    "end": 231.72,
    "text": "Und ich glaube, die größte Entwicklung ist in der Tat, dass diese agentischen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 231.72,
    "end": 233.04,
    "text": "Systeme immer mehr kommen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 233.44,
    "end": 238.91,
    "text": "Und wir beraten ja auch Mandantinnen, die genau solche Systeme einführen beim"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 238.91,
    "end": 243.86,
    "text": "Kunden, entweder als Hersteller oder einfach nur als Reseller oder aber auch größere Mandanten."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 243.86,
    "end": 246.58,
    "text": "Wir beraten ja sehr viel Mittelstand, die solche Systeme einführen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 246.58,
    "end": 250.91,
    "text": "Und da müssen wir durchaus auch mit Ressentiments sind wir damit konfrontiert,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 251.39,
    "end": 254.66,
    "text": "die wir dann versuchen aus einer rechtlichen Perspektive auszubügeln."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 254.98,
    "end": 263.26,
    "text": "Große Sorge ist immer, dass KI durch Regulatorik, durch rechtliche Regulierung verhindert wird."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 264.35,
    "end": 268.47,
    "text": "Das ist aus unserer Sicht nicht der Fall, sondern es geht eigentlich mehr darum zu"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 268.83,
    "end": 272.92,
    "text": "wissen, welche Themen müssen beachtet werden und wie kann ich vielleicht die"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 272.92,
    "end": 277.67,
    "text": "Regulatorik auch ein bisschen runterfahren, also habe nicht so hohe regulatorische"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 277.67,
    "end": 282.19,
    "text": "Anforderungen, dafür vielleicht ein bisschen weniger Autonomiegrad, genau da kommt dann"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 282.56,
    "end": 284.65,
    "text": "das Stichwort Human in the Loop ins Spiel."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 284.93,
    "end": 289.23,
    "text": "Vielen Dank, dass du nochmal ausgeführt hast, dass Tech-Transactions hier M&A-Aktivität"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 289.23,
    "end": 293.33,
    "text": "meint, also Unternehmenskäufe und nicht Transaktionen technischer Art,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 293.33,
    "end": 294.61,
    "text": "die Agents durchführen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 295.22,
    "end": 300.85,
    "text": "Kurze Zusatzfrage an der Stelle. Bei Tech-Transaktionen siehst du eine Wertsteigerung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 300.85,
    "end": 305.71,
    "text": "von Unternehmensbewertungen bei Unternehmen, die KI sinnvoll einsetzen"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 306.03,
    "end": 310.27,
    "text": "oder eben zu Kern ihres Angebots machen, obwohl sie ja in der Regel die meisten"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 310.57,
    "end": 314.22,
    "text": "keine LLMs, also die großen Large Language Models selber entwickeln,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 314.22,
    "end": 318.01,
    "text": "sondern eher einsetzen in ihrem Geschäftsgegenstand?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 318.3,
    "end": 322.58,
    "text": "Das lässt sich schwer mit Ja oder mit Nein beantworten. Was ich auf jeden Fall"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 322.58,
    "end": 324.25,
    "text": "in der Praxis sehe, ist, dass"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 324.77,
    "end": 329.75,
    "text": "klassische Roll-up-Strategien oder beiden Bildstrategien im PE-Umfeld darauf"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 329.75,
    "end": 331.97,
    "text": "setzen, jedenfalls nach der"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 331.97,
    "end": 336.08,
    "text": "Integration von den Add-ons, also von den Unternehmen, die gekauft werden,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 336.81,
    "end": 341.41,
    "text": "hochgradige Digitalisierungsgrade einzuziehen, um einfach Effizienzen zu gewinnen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 341.41,
    "end": 345.15,
    "text": "Und Unternehmen, die vorher schon digitalisiert sind und auf"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 346.43,
    "end": 351.65,
    "text": "Effizienzsteigerung Wert gesetzt haben, die werden auf jeden Fall da den Vorrang"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 351.65,
    "end": 355.64,
    "text": "haben vor solchen, die noch gar nicht digitalisiert sind, weil sie letztendlich"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 355.82,
    "end": 360.32,
    "text": "mit weniger Aufwand dann in diese digitalisierte Struktur integriert werden können."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 360.78,
    "end": 364.56,
    "text": "Erstmal eine tolle Aussage, gerade von einem führenden IT-Anwalt wie dir,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 365.12,
    "end": 369.32,
    "text": "zu sagen, Regulatorik ist per se kein Hindernisgrund, man muss nur wissen, wie."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 370.02,
    "end": 373.89,
    "text": "Führt mich gleich zu der zweiten Frage. Du hast es schon angesprochen,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 373.89,
    "end": 376.89,
    "text": "das Prinzip des Human-in-the-Loop wird vielfach diskutiert."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 377.12,
    "end": 380.85,
    "text": "Es ist teilweise durch rechtliche Rahmenbedingungen wie den EU-AI-Act geregelt."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 381.1,
    "end": 383.35,
    "text": "Ich habe verstanden, du hast an der Kommentierung mitgearbeitet."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 383.86,
    "end": 387.94,
    "text": "Teilweise folgt es aber ebenso individuellen geschäftsstrategischen Entscheidungen,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 387.94,
    "end": 390.96,
    "text": "was Automatisierungsgrade von Geschäftsprozessen betrifft."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 391.61,
    "end": 395.99,
    "text": "Welche Bedeutung misst du diesem berühmten Human-in-the-Loop-Prinzip bei?"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 396.31,
    "end": 399.7,
    "text": "Ist es nur eine vorübergehende Erscheinung, Stichwort Autonomie,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 400.11,
    "end": 402.02,
    "text": "oder ein auf Dauer angelegtes Prinzip?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 402.51,
    "end": 406.23,
    "text": "Also wir müssen da zwei Dimensionen unterscheiden. Das eine ist die reine rechtliche"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 406.63,
    "end": 411.37,
    "text": "Dimension, wie du eben auch gesagt hast, und dann die faktische Risikomanagement-Dimension."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 411.37,
    "end": 415.33,
    "text": "Die rechtliche Dimension, da muss man aktuell ein Fragezeichen dran machen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 415.33,
    "end": 417.05,
    "text": "ob das auf Dauer angelegt ist oder nicht."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 417.05,
    "end": 421.73,
    "text": "Im Moment, wie du gesagt hast, ist es in der KI-Verordnung enthalten und eine"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 421.73,
    "end": 424.18,
    "text": "rechtliche Stellschraube, mit der ich arbeiten kann."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 424.18,
    "end": 428.2,
    "text": "Das heißt, wenn Mandanten sagen, ich möchte eigentlich so wenig Regulierung"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 428.2,
    "end": 434.13,
    "text": "wie möglich haben, ich möchte insbesondere nicht diesen KI-Hinweis implementieren müssen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 434.13,
    "end": 438.77,
    "text": "Ja, also Achtung, dieses Ergebnis ist mit KI produziert. Das ist ja eine Transparenzvorschrift,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 438.77,
    "end": 440.45,
    "text": "die sich aus der KI-Verordnung ergibt."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 440.93,
    "end": 445.06,
    "text": "Dann kann man diese Human in the Loop eben sich zur Hilfe machen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 445.47,
    "end": 449.74,
    "text": "und durch die Überprüfung des Ergebnisses durch einen Menschen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 450.06,
    "end": 454.03,
    "text": "wenn sie eine hinreichende Tiefe hat, dann eben darauf verzichten,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 454.03,
    "end": 456.45,
    "text": "diesen Transparenzhinweis zu machen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 456.45,
    "end": 460.6,
    "text": "Das spielt in der Praxis nach unserer Kenntnis nach wie vor eine große Rolle,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 460.6,
    "end": 465.8,
    "text": "dass man sich gar nicht mit diesem Label KI allzu sehr schmücken möchte bzw."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 465.8,
    "end": 467.17,
    "text": "Das eigentlich vermeiden möchte."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 467.49,
    "end": 472.7,
    "text": "Die zweite Perspektive und ich glaube da wird es ein bisschen mehr Bewegung"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 472.7,
    "end": 477.05,
    "text": "geben in der nächsten Zeit, dass es diese Risikomanagementperspektive gibt."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 477.65,
    "end": 480.88,
    "text": "Wir erleben das öfters, dass entweder die Kunden von unseren Mandanten oder"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 480.88,
    "end": 484.89,
    "text": "die Mandanten selbst sagen, das ist ja alles schön und gut, aber wir sehen ein"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 484.89,
    "end": 489.9,
    "text": "großes Risiko, dass ein agentisches System beispielsweise, ohne dass es irgendjemand"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 489.9,
    "end": 492.39,
    "text": "mitbekommt, auf einmal hunderte von"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 492.85,
    "end": 497.24,
    "text": "Versicherungsverträgen umdeckt oder hunderte von Kündigungen ausspricht."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 497.72,
    "end": 502.17,
    "text": "Und da gibt es nach wie vor eine große Sorge und mit Sicherheit auch regulatorische"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 502.17,
    "end": 505.4,
    "text": "Anforderungen, beispielsweise aus dem Aufsichtsrecht für Versicherungen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 505.88,
    "end": 509.72,
    "text": "dass solche Systeme nach wie vor kontrolliert werden müssen und dann kommt eben"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 509.72,
    "end": 513.26,
    "text": "wieder der Human in the Loop, weil das ist nichts anderes am Ende des Tages"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 513.26,
    "end": 516.01,
    "text": "und dadurch das Risiko eben zu minimieren"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 516.01,
    "end": 519.6,
    "text": "und den anderen regulatorischen Anforderungen gerecht zu werden."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 520.25,
    "end": 523.96,
    "text": "Aber außerhalb von aufsichtsrechtlichen Anforderungen, glaube ich,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 523.96,
    "end": 526.71,
    "text": "wird da das Vertrauen nach und nach immer mehr wachsen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 527.27,
    "end": 531.56,
    "text": "Beispielsweise, wenn eine Baumarktkette im Kundenservice so einen Agenten einsetzt,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 531.56,
    "end": 534.35,
    "text": "ich glaube, die werden immer mutiger werden mit der Zeit, wie sie sehen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 534.35,
    "end": 536.06,
    "text": "dass dieses Thema auch besser werden."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 536.06,
    "end": 540.76,
    "text": "Sehr spannend, dass du das nochmal beschrieben hast. Einerseits das Thema Transparenzvorschrift,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 541.24,
    "end": 543.78,
    "text": "auch das Thema Risikobewertung und Management."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 544.19,
    "end": 551.09,
    "text": "Magst du dazu sozusagen ergänzend nochmal einen Blick geben auf das Thema Risikoklassifizierung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 551.09,
    "end": 552.95,
    "text": "und Abstufung, weil ich habe verstanden,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 553.53,
    "end": 559.28,
    "text": "Human in the Loop greift insbesondere dort, wo wir eben über verschiedene Risikoklassen sprechen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 559.47,
    "end": 562.63,
    "text": "Das ist doch auch nochmal ein wesentlicher Aspekt, oder, bei der Bewertung oder"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 562.63,
    "end": 566.48,
    "text": "Einführung von KI, welche Daten werden in welchem Kontext verarbeitet."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 567.14,
    "end": 569.14,
    "text": "Das hängt auch zusammen mit Human in the Loop, oder?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 569.8,
    "end": 571.94,
    "text": "Indirekt. Erstmal sind das zwei verschiedene"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 571.94,
    "end": 575.21,
    "text": "Systeme. Das eine ist die Risikoklassifizierung, die du ansprichst."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 575.21,
    "end": 579.91,
    "text": "Das heißt, welche Risikostufe hat die KI, die ich hier einsetze?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 579.91,
    "end": 583.32,
    "text": "Und das ist erstmal eine rein zweckorientierte Betrachtung."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 583.32,
    "end": 586.4,
    "text": "Das heißt, zu welchem Zweck soll die KI eingesetzt werden?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 586.4,
    "end": 590.91,
    "text": "Was soll mit der KI gemacht werden? Dann sollen beispielsweise Entscheidungen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 590.91,
    "end": 594.12,
    "text": "über die Sozialversicherung eines Menschen getroffen werden,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 594.12,
    "end": 599.54,
    "text": "anhand vieler Informationen, die man von ihm auf der Straße oder sonst irgendwo einsammelt."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 599.88,
    "end": 603.47,
    "text": "Dann haben wir ein Problem, dann würden wir von der Hochrisiko-KI sprechen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 603.84,
    "end": 609.28,
    "text": "Soll die KI beispielsweise einfach nur entscheiden, ob der Anrufer zwei Minuten"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 609.28,
    "end": 613.24,
    "text": "länger wartet oder direkt mit einem Menschen in Verbindung gebracht wird,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 613.24,
    "end": 615.58,
    "text": "dann ist es eher keine Hochrisiko-KI."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 616.23,
    "end": 621.37,
    "text": "Und der Human in the Loop kann ein Bearbeitungsrisiko"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 621.64,
    "end": 627.14,
    "text": "reduzieren und auch Transparenzanforderungen runterschrauben."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 627.42,
    "end": 631.99,
    "text": "Das sind aber grundsätzlich erstmal zwei verschiedene Betrachtungsweisen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 632.19,
    "end": 635.97,
    "text": "Und die Bewertung, ob jetzt letztendlich"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 635.97,
    "end": 640.76,
    "text": "eine Hochrisiko-KI vorliegt oder nicht, das ist ganz spannend."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 640.76,
    "end": 644.06,
    "text": "Das hängt nämlich letztendlich von den tatsächlichen Use Cases ab."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 644.06,
    "end": 647.11,
    "text": "Wir haben das in der Praxis oft, dass dann gesagt wird, ja, die kennen wir ja"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 647.11,
    "end": 649.58,
    "text": "noch gar nicht. Das möchten wir erst im Vorprojekt ermitteln,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 649.58,
    "end": 652.9,
    "text": "sodass das meistens etwas ist, was währenddessen betrachtet wird."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 652.9,
    "end": 654.61,
    "text": "Also eine Art Moving Target."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 654.61,
    "end": 659.68,
    "text": "Das Moving Target. Einerseits technologisch, weil sich die Modelle rasant weiterentwickeln"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 659.68,
    "end": 661.21,
    "text": "und andererseits, wie du sagst,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 661.76,
    "end": 666.42,
    "text": "mit Augenmaß bezogen auf die Use Cases, was möchte ich lösen und in welcher"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 666.42,
    "end": 670.07,
    "text": "Detaillierung und drehe ich einmal die Schraube links rum oder rechts rum,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 670.49,
    "end": 673.76,
    "text": "dass sich damit dann eben auch sozusagen in Echtzeit,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 674.35,
    "end": 677.57,
    "text": "die Anforderungen an die juristischen Aspekte verändern."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 678.23,
    "end": 682.4,
    "text": "Komme ich gleich zu meiner dritten Frage. Wenn ich es richtig verstehe,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 682.4,
    "end": 687.17,
    "text": "ist das Human-in-the-Loop-Prinzip aktuell eine Mischung aus rechtlicher Anforderung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 687.17,
    "end": 690.93,
    "text": "auf der einen Seite und Risikomanagement auf der anderen Seite."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 691.77,
    "end": 696.0,
    "text": "Gibt es aus deiner Sicht noch andere rechtliche Herausforderungen bei der Einführung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 696.0,
    "end": 701.62,
    "text": "von agentischen Systemen und wie wird aus deiner Sicht das Thema der Risikoklassifizierung"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 701.62,
    "end": 702.94,
    "text": "dort in der Praxis gelöst?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 703.27,
    "end": 707.61,
    "text": "Also ich glaube, die größten Herausforderungen bei der Einführung von solchen"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 707.61,
    "end": 710.74,
    "text": "agentischen Systemen sind gar nicht die rechtlichen Anforderungen,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 710.74,
    "end": 715.78,
    "text": "sondern die tatsächlichen. Das Mindset, die Frage, was trauen wir uns wirklich,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 715.78,
    "end": 717.92,
    "text": "wollen wir dem System auch vertrauen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 718.96,
    "end": 723.89,
    "text": "Und die rechtlichen Herausforderungen, die wird man in der Regel auch mit abfangen können."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 723.89,
    "end": 728.65,
    "text": "Natürlich muss ich immer betrachten, wie gesagt, zu welchem Zweck möchte ich"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 728.65,
    "end": 732.51,
    "text": "die KI einsetzen, gar nicht welche KI, sondern zu welchem Zweck setze ich die"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 732.51,
    "end": 737.69,
    "text": "KI ein, davon hängt die Risikoklassifizierung ab und in welchem Zusammenhang."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 737.69,
    "end": 741.98,
    "text": "Ich werde ganz andere Anforderungen haben, wenn ich über eine KI im Bankensystem"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 741.98,
    "end": 747.08,
    "text": "spreche als über eine KI im Chatbot-System eines Baumarkts, das hatte ich eben"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 747.08,
    "end": 749.66,
    "text": "schon gesagt. Und davon hängt es auch ein Stück weit ab."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 750.08,
    "end": 754.62,
    "text": "Aber ich glaube, das würde jetzt hier zu weit gehen, da die Einzelheiten zu besprechen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 754.86,
    "end": 758.88,
    "text": "Wichtig ist, glaube ich, alles mit Augenmaß und immer auf Sicht fahren und dann"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 758.88,
    "end": 763.15,
    "text": "wird man auch agentische Systeme auch in regulierten Bereichen einsetzen können."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 763.15,
    "end": 766.96,
    "text": "Manchmal muss man dann vielleicht eine Funktion abstellen, die man gerne gehabt"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 766.96,
    "end": 771.9,
    "text": "hätte. Aber das ist in der Regel trotzdem abbildbar, zumindest nach unserer Erfahrung."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 772.5,
    "end": 776.14,
    "text": "Vielen Dank, Philipp, für diese Ausführung zu meiner dritten Frage."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 777.54,
    "end": 781.88,
    "text": "Der Logik unseres Shortcasts folgend, sind wir damit schon beim Abschlussstatement."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 782.38,
    "end": 786.0,
    "text": "Sehr, sehr kurzweilig. Danke jetzt schon mal für diese Perspektiven."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 786.39,
    "end": 791.2,
    "text": "Also, lieber Philipp, dein Abschlussstatement. Unternehmen, die AI-Agents immer"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 791.2,
    "end": 796.2,
    "text": "mehr in ihre Wertschöpfung bzw. Prozesse und Services integrieren sollten, jetzt?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 796.56,
    "end": 799.11,
    "text": "Sie sollten sich in erster Linie nicht verrückt machen lassen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 799.11,
    "end": 802.82,
    "text": "Agentische Systeme lassen sich auch trotz hoher rechtlicher Anforderungen in"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 802.82,
    "end": 805.25,
    "text": "der Praxis sehr gut einsetzen und umsetzen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 805.25,
    "end": 809.65,
    "text": "Wichtig ist hier mit Augenmaß vorzugehen und letztendlich eine gute Mischung"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 809.65,
    "end": 816.3,
    "text": "zu finden aus rechtlicher Regulatorik und Mehrwert, den solche Systeme letztendlich bieten können."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 816.57,
    "end": 819.48,
    "text": "Vielen Dank, Philipp. Wenn ich das mal so salopp sagen darf,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 819.48,
    "end": 823.75,
    "text": "für dieses Abschlussstatement aus juristischer Perspektive, könnte ich dich"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 823.75,
    "end": 827.54,
    "text": "knutschen. Ich finde das eine ganz tolle Beurteilung, wo wir eigentlich stehen"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 827.54,
    "end": 830.6,
    "text": "im Markt. Augenmaß nach vorne gehen, mutig einsetzen."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 830.79,
    "end": 835.29,
    "text": "Ich glaube, du stimmst mir zu, wenn ich sage, Agentic AI ist gekommen, um zu bleiben, oder?"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 836.09,
    "end": 840.4,
    "text": "Das würde ich vollkommen unterstreichen. Ich denke, auch die Regulatorik wird"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 840.4,
    "end": 841.6,
    "text": "sich weiterentwickeln."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 841.92,
    "end": 846.78,
    "text": "Die wird zwar bleiben, aber die wird sich weiterentwickeln und wir haben schon"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 847.12,
    "end": 850.85,
    "text": "gesehen in der Vergangenheit, dass der Gesetzgeber durchaus darüber nachdenkt,"
  },
  {
    "speaker": "Philipp Kühn",
    "start": 850.85,
    "end": 852.96,
    "text": "auch gewisse Grenzen wieder aufzuweichen."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 853.55,
    "end": 855.83,
    "text": "Da freuen wir uns darauf, was kommt."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 856.64,
    "end": 859.66,
    "text": "Ich glaube, das unterstreicht nochmal, wie wichtig es ist, beim Einsatz von"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 859.92,
    "end": 864.05,
    "text": "agentischer KI oder AI-Agents auf die richtigen Partner zu setzen,"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 864.05,
    "end": 868.44,
    "text": "die im Zweifel ein Verständnis haben und einen technischen Rahmen bilden für"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 868.44,
    "end": 870.9,
    "text": "das ganze Thema EU AI Act, DORA und Co."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 871.45,
    "end": 875.3,
    "text": "Das heißt also Augen auf bei der Partnerwahl und dann wird es schon gut gehen"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 875.3,
    "end": 878.0,
    "text": "mit den richtigen Anwälten an deiner Seite."
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 878.32,
    "end": 882.2,
    "text": "Und deshalb bedanke ich mich, lieber Philipp, ganz herzlich bei dir für diese"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 882.54,
    "end": 886.78,
    "text": "tollen Perspektiven und Bewertungen, die du hier nochmal mitgebracht hast zu"
  },
  {
    "speaker": "Sebastian Pitzler",
    "start": 886.78,
    "end": 890.41,
    "text": "dem Stand autonome AI Agents oder doch Human in the Loop."
  },
  {
    "speaker": "Philipp Kühn",
    "start": 890.62,
    "end": 894.85,
    "text": "Ja, sehr gerne. Vielen Dank auch nochmal für die Möglichkeit hier. Hat mich sehr gefreut."
  }
]