[
  {
    "start": 0.0,
    "end": 10.0,
    "text": " Steuern mit Recht, das Interview mit Konstanzeelter und Carsten Fleckenstein."
  },
  {
    "start": 10.0,
    "end": 17.0,
    "text": " In unserer Interviewfolge holen wir die große Taschenlampe für unseren Gast raus."
  },
  {
    "start": 17.0,
    "end": 19.0,
    "text": " Und der beleuchtet dann mal den Hintergrund."
  },
  {
    "start": 19.0,
    "end": 21.0,
    "text": " Mal schauen, welche Erkenntnisse es sich ergeben."
  },
  {
    "start": 21.0,
    "end": 24.0,
    "text": " Wir wünschen erhellende Einsichten."
  },
  {
    "start": 25.0,
    "end": 32.0,
    "text": " Aus Berlin zugeschaltet ist Aljosha Burchardt vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin."
  },
  {
    "start": 32.0,
    "end": 33.0,
    "text": " Hallo Aljosha."
  },
  {
    "start": 33.0,
    "end": 34.0,
    "text": " Hallöchen."
  },
  {
    "start": 34.0,
    "end": 36.0,
    "text": " Und welche KI hast du denn heute schon genutzt?"
  },
  {
    "start": 36.0,
    "end": 43.0,
    "text": " Was habe ich heute genutzt? Also spannende Dinge wie eine Suchmaschine, Navigationssystem, so die richtige OldschoolKI."
  },
  {
    "start": 43.0,
    "end": 48.0,
    "text": " Ist es überhaupt noch eine Option, um KI rumzukommen? Kann man leben ohne KI?"
  },
  {
    "start": 48.0,
    "end": 50.0,
    "text": " Natürlich ist das eine Option, gerne. Natürlich."
  },
  {
    "start": 50.0,
    "end": 53.0,
    "text": " Du weißt die Leute, die sich selber damit beschäftigen, die leben komplett analog."
  },
  {
    "start": 53.0,
    "end": 57.0,
    "text": " Nein, das ist, weil in meinem Fall ist es wirklich auch mit einer Schallplatten, Sammlung und Kindern im Sandkasten."
  },
  {
    "start": 57.0,
    "end": 61.0,
    "text": " Aber ich glaube, dass viele sich gar nicht bewusst machen, dass sie KI benutzen."
  },
  {
    "start": 61.0,
    "end": 66.0,
    "text": " Wir haben das nämlich auf dem Weg ins Studio auch gerade noch überlegt und haben dann festgestellt, dass wir doch schon relativ viel benutzen"
  },
  {
    "start": 66.0,
    "end": 70.0,
    "text": " und das gar nicht wahrnehmen oder nicht mehr wahrnehmen als KI."
  },
  {
    "start": 70.0,
    "end": 73.0,
    "text": " Das ist eben von der Rechtschreibkontrolle bis zur Suchmaschine."
  },
  {
    "start": 73.0,
    "end": 75.0,
    "text": " Das sind eben Dinge, die wir jeden Tag nutzen."
  },
  {
    "start": 75.0,
    "end": 77.0,
    "text": " Das ist so ein bisschen ein Paradoxon eigentlich."
  },
  {
    "start": 77.0,
    "end": 79.0,
    "text": " Die Sachen, die wir schon täglich nutzen, die nennen wir nicht mehr KI."
  },
  {
    "start": 79.0,
    "end": 85.0,
    "text": " Und das, was wir KI nennen, ist dann oft das, was ein bisschen spooky ist, was neu ist, was noch kommt, was man noch nicht so ganz verstanden hat."
  },
  {
    "start": 85.0,
    "end": 93.0,
    "text": " Und da sind wir ja schon mittendrin im AI-Act der Europäischen Union und den hoffentlich nicht nur spookigen, günstigen Intelligenzsystemen."
  },
  {
    "start": 93.0,
    "end": 95.0,
    "text": " Aber reden wir drüber."
  },
  {
    "start": 95.0,
    "end": 102.0,
    "text": " Mit dem AI-Act wollte man ja grundsätzlich eigentlich nicht die Technologie als solche regulieren, sondern deren Anwendung."
  },
  {
    "start": 102.0,
    "end": 104.0,
    "text": " Was ist deine Meinung? Ist das gelungen?"
  },
  {
    "start": 104.0,
    "end": 106.0,
    "text": " Und das ist natürlich ein Wahnsinn."
  },
  {
    "start": 106.0,
    "end": 108.0,
    "text": " Also jetzt bitte nicht despektierlich verstehen."
  },
  {
    "start": 108.0,
    "end": 110.0,
    "text": " Natürlich brauchen wir Regulierung."
  },
  {
    "start": 110.0,
    "end": 114.0,
    "text": " Natürlich ist klar bei so einer Technologie, dass alle darauf warten, Investitionssicherheit zu haben"
  },
  {
    "start": 114.0,
    "end": 117.0,
    "text": " und Leute, die es nutzen, auch wissen, dass sie das auch nächstes Jahr noch nutzen können."
  },
  {
    "start": 117.0,
    "end": 120.0,
    "text": " Das ist alles vorangestellt völlig klar, dass man regulieren muss."
  },
  {
    "start": 120.0,
    "end": 126.0,
    "text": " Aber auf der anderen Seite bei einer Technologie, die so eine breiten Wirkung hat und so eine Basistechnologie ist,"
  },
  {
    "start": 126.0,
    "end": 130.0,
    "text": " so eine Schlüsseltechnologie ist, zu hoffen, dass man dann eben auch Anwendungen sinnvoll regulieren können,"
  },
  {
    "start": 130.0,
    "end": 132.0,
    "text": " das finde ich ein großes Vorhaben."
  },
  {
    "start": 132.0,
    "end": 134.0,
    "text": " Ich pigue noch mal ein Beispiel raus."
  },
  {
    "start": 134.0,
    "end": 135.0,
    "text": " Social Scoring."
  },
  {
    "start": 135.0,
    "end": 137.0,
    "text": " Natürlich wollen wir kein Social Scoring."
  },
  {
    "start": 137.0,
    "end": 142.0,
    "text": " Wir wollen nicht, dass man sagt, wenn du ins Krankenhaus gehen willst, nee, aber die Schulnote deines Kindes war nicht gut genug."
  },
  {
    "start": 142.0,
    "end": 148.0,
    "text": " Du hast dir keine Kreditpunkte als guter Bürger erworben, du kommst nicht ins Krankenhaus, aber dafür braucht es keine KI."
  },
  {
    "start": 148.0,
    "end": 151.0,
    "text": " Ja, so was könntest du ja mit jeder anderen Software, das könntest du auch per Hand machen."
  },
  {
    "start": 151.0,
    "end": 158.0,
    "text": " Im Prinzip aber wir regulieren das mit im AI-Act, weil es natürlich auch mit KI geht und mit KI auch vielleicht leichter geht"
  },
  {
    "start": 158.0,
    "end": 160.0,
    "text": " und vielleicht auch ein bisschen stärker skalieren kann."
  },
  {
    "start": 160.0,
    "end": 162.0,
    "text": " Aber ihr seht, worauf ich hinaus will."
  },
  {
    "start": 162.0,
    "end": 167.0,
    "text": " Dann bist du plötzlich gezwungen, das gesamte digitale Leben zu regulieren und das ist natürlich viel."
  },
  {
    "start": 167.0,
    "end": 172.0,
    "text": " Und trotzdem sind ja schon Ausnahmen definiert, wie jetzt beispielsweise im Social Scoring."
  },
  {
    "start": 172.0,
    "end": 175.0,
    "text": " Das Ganze ist ja eine riesige Bandbreite, wie du gesagt hast."
  },
  {
    "start": 175.0,
    "end": 179.0,
    "text": " Da gibt es KI für Kommunikation, für Medizin, für Verkehr, für Militär."
  },
  {
    "start": 179.0,
    "end": 185.0,
    "text": " Wie kann man denn mit einem Gesetz daran gehen und das pauschal regulieren?"
  },
  {
    "start": 185.0,
    "end": 189.0,
    "text": " Ja, du nennst ja jetzt schon Anwendungsbereiche, das hat man ja auch in dem Gesetz versucht."
  },
  {
    "start": 189.0,
    "end": 193.0,
    "text": " Man hat gesagt, wir nählen bestimmte Anwendungsbereiche, wo man genauer hingucken muss."
  },
  {
    "start": 193.0,
    "end": 197.0,
    "text": " Die Daseinsvorsorge, der Zugang zu Bildung und ähnliches, die hat man dann da reingeschrieben."
  },
  {
    "start": 197.0,
    "end": 202.0,
    "text": " Aber selbst dort wird KI jetzt genutzt, um eine Rechtschreibkorrektur zu machen, irgendwo in so einer langen Pipeline"
  },
  {
    "start": 202.0,
    "end": 206.0,
    "text": " oder wird es wirklich genutzt, ich sage mal, um Entscheidungen vorzubereiten,"
  },
  {
    "start": 206.0,
    "end": 209.0,
    "text": " was dann möglicherweise Leute auch beeinflusst in ihren Entscheidungen"
  },
  {
    "start": 209.0,
    "end": 213.0,
    "text": " und damit eine große Tragweite haben kann für diejenigen, über die entschieden wird."
  },
  {
    "start": 213.0,
    "end": 215.0,
    "text": " Und das ist eben super schwer in so einem Gesetz."
  },
  {
    "start": 215.0,
    "end": 218.0,
    "text": " Da hätte man, meiner Meinung nach, etwas tiefer reinspringen müssen,"
  },
  {
    "start": 218.0,
    "end": 222.0,
    "text": " bzw. in der nationalen Umsetzung, muss man dann einfach in die Details stärkerein gehen."
  },
  {
    "start": 222.0,
    "end": 227.0,
    "text": " Woran erkenne ich denn? In einem soziotechnischen Prozess, wo Menschen und Maschinen zusammen"
  },
  {
    "start": 227.0,
    "end": 229.0,
    "text": " Dinge entscheiden, Dokumente bearbeiten und so weiter."
  },
  {
    "start": 229.0,
    "end": 233.0,
    "text": " Wie bekomme ich denn raus, ob der Anteil der KI in diesem Gesamtprozess so war,"
  },
  {
    "start": 233.0,
    "end": 236.0,
    "text": " dass hier überhaupt eine Regulierungslücke vorliegt?"
  },
  {
    "start": 236.0,
    "end": 239.0,
    "text": " Das wäre ja meine Frage so, dann würde ich ja ganz naiv als Wissenschaftler vorgehen."
  },
  {
    "start": 239.0,
    "end": 242.0,
    "text": " Ist da überhaupt irgendwas, wo ich merke, da passieren Dinge,"
  },
  {
    "start": 242.0,
    "end": 245.0,
    "text": " was wir haben, was wir haben, mit dem heutigen Gesetzen, was Medizintechnik anbelangt"
  },
  {
    "start": 245.0,
    "end": 248.0,
    "text": " und was eben auch Grundgesetz und Antidiskriminierung und so weiter."
  },
  {
    "start": 248.0,
    "end": 251.0,
    "text": " Wir haben ja viele Dinge, die viele Dinge des Lebens regeln schon."
  },
  {
    "start": 251.0,
    "end": 254.0,
    "text": " Wo sind denn Lücken aufgetreten, dadurch, dass KI ins Spiel kommt?"
  },
  {
    "start": 254.0,
    "end": 259.0,
    "text": " So rum würde ich rangehen, aber ich weiß nicht. Man ist ja sehr poschal vorgegangen."
  },
  {
    "start": 259.0,
    "end": 263.0,
    "text": " Welche Lücken würdest du denn nennen, wenn du jetzt selber entscheiden müsstest,"
  },
  {
    "start": 263.0,
    "end": 265.0,
    "text": " dass du okay, da müssen wir ran?"
  },
  {
    "start": 265.0,
    "end": 270.0,
    "text": " Beispiel Plagiate. Bilder kopieren, sich für einen anderen Maler oder so ausgebenden Stil emitieren,"
  },
  {
    "start": 270.0,
    "end": 272.0,
    "text": " war vor KI verboten und ist mit KI verboten."
  },
  {
    "start": 272.0,
    "end": 274.0,
    "text": " Jetzt kann man sich aber zum Beispiel fragen,"
  },
  {
    "start": 274.0,
    "end": 277.0,
    "text": " ist das durch die KI-Systeme so viel leichter geworden,"
  },
  {
    "start": 277.0,
    "end": 281.0,
    "text": " dass wir einfach sagen können, wir müssen zum Beispiel auch die Tools, mit denen man das machen kann,"
  },
  {
    "start": 281.0,
    "end": 284.0,
    "text": " mindestens mal eine Kennzeichnungspflicht dafür basteln,"
  },
  {
    "start": 284.0,
    "end": 286.0,
    "text": " dass man sagt, dann muss man wenigstens erkennen können,"
  },
  {
    "start": 286.0,
    "end": 288.0,
    "text": " dass irgendwie ein Bild KI generiert ist,"
  },
  {
    "start": 288.0,
    "end": 290.0,
    "text": " und dann kann man sich eben Gedanken machen, ist dann Stil kopiert worden."
  },
  {
    "start": 290.0,
    "end": 291.0,
    "text": " Da ist eine Lücke entstanden."
  },
  {
    "start": 291.0,
    "end": 295.0,
    "text": " Durch KI gibt es jetzt eine Möglichkeit, Bilder zu kopieren, die ist anders,"
  },
  {
    "start": 295.0,
    "end": 297.0,
    "text": " als sie früher war. Das kann ich mir schon vorstellen."
  },
  {
    "start": 297.0,
    "end": 300.0,
    "text": " Du hattest es ja gerade kurz angesprochen nochmal zum Verständnis."
  },
  {
    "start": 300.0,
    "end": 306.0,
    "text": " Der AI-Akt ist also keine direkt in die Nationalstaaten übergreifende Regelung,"
  },
  {
    "start": 306.0,
    "end": 309.0,
    "text": " sondern es muss jetzt jedes Land hergehen und eigene Schlüsse daraus ziehen?"
  },
  {
    "start": 309.0,
    "end": 311.0,
    "text": " Oder ist das direkt wirkend?"
  },
  {
    "start": 311.0,
    "end": 313.0,
    "text": " Das müsst ihr die Juristen fragen."
  },
  {
    "start": 313.0,
    "end": 316.0,
    "text": " Ich bin Wissenschaftler, aber meines Wissens muss das noch umgesetzt werden,"
  },
  {
    "start": 316.0,
    "end": 319.0,
    "text": " auch in die Frage, welche Institutionen, welche Prüfungsorganisation,"
  },
  {
    "start": 319.0,
    "end": 322.0,
    "text": " welche Auditingprozesse, wer muss bei was draufgucken,"
  },
  {
    "start": 322.0,
    "end": 326.0,
    "text": " wer bestimmt denn, ob ein System in was für eine Risikoklasse fällt,"
  },
  {
    "start": 326.0,
    "end": 328.0,
    "text": " weil man arbeitet hier mit Risikoklassen,"
  },
  {
    "start": 328.0,
    "end": 330.0,
    "text": " wer kann das letztendlich absegen?"
  },
  {
    "start": 330.0,
    "end": 332.0,
    "text": " Das fängt an mit einer Selbstauskunft, der Firma, die sagt,"
  },
  {
    "start": 332.0,
    "end": 334.0,
    "text": " bei uns ist alles im grünen Bereich."
  },
  {
    "start": 334.0,
    "end": 337.0,
    "text": " Oder gibt es dann eben Sektor, wo dann einfach jemand draufguckt und sagt,"
  },
  {
    "start": 337.0,
    "end": 339.0,
    "text": " dokumentier mir mal, was du da machst, und dann bestimme ich,"
  },
  {
    "start": 339.0,
    "end": 342.0,
    "text": " ob da alles im grünen Bereich ist oder ob du eventuell in den Risikobereich fällst,"
  },
  {
    "start": 342.0,
    "end": 345.0,
    "text": " wo dann eben Sicherheitsmaßnahmen, Dokumentationspflichten"
  },
  {
    "start": 345.0,
    "end": 348.0,
    "text": " und viele andere Dinge greifen, die dann im AI-Akt definiert sind."
  },
  {
    "start": 348.0,
    "end": 350.0,
    "text": " Aber auch die muss man natürlich ausgestalten."
  },
  {
    "start": 350.0,
    "end": 353.0,
    "text": " Und letztlich braucht es natürlich für so einen Unterfang"
  },
  {
    "start": 353.0,
    "end": 356.0,
    "text": " technische Standards, Benchmarks, Prüfer fahren und so,"
  },
  {
    "start": 356.0,
    "end": 358.0,
    "text": " die wir auch aus anderen Medizintechnik oder so kennen."
  },
  {
    "start": 358.0,
    "end": 361.0,
    "text": " Da ist ja auch festgelegt, wenn ein neues Medikament rausgegeben wird,"
  },
  {
    "start": 361.0,
    "end": 363.0,
    "text": " nach welcher Art und Weise das zu prüfen ist,"
  },
  {
    "start": 363.0,
    "end": 366.0,
    "text": " wird ja viel, viel mehr über den Prozess noch vorgegeben."
  },
  {
    "start": 366.0,
    "end": 368.0,
    "text": " Und das ist dann lustig, selbst wenn wir es national umsetzen,"
  },
  {
    "start": 368.0,
    "end": 371.0,
    "text": " wollen wir es natürlich harmonisiert umsetzen."
  },
  {
    "start": 371.0,
    "end": 373.0,
    "text": " Wir wollen ja nicht komplett anders prüfen in Deutschland,"
  },
  {
    "start": 373.0,
    "end": 376.0,
    "text": " als wir jetzt in Frankreich oder Polen oder Ungarn prüfen."
  },
  {
    "start": 376.0,
    "end": 378.0,
    "text": " Das heißt, das wird eigentlich nochmal super spannend."
  },
  {
    "start": 378.0,
    "end": 380.0,
    "text": " Der spannendste Teil kommt eben dann noch,"
  },
  {
    "start": 380.0,
    "end": 382.0,
    "text": " wenn es wirklich darum geht, sich abzustimmen."
  },
  {
    "start": 382.0,
    "end": 385.0,
    "text": " Jetzt hat es dir gerade schon von den technischen Standards gesprochen."
  },
  {
    "start": 385.0,
    "end": 389.0,
    "text": " Für mein Verständnis gehören da auch diese genannten Anforderungen"
  },
  {
    "start": 389.0,
    "end": 391.0,
    "text": " an Daten und Datensätze dazu."
  },
  {
    "start": 391.0,
    "end": 394.0,
    "text": " Ist das schon genauer beschrieben, wie das aussehen soll?"
  },
  {
    "start": 394.0,
    "end": 395.0,
    "text": " Und wenn ja, wie?"
  },
  {
    "start": 395.0,
    "end": 397.0,
    "text": " Ich denke, es gibt nur Ansätze."
  },
  {
    "start": 397.0,
    "end": 399.0,
    "text": " Und das ist eben auch ein bisschen die Frage,"
  },
  {
    "start": 399.0,
    "end": 400.0,
    "text": " wer soll das denn eigentlich beschreiben?"
  },
  {
    "start": 400.0,
    "end": 402.0,
    "text": " In den USA ist man ein bisschen andersrum vorgegangen."
  },
  {
    "start": 402.0,
    "end": 404.0,
    "text": " Da hat man mehr oder weniger der Industrie und der Forschung"
  },
  {
    "start": 404.0,
    "end": 407.0,
    "text": " uns so gesagt, macht mal freiwillig ein paar Vorschläge,"
  },
  {
    "start": 407.0,
    "end": 408.0,
    "text": " aber kümmert euch drum."
  },
  {
    "start": 408.0,
    "end": 410.0,
    "text": " Hier sagt man jetzt erstmal, wir gehen andersrum vor."
  },
  {
    "start": 410.0,
    "end": 414.0,
    "text": " In der Forschung gibt es Ansätze in Prüfinstanzen wie den TÜV und andere."
  },
  {
    "start": 414.0,
    "end": 417.0,
    "text": " Die haben natürlich jetzt Vorschläge gemacht zu diesen ganzen Dingen."
  },
  {
    "start": 417.0,
    "end": 420.0,
    "text": " Die müssen dann noch in technische Komitees ausgelagert werden"
  },
  {
    "start": 420.0,
    "end": 423.0,
    "text": " und dann eben letztendlich auch Teil der Verordnungen und der Gesetze werden."
  },
  {
    "start": 423.0,
    "end": 424.0,
    "text": " Also da wird es dann immer spannend,"
  },
  {
    "start": 424.0,
    "end": 426.0,
    "text": " weil bisher konnte man ja arbeitsteilig vorgehen,"
  },
  {
    "start": 426.0,
    "end": 429.0,
    "text": " ja Juristen konnten sich ja schöne Dinge ausdenken für die Regulierung,"
  },
  {
    "start": 429.0,
    "end": 432.0,
    "text": " aber irgendwann müssen dann die Techniker, die sich nicht notwendigerweise"
  },
  {
    "start": 432.0,
    "end": 434.0,
    "text": " gerne mit Regulierung beschäftigen."
  },
  {
    "start": 434.0,
    "end": 436.0,
    "text": " Irgendwann muss man dann zusammenarbeiten und sagen,"
  },
  {
    "start": 436.0,
    "end": 438.0,
    "text": " wie können wir das sinnvoll auf die Straße bringen?"
  },
  {
    "start": 438.0,
    "end": 441.0,
    "text": " Aber wenn man sich das jetzt anguckt, dass diese ganzen KI-Systeme"
  },
  {
    "start": 441.0,
    "end": 444.0,
    "text": " unter einer Konformität gehalten werden,"
  },
  {
    "start": 444.0,
    "end": 449.0,
    "text": " das braucht doch schon eine Masse an, ich sag mal, Zertifizierungsstellen"
  },
  {
    "start": 449.0,
    "end": 451.0,
    "text": " oder wie man es auch nennen mag."
  },
  {
    "start": 451.0,
    "end": 454.0,
    "text": " Und die ganzen Systeme, die hören ja jetzt nicht auf zu wachsen,"
  },
  {
    "start": 454.0,
    "end": 458.0,
    "text": " nur weil wir jetzt versuchen, das Ganze zu zertifizieren und konform zu halten."
  },
  {
    "start": 458.0,
    "end": 460.0,
    "text": " Und dann ist da auch noch eine Dynamik von der Zeit her,"
  },
  {
    "start": 460.0,
    "end": 462.0,
    "text": " wo das relativ schnell geht."
  },
  {
    "start": 462.0,
    "end": 466.0,
    "text": " Wie viele Stellen braucht man denn und muss das bundeseinheitlich"
  },
  {
    "start": 466.0,
    "end": 469.0,
    "text": " oder europaweit geregelt werden?"
  },
  {
    "start": 469.0,
    "end": 472.0,
    "text": " Oder muss das runtergebrochen werden auf ganz kleine Körner,"
  },
  {
    "start": 472.0,
    "end": 475.0,
    "text": " wie im kleinsten Fall vielleicht das Bundesland"
  },
  {
    "start": 475.0,
    "end": 478.0,
    "text": " oder eine Region im jeweiligen europäischen Land?"
  },
  {
    "start": 478.0,
    "end": 481.0,
    "text": " Das sind natürlich alles sehr gute Fragen."
  },
  {
    "start": 481.0,
    "end": 484.0,
    "text": " Ich habe ja am Anfang schon gesagt, diese Idee horizontal zu regulieren,"
  },
  {
    "start": 484.0,
    "end": 486.0,
    "text": " finde ich schwierig."
  },
  {
    "start": 486.0,
    "end": 488.0,
    "text": " Die ist natürlich erstmal eine gute Idee, dass man denkt, wunderbar,"
  },
  {
    "start": 488.0,
    "end": 491.0,
    "text": " dann haben wir das alles mit einem Rutsch und nicht jeder macht Science und so weiter."
  },
  {
    "start": 491.0,
    "end": 493.0,
    "text": " Aber letztlich wird man wahrscheinlich nicht umhinkommen,"
  },
  {
    "start": 493.0,
    "end": 495.0,
    "text": " sektor-spezifisch oder noch kleinteidiger,"
  },
  {
    "start": 495.0,
    "end": 498.0,
    "text": " vielleicht auch anwendungsspezifisch vorzugehen."
  },
  {
    "start": 498.0,
    "end": 501.0,
    "text": " Also was ein Entscheidungsunterstützungssystem im medizinischen Macht ist,"
  },
  {
    "start": 501.0,
    "end": 503.0,
    "text": " vielleicht was ähnliches, was das Entscheidungsunterstützungssystem"
  },
  {
    "start": 503.0,
    "end": 505.0,
    "text": " im Personalwesen macht."
  },
  {
    "start": 505.0,
    "end": 507.0,
    "text": " Und muss dann vielleicht gucken, dass man vielleicht für Systemtypen"
  },
  {
    "start": 507.0,
    "end": 510.0,
    "text": " und vielleicht für gewisse Branchen dann das Ganze runterbricht."
  },
  {
    "start": 510.0,
    "end": 512.0,
    "text": " Das ist wirklich eine interessante Zeit."
  },
  {
    "start": 512.0,
    "end": 515.0,
    "text": " Die Gewerkschaften machen Vorschläge, Betriebsräte wollen mitgehört werden."
  },
  {
    "start": 515.0,
    "end": 519.0,
    "text": " Wir haben wirklich ein großes interdisziplinäres Unternehmen vor uns."
  },
  {
    "start": 519.0,
    "end": 522.0,
    "text": " Vielleicht ist ja an der Gewinn, dass man zumindest mal darüber redet,"
  },
  {
    "start": 522.0,
    "end": 524.0,
    "text": " was sich da gerade so entwickelt."
  },
  {
    "start": 524.0,
    "end": 528.0,
    "text": " Aber vielleicht bleiben wir nochmal ganz kurz bei diesen Risikoklassen stehen."
  },
  {
    "start": 528.0,
    "end": 531.0,
    "text": " Das ist ja gerade schon auch kurz erwähnt."
  },
  {
    "start": 531.0,
    "end": 534.0,
    "text": " Das ist ja ein Kernpunkt, zumindest nach unserem Verständnis,"
  },
  {
    "start": 534.0,
    "end": 538.0,
    "text": " dass eben bestimmte KI-Systeme sehr stark reguliert werden"
  },
  {
    "start": 538.0,
    "end": 540.0,
    "text": " bzw. verboten werden."
  },
  {
    "start": 540.0,
    "end": 541.0,
    "text": " Die Anwendung von?"
  },
  {
    "start": 541.0,
    "end": 544.0,
    "text": " Die Anwendung von, danke für die Korrektur, die Anwendung von."
  },
  {
    "start": 544.0,
    "end": 546.0,
    "text": " Also das ist ja ein interessanter Punkt."
  },
  {
    "start": 546.0,
    "end": 550.0,
    "text": " Also die KI-Systeme dürfen weiter da sein, aber man darf sie nicht benutzen."
  },
  {
    "start": 550.0,
    "end": 552.0,
    "text": " Wenn man sie für bestimmte Dinge anwendet,"
  },
  {
    "start": 552.0,
    "end": 555.0,
    "text": " dann muss man eben bestimmte Dinge berücksichtigen, so würde ich sagen."
  },
  {
    "start": 555.0,
    "end": 557.0,
    "text": " Und gewisse Anwendungen sind gar nicht erlaubt."
  },
  {
    "start": 557.0,
    "end": 558.0,
    "text": " Ja, so muss man es sagen."
  },
  {
    "start": 558.0,
    "end": 560.0,
    "text": " Aber das Lustige ist, du musst ja die Anwendungen vorhersehen."
  },
  {
    "start": 560.0,
    "end": 563.0,
    "text": " Und so, wie ihr habt schon gesagt, so wie die Technik sich verändert,"
  },
  {
    "start": 563.0,
    "end": 566.0,
    "text": " wie die Möglichkeiten sich verhindert, muss man dann immer zu irgendeinem Zeitpunkt sagen,"
  },
  {
    "start": 566.0,
    "end": 568.0,
    "text": " na ja, ist das noch eine Anwendung, die im grünen Bereich ist?"
  },
  {
    "start": 568.0,
    "end": 571.0,
    "text": " Und das wird ja auch relativ oft gesagt, aber nicht oft genug,"
  },
  {
    "start": 571.0,
    "end": 573.0,
    "text": " dass eigentlich der AI-Eck natürlich davon ausgeht,"
  },
  {
    "start": 573.0,
    "end": 576.0,
    "text": " dass das groh der KI auch die Anwendung, die wir täglich nutzen,"
  },
  {
    "start": 576.0,
    "end": 579.0,
    "text": " eben unsere Rechtschreibkorrektur, unser Navi-System, unser Hautkrebsvorsorge"
  },
  {
    "start": 579.0,
    "end": 583.0,
    "text": " und so weiter, dass die sowieso in den grünen Bereich fallen und okay sind"
  },
  {
    "start": 583.0,
    "end": 585.0,
    "text": " und einfach benutzt werden können, wie sie sind."
  },
  {
    "start": 585.0,
    "end": 588.0,
    "text": " Und dann hat man eben diese Risikoklassen und sagt, ganz oben an der Spitze"
  },
  {
    "start": 588.0,
    "end": 590.0,
    "text": " hat man ein paar rote Linien, wo man sagt, das machen wir eben gar nicht."
  },
  {
    "start": 590.0,
    "end": 592.0,
    "text": " Überwachung im öffentlichen Raum oder war andere Dinge,"
  },
  {
    "start": 592.0,
    "end": 594.0,
    "text": " wo wir sagen, das ist grundsätzlich ausgeschlossen"
  },
  {
    "start": 594.0,
    "end": 597.0,
    "text": " oder je nachdem, wie man sich dann einigt und verwässert."
  },
  {
    "start": 597.0,
    "end": 599.0,
    "text": " Und das kommt noch erschwerend dazu,"
  },
  {
    "start": 599.0,
    "end": 603.0,
    "text": " weil man natürlich sowas eigentlich nicht innerhalb eines Gewissen"
  },
  {
    "start": 603.0,
    "end": 606.0,
    "text": " Rechtsgebiet regeln kann, ohne Auswirkungen auf die anderen."
  },
  {
    "start": 606.0,
    "end": 609.0,
    "text": " Aber jetzt kommt es ja noch toller. Man war ja schon ganz weit"
  },
  {
    "start": 609.0,
    "end": 611.0,
    "text": " mit seiner Regulierung, mit seinen Risikoklassen."
  },
  {
    "start": 611.0,
    "end": 615.0,
    "text": " Man hat über wichtige Begriffe wie Autonomie und menschliche Kontrolle"
  },
  {
    "start": 615.0,
    "end": 617.0,
    "text": " und so weiter gestritten und Definitionen errungen"
  },
  {
    "start": 617.0,
    "end": 620.0,
    "text": " und war kurz davor eben den Gesetzentwurf fertig zu haben"
  },
  {
    "start": 620.0,
    "end": 623.0,
    "text": " und da kam dann diese generativen KI-Systeme um die Ecke angefangen"
  },
  {
    "start": 623.0,
    "end": 626.0,
    "text": " mit JetGPT und mit Mid Journey and Stable Diffusion"
  },
  {
    "start": 626.0,
    "end": 629.0,
    "text": " und wie sie alle heißen heute, so viel, dass man sie nicht mehr aufzählen kann."
  },
  {
    "start": 629.0,
    "end": 632.0,
    "text": " Plötzlich musste man nacharbeiten."
  },
  {
    "start": 632.0,
    "end": 635.0,
    "text": " Es macht keinen Sinn, ein AI-Eck der nächstes Jahr ein Krafttritt rauszugeben,"
  },
  {
    "start": 635.0,
    "end": 638.0,
    "text": " wo diese Systeme überhaupt keine Berücksichtigung finden."
  },
  {
    "start": 638.0,
    "end": 641.0,
    "text": " Und dann ist man eben schon an der Stelle inkonsistent geworden"
  },
  {
    "start": 641.0,
    "end": 643.0,
    "text": " und hat plötzlich nicht mehr die Anwendung reguliert,"
  },
  {
    "start": 643.0,
    "end": 645.0,
    "text": " sondern die Technologie selber."
  },
  {
    "start": 645.0,
    "end": 647.0,
    "text": " Man fing dann an von der Anzahl von Rechenoperationen"
  },
  {
    "start": 647.0,
    "end": 649.0,
    "text": " beim Training der Modelle einzuschreiben."
  },
  {
    "start": 649.0,
    "end": 651.0,
    "text": " Ab wann ist es denn überhaupt ein großes Modell"
  },
  {
    "start": 651.0,
    "end": 653.0,
    "text": " und solche Scherze, die man sich dann erlaubt hat,"
  },
  {
    "start": 653.0,
    "end": 655.0,
    "text": " dann ist man schon abgewichen von dieser Idee,"
  },
  {
    "start": 655.0,
    "end": 657.0,
    "text": " wir regulieren die Anwendung, weil es so viele Anwendungen gibt,"
  },
  {
    "start": 657.0,
    "end": 659.0,
    "text": " dass man gar nicht mehr quasi ab Anwendung vorgehen kann."
  },
  {
    "start": 659.0,
    "end": 661.0,
    "text": " Dann hat man gesagt, na ja, dann reden wir halt an der Stelle doch"
  },
  {
    "start": 661.0,
    "end": 663.0,
    "text": " über foundationalen Muzzle, langenglish-models und so weiter."
  },
  {
    "start": 663.0,
    "end": 665.0,
    "text": " Kommt dann per se mit einem großen Risiko,"
  },
  {
    "start": 665.0,
    "end": 668.0,
    "text": " was eben möglicherweise hinterher für die Leute,"
  },
  {
    "start": 668.0,
    "end": 671.0,
    "text": " die es und wenn es auch nur an einer kleinen Stelle anwenden wollen,"
  },
  {
    "start": 671.0,
    "end": 673.0,
    "text": " irgendwo in ihrer Prozesskette,"
  },
  {
    "start": 673.0,
    "end": 676.0,
    "text": " möglicherweise dann zu Dokumentationspflichten zu führen,"
  },
  {
    "start": 676.0,
    "end": 678.0,
    "text": " dass sie ein Meldewesen einführen müssen,"
  },
  {
    "start": 678.0,
    "end": 679.0,
    "text": " Mitigation, Measures, ja,"
  },
  {
    "start": 679.0,
    "end": 681.0,
    "text": " und möglicherweise dann ganz viele Dinge machen"
  },
  {
    "start": 681.0,
    "end": 683.0,
    "text": " und dann man sich entscheiden muss."
  },
  {
    "start": 683.0,
    "end": 686.0,
    "text": " Will ich das dann wirklich nutzen oder nutze ich das System nicht"
  },
  {
    "start": 686.0,
    "end": 688.0,
    "text": " und gehe vielleicht auf andere Technologie zurück"
  },
  {
    "start": 688.0,
    "end": 690.0,
    "text": " und habe eigentlich schlechterer Ergebnis am Ende des Tages,"
  },
  {
    "start": 690.0,
    "end": 691.0,
    "text": " weil es mir zu viel war."
  },
  {
    "start": 691.0,
    "end": 693.0,
    "text": " Und jetzt könnte man es noch weiter treiben."
  },
  {
    "start": 693.0,
    "end": 696.0,
    "text": " Es ist ja nicht nur die Anwendung von möglicherweise"
  },
  {
    "start": 696.0,
    "end": 699.0,
    "text": " oder tatsächlich manipulierenden KI-Systemen,"
  },
  {
    "start": 699.0,
    "end": 702.0,
    "text": " die dann eben verboten wird, Social Credit Systeme,"
  },
  {
    "start": 702.0,
    "end": 704.0,
    "text": " zum Beispiel, oder eben auch möglicherweise"
  },
  {
    "start": 704.0,
    "end": 706.0,
    "text": " personalisierte Nachrichten-Feed-Algorithmen,"
  },
  {
    "start": 706.0,
    "end": 708.0,
    "text": " je nachdem, wie die gestaltet sind."
  },
  {
    "start": 708.0,
    "end": 711.0,
    "text": " Wenn jetzt aber dann umgekehrt, wie jetzt gerade bei Instagram passiert,"
  },
  {
    "start": 711.0,
    "end": 714.0,
    "text": " politische Inhalte grundsätzlich ausgeblendet werden"
  },
  {
    "start": 714.0,
    "end": 717.0,
    "text": " und man das aktiv und nur sehr versteckt einschalten muss,"
  },
  {
    "start": 717.0,
    "end": 719.0,
    "text": " um das überhaupt noch zu bekommen,"
  },
  {
    "start": 719.0,
    "end": 722.24,
    "text": " kann mit Tumandanich auch über eine Manipulation sprechen."
  },
  {
    "start": 722.41,
    "end": 723.97,
    "text": " Wie ist die dann reguliert?"
  },
  {
    "start": 723.97,
    "end": 728.65,
    "text": " Ja, das haben wir auch in der Enquete-Kommission KI, wo ich ja Mitglied sein durfte, 2018 bis"
  },
  {
    "start": 728.65,
    "end": 730.13,
    "text": " 2020 auch immer diskutiert."
  },
  {
    "start": 730.13,
    "end": 735.85,
    "text": " Das sind natürlich immer zwei Seiten einer Medaille, die einerseits Freiheit, Meinungsvielfalt,"
  },
  {
    "start": 735.85,
    "end": 740.61,
    "text": " Meinungsfreiheit und auf der anderen Seite eben Kontrolle und das Abwenden von Fakes"
  },
  {
    "start": 740.61,
    "end": 745.25,
    "text": " und von Hassrede und von anderen Dingen, die unerwünscht sind und auch demokratiegefährdenden"
  },
  {
    "start": 745.25,
    "end": 746.25,
    "text": " Aktivitäten dort."
  },
  {
    "start": 746.25,
    "end": 747.69,
    "text": " Und das ist ein schmaler Grad."
  },
  {
    "start": 747.69,
    "end": 750.41,
    "text": " Also da hat, glaube ich, keiner die Lösung oder die Antwort."
  },
  {
    "start": 750.41,
    "end": 753.93,
    "text": " Viele reden natürlich, lass uns über Open Source reden, lass uns über eine Pluralität"
  },
  {
    "start": 753.93,
    "end": 757.89,
    "text": " von System reden, solange das alles Monopole sind, macht es die Sache natürlich nicht"
  },
  {
    "start": 757.89,
    "end": 758.89,
    "text": " einfach."
  },
  {
    "start": 758.89,
    "end": 762.09,
    "text": " Das heißt, vielleicht schon, wenn man sie dazu bringen könnte, demokratieförderlich zu"
  },
  {
    "start": 762.09,
    "end": 764.81,
    "text": " arbeiten, aber ich meine momentan folgen Sie halt einer Marktlogik."
  },
  {
    "start": 764.81,
    "end": 769.45,
    "text": " Und wenn man dann noch betrachtet, dass wir nicht mehr nur über Anwendungen reden, die"
  },
  {
    "start": 769.45,
    "end": 773.81,
    "text": " reguliert werden, sondern über KI-Systeme selbst, ist es dann nicht auch so, dass ich"
  },
  {
    "start": 773.81,
    "end": 778.81,
    "text": " den AI-Akt auch ein Stück weit als möglicherweise Innovationskiller sehen kann, weil er viel"
  },
  {
    "start": 778.81,
    "end": 780.29,
    "text": " zu viel reguliert."
  },
  {
    "start": 780.29,
    "end": 785.65,
    "text": " Wenn wir auch noch mal ins Ausland schälen, USA, China etc., die ja ganz andere Regularien,"
  },
  {
    "start": 785.65,
    "end": 790.29,
    "text": " möchte ich mal sagen, laxere Regularien haben, geraten wir dann nicht auch ein bisschen ins"
  },
  {
    "start": 790.29,
    "end": 791.49,
    "text": " Hintertreffen in Europa."
  },
  {
    "start": 791.49,
    "end": 796.65,
    "text": " Das hat man ja versucht mit diesen sogenannten regulatorischen Sandkästen ein bisschen abzumildern,"
  },
  {
    "start": 796.65,
    "end": 799.73,
    "text": " dass man sagt, unter bestimmten Bedingungen, in bestimmten Bereichen kann man vielleicht"
  },
  {
    "start": 799.73,
    "end": 805.05,
    "text": " auch mal mit einer vorausallenden Regulierung und mit Einverständnis oder so Dinge ausprobieren"
  },
  {
    "start": 805.05,
    "end": 808.57,
    "text": " auch jetzt, bevor die Regulierung vielleicht da ist und auch später noch."
  },
  {
    "start": 808.57,
    "end": 813.01,
    "text": " Aber ich fürchte auch, man kauft sich da möglicherweise dann doch einen ganzen Rattenschwanz"
  },
  {
    "start": 813.01,
    "end": 815.77,
    "text": " von Maßnahmen ein, dem man dann genügen muss."
  },
  {
    "start": 815.77,
    "end": 819.25,
    "text": " Die Forschung soll ja angeblich Ausnahmen haben, aber man kennt das ja auch von anderen"
  },
  {
    "start": 819.25,
    "end": 823.41,
    "text": " Dingen, der DSGVO oder so hat ja total auch Blüten getrieben, dass du dann keine Klassenliste"
  },
  {
    "start": 823.41,
    "end": 826.69,
    "text": " mehr im Kindergarten bekommst oder in der Schule, weil die Leute sich nicht mehr trauen"
  },
  {
    "start": 826.69,
    "end": 830.93,
    "text": " oder die Lehrer sich nicht mehr trauen, da irgendwie eine Telefonnummer von den Eltern"
  },
  {
    "start": 830.93,
    "end": 834.69,
    "text": " rumzuschicken, was mit Sicherheit nicht intendiert war, als das Gesetz gemacht wurde."
  },
  {
    "start": 834.69,
    "end": 837.93,
    "text": " Man hat ganz andere Dinge gedacht, aber am Ende des Tages läuft es dann darauf hinaus,"
  },
  {
    "start": 837.93,
    "end": 841.01,
    "text": " dass Leute dann den Mut verlieren und überreagieren an solchen Stellen."
  },
  {
    "start": 841.01,
    "end": 844.97,
    "text": " Das heißt, es ist ja nicht mal notwendigerweise die Frage nur für was ist das Gesetz gemacht"
  },
  {
    "start": 844.97,
    "end": 846.93,
    "text": " und eben auch, wie wird es dann hinterher gelebt?"
  },
  {
    "start": 846.93,
    "end": 850.09,
    "text": " Und wenn das dann eben zu einem Klima der Angst führt?"
  },
  {
    "start": 850.09,
    "end": 855.77,
    "text": " Ja, und wenn man es dann auch nochmal rumdreht und sagt, okay, wir regulieren das zwar,"
  },
  {
    "start": 855.77,
    "end": 859.01,
    "text": " aber bei manchen Systemen existiert so eine Tiefe."
  },
  {
    "start": 859.01,
    "end": 863.89,
    "text": " Also, beispielsweise die Modellierung von Deep Learning, die basiert ja auf diesen sogenannten"
  },
  {
    "start": 863.89,
    "end": 868.69,
    "text": " Blackbox-Modellen, die nicht bis in die letzte Ebene transparent gemacht oder transparent"
  },
  {
    "start": 868.69,
    "end": 869.69,
    "text": " erklärt werden können."
  },
  {
    "start": 869.69,
    "end": 874.97,
    "text": " Also, ist hier überhaupt das Ziel des AI-Aggs, wenn man schon anfängt, dieses Thema ein bisschen"
  },
  {
    "start": 874.97,
    "end": 876.97,
    "text": " zu regulieren, überhaupt umsetzbar?"
  },
  {
    "start": 876.97,
    "end": 881.25,
    "text": " Und vor allen Dingen, wenn ich eben Systeme auch noch verwenden will, die schon da sind,"
  },
  {
    "start": 881.25,
    "end": 884.69,
    "text": " dann müsste ich ja auch denjenigen zwingen, mir auch zum Beispiel seine Trainingsdaten"
  },
  {
    "start": 884.69,
    "end": 886.21,
    "text": " offen zu legen, komplett."
  },
  {
    "start": 886.21,
    "end": 889.53,
    "text": " Also, das ist ja bisher auch nicht so, das werden die Anbieter vielleicht dann nachholen."
  },
  {
    "start": 889.53,
    "end": 892.37,
    "text": " Das gab es natürlich in der Vergangenheit auch, dass Dinge plötzlich gehen."
  },
  {
    "start": 892.37,
    "end": 895.69,
    "text": " Die EU ist ja jetzt auch nicht niemand, ja, so ein paar Hundert Millionen Kunden, die möchte"
  },
  {
    "start": 895.69,
    "end": 897.17,
    "text": " man vielleicht auch weiter behalten."
  },
  {
    "start": 897.17,
    "end": 900.49,
    "text": " Da gibt es dann auch noch solche Aspekte, dass zum Beispiel Juristen sehr wohlmeinend"
  },
  {
    "start": 900.49,
    "end": 904.05,
    "text": " in solche Gesetze reingeschrieben haben, dann soll man die involvierte Logik, the logic"
  },
  {
    "start": 904.05,
    "end": 905.77,
    "text": " involved eines Systems erklären."
  },
  {
    "start": 905.77,
    "end": 909.65,
    "text": " Wenn es automatisierte Entscheidungen herbeiführt, kann man darüber diskutieren, was eine automatisierte"
  },
  {
    "start": 909.65,
    "end": 910.65,
    "text": " Entscheidung eigentlich ist."
  },
  {
    "start": 910.65,
    "end": 913.09,
    "text": " Aber wie erklärt man die Logik eines solchen Systems?"
  },
  {
    "start": 913.09,
    "end": 915.61,
    "text": " Wie will man das erklären, nach welcher Logik das funktioniert?"
  },
  {
    "start": 915.61,
    "end": 918.85,
    "text": " Na ja, Next-Word-Prediction, und damit war es das, das erklärt aber nichts."
  },
  {
    "start": 918.85,
    "end": 922.21,
    "text": " Und dann gibt es da auch Dinge, die stehen jetzt im AI-Akt drin, zum Beispiel, dass für"
  },
  {
    "start": 922.21,
    "end": 926.41,
    "text": " bestimmte Anwendungen man dann garantieren soll, dass die Trainingsdaten vollständig"
  },
  {
    "start": 926.41,
    "end": 927.41,
    "text": " und fehlerfrei."
  },
  {
    "start": 927.41,
    "end": 931.81,
    "text": " Ich trainiere jetzt ein System für Human Resource Management, was meine eingegangenen CVs irgendwie"
  },
  {
    "start": 931.81,
    "end": 936.81,
    "text": " sortiert, und da muss ich eben in meinen Trainingsdaten für diese Aufgabe nachweisen, dass das vollständig"
  },
  {
    "start": 936.81,
    "end": 937.81,
    "text": " und fehlerfrei war."
  },
  {
    "start": 937.81,
    "end": 940.25,
    "text": " Und damit ist es schwierig."
  },
  {
    "start": 940.25,
    "end": 942.33,
    "text": " Ja, klingt ein bisschen utopisch."
  },
  {
    "start": 942.33,
    "end": 946.65,
    "text": " Ein Ziel ist ja auch gewesen, dass man nicht nur reguliert, sondern transparent und verständlich"
  },
  {
    "start": 946.65,
    "end": 948.25,
    "text": " machen wollte, was dahinter steckt."
  },
  {
    "start": 948.25,
    "end": 952.17,
    "text": " Das scheint doch schon einen Trugschluss zu sein, dass das eben bei bestimmten Systemen"
  },
  {
    "start": 952.17,
    "end": 955.69,
    "text": " möglicherweise gar nicht funktioniert, weil sonst diese Systeme nicht funktionieren würden."
  },
  {
    "start": 955.69,
    "end": 960.61,
    "text": " Die Crux ist ja, wenn Probleme auftauchen, dann wollen wir nicht einen dreidefährigen"
  },
  {
    "start": 960.61,
    "end": 964.37,
    "text": " Gesetzesgebungsprozess anstoßen müssen, weil es dann viel zu spät wäre."
  },
  {
    "start": 964.37,
    "end": 967.77,
    "text": " Ja, wir haben so ein bisschen ein Problem, dass natürlich unser Rechtssystem nicht darauf"
  },
  {
    "start": 967.77,
    "end": 969.93,
    "text": " geeicht ist, so agil zu sein."
  },
  {
    "start": 969.93,
    "end": 973.77,
    "text": " Ja, dass man sagt, wir machen eine Rahmengesetzgebung und können dann, wenn das Problem auftritt,"
  },
  {
    "start": 973.77,
    "end": 977.81,
    "text": " sehr schnell wirklich die geeignete Maßnahme uns ausdenken, die dann die geeignete Art"
  },
  {
    "start": 977.81,
    "end": 983.09,
    "text": " von transparentstige, geeignete Art von Dokumentation für den jeweiligen Zweck, für die jeweilige"
  },
  {
    "start": 983.09,
    "end": 984.77,
    "text": " Kundschaft auch, die damit zu tun hat."
  },
  {
    "start": 984.77,
    "end": 988.53,
    "text": " Oder sind es Experten, sind es Endnutzer, sind es vielleicht vulnerabile Personen, denen"
  },
  {
    "start": 988.53,
    "end": 991.93,
    "text": " man das ganz anders vermitteln muss, dass man eigentlich dann gezielt sagen müsste, für"
  },
  {
    "start": 991.93,
    "end": 995.29,
    "text": " diese eine Sache, die hier schief geht, müssten wir eigentlich den Riegel davor schieben,"
  },
  {
    "start": 995.29,
    "end": 996.65,
    "text": " dass es in Zukunft so und so passiert."
  },
  {
    "start": 996.65,
    "end": 997.93,
    "text": " Da haben wir jetzt, glaube ich, das Problem."
  },
  {
    "start": 997.93,
    "end": 1001.89,
    "text": " Italien hat ja Chatchipiti irgendwann mal abgeschaltet wegen DSGVO-Verstößen."
  },
  {
    "start": 1001.89,
    "end": 1005.01,
    "text": " Wenn man dann solche Mittel einsetzen muss und dann sagt die Firma sofort drei Tage später"
  },
  {
    "start": 1005.01,
    "end": 1006.01,
    "text": " dann ist wieder gut."
  },
  {
    "start": 1006.01,
    "end": 1007.41,
    "text": " So was möchte man vermeiden."
  },
  {
    "start": 1007.41,
    "end": 1008.41,
    "text": " Das verstehe ich auch."
  },
  {
    "start": 1008.41,
    "end": 1012.29,
    "text": " Wenn wir nochmal auf die Risiken gucken, wir haben es vorher schon mal angesprochen,"
  },
  {
    "start": 1012.29,
    "end": 1017.33,
    "text": " KI-Systeme gibt es heute schon, manche sind noch in irgendeinem Entwicklungsstadium und"
  },
  {
    "start": 1017.33,
    "end": 1022.81,
    "text": " kommen ziemlich rasant auf uns zu und da zeigen sich auch die entsprechenden Risiken erst,"
  },
  {
    "start": 1022.81,
    "end": 1024.65,
    "text": " wenn sie vielleicht schon auf dem Markt sind."
  },
  {
    "start": 1024.65,
    "end": 1028.81,
    "text": " Naja und auf der anderen Seite haben wir eher lahme Modelle wie zum Beispiel die Empfehlungsalgorithmen"
  },
  {
    "start": 1028.81,
    "end": 1033.61,
    "text": " in sozialen Medien, die sind gar nicht besonders spannend, aber sie führen zu demokratisch riesigen"
  },
  {
    "start": 1033.61,
    "end": 1037.73,
    "text": " Zerwürfnissen und spülen Content hoch und lassen da eine rechte Szene entstehen."
  },
  {
    "start": 1037.73,
    "end": 1041.53,
    "text": " Gerade würden Politiker in Deutschland angegriffen von einem aufgeheizten Mob."
  },
  {
    "start": 1041.53,
    "end": 1044.53,
    "text": " Das heißt, die Systeme selber waren gar nicht irgendwie sophisticated."
  },
  {
    "start": 1044.53,
    "end": 1047.81,
    "text": " Laufen seit Jahren, werden immer mal ein bisschen besser und schlagwertiger oder so, aber die"
  },
  {
    "start": 1047.81,
    "end": 1051.61,
    "text": " Systeme selber sind jetzt nicht das, was einem vom Hocker haut, aber diese Skalierung, dass"
  },
  {
    "start": 1051.61,
    "end": 1055.41,
    "text": " die eben Millionen von Usern mit Content bedienen können und gegeneinander aufhetzen können."
  },
  {
    "start": 1055.41,
    "end": 1057.33,
    "text": " Das ist das, was einem eigentlich Angst macht."
  },
  {
    "start": 1057.33,
    "end": 1061.05,
    "text": " Das ist die Anwendung, die hier einem Sorgen macht und nicht die Intelligenz des Systems."
  },
  {
    "start": 1061.05,
    "end": 1065.85,
    "text": " Vor allen Dingen, wenn die Leute oder die Industrie damit drin sitzt, die die Regularien"
  },
  {
    "start": 1065.85,
    "end": 1070.01,
    "text": " erstellt und guckt, was eigentlich braucht, irgendwann kommt man zu einem KI-System,"
  },
  {
    "start": 1070.01,
    "end": 1074.57,
    "text": " das sich selbst reguliert, beziehungsweise KI, das so autonom handelt, dass ein menschliches"
  },
  {
    "start": 1074.57,
    "end": 1078.13,
    "text": " Eingreifen zwar möglich, aber nicht unbedingt mehr nötig ist."
  },
  {
    "start": 1078.13,
    "end": 1083.09,
    "text": " Wann gibt es denn einen Zeitpunkt, dass sich KI gar nicht mehr regulieren lässt und wir"
  },
  {
    "start": 1083.09,
    "end": 1086.77,
    "text": " uns mit solchen Sachen wie AI-Act eigentlich gar nicht mehr beschäftigen müssen?"
  },
  {
    "start": 1086.77,
    "end": 1090.85,
    "text": " Also noch reden wir über Computersysteme, die auf einem Rechner laufen und man kann"
  },
  {
    "start": 1090.85,
    "end": 1092.57,
    "text": " den Ausschalten und dann ist Ruhe."
  },
  {
    "start": 1092.57,
    "end": 1097.97,
    "text": " Wir reden jetzt noch nicht hier von dystopischen Fantasien, von Systemen, die dann dem Rechenzentrums-Betreiber"
  },
  {
    "start": 1097.97,
    "end": 1100.33,
    "text": " irgendwie einlullen, damit er sich nicht traut."
  },
  {
    "start": 1100.33,
    "end": 1101.65,
    "text": " Das ist ja eher Science-Fiction."
  },
  {
    "start": 1101.65,
    "end": 1105.05,
    "text": " Das heißt, die Vergleiche, die man zum Teil hat, sagen wir mal, mit Gentechnik oder mit"
  },
  {
    "start": 1105.05,
    "end": 1107.45,
    "text": " Atomkraft, dass man sagt, wir treffen hier Entscheidungen."
  },
  {
    "start": 1107.45,
    "end": 1111.33,
    "text": " Und wenn du das strahlende Zeug da hast oder einmal das gehtveränderte Mais auf den Feld,"
  },
  {
    "start": 1111.33,
    "end": 1113.21,
    "text": " du kriegst du das nicht in die Tube zurück."
  },
  {
    "start": 1113.21,
    "end": 1116.13,
    "text": " Ich glaube, diese Gefahren bestehen ja jetzt erst mal nicht."
  },
  {
    "start": 1116.13,
    "end": 1119.65,
    "text": " Als Wissenschaftler kann ich nie sagen, es kann sein, du stellst ein Supercomputer an"
  },
  {
    "start": 1119.65,
    "end": 1122.73,
    "text": " und der sagt, Papi, das will ich nicht ausschließen, dass wir das noch erleben."
  },
  {
    "start": 1122.73,
    "end": 1125.85,
    "text": " Aber ich denke mal, mit der jetzigen Geschwindigkeit und dem, wie wir vorgehen, sehe ich eigentlich"
  },
  {
    "start": 1125.85,
    "end": 1127.17,
    "text": " nicht diesen Moment kommen."
  },
  {
    "start": 1127.17,
    "end": 1131.41,
    "text": " Und auf der anderen Seite haben wir im Alltag ja auch oft nur die Fiktion von Kontrolle."
  },
  {
    "start": 1131.41,
    "end": 1135.61,
    "text": " Schönstes Beispiel, du fährst in Deutschland mit 250 über die Autobahn und du meinst,"
  },
  {
    "start": 1135.61,
    "end": 1137.13,
    "text": " du hättest Kontrolle über dein Auto."
  },
  {
    "start": 1137.13,
    "end": 1139.01,
    "text": " Das ist natürlich vollkommen der Quatsch."
  },
  {
    "start": 1139.01,
    "end": 1140.69,
    "text": " Ja, das ist ein reines Glücksspiel."
  },
  {
    "start": 1140.69,
    "end": 1142.89,
    "text": " Im Normalfall geht es auch gut, wenn die Strecke frei ist."
  },
  {
    "start": 1142.89,
    "end": 1146.69,
    "text": " Aber unsere ganze Kognition und so ist nicht darauf ausgelegt, mit 250 km/h sich durch die"
  },
  {
    "start": 1146.69,
    "end": 1149.41,
    "text": " Gegend zu bewegen und das kann man auch nicht mehr die Bremsen kontrollieren."
  },
  {
    "start": 1149.41,
    "end": 1150.41,
    "text": " Das wissen wir alle eigentlich."
  },
  {
    "start": 1150.41,
    "end": 1154.41,
    "text": " Ja, das ist eine Illusion von Kontrolle, die wir haben und trotzdem leben wir ganz gut damit."
  },
  {
    "start": 1154.41,
    "end": 1157.41,
    "text": " Aber danke für dieses schöne dystopische Beispiel."
  },
  {
    "start": 1157.41,
    "end": 1158.41,
    "text": " Endlich mal."
  },
  {
    "start": 1158.41,
    "end": 1160.41,
    "text": " Mein Auto kann nicht 250 fahren."
  },
  {
    "start": 1160.41,
    "end": 1161.41,
    "text": " Oh, meinst auch nicht."
  },
  {
    "start": 1161.41,
    "end": 1164.01,
    "text": " Meinst es mit 80 km/h schon so laut, als würde man nicht 90 fahren."
  },
  {
    "start": 1164.01,
    "end": 1166.41,
    "text": " Genau, die Illusion von Kontrolle ist wahrscheinlich trotzdem..."
  },
  {
    "start": 1166.41,
    "end": 1168.41,
    "text": " Aber meinst kann sagen, ich fahr zu schnell."
  },
  {
    "start": 1168.41,
    "end": 1170.41,
    "text": " Zu sich selber oder für dein Selbstgespräche?"
  },
  {
    "start": 1170.41,
    "end": 1171.41,
    "text": " Das ist für das Selbstgespräche."
  },
  {
    "start": 1171.41,
    "end": 1173.41,
    "text": " Ich bin halt nur der, der das mitkriegt."
  },
  {
    "start": 1173.41,
    "end": 1174.41,
    "text": " Ja, okay."
  },
  {
    "start": 1174.41,
    "end": 1179.41,
    "text": " Aber zurück zu dem Ernst dieser möglichen oder vielleicht auch tatsächlich unmöglichen"
  },
  {
    "start": 1179.41,
    "end": 1183.41,
    "text": " oder unwahrscheinlichen Systopie, diskutieren wir dann unter diesem Deckmantel, künstliche"
  },
  {
    "start": 1183.41,
    "end": 1190.41,
    "text": " Intelligenz oder KI-Systeme regulieren zu wollen, nicht ganz andere gesellschaftspolitische Fragen."
  },
  {
    "start": 1190.41,
    "end": 1191.41,
    "text": " Ja, das denke ich schon."
  },
  {
    "start": 1191.41,
    "end": 1192.41,
    "text": " Das kenne ich auch."
  },
  {
    "start": 1192.41,
    "end": 1195.41,
    "text": " Wir haben in der Enquete immer gesagt, wir wollen nicht alle Probleme des Internets lösen"
  },
  {
    "start": 1195.41,
    "end": 1199.41,
    "text": " unter dem Stichwort KI, aber letztendlich ist es natürlich so, dass böse Menschen,"
  },
  {
    "start": 1199.41,
    "end": 1203.41,
    "text": " die digitalen Techniken nutzen, um andere zu manipulieren, sei es eben zu Kaufentscheidungen"
  },
  {
    "start": 1203.41,
    "end": 1206.41,
    "text": " oder sei es zu politischen Entscheidungen, auch Leute aus dem Ausland natürlich und"
  },
  {
    "start": 1206.41,
    "end": 1210.41,
    "text": " nicht Demokratische leider mehr und mehr Kräfte aus dem Inland gibt, die Interesse daran haben,"
  },
  {
    "start": 1210.41,
    "end": 1213.41,
    "text": " Leute gegeneinander aufzuhetzen und Leute scharf zu machen."
  },
  {
    "start": 1213.41,
    "end": 1218.41,
    "text": " Und vieles von dem wird dann eben natürlich über KI und durch KI thematisiert und diskutiert,"
  },
  {
    "start": 1218.41,
    "end": 1221.41,
    "text": " obwohl die darunter liegende KI vielleicht gar nicht wahnsinnig spannend ist."
  },
  {
    "start": 1221.41,
    "end": 1226.41,
    "text": " Aber das ist schon so, es zwingt uns immer wieder auch unser digitales Zusammenleben uns anzugucken"
  },
  {
    "start": 1226.41,
    "end": 1227.41,
    "text": " und uns zu fragen."
  },
  {
    "start": 1227.41,
    "end": 1230.41,
    "text": " Man will nicht Überwachungsstaaten haben wie in China, auch das sind natürlich Sachen,"
  },
  {
    "start": 1230.41,
    "end": 1234.41,
    "text": " die technisch leichter gehen mit KI als ohne, also Stasi Werger Stolz."
  },
  {
    "start": 1234.41,
    "end": 1237.41,
    "text": " Auf das, was heute geht, ja als die Kassetten noch per Hand abgetippt wurden, da ist man"
  },
  {
    "start": 1237.41,
    "end": 1239.41,
    "text": " natürlich heute in einer anderen Situation."
  },
  {
    "start": 1239.41,
    "end": 1243.41,
    "text": " Und dafür ist die Datenflut auch immens größer geworden, exponentiell."
  },
  {
    "start": 1243.41,
    "end": 1246.41,
    "text": " Also ich weiß nicht, ob sie damit genauso wenig hinterhergekommen werden wie damals."
  },
  {
    "start": 1246.41,
    "end": 1247.41,
    "text": " Wäre auch möglich, ja."
  },
  {
    "start": 1247.41,
    "end": 1252.41,
    "text": " Aber ich frag mich das tatsächlich wirklich, ob wir da möglicherweise dann nicht an der"
  },
  {
    "start": 1252.41,
    "end": 1256.41,
    "text": " falschen Stelle ansetzen, Dinge regulieren zu wollen, ob wir dann nicht möglicherweise."
  },
  {
    "start": 1256.41,
    "end": 1260.41,
    "text": " Und dann geht es jetzt aber wirklich schon ins philosophische, ganz andere Dinge regulieren"
  },
  {
    "start": 1260.41,
    "end": 1263.41,
    "text": " müssten, als wir gerade mit dem AI-Akt reguliert haben."
  },
  {
    "start": 1263.41,
    "end": 1265.41,
    "text": " Und erschweren kommen noch so ein paar Dinge hinzu."
  },
  {
    "start": 1265.41,
    "end": 1270.41,
    "text": " Das bestimmte Branchen sage ich jetzt mal, wie zum Beispiel der Journalismus oder das Bildungssystem,"
  },
  {
    "start": 1270.41,
    "end": 1273.41,
    "text": " die schon seit Jahren in verschiedenen Krisen sind."
  },
  {
    "start": 1273.41,
    "end": 1277.41,
    "text": " Und was nicht gut ist für die Demokratie, was nicht gut ist, dafür so ein Diskurs zu führen,"
  },
  {
    "start": 1277.41,
    "end": 1282.41,
    "text": " dass die teilweise auch bei dieser Technologie ihre Schwierigkeiten haben oder sich gar bedroht"
  },
  {
    "start": 1282.41,
    "end": 1283.41,
    "text": " fühlen durch die Technologie."
  },
  {
    "start": 1283.41,
    "end": 1288.41,
    "text": " Und deshalb auch ein verzerrter Diskurs stattfinden oder der Diskurs überhaupt nicht angefangen"
  },
  {
    "start": 1288.41,
    "end": 1289.41,
    "text": " wird."
  },
  {
    "start": 1289.41,
    "end": 1290.41,
    "text": " Oder man sagt, das verstehe ich eh nicht."
  },
  {
    "start": 1290.41,
    "end": 1292.41,
    "text": " Da möchte ich mich gar nicht mit beschäftigen."
  },
  {
    "start": 1292.41,
    "end": 1295.41,
    "text": " Das heißt, wir haben auch Berührungsängste an Stellen, wo wir sie eigentlich gar nicht"
  },
  {
    "start": 1295.41,
    "end": 1297.41,
    "text": " haben dürften, sondern das Gegenteil sein müsste."
  },
  {
    "start": 1297.41,
    "end": 1302.41,
    "text": " Wo eigentlich genau die Leute, die sich eben mit Bildung, mit Weiterbildung, mit Journalismus,"
  },
  {
    "start": 1302.41,
    "end": 1306.41,
    "text": " mit Informationen der Leute beschäftigen, gerade die müssten natürlich ganz vorne sein im"
  },
  {
    "start": 1306.41,
    "end": 1307.41,
    "text": " Diskurs und mitmachen."
  },
  {
    "start": 1307.41,
    "end": 1310.41,
    "text": " Das heißt, niemand muss Techniker werden, das ist völlig klar."
  },
  {
    "start": 1310.41,
    "end": 1315.41,
    "text": " Man muss sich sozusagen die Themen aufzufalten und durchzugehen und zu sagen, wie möchten"
  },
  {
    "start": 1315.41,
    "end": 1316.41,
    "text": " wir zusammenleben?"
  },
  {
    "start": 1316.41,
    "end": 1320.41,
    "text": " Wie möchten wir damit obengehen, dass wir Dinge stärker kontrollieren können, möglicherweise"
  },
  {
    "start": 1320.41,
    "end": 1325.41,
    "text": " vielleicht auch zum Guten, ja, vielleicht sicherlich auch zum Schlechten manipulieren können."
  },
  {
    "start": 1325.41,
    "end": 1326.41,
    "text": " Aber das muss diskutiert werden."
  },
  {
    "start": 1326.41,
    "end": 1329.41,
    "text": " Und da muss man dann eben im Einzelnen sich mit beschäftigen und drüber reden."
  },
  {
    "start": 1329.41,
    "end": 1334.41,
    "text": " Und das ist so ein bisschen meine Sorge, dass wir da eben auch KI zum Teil als Saudi-Storff"
  },
  {
    "start": 1334.41,
    "end": 1335.41,
    "text": " getrieben wird."
  },
  {
    "start": 1335.41,
    "end": 1339.41,
    "text": " So nach dem Motto macht jetzt eben die Musikbranche kaputt, macht den Journalismus kaputt, macht"
  },
  {
    "start": 1339.41,
    "end": 1341.41,
    "text": " den Schulend kaputt durch ChatGPT oder so."
  },
  {
    "start": 1341.41,
    "end": 1342.41,
    "text": " Aber die sind schon länger kaputt."
  },
  {
    "start": 1342.41,
    "end": 1346.41,
    "text": " Dass die Unis viele Studenten nicht mehr motiviert, das wissen wir, ja, dass diese"
  },
  {
    "start": 1346.41,
    "end": 1350.41,
    "text": " Eintrichtervorlesungen morgens und dann bulimisch nachmittags irgendwelche Hausarbeiten schreiben,"
  },
  {
    "start": 1350.41,
    "end": 1354.41,
    "text": " die dann benötigt werden, dass das System nicht gutes weiß man ja seit Jahren."
  },
  {
    "start": 1354.41,
    "end": 1357.41,
    "text": " Ja, das wird durch ChatGPT jetzt nochmal beschleunigt, diese Erkenntnis."
  },
  {
    "start": 1357.41,
    "end": 1361.41,
    "text": " Und man überlegt sich, wie können wir mehr auf Teamarbeit, kritisches Denken, auf ganz"
  },
  {
    "start": 1361.41,
    "end": 1364.41,
    "text": " andere Dinge umstellen, ganz andere Fähigkeiten, die man in der heutigen Welt vielleicht dringender"
  },
  {
    "start": 1364.41,
    "end": 1367.41,
    "text": " braucht, als Fakten reinzulernen in Massenvorlesungen."
  },
  {
    "start": 1367.41,
    "end": 1368.41,
    "text": " Das kommt ja auch."
  },
  {
    "start": 1368.41,
    "end": 1370.41,
    "text": " Will das jetzt mal ins Hoffnungsfrohe drehen?"
  },
  {
    "start": 1370.41,
    "end": 1373.41,
    "text": " Ja, vielleicht gibt es dann doch das richtige Leben im Falschen an der Stelle und wir können"
  },
  {
    "start": 1373.41,
    "end": 1377.41,
    "text": " diese Diskurse dann vielleicht doch durch die Hintertür reinbringen, weil uns die Technologie"
  },
  {
    "start": 1377.41,
    "end": 1381.41,
    "text": " auch ein Stück weit zwingt, eben Dinge zu überdenken, die schon in der Analogenwelt nicht gut waren."
  },
  {
    "start": 1381.41,
    "end": 1386.41,
    "text": " Also ein Votum für mehr Transparenz und mehr Verständnis am Ende."
  },
  {
    "start": 1386.41,
    "end": 1390.41,
    "text": " Ja, vielleicht hilft auch die KI und man hofft dann ein bisschen darauf, dass die KI die"
  },
  {
    "start": 1390.41,
    "end": 1394.41,
    "text": " Verantwortung übernimmt und auch ins Tun kommt und der Mensch nur noch davon profitiert."
  },
  {
    "start": 1394.41,
    "end": 1397.41,
    "text": " Ja, ich habe mir ja in meinem Interview die fünf Stundenwoche ausgerufen."
  },
  {
    "start": 1397.41,
    "end": 1401.41,
    "text": " Ich habe dann gesagt, morgens von acht bis neun macht man die Sachen, die KI nicht kann"
  },
  {
    "start": 1401.41,
    "end": 1404.41,
    "text": " und dann geht man in die Hängematte und den Rest macht KI und wurde dann in Nachfolgeinterviews"
  },
  {
    "start": 1404.41,
    "end": 1407.41,
    "text": " immer mal wieder gefragt, wie haben Sie das denn gemeint und wie kriegen wir das denn hin?"
  },
  {
    "start": 1407.41,
    "end": 1412.41,
    "text": " Also dann würde ich sagen, wir haben die fünf Stunden, diese Woche, da sind wir schon längst drüber."
  },
  {
    "start": 1412.41,
    "end": 1414.41,
    "text": " Also ist die KI noch nicht weit genug für uns alle."
  },
  {
    "start": 1414.41,
    "end": 1420.41,
    "text": " Und ich zitiere immer einen deutschen Philosophen, Gegenwartspfilosophen, Helge Schneider, der ja sagt, wer arbeitet, der kriegt auch welche."
  },
  {
    "start": 1420.41,
    "end": 1426.41,
    "text": " So ist es Al-Yoshaburchad vom Deutschen Forschungszentrum für künstliche Intelligenz in Berlin."
  },
  {
    "start": 1426.41,
    "end": 1428.41,
    "text": " Vielen Dank, dass du bei uns in der Sendung warst."
  },
  {
    "start": 1428.41,
    "end": 1429.41,
    "text": " Ja, danke euch."
  },
  {
    "start": 1430.41,
    "end": 1435.41,
    "text": " Steuer mit Recht. Der DARTEV Podcast."
  },
  {
    "start": 1436.41,
    "end": 1439.41,
    "text": " [Musik]"
  },
  {
    "start": 1440.41,
    "end": 1442.41,
    "text": " [Musik]"
  },
  {
    "start": 1442.41,
    "end": 1453.13,
    "text": " [MUSIK]"
  }
]