[
  {
    "start": 3.9,
    "end": 10.43,
    "text": "Seit die Chefs der großen KI-Firmen angefangen haben vor ihren eigenen Systemen zu warnen, wird eine Frage heiß diskutiert."
  },
  {
    "start": 10.87,
    "end": 14.79,
    "text": "Wie lässt sich die Entwicklung von künstlicher Intelligenz verlangsam und regulieren?"
  },
  {
    "start": 15.59,
    "end": 22.09,
    "text": "Diese Woche haben auch China und die USA darüber beraten – und KI war das Hauptthema in einer Sitzung des UN Sicherheitsrats!"
  },
  {
    "start": 22.97,
    "end": 29.89,
    "text": "Deswegen will ich heute auch mal drüber sprechen mit Aljosha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenze."
  },
  {
    "start": 30.85,
    "end": 34.85,
    "text": "Sie hören die Samstagsausgabe von Auf den Punkt, dem SZ Nachrichten Podcast."
  },
  {
    "start": 34.91,
    "end": 36.21,
    "text": "Heute mit mir, Natja Schlüter."
  },
  {
    "start": 42.21,
    "end": 50.03,
    "text": "Am Mittwoch hat in New York der UN-Sicherheitsrat über künstliche Intelligenz beraten und darüber welche Auswirkungen sie auf internationale Sicherheit hat."
  },
  {
    "start": 50.79,
    "end": 56.309,
    "text": "Als Redner dabei war einer der Pioniere der modernen KI – der Kanadier Joshua Benjo."
  },
  {
    "start": 57.11,
    "end": 58.309,
    "text": "Und den Umgang mit KI."
  },
  {
    "start": 58.449,
    "end": 60.05,
    "text": "heute hat er so beschrieben"
  },
  {
    "start": 61.269,
    "end": 61.35,
    "text": "Es"
  },
  {
    "start": 72.31,
    "end": 76.91,
    "text": "sei wie in einem Auto zu sitzen, das blind im dichten Nebel rast."
  },
  {
    "start": 77.39,
    "end": 82.95,
    "text": "Und zwar in einem Auto, indem er nicht alleine sitzt sondern mit seinen Kindern und seinem Enkel."
  },
  {
    "start": 88.41,
    "end": 90.45,
    "text": "Und ihre Zukunft mache er sich Sorgen."
  },
  {
    "start": 91.19,
    "end": 99.55,
    "text": "Auch der Chef des KI-Unternehmens Anthropic, Dario Amodei hat bei der UN-Sitzung gesprochen und vor allem vor zwei Risiken durch KI gewarnt."
  },
  {
    "start": 103.13,
    "end": 109.23,
    "text": "Das eine große Risiko sei ein Missbrauch der KI-Modelle, zum Beispiel das Terroristen damit Biowaffen bauen."
  },
  {
    "start": 109.81,
    "end": 118.13,
    "text": "Das andere Risiko ist der Kontrollverlust – also dass die Modelle sich so schnell von selbst weiterentwickeln, dass die Entwickler nicht mehr kontrollieren können was sie tun."
  },
  {
    "start": 121.17,
    "end": 131.39,
    "text": "Solche Fälle hat es ja schon gegeben zb als Agenten von OpenAI einen Konkurrenzunternehmen gehackt haben oder wie diese Woche rauskam ein australisches Regierungsportal."
  },
  {
    "start": 132.85,
    "end": 137.29,
    "text": "Und, naja, Amoday hat dann auch nochmal das ganz große Besteck rausgeholt."
  },
  {
    "start": 137.75,
    "end": 139.63,
    "text": "Das mit der Apokalypse durch KI."
  },
  {
    "start": 145.35,
    "end": 146.95,
    "text": "Das Ende der Menschheit also!"
  },
  {
    "start": 147.97,
    "end": 160.25,
    "text": "Amodaye und weitere Techbosse wie Sam Ordman fordern deswegen ja seit Neustem dass die Entwicklung von KI verlangsamt und reguliert werden sollen – auch wenn US-Präsident Donald Trump, wie er diese Woche gesagt hat, strikt dagegen ist…."
  },
  {
    "start": 161.41,
    "end": 166.209,
    "text": "Aber die Frage bleibt ja trotzdem, wie könnte KI denn besser kontrolliert und reguliert werden?"
  },
  {
    "start": 166.329,
    "end": 168.51,
    "text": "Und vor allem auch von wem eigentlich."
  },
  {
    "start": 169.03,
    "end": 170.37,
    "text": "Wer hat da die Verantwortung?"
  },
  {
    "start": 171.31,
    "end": 173.57,
    "text": "Darüber spreche ich jetzt mit Aljosha Burchardt."
  },
  {
    "start": 173.73,
    "end": 181.269,
    "text": "Er ist KI-Experte vom Deutschen Forschungszentrum für künstliche Intelligenz und Co-Host des ARD Podcasts KI – und jetzt!"
  },
  {
    "start": 182.35,
    "end": 185.149,
    "text": "Herr Burchhardt, können Sie mir sagen, wie viel Angst ich vor KI haben"
  },
  {
    "start": 185.209,
    "end": 185.37,
    "text": "muss?!"
  },
  {
    "start": 185.89,
    "end": 188.45,
    "text": "Ich glaube, vor KI brauchen wir jetzt nicht so viel Angst zu haben."
  },
  {
    "start": 188.51,
    "end": 201.31,
    "text": "Das sagen auch die Wissenschaftlerinnen und Wissenschaftler, die sich jedes Jahr zur Sicherheitskonferenz von KI treffen und auch die Sicherheitsinstitute... Aber wir sollten uns ein bisschen davor fürchten, wie viel Macht einige Firmen gerade in dem Bereich haben."
  },
  {
    "start": 201.35,
    "end": 209.67,
    "text": "Ich hoffe dass wir das jetzt durch die ganzen Diskussionen, die jetzt angelaufen sind in den Griff bekommen eben diese Firmen zu unterstützen sage ich mal halt die Entwicklung vielleicht ein bisschen zu verlangsamen."
  },
  {
    "start": 209.769,
    "end": 211.39,
    "text": "denn es sind Computersysteme."
  },
  {
    "start": 211.489,
    "end": 215.29,
    "text": "noch kann man eben einfach den Schalter umlegen noch kann sie einfach ausschalten."
  },
  {
    "start": 215.73,
    "end": 223.269,
    "text": "aber es zeigt sich eben wenn sehr viele von diesen System zusammenarbeiten und unter der Haube irgendwie Dinge machen dann können Sie großen Schaden anrichten."
  },
  {
    "start": 223.37,
    "end": 229.13,
    "text": "Ich würde es erstmal nicht an das Ende der Menschheit denken können sie in groß größere Schäden anrichten im Software-System."
  },
  {
    "start": 229.87,
    "end": 239.51,
    "text": "Die Firmen mit der großen Macht, wie Sie gerade schon angesprochen haben, die warnen ja immer davor, dass die KI die Menschheit auslöschen könnte... Ich habe mich da immer gefragt, wie denn überhaupt?"
  },
  {
    "start": 239.549,
    "end": 240.31,
    "text": "Sie sagen jetzt ist es nicht so."
  },
  {
    "start": 240.37,
    "end": 243.57,
    "text": "wahrscheinlich aber gibt es irgendwelche Szenarien, in denen das möglich wäre?"
  },
  {
    "start": 243.609,
    "end": 243.989,
    "text": "Wenn wir"
  },
  {
    "start": 244.049,
    "end": 248.85,
    "text": "noch ein bisschen Science Fiction machen wollen, also man muss natürlich erstmal voranschicken was diese Firmen machen."
  },
  {
    "start": 248.89,
    "end": 259.17,
    "text": "Das ist natürlich auch bewusstes Marketing in Zeiten wo sie an die Börse wollen, wo eine sehr große finanzielle Wette läuft und häufig dann natürlich auch Ablenkung von Problemen an denen Sie wirklich arbeiten könnten."
  },
  {
    "start": 259.269,
    "end": 262.01,
    "text": "Also aber lassen wir uns kurz nochmal ein auf das."
  },
  {
    "start": 262.21,
    "end": 266.59,
    "text": "eine Szenario ist eben die KI-Systeme verselbstständigen sich."
  },
  {
    "start": 267.37,
    "end": 275.75,
    "text": "Derzeit ist es ja so da ist ein Mutterschiff, das ist ein großes Rechenzentrum bei Antropic oder Open AI und die sind aber mit dem Mutterschiff verbunden."
  },
  {
    "start": 275.89,
    "end": 283.95,
    "text": "Eine Angst oder ein Szenario ist, dass sie sich irgendwie schaffen doch abzukoppeln unter der Haube unsichtbar sozusagen loszuziehen."
  },
  {
    "start": 284.73,
    "end": 290.51,
    "text": "Und das zweite Szenarium nennt man Rekursives Selbstverbessern also Recursive Self Improvement."
  },
  {
    "start": 291.09,
    "end": 296.77,
    "text": "Das ist das Szenario, wo zum Beispiel Ansropik sagt beim Programmieren der nächsten KI-Generation."
  },
  {
    "start": 296.89,
    "end": 299.23,
    "text": "Also bei der Frage wie führen wir die Testdaten zu?"
  },
  {
    "start": 299.59,
    "end": 300.789,
    "text": "Welche Tests lassen wir laufen?"
  },
  {
    "start": 300.87,
    "end": 302.27,
    "text": "Worauf optimieren wir diese Systeme?"
  },
  {
    "start": 302.69,
    "end": 304.849,
    "text": "Nutzen Sie natürlich selber auch schon wieder KI."
  },
  {
    "start": 305.07,
    "end": 308.469,
    "text": "Sie sagen, achtzig Prozent unserer Programmierung wird von KI gemacht."
  },
  {
    "start": 308.55,
    "end": 320.25,
    "text": "und dann ist eben das Horrorszenario die KI-Systeme programmieren in die nächste Generation da einfach Fallstricke rein und programmierender Dinge rein, die dann hinterher das Abschalten schwierig machen was auch immer das bedeuten soll."
  },
  {
    "start": 320.61,
    "end": 327.349,
    "text": "Denn letzter Satz, das würde ja auch heißen wenn wir die Teile nicht mehr abschalten können dann müssten ja auch die ganzen Menschen drum herum manipuliert werden."
  },
  {
    "start": 327.409,
    "end": 332.55,
    "text": "Man nennt es ja auch Social Engineering aber auch dafür sieht man eben bei den heutigen Agenten schon Ansätze."
  },
  {
    "start": 333.27,
    "end": 340.61,
    "text": "Jetzt haben sie gerade schon gesagt diese Horrorszenarien so ein bisschen eine Ablenkung davon dass die Unternehmen ja auch andere Dinge tun könnten sich um andere Sachen kümmern müssten."
  },
  {
    "start": 340.69,
    "end": 343.59,
    "text": "Die rufen jetzt grad nach staatlicher Kontrolle nach politischer Regulierung."
  },
  {
    "start": 344.45,
    "end": 353.49,
    "text": "Da könnte man aber ja eben auch sagen, das schließt ein bisschen daran an was Sie gerade meinten es sind eure Systeme und wenn die zu gefährlich werden dann ist es auch eure Aufgabe sie weniger gefährlich zu machen."
  },
  {
    "start": 354.27,
    "end": 357.51,
    "text": "Wer ist also in der Verantwortung KI zu regulieren und sicherer zu machen?"
  },
  {
    "start": 357.57,
    "end": 359.19,
    "text": "Die Unternehmen oder sind's doch die Staaten?"
  },
  {
    "start": 359.89,
    "end": 361.87,
    "text": "Da antworten die Unternehmen ja wir können nicht da."
  },
  {
    "start": 361.93,
    "end": 365.09,
    "text": "wir stehen unter einem Marktdruck sozusagen was möglich ist dass wird gemacht."
  },
  {
    "start": 365.17,
    "end": 367.75,
    "text": "also wenn ihr uns nicht reguliert wir schaffen es einfach alleine nicht."
  },
  {
    "start": 367.789,
    "end": 376.81,
    "text": "Wir sind eben Unternehmen und genügen halt der Marktlogik und sind nicht dafür da Risiken von der Menschheit abzuwenden, also das ist sozusagen immer die kurze Antwort darauf."
  },
  {
    "start": 377.77,
    "end": 388.25,
    "text": "Interessant übrigens haben sie ja Schützenhilfe auch bekommen vom Papst kürzlich in seiner sogenannten KI-Enzykliker wo er sagt wir müssen KI entwaffnen und mit entwaffenen meint er sie eben aus der Marktlogik herausziehen."
  },
  {
    "start": 389.03,
    "end": 398.39,
    "text": "Und jetzt ist es ganz interessant diese Firma zum Beispiel der Chef von Entropic hat ja kürzlich so ein Brandbrief geschrieben, wo er drei Punkte vorschlägt."
  },
  {
    "start": 398.45,
    "end": 403.409,
    "text": "Er sagt wir brauchen staatliche Regulierung die Firmen müssen die Entwicklung bremsen."
  },
  {
    "start": 403.469,
    "end": 411.409,
    "text": "also das müssten sie selber tun haben gesagt oder eben ein bisschen mit Regulierungshilfe Wir lassen Inspekteure rein in die Firme."
  },
  {
    "start": 411.49,
    "end": 414.849,
    "text": "und drittens wir brauchen eine globale Regulierung."
  },
  {
    "start": 417.03,
    "end": 427.61,
    "text": "Jetzt haben wir Kommunikationsexperten gesagt, wenn solche Firmen oder solche Oli Garchen uns einen drei-Punkte-Plan vorgeben, dann lass uns darüber nachdenken, worüber sie nicht geredet haben."
  },
  {
    "start": 427.77,
    "end": 432.63,
    "text": "Was wären denn Alternativen über die man nachdenkt und eine Alternative könnte auch sein?"
  },
  {
    "start": 432.67,
    "end": 435.409,
    "text": "Dass man sagt, wir müssten diese großen Firmen zerschlagen!"
  },
  {
    "start": 436.13,
    "end": 443.33,
    "text": "Wir müssen das vielleicht nur in die Tüte gesprochen, in eine gemeinnützige Organisation oder in irgendeine andere Form überführen."
  },
  {
    "start": 443.45,
    "end": 448.33,
    "text": "Die wir besser kontrollieren können weil wir merken hier ist zu viel Machtkonzentration vorhanden und es ist nur eine Denkrichtung."
  },
  {
    "start": 448.81,
    "end": 457.65,
    "text": "Vielleicht schauen wir aber trotzdem doch noch mal auf einen Punkt der in diesem drei Punkteplan vorgekommen ist nämlich dass man Inspekteure in die Firmen schickt also jemand der von außen kommt und das kontrolliert."
  },
  {
    "start": 457.71,
    "end": 461.81,
    "text": "ich finde das klingt ja eigentlich nach einer ganz guten Idee dass jemand externes da ein bisschen Augen drauf hat oder?"
  },
  {
    "start": 462.349,
    "end": 465.95,
    "text": "Aber das Problem ist ja, wenn wir jetzt sagen, wir schicken Inspekteure in die Firmen."
  },
  {
    "start": 466.37,
    "end": 475.409,
    "text": "Die haben ja gar nicht die Erfahrung, die die Firme selber haben also die Wissenschaftler und Wissenschaftlerin Wir gucken ja auch nur von außen drauf was würden wir dann machen ohne deren Erfahrungswissen Wenn wir da jetzt rein dürften?"
  },
  {
    "start": 475.51,
    "end": 476.07,
    "text": "meine Angst."
  },
  {
    "start": 476.65,
    "end": 480.21,
    "text": "Dann sagt man, okay die machen alles richtig und dann passiert hinterher was richtig Schlimmes."
  },
  {
    "start": 480.33,
    "end": 490.99,
    "text": "Ich sag mal das Stromnetz der USA wird lahmgelegt durch Hecker Angriffe mit KI ja und dann zahlt ihr all Gemeinheit den Schaden weil denn die Firmen sagen können ja ihr wart ja da ihr habt's euch ja angeguckt wir haben hier alles richtig gemacht."
  },
  {
    "start": 491.05,
    "end": 500.09,
    "text": "also dass ist meine Angst eben auch des Widewashings wenn man diesen Plänen folgt Und die dann hinter sagen können Ja wir wollten reguliert werden Ihr habt es ja gemacht und habt nichts gefunden."
  },
  {
    "start": 500.469,
    "end": 501.969,
    "text": "Das wäre eben meine Sorge an der Stelle."
  },
  {
    "start": 502.57,
    "end": 506.99,
    "text": "Dann noch zu einem anderen Vorschlag aus diesem drei Punkteplan, nämlich die Entwicklung zu verlangsamen."
  },
  {
    "start": 507.05,
    "end": 509.49,
    "text": "Sie haben selbst gesagt das müssten die Unternehmen ja selber machen."
  },
  {
    "start": 509.73,
    "end": 510.93,
    "text": "aber wie ginge das denn?"
  },
  {
    "start": 510.99,
    "end": 516.429,
    "text": "Also kann man so eine Entwicklung überhaupt verlangsam bei diese Systeme sicher auch von selber weiterentwickeln."
  },
  {
    "start": 516.51,
    "end": 517.73,
    "text": "also was könnte man da machen?"
  },
  {
    "start": 518.53,
    "end": 523.39,
    "text": "ich würde mal sagen eine Einfache Verlangsamung wäre, die nochmal sich zu erinnern."
  },
  {
    "start": 523.53,
    "end": 540.53,
    "text": "Wir reden ja jetzt nicht über die Chatbots wie die mit uns Reden den wir Aufgaben geben und die uns dann Texte ausgeben sondern wir reden hier über die agentische KI, wir reden ja über solche Systeme, die Zugang bekommen zu Konten, die auf Webseiten gehen können was kaufen können und eben auch hacken können und Hacker Angriffe auf WebSeiten machen können."
  },
  {
    "start": 541.27,
    "end": 553.43,
    "text": "Eine einfache Möglichkeit wäre eben zu sagen, wir schränken dieses agentische Moment sehr stark ein und sagen das gibt eben drakonische Strafen wenn mein Agent auf eine andere Webseite geht und sich da reinhäckt unter Dinge verändert."
  },
  {
    "start": 553.47,
    "end": 557.23,
    "text": "Da müsste man doch eigentlich einen Aufschrei losgehen und sagen hey warum werden die nicht massiv?"
  },
  {
    "start": 557.83,
    "end": 558.53,
    "text": "bestraft dafür."
  },
  {
    "start": 558.95,
    "end": 569.45,
    "text": "Also dieses agentische könnte man ja ganz einfach rausnehmen, das andere ist natürlich dann schon wieder die Gretchenfrage denn die Chatbots sorgen auch hier und jetzt für ganz schöne Verwerfungen."
  },
  {
    "start": 570.05,
    "end": 574.569,
    "text": "Die online Wirtschaft ändert sich durch KI Suche dass Leute eben nicht mehr auf bestimmte Inhalte kommen."
  },
  {
    "start": 574.61,
    "end": 577.15,
    "text": "Qualitätsinhalte werden nicht mehr gefunden durch die Online-Suche."
  },
  {
    "start": 577.61,
    "end": 587.55,
    "text": "also es sind ja ganz starke demokratische Verwärfungen Marktverwerfungen die wir heute schon haben durch KI-Suche und auch durch Fake und andere Sachen, die durch KI verursacht werden."
  },
  {
    "start": 587.73,
    "end": 591.99,
    "text": "Und um das zu verlangsamen müssten wir wahrscheinlich nochmal viel grundsätzlicher rangehen."
  },
  {
    "start": 592.51,
    "end": 601.97,
    "text": "aber das wäre eben auch meinen Vorschlag lass uns mal im Hier und Jetzt schauen ob man vielleicht Dinge die schon gerade jetzt passieren auch mal verlangsamen könnte oder ein bisschen zurückdrehen könnte."
  },
  {
    "start": 602.83,
    "end": 603.51,
    "text": "Und wie ginge das?"
  },
  {
    "start": 603.75,
    "end": 605.13,
    "text": "Was wären da Ihre Ideen?"
  },
  {
    "start": 605.25,
    "end": 606.55,
    "text": "Man hat ja immer zwei Möglichkeiten."
  },
  {
    "start": 606.63,
    "end": 623.51,
    "text": "Einmal gibt es immer die Verbraucherinnen und Verbrauchern, die Abstimmung mit den Füßen zu sagen hey ich verzichte mal öfter auf KI-Suche und mach mir eine herkömmliche Websuche und guckt mir Qualitätsinhalte an bezahlgegebenenfalls auch für die oder guckt mich eben auch mal den lokalen Fahrradladen an wenn ich ein Fahrrad kaufen will und frag eben nicht den Chatbot welches Fahrrad soll ich mir kaufen?"
  },
  {
    "start": 624.51,
    "end": 629.67,
    "text": "Und das andere eben auch politisch zu mandatieren einen Diskurs zumindest mal zu führen über diese Veränderungen."
  },
  {
    "start": 629.87,
    "end": 632.53,
    "text": "Ich sehe überhaupt gar nicht dass das sozusagen ein Topthema ist."
  },
  {
    "start": 633.05,
    "end": 643.23,
    "text": "Was tut sich eigentlich gerade mit unserer Demokratie, wenn viele Leute sich in ihrem Privatleben und Berufsleben eben von KI-Systemen quasi strukturieren lassen?"
  },
  {
    "start": 643.79,
    "end": 647.71,
    "text": "Die einer letztendlich globalen Finanzlogik genügen."
  },
  {
    "start": 647.79,
    "end": 650.33,
    "text": "Also das ist auch interessant dass wir gar nicht so laut darüber diskutieren."
  },
  {
    "start": 650.37,
    "end": 655.17,
    "text": "Und die Frage nach den Betreibermodellen Wie können wir dem was entgegensetzen in Europa?"
  },
  {
    "start": 655.71,
    "end": 660.21,
    "text": "Bisher habe ich immer gesagt Wir müssen in Europa andere Nischen finden."
  },
  {
    "start": 660.25,
    "end": 668.03,
    "text": "Wir müssen nicht dasselbe machen wie die Amerikaner nur später und schlechter, aber ich denke es ist der Punkt gekommen wo wir jetzt auch nach den Sternen greifen müssen."
  },
  {
    "start": 668.13,
    "end": 670.59,
    "text": "Ich sage mal oder Dieb Sieg, nach der Tiefsee greifen Müssen."
  },
  {
    "start": 671.03,
    "end": 677.99,
    "text": "Wo wir jetzt sagen müssen wir müssen doch versuchen eben die gesamte KI die wir nutzen wollen selber zu betreiben Und das mittelfristig."
  },
  {
    "start": 678.05,
    "end": 680.37,
    "text": "Das ist ja nicht mehr so langfristig Wie ich bisher noch gedacht habe."
  },
  {
    "start": 680.43,
    "end": 683.95,
    "text": "ich hab immer gedacht wir nutzen sie solange die großen modelle bis wir was eigenes haben."
  },
  {
    "start": 684.09,
    "end": 685.33,
    "text": "Aber ich glaube wir müssen da schneller werden."
  },
  {
    "start": 685.89,
    "end": 690.33,
    "text": "Das heißt, Europa muss sich unabhängig machen von den großen Playern wie China und USA."
  },
  {
    "start": 690.49,
    "end": 693.47,
    "text": "Und Europa hat ja auch schon den AI-Akt."
  },
  {
    "start": 693.55,
    "end": 700.47,
    "text": "also es gibt ja eigentlich schon viel höhere Standards und Regulierungen aber bremst das nicht auch die ganze Sache und die ganze Entwicklung?"
  },
  {
    "start": 700.63,
    "end": 706.01,
    "text": "Also wird Europa vielleicht auch deswegen gerade von China und den USA abgehängt weil er sich stärkere Grenzen setzt selbst?"
  },
  {
    "start": 706.569,
    "end": 710.61,
    "text": "Der AI-Act ist ja nun auch schon wieder ein bisschen älter, der ist noch immer nicht ganz in Kraft."
  },
  {
    "start": 711.05,
    "end": 714.069,
    "text": "Er ist ja noch dabei in Kraft zu treten für die einzelnen Risikoklassen."
  },
  {
    "start": 715.33,
    "end": 719.81,
    "text": "Wenn man sich die ganze Wertschöpfungskette anguckt, dann versucht Europa an allen Ecken und Enden was zu tun."
  },
  {
    "start": 719.89,
    "end": 724.77,
    "text": "Wir wollen Rechenzentren bauen, wir wollen sogar eigene Chips produzieren, die vielleicht für KI besser geeignet sind."
  },
  {
    "start": 724.83,
    "end": 732.29,
    "text": "Wir bilden Talente aus, wir sorgen für Nachfrage, wir versuchen den Staat als Ankerkunde reinzubringen."
  },
  {
    "start": 732.87,
    "end": 735.71,
    "text": "Aber das, was Sie ansprechen ist sozusagen die Trainingsdaten."
  },
  {
    "start": 735.77,
    "end": 739.49,
    "text": "Das dazwischen da haben wir glaube ich ein Hauptproblem gar nicht durch den AI-Akt."
  },
  {
    "start": 739.55,
    "end": 742.63,
    "text": "aber wenn wir sagen Wir wollen hier auf Copyright besser achten."
  },
  {
    "start": 742.689,
    "end": 753.39,
    "text": "Wir wollen darauf achten dass Autorinnen und Autoren von Texten von Musik von Videos Auch was davon haben, dass wir darauf trainieren beziehungsweise sollen eben auch die Möglichkeit haben dem zu widersprechen das mit ihren Daten trainiert wird."
  },
  {
    "start": 753.83,
    "end": 756.87,
    "text": "Da haben wir glaube ich das Hauptproblem weil da ist man in China und den USA."
  },
  {
    "start": 757.03,
    "end": 760.97,
    "text": "Ich sage es jetzt einfach mal ruchloser dann nimmt man sich einfach die Trainingsdaten die man gerne hätte."
  },
  {
    "start": 761.59,
    "end": 764.05,
    "text": "Und in USA heißt es wenn einer ein Problem hat wird er ausbezahlt."
  },
  {
    "start": 764.11,
    "end": 767.27,
    "text": "und in China heißt wenn einer Probleme hatte noch ein größeres Problem."
  },
  {
    "start": 768.03,
    "end": 769.43,
    "text": "und so wollen wir Europa nicht vorgehen."
  },
  {
    "start": 769.47,
    "end": 775.51,
    "text": "Das heißt ich sag mal dieser dritte Weg stärker reguliert besser mit den Daten umgehen und auch ein anderes Betreibermodell."
  },
  {
    "start": 775.97,
    "end": 779.65,
    "text": "Das sind natürlich Dinge, die das für uns langsamer machen."
  },
  {
    "start": 779.77,
    "end": 779.83,
    "text": "ja"
  },
  {
    "start": 780.89,
    "end": 803.11,
    "text": "Es gibt ja auch immer Überlegungen dass man es übergreifend nochmal reguliert über alle Staaten hinweg Dass man sowas findet wie eine Genfer-Kommission Für KI oder einen Atomwaffen-Sperrvertrag Der wird auch aber genannt Was ja bedeuten würde, dass sich alle auf eine Sache oder auf bestimmte Grundzüge einigen müssten."
  },
  {
    "start": 803.189,
    "end": 810.99,
    "text": "Für wie realistisch halten Sie das denn, dass man dann Kompromiss findet in dem zum Beispiel auch grundlegende Werte wie Meinungsfreiheit und Demokratie gesichert sind?"
  },
  {
    "start": 811.75,
    "end": 818.17,
    "text": "Ich meine, Sie und Trump haben ja auch über KI gesprochen Wobei Trump ja sofort gesagt hatte zum Thema Bremsen nicht mit ihm."
  },
  {
    "start": 818.27,
    "end": 827.77,
    "text": "Er hat gesagt, wir bremsen nicht die Entwicklung denn sonst sind wir hinter China hinten dran und das haben hier auch die Die Bosse der großen KI-Firmen USA auch gesagt zu doll auf die Bremse treten dürfen wir auch nicht."
  },
  {
    "start": 828.55,
    "end": 833.65,
    "text": "Sonst überholen uns andere aber die Frage die sie stellen oder andersrum gesprochen."
  },
  {
    "start": 833.689,
    "end": 837.65,
    "text": "Wie kann ich mit Mit Regulierung dafür sorgen, dass sich inhaltlichen Pluralismus habe?"
  },
  {
    "start": 837.73,
    "end": 844.51,
    "text": "Dass ich eben nicht nur Marktökonomie genüge sondern wie der Papst sagt Menschen freundlich, menschzentriert, gemeinwohl orientiert."
  },
  {
    "start": 844.65,
    "end": 846.51,
    "text": "so eine Technologie auf Sätze?"
  },
  {
    "start": 846.569,
    "end": 848.189,
    "text": "die Frage ist einfach noch nicht geklärt."
  },
  {
    "start": 848.23,
    "end": 851.55,
    "text": "selbst wenn man jetzt sagen würde wir wollen irgendwie regulieren hätten wir ja noch gar nicht."
  },
  {
    "start": 852.069,
    "end": 855.47,
    "text": "Ich sage mal in Anführungsstrichen, dass das Ziel der Regulierung die Lösung ist."
  },
  {
    "start": 855.53,
    "end": 856.89,
    "text": "Das ist mit Sicherheit sehr unterschiedlich."
  },
  {
    "start": 856.95,
    "end": 861.069,
    "text": "auf irgendeinem Nenner kann man sich wahrscheinlich treffen, dass die Menschheit nicht ausgelöscht werden sollte."
  },
  {
    "start": 861.15,
    "end": 862.73,
    "text": "aber darunter gibt es ja auch noch mal Details."
  },
  {
    "start": 863.37,
    "end": 879.41,
    "text": "und die Frage wer welche internationale Organisation wäre derzeit so mächtig da richtige Pflöcke einzuschlagen wo eben auch selbst das Pariser Klimaschutzabkommen wo wir uns glaube ich drüber einig sind was sehr wichtig ist ja auch nur noch sozusagen Randnotiz der Geschichte"
  },
  {
    "start": 880.17,
    "end": 885.09,
    "text": "Wenn wir jetzt noch mal auf die beiden großen Player gucken, über die wir gerade schon geredet haben also China und USA."
  },
  {
    "start": 885.85,
    "end": 890.65,
    "text": "Und dass sie sich jetzt grade über KI austauschen und Trump aber schon gesagt hat der ist Gegenkontrolle."
  },
  {
    "start": 891.01,
    "end": 894.41,
    "text": "ich habe mich aber gefragt was könnten denn die zwei eigentlich tun?"
  },
  {
    "start": 894.49,
    "end": 905.23,
    "text": "Also was wäre denn denkbar was die größten KI Entwickler oder die größte Stilstaaten die die größtete KI Entwicklung gerade vorantreiben auch was Sie sich einigen das uns allen irgendwie etwas bringt?"
  },
  {
    "start": 906.11,
    "end": 911.689,
    "text": "Ich meine das Problem Dass die Entwicklung halt sehr, sehr schnell geht und Regulierung typischerweise sehr langsam ist."
  },
  {
    "start": 911.73,
    "end": 918.99,
    "text": "Und auch wissenschaftliches Verstehen und Durchdringen und sich überlegen was könnten denn die roten Linien und Grenzen sein dass das sich halt ständig ändert?"
  },
  {
    "start": 919.17,
    "end": 922.51,
    "text": "Da müsste man irgendwie einen Modus finden wie man dem hinterher kommt."
  },
  {
    "start": 922.55,
    "end": 924.85,
    "text": "wir haben ja die aktuellen Modelle noch gar nicht verstanden."
  },
  {
    "start": 924.91,
    "end": 933.33,
    "text": "als Wissenschaftler weißt du ja gar nicht Wie soll ich denn so ein Riesen Was vom Sudoku bis zum Jurarexamen, bis zum Biowaffenbau alles möglich in dieser Welt kann."
  },
  {
    "start": 933.79,
    "end": 935.65,
    "text": "Wie soll ich denn feststellen ob das noch gut ist?"
  },
  {
    "start": 935.71,
    "end": 939.77,
    "text": "Also das Stichwort ist ja Alignment also macht es noch das was es tun soll."
  },
  {
    "start": 939.83,
    "end": 945.13,
    "text": "oder auch Harnes habe ich im Maulkorb angelegt damit nicht im Zweifelsfall jemanden beißt den es nicht beißen soll."
  },
  {
    "start": 945.689,
    "end": 948.15,
    "text": "aber das müsste man ja in Ruhe evaluieren."
  },
  {
    "start": 948.189,
    "end": 956.79,
    "text": "Man könnte natürlich sagen wir frieren auf dem heutigen Stand ein und warten so lange Bis eben die Wissenschaft, die Journalistinnen und Journalisten, die Zivilgesellschaft sagt hey jetzt haben wir es verstanden."
  },
  {
    "start": 956.85,
    "end": 958.87,
    "text": "Jetzt wissen wie wir die nächste Generation hätten."
  },
  {
    "start": 959.39,
    "end": 963.75,
    "text": "Aber generell die Frage des Alignments, wie stelle ich sicher das dieses Thema Gutes tun?"
  },
  {
    "start": 964.13,
    "end": 967.41,
    "text": "Die ist natürlich viel tiefer und das ist das worauf ich ja auch hinaus wollte."
  },
  {
    "start": 967.85,
    "end": 974.59,
    "text": "Es manipulieren uns diese Systeme heute schon zu Kaufentscheidungen, zu Wahlentscheidenungen, zudem wie wir unser Privatleben organisieren."
  },
  {
    "start": 974.63,
    "end": 977.61,
    "text": "Die Leute diskutieren ihre Beziehungsprobleme mit diesen Chatbots."
  },
  {
    "start": 977.65,
    "end": 985.25,
    "text": "Das heißt es passiert ja alles heute schon dass wir ganz stark, ich sage mal manipuliert werden im besten Fall beraten, im schlechtesten Fall manipulierter werden."
  },
  {
    "start": 985.87,
    "end": 987.55,
    "text": "aber was wollte man jetzt?"
  },
  {
    "start": 987.97,
    "end": 988.75,
    "text": "Was wollte man ändern?"
  },
  {
    "start": 988.81,
    "end": 992.689,
    "text": "Darüber müsste man eben als Zivilgesellschaft in Ruhe und längere Zeit verhandeln."
  },
  {
    "start": 993.27,
    "end": 996.97,
    "text": "Und Sie haben ja eben auch gesagt, man kann sich auch mal entscheiden einfach nicht KI zu nutzen."
  },
  {
    "start": 997.069,
    "end": 1000.99,
    "text": "trotzdem möchte ich gerne am Ende nochmal ein bisschen den positiven Ton reinbringen."
  },
  {
    "start": 1001.05,
    "end": 1005.37,
    "text": "was würden sie denn sagen sind aktuell die größten Chancen von KI?"
  },
  {
    "start": 1005.47,
    "end": 1007.25,
    "text": "wofür brauchen wir sie vielleicht doch auch?"
  },
  {
    "start": 1007.29,
    "end": 1008.63,
    "text": "sie wollen sehr wahrscheinlich nicht abschaffen."
  },
  {
    "start": 1009.17,
    "end": 1009.79,
    "text": "Nein überhaupt nicht!"
  },
  {
    "start": 1009.85,
    "end": 1016.63,
    "text": "Ich beschäftige mich seit dreißig Jahren damit bin natürlich total geflasht und fasziniert was heute mit diesen KI System alles möglich ist."
  },
  {
    "start": 1017.35,
    "end": 1020.77,
    "text": "Und wir arbeiten in der Wissenschaft natürlich auch daran, sie besser zu machen."
  },
  {
    "start": 1020.83,
    "end": 1028.25,
    "text": "Sie energiesparen dazu machen und dann uns zum Beispiel im Produktionsprozessenhälften auch Fertigung effizienter zu machen nach Deutschland zurückzuholen."
  },
  {
    "start": 1028.75,
    "end": 1030.31,
    "text": "Im Bildungssystem kann man sie einsetzen."
  },
  {
    "start": 1030.369,
    "end": 1033.99,
    "text": "In der Krebsforschung wird sie natürlich ganz stark eingesetzt werden."
  },
  {
    "start": 1034.05,
    "end": 1039.129,
    "text": "Medizinerinnen und Medizine vierzig bis sechzig Prozent ihrer Arbeitszeit mit Dokumentationen verbringen."
  },
  {
    "start": 1039.17,
    "end": 1041.45,
    "text": "Und Dokumentations ist natürlich wichtig im medizinischen Bereich."
  },
  {
    "start": 1041.51,
    "end": 1043.609,
    "text": "Dann kann man das an KI Systeme auslagern."
  },
  {
    "start": 1044.15,
    "end": 1049.03,
    "text": "Das heißt es gibt in allen möglichen Branchen, an allen mögliche Ecken und Enden eine Million Gerichtsverfahren."
  },
  {
    "start": 1049.09,
    "end": 1050.629,
    "text": "warten in Deutschland eröffnet zu werden."
  },
  {
    "start": 1050.69,
    "end": 1051.75,
    "text": "Wir wollen keinen RoboCop."
  },
  {
    "start": 1051.87,
    "end": 1055.51,
    "text": "natürlich haben keine Richterinnen und Richter die durch KI ersetzt wird."
  },
  {
    "start": 1055.57,
    "end": 1068.29,
    "text": "aber wenn sie zum Beispiel alleine beim Priorisieren welche Gerichts Verfahren Sie eröffnen wollen oder bei der Vorbereitung oder so effizienter und schneller werden so kann man dann vielen vielen Stellen Natürlich was machen und natürlich auch KI für den Umweltschutz."
  },
  {
    "start": 1068.35,
    "end": 1071.83,
    "text": "Wir arbeiten daran, wie kann ich Dünge-Mitteleinsatz in der Landwirtschaft reduzieren?"
  },
  {
    "start": 1071.89,
    "end": 1077.83,
    "text": "Indem zum Beispiel Drohnen über Felder fliegen und gucken wo ist eigentlich Dünger nötig und wo es kein Düngern nötigt und andere Dinge also."
  },
  {
    "start": 1078.129,
    "end": 1088.95,
    "text": "Wie kann man auch vielleicht in unwirklichen Gegenden mehr Lebensmittel produzieren indem man eben Daten auswertet und Analysen machen kann, wie man die Felder gut bewirtschaftet usw."
  },
  {
    "start": 1089.05,
    "end": 1095.73,
    "text": "Ich glaube, jede Menge Einsatzmöglichkeiten und wir in Deutschland haben ja nun mit unserem Arbeits- und Fachkräftemangel an der Stelle ein Luxusproblem."
  },
  {
    "start": 1096.53,
    "end": 1097.99,
    "text": "Jetzt sind wir mit Science Fiction gestartet."
  },
  {
    "start": 1098.03,
    "end": 1101.11,
    "text": "ich würde zum Schluss gerne auch noch mal in die Zukunft schauen und nicht ganz so weit."
  },
  {
    "start": 1101.39,
    "end": 1102.47,
    "text": "was würden Sie sagen?"
  },
  {
    "start": 1102.77,
    "end": 1108.03,
    "text": "Wo sehen sie uns in fünf Jahren im besten Fall und wo im schlechtesten Fall?"
  },
  {
    "start": 1108.31,
    "end": 1108.77,
    "text": "rund um KI"
  },
  {
    "start": 1109.77,
    "end": 1112.05,
    "text": "Ich glaube wir werden gar nicht mehr so richtig über KI reden."
  },
  {
    "start": 1112.29,
    "end": 1131.35,
    "text": "Also wie die KI, die wir heute benutzen Suchmaschinen Navigationssysteme was weiß ich da redet man ja nicht mehr über KI sondern über eine Suchmaschine über Navi und so weiter und in dem Fall würden diese Alltagshelferleihen einfach so in den Alltag eingeht dann würde eben mein Assistent Medifolien machen oder mir irgendwas organisieren und dann rede ich gar nicht mal über KI."
  },
  {
    "start": 1131.47,
    "end": 1142.65,
    "text": "Sondern hat man das als Identsparten einfach als Tools als Werkzeuge hat es unter Kontrolle Und dann ist es genauso normal und alltäglich wie eben andere Technologien, die uns eben umgeben und uns das Leben leichter machen."
  },
  {
    "start": 1143.21,
    "end": 1154.07,
    "text": "Und ich sage mal wenn wir jetzt jetzt wollen Sie ja mit dem Doom Stay enden, ich sehe noch so eine zehnprozentige Wahrscheinlichkeit dass wir dann in zehn Jahren oder Ende des Jahrzehnts glaube ich ausgelöscht sind."
  },
  {
    "start": 1154.129,
    "end": 1156.25,
    "text": "also das wäre natürlich der Negativfall."
  },
  {
    "start": 1156.29,
    "end": 1158.67,
    "text": "Wir können gar nichts mehr machen weil es uns gar nicht mehr gibt."
  },
  {
    "start": 1159.17,
    "end": 1160.43,
    "text": "aber Ich möchte immer dagegen halten."
  },
  {
    "start": 1160.51,
    "end": 1170.85,
    "text": "ich weiß Das ist kein starker Trost Aber Die Gefahr Derzeit haben, dass wir in der analog fossilen Welt von Putin und Trump den Planeten kaputt machen."
  },
  {
    "start": 1170.89,
    "end": 1171.97,
    "text": "Die ist auch sehr groß!"
  },
  {
    "start": 1172.35,
    "end": 1180.55,
    "text": "Wir leben natürlich immer mit als Menschheit gefahren und sind nie auf einer perfekten Welle gerade eigentlich auf eine Welle die sehr nach unten geht."
  },
  {
    "start": 1181.19,
    "end": 1191.89,
    "text": "Und insofern würde ich gar nicht jetzt sagen was das Schlimmste kann KI noch beschleunigen sondern ein bisschen mehr Intelligenz könnte der Menschheit schon hoffentlich helfen, besser zu kommunizieren und die Probleme der Welt besser zu lösen."
  },
  {
    "start": 1191.97,
    "end": 1193.81,
    "text": "Also ich bleibe leider im positiven Szenario"
  },
  {
    "start": 1193.91,
    "end": 1194.11,
    "text": "sorry.\"."
  },
  {
    "start": 1194.629,
    "end": 1195.65,
    "text": "Das finde ich sehr gut!"
  },
  {
    "start": 1195.71,
    "end": 1197.65,
    "text": "Ich wollte gar nicht zwingend beim Doomsday enden."
  },
  {
    "start": 1197.73,
    "end": 1200.31,
    "text": "Vielen Dank für das positive Ende Herr Burchardt."
  },
  {
    "start": 1200.75,
    "end": 1201.77,
    "text": "Ja es war mir irgendwie vor Genügen."
  },
  {
    "start": 1206.39,
    "end": 1208.01,
    "text": "Vielleicht ging's Ihnen ja ähnlich."
  },
  {
    "start": 1208.39,
    "end": 1225.07,
    "text": "an einer Stelle im Gespräch habe ich besonders gemerkt dass die Diskussion über die Regulierung von KI gerade so richtig Fahrt aufnimmt Nämlich, als Ayosha Burchat gesagt hat man könne ja auch mal darüber nachdenken ob die großen KI-Firmen nicht zerschlagen werden müssten und das ganze dann gemeinnützig organisiert werden könnte."
  },
  {
    "start": 1225.95,
    "end": 1239.73,
    "text": "Und bei all den Doomsday-Szenarien, die gerade kursieren finde ich das wirklich positiv also dass so offen darüber nachgedacht und gesprochen wird wie wir die Zukunft mit KI gestalten können denn weggehen wird sie ja ganz sicher nicht mehr."
  },
  {
    "start": 1241.17,
    "end": 1244.65,
    "text": "Welche Vorschläge über die wir hier gesprochen haben, halten Sie für sinnvoll?"
  },
  {
    "start": 1244.97,
    "end": 1246.67,
    "text": "Oder haben sie vielleicht noch ganz andere Ideen."
  },
  {
    "start": 1247.25,
    "end": 1254.41,
    "text": "Schreiben Sie gerne eine E-Mail an podcastatset.de oder kommentieren Sie diese Folge auf Spotify – wir freuen uns immer über Rückmeldung!"
  },
  {
    "start": 1255.33,
    "end": 1257.73,
    "text": "Produziert wurde diese Folge übrigens von Julius Zimmer."
  },
  {
    "start": 1257.97,
    "end": 1261.65,
    "text": "dafür sage ich vielen Dank und auch Ihnen sag' ich vielen dank fürs Zuhören."
  },
  {
    "start": 1262.129,
    "end": 1264.09,
    "text": "Morgen gibt's wieder ne neue Folge von Auf den Punkt."
  },
  {
    "start": 1264.23,
    "end": 1265.83,
    "text": "bis dahin machen Sie es gut."
  }
]