[
  {
    "start": 5.66,
    "end": 6.54,
    "text": "Elon Musk K.I."
  },
  {
    "start": 6.72,
    "end": 9.88,
    "text": "verbreitet massenhaft pornografische Fake-Bilder von echten Menschen."
  },
  {
    "start": 10.26,
    "end": 12.66,
    "text": "Und dass deshalb jetzt Regierungen überlegen, die K.I."
  },
  {
    "start": 12.8,
    "end": 14.6,
    "text": "zu sperren, ist für Musk Sensor."
  },
  {
    "start": 15.16,
    "end": 15.86,
    "text": "Ja, mehr sogar noch."
  },
  {
    "start": 16.379,
    "end": 20.88,
    "text": "Musk hat die Regierung von Großbritannien deshalb kürzlich sogar faschistisch genannt."
  },
  {
    "start": 22.02,
    "end": 25.16,
    "text": "Ich spreche gleich mit Simon Berlin aus dem SZ-Digital-Team."
  },
  {
    "start": 25.5,
    "end": 30.36,
    "text": "Und zwar darüber, warum es so schwer ist, etwas gegen Kis wie Elon Musk grog zu tun."
  },
  {
    "start": 31.06,
    "end": 35.16,
    "text": "Und besprechen auch darüber, welche Möglichkeiten Regierungen da überhaupt noch bleiben."
  },
  {
    "start": 35.84,
    "end": 38.42,
    "text": "Sie hören den SZ-Nachrichten-Podcast auf den Punkt."
  },
  {
    "start": 38.88,
    "end": 40.52,
    "text": "Mit mir, Anmalin Holt."
  },
  {
    "start": 45.52,
    "end": 48.86,
    "text": "Ich weiß ja nicht, wie oft sie noch auf der Plattform X unterwegs sind."
  },
  {
    "start": 49.14,
    "end": 53.4,
    "text": "Ich persönlich meide sie eher, seit sie von Milliardär Elon Musk übernommen wurde."
  },
  {
    "start": 53.84,
    "end": 56.66,
    "text": "Aber für diesen Podcast habe ich sie mir dann doch noch mal genauer angeschaut."
  },
  {
    "start": 57.44,
    "end": 62.06,
    "text": "Auf X gibt es eine eingebaute KI, die kommt ebenfalls aus dem Hause Elon Musk."
  },
  {
    "start": 62.28,
    "end": 63.58,
    "text": "Und diese KI heißt GROCK."
  },
  {
    "start": 63.88,
    "end": 65.76,
    "text": "Man kann sie auch unabhängig von X verwenden."
  },
  {
    "start": 65.94,
    "end": 70.46,
    "text": "Und GROCK kann alles das, was auch andere KI's wie Gemini oder Chagipiti können."
  },
  {
    "start": 71.12,
    "end": 74.1,
    "text": "Aber GROCK ist keine normale KI wie jeder andere."
  },
  {
    "start": 74.82,
    "end": 82.6,
    "text": "Es ist ein offenes Geheimnis, dass Elon Musk und sein Team den Chatbots so programmiert haben, dass seine Ansichten politisch rechts sind, oder?"
  },
  {
    "start": 83.1,
    "end": 85.14,
    "text": "eher gesagt sehr rechts."
  },
  {
    "start": 85.98,
    "end": 94.04,
    "text": "Vergangenen Sommer zum Beispiel hat Grog nach einem Update plötzlich antisemitische Verschwörungserzählungen verbreitet und sich selbst Mecherhiddler genannt."
  },
  {
    "start": 94.84,
    "end": 101.6,
    "text": "Und seit Grog eine neue Bildbearbeitungsfunktion eingeführt hat, tauchen auf X massenhaft sexualisierte KI-Bilder auf."
  },
  {
    "start": 102.2,
    "end": 103.46,
    "text": "Allesamt erstellt von Grog."
  },
  {
    "start": 104.22,
    "end": 110.94,
    "text": "Nutzer geben der KI ein Foto von einer Person und sagen, zeigt mir, wie sie in Unterwäsche aussieht, fertig ist das Fake-Pornobild."
  },
  {
    "start": 111.52,
    "end": 120.54,
    "text": "Eine Stichprobenuntersuchung der europäischen Organisation AI für Wrensex hat ergeben, dass mehr als die Hälfte aller von grockgenerierten KI-Bilder auch genau das zeigen."
  },
  {
    "start": 121.14,
    "end": 124.68,
    "text": "Menschen in freizügiger Kleidung, in Unterwäsche oder in Bikini."
  },
  {
    "start": 125.16,
    "end": 127.94,
    "text": "Und zwar vor allem Frauen und minderjährige Mädchen."
  },
  {
    "start": 128.6,
    "end": 131.58,
    "text": "Er stellt wiederum, werden diese Bilder vor allem von Männern."
  },
  {
    "start": 132.16,
    "end": 134.26,
    "text": "Und Elon Musk, der sieht dem ganzen Taten los zu."
  },
  {
    "start": 135.06,
    "end": 142.2,
    "text": "Er sagt dazu, wenn mithilfe von GROC illegale Inhalte erstellt werden, dann liege das Problem nicht bei der KI, sondern bei den Nutzern."
  },
  {
    "start": 142.86,
    "end": 143.84,
    "text": "Das sehen aber viele anders."
  },
  {
    "start": 144.44,
    "end": 154.62,
    "text": "Die Regierungen von Indonesien und Malaysia haben GROC am Wochenende gesperrt, Großbritannien prüft gerade einen ähnlichen Schritt und auch die EU-Kommission sagt, dass sie gerade Beschwerden über GROC prüfe."
  },
  {
    "start": 155.42,
    "end": 157.54,
    "text": "Wie kann man eine KI wie GROC regulieren?"
  },
  {
    "start": 158.18,
    "end": 160.7,
    "text": "Darüber spreche ich jetzt mit meinem Kollegen Simon Berlin."
  },
  {
    "start": 161.96,
    "end": 166.28,
    "text": "Simon, es gibt ja Menschen, die sagen, man soll eigentlich gar nicht mehr auf der Plattform X sein."
  },
  {
    "start": 166.34,
    "end": 171.62,
    "text": "Und dann gibt es solche, die sagen, doch eigentlich muss man gerade jetzt da sein, man darf sie ja auch nicht den Hetzern überlassen."
  },
  {
    "start": 172.36,
    "end": 173.78,
    "text": "Zu welchem Lager gehörst denn du?"
  },
  {
    "start": 175.06,
    "end": 178.1,
    "text": "Ich zähle mich ziemlich eindeutig zugehörig dem ersten Lager."
  },
  {
    "start": 178.28,
    "end": 182.7,
    "text": "Ich glaube, dass es wirklich gar keine guten Argumente mehr gibt, jetzt noch auf X zu sein."
  },
  {
    "start": 183.52,
    "end": 189.58,
    "text": "Ihren Mask hat sich wirklich alle Mühe gegeben, seit ja jetzt mehr als drei Jahren, mehr oder weniger im Wochenrhythmus."
  },
  {
    "start": 190.06,
    "end": 193.64,
    "text": "zu Schau zu stellen, was ihn antreibt, welche Gesinnungen hat."
  },
  {
    "start": 194.24,
    "end": 197.72,
    "text": "Die finde ich eindeutig rassistisch rechtsextrem, frauenverachtend."
  },
  {
    "start": 198.36,
    "end": 208.88,
    "text": "Und genau der aktuelle Skandal rund um die sexualisierte Gewalt gegen Frauen ist nur einer von sehr, sehr, sehr vielen Gründen, nicht mehr auf ex-präsent zu sein."
  },
  {
    "start": 209.64,
    "end": 214.3,
    "text": "Und warum ist es so schwer, das, was Mask macht, einzudämmen?"
  },
  {
    "start": 214.58,
    "end": 215.34,
    "text": "Also warum?"
  },
  {
    "start": 215.96,
    "end": 221.3,
    "text": "Kann der auf X und mit Grog und auch mit allem, was er macht, einfach so frei machen, was er will?"
  },
  {
    "start": 222.4,
    "end": 248.3,
    "text": "Ich finde, dass sich damit die Warnungen bestätigen, die Aktivistinnen und Journalisten teilweise seit Jahren eigentlich auch seit Jahrzehnten immer wieder vortragen, nämlich das eben so mächtige... gesellschaftlich und politisch relevante Plattformen nicht in die Hände von einzelnen Personen, von reichen, mächtigen, multimilialären Gehirn, sondern in irgendeiner Weise auch demokratisch kontrolliert oder zumindest reguliert gehören."
  },
  {
    "start": 248.38,
    "end": 256.86,
    "text": "Und diese Regulierung ist halt weder in der EU und erst rechtlich in den USA in der Formen Kraft, um ex entsprechend einzuhägen."
  },
  {
    "start": 257.5,
    "end": 263.3,
    "text": "Musk weigert sich einfach diese Bildbearbeitungs-Version besser zu regulieren und dann kann man nichts machen."
  },
  {
    "start": 264.08,
    "end": 270.34,
    "text": "Man kann in gewissen Grenzen was machen, aber ja, Mask, er sieht es ja auch gar nicht als Fehler an."
  },
  {
    "start": 270.64,
    "end": 280.9,
    "text": "Grog funktioniert ja genauso wie Mask das Wille, steht ja sogar in dem sogenannten System Prom, also den Anweisungen an dieses KI-System, dass sich Grog genauso verhalten soll, wie er es jetzt eben tut."
  },
  {
    "start": 281.38,
    "end": 282.96,
    "text": "It's not a bug, it's a feature, sagt man."
  },
  {
    "start": 283.1,
    "end": 288.82,
    "text": "Also Grog handelt genau nach der Ideologie von Elon Musk, der macht genau das Gleiche wie sein Eigentümer."
  },
  {
    "start": 289.58,
    "end": 298.78,
    "text": "Und wer ist eine Option, GROC zum Beispiel auch hier in Deutschland zu sperren, so wie das jetzt ja Indonesien und Malaysia schon gemacht haben, wie es auch Großbritannien jetzt erweckt?"
  },
  {
    "start": 299.68,
    "end": 307.0,
    "text": "Das ist innerhalb von Deutschland, so als nationaler Alleingang, grundsätzlich gar nicht möglich, weil mehrere Gründe."
  },
  {
    "start": 307.72,
    "end": 314.4,
    "text": "Innerhalb der EU gibt es ja unterschiedliche Digitalgesetze, in dem Fall ist der Digital Services Act der relevante."
  },
  {
    "start": 314.76,
    "end": 323.3,
    "text": "der besagt, dass für große Online-Plattformen ab einer gewissen Reichweite Nutzerinnenzahl die EU zuständig ist."
  },
  {
    "start": 323.42,
    "end": 327.46,
    "text": "Das heißt, das fällt gar nicht mehr in den Aufgabenbereich der Bundesregierung oder von Deutschland."
  },
  {
    "start": 328.0,
    "end": 331.9,
    "text": "In dem Fall müsste also dann die EU-Kommission entsprechend der Verfahren einleiten."
  },
  {
    "start": 332.14,
    "end": 345.78,
    "text": "Und da kommt wieder das Problem ins Spiel, dass es überhaupt nicht die rechtliche Möglichkeit gibt, X in sehr kurzer Zeit komplett zu sperren, sondern es müsste erst mal ein mehrstufiges, ziemlich komplexes Verfahren beginn, wo u.a."
  },
  {
    "start": 346.08,
    "end": 354.14,
    "text": "auch Ex mehrere Male die Möglichkeit hat zu reagieren, seine Meinung zu äußern, eventuell Gegenmaßnahmen einzuleiten."
  },
  {
    "start": 354.5,
    "end": 361.32,
    "text": "Und das dann könnte unter Umständen am Ende dieses langen Verfahrens eine zunächst vierwöchige Sperre stehen."
  },
  {
    "start": 362.2,
    "end": 363.26,
    "text": "Dann gibt es noch einen zweiten Weg."
  },
  {
    "start": 363.32,
    "end": 377.38,
    "text": "Die EU-Kommission könnte ein Eilverfahren einleiten, wenn sie so besonders akute Gefahr sieht, aber quasi diese Sperrung von X und GROC in der EU ist was, was sicher nicht von heute auf morgen gehen wird."
  },
  {
    "start": 378.04,
    "end": 380.06,
    "text": "Jemand tut sich aber doch ein bisschen was."
  },
  {
    "start": 380.26,
    "end": 386.14,
    "text": "Also die Bundesjustizministerin Hubig, die fordert jetzt verschärfte Strafen gegen digitale Bildmanipulation."
  },
  {
    "start": 386.72,
    "end": 390.98,
    "text": "Wäre das etwas, mit dem man dann GROC oder ähnlichen KI's beikommen könnte?"
  },
  {
    "start": 391.42,
    "end": 395.86,
    "text": "Ich fände das auf jeden Fall einen sinnvollen Schritt, der auch schon meines Erachtens seid."
  },
  {
    "start": 396.34,
    "end": 404.14,
    "text": "einigen Jahren überfällig ist, der Betroffene von bildbasierter Gewalt und eben manipulierten Fotos besser schützen soll."
  },
  {
    "start": 404.6,
    "end": 406.22,
    "text": "Darüber wird seit längerem diskutiert."
  },
  {
    "start": 406.3,
    "end": 412.66,
    "text": "Jetzt diese Welle der generativen KI seit einigen Jahren hat nochmal, finde ich, die Dringlichkeit verdeutlicht für alle."
  },
  {
    "start": 412.78,
    "end": 423.56,
    "text": "Und jetzt, glaube ich, seit einigen Wochen ist dann wirklich endgültig klar geworden, dass eben diese Werkzeuge, wenn man so will, ja... digitale Gewalt demokratisieren."
  },
  {
    "start": 423.62,
    "end": 438.06,
    "text": "Also die stehen einfach jedem auf Knopfdruck, Mausklick zur Verfügung und es ist überhaupt keine Aufwand mehr, massenhaft Fotos von anderen Personen ohne deren Einverständnis zu verfälschen, diese Leute auszuziehen, in andere Posen zu bringen."
  },
  {
    "start": 438.64,
    "end": 443.72,
    "text": "Man ist fürchterlich, was da geschieht und ich glaube, da müsste man auch nochmal die Gesetze entsprechend anpassen."
  },
  {
    "start": 443.92,
    "end": 455.52,
    "text": "Ich bin grundsätzlich immer vorsichtig, wenn man als ersten Schritt schärfere Gesetze fordert, weil in meiner Erfahrung gerade so bei Netzpolitik ist, dass häufig die bestehende Gesetze ausreichen, wenn man die nur entsprechend durchsetzt."
  },
  {
    "start": 455.9,
    "end": 457.86,
    "text": "In dem Fall sehe ich aber tatsächlich eine Schutzlücke."
  },
  {
    "start": 458.48,
    "end": 463.82,
    "text": "Und ich glaube, dass da die Gesetzgebung sich der technologischen Realität anpassen müsste."
  },
  {
    "start": 464.94,
    "end": 478.58,
    "text": "Aber das ist doch auch irgendwie absurd, dass da einfach so auf einer gratis Plattform Nacktfotos, Kinderpornos kursieren, die jeder einfach so erstellen kann und es gibt quasi nichts, was von Regierungsebene da gemacht werden kann."
  },
  {
    "start": 478.92,
    "end": 481.84,
    "text": "Es gibt ja was, ich hatte es ja gerade beschrieben, es ist halt nur kompliziert."
  },
  {
    "start": 482.2,
    "end": 492.86,
    "text": "Und ich finde auch erst mal... ist es eigentlich ja keine Schwäche, dass man halt nicht sagen kann, eine Institution wie die EU-Kommission oder Regierung sagen, so zack, jetzt sperren wir sofort irgendwas."
  },
  {
    "start": 493.48,
    "end": 512.24,
    "text": "Das Problem ist halt, dass diese Gesetze und also in dem Fall der DSA zu einer Zeit geschrieben wurden, als man irgendwie noch davon ausgehen konnte, ja, Plattformen handeln orientiert an moralischen Grundmaßstäben und Gesetzen."
  },
  {
    "start": 513.659,
    "end": 529.0,
    "text": "So quasi auf die Realität, dass halt jemand wie Maske kommt und einfach auf alles pfeift und ein Werkzeug ins Netz stellt, dass hunderttausenden Menschen die Möglichkeit gibt, pädokriminelle oder sexualisierte Aufnahmen zu erstellen."
  },
  {
    "start": 529.36,
    "end": 532.04,
    "text": "Darauf ist eben... der DSA nicht vorbereitet."
  },
  {
    "start": 532.68,
    "end": 536.7,
    "text": "Aber ich weiß nicht, ob man das unbedingt dem DSA als Konstrukt zum Vorwurf machen kann."
  },
  {
    "start": 536.76,
    "end": 545.26,
    "text": "Und ich finde es eben erst mal eigentlich gut, dass man eine Plattform, die viele Millionen Menschen nutzen, nicht einfach so aus dem Netz sperren kann, wie das halt sonst eher Länder wie China machen."
  },
  {
    "start": 546.0,
    "end": 548.18,
    "text": "Jetzt haben wir ja vor allem über Regierungen gesprochen."
  },
  {
    "start": 548.78,
    "end": 552.1,
    "text": "Lass uns vielleicht auch nochmal über die Rolle von Apple und Google sprechen."
  },
  {
    "start": 552.36,
    "end": 556.9,
    "text": "Die haben ja ihre Appstores und da wird Ex einfach so ganz frei angeboten."
  },
  {
    "start": 557.08,
    "end": 558.8,
    "text": "Könnten die ja auch sperren, oder?"
  },
  {
    "start": 559.3,
    "end": 576.04,
    "text": "Könnten Sie, ich würde sogar sagen, müssten Sie, wenn Sie ansatzweise Wert darauf legen, Ihre eigenen Richtlinien umzusetzen, wenn man sich anschaut, was Apple und Google dafür ihre App-Stores so formulieren, dann ist es doch sehr, sehr, sehr eindeutig, dass Ex und Grock dagegen verstoßen."
  },
  {
    "start": 576.74,
    "end": 582.32,
    "text": "Beide Unternehmen haben ja auch schon gezeigt, dass sie durchaus bereit sind, Apps aus den App-Stores zu werfen."
  },
  {
    "start": 582.58,
    "end": 591.32,
    "text": "Aber in dem Fall scheint Mask zu eng mit der Regierung verbandet zu sein, dass man sich traut, da auf Konfrontationskurs zu gehen."
  },
  {
    "start": 591.7,
    "end": 596.3,
    "text": "Und ich kann es auch aus noch einem Grund wirklich überhaupt nicht nachvollziehen, dass da nichts geschieht."
  },
  {
    "start": 596.94,
    "end": 608.38,
    "text": "Beide Unternehmen sind immer wieder in Kartellverfahren vor Gericht, wo es darum geht, dass Entwickler von Apps sich dabei beschweren, dass sie zu viel Kontrolle über den App Store ausüben."
  },
  {
    "start": 608.82,
    "end": 616.92,
    "text": "Und das Argument, was vor allem Apple dann bringt, ist immer, ja, aber das ist unbedingt nötig, damit wir eine sichere Umgebung für unsere Nutzerinnen und Nutzer schaffen."
  },
  {
    "start": 617.26,
    "end": 627.52,
    "text": "Und wenn ich mir anschaue, was Gork jetzt macht und dann überlege, dass Apple sagt, ja, aber wir brauchen diese Kontrolle, damit unsere Nutzer innen sicher sind, dann finde ich das wirklich an Scheinheitigkeit, nicht zu überbieten."
  },
  {
    "start": 627.96,
    "end": 635.82,
    "text": "Sagen wir, ich merke, jemand hat bei Gork ein Bild von mir verändert oder von Leuten, die ich kenne, gibt es dann irgendwas, was ich dagegen tun kann?"
  },
  {
    "start": 636.76,
    "end": 638.98,
    "text": "Es ist leider relativ zäh."
  },
  {
    "start": 639.6,
    "end": 646.9,
    "text": "Also man könnte sich ja auch bei X beschweren, aber... Boah, viel Erfolg, würde ich mal sagen, bis da irgendwas rauskommt."
  },
  {
    "start": 647.7,
    "end": 652.92,
    "text": "Und theoretisch, also hängt dann immer noch sehr davon ab, was für eine Art der Bildmonipulation das ist."
  },
  {
    "start": 653.6,
    "end": 659.38,
    "text": "Wir sprachen ja vorhin kurz darüber, dass da eventuell die Gesetzeslage angepasst werden könnte."
  },
  {
    "start": 660.26,
    "end": 666.44,
    "text": "Aber genau, Stand jetzt ist der Rechtsweg möglich, aber langwierig mit unklarem Ausgang."
  },
  {
    "start": 667.26,
    "end": 670.44,
    "text": "Simon, vielen Dank, dass du das eingeordnet hast und danke für deine Expertise."
  },
  {
    "start": 671.16,
    "end": 672.0,
    "text": "Sehr gerne, ciao."
  },
  {
    "start": 676.36,
    "end": 681.36,
    "text": "Vergangene Woche hat in den USA ein Beamter der Einweiterungsbehörde ICE eine Frau erschossen."
  },
  {
    "start": 681.84,
    "end": 687.22,
    "text": "Vinay Nicole Gutt war Mutter, sieben-dreißig Jahre alt und saß unbewaffnet am Steuer ihres Autos."
  },
  {
    "start": 687.94,
    "end": 691.22,
    "text": "Die Tötung hat in den USA weit verbreiterte Proteste ausgelöst."
  },
  {
    "start": 691.52,
    "end": 696.54,
    "text": "Und jetzt ist klar, dass die tötlichen Schüsse in Minneapolis keine juristischen Konsequenzen haben werden."
  },
  {
    "start": 696.96,
    "end": 701.2,
    "text": "Es soll keine strafrechtliche Untersuchung geben, hat das Justizministerium entschieden."
  },
  {
    "start": 701.68,
    "end": 709.56,
    "text": "Mehrere US-Medien berichten, dass aus diesem Grund in den vergangenen Tagen mindestens sechs Bundesanwälte im US-Bundesstaat Minnesota gekündigt haben."
  },
  {
    "start": 712.42,
    "end": 716.2,
    "text": "Wenn dieser Podcast rauskommt, dann läuft im Weißen Haus ein wichtiges Gespräch."
  },
  {
    "start": 716.72,
    "end": 720.54,
    "text": "Eine Delegation aus Grönland und Danemark ist nämlich gerade in Washington zu Gast."
  },
  {
    "start": 721.24,
    "end": 727.24,
    "text": "Am Mittwoch Nachmittag sprechen sie mit US-Fize JD Vance und Außenminister Marco Rubio über die Zukunft von Grönland."
  },
  {
    "start": 727.8,
    "end": 735.14,
    "text": "Trumps Pläne, die Insel zu US-amerikanischen Gebiet zu machen, sind ja nicht neu, aber in den vergangenen Wochen haben sie noch mal an Intensität gewonnen."
  },
  {
    "start": 735.86,
    "end": 744.62,
    "text": "Vor dem Treffen haben dänische Minister und gründerlische Politiker die US-amerikanischen Forderungen noch mal zurückgewiesen, während Trump diese wiederum noch mal bekräftigt hat."
  },
  {
    "start": 750.7,
    "end": 755.3,
    "text": "Gerade kommt aus der Bundespolitik immer wieder das Signal, die Deutschen müssen mehr arbeiten."
  },
  {
    "start": 755.9,
    "end": 758.88,
    "text": "Aber was, wenn man schon viel arbeitet und sich trotzdem nichts leisten kann?"
  },
  {
    "start": 759.52,
    "end": 760.7,
    "text": "schon gar kein Wohneigentum."
  },
  {
    "start": 761.5,
    "end": 775.84,
    "text": "Mit Blick auf die Immobilienpreise in deutschen Großstätten, sagt mein Kollege Nils Heck, wer nicht gerade damit rechnet, viel Geld zu erben, der sollte sich vielleicht einfach zurücklehnen und weniger arbeiten, anstatt zu versuchen, dem Traum vom Eigenheim hinterher zu arbeiten."
  },
  {
    "start": 776.4,
    "end": 778.74,
    "text": "Sein Kommentar finden Sie in den Shownotes verlinkt."
  },
  {
    "start": 779.66,
    "end": 782.2,
    "text": "Redaktionsstoß für auf dem Punkt war, siehzehn Uhr."
  },
  {
    "start": 782.82,
    "end": 784.98,
    "text": "Produziert hat diese Folge Eileen Zanschak."
  },
  {
    "start": 785.12,
    "end": 789.18,
    "text": "Ich sag vielen Dank dafür und natürlich auch vielen Dank an Sie fürs Zuhören."
  },
  {
    "start": 789.78,
    "end": 793.04,
    "text": "Bis morgen."
  }
]