[ { "start": 4.86, "end": 10.82, "text": "Stellen sich mal vor, dass in ihrer Stadt Polizisten nicht nur Streife gehen wie wir das kennen sondern die Beamten auch eine App nutzen." }, { "start": 11.34, "end": 13.44, "text": "Die so einfach zu bedienen ist wie Google Maps." }, { "start": 14.24, "end": 18.38, "text": "und diese App sagt den Beamten wen genau sie dazu kontrollieren haben." }, { "start": 19.18, "end": 21.08, "text": "Warum aber diese Person verdächtig ist?" }, { "start": 21.12, "end": 23.56, "text": "Das wissen die Polizistinnen zunächst oft selbst nicht." }, { "start": 23.76, "end": 26.48, "text": "Sie folgen einfach den Vorschlägen des Software." }, { "start": 27.04, "end": 28.78, "text": "Ein beängstigendes Zukunftsszenario?" }, { "start": 29.12, "end": 39.04, "text": "Nein Denn genauso gehen die Agenten der US-Migrationsbehörde Eis seit vergangenem Jahr vor mit Hilfe des Softwareelite des US-Unternehmens Palantir." }, { "start": 64.28, "end": 66.34, "text": "Und das passiert nicht nur weit weg in den USA." }, { "start": 66.7, "end": 77.02, "text": "Auch in Deutschland arbeitet die Polizei bereits mit einer Software vom Palantir Ein Unternehmen, das gerade in aller Munde ist und dass sich in einem Werbeklipp für den europäischen Markt so vorstellt." }, { "start": 95.88, "end": 103.92, "text": "Doch abseits der positiven Selbstdarstellung, dass Palantir für Ordnung in einer chaotischen Welt sorgt bereitet diese Software anderen große Sorgen." }, { "start": 104.16, "end": 109.66, "text": "Die Polizei im Freistaat nutzt die Technik des US-Herstellers Palantir, um Daten zusammenzuführen." }, { "start": 110.06, "end": 112.44, "text": "Auch Hessen und NRW machen das bald auch" }, { "start": 112.52, "end": 113.38, "text": "Baden-Württemberg.\"." }, { "start": 113.88, "end": 116.22, "text": "Mit der umstrittenen Software aus den USA können" }, { "start": 116.28, "end": 120.14, "text": "Behörden Verdächtige aufspüren und Menschen überwachen." }, { "start": 136.48, "end": 143.32, "text": "Ist der Einsatz vom Palantir also der erste Schritt zum automatisierten Überwachungsstaat oder ein notwendiger Schritt hin zu mehr Sicherheit?" }, { "start": 144.12, "end": 150.16, "text": "Und falls ja, wer sorgt dafür dass wir eben kein Überwachungstaat werden und das diese Technologie regeln." }, { "start": 150.58, "end": 153.6, "text": "Darüber spreche ich mit Janis Brühl aus der SW Wirtschaftsredaktion." }, { "start": 153.7, "end": 157.06, "text": "er hat sich intensiv mit KI die Rolle von Techfirmen wie Palantier." }, { "start": 160.06, "end": 162.92, "text": "Sie hören das Thema, den Recherche-Podcast der Süddeutschen Zeitung." }, { "start": 163.34, "end": 164.46, "text": "Am Mikro ist Lars Langenau." }, { "start": 164.56, "end": 165.34, "text": "herzlich willkommen!" }, { "start": 170.08, "end": 170.32, "text": "Janis." }, { "start": 170.36, "end": 175.36, "text": "die US Einwanderungsbehörde EIS arbeitet mit Unterstützung der Palantir Software – wie funktioniert es eigentlich?" }, { "start": 176.3, "end": 185.78, "text": "Das Spezialgebiet von Palantia ist es Daten aus ganz verschiedenen Quellen zusammenzufassen und für die Polizei oder das Militär besser benutzbar zu machen." }, { "start": 187.02, "end": 196.86, "text": "Bei den Eiseinsätzen in den USA gegen Migranten hat EIS unter anderem eine App namens Elite von Palantir eingesetzt." }, { "start": 197.52, "end": 212.98, "text": "Das ist eine App, die verschiedene Datenquellen zusammenführt aus dem Gesundheitsministerium und aus anderen Behörden auch von den Einwanderungsbehörden und die dann auf einer Art Karte darstellt wo die Wahrscheinlichkeit am höchsten ist bestimmte Leute zu finden und festnehmen zu können." }, { "start": 213.82, "end": 218.16, "text": "das hat einen Mitarbeiter von EIS mit Google Maps verglichen." }, { "start": 218.22, "end": 224.14, "text": "Man kann sich das so vorstellen, man hat dann eine Karte und wie man auf Google Maps eingibt wo ist das nächste Café?" }, { "start": 224.36, "end": 233.94, "text": "Und dann ploppen lauter Cafés in der Nähe auf der Karte auf, ploppt dort eben Orte auf an denen die Migranten, die festgenommen werden sollen gefunden werden können." }, { "start": 234.1, "end": 243.42, "text": "Dann fahren die Eisleute dorthin und dann haben sie dort Leute aus ihren Häusern gezerrt Windschutzscheiben durchschlagen, Leute aus Autos gezerrt und mitgenommen" }, { "start": 244.66, "end": 247.7, "text": "Und dafür braucht man dann eine unglaubliche Menge an Informationen." }, { "start": 248.4, "end": 249.1, "text": "Woher kommen die denn?" }, { "start": 249.88, "end": 262.6, "text": "Die kommen aus ganz verschiedenen Daten, Töpfen und die Grundidee bei diesen Datentöpfe über die der Staat verfügt ist eigentlich dass sie getrennt bleiben Denn sobald man anfängt diese Töpfel zu vermischen steigt ja das Missbrauchsrisiko." }, { "start": 262.8, "end": 269.2, "text": "Deshalb gibt es die sogenannte Zweckbindung immer Dass bestimmte Daten aus bestimmten Quellen nur für bestimmte Dinge verwendet werden sollen." }, { "start": 269.88, "end": 278.84, "text": "Und hier gibt es eben ein großes Interesse des Staates, die Daten zusammenzuführen um Menschen stärker überwachen zu können und leichter finden zu können." }, { "start": 280.02, "end": 283.64, "text": "Das wird dann der Polizeiaber zur Verfügung gestellt oder auch anderen Behörden noch?" }, { "start": 284.34, "end": 288.32, "text": "Genau in den USA ist das die Polizei, aber eben auch die Einwanderungsbehörde." }, { "start": 288.5, "end": 297.78, "text": "Die wie man ja vor allem in Minneapolis gesehen hat sich selbst rechtlich an der Grenze oder jenseits der Grenzen des legalen bewegt." }, { "start": 298.38, "end": 300.2, "text": "diese Einsätze waren ja höchst umstritten." }, { "start": 301.76, "end": 311.34, "text": "Was auch relativ neu ist, dass auch Datensätze aus dem kommerziellen Zivilenbereich angekauft werden vom amerikanischen Staat und die staatlichen Daten damit ergänzt werden." }, { "start": 311.72, "end": 314.6, "text": "Das sind teilweise Daten aus dem Online-Werbegeschäft." }, { "start": 314.68, "end": 321.58, "text": "ja wir kennen das von Google, Facebook und vielen kleinen Anbietern, die uns im Internet überwachen." }, { "start": 322.16, "end": 327.32, "text": "Das ist eigentlich eine rein kommerzielle Überwachung aber mittlerweile greifen auch Staaten auf diese Daten zurück." }, { "start": 327.54, "end": 330.56, "text": "Die können sie nämlich zumindest in den USA einfach an kaufen." }, { "start": 331.7, "end": 333.1, "text": "Vorreiter ist der Palantir." }, { "start": 333.2, "end": 333.96, "text": "Was ist das für eine Firma?" }, { "start": 335.42, "end": 346.04, "text": "Palantia ist eine Firma, die von unter anderem Peter Thiel gegründet wurde, der ja einer der Mitgründe von PayPal war mit dem Verkauf von PayPal an eBay reich geworden ist." }, { "start": 346.58, "end": 350.9, "text": "Er hat sie zusammen mit Alex Karp und Joe Lonsdale gegrüntet." }, { "start": 351.86, "end": 354.88, "text": "Alle drei unterstützen mittlerweile die Trump-Regierung." }, { "start": 354.96, "end": 370.52, "text": "Peter Thiele ist einer der ältesten Unterstützer von Donald Trump im Silicon Valley gewesen Und alle zeichnen sich dadurch aus, dass sie mit ihren Software und mit ihren Firmengründungen letztendlich Polizei Militär und den Zentralstaat unterstützen." }, { "start": 371.22, "end": 385.16, "text": "Palantir ist eben spezialisiert darauf in einer sehr angenehmen übersichtlichen Oberfläche wie wir sie ja aus den Apps auf unseren Handys kennen, sehr heikle Daten zusammenzuführen und durchsuchbar zu machen." }, { "start": 385.74, "end": 390.2, "text": "Die Polizisten finden das toll, aber es gehen natürlich damit einher sehr viele Fragen." }, { "start": 390.54, "end": 397.36, "text": "Wenn es darum geht wie übergriffig wird der Staat und wie mächtig ist er in der Überwachung geworden durch Software wie die von Panantir?" }, { "start": 397.94, "end": 399.76, "text": "Peter Thier kennt man mittlerweile so ein bisschen." }, { "start": 400.48, "end": 402.82, "text": "kannst du bitte ein bisschen was über den Karp erzählen." }, { "start": 403.34, "end": 409.62, "text": "Alex Karp ist eine sehr auffällige Figur innerhalb dieser Technologie Gründer- und Technologienunternehmer Szene." }, { "start": 410.28, "end": 415.58, "text": "Er hat Philosophie studiert in Frankfurt am Main, er spricht doch sehr gut Deutsch." }, { "start": 416.04, "end": 423.0, "text": "Ist aber amerikaner hat sich lange als linker bezeichnet wo mit der sicher grundlegend unterscheidet zum Beispiel von jemandem wie Peter Thiel." }, { "start": 423.78, "end": 430.18, "text": "Peter Thil bezeichnete sie als Libertär und beide rühmen sich auch dass sie immer viel miteinander streiten." }, { "start": 430.72, "end": 437.38, "text": "Fakt ist aber das auch Alex Karp, der so ein bisschen das Image des exzentrischen unkonventionellen Querdenkers pflegt." }, { "start": 437.76, "end": 444.84, "text": "Das auch eher jemand isst der quasi blind den amerikanischen Staat, das amerikanische Militär und die amerikanliche Polizei unterstützt." }, { "start": 445.3, "end": 446.24, "text": "Er hat ein Buch geschrieben," }, { "start": 446.3, "end": 446.46, "text": "d.h.," }, { "start": 447.02, "end": 457.12, "text": "The Technological Republic in dem er so eine Art Masterplan entwirft, dass das Silicon Valley in den Dienst des Staates und vor allem des Sicherheitsstaates sich stellen soll." }, { "start": 457.56, "end": 457.72, "text": "D.h." }, { "start": 458.18, "end": 467.56, "text": "die Programmierer im Silicon Valley sollen gefälligst aufhören nur Dattel-Apps zu programmieren, Social Media Gaming oder Pornografie-Website und so weiter." }, { "start": 467.94, "end": 484.44, "text": "Sie sollen fürs Militär arbeiten, sie sollen die beste Künstlieintelligenz für Drohnen Auch während der Einsätze in Minneapolis, die ja sehr brutal verlaufen sind und bei denen auch amerikanische Bürger gestorben sind." }, { "start": 485.12, "end": 493.34, "text": "Der sich sehr weit aus dem Fenster gelehnt hat für die Regierung Trump und die Eisleute noch angefeuert hat dass sie doch bitte noch härter durchgreifen sollten." }, { "start": 493.94, "end": 501.68, "text": "In Deutschland ist Joel Lonsdale auch relevant weil er wie Peter Thiel auch in einer Drohnen Start-ups hierzulande investiert hat." }, { "start": 501.8, "end": 510.62, "text": "Und damit einher geht eine Diskussion und zwar inwieweit diese Investoren Maga nah, sehr Trump-nah sind." }, { "start": 511.0, "end": 515.28, "text": "Inwieweit die Anfirmen beteiligt sein sollten, die ja auch die Bundeswehr beliefern werden?" }, { "start": 516.34, "end": 524.36, "text": "So als Liberaler und Linksliberaler würde ich jetzt sagen was für eine Mischbokem... Was ist die Gefahr von Palantir?" }, { "start": 525.84, "end": 534.52, "text": "Palantia ist durch die Technologie, die sie entwickelt haben einer Herausforderung für die Demokratie weil Sie eben verschiedene Daten aus verschiedenen Datenbanken zusammenführen." }, { "start": 534.7, "end": 542.24, "text": "das führt zu einer Zentralisierung von Wissen Die Macht des Staates, in diesem Fall in Form der Polizei gegenüber dem Bürger." }, { "start": 542.88, "end": 550.38, "text": "Und die Demokratie und das Recht müssen schauen wie sie da hinterher kommen denn plötzlich sieht der Staat viel mehr." }, { "start": 551.4, "end": 558.5, "text": "Er ist auch nicht mehr beschränkt dadurch wie viele Beamte er zur Verfügung hat die Menschen überwachen durch leuchtenden" }, { "start": 558.56, "end": 558.7, "text": "usw.," }, { "start": 559.6, "end": 562.16, "text": "sondern er kann es zu einem gewissen Grad automatisieren." }, { "start": 562.3, "end": 567.18, "text": "und wie Alex Carp sagt Palantir macht Dinge sichtbar die man vorher nicht gesehen hat." }, { "start": 568.38, "end": 574.36, "text": "Dadurch wird die Polizei viel mächtiger, das mag in vielen Fällen natürlich auch wünschenswert sein bei der Jagd nach Verbrechern." }, { "start": 574.84, "end": 590.42, "text": "Aber die Frage ist eben auch ob dadurch noch viel mehr unschuldige Menschen als bisher ins Raster der Verhandlungen kommen und diese Suche in den Datenbanken auf sie anschlägt womit dann wiederum die Frage verbunden ist, ob der Staat nicht zu mächtig wird?" }, { "start": 590.54, "end": 594.32, "text": "Und ob seine Überwachungsmöglichkeiten nicht die Grundrechte einschränken." }, { "start": 595.36, "end": 600.22, "text": "In der letzten Sendung haben wir über KI und Militär gesprochen, und da haben wir bei den Firmen ein Tropic gesprochen." }, { "start": 600.3, "end": 604.48, "text": "Und die haben ja zumindest zwei Dinge gesagt, was sie nicht machen wollen." }, { "start": 604.56, "end": 612.0, "text": "Sie wollen keine Überwachung im Inland haben... ...und sie wollen nicht das Bestücken in Autonom-Waffensystemen." }, { "start": 612.5, "end": 615.44, "text": "Jetzt lassen uns noch mal über diesen Überwachungsgedanken reden!" }, { "start": 615.5, "end": 621.0, "text": "Also hast du Palantir sagt, dass soll sogar in den Dienst des Staates gesteckt werden?" }, { "start": 621.38, "end": 623.36, "text": "Gibt es für die irgendwelche Grenzen?" }, { "start": 624.74, "end": 627.74, "text": "Für Anthropic gilt, was für Palantir auch gilt." }, { "start": 627.8, "end": 637.4, "text": "Und zwar muss ich genau anschauen inwieweit diese ethischen Grundsätze die da nach vorne gestellt werden, auch dem Marketing und der Eigenwerbung dienen." }, { "start": 638.18, "end": 654.74, "text": "Bei Palantirs ist es so dass seit der Gründung dieses Unternehmen ein Bürgerrechts Team hat Die haben sich das von Anfang an auf die Fahnen geschrieben Dass sie die Rechte des einzelnen Bürgers gegenüber dem Überwachungsstaat achten werden und sogar schützen werden." }, { "start": 654.8, "end": 663.88, "text": "Das heißt, sie haben sich auch immer als im Geiste von Peter Thiel des Gründers als libertäres Unternehmen gesehen das eben die Macht des Staates nicht zu aussufern lassen will." }, { "start": 664.42, "end": 666.14, "text": "in der Praxis sieht es aber eben ganz anders aus." }, { "start": 666.18, "end": 667.98, "text": "dass haben wir bei den Eiseinsätzen gesehen." }, { "start": 668.36, "end": 675.04, "text": "das sehen wir an den vielen vielen Aufträgen die Palantir insbesondere unter Donald Trump jetzt bekommen hat in dieser Amtszeit." }, { "start": 676.56, "end": 680.38, "text": "Die sind sehr gut im Geschäft und sie machen so gut wie alles für den amerikanischen Staat." }, { "start": 680.68, "end": 691.54, "text": "Und wenn man dieses Manifest von Alex Karp liest, dann hat man nicht das Gefühl dass es da Grenzen gibt sondern da wird sozusagen die Stärke der USA oder anderen westlichen Staaten eigentlich über alles gestellt." }, { "start": 692.04, "end": 693.94, "text": "Womit verdient denn Palantir sonst sein Geld?" }, { "start": 694.5, "end": 696.82, "text": "Palantier hat auch viele zivile Kunden." }, { "start": 697.0, "end": 707.64, "text": "Das sind Unternehmen wie Banken und andere Firmen die Software nutzen, um ihre Daten besser zu analysieren und daraus irgendwelche Erkenntnisse zu gewinnen." }, { "start": 708.14, "end": 712.3, "text": "Wirklich heikel sind aber natürlich die Einsätze von Palantir für die Sicherheitsbehörden." }, { "start": 713.32, "end": 723.6, "text": "Die Polizei das Militär die Geheimdienste nutzen diese Software um eben aus verschiedenen Datentöpfen neue Erkenntnisse zu gewennen und Verbindungen zu finden." }, { "start": 723.72, "end": 746.88, "text": "ja Das kann man sich dann vorstellen wie so eine eine Art Netzwerk Grafik in der bestimmte Menschen Personen ass erwarten, also zum Beispiel Fingerabdrücke oder bestimmte Autos die benutzt wurden von Verdächtigen wo die verbunden werden auf dem Bildschirm und dann erkennen die Polizisten eben Dinge Spuren die sie vorher nicht gesehen haben." }, { "start": 747.14, "end": 749.1, "text": "So soll das im Idealfall funktionieren." }, { "start": 750.4, "end": 751.78, "text": "Wie hat EIS das genau eingesetzt?" }, { "start": 753.02, "end": 766.38, "text": "Über die Elite App und die verschiedenen Daten die dort zusammen fließen haben die EIS-Agenten Handys dann diese Karten aufrufen können, die ihnen gezeigt haben wo mit welcher Wahrscheinlichkeit Migranten anzutreffen sind." }, { "start": 767.2, "end": 778.7, "text": "Die haben sie sich geschnappt letztendlich und wiederum mit anderen Apps ihnen ins Gesicht geleuchtet, das waren die Gesichtserkennungs-Apps, die auch zum Einsatz kommen, die eine hohe Fehlerquote haben." }, { "start": 778.76, "end": 782.62, "text": "Also da wurden Leute verhaftet, die gar nicht gesuchten waren." }, { "start": 783.62, "end": 798.48, "text": "All diese Systeme sind noch sehr fehleranfällig wenn sie künstliche Intelligenz oder biometrische Erkennungssysteme einsetzen so dass mit einer Vielzahl von Apps nacheinander Leute ausfindig gemacht festgenommen identifiziert wurden oder auch falsch identifiziert wurden." }, { "start": 799.48, "end": 801.58, "text": "Und in den USA wird das gar nicht unterbunden?" }, { "start": 802.9, "end": 811.1, "text": "Das gehört zum Wesen der derzeitigen Regierung, dass sie erst handeln und sich danach um die rechtlichen Konsequenzen scheren." }, { "start": 811.16, "end": 831.32, "text": "wir haben ja auch gesehen, dass es einen Haufen Gerichtsverfahren gibt und Versuche von Bürgerrechtsgruppen aber auch vom Staat Minnesota Eis aufzuhalten, am Ende gab es ja auch einen öffentlichen Druck der so groß war dass dieser Einsatz beendet wurde weil es einfach in den Augen der Öffentlichkeit nicht mehr tragbar war." }, { "start": 831.82, "end": 835.96, "text": "Aber das ganze folgt natürlich ein bisschen dem Silicon Valley Motto move fast and break things." }, { "start": 836.06, "end": 844.42, "text": "Das heißt man geht erstmal rein schlägt die Dinge kaputt experimentiert rum und ob das legal war oder nicht das kann man ja dann hinterher vor Gericht ausfechten." }, { "start": 844.86, "end": 848.7, "text": "Jetzt haben wir über die USA gesprochen aber diese KI wird hier inzwischen auch in Deutschland eingesetzt." }, { "start": 848.8, "end": 849.14, "text": "wo genau?" }, { "start": 850.5, "end": 853.38, "text": "Es gibt vier Bundesländer, die Verträge mit Palantir haben." }, { "start": 854.0, "end": 858.52, "text": "Hessen, Nordrhein-Westfalen, Bayern und Baden-Württemberg seit kurzer Zeit." }, { "start": 859.56, "end": 867.6, "text": "Ich habe mir in Frankfurt das hessische System angeschaut und hier in München das bayerische System heißt Vera." }, { "start": 868.26, "end": 871.08, "text": "Das ist aber eigentlich das System Gotham von Palantire." }, { "start": 871.14, "end": 881.18, "text": "Das ist nur die Bayerische Anpassung, die den Namen Vera trägt Und das kann man sich so vorstellen in einem Raum ganz normale Büroraum, da sind mehrere Bildschirmen und Tastaturen drin." }, { "start": 881.56, "end": 889.32, "text": "Und jeder Platz hat aber eine normale Tastatur für das klassische Polizeisystem und eine Wehrer-Tastatur fürs Palantirsystem." }, { "start": 890.38, "end": 899.28, "text": "Ein Raum daneben Da sind nochmal zwei Stetische und da stehen besser gesagt zwei freundliche junge Männer drin in T-Shirts." }, { "start": 899.34, "end": 906.26, "text": "Das sind die Palantirmitarbeiter, die direkt im Nebenraum mit den Beamten vom Bayerischen Landeskriminalamt arbeiten." }, { "start": 908.9, "end": 913.86, "text": "Das ist relativ normal ein Softwarefirmen das bei ihren Kunden auch Leute stationiert haben." }, { "start": 914.52, "end": 922.44, "text": "In dem Fall ist es aber natürlich so dass hier Mitarbeiter von einem Techkonzern mitten im deutschen Polizeiapparat sitzen." }, { "start": 923.42, "end": 927.06, "text": "Das verwundert mich jetzt total, was für Rechte haben die denn dort?" }, { "start": 928.1, "end": 934.8, "text": "Also uns wurde versichert sowohl vom Palantir als auch vom LKA das sie nicht auf die Daten zugreifen können." }, { "start": 935.7, "end": 945.62, "text": "allerdings ist es doch so dass bei der Einrichtung des Systems Palantier Mitarbeiter wohl laut Aussagen der Polizisten dort sehr wohl die Daten sehen konnten." }, { "start": 946.36, "end": 951.26, "text": "Und auch, es stellt sich noch eine andere Frage und zwar die nach der digitalen Souveränität." }, { "start": 951.46, "end": 959.16, "text": "Ob man sich jetzt hier nicht abhängig gemacht hat von einer US-Firma oder deren Führungsriege sehr gute Kontakte zur Trump-Regierung unterhält?" }, { "start": 959.42, "end": 964.92, "text": "Wir wissen ja in welchem angespannten Verhältnis die USA und Europa, die USA an Deutschland derzeit sind." }, { "start": 965.48, "end": 978.24, "text": "Und Alex Carp hatte in einem Interview auch schon deutlich gemacht dass er sich durchaus vorstellen kann wenn er der Meinung ist das eine Regierung, das Palantirsystem missbrauchen will dass dann diese Forward Deployed Engineers abgezogen werden." }, { "start": 978.82, "end": 985.56, "text": "Dass es da noch keine Updates mehr vom Palantir gibt auf Deutsch, das das System dann veraltet und relativ schnell nutzlos wird." }, { "start": 985.66, "end": 990.58, "text": "Das heißt, Palanthier ist durchaus bewusst, dass man hier einen politischen Hebel hat." }, { "start": 992.08, "end": 994.26, "text": "Wie unterscheidet sich denn der Ansatz zu dem in den USA?" }, { "start": 995.72, "end": 997.78, "text": "In Deutschland sind die Auflagen schon viel strenger." }, { "start": 998.64, "end": 1013.44, "text": "Das ist einerseits eine kulturelle Sache weil natürlich viele Leute ich glaube sogar inklusive einiger Polizei beachten Bedenken haben jetzt einfach gedankenlos, Autorität an die KI zu delegieren und der KI viel die Dinge zu überlassen." }, { "start": 1013.56, "end": 1016.0, "text": "Und hier große Teile der Polizeiarbeit zu automatisieren." }, { "start": 1016.34, "end": 1017.8, "text": "Dennoch gibt es ein großes Interesse dran." }, { "start": 1018.82, "end": 1028.54, "text": "Es geht aber auch in das ist die rechtliche Seite einen Urteil des Bundesverfassungsgerichts von zwei tausend dreien zwanzig Das bei diesem KI Einsatz eben besonders hohe Hürden gelten müssen." }, { "start": 1029.22, "end": 1035.78, "text": "da müssen die Daten besonders gut geschützt werden und es darf auch nur bei besonders schweren Straftaten eingesetzt werden." }, { "start": 1035.859, "end": 1047.94, "text": "Das heißt, wenn die Polizisten sich einlocken müssen sie auch die Straftat auswählen wegen der Sie ermitteln also Terrorismus oder organisierte Kriminalität und je nachdem was Sie auswähen haben Sie dann Zugriff auf bestimmte Daten." }, { "start": 1048.42, "end": 1053.46, "text": "es gibt auch wegen der streng rechtlichen Regelung zum Beispiel geschwerzte Namen in diesem System." }, { "start": 1054.02, "end": 1067.3, "text": "Das heißt, wir haben hier schon andere Barrieren als in den USA wo die Polizisten letztendlich Card Blanche haben und machen können was sie wollen und eben auch diese kommerziellen Daten zukaufen können und einfach wild mit den staatlichen Daten kombinieren können." }, { "start": 1068.2, "end": 1072.3, "text": "Aber ausschließend tust du es nicht dass Palantir Zugriff auf diese Daten hat?" }, { "start": 1073.6, "end": 1076.32, "text": "Ich glaube man kann es nicht hundertprozentig ausschließen." }, { "start": 1077.44, "end": 1079.9, "text": "das ganze läuft leider auch etwas intransparent ab." }, { "start": 1080.54, "end": 1082.22, "text": "Palantir-Systeme sind eine Black Box." }, { "start": 1082.8, "end": 1089.84, "text": "Die Polizei ist auch in Deutschland nicht hundertprozent transparent, die Innenminister, die Palantier loben – auch nicht!" }, { "start": 1089.9, "end": 1098.44, "text": "Sie erzählen dann immer von Straftaten, die verhindert wurden und wenn man nachfragt welche das denn waren sagen sie, dass dürfen wir ihnen nicht sagen Ermittlungstaktische Gründe oder nationale Sicherheit." }, { "start": 1099.06, "end": 1100.94, "text": "Das heißt, so richtigen Einblick hat man nicht." }, { "start": 1100.98, "end": 1111.68, "text": "Hinzu kommt natürlich das KI-Algorithmen an sich haben, dass man sie nicht so leicht durchschauen kann und dass man nicht genau nachvollziehen kann wo der Output des Systems jetzt genau herkommt." }, { "start": 1112.38, "end": 1117.0, "text": "Du hast es vorhin schon mal erwähnt welche Fehler im System von Palantir sind aufgefallen?" }, { "start": 1117.76, "end": 1123.3, "text": "Also auch die Kritiker können noch auf niemanden verweisen der jetzt fälschlicherweise festgenommen wurde." }, { "start": 1124.02, "end": 1126.82, "text": "deswegen Sie haben ein eher grundsätzliches Problem damit." }, { "start": 1128.54, "end": 1134.78, "text": "Klar ist das immer mehr Leute in dieses Raster gekommen, dass durch diese Automatisierung möglich ist." }, { "start": 1136.06, "end": 1149.68, "text": "Da stellt sich die Frage ob die Leute nicht Angst bekommen ihre Meinung zu sagen, Angst bekommen auf bestimmte Veranstaltungen zu gehen weil ja immer mehr Daten anfallen und immer mehr leute in Datenbanken landen und es immer mehr Verbindungen zwischen immer mehr Datenbanken gibt, die durch dieses Software hergestellt werden." }, { "start": 1150.42, "end": 1151.6, "text": "Und ein ganz praktisches Beispiel?" }, { "start": 1152.18, "end": 1164.12, "text": "Es gibt zum Beispiel den Fall wegen dem die Gesellschaft für Freiheitsrechte eine Verfassungsbeschwerde eingereicht hat, nämlich einen Fanbetreuer der sich selbst nichts hat zu Schulden kommen lassen." }, { "start": 1164.68, "end": 1170.22, "text": "Der aber das liegt in der Natur seines Engagements auch mit Hooligans zu tun hat." }, { "start": 1170.86, "end": 1178.56, "text": "Das heißt er ist auch eher erfasst worden im Zusammenhang mit Gewalt beim Sport und Fußballspiel herum." }, { "start": 1178.6, "end": 1182.58, "text": "Er hat aber selbst nichts getan und taucht aber in den System auf." }, { "start": 1183.16, "end": 1189.24, "text": "Und das ist ein Problem, dass natürlich mit der zunehmenden Automatisierung, mit der immer stärkeren Datenerfassung immer mehr Menschen blüht." }, { "start": 1189.64, "end": 1191.52, "text": "Und Palantir ist nur einer von diesen Anbietern?" }, { "start": 1192.18, "end": 1193.84, "text": "PalantIR ist der bekannteste Anbiter." }, { "start": 1194.02, "end": 1202.94, "text": "aber es gibt natürlich viele Firmen die diesen enormen Datenschatz, der sich in den letzten Jahrzehnten digital angehäuft hat nutzen wollen." }, { "start": 1203.02, "end": 1204.36, "text": "für Überwachungstechnologie." }, { "start": 1204.58, "end": 1207.94, "text": "Es gibt zum Beispiel Clearview AI oder auch PIMEIS." }, { "start": 1208.02, "end": 1217.02, "text": "Das sind beides Firmen, die sich auf Gesichtserkennungen spezialisiert haben und die Milliarden von Fotos, von uns allen aus dem Internet gezogen haben." }, { "start": 1217.92, "end": 1223.14, "text": "Was nach europäischem Recht eigentlich überhaupt nicht geht und die damit aber Gesichtserkennung anbieten." }, { "start": 1223.98, "end": 1239.14, "text": "Berühmt ist der Fall von Daniela Kletter geworden wo Journalisten das Gesicht der mutmaßlichen RF-Terroristin über PimEis gefunden haben zu einem Zeitpunkt zudem Polizisten diese Technologie gar nicht benutzen durften." }, { "start": 1239.54, "end": 1249.4, "text": "Deswegen gibt es jetzt auch einen Gesetzentwurf, der es auch Polizisten ermöglichen soll, diese kommerziellen Daten zu nutzen, obwohl es wirklich sehr umstritten ist wie diese zustande kam." }, { "start": 1249.46, "end": 1254.88, "text": "Denn die Firmen haben sich einfach vor Jahren sehr viele Bilder von uns aus dem Internet geholt ohne uns zu fragen." }, { "start": 1255.08, "end": 1255.18, "text": "Hört" }, { "start": 1255.22, "end": 1257.82, "text": "sich alles an wie George Orwell nassert vierundachtzig?" }, { "start": 1258.18, "end": 1263.08, "text": "Ist das auch das wovor Kritiker Angst haben dass so etwas künftig und öfters passiert?" }, { "start": 1263.72, "end": 1270.18, "text": "Die Technologie ist da und damit auch die Versuchungen für die Polizei, die Sicherheitspolitiker immer mehr davon anzuschaffen." }, { "start": 1273.3, "end": 1283.7, "text": "Es gibt sinnvolle KI-Einsätze bei der Polizei aber es gibt eben auch die Frage ob ... sich nicht das Machtverhältnis zwischen Bürger und Staat umkehrt." }, { "start": 1284.06, "end": 1291.2, "text": "In der Demokratie glauben wir ja daran, dass nicht die ganze Macht im Staat oder an einem Punkt im Staat konzentriert sein soll." }, { "start": 1291.64, "end": 1304.86, "text": "Deswegen haben wir eine Gewaltenteilung und deswegen haben wir Bürgerrechte, dass wir alle ein bisschen Macht haben und wenn der Staat natürlich über diese futuristischen Supertechnologien sozusagen verfügt dann hat er mehr Macht." }, { "start": 1305.2, "end": 1310.1, "text": "Und eigentlich braucht es dann auch neue Regeln und neue Einschränkungen, um dafür zu sorgen dass wir die Macht nicht verlieren." }, { "start": 1310.8, "end": 1313.76, "text": "Ja aber wer legt diese Spielregel denn fest wäre das Spiel schon geschwiebt wird?" }, { "start": 1314.54, "end": 1316.5, "text": "Das ist eine Aufgabe der Parlamente." }, { "start": 1317.0, "end": 1319.06, "text": "Das ist ne Aufgabe der Gerichte." }, { "start": 1319.62, "end": 1322.16, "text": "Die müssen eben sehr wachsam sein." }, { "start": 1322.6, "end": 1324.7, "text": "Zuerst aber müssen sie mal die Technologie überhaupt verstehen." }, { "start": 1325.36, "end": 1332.28, "text": "Es werden nicht nur Milliarden sondern sogar Billionen in künstliche Intelligenz und den Überwachungstechnologien gesteckt." }, { "start": 1332.84, "end": 1334.6, "text": "Die Entwicklungssprünge sind sehr, sehr groß." }, { "start": 1335.06, "end": 1339.52, "text": "Dadurch dass mit immer mehr Daten und mit immer meer Rechenkraft gearbeitet wird." }, { "start": 1340.0, "end": 1342.72, "text": "den Entwicklern werden horrende Gehälter geboten." }, { "start": 1343.48, "end": 1352.92, "text": "Es ist sehr schwierig für die Zivilgesellschaft da überhaupt mitzukommen aber am Ende haben wir alle ein bisschen die Pflicht uns damit zu beschäftigen was da auf uns zukommt." }, { "start": 1354.04, "end": 1355.9, "text": "Jetzt noch mal diese Disturpivate gedacht." }, { "start": 1356.24, "end": 1362.56, "text": "Wir haben eine autoritäre Partei die hier in Deutschland wenn es auch nur ein Bundesland ist, die Macht erringt." }, { "start": 1363.48, "end": 1368.02, "text": "Diese Instrumente in der Hand einer solchen Regierung." }, { "start": 1368.26, "end": 1369.02, "text": "was kann sie machen?" }, { "start": 1371.3, "end": 1388.76, "text": "Wenn alle Grenzen eingerissen werden zwischen den verschiedenen Datenbanken dann werden letztendlich alle unsere Tätigkeiten Immer wenn wir irgendwo präsent sind, sei es was wir in sozialen Medien hinterlassen." }, { "start": 1389.14, "end": 1395.66, "text": "Sei es wo wir gemeldet sind, ob wir mal Zeugen einer Straftat waren und so weiter und sofort." }, { "start": 1396.02, "end": 1402.66, "text": "Das wird alles zusammengefasst über dieses Software Und dann schlägt die Software auch öfter an." }, { "start": 1402.74, "end": 1410.18, "text": "das heißt jeder von uns kann viel öfter als dass jetzt der Fall ist ins raster geraten und auch zu unrecht verdächtigt werden." }, { "start": 1411.28, "end": 1419.02, "text": "das heißt Sinnvoller ist es, ich ziehe mich ins Privatleben zurück und gehe gar nicht auf die Demonstration weil ich dort hier gefilmt werden kann." }, { "start": 1419.08, "end": 1420.78, "text": "Und dann werde ich ausgewertet." }, { "start": 1421.72, "end": 1424.38, "text": "Das könnte der sogenannte Chilling Effekt sein." }, { "start": 1424.46, "end": 1430.68, "text": "ja also dass sich das gesellschaftliche Klima abkühlt, weil die Leute Angst haben ihr Gesicht zu zeigen." }, { "start": 1430.76, "end": 1434.08, "text": "Weil sie dann in Gesichtserkennungs-Software Datenbanken landen." }, { "start": 1434.52, "end": 1437.14, "text": "Dass sie Angst haben von der Polizei kontrolliert zu werden." }, { "start": 1437.24, "end": 1441.16, "text": "Weil Sie wieder einen Eintrag im System haben und so weiter." }, { "start": 1441.22, "end": 1450.12, "text": "Das ist natürlich der Worst Case aber am Ende denke ich es gibt keine Alternative dazu sein Leben offen weiterzuleben." }, { "start": 1450.98, "end": 1452.58, "text": "Sonst hat man sich schon Einschüchtern lassen." }, { "start": 1453.2, "end": 1455.86, "text": "Das föderale System verhindert natürlich schon mal das Schlimmste." }, { "start": 1455.9, "end": 1468.44, "text": "Wir haben das auch in den USA gesehen, wo die Regierung Trump die Eismannschaften nach Minneapolis geschickt hat und sich dort der Bürgermeister oder auch der Gouverneur dann gewährt haben." }, { "start": 1469.06, "end": 1475.5, "text": "Gleiches ist ja auch in Deutschland der Fall dass diese Palantir Software bislang nur auf Bundesländer Ebene eingesetzt wird." }, { "start": 1475.8, "end": 1482.04, "text": "allerdings denkt der Bundesinnenminister auch darüber nach eine ähnliche Software bundesweit einzusetzen." }, { "start": 1482.44, "end": 1484.2, "text": "Also, hier gibt es gewisse Kontrollmechanismen." }, { "start": 1484.36, "end": 1491.26, "text": "Insbesondere auch das Bundesverfassungsgericht hat ja schon gezeigt, dass es da nicht alles hinnimmt und hat relativ strenge neue Regeln erlassen vor drei Jahren." }, { "start": 1492.06, "end": 1494.72, "text": "die gelten jetzt und die verhindern erst mal das Schlimmste." }, { "start": 1495.92, "end": 1497.72, "text": "Du hast jetzt vorher diese vier Bundesländer genannt." }, { "start": 1497.94, "end": 1504.4, "text": "Die sind völlig unterschiedlich regiert Einmal mit CDU Mit SPD Mit CSU Aber auch mit den Grünen." }, { "start": 1505.58, "end": 1510.9, "text": "Gibt es irgendjemand von diesen drei Parteien, die eigentlich sagen Oh nee Palantir nicht oder ist das den Wumper?" }, { "start": 1512.28, "end": 1517.44, "text": "In Baden-Württemberg hat es zu einem handfestem Konflikt zwischen den Grünen und der CDU geführt." }, { "start": 1518.64, "end": 1523.16, "text": "Die Grünen waren gar nicht glücklich damit, dass dieser Vertrag einfach abgeschlossen wurde." }, { "start": 1523.64, "end": 1533.0, "text": "Man wird jetzt unter der neuen Regierung im Land, die ja wieder grün schwarz ist sehen wie's weitergeht und ob das die Koalition noch mal stark belastet." }, { "start": 1533.82, "end": 1539.44, "text": "Und in Berlin, also in der Bundesregierung da ringen natürlich zwei Geister miteinander." }, { "start": 1539.54, "end": 1549.24, "text": "Wir haben einen Innenminister Alexander Dobrindt, der so eine Software auf jeden Fall einsetzen will und der sich auch durchaus offen dafür gezeigt hat das es Palantir sein soll." }, { "start": 1551.26, "end": 1555.64, "text": "Da wird ja gerne auch behauptet Es gibt gar keine deutsche, es gibt kein europäisches Konkurrenzprodukt." }, { "start": 1555.7, "end": 1566.24, "text": "Es muss also Palantier sein womit man sich dann aber eben womit man sich dann in dieser heikler Abhängigkeit zu den magernahen Milliardären wie Thiel, Carp und Lonstale begibt." }, { "start": 1567.96, "end": 1574.76, "text": "Und da gibt es Verena Hubig die Justizministerin, die Palantir eine Absage erteilt hat vor Kurzem." }, { "start": 1575.0, "end": 1579.24, "text": "also das bleibt spannend und da ist die Regierungspolitik nicht aus einem Gruß." }, { "start": 1581.28, "end": 1588.62, "text": "Ja das hört sich jetzt alles furchtbar dystopisch an irgendetwas Positives was du mir noch erzählen kannst." }, { "start": 1589.02, "end": 1598.86, "text": "Wenn man etwas Positives mitnehmen will würde ich sagen es ist, dass die Technologie nicht per se böse ist und das man jetzt nicht die Technologie an sich verteufeln sollte." }, { "start": 1598.96, "end": 1606.18, "text": "Sondern dass es auch im Sicherheitsbereich sinnvollen Einsatz von dieser automatisierten und modernen Digitaltechnologie gibt." }, { "start": 1607.04, "end": 1611.1, "text": "Man sieht, dass im zivilen Bereich kann man's vielleicht vergleichen mit dem autonomen Fahren." }, { "start": 1611.9, "end": 1618.94, "text": "Wenn das autonome Fahren mal wirklich funktioniert am Ende dann glaube ich, dass es deutlich besser sein wird als menschlicher Fahrer." }, { "start": 1619.88, "end": 1622.42, "text": "Das kennt keinen Sekundenschlaf, es fährt nicht betrunken." }, { "start": 1623.38, "end": 1627.28, "text": "Es kann Dinge besser erkennen als Menschen am Ende." }, { "start": 1627.64, "end": 1629.42, "text": "Da bin ich eigentlich relativ positiv gestimmt." }, { "start": 1629.52, "end": 1644.5, "text": "und analog dazu bei der Überwachungstechnologie hat mir beispielsweise Thomas Petri, der bayerische Datenschützer also ein großer Skeptiker der Überachungstehnologie erzählt dass er glaubt das die KI Verhaltenserkennung Fortschritte bringen kann." }, { "start": 1644.6, "end": 1669.24, "text": "Die wird zum Beispiel gerade am Frankfurter Bahnhof getestet, die erkennt automatisch auf den Bildern aus Überwachungskameras ob jemand um sich schlägt, um sich tritt, um fällt oder jemanden schubst und das hält eher für besser als da Polizeibeamte hinzusetzen, die auf die Bildschirme schauen die nach Bauchgefühlen, nach persönlichen Vorurteilen vorgehen und die dann beispielsweise sagen, die Klamotten von dem passen wir nicht." }, { "start": 1669.28, "end": 1671.44, "text": "Die Hafe aber von dem passten wir nicht den kontrollieren wir mal." }, { "start": 1671.78, "end": 1678.36, "text": "also da kann Technologie sogar dazu beitragen dass der Staat neutraler wird und weniger Vorurteil beladen." }, { "start": 1679.24, "end": 1681.72, "text": "was finden denn die Polizisten so toll daran an dieser Software?" }, { "start": 1682.16, "end": 1684.82, "text": "Die Polizistin sagen sie sparen sich viel Zeit." }, { "start": 1685.94, "end": 1694.28, "text": "Sie müssen nicht mehr mühsam und per E-Post, wie das bei denen heißt in irgendeinem Polizeirevier in der Provinz Akten anfordern." }, { "start": 1694.76, "end": 1696.7, "text": "Sondern sie können in das System reingehen." }, { "start": 1697.32, "end": 1704.02, "text": "Sie können in Sekundenschnelle Verbindungen sehen wissen wer wann wo war, wer wen kennt und wer wen angerufen hat." }, { "start": 1704.46, "end": 1713.86, "text": "Und das sehen Sie als absolute Zeitersparnis verbunden mit einer wohl gut zu bedienenden Benutzeroberfläche was jetzt traditionelle Behörden Software auch nicht hat." }, { "start": 1716.62, "end": 1721.4, "text": "Das war ich an das Brüde im Gespräch über die gefahren KI-basierter Datenanalyse für unsere Demokratie." }, { "start": 1722.32, "end": 1727.98, "text": "Sein Essay über eine allwissende Polizei und eine Recherche über Palantir finden Sie in den Shownaus." }, { "start": 1728.52, "end": 1733.08, "text": "Alle seine Texte sind auch in der SZ App, dort gibt es auch Probe und Digitalabos." }, { "start": 1733.48, "end": 1738.62, "text": "Alle Infos zu unseren Audioangeboten finden sie auf sze Schrägstrich Podcast." }, { "start": 1739.34, "end": 1743.82, "text": "Federführend mitgearbeitet an dieser Folge von das Thema hat Hank Reuchock von der Fährden." }, { "start": 1744.84, "end": 1748.38, "text": "Mitgearbeitet haben zudem Christina Höser und Timo Nikolas." }, { "start": 1748.42, "end": 1753.7, "text": "Für die Technik war Laura Sagebi verantwortlich, ich las lang genau das Gespräch geführt." }, { "start": 1754.6, "end": 1759.56, "text": "Schreiben Sie uns an Podcasts at scde gerne eine E-Mail falls sie Lob oder Kritik haben." }, { "start": 1759.92, "end": 1763.18, "text": "Vielen Dank fürs Zuhören auf Wiederhören!" } ]