WEBVTT

00:00:04.860 --> 00:00:10.820
Speaker 1: Stellen sich mal vor, dass in ihrer Stadt Polizisten nicht nur Streife gehen wie wir das kennen sondern die Beamten auch eine App nutzen.

00:00:11.340 --> 00:00:13.440
Speaker 1: Die so einfach zu bedienen ist wie Google Maps.

00:00:14.240 --> 00:00:18.380
Speaker 1: und diese App sagt den Beamten wen genau sie dazu kontrollieren haben.

00:00:19.180 --> 00:00:21.080
Speaker 1: Warum aber diese Person verdächtig ist?

00:00:21.120 --> 00:00:23.560
Speaker 1: Das wissen die Polizistinnen zunächst oft selbst nicht.

00:00:23.760 --> 00:00:26.480
Speaker 1: Sie folgen einfach den Vorschlägen des Software.

00:00:27.040 --> 00:00:28.780
Speaker 1: Ein beängstigendes Zukunftsszenario?

00:00:29.120 --> 00:00:39.040
Speaker 1: Nein Denn genauso gehen die Agenten der US-Migrationsbehörde Eis seit vergangenem Jahr vor mit Hilfe des Softwareelite des US-Unternehmens Palantir.

00:01:04.280 --> 00:01:06.340
Speaker 1: Und das passiert nicht nur weit weg in den USA.

00:01:06.700 --> 00:01:17.020
Speaker 1: Auch in Deutschland arbeitet die Polizei bereits mit einer Software vom Palantir Ein Unternehmen, das gerade in aller Munde ist und dass sich in einem Werbeklipp für den europäischen Markt so vorstellt.

00:01:35.880 --> 00:01:43.920
Speaker 1: Doch abseits der positiven Selbstdarstellung, dass Palantir für Ordnung in einer chaotischen Welt sorgt bereitet diese Software anderen große Sorgen.

00:01:44.160 --> 00:01:49.660
Speaker 1: Die Polizei im Freistaat nutzt die Technik des US-Herstellers Palantir, um Daten zusammenzuführen.

00:01:50.060 --> 00:01:52.440
Speaker 1: Auch Hessen und NRW machen das bald auch

00:01:52.520 --> 00:01:53.380
Speaker 1: Baden-Württemberg.".

00:01:53.880 --> 00:01:56.220
Speaker 0: Mit der umstrittenen Software aus den USA können

00:01:56.280 --> 00:02:00.140
Speaker 1: Behörden Verdächtige aufspüren und Menschen überwachen.

00:02:16.480 --> 00:02:23.320
Speaker 1: Ist der Einsatz vom Palantir also der erste Schritt zum automatisierten Überwachungsstaat oder ein notwendiger Schritt hin zu mehr Sicherheit?

00:02:24.120 --> 00:02:30.160
Speaker 1: Und falls ja, wer sorgt dafür dass wir eben kein Überwachungstaat werden und das diese Technologie regeln.

00:02:30.580 --> 00:02:33.600
Speaker 1: Darüber spreche ich mit Janis Brühl aus der SW Wirtschaftsredaktion.

00:02:33.700 --> 00:02:37.060
Speaker 1: er hat sich intensiv mit KI die Rolle von Techfirmen wie Palantier.

00:02:40.060 --> 00:02:42.920
Speaker 1: Sie hören das Thema, den Recherche-Podcast der Süddeutschen Zeitung.

00:02:43.340 --> 00:02:44.460
Speaker 1: Am Mikro ist Lars Langenau.

00:02:44.560 --> 00:02:45.340
Speaker 1: herzlich willkommen!

00:02:50.080 --> 00:02:50.320
Speaker 1: Janis.

00:02:50.360 --> 00:02:55.360
Speaker 1: die US Einwanderungsbehörde EIS arbeitet mit Unterstützung der Palantir Software – wie funktioniert es eigentlich?

00:02:56.300 --> 00:03:05.780
Speaker 0: Das Spezialgebiet von Palantia ist es Daten aus ganz verschiedenen Quellen zusammenzufassen und für die Polizei oder das Militär besser benutzbar zu machen.

00:03:07.020 --> 00:03:16.860
Speaker 0: Bei den Eiseinsätzen in den USA gegen Migranten hat EIS unter anderem eine App namens Elite von Palantir eingesetzt.

00:03:17.520 --> 00:03:32.980
Speaker 0: Das ist eine App, die verschiedene Datenquellen zusammenführt aus dem Gesundheitsministerium und aus anderen Behörden auch von den Einwanderungsbehörden und die dann auf einer Art Karte darstellt wo die Wahrscheinlichkeit am höchsten ist bestimmte Leute zu finden und festnehmen zu können.

00:03:33.820 --> 00:03:38.160
Speaker 0: das hat einen Mitarbeiter von EIS mit Google Maps verglichen.

00:03:38.220 --> 00:03:44.140
Speaker 0: Man kann sich das so vorstellen, man hat dann eine Karte und wie man auf Google Maps eingibt wo ist das nächste Café?

00:03:44.360 --> 00:03:53.940
Speaker 0: Und dann ploppen lauter Cafés in der Nähe auf der Karte auf, ploppt dort eben Orte auf an denen die Migranten, die festgenommen werden sollen gefunden werden können.

00:03:54.100 --> 00:04:03.420
Speaker 0: Dann fahren die Eisleute dorthin und dann haben sie dort Leute aus ihren Häusern gezerrt Windschutzscheiben durchschlagen, Leute aus Autos gezerrt und mitgenommen

00:04:04.660 --> 00:04:07.700
Speaker 1: Und dafür braucht man dann eine unglaubliche Menge an Informationen.

00:04:08.400 --> 00:04:09.100
Speaker 1: Woher kommen die denn?

00:04:09.880 --> 00:04:22.600
Speaker 0: Die kommen aus ganz verschiedenen Daten, Töpfen und die Grundidee bei diesen Datentöpfe über die der Staat verfügt ist eigentlich dass sie getrennt bleiben Denn sobald man anfängt diese Töpfel zu vermischen steigt ja das Missbrauchsrisiko.

00:04:22.800 --> 00:04:29.200
Speaker 0: Deshalb gibt es die sogenannte Zweckbindung immer Dass bestimmte Daten aus bestimmten Quellen nur für bestimmte Dinge verwendet werden sollen.

00:04:29.880 --> 00:04:38.840
Speaker 0: Und hier gibt es eben ein großes Interesse des Staates, die Daten zusammenzuführen um Menschen stärker überwachen zu können und leichter finden zu können.

00:04:40.020 --> 00:04:43.640
Speaker 1: Das wird dann der Polizeiaber zur Verfügung gestellt oder auch anderen Behörden noch?

00:04:44.340 --> 00:04:48.320
Speaker 0: Genau in den USA ist das die Polizei, aber eben auch die Einwanderungsbehörde.

00:04:48.500 --> 00:04:57.780
Speaker 0: Die wie man ja vor allem in Minneapolis gesehen hat sich selbst rechtlich an der Grenze oder jenseits der Grenzen des legalen bewegt.

00:04:58.380 --> 00:05:00.200
Speaker 0: diese Einsätze waren ja höchst umstritten.

00:05:01.760 --> 00:05:11.340
Speaker 0: Was auch relativ neu ist, dass auch Datensätze aus dem kommerziellen Zivilenbereich angekauft werden vom amerikanischen Staat und die staatlichen Daten damit ergänzt werden.

00:05:11.720 --> 00:05:14.600
Speaker 0: Das sind teilweise Daten aus dem Online-Werbegeschäft.

00:05:14.680 --> 00:05:21.580
Speaker 0: ja wir kennen das von Google, Facebook und vielen kleinen Anbietern, die uns im Internet überwachen.

00:05:22.160 --> 00:05:27.320
Speaker 0: Das ist eigentlich eine rein kommerzielle Überwachung aber mittlerweile greifen auch Staaten auf diese Daten zurück.

00:05:27.540 --> 00:05:30.560
Speaker 0: Die können sie nämlich zumindest in den USA einfach an kaufen.

00:05:31.700 --> 00:05:33.100
Speaker 1: Vorreiter ist der Palantir.

00:05:33.200 --> 00:05:33.960
Speaker 1: Was ist das für eine Firma?

00:05:35.420 --> 00:05:46.040
Speaker 0: Palantia ist eine Firma, die von unter anderem Peter Thiel gegründet wurde, der ja einer der Mitgründe von PayPal war mit dem Verkauf von PayPal an eBay reich geworden ist.

00:05:46.580 --> 00:05:50.900
Speaker 0: Er hat sie zusammen mit Alex Karp und Joe Lonsdale gegrüntet.

00:05:51.860 --> 00:05:54.880
Speaker 0: Alle drei unterstützen mittlerweile die Trump-Regierung.

00:05:54.960 --> 00:06:10.520
Speaker 0: Peter Thiele ist einer der ältesten Unterstützer von Donald Trump im Silicon Valley gewesen Und alle zeichnen sich dadurch aus, dass sie mit ihren Software und mit ihren Firmengründungen letztendlich Polizei Militär und den Zentralstaat unterstützen.

00:06:11.220 --> 00:06:25.160
Speaker 0: Palantir ist eben spezialisiert darauf in einer sehr angenehmen übersichtlichen Oberfläche wie wir sie ja aus den Apps auf unseren Handys kennen, sehr heikle Daten zusammenzuführen und durchsuchbar zu machen.

00:06:25.740 --> 00:06:30.200
Speaker 0: Die Polizisten finden das toll, aber es gehen natürlich damit einher sehr viele Fragen.

00:06:30.540 --> 00:06:37.360
Speaker 0: Wenn es darum geht wie übergriffig wird der Staat und wie mächtig ist er in der Überwachung geworden durch Software wie die von Panantir?

00:06:37.940 --> 00:06:39.760
Speaker 1: Peter Thier kennt man mittlerweile so ein bisschen.

00:06:40.480 --> 00:06:42.820
Speaker 1: kannst du bitte ein bisschen was über den Karp erzählen.

00:06:43.340 --> 00:06:49.620
Speaker 0: Alex Karp ist eine sehr auffällige Figur innerhalb dieser Technologie Gründer- und Technologienunternehmer Szene.

00:06:50.280 --> 00:06:55.580
Speaker 0: Er hat Philosophie studiert in Frankfurt am Main, er spricht doch sehr gut Deutsch.

00:06:56.040 --> 00:07:03.000
Speaker 0: Ist aber amerikaner hat sich lange als linker bezeichnet wo mit der sicher grundlegend unterscheidet zum Beispiel von jemandem wie Peter Thiel.

00:07:03.780 --> 00:07:10.180
Speaker 0: Peter Thil bezeichnete sie als Libertär und beide rühmen sich auch dass sie immer viel miteinander streiten.

00:07:10.720 --> 00:07:17.380
Speaker 0: Fakt ist aber das auch Alex Karp, der so ein bisschen das Image des exzentrischen unkonventionellen Querdenkers pflegt.

00:07:17.760 --> 00:07:24.840
Speaker 0: Das auch eher jemand isst der quasi blind den amerikanischen Staat, das amerikanische Militär und die amerikanliche Polizei unterstützt.

00:07:25.300 --> 00:07:26.240
Speaker 0: Er hat ein Buch geschrieben,

00:07:26.300 --> 00:07:26.460
Speaker 0: d.h.,

00:07:27.020 --> 00:07:37.120
Speaker 0: The Technological Republic in dem er so eine Art Masterplan entwirft, dass das Silicon Valley in den Dienst des Staates und vor allem des Sicherheitsstaates sich stellen soll.

00:07:37.560 --> 00:07:37.720
Speaker 0: D.h.

00:07:38.180 --> 00:07:47.560
Speaker 0: die Programmierer im Silicon Valley sollen gefälligst aufhören nur Dattel-Apps zu programmieren, Social Media Gaming oder Pornografie-Website und so weiter.

00:07:47.940 --> 00:08:04.440
Speaker 0: Sie sollen fürs Militär arbeiten, sie sollen die beste Künstlieintelligenz für Drohnen Auch während der Einsätze in Minneapolis, die ja sehr brutal verlaufen sind und bei denen auch amerikanische Bürger gestorben sind.

00:08:05.120 --> 00:08:13.340
Speaker 0: Der sich sehr weit aus dem Fenster gelehnt hat für die Regierung Trump und die Eisleute noch angefeuert hat dass sie doch bitte noch härter durchgreifen sollten.

00:08:13.940 --> 00:08:21.680
Speaker 0: In Deutschland ist Joel Lonsdale auch relevant weil er wie Peter Thiel auch in einer Drohnen Start-ups hierzulande investiert hat.

00:08:21.800 --> 00:08:30.620
Speaker 0: Und damit einher geht eine Diskussion und zwar inwieweit diese Investoren Maga nah, sehr Trump-nah sind.

00:08:31.000 --> 00:08:35.280
Speaker 0: Inwieweit die Anfirmen beteiligt sein sollten, die ja auch die Bundeswehr beliefern werden?

00:08:36.340 --> 00:08:44.360
Speaker 1: So als Liberaler und Linksliberaler würde ich jetzt sagen was für eine Mischbokem... Was ist die Gefahr von Palantir?

00:08:45.840 --> 00:08:54.520
Speaker 0: Palantia ist durch die Technologie, die sie entwickelt haben einer Herausforderung für die Demokratie weil Sie eben verschiedene Daten aus verschiedenen Datenbanken zusammenführen.

00:08:54.700 --> 00:09:02.240
Speaker 0: das führt zu einer Zentralisierung von Wissen Die Macht des Staates, in diesem Fall in Form der Polizei gegenüber dem Bürger.

00:09:02.880 --> 00:09:10.380
Speaker 0: Und die Demokratie und das Recht müssen schauen wie sie da hinterher kommen denn plötzlich sieht der Staat viel mehr.

00:09:11.400 --> 00:09:18.500
Speaker 0: Er ist auch nicht mehr beschränkt dadurch wie viele Beamte er zur Verfügung hat die Menschen überwachen durch leuchtenden

00:09:18.560 --> 00:09:18.700
Speaker 0: usw.,

00:09:19.600 --> 00:09:22.160
Speaker 0: sondern er kann es zu einem gewissen Grad automatisieren.

00:09:22.300 --> 00:09:27.180
Speaker 0: und wie Alex Carp sagt Palantir macht Dinge sichtbar die man vorher nicht gesehen hat.

00:09:28.380 --> 00:09:34.360
Speaker 0: Dadurch wird die Polizei viel mächtiger, das mag in vielen Fällen natürlich auch wünschenswert sein bei der Jagd nach Verbrechern.

00:09:34.840 --> 00:09:50.420
Speaker 0: Aber die Frage ist eben auch ob dadurch noch viel mehr unschuldige Menschen als bisher ins Raster der Verhandlungen kommen und diese Suche in den Datenbanken auf sie anschlägt womit dann wiederum die Frage verbunden ist, ob der Staat nicht zu mächtig wird?

00:09:50.540 --> 00:09:54.320
Speaker 0: Und ob seine Überwachungsmöglichkeiten nicht die Grundrechte einschränken.

00:09:55.360 --> 00:10:00.220
Speaker 1: In der letzten Sendung haben wir über KI und Militär gesprochen, und da haben wir bei den Firmen ein Tropic gesprochen.

00:10:00.300 --> 00:10:04.480
Speaker 1: Und die haben ja zumindest zwei Dinge gesagt, was sie nicht machen wollen.

00:10:04.560 --> 00:10:12.000
Speaker 1: Sie wollen keine Überwachung im Inland haben... ...und sie wollen nicht das Bestücken in Autonom-Waffensystemen.

00:10:12.500 --> 00:10:15.440
Speaker 1: Jetzt lassen uns noch mal über diesen Überwachungsgedanken reden!

00:10:15.500 --> 00:10:21.000
Speaker 1: Also hast du Palantir sagt, dass soll sogar in den Dienst des Staates gesteckt werden?

00:10:21.380 --> 00:10:23.360
Speaker 1: Gibt es für die irgendwelche Grenzen?

00:10:24.740 --> 00:10:27.740
Speaker 0: Für Anthropic gilt, was für Palantir auch gilt.

00:10:27.800 --> 00:10:37.400
Speaker 0: Und zwar muss ich genau anschauen inwieweit diese ethischen Grundsätze die da nach vorne gestellt werden, auch dem Marketing und der Eigenwerbung dienen.

00:10:38.180 --> 00:10:54.740
Speaker 0: Bei Palantirs ist es so dass seit der Gründung dieses Unternehmen ein Bürgerrechts Team hat Die haben sich das von Anfang an auf die Fahnen geschrieben Dass sie die Rechte des einzelnen Bürgers gegenüber dem Überwachungsstaat achten werden und sogar schützen werden.

00:10:54.800 --> 00:11:03.880
Speaker 0: Das heißt, sie haben sich auch immer als im Geiste von Peter Thiel des Gründers als libertäres Unternehmen gesehen das eben die Macht des Staates nicht zu aussufern lassen will.

00:11:04.420 --> 00:11:06.140
Speaker 0: in der Praxis sieht es aber eben ganz anders aus.

00:11:06.180 --> 00:11:07.980
Speaker 0: dass haben wir bei den Eiseinsätzen gesehen.

00:11:08.360 --> 00:11:15.040
Speaker 0: das sehen wir an den vielen vielen Aufträgen die Palantir insbesondere unter Donald Trump jetzt bekommen hat in dieser Amtszeit.

00:11:16.560 --> 00:11:20.380
Speaker 0: Die sind sehr gut im Geschäft und sie machen so gut wie alles für den amerikanischen Staat.

00:11:20.680 --> 00:11:31.540
Speaker 0: Und wenn man dieses Manifest von Alex Karp liest, dann hat man nicht das Gefühl dass es da Grenzen gibt sondern da wird sozusagen die Stärke der USA oder anderen westlichen Staaten eigentlich über alles gestellt.

00:11:32.040 --> 00:11:33.940
Speaker 1: Womit verdient denn Palantir sonst sein Geld?

00:11:34.500 --> 00:11:36.820
Speaker 0: Palantier hat auch viele zivile Kunden.

00:11:37.000 --> 00:11:47.640
Speaker 0: Das sind Unternehmen wie Banken und andere Firmen die Software nutzen, um ihre Daten besser zu analysieren und daraus irgendwelche Erkenntnisse zu gewinnen.

00:11:48.140 --> 00:11:52.300
Speaker 0: Wirklich heikel sind aber natürlich die Einsätze von Palantir für die Sicherheitsbehörden.

00:11:53.320 --> 00:12:03.600
Speaker 0: Die Polizei das Militär die Geheimdienste nutzen diese Software um eben aus verschiedenen Datentöpfen neue Erkenntnisse zu gewennen und Verbindungen zu finden.

00:12:03.720 --> 00:12:26.880
Speaker 0: ja Das kann man sich dann vorstellen wie so eine eine Art Netzwerk Grafik in der bestimmte Menschen Personen ass erwarten, also zum Beispiel Fingerabdrücke oder bestimmte Autos die benutzt wurden von Verdächtigen wo die verbunden werden auf dem Bildschirm und dann erkennen die Polizisten eben Dinge Spuren die sie vorher nicht gesehen haben.

00:12:27.140 --> 00:12:29.100
Speaker 0: So soll das im Idealfall funktionieren.

00:12:30.400 --> 00:12:31.780
Speaker 1: Wie hat EIS das genau eingesetzt?

00:12:33.020 --> 00:12:46.380
Speaker 0: Über die Elite App und die verschiedenen Daten die dort zusammen fließen haben die EIS-Agenten Handys dann diese Karten aufrufen können, die ihnen gezeigt haben wo mit welcher Wahrscheinlichkeit Migranten anzutreffen sind.

00:12:47.200 --> 00:12:58.700
Speaker 0: Die haben sie sich geschnappt letztendlich und wiederum mit anderen Apps ihnen ins Gesicht geleuchtet, das waren die Gesichtserkennungs-Apps, die auch zum Einsatz kommen, die eine hohe Fehlerquote haben.

00:12:58.760 --> 00:13:02.620
Speaker 0: Also da wurden Leute verhaftet, die gar nicht gesuchten waren.

00:13:03.620 --> 00:13:18.480
Speaker 0: All diese Systeme sind noch sehr fehleranfällig wenn sie künstliche Intelligenz oder biometrische Erkennungssysteme einsetzen so dass mit einer Vielzahl von Apps nacheinander Leute ausfindig gemacht festgenommen identifiziert wurden oder auch falsch identifiziert wurden.

00:13:19.480 --> 00:13:21.580
Speaker 1: Und in den USA wird das gar nicht unterbunden?

00:13:22.900 --> 00:13:31.100
Speaker 0: Das gehört zum Wesen der derzeitigen Regierung, dass sie erst handeln und sich danach um die rechtlichen Konsequenzen scheren.

00:13:31.160 --> 00:13:51.320
Speaker 0: wir haben ja auch gesehen, dass es einen Haufen Gerichtsverfahren gibt und Versuche von Bürgerrechtsgruppen aber auch vom Staat Minnesota Eis aufzuhalten, am Ende gab es ja auch einen öffentlichen Druck der so groß war dass dieser Einsatz beendet wurde weil es einfach in den Augen der Öffentlichkeit nicht mehr tragbar war.

00:13:51.820 --> 00:13:55.960
Speaker 0: Aber das ganze folgt natürlich ein bisschen dem Silicon Valley Motto move fast and break things.

00:13:56.060 --> 00:14:04.420
Speaker 0: Das heißt man geht erstmal rein schlägt die Dinge kaputt experimentiert rum und ob das legal war oder nicht das kann man ja dann hinterher vor Gericht ausfechten.

00:14:04.860 --> 00:14:08.700
Speaker 1: Jetzt haben wir über die USA gesprochen aber diese KI wird hier inzwischen auch in Deutschland eingesetzt.

00:14:08.800 --> 00:14:09.140
Speaker 1: wo genau?

00:14:10.500 --> 00:14:13.380
Speaker 0: Es gibt vier Bundesländer, die Verträge mit Palantir haben.

00:14:14.000 --> 00:14:18.520
Speaker 0: Hessen, Nordrhein-Westfalen, Bayern und Baden-Württemberg seit kurzer Zeit.

00:14:19.560 --> 00:14:27.600
Speaker 0: Ich habe mir in Frankfurt das hessische System angeschaut und hier in München das bayerische System heißt Vera.

00:14:28.260 --> 00:14:31.080
Speaker 0: Das ist aber eigentlich das System Gotham von Palantire.

00:14:31.140 --> 00:14:41.180
Speaker 0: Das ist nur die Bayerische Anpassung, die den Namen Vera trägt Und das kann man sich so vorstellen in einem Raum ganz normale Büroraum, da sind mehrere Bildschirmen und Tastaturen drin.

00:14:41.560 --> 00:14:49.320
Speaker 0: Und jeder Platz hat aber eine normale Tastatur für das klassische Polizeisystem und eine Wehrer-Tastatur fürs Palantirsystem.

00:14:50.380 --> 00:14:59.280
Speaker 0: Ein Raum daneben Da sind nochmal zwei Stetische und da stehen besser gesagt zwei freundliche junge Männer drin in T-Shirts.

00:14:59.340 --> 00:15:06.260
Speaker 0: Das sind die Palantirmitarbeiter, die direkt im Nebenraum mit den Beamten vom Bayerischen Landeskriminalamt arbeiten.

00:15:08.900 --> 00:15:13.860
Speaker 0: Das ist relativ normal ein Softwarefirmen das bei ihren Kunden auch Leute stationiert haben.

00:15:14.520 --> 00:15:22.440
Speaker 0: In dem Fall ist es aber natürlich so dass hier Mitarbeiter von einem Techkonzern mitten im deutschen Polizeiapparat sitzen.

00:15:23.420 --> 00:15:27.060
Speaker 1: Das verwundert mich jetzt total, was für Rechte haben die denn dort?

00:15:28.100 --> 00:15:34.800
Speaker 0: Also uns wurde versichert sowohl vom Palantir als auch vom LKA das sie nicht auf die Daten zugreifen können.

00:15:35.700 --> 00:15:45.620
Speaker 0: allerdings ist es doch so dass bei der Einrichtung des Systems Palantier Mitarbeiter wohl laut Aussagen der Polizisten dort sehr wohl die Daten sehen konnten.

00:15:46.360 --> 00:15:51.260
Speaker 0: Und auch, es stellt sich noch eine andere Frage und zwar die nach der digitalen Souveränität.

00:15:51.460 --> 00:15:59.160
Speaker 0: Ob man sich jetzt hier nicht abhängig gemacht hat von einer US-Firma oder deren Führungsriege sehr gute Kontakte zur Trump-Regierung unterhält?

00:15:59.420 --> 00:16:04.920
Speaker 0: Wir wissen ja in welchem angespannten Verhältnis die USA und Europa, die USA an Deutschland derzeit sind.

00:16:05.480 --> 00:16:18.240
Speaker 0: Und Alex Carp hatte in einem Interview auch schon deutlich gemacht dass er sich durchaus vorstellen kann wenn er der Meinung ist das eine Regierung, das Palantirsystem missbrauchen will dass dann diese Forward Deployed Engineers abgezogen werden.

00:16:18.820 --> 00:16:25.560
Speaker 0: Dass es da noch keine Updates mehr vom Palantir gibt auf Deutsch, das das System dann veraltet und relativ schnell nutzlos wird.

00:16:25.660 --> 00:16:30.580
Speaker 0: Das heißt, Palanthier ist durchaus bewusst, dass man hier einen politischen Hebel hat.

00:16:32.080 --> 00:16:34.260
Speaker 1: Wie unterscheidet sich denn der Ansatz zu dem in den USA?

00:16:35.720 --> 00:16:37.780
Speaker 0: In Deutschland sind die Auflagen schon viel strenger.

00:16:38.640 --> 00:16:53.440
Speaker 0: Das ist einerseits eine kulturelle Sache weil natürlich viele Leute ich glaube sogar inklusive einiger Polizei beachten Bedenken haben jetzt einfach gedankenlos, Autorität an die KI zu delegieren und der KI viel die Dinge zu überlassen.

00:16:53.560 --> 00:16:56.000
Speaker 0: Und hier große Teile der Polizeiarbeit zu automatisieren.

00:16:56.340 --> 00:16:57.800
Speaker 0: Dennoch gibt es ein großes Interesse dran.

00:16:58.820 --> 00:17:08.540
Speaker 0: Es geht aber auch in das ist die rechtliche Seite einen Urteil des Bundesverfassungsgerichts von zwei tausend dreien zwanzig Das bei diesem KI Einsatz eben besonders hohe Hürden gelten müssen.

00:17:09.220 --> 00:17:15.780
Speaker 0: da müssen die Daten besonders gut geschützt werden und es darf auch nur bei besonders schweren Straftaten eingesetzt werden.

00:17:15.859 --> 00:17:27.940
Speaker 0: Das heißt, wenn die Polizisten sich einlocken müssen sie auch die Straftat auswählen wegen der Sie ermitteln also Terrorismus oder organisierte Kriminalität und je nachdem was Sie auswähen haben Sie dann Zugriff auf bestimmte Daten.

00:17:28.420 --> 00:17:33.460
Speaker 0: es gibt auch wegen der streng rechtlichen Regelung zum Beispiel geschwerzte Namen in diesem System.

00:17:34.020 --> 00:17:47.300
Speaker 0: Das heißt, wir haben hier schon andere Barrieren als in den USA wo die Polizisten letztendlich Card Blanche haben und machen können was sie wollen und eben auch diese kommerziellen Daten zukaufen können und einfach wild mit den staatlichen Daten kombinieren können.

00:17:48.200 --> 00:17:52.300
Speaker 1: Aber ausschließend tust du es nicht dass Palantir Zugriff auf diese Daten hat?

00:17:53.600 --> 00:17:56.320
Speaker 0: Ich glaube man kann es nicht hundertprozentig ausschließen.

00:17:57.440 --> 00:17:59.900
Speaker 0: das ganze läuft leider auch etwas intransparent ab.

00:18:00.540 --> 00:18:02.220
Speaker 0: Palantir-Systeme sind eine Black Box.

00:18:02.800 --> 00:18:09.840
Speaker 0: Die Polizei ist auch in Deutschland nicht hundertprozent transparent, die Innenminister, die Palantier loben – auch nicht!

00:18:09.900 --> 00:18:18.440
Speaker 0: Sie erzählen dann immer von Straftaten, die verhindert wurden und wenn man nachfragt welche das denn waren sagen sie, dass dürfen wir ihnen nicht sagen Ermittlungstaktische Gründe oder nationale Sicherheit.

00:18:19.060 --> 00:18:20.940
Speaker 0: Das heißt, so richtigen Einblick hat man nicht.

00:18:20.980 --> 00:18:31.680
Speaker 0: Hinzu kommt natürlich das KI-Algorithmen an sich haben, dass man sie nicht so leicht durchschauen kann und dass man nicht genau nachvollziehen kann wo der Output des Systems jetzt genau herkommt.

00:18:32.380 --> 00:18:37.000
Speaker 1: Du hast es vorhin schon mal erwähnt welche Fehler im System von Palantir sind aufgefallen?

00:18:37.760 --> 00:18:43.300
Speaker 0: Also auch die Kritiker können noch auf niemanden verweisen der jetzt fälschlicherweise festgenommen wurde.

00:18:44.020 --> 00:18:46.820
Speaker 0: deswegen Sie haben ein eher grundsätzliches Problem damit.

00:18:48.540 --> 00:18:54.780
Speaker 0: Klar ist das immer mehr Leute in dieses Raster gekommen, dass durch diese Automatisierung möglich ist.

00:18:56.060 --> 00:19:09.680
Speaker 0: Da stellt sich die Frage ob die Leute nicht Angst bekommen ihre Meinung zu sagen, Angst bekommen auf bestimmte Veranstaltungen zu gehen weil ja immer mehr Daten anfallen und immer mehr leute in Datenbanken landen und es immer mehr Verbindungen zwischen immer mehr Datenbanken gibt, die durch dieses Software hergestellt werden.

00:19:10.420 --> 00:19:11.600
Speaker 1: Und ein ganz praktisches Beispiel?

00:19:12.180 --> 00:19:24.120
Speaker 0: Es gibt zum Beispiel den Fall wegen dem die Gesellschaft für Freiheitsrechte eine Verfassungsbeschwerde eingereicht hat, nämlich einen Fanbetreuer der sich selbst nichts hat zu Schulden kommen lassen.

00:19:24.680 --> 00:19:30.220
Speaker 0: Der aber das liegt in der Natur seines Engagements auch mit Hooligans zu tun hat.

00:19:30.860 --> 00:19:38.560
Speaker 0: Das heißt er ist auch eher erfasst worden im Zusammenhang mit Gewalt beim Sport und Fußballspiel herum.

00:19:38.600 --> 00:19:42.580
Speaker 0: Er hat aber selbst nichts getan und taucht aber in den System auf.

00:19:43.160 --> 00:19:49.240
Speaker 0: Und das ist ein Problem, dass natürlich mit der zunehmenden Automatisierung, mit der immer stärkeren Datenerfassung immer mehr Menschen blüht.

00:19:49.640 --> 00:19:51.520
Speaker 1: Und Palantir ist nur einer von diesen Anbietern?

00:19:52.180 --> 00:19:53.840
Speaker 0: PalantIR ist der bekannteste Anbiter.

00:19:54.020 --> 00:20:02.940
Speaker 0: aber es gibt natürlich viele Firmen die diesen enormen Datenschatz, der sich in den letzten Jahrzehnten digital angehäuft hat nutzen wollen.

00:20:03.020 --> 00:20:04.360
Speaker 0: für Überwachungstechnologie.

00:20:04.580 --> 00:20:07.940
Speaker 0: Es gibt zum Beispiel Clearview AI oder auch PIMEIS.

00:20:08.020 --> 00:20:17.020
Speaker 0: Das sind beides Firmen, die sich auf Gesichtserkennungen spezialisiert haben und die Milliarden von Fotos, von uns allen aus dem Internet gezogen haben.

00:20:17.920 --> 00:20:23.140
Speaker 0: Was nach europäischem Recht eigentlich überhaupt nicht geht und die damit aber Gesichtserkennung anbieten.

00:20:23.980 --> 00:20:39.140
Speaker 0: Berühmt ist der Fall von Daniela Kletter geworden wo Journalisten das Gesicht der mutmaßlichen RF-Terroristin über PimEis gefunden haben zu einem Zeitpunkt zudem Polizisten diese Technologie gar nicht benutzen durften.

00:20:39.540 --> 00:20:49.400
Speaker 0: Deswegen gibt es jetzt auch einen Gesetzentwurf, der es auch Polizisten ermöglichen soll, diese kommerziellen Daten zu nutzen, obwohl es wirklich sehr umstritten ist wie diese zustande kam.

00:20:49.460 --> 00:20:54.880
Speaker 0: Denn die Firmen haben sich einfach vor Jahren sehr viele Bilder von uns aus dem Internet geholt ohne uns zu fragen.

00:20:55.080 --> 00:20:55.180
Speaker 0: Hört

00:20:55.220 --> 00:20:57.820
Speaker 1: sich alles an wie George Orwell nassert vierundachtzig?

00:20:58.180 --> 00:21:03.080
Speaker 1: Ist das auch das wovor Kritiker Angst haben dass so etwas künftig und öfters passiert?

00:21:03.720 --> 00:21:10.180
Speaker 0: Die Technologie ist da und damit auch die Versuchungen für die Polizei, die Sicherheitspolitiker immer mehr davon anzuschaffen.

00:21:13.300 --> 00:21:23.700
Speaker 0: Es gibt sinnvolle KI-Einsätze bei der Polizei aber es gibt eben auch die Frage ob ... sich nicht das Machtverhältnis zwischen Bürger und Staat umkehrt.

00:21:24.060 --> 00:21:31.200
Speaker 0: In der Demokratie glauben wir ja daran, dass nicht die ganze Macht im Staat oder an einem Punkt im Staat konzentriert sein soll.

00:21:31.640 --> 00:21:44.860
Speaker 0: Deswegen haben wir eine Gewaltenteilung und deswegen haben wir Bürgerrechte, dass wir alle ein bisschen Macht haben und wenn der Staat natürlich über diese futuristischen Supertechnologien sozusagen verfügt dann hat er mehr Macht.

00:21:45.200 --> 00:21:50.100
Speaker 0: Und eigentlich braucht es dann auch neue Regeln und neue Einschränkungen, um dafür zu sorgen dass wir die Macht nicht verlieren.

00:21:50.800 --> 00:21:53.760
Speaker 1: Ja aber wer legt diese Spielregel denn fest wäre das Spiel schon geschwiebt wird?

00:21:54.540 --> 00:21:56.500
Speaker 0: Das ist eine Aufgabe der Parlamente.

00:21:57.000 --> 00:21:59.060
Speaker 0: Das ist ne Aufgabe der Gerichte.

00:21:59.620 --> 00:22:02.160
Speaker 0: Die müssen eben sehr wachsam sein.

00:22:02.600 --> 00:22:04.700
Speaker 0: Zuerst aber müssen sie mal die Technologie überhaupt verstehen.

00:22:05.360 --> 00:22:12.280
Speaker 0: Es werden nicht nur Milliarden sondern sogar Billionen in künstliche Intelligenz und den Überwachungstechnologien gesteckt.

00:22:12.840 --> 00:22:14.600
Speaker 0: Die Entwicklungssprünge sind sehr, sehr groß.

00:22:15.060 --> 00:22:19.520
Speaker 0: Dadurch dass mit immer mehr Daten und mit immer meer Rechenkraft gearbeitet wird.

00:22:20.000 --> 00:22:22.720
Speaker 0: den Entwicklern werden horrende Gehälter geboten.

00:22:23.480 --> 00:22:32.920
Speaker 0: Es ist sehr schwierig für die Zivilgesellschaft da überhaupt mitzukommen aber am Ende haben wir alle ein bisschen die Pflicht uns damit zu beschäftigen was da auf uns zukommt.

00:22:34.040 --> 00:22:35.900
Speaker 1: Jetzt noch mal diese Disturpivate gedacht.

00:22:36.240 --> 00:22:42.560
Speaker 1: Wir haben eine autoritäre Partei die hier in Deutschland wenn es auch nur ein Bundesland ist, die Macht erringt.

00:22:43.480 --> 00:22:48.020
Speaker 1: Diese Instrumente in der Hand einer solchen Regierung.

00:22:48.260 --> 00:22:49.020
Speaker 1: was kann sie machen?

00:22:51.300 --> 00:23:08.760
Speaker 0: Wenn alle Grenzen eingerissen werden zwischen den verschiedenen Datenbanken dann werden letztendlich alle unsere Tätigkeiten Immer wenn wir irgendwo präsent sind, sei es was wir in sozialen Medien hinterlassen.

00:23:09.140 --> 00:23:15.660
Speaker 0: Sei es wo wir gemeldet sind, ob wir mal Zeugen einer Straftat waren und so weiter und sofort.

00:23:16.020 --> 00:23:22.660
Speaker 0: Das wird alles zusammengefasst über dieses Software Und dann schlägt die Software auch öfter an.

00:23:22.740 --> 00:23:30.180
Speaker 0: das heißt jeder von uns kann viel öfter als dass jetzt der Fall ist ins raster geraten und auch zu unrecht verdächtigt werden.

00:23:31.280 --> 00:23:39.020
Speaker 1: das heißt Sinnvoller ist es, ich ziehe mich ins Privatleben zurück und gehe gar nicht auf die Demonstration weil ich dort hier gefilmt werden kann.

00:23:39.080 --> 00:23:40.780
Speaker 1: Und dann werde ich ausgewertet.

00:23:41.720 --> 00:23:44.380
Speaker 0: Das könnte der sogenannte Chilling Effekt sein.

00:23:44.460 --> 00:23:50.680
Speaker 0: ja also dass sich das gesellschaftliche Klima abkühlt, weil die Leute Angst haben ihr Gesicht zu zeigen.

00:23:50.760 --> 00:23:54.080
Speaker 0: Weil sie dann in Gesichtserkennungs-Software Datenbanken landen.

00:23:54.520 --> 00:23:57.140
Speaker 0: Dass sie Angst haben von der Polizei kontrolliert zu werden.

00:23:57.240 --> 00:24:01.160
Speaker 0: Weil Sie wieder einen Eintrag im System haben und so weiter.

00:24:01.220 --> 00:24:10.120
Speaker 0: Das ist natürlich der Worst Case aber am Ende denke ich es gibt keine Alternative dazu sein Leben offen weiterzuleben.

00:24:10.980 --> 00:24:12.580
Speaker 0: Sonst hat man sich schon Einschüchtern lassen.

00:24:13.200 --> 00:24:15.860
Speaker 0: Das föderale System verhindert natürlich schon mal das Schlimmste.

00:24:15.900 --> 00:24:28.440
Speaker 0: Wir haben das auch in den USA gesehen, wo die Regierung Trump die Eismannschaften nach Minneapolis geschickt hat und sich dort der Bürgermeister oder auch der Gouverneur dann gewährt haben.

00:24:29.060 --> 00:24:35.500
Speaker 0: Gleiches ist ja auch in Deutschland der Fall dass diese Palantir Software bislang nur auf Bundesländer Ebene eingesetzt wird.

00:24:35.800 --> 00:24:42.040
Speaker 0: allerdings denkt der Bundesinnenminister auch darüber nach eine ähnliche Software bundesweit einzusetzen.

00:24:42.440 --> 00:24:44.200
Speaker 0: Also, hier gibt es gewisse Kontrollmechanismen.

00:24:44.360 --> 00:24:51.260
Speaker 0: Insbesondere auch das Bundesverfassungsgericht hat ja schon gezeigt, dass es da nicht alles hinnimmt und hat relativ strenge neue Regeln erlassen vor drei Jahren.

00:24:52.060 --> 00:24:54.720
Speaker 0: die gelten jetzt und die verhindern erst mal das Schlimmste.

00:24:55.920 --> 00:24:57.720
Speaker 1: Du hast jetzt vorher diese vier Bundesländer genannt.

00:24:57.940 --> 00:25:04.400
Speaker 1: Die sind völlig unterschiedlich regiert Einmal mit CDU Mit SPD Mit CSU Aber auch mit den Grünen.

00:25:05.580 --> 00:25:10.900
Speaker 1: Gibt es irgendjemand von diesen drei Parteien, die eigentlich sagen Oh nee Palantir nicht oder ist das den Wumper?

00:25:12.280 --> 00:25:17.440
Speaker 0: In Baden-Württemberg hat es zu einem handfestem Konflikt zwischen den Grünen und der CDU geführt.

00:25:18.640 --> 00:25:23.160
Speaker 0: Die Grünen waren gar nicht glücklich damit, dass dieser Vertrag einfach abgeschlossen wurde.

00:25:23.640 --> 00:25:33.000
Speaker 0: Man wird jetzt unter der neuen Regierung im Land, die ja wieder grün schwarz ist sehen wie's weitergeht und ob das die Koalition noch mal stark belastet.

00:25:33.820 --> 00:25:39.440
Speaker 0: Und in Berlin, also in der Bundesregierung da ringen natürlich zwei Geister miteinander.

00:25:39.540 --> 00:25:49.240
Speaker 0: Wir haben einen Innenminister Alexander Dobrindt, der so eine Software auf jeden Fall einsetzen will und der sich auch durchaus offen dafür gezeigt hat das es Palantir sein soll.

00:25:51.260 --> 00:25:55.640
Speaker 0: Da wird ja gerne auch behauptet Es gibt gar keine deutsche, es gibt kein europäisches Konkurrenzprodukt.

00:25:55.700 --> 00:26:06.240
Speaker 0: Es muss also Palantier sein womit man sich dann aber eben womit man sich dann in dieser heikler Abhängigkeit zu den magernahen Milliardären wie Thiel, Carp und Lonstale begibt.

00:26:07.960 --> 00:26:14.760
Speaker 0: Und da gibt es Verena Hubig die Justizministerin, die Palantir eine Absage erteilt hat vor Kurzem.

00:26:15.000 --> 00:26:19.240
Speaker 0: also das bleibt spannend und da ist die Regierungspolitik nicht aus einem Gruß.

00:26:21.280 --> 00:26:28.620
Speaker 1: Ja das hört sich jetzt alles furchtbar dystopisch an irgendetwas Positives was du mir noch erzählen kannst.

00:26:29.020 --> 00:26:38.860
Speaker 0: Wenn man etwas Positives mitnehmen will würde ich sagen es ist, dass die Technologie nicht per se böse ist und das man jetzt nicht die Technologie an sich verteufeln sollte.

00:26:38.960 --> 00:26:46.180
Speaker 0: Sondern dass es auch im Sicherheitsbereich sinnvollen Einsatz von dieser automatisierten und modernen Digitaltechnologie gibt.

00:26:47.040 --> 00:26:51.100
Speaker 0: Man sieht, dass im zivilen Bereich kann man's vielleicht vergleichen mit dem autonomen Fahren.

00:26:51.900 --> 00:26:58.940
Speaker 0: Wenn das autonome Fahren mal wirklich funktioniert am Ende dann glaube ich, dass es deutlich besser sein wird als menschlicher Fahrer.

00:26:59.880 --> 00:27:02.420
Speaker 0: Das kennt keinen Sekundenschlaf, es fährt nicht betrunken.

00:27:03.380 --> 00:27:07.280
Speaker 0: Es kann Dinge besser erkennen als Menschen am Ende.

00:27:07.640 --> 00:27:09.420
Speaker 0: Da bin ich eigentlich relativ positiv gestimmt.

00:27:09.520 --> 00:27:24.500
Speaker 0: und analog dazu bei der Überwachungstechnologie hat mir beispielsweise Thomas Petri, der bayerische Datenschützer also ein großer Skeptiker der Überachungstehnologie erzählt dass er glaubt das die KI Verhaltenserkennung Fortschritte bringen kann.

00:27:24.600 --> 00:27:49.240
Speaker 0: Die wird zum Beispiel gerade am Frankfurter Bahnhof getestet, die erkennt automatisch auf den Bildern aus Überwachungskameras ob jemand um sich schlägt, um sich tritt, um fällt oder jemanden schubst und das hält eher für besser als da Polizeibeamte hinzusetzen, die auf die Bildschirme schauen die nach Bauchgefühlen, nach persönlichen Vorurteilen vorgehen und die dann beispielsweise sagen, die Klamotten von dem passen wir nicht.

00:27:49.280 --> 00:27:51.440
Speaker 0: Die Hafe aber von dem passten wir nicht den kontrollieren wir mal.

00:27:51.780 --> 00:27:58.360
Speaker 0: also da kann Technologie sogar dazu beitragen dass der Staat neutraler wird und weniger Vorurteil beladen.

00:27:59.240 --> 00:28:01.720
Speaker 1: was finden denn die Polizisten so toll daran an dieser Software?

00:28:02.160 --> 00:28:04.820
Speaker 0: Die Polizistin sagen sie sparen sich viel Zeit.

00:28:05.940 --> 00:28:14.280
Speaker 0: Sie müssen nicht mehr mühsam und per E-Post, wie das bei denen heißt in irgendeinem Polizeirevier in der Provinz Akten anfordern.

00:28:14.760 --> 00:28:16.700
Speaker 0: Sondern sie können in das System reingehen.

00:28:17.320 --> 00:28:24.020
Speaker 0: Sie können in Sekundenschnelle Verbindungen sehen wissen wer wann wo war, wer wen kennt und wer wen angerufen hat.

00:28:24.460 --> 00:28:33.860
Speaker 0: Und das sehen Sie als absolute Zeitersparnis verbunden mit einer wohl gut zu bedienenden Benutzeroberfläche was jetzt traditionelle Behörden Software auch nicht hat.

00:28:36.620 --> 00:28:41.400
Speaker 1: Das war ich an das Brüde im Gespräch über die gefahren KI-basierter Datenanalyse für unsere Demokratie.

00:28:42.320 --> 00:28:47.980
Speaker 1: Sein Essay über eine allwissende Polizei und eine Recherche über Palantir finden Sie in den Shownaus.

00:28:48.520 --> 00:28:53.080
Speaker 1: Alle seine Texte sind auch in der SZ App, dort gibt es auch Probe und Digitalabos.

00:28:53.480 --> 00:28:58.620
Speaker 1: Alle Infos zu unseren Audioangeboten finden sie auf sze Schrägstrich Podcast.

00:28:59.340 --> 00:29:03.820
Speaker 1: Federführend mitgearbeitet an dieser Folge von das Thema hat Hank Reuchock von der Fährden.

00:29:04.840 --> 00:29:08.380
Speaker 1: Mitgearbeitet haben zudem Christina Höser und Timo Nikolas.

00:29:08.420 --> 00:29:13.700
Speaker 1: Für die Technik war Laura Sagebi verantwortlich, ich las lang genau das Gespräch geführt.

00:29:14.600 --> 00:29:19.560
Speaker 1: Schreiben Sie uns an Podcasts at scde gerne eine E-Mail falls sie Lob oder Kritik haben.

00:29:19.920 --> 00:29:23.180
Speaker 1: Vielen Dank fürs Zuhören auf Wiederhören!