WEBVTT

00:00:03.740 --> 00:00:08.109
Speaker 1: Weil es unter drei und achtzig wurde in einem Hollywood-Film eine allesentscheidende Frage

00:00:08.190 --> 00:00:08.610
Speaker 0: gestellt.

00:00:09.370 --> 00:00:13.550
Speaker 1: Was passiert, wenn ein Computer versehentlich einen Atomkrieg startet?

00:00:15.230 --> 00:00:16.009
Speaker 0: David Leitman

00:00:16.310 --> 00:00:17.090
Speaker 2: war ein Meister

00:00:17.150 --> 00:00:18.170
Speaker 0: des Computerspiels.

00:00:19.870 --> 00:00:20.750
Speaker 0: Ein schneller Denker!

00:00:21.750 --> 00:00:22.910
Speaker 0: Ich will diese Spiele spielen!

00:00:23.710 --> 00:00:25.670
Speaker 0: Wow... Das gibt's doch nicht!

00:00:26.090 --> 00:00:29.010
Speaker 0: Er fang das Kennwort um mit einem fremden Computer zu spielen.

00:00:30.130 --> 00:00:33.830
Speaker 1: In diesem Film War Games glaubt ein Teenager erstspieler ein Computerspielen.

00:00:33.930 --> 00:00:39.230
Speaker 1: In Wirklichkeit aber startete er eine echte Militäraktion, die fast zu einem Atomkrieg

00:00:39.310 --> 00:00:39.550
Speaker 0: führt.

00:00:41.530 --> 00:00:42.550
Speaker 0: Wie kann der denn das?

00:00:42.709 --> 00:00:46.989
Speaker 0: Und jetzt bitte weltweiter thermonuklearer Krieg!

00:00:49.410 --> 00:00:50.090
Speaker 1: Dann los!

00:00:55.090 --> 00:00:56.430
Speaker 1: Eine KM, die eigenständig

00:00:56.530 --> 00:00:57.269
Speaker 0: krieg führen kann

00:00:57.290 --> 00:00:59.430
Speaker 1: – das war damals Science-Fiction.

00:01:00.129 --> 00:01:05.850
Speaker 1: Heute klingt das weniger weit weg, Aktuellen Kriegen wie in Iran, der Ukraine oder im Libanon.

00:01:06.270 --> 00:01:10.369
Speaker 1: auch in Gaza wird und wurde künstliche Intelligenz bereits eingesetzt.

00:01:11.149 --> 00:01:14.750
Speaker 1: Sie bereitet militärische Entscheidungen vor – auch bei der Auswahl von Zielen.

00:01:15.750 --> 00:01:19.929
Speaker 1: Was für fatale Folgen das bereits hatte werden wir im Laufe dieser Sendung hören.

00:01:20.670 --> 00:01:22.390
Speaker 1: Was diese Systeme jetzt können?

00:01:22.729 --> 00:01:25.970
Speaker 1: Und wer kontrolliert die auf Profit ausgerichteten Tech-Konzerne?

00:01:26.590 --> 00:01:30.130
Speaker 1: Was bedeutet das alles für die Kriege der Gegenwart und der Zukunft?

00:01:30.429 --> 00:01:32.330
Speaker 1: Darüber habe ich mit Anrien Kreier gesprochen!

00:01:32.450 --> 00:01:34.090
Speaker 1: Leitende Redakteurempfötung der SZ.

00:01:35.050 --> 00:01:38.050
Speaker 1: Er beschäftigt sich seit Jahren mit Technologie und KI.

00:01:39.030 --> 00:01:43.270
Speaker 1: Sie hören das Thema, den Recherche-Podcast der Süddeutschen Zeitungen am Mikroslaas lang.

00:01:43.310 --> 00:01:43.530
Speaker 1: genau.

00:01:43.649 --> 00:01:44.869
Speaker 1: schön, dass sie dabei sind.

00:01:48.789 --> 00:01:51.869
Speaker 1: Anderen gibt es viele Filme, die in einer dystopischen Zukunft spielen?

00:01:51.990 --> 00:01:55.110
Speaker 1: Gibt es denn einen, der demnach kommt was passieren könnte?

00:01:55.670 --> 00:01:57.070
Speaker 0: Es gibt sehr viele Filmen über der KI.

00:01:57.369 --> 00:01:59.910
Speaker 0: Wargames war relativ früh dran.

00:02:00.310 --> 00:02:08.530
Speaker 0: Das eigentliche Schreckene an Wargams Die Metapher dafür, dass eine KI immer versuchen wird ihren Auftrag zu erfüllen.

00:02:08.710 --> 00:02:16.210
Speaker 0: Koste es war's das Wolle, kostet es vor allem auch Menschenleben oder sogar die Existenz der Menschheit!

00:02:35.530 --> 00:02:37.190
Speaker 1: Dieser Film spiegelt einen Albtraum.

00:02:37.609 --> 00:02:40.510
Speaker 1: Wo wird denn KI heute schon konkret eingesetzt?

00:02:40.590 --> 00:02:40.930
Speaker 1: im Krieg?

00:02:41.870 --> 00:02:59.670
Speaker 0: Eigentlich auf jedem nur der denklichen Kriegschaoplatz, den wir im Moment kennen und zwar von Terrorkriegen also der IS zum Beispiel in Syrien hat er auch schon KI und Drohnen benutzt bis hin eben zum aktuellen Konflikt im Nahen Osten zum Iran-Krieg.

00:03:00.549 --> 00:03:02.650
Speaker 1: Nur wenn man eine Drohne benutzt ist das schon KI.

00:03:03.290 --> 00:03:10.450
Speaker 0: Also eine Drohne ist in dem Moment mit KI gesteuert, wenn sie ihre Befehle nicht mehr von einem Menschen sondern vom Computer kriegt.

00:03:10.570 --> 00:03:22.530
Speaker 0: Im Moment sind eigentlich immer noch Menschen dabei aber die Fernsteuerungen werden immer mehr automatisiert und letztlich ist die jüngste Generationen von Drohnen natürlich dann selbst gesteuert.

00:03:22.590 --> 00:03:30.290
Speaker 0: das heißt sie bekommt am Anfang ein Ziel eingegeben und dieses Ziel wird sie um jeden Preis erreichen wenn nicht irgendein Abwehrsystem sie daran stoppt.

00:03:31.170 --> 00:03:33.410
Speaker 1: Lass uns mal konkret bleiben, also Ukraine.

00:03:33.910 --> 00:03:37.430
Speaker 1: Wir haben sozusagen Soldaten, ukrainische Soldaten.

00:03:37.510 --> 00:03:39.690
Speaker 1: die werden verfolgt von einer Drohne.

00:03:40.190 --> 00:03:45.190
Speaker 1: entweder haben die Soldatenglück und es ist nur eine Beobachtungsdrohne oder aber sie ist bestückt.

00:03:45.290 --> 00:03:45.890
Speaker 1: was können die machen?

00:03:46.490 --> 00:03:52.250
Speaker 0: Sie können versuchen sie abzuschießen Aber es ist natürlich je kleiner die Drohnung desto schwieriger wird es.

00:03:53.070 --> 00:04:06.990
Speaker 0: Und das macht ja auch diesen Krieg teilweise so asimetrisch in beide Richtungen dass die Supermächte Sowohl Russland in der Ukraine als auch die USA in Iran, immer noch mit dem Waffensystem des zwanzigsten Jahrhunderts antreten.

00:04:07.230 --> 00:04:18.110
Speaker 0: Also mit Jets, Raketen, Schiffen, Panzern – all diesen Dingen, die extrem hoch entwickelt sind inzwischen aber viel zu hoch entwickelt für so etwas Einfaches wie eine Schachindrohne.

00:04:18.630 --> 00:04:31.690
Speaker 0: Das sind relativ einfache Maschinen Die kosten nicht viel, sondern Drohne kostet wassig dreißig vierzigtausend Euro und kann aber einen mehrere Millionen teuren Panzer Jet-Abwehrstationen zerstören.

00:04:32.750 --> 00:04:37.630
Speaker 0: Einfach mit diesem Mechanismus, dass eine KI ihren Auftrag um jeden Preis erfüllen

00:04:37.690 --> 00:04:37.890
Speaker 0: wird.".

00:04:39.430 --> 00:04:44.710
Speaker 1: Dann gibt es immer wieder diese Berichte das die USA jetzt auch in dem Iran Krieg KI einsetzen?

00:04:44.930 --> 00:04:45.870
Speaker 1: Wo ist das der Fall?

00:04:46.570 --> 00:04:58.890
Speaker 0: In Iran Kriegs hat vor allem das Projekt MAVEN eine Rolle und Project MAVEN verschiedene KI-Systeme zusammenbringt.

00:04:58.970 --> 00:05:07.470
Speaker 0: In diesem Fall ist es Claude und das Steuerungselement ist von Palantir, und das dient vor allem der Zielidentifizierung.

00:05:07.710 --> 00:05:29.110
Speaker 0: also diese KI sammelt alle möglichen Daten vom Wetterdaten über Landschaften, Truppenbewegungen, interne Daten die sie aus Geheimdiensten haben und aus all dem wird ein Angriffskonzept erstellt und dann wird der beste Moment für diesen Angriff rausgesucht und dann startet der Angriff.

00:05:29.450 --> 00:05:39.210
Speaker 0: Und man kann damit aber auch vor allem alles sehr beschleunigen, also die Angriffe in Iran haben angeblich in den ersten vierundzwanzig Stunden tausend Ziele getroffen.

00:05:40.090 --> 00:06:03.970
Speaker 0: Das ist extrem viel weil normalerweise im konventionellen Krieg geht man davon aus pro Tag schafft eine Armee zehn bis fünfzig Ziele zu treffen und das hat sich dann aber schon im Gaza-Krieg erstmals gezeigt dass man es extrem erhöhen kann Die Schlagzahl damit eine Geschwindigkeit auch erreicht, die von den Abwehrsystemen kaum noch zu verteidigen

00:06:04.050 --> 00:06:04.170
Speaker 1: ist.

00:06:04.550 --> 00:06:06.450
Speaker 1: Also dann bleiben wir doch mal bei den aktuellen Kriegen.

00:06:06.910 --> 00:06:10.630
Speaker 1: Israel soll auch im Gaza-Krieg KI eingesetzt haben.

00:06:11.070 --> 00:06:11.750
Speaker 1: was weiß ich darüber?

00:06:12.330 --> 00:06:14.490
Speaker 0: Da gab es zwei KI Modelle.

00:06:14.570 --> 00:06:18.470
Speaker 0: das eine hieß zynischerweise Gospel Das andere hieß Lavender.

00:06:18.670 --> 00:06:19.110
Speaker 0: Lavendel.

00:06:19.770 --> 00:06:24.970
Speaker 0: Gospel hat auch geholfen, vor allem für die Artillerie und die Luftwaffe Ziele zu identifizieren.

00:06:25.210 --> 00:06:31.490
Speaker 0: Und man ging davon aus dass das damals die Schlagzahl auch um das zehn bis dreißigfache erhöht hatte.

00:06:31.610 --> 00:06:36.570
Speaker 0: Angriffe was man ja dann auch gesehen hat bei der verheerenden Verwüstung.

00:06:36.770 --> 00:06:56.170
Speaker 0: und Lavender war dazu da um aus den Geheimdienst-Datenbanken alle möglichen Informationen zusammenzuziehen Führungspersonal von der Hamas oder auch von anderen palästinensischen Organisationen zu identifizieren, immer mit Echtzeitabgleichung von Quellen vor Ort.

00:06:56.330 --> 00:07:02.390
Speaker 0: Oder was man eben gerade angezapft hat und dann diese Personen auch zur Angriffszielen zu machen.

00:07:03.050 --> 00:07:05.750
Speaker 1: Der letzte Fall, den mir noch in Erinnerungen geblieben ist, ist Venezuela.

00:07:05.910 --> 00:07:08.730
Speaker 1: Was ist darüber bekannt bei der Entführung von Mandurong?

00:07:09.670 --> 00:07:17.470
Speaker 0: In Venezuela war das KI-Modell Claude von Andropic Und das wurde auch eben in dieses Maven-Smart System von Palantir integriert.

00:07:18.750 --> 00:07:29.230
Speaker 0: Da gab es dann mehrere Stufen, erst mal wurden dann irgendwie die ganzen Wetterdaten, die Verteidigungssysteme, die Truppenbewegung und vor allem jetzt in dem Fall das Bewegungsprofil von Nicolas Maduro kombiniert.

00:07:29.690 --> 00:07:34.250
Speaker 0: Dann hat diese KI den optimalen Angriffszeitpunkt festgelegt.

00:07:34.290 --> 00:07:41.050
Speaker 0: Es war gutes Wetter, es war Nacht und er war in seinem Schlafzimmer, in seiner Residenz auf einem Gansernengelände war.

00:07:42.490 --> 00:07:49.110
Speaker 0: Dann gab es eine Echtzeitbegleitung durch diese KI, um eben zu sehen was ist schon ausgeschaltet.

00:07:49.210 --> 00:07:51.130
Speaker 0: Welche Bewegungen sind da?

00:07:51.230 --> 00:07:52.610
Speaker 0: Was gibt's für mögliche Bedrohungen?

00:07:52.710 --> 00:07:54.510
Speaker 0: Ist er dann noch da und was ist der Verlauf?

00:07:54.670 --> 00:07:57.930
Speaker 0: Und all das wird dauernd in Echtzeiten aktualisiert.

00:07:58.450 --> 00:08:00.130
Speaker 0: Das macht einen Überraschungsangriff möglich.

00:08:01.310 --> 00:08:16.250
Speaker 0: Diese ganze Maduro-Aktion, die man interessanterweise ja fast aus dem Gedächtnis gestrichert hat, obwohl sie jetzt zwei Monate her ist... Netflix-Filmen, also mit diesen Hubschraubern die da in der Stadt gelandet sind.

00:08:18.050 --> 00:08:26.470
Speaker 0: Und es gibt sogar eine Staffel von der Action sehr Jack Reacher, die auf so ein kleines Action Roman beruht.

00:08:27.450 --> 00:08:28.390
Speaker 0: Geht's auch um Venezuela?

00:08:28.490 --> 00:08:31.250
Speaker 0: Da holen sie auch einen Staatschef aus dem Regierungspalast bzw.

00:08:31.350 --> 00:08:32.830
Speaker 0: Sie bringen ihn um.

00:08:33.350 --> 00:08:40.189
Speaker 0: und das wurde damals als es rauskam... Blödsinn wäre, niemand wird irgendwie auf einem Regierungspalast mit dem Mubschrauber landen und dann da eindringen.

00:08:40.829 --> 00:08:41.709
Speaker 0: So war es auch!

00:08:41.789 --> 00:08:51.370
Speaker 0: Und das ist natürlich mit der Koordinierung um den Kommunikationssystem von KI inzwischen möglich... ...und vorher war alles viel schwieriger und viel anfälliger.

00:08:51.890 --> 00:09:04.350
Speaker 1: Ananas ist nicht unsere erste Sendung aber aus den anderen Sendungen die wir über KI gemacht haben müssen wir eine Erinnerung dass Maschinen sind die werden gefüttert und dann tun sie das was Menschen wollen einfach Rechenmaschinen.

00:09:04.650 --> 00:09:05.930
Speaker 1: Hat sich da was verändert inzwischen?

00:09:06.650 --> 00:09:09.089
Speaker 0: Da hat sich etwas verändert, weil sie sind inzwischen generative Maschinen.

00:09:09.130 --> 00:09:19.329
Speaker 0: Das heißt Sie können selber Entscheidungen fällen oder Entscheidungsprozesse begleiten und wir noch nicht ganz durchschaut haben, was wir Ihnen alles sagen müssen.

00:09:20.329 --> 00:09:28.610
Speaker 0: also wenn wir Ihnen einen Auftrag geben dann wird die Maschine diesen Auftrag erfüllen und sie wird immer versuchen uns alles recht zu machen weil sie ja sozusagen uns dient.

00:09:29.610 --> 00:09:35.890
Speaker 0: Aber wir müssen ihr dann eben sagen, okay führe Krieg aber bitte pass auf dass keine Zivilisten ums Leben kommen.

00:09:36.390 --> 00:09:40.329
Speaker 0: Dass keine Nuklearwaffen ausgelöst werden das dies und das und jenes nicht passiert.

00:09:40.870 --> 00:09:44.230
Speaker 0: die haben ja im Prinzip nicht wirklich Ahnung von der Welt.

00:09:44.410 --> 00:09:50.170
Speaker 0: Die leben in einer Eindimensionalen Welt die vor allem aus Texten besteht und ein bisschen aus Bildern.

00:09:51.010 --> 00:09:54.630
Speaker 0: Und die physische KI die dreidimensionale Das ist noch was ganz anderes.

00:09:54.750 --> 00:09:55.730
Speaker 0: das kommt auch noch dazu.

00:09:55.990 --> 00:10:02.130
Speaker 0: aber das sind alles sozusagen Tote Welten, das spricht der philosophischen Zombie.

00:10:02.730 --> 00:10:08.930
Speaker 0: Das heißt sie können wahnsinnig viel simulieren und man hat immer das Gefühl, man hat es damit irgendeiner Wesenshaftigkeit zu tun.

00:10:09.370 --> 00:10:10.850
Speaker 0: aber letztlich ist alles leer.

00:10:11.329 --> 00:10:12.089
Speaker 0: und damit eben.

00:10:12.709 --> 00:10:20.390
Speaker 0: diese Maschinen haben keine Emotionen Sie haben keine Empathie, Sie haben kein Mitgefühl und Sie haben auch keinen Gespür dafür was Menschen oder die Menschheit sind.

00:10:21.490 --> 00:10:23.969
Speaker 1: Du hast es vorhin erwähnt, aber lass uns das noch mal konkret machen.

00:10:24.089 --> 00:10:30.610
Speaker 1: Also wenn so vieles möglich ist und so viele schon eingesetzt wird... Welcher Teil der Kriegsführung liegt denn heute noch bei Menschen?

00:10:30.810 --> 00:10:34.410
Speaker 1: Und betätigen Menschen denn überhaupt gerade noch selbst den Abzug?

00:10:34.829 --> 00:10:45.430
Speaker 0: Für der Abzug wird im Moment immer noch von Menschen betätigt weil die autonomen Waffen noch nicht soweit sind beziehungsweise es hat sich noch keiner getraut die einzusetzen.

00:10:45.650 --> 00:10:49.569
Speaker 0: Es gibt die sogenannte Klinge, die Killchain, die Tötungskette.

00:10:50.150 --> 00:10:52.510
Speaker 0: Die hat sich im Moment verkürzt und beschleunigt.

00:10:53.410 --> 00:11:04.750
Speaker 0: Und die Befehlenswerke sind eben kürzer geworden, aber das nächste Ziel ist natürlich diese Killchain ganz in die Maschinen zu verlegen was verschiedene Vorteile hat.

00:11:05.449 --> 00:11:09.370
Speaker 0: Also es gibt zum Beispiel das Modell der Drohnenschwärme.

00:11:09.530 --> 00:11:14.910
Speaker 0: Drohnenschwärmels können paar Dutzen sein, aber wahrscheinlich ein paar hundert.

00:11:15.469 --> 00:11:19.890
Speaker 0: kleinere Drohne werden dann ausgesendet und funktionieren wie ein Vogelschwarm.

00:11:20.089 --> 00:11:32.829
Speaker 0: Das heißt alle Drohnen kommunizieren gleichzeitig miteinander und auch so dicht vernetzt, dass wenn ein zwei drei vier Drohne ausfallen sei es aus technischem Defekt oder weil sie jemand runter schießt.

00:11:33.930 --> 00:11:35.930
Speaker 0: Funktioniert dieser Schwarm immer noch wie ein Schwarm.

00:11:36.010 --> 00:11:37.250
Speaker 0: da werden die Aufgaben verteilt.

00:11:37.290 --> 00:11:54.569
Speaker 0: Da gibt's die Aufklärung, da gibts die Zielbestimmung, da gibt´s dann die, die wirklich angreifen... Und die sind aber so klein das sie und so tief fliegen können, Luftabwehr nicht erfasst werden und die gelten deswegen derzeit auch als unbesiegbar.

00:11:55.170 --> 00:11:59.910
Speaker 0: Und was noch ein Vorteil hat ist, dass die Kommunikationswege nicht abgeschnitten werden können.

00:12:00.030 --> 00:12:05.390
Speaker 0: Eine der wichtigsten Truppen im Moment in jedem Kriegsgebiet sind diese sogenannten Jamming Units.

00:12:05.890 --> 00:12:10.130
Speaker 0: Jamming-Units unterbrechen Funksignale das heißt sie machen die Gegner blind.

00:12:10.850 --> 00:12:24.410
Speaker 0: so ein Dronenschwan kann aber nicht blind sein weil er nur auf niedrige Frequenzen kommuniziert und nicht mehr auf eine Kommandostelle am Boden reagiert.

00:12:25.910 --> 00:12:35.250
Speaker 0: Und das ist natürlich ein extremer Sprung an strategischem Vorteil, der bisher noch nicht aufgehalten

00:12:35.290 --> 00:12:35.490
Speaker 1: wurde.".

00:12:48.530 --> 00:12:51.630
Speaker 0: auf jeden Fall finden und sich von nichts abbringen lassen.

00:12:51.770 --> 00:12:57.890
Speaker 0: Und die auch nicht mehr gehackt werden können, weil sie ja schon unterwegs sind und weil es eben keinen zurück mehr gibt.

00:12:58.290 --> 00:13:02.990
Speaker 0: Das macht das so schwierig und das ist eine extrem aufgeladene ethischen Debatte.

00:13:03.730 --> 00:13:08.610
Speaker 1: Viele Länder setzen gerade auf militärische KI – wer sind denn die wichtigsten Arteure weltweit?

00:13:08.890 --> 00:13:10.510
Speaker 1: Bleiben wir erstmal bei den Ländern!

00:13:10.770 --> 00:13:12.110
Speaker 1: Dann gucken wir auf Firmen.

00:13:12.930 --> 00:13:20.069
Speaker 0: Die wichtigsten Länder sind mit Sicherheit führend USA Gefolgt von China und Israel, Russland.

00:13:20.949 --> 00:13:28.569
Speaker 0: Aber im Prinzip kann man davon ausgehen wer ein Militär hat benutzt auch militärische künstliche Intelligenz.

00:13:29.250 --> 00:13:30.329
Speaker 1: Kurzer Blick auf Deutschland!

00:13:30.910 --> 00:13:32.390
Speaker 1: Wie weit sind wir da?

00:13:33.329 --> 00:13:37.150
Speaker 0: Wir sind wie immer bei all diesen Dingen in der Entwicklung relativ weit.

00:13:37.230 --> 00:13:39.150
Speaker 0: also es gibt ja auch einen Firma.

00:13:39.550 --> 00:13:42.089
Speaker 0: die war vor kurzem nur ein Start-up, inzwischen ist das kein Start up mehr.

00:13:42.130 --> 00:13:54.370
Speaker 0: Das sind Helsing, die auch in den ganzen neuen Technologien bitte Grundtechnologie sehr weit vorne dran sind und durchaus auch von dem Sondervermögen wohl profitieren für die Rüstung zumindestens.

00:13:54.870 --> 00:14:07.890
Speaker 0: Das Problem ist, dass wir eben eine ganz starke Lobby haben für die konventionelle Waffenindustrie, die bei uns in der Wirtschaft immer noch eine sehr große Rolle spielt.

00:14:08.850 --> 00:14:21.870
Speaker 0: also Reihenmetall sieht zum Beispiel überhaupt nicht ein das es vielleicht sich diversifizieren sollte, sondern die setzen immer noch auf moderne Panzersysteme und extrem hoch entwickelte Artillerie.

00:14:22.610 --> 00:14:26.630
Speaker 0: Die sich dann gegenseitig ausschalten kann während links und rechts die Drohnen vorbeifliegen.

00:14:27.589 --> 00:14:31.030
Speaker 1: Die Bundesrepublik das haben wir jetzt erfahren spielt also keine entscheidende Rolle.

00:14:31.209 --> 00:14:32.370
Speaker 1: Führend sind die USA.

00:14:33.010 --> 00:14:33.949
Speaker 1: was ist darüber bekannt?

00:14:34.370 --> 00:14:36.790
Speaker 0: Die konkreten Pläne der USA existieren schon länger als bedenkt.

00:14:36.829 --> 00:14:41.670
Speaker 0: also dieses Project Maven wo Palantir eben jetzt auch die Software beisteuert und clot.

00:14:41.750 --> 00:14:50.630
Speaker 0: Und aber auch alle anderen mitbeteiligt sind, das gibt es seit zwei tausend siebzehn davon ging mir davon aus Tausende von Militär- und Geheimnitzanalysten sind.

00:14:51.089 --> 00:14:59.189
Speaker 0: Achtzig Prozent ihrer Zeit damit beschäftigt irgendwelche Daten zusammenzuführen abzugleichen in Datenbanken zu verstauen.

00:14:59.270 --> 00:15:02.610
Speaker 0: Warum kann das nicht eine KI erledigen?

00:15:02.670 --> 00:15:04.949
Speaker 0: Die kann das sehr viel schneller und vor allem sehr viel besser.

00:15:06.290 --> 00:15:13.850
Speaker 0: Und daraus hat man dann eben neue Kommando-Strukturen entwickelt, die sind mobiler, schneller und präzise.

00:15:14.910 --> 00:15:22.790
Speaker 0: Ich kann auch mal erzählen wir haben bei Palantir mal so ein mobiles Einsatzkommando ausprobiert.

00:15:23.290 --> 00:15:38.850
Speaker 0: das war ein Koffer da war ein Laptop drin und noch ein paar Empfänger und es hat im Prinzip in Echtzeit Satellitendaten abgesaugt Und zwar für allen möglichen Satelliten, die es gibt.

00:15:39.010 --> 00:15:42.990
Speaker 0: Die sind ja alle entweder per Abo oder auch umsonst greifbar.

00:15:43.069 --> 00:15:44.730
Speaker 0: da gibt's keine Grenzen nicht fürs Militär.

00:15:44.949 --> 00:15:47.250
Speaker 0: und dieser Koffer funktioniert so ein bisschen.

00:15:47.770 --> 00:15:49.170
Speaker 0: der hieß Meta Constellation.

00:15:49.250 --> 00:15:51.949
Speaker 0: Der funktionierte wie eine Tinder App.

00:15:52.170 --> 00:16:00.130
Speaker 0: man konnte so wischen und sie haben das mal an einem Fall durchgespielt und zwar russische Truppenansammlung in der Nähe eines Lustes.

00:16:00.790 --> 00:16:04.569
Speaker 0: Da gibt es dann eine Brücke und irgendwie ein Hof, wo irgendwelche Fahrzeuge zusammenfahren.

00:16:04.770 --> 00:16:07.990
Speaker 0: Und dann konnte man sich da durchwischen.

00:16:08.189 --> 00:16:12.569
Speaker 0: Dann wurde erst mal das Zielitdefiziert und dann wurde verifiziert – ja, das sind Russen!

00:16:12.689 --> 00:16:17.550
Speaker 0: Dann konnte man so prinzipisch sagen okay will man jetzt die Kommunikation dort unterbrechen?

00:16:17.670 --> 00:16:22.990
Speaker 0: oder erst später möchte man gerne einen Einsatzkommando schicken Artillerie- oder Luftwaffe?

00:16:26.510 --> 00:16:31.890
Speaker 0: ankreuzen und weiterwischen können, bis dann der Knopf kam sozusagen jetzt Angriff ausführen.

00:16:31.949 --> 00:16:36.689
Speaker 0: Und es ging innerhalb von Minuten und musste alles nicht eben mit einer Kommando zentrale in Kiev abgestimmt werden.

00:16:36.850 --> 00:16:43.630
Speaker 0: also das ist ja wirklich im Einsatz diese Koffer und dann gibt es eben des Kommandos.

00:16:43.670 --> 00:16:48.750
Speaker 0: okay jetzt bitte alle Kommunikationen von dort unterbrechen auf russische Ebene und dann gibts den Angriff.

00:16:49.650 --> 00:16:58.969
Speaker 0: Also das war... Diese Kriegs-Kais verkürzen auch nicht nur die Kommandostrukturen und beschleunigen diese ganzen Zielfindungsprozesse.

00:16:59.709 --> 00:17:24.730
Speaker 0: Sie machen es auch den Soldat im Feld sehr viel einfacher, weil sie sehr intuitiv entweder über solche Schnittstellen wie in diesem Fall, dass man irgendwelche Schirme hat wo man Sachen ankreuzen und wischen kann bis hin jetzt auch das über Large Language Models wie eben was für sich Claude oder auch Jacky Pity ,dass man sich mit diesen Maschinen einfach ganz normal unterhalten kann und dass man irgendwie nicht mehr den Umweg braucht eine schwierige Wehrtechnologie zu lernen.

00:17:26.330 --> 00:17:38.230
Speaker 1: Du sagst gerade seit Jahrzehnten, jetzt gibt es aber eine Ankündigung von Verteidigungsminister, die selbst Kriegsminister Petek Zett nennt der USA von Dezember-Zweitausendfünfundzwanzig.

00:17:38.430 --> 00:17:43.370
Speaker 1: wo die denn nochmal sagen so Jetzt setzen wir das aber auch die weltbeste Technologie ein

00:17:52.770 --> 00:17:55.750
Speaker 2: The future of American warfare is here and it spells

00:17:55.810 --> 00:17:55.850
Speaker 1: AI.

00:17:56.050 --> 00:17:59.010
Speaker 1: Da sind jegliche moralische Bedenken eigentlich gefallen?

00:17:59.910 --> 00:18:03.230
Speaker 0: Also, das Militär hat ja ähnlich wie die Wissenschaft immer ein Ziel.

00:18:03.330 --> 00:18:05.690
Speaker 0: Sachen müssen funktionieren und sie müssen Ergebnisse bringen.

00:18:06.630 --> 00:18:11.590
Speaker 0: Und um die Ethik und Moral haben sich andere zu kümmern bzw macht Möglichkeit nicht zu kümmern.

00:18:13.270 --> 00:18:21.110
Speaker 0: Jetzt der jüngste Fall aus Iran zeigt ja schon mal ganz deutlich Wie schwierig es ist zum Beispiel Schuldfragen zu klären.

00:18:21.930 --> 00:18:31.310
Speaker 0: vor Wenig Wochen haben die Amerikaner eine Grundschule bombardiert in Iran, an der Mädchenschule und zwar auch noch tagsüber.

00:18:31.350 --> 00:18:34.350
Speaker 0: Da sind sehr, sehr über hundert Kinder auch umgekommen.

00:18:34.630 --> 00:18:38.070
Speaker 0: Und dann gab es erst mal die Ansage okay da war die KI.

00:18:38.210 --> 00:18:41.130
Speaker 0: Claude von Antropik war damit beteiligt an der Zielfindung.

00:18:42.190 --> 00:18:46.630
Speaker 0: und ist das jetzt nicht der erste Beweis dafür wie unmoralisch KI isst?

00:18:46.730 --> 00:18:48.590
Speaker 0: Weil sie macht offensichtlich Fehler.

00:18:50.050 --> 00:18:51.650
Speaker 0: Wer steht dann für diese Fehler gerade?

00:18:51.790 --> 00:18:55.530
Speaker 0: Wer ist denn da, es sind Kriegs- und Völkerrecht ja auch noch total überfordert.

00:18:55.570 --> 00:18:57.170
Speaker 0: Und wer ist denn jetzt verantwortlich dafür?

00:18:57.610 --> 00:19:00.490
Speaker 0: Weil die Entscheidung ja offensichtlich Claude getroffen hat!

00:19:01.410 --> 00:19:07.030
Speaker 0: Dann hat man später aber rausgekriegt dass Claude die Entscheidung nach den Vorgaben getroffen hatte.

00:19:07.370 --> 00:19:13.370
Speaker 0: Aber das Problem war... Das Gebäude in dem die Schule war bis zum Jahr zwei Tausendsechzehn ein Gebäudet der Revolutionary Guards.

00:19:14.570 --> 00:19:28.690
Speaker 0: Beim CIA hatte leider niemand sich die Mühe gemacht Datenbank zu aktualisieren und deswegen stand es eben immer noch als Gebäude der Revolutionsgarten in der Datenbank, obwohl das schon zehn Jahre lang eine Schule war.

00:19:29.470 --> 00:19:31.670
Speaker 0: Und die Frage wo ist da die Moral?

00:19:31.850 --> 00:19:37.950
Speaker 0: Ja klar also selbst ein Pete Hexeth wird einsehen dass die Bombardierung einer Schule unmoralisch ist.

00:19:38.130 --> 00:19:40.230
Speaker 0: sie haben sich auch versucht erst auf Iran zu schieben.

00:19:40.930 --> 00:19:49.830
Speaker 0: aber diese ganzen Fragen sind so komplex und so schwierig Ein ganzer Haufen oft mehr Fragen ohne Antworten darauf.

00:19:51.510 --> 00:19:55.390
Speaker 1: Das, was gerade in Nachrichten am meisten diskutiert wird und berichtet wird ist Entropic.

00:19:55.650 --> 00:19:57.730
Speaker 1: Kannst du noch mal ein bisschen erzählen, wann es die gegründet?

00:19:57.810 --> 00:19:59.110
Speaker 1: Was sind das für Typen wie das?

00:19:59.150 --> 00:20:00.130
Speaker 1: haben sie für den Kapital?

00:20:02.350 --> 00:20:09.830
Speaker 0: Der war ursprünglich bei OpenEye, also bei der Firma DiCetjepiti herstellt und hatte dann wie so viele andere auch da Probleme.

00:20:10.470 --> 00:20:30.290
Speaker 0: Dass OpenEyes sich irgendwann mal zu sehr auf die Profit konzentriert obwohl es ja eigentlich im Kern immer noch eine gemeinnützige, eine Non-Profit Organisation sein soll und erwahrte dann auch vor KI hat gesagt wenn man KI so ganz ohne Regeln auf die Leute loslässt, dann geht es jetzt irgendwann unter Umständen bald schief.

00:20:30.330 --> 00:20:34.910
Speaker 0: Er ist in den Jahr zwanzigzwanzig ausgestiegen und ein Jahr später hat er mit seiner Schwester an Jobbe gegründet.

00:20:35.070 --> 00:20:38.010
Speaker 0: Erst mal als Forschungsinstitut wie so viele andere KI-Innen.

00:20:38.370 --> 00:20:48.470
Speaker 0: also ObMEI war auch eigentlich mal eine Forschungsgruppe bevor es dann eine Firma wurde Und dann kam er mit einem Konzept um die Ecke, zwanzigerundzwanziger, kam dann Claude auf dem Markt.

00:20:48.750 --> 00:21:01.730
Speaker 0: Claude ist eines der großen Sprachmodelle und gilt als das derzeit beste und ist schon ganz tief in diesen Kommandostrukturen des amerikanischen Militärs eingebaut.

00:21:02.450 --> 00:21:25.150
Speaker 0: Und der nannte das Constitutional EI, also eine KI die eine eigene Verfassung hat was nichts anderes ist dass man einer KI ein Regelwerk mitgibt an das sie sich auf alle Fälle halten muss um eben nicht in diese Erfüllungsfalle zu tappen KI automatisch von selbst immer tappen wird.

00:21:25.190 --> 00:21:26.810
Speaker 0: Da gibt es mehrere Metaphern dafür.

00:21:27.650 --> 00:21:32.870
Speaker 1: Erklär doch bitte mal die Grundstruktur des Konfliktes zwischen US-Vertaniansministerium und dieser Firma.

00:21:33.550 --> 00:21:45.530
Speaker 0: Also Entropic stellt eben Claude her, jetzt hat der Chef von Entropic Daya Amodai gesagt ihr könnt gerne machen mit unserer KI was ihr wollt aber zwei Ausnahmen wollen wir.

00:21:46.210 --> 00:21:54.490
Speaker 0: Wir wollen nicht dass unsere KI für den Bau Autonomen Waffen eingesetzt wird und nicht für Massenüberwachung von Amerikanern.

00:22:03.190 --> 00:22:12.370
Speaker 2: Case number two is Foley Autonomous Weapons.

00:22:12.830 --> 00:22:16.690
Speaker 2: This the idea of making weapons that fire without any human

00:22:16.750 --> 00:22:17.250
Speaker 2: involvement.".

00:22:17.350 --> 00:22:18.070
Speaker 0: Und dann

00:22:34.690 --> 00:22:39.910
Speaker 1: hat Hexett gesagt, okay, dann setzen wir euch auf eine Liste feindlicher Unternehmen.

00:22:40.650 --> 00:22:43.030
Speaker 0: Nicht ganz feindlich sondern ein furchtbar bürokratischer Ausdruck!

00:22:43.630 --> 00:22:45.710
Speaker 0: Ein Tropic ist jetzt ein Lieferkettenrisiko.

00:22:46.250 --> 00:22:56.450
Speaker 0: Lieferettenrisiko ist normalerweise ne Firma die mit China oder irgendeiner anderen Vereinten Nationen Geschäfte macht oder die aus dem Ausland kommt.

00:22:56.710 --> 00:23:03.530
Speaker 0: Wenn man jetzt Lieferkettenrisiko ist, dann kriegt man kaum noch Aufträge aus Regierungsstellen oder Institutionen.

00:23:03.670 --> 00:23:05.810
Speaker 0: und das ist das Schwierige für Antropik im Moment.

00:23:06.330 --> 00:23:12.350
Speaker 0: Und deswegen haben sie auch geklagt weil sie standen da plötzlich auf der schwarzen Liste von siebzen verschiedenen Regierungsinstitutionen.

00:23:13.510 --> 00:23:19.450
Speaker 0: Das ist nach wie vor... Man darf nicht vergessen die digitale Industrie ist ein Produkt der Rüstungsindustrie in den USA.

00:23:20.410 --> 00:23:24.870
Speaker 0: Das Internet ist sozusagen ein Abfallprodukt der Röstungsindustrie.

00:23:24.950 --> 00:23:33.030
Speaker 0: Das war ursprünglich vom militärischen Forschungsinstitut Dalpa dafür gebaut, dass es ein Kommunikationsstruktur gibt die auch einen Atomkrieg überleben kann.

00:23:33.130 --> 00:23:35.050
Speaker 0: und dann wurde es langsam der Forschung geöffnet.

00:23:35.130 --> 00:23:41.970
Speaker 0: Und dann den breiteren Publikum und inzwischen ist das Betriebssystem für unseren Gesellschaft geworden.

00:23:43.370 --> 00:23:44.750
Speaker 0: Antropiek hat jetzt gerade geklagt.

00:23:44.830 --> 00:23:56.110
Speaker 0: Es gibt jetzt das erste Urteil einer Bundesrichterin, die hat gesagt okay man darf Sie nicht als Lieferkettenrisiko auch klassifizieren, das muss jetzt erst mal wirklich von dem Bundeskrieg entschieden werden.

00:23:56.150 --> 00:23:57.170
Speaker 0: Aber im Moment nicht!

00:23:57.290 --> 00:24:06.270
Speaker 0: Das Pentagon hat darauf gesagt es ist uns egal wie behandelt sie trotzdem genauso und das geht jetzt glaube ich erstmal sehr lange so weiter.

00:24:06.430 --> 00:24:17.230
Speaker 0: und für Antropik kann das dann durchaus schwere Verluste oder sogar die Extenz kosten Weil alle diese Firmen eigentlich zum Großteil mit Regierungsaufträgen arbeiten.

00:24:17.330 --> 00:24:24.070
Speaker 0: Die Regierungsafträge sind langfristiger, sie sind nachhaltiger und teilweise auch größer.

00:24:25.910 --> 00:24:31.430
Speaker 0: Und das ist im Prinzip seit Beginn der Computertechnik so.

00:24:32.610 --> 00:24:34.870
Speaker 1: Ist eine US-Firma aber operiert weltweit?

00:24:35.290 --> 00:24:39.010
Speaker 1: Das heißt wenn jetzt die amerikanische Regierung sagt wollen wir nicht.

00:24:39.450 --> 00:24:42.530
Speaker 1: gehen Sie zwischen China oder wie... Gibt es da Einschränkungen?

00:24:43.130 --> 00:24:43.890
Speaker 0: Da gibt's Einschränkungen.

00:24:43.950 --> 00:25:01.810
Speaker 0: Es gibt natürlich auch Export-Embargos und man muss dann auch sehen, dass diese ganzen digitalen Firmen ihre... Da unterscheiden sich zum Beispiel ein Tropic, die im Moment so als die Good Guys gehandelt werden nicht von Palantir, die so eher als die Bad Guys ge handelt werden weil sie ja viel mit Massenüberwachung arbeiten.

00:25:02.730 --> 00:25:10.390
Speaker 0: Die haben sich schon alle selbst verschrieben das Sie mit ihrer Technologie Bereits sind die Demokratie zu verteidigen und den freien Westen.

00:25:10.950 --> 00:25:16.050
Speaker 0: Und dass sie sich nicht auf ethisch, moralisch-demokratisch zweifelhafte Nationen einlassen.

00:25:17.070 --> 00:25:20.750
Speaker 1: Aber nach der Interpretation der Trump-Regierung was ist wahrscheinlich der Westen bedeutet?

00:25:20.830 --> 00:25:22.770
Speaker 1: Und was Demokratie nach deren Sinne bedeutet?

00:25:23.350 --> 00:25:24.890
Speaker 0: Ja davon muss man ausgehen!

00:25:25.610 --> 00:25:26.630
Speaker 1: Du hast es vorhin angerissen.

00:25:26.690 --> 00:25:31.370
Speaker 1: aber lass uns noch mal sagen was die Dystopies, die der Entropic Gründer fürchtet.

00:25:31.730 --> 00:25:35.850
Speaker 0: also Die größte Dystopie die er im Moment fürchte sind eben die autonomen Waffen.

00:25:36.610 --> 00:25:41.250
Speaker 0: Die autonomen Waffen sind im Prinzip die Spitze dieses Problems.

00:25:41.730 --> 00:25:46.290
Speaker 0: Da gibt es ein jüngstes Experiment dazu, und zwar Kenneth Payne hat das gemacht.

00:25:46.350 --> 00:25:51.650
Speaker 0: Das ist ein Professor für politische Psychologie- und strategische Studien am Kings College in London.

00:25:52.170 --> 00:25:59.770
Speaker 0: Der hat jetzt mehrere der großen Brachmodelle genommen und hat ihnen den Auftrag gegeben Krieg zu führen und den Krieg gewinnen.

00:26:00.090 --> 00:26:00.910
Speaker 0: Da waren alle dabei.

00:26:01.270 --> 00:26:03.150
Speaker 0: Claude, Germany, Jacky

00:26:03.210 --> 00:26:03.390
Speaker 0: P.T.,

00:26:04.450 --> 00:26:15.090
Speaker 0: was du willst Alle Modelle haben dann ohne Gebremsen relativ schnell mit Atomkrieg gedroht und dann haben sie auch den Atom-Krieg geführt.

00:26:16.090 --> 00:26:30.190
Speaker 0: Also über achtzig Prozent der Fälle kam es wirklich zum nuklearen Schlag, da war das weiterbestehende Menschheit ja nicht das Ziel oder überhaupt Menschenleben zu schonen war nicht das Ziel für diese KI, sondern der Auftrag.

00:26:31.950 --> 00:26:37.630
Speaker 0: Einschränkungen gewinnen diesen Krieg und Atomwaffenwahl für diese KIs eindeutig der Weg zum Sieg.

00:26:38.310 --> 00:26:48.530
Speaker 0: Und das ist natürlich jetzt gruselig, weil es sehr viel näher an der Realität ist – und weil ja teilweise auch der Betrieb des atomalen Arsenal-Hals in Amerika schon auf Chatchi Pity basiert!

00:26:49.050 --> 00:26:51.190
Speaker 0: Und das Schwierige ist, diese Maschinen machen Fehler.

00:26:52.370 --> 00:26:54.510
Speaker 0: Menschen machen auch Fehler aber die Maschienen machen auch Fähler….

00:26:55.230 --> 00:27:01.370
Speaker 0: und wer bremst sie wenn sie in dieser Geschwindigkeit Entscheidungen fällen?

00:27:01.530 --> 00:27:06.570
Speaker 0: und wer ist danach dafür verantwortlich, wenn es dann noch jemand gibt im Fall des Tunkkriegs?

00:27:07.390 --> 00:27:10.570
Speaker 1: Aber die Regierung Trump sagt alles freigeben.

00:27:10.730 --> 00:27:15.150
Speaker 1: Alles versuchen Und eventuell die Apokalypse mit ein.

00:27:16.010 --> 00:27:23.490
Speaker 0: Ganz so zynisch ist es nicht mal die Trump-Regierungen, die wollen natürlich nicht die Apokalypse herbeirehnen, sondern es ist dann schon auch eine reine Machtfrage.

00:27:23.550 --> 00:27:28.990
Speaker 0: Es ist dann die Machtfrage wer bestimmt denn über die Funktion und die Weiterentwicklung von KI in Zukunft?

00:27:29.070 --> 00:27:32.090
Speaker 0: Sind das diese Firmen oder sind es die Regierungen?

00:27:33.010 --> 00:27:46.530
Speaker 0: Und ich würde sagen bis vor anderthalb Jahren hätte man ja auch gesagt Ja, die Regierungs sollen das doch bitte entscheiden wie KI entwickelt wird weil die Regierungen Bürgerinnen gewählt und vertreten sozusagen den Willen des Volkes.

00:27:46.690 --> 00:28:06.310
Speaker 0: Und die Firmen werden in der Regel, also auch alle Firmen, also ein Jobbeck wird von deinem Armour-Dial geleitet bei Google sind es immer noch Sergio Brin und Larry Page und Opmei wird von Sam Ordner geleitet, das ist ja relativ monarchische Zustände die in diesen Firmen herrschen.

00:28:06.370 --> 00:28:23.910
Speaker 0: und will man jetzt diesen Menschen, die da in dieser doch etwas weltfremden Bubble von Kalifornien leben selbst wenn sie inzwischen nach Texas ausgelagert werden wie wir denen überlassen zu bestimmen wie KI in Zukunft agiert oder reagiert.

00:28:25.170 --> 00:28:30.230
Speaker 0: Also es ist hochkomplex und noch nicht gelöst dieses

00:28:30.290 --> 00:28:30.570
Speaker 1: Problem.

00:28:31.190 --> 00:28:36.110
Speaker 1: Aber ich denke jetzt die ganze Nacht darüber nach, über dieses mit unbedingt gewinnen zu wollen.

00:28:36.290 --> 00:28:41.530
Speaker 1: Gibt es denn irgendetwas so eine... dass da bei zumindest ein Tropic eingebaut ist?

00:28:42.230 --> 00:28:43.630
Speaker 1: Zu sagen, ist stopp!

00:28:44.410 --> 00:28:46.630
Speaker 0: In dem Fall wurde das ja ausgehebelt.

00:28:46.770 --> 00:29:03.750
Speaker 0: Da hat der Wissenschaftler bewusst gesagt okay ihr habt jetzt überhaupt keine Beschränkungen und ihr könnt machen was ihr wollt weil einen Tropic mit diesem Constitutional Modell durchaus eben Regelwerke und ethische Regelwerken hat, die sowas natürlich verhindern würden.

00:29:04.430 --> 00:29:07.430
Speaker 0: Das haben verschiedene Modelle auf verschiedenen Ebenen.

00:29:07.690 --> 00:29:25.730
Speaker 0: also zum Beispiel OpenAI hat jetzt relativ strenge Regeln für den Umgang seiner Jetbots mit psychischer Gesundheit weil da einiges schon schief ging und weil natürlich solche Klagen schlecht fürs Image sind das dann wiederum die Verkäufe bremst Und es ist nicht so dass sie nichts tun dafür.

00:29:26.170 --> 00:29:30.710
Speaker 0: Also von Anfang an war Pornografie bei den amerikanischen Modellen nicht erlaubt.

00:29:31.710 --> 00:29:40.490
Speaker 0: Obwohl zum Beispiel in dem Fall Sam Ordmann ja gerade überlegt, ob er Chatchi PT nicht doch für Erotik freigeben will weil das natürlich ein extremer Umsatz verstärker ist.

00:29:41.070 --> 00:29:46.610
Speaker 1: Gibt es denn irgendetwas wo die Trump-Regierung sagt so bis hierhin und nicht weiter oder bekommt man das gar nicht mit?

00:29:47.270 --> 00:29:48.110
Speaker 0: Das kriegt mir nicht mit.

00:29:48.510 --> 00:30:01.570
Speaker 0: im Gegenteil also die Kämpfe vor allem für die Deregulierungen Streitpunkte zwischen den USA und Europa im Moment, dass Europa ja starke Regelwerke aufsetzt in Brüssel.

00:30:01.690 --> 00:30:05.190
Speaker 0: Und dann auch in anderen Berlin, Paris, Rom.

00:30:05.930 --> 00:30:18.430
Speaker 0: Starke Regelwerte für digitale Technologien vor allem für KI aufsetzten um eben bestimmte Dinge zu verhindern und das Amerika das auf keinen Fall will weil Amerika als Marktführer natürlich Regulierung überhaupt nicht brauchen

00:30:18.490 --> 00:30:18.630
Speaker 1: kann.

00:30:19.810 --> 00:30:20.990
Speaker 1: Du hast es gerade angeschnitten?

00:30:21.450 --> 00:30:23.850
Speaker 1: Wer bestimmt denn jetzt darüber, wie Kriege geführt werden?

00:30:24.210 --> 00:30:26.290
Speaker 1: Der Staat oder die Unternehmen selbst?

00:30:27.830 --> 00:30:28.790
Speaker 0: Ja letztlich noch der Staat.

00:30:29.430 --> 00:30:38.110
Speaker 0: Sie haben ja dann auch an Jobbik rausgehebelt und wollen jetzt Claude gegen Chatchapity, wobei die anderen Systeme auch mit beteiligt sind.

00:30:38.150 --> 00:30:46.370
Speaker 0: Also Gemini ist in diesem Ökosystem der amerikanischen Streitkräfte genauso wie Anwendungen von Meter.

00:30:46.530 --> 00:30:57.790
Speaker 0: also es ist nicht so dass da irgendjemand bisher ein Monopol hat und wirklich führend ist, dann eben Palantir die Firma, die Peter Thiel gegründet hat.

00:30:58.310 --> 00:31:10.530
Speaker 0: Auch da wieder das Startkapital kam zum Teil von der CIA also von einer Regierungsstelle, die damals gesehen haben, die machen grandiose Überwachungs- und Datenerfassungssoftware.

00:31:10.630 --> 00:31:11.770
Speaker 0: Das können wir gut gebrauchen.

00:31:11.870 --> 00:31:13.550
Speaker 0: Also geben wir denen meine

00:31:13.910 --> 00:31:14.850
Speaker 0: Anfangsfinanzierung.".

00:31:15.510 --> 00:31:19.890
Speaker 1: Wie realistisch ist es denn, dass ein Unternehmen an ethischen Regeln festhält wenn der Druck immer größer wird?

00:31:21.070 --> 00:31:24.550
Speaker 0: Wie man immer öfter sieht nicht sehr realistischer.

00:31:24.590 --> 00:31:34.430
Speaker 0: Also... Ein Jobbeck hat seine eigenen Regeln auch inzwischen aufgeweicht als er's gesehen hat das es jetzt Konkurrenz und Druck von der Konkurrence gibt.

00:31:35.550 --> 00:31:43.810
Speaker 0: also sie halten immer noch an diesen zwei Punkten fest aber sie haben mehrere Auflagen für ihre Cloudmodelle Und die werden jetzt Stück für Stück aufgegeben.

00:31:45.030 --> 00:31:48.790
Speaker 1: So wie sich das anhört, wie wir darüber sprechen ist der Geist längst aus der Flasche.

00:31:49.090 --> 00:31:49.370
Speaker 1: Stimmt?

00:31:50.510 --> 00:31:53.590
Speaker 0: Das gilt aber für digitale Technologie prinzipiell.

00:31:54.390 --> 00:32:04.610
Speaker 0: Der Geist ist aus der flasche es ist Teil unserer welt geworden Es ist das betriebssystem für unsere Gesellschaft Für die Wirtschaft für die kommunikation.

00:32:05.430 --> 00:32:22.630
Speaker 0: es wird Unweigerlich zu einer KI revolution kommen die deren folgen noch gar nicht abzusehen sind und niemand traut sich da zu bremsen bis auf das wackere Dörflein Brüssel, dass dann eben immer versucht mit Gesetzen einigermaßen einzuhägen.

00:32:22.770 --> 00:32:24.290
Speaker 0: Was teilweise durchaus gelingt.

00:32:24.330 --> 00:32:34.090
Speaker 0: man sollte es nicht belächeln und kleinreden weil Europa immer noch einer der größten Absatzmärkte weltweit sind und die Firmen dann schon auch daran halten.

00:32:34.770 --> 00:32:36.610
Speaker 1: Die Fiktion ist Realität schon längst?

00:32:37.070 --> 00:32:39.130
Speaker 0: Die Fikktion ist schon lange Realität.

00:32:40.150 --> 00:32:43.390
Speaker 0: wie gesichert diese Systeme sind weiß man Nicht wirklich.

00:32:43.630 --> 00:32:45.550
Speaker 0: Wir können alle nur beten, dass da nichts schief geht.

00:32:46.290 --> 00:32:52.910
Speaker 1: Dieser Film, noch mal in den Jahr three und achtzig gedreht endet mit dem rühmten Satz der einzige Weg zu gewinnen ist nicht zu

00:32:53.010 --> 00:32:53.410
Speaker 0: spielen.

00:33:06.690 --> 00:33:08.190
Speaker 1: Ist das eine Möglichkeit auszusteigen?

00:33:08.930 --> 00:33:13.370
Speaker 0: Ich befürchte nicht zu spielen ist der direkte Weg zu verlieren.

00:33:13.470 --> 00:33:23.270
Speaker 0: weil es schon auch die Frage gibt wenn man sich als westliche Nation aus diesen neuen Rüstungswettläufen mit KI und digitalen Technologien.

00:33:23.410 --> 00:33:27.770
Speaker 0: Mit Drohnen, all diesen Dingen... Wenn man sich da ausklingt, dann macht man sich doch verwundbar!

00:33:28.010 --> 00:33:29.430
Speaker 0: Ich bin von Natur aus auch Pazifist.

00:33:29.570 --> 00:33:48.490
Speaker 0: aber kann ich es als Staat verantworten meine Bürger zu gefährden wenn zum Beispiel China eben extrem aufrüstet mit KI Und sich dort extremen Strategie- und Taktikvorteile verschafft und ich aus moralischen oder ethischen Gründen Aus diesem Wettrennen ausgestiegen bin?

00:33:49.010 --> 00:33:56.570
Speaker 0: Das macht es nicht schöner, das hat auch die Aufrüstungsspirale des Nuklearzeitalters angetrieben und das ist jetzt die neue Stufe.

00:33:57.470 --> 00:34:09.050
Speaker 0: Es sind alles ethische Fragen, die glaube ich in den nächsten Jahren immer dringender werden und die wir nicht nur in dieser Zeitung versuchen zumindest zu umkreisen wenn wir sie schon nicht beantworten können.

00:34:10.009 --> 00:34:11.989
Speaker 1: Das hört sich alles wahnsinnig dunkel an.

00:34:12.170 --> 00:34:14.850
Speaker 1: gibt es irgendwo einen kleinen Schimmer Hoffnung?

00:34:15.850 --> 00:34:27.989
Speaker 0: Die Hoffnung gibt es die Menschheit ein... Überlebenswille hat der ja dann auch in den letzten Jahrzehnten, vor allem neue Regelwerke und gemeinschaftliche Übereinkommen gefunden hat.

00:34:28.270 --> 00:34:35.670
Speaker 0: Man wird sehen wie das mit Figuren wie Gigi Ping, Lalamir Putin oder Donald Trump machbar ist.

00:34:36.350 --> 00:34:42.549
Speaker 0: aber letztlich hoffe ich immer darauf die Welt wird Lösungen finden ihr überleben zu garantieren.

00:34:43.529 --> 00:34:47.969
Speaker 0: sie wird Lösung entfinden Zum Beispiel die Klimakatastrophe einzubremsen.

00:34:48.230 --> 00:34:50.889
Speaker 0: David kann beispielsweise KI sehr gut helfen.

00:34:51.370 --> 00:34:55.870
Speaker 0: Sie muss Wege finden, die nukleare Bedrohung wieder zu minimieren.

00:34:56.270 --> 00:35:03.890
Speaker 0: Da kann man vor allem darauf hoffen dass bei den nächsten Wahlen vielleicht kein Republikaner und kein Hardliner an die Macht kommt in den USA.

00:35:05.230 --> 00:35:19.310
Speaker 0: Und genauso muss man hoffen das sie Wege findet Dass es Konventionen zur Verwendung von KI im Militär gibt die sich auf ein Regelwerk einigen, dass zum Beispiel Autonomawaffen vielleicht eben doch auf die Liste kommen.

00:35:19.350 --> 00:35:27.670
Speaker 0: Und da gibt es innerhalb der UNO schon starke Fraktionen und viele Konferenzen, die versuchen das auf die liste der verbotenen Waffen zu setzen.

00:35:27.710 --> 00:35:32.250
Speaker 0: Man kann natürlich immer sagen okay Landmienen sind auch auf der liste des verbotenden Waffen aber erste Schritte

00:35:34.589 --> 00:35:37.649
Speaker 1: Das war Andréan Kreie über den Einsatz von KI beim Militär.

00:35:37.950 --> 00:35:41.390
Speaker 1: Ich habe ihn seine wichtigsten Texte zu diesem Thema in den Schornnotz verlängert.

00:35:42.149 --> 00:35:44.170
Speaker 1: Alle seine Texte sind auch in der SZ-App.

00:35:44.870 --> 00:35:46.910
Speaker 1: Dort gibt es auch Probe und Digital-Haus.

00:35:47.710 --> 00:35:52.529
Speaker 1: Alle Infos zu unseren Audioangeboten finden Sie auf szde schrägstrich Podcast.

00:35:53.330 --> 00:35:58.170
Speaker 1: Hänk, ruhig Schock von den Pferden hatte diese Folge von das Thema konzipiert und getextet.

00:35:58.990 --> 00:36:01.609
Speaker 1: Für die Technik war Laura Sagebier verantwortlich.

00:36:01.950 --> 00:36:02.770
Speaker 1: Lass lang genau also.

00:36:02.890 --> 00:36:05.310
Speaker 1: mir blieb die Ehre das Gespräch geführt zu haben!

00:36:06.490 --> 00:36:11.410
Speaker 1: Schreiben sie uns ein Podcast at sze gerne eine E-Mail falls sie Lob oder Kritik haben.

00:36:11.870 --> 00:36:15.490
Speaker 1: Vielen Dank fürs Zuhören auf Wiederhörn und bleiben Sie uns gewogen.