WEBVTT

00:00:01.180 --> 00:00:02.730
Speaker 2: Tech, KI und Schmetterlinge.

00:00:03.270 --> 00:00:06.910
Speaker 2: Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarztidgets.

00:00:07.270 --> 00:00:20.470
Speaker 1: Guten Tag und herzlich willkommen zu einer neuen Ausgabe von Tech,KI und Schmetterlingel – dem Podcast von mir, Sascha-Lobo in zusammenarbeit mit Schwartz-Digits, dem deutschen Technologiepartner für digitale Souveränität in Europa!

00:00:21.130 --> 00:00:32.510
Speaker 1: Das Thema heute ist quasi eine Art Leib-und-Magen-Thema nicht nur von Schwarzt digits sondern inzwischen auch Bundesrepublik Deutschland und das aus nachvollziehbarem Grund.

00:00:32.590 --> 00:00:40.690
Speaker 1: Es geht nämlich um IT-Security im weitesten Sinn, im Zusammenspiel mit Behörden also genau denjenigen

00:00:41.250 --> 00:00:41.310
Speaker 0: wo

00:00:42.290 --> 00:00:44.750
Speaker 1: die Bevölkerung zu Recht die Erwartungshaltung hat.

00:00:44.810 --> 00:00:47.070
Speaker 1: dass hat gefälligst zu funktionieren.

00:00:47.430 --> 00:01:01.850
Speaker 1: Und die Gäste die ich mit dabei habe um über dieses Thema zu diskutieren Das sind nicht nur zwei Gästen High End Gäster was es nur hau angeht sondern auch Leute die genau wissen Wovon Sie da reden, das ist zum einen Lars Kuckuck.

00:01:02.190 --> 00:01:11.790
Speaker 1: Lars Kukuck is CSIO der Bundesagentur für Arbeit und für die nunmaßlich Null Komma sieben Prozent der Leute, die nicht einschätzen können was das bedeutet?

00:01:12.390 --> 00:01:16.430
Speaker 1: Das ist Die Behörde mit den meisten Mitarbeitenden des Hundert.

00:01:16.530 --> 00:01:23.470
Speaker 1: vierzehntausend Mitarbeitende so viel wie Bundespolizei plus alle Rentenversicherungen des Bundesunterländer zusammengenommen.

00:01:24.010 --> 00:01:33.990
Speaker 1: Fünfzig Milliarden Euro Budget im Ja, wir reden hier von zum Beispiel zwei Hundert Millionen Überweisungen die im Jahr stattfinden durch die Bundesagentur für Arbeit.

00:01:34.150 --> 00:01:51.650
Speaker 1: Also ein nicht nur sehr relevantes Ziel was Cyberkriminalität angeht sondern auch eins wo man wirklich dafür sorgen muss dass da alles funktioniert weil das Gefühl dass der Staat funktionieren muss ganz eng mit den Leistungen rund um den Start und die Bundes Agentur für Arbeiten verbunden ist.

00:01:52.030 --> 00:01:53.330
Speaker 1: Hallo lieber Lars!

00:01:56.350 --> 00:01:57.090
Speaker 2: Hier da sein darf.

00:01:58.130 --> 00:02:11.870
Speaker 1: Und natürlich muss diese Grunde jemand komplettieren, der schon mal hier im Podcast war Alexander Schellon Managing Director Cyber Security der schwarz Gruppe und Mitglied der Geschäftsleitung Schwarz Digits.

00:02:12.210 --> 00:02:31.610
Speaker 1: Wir haben damals intensiv über die aktuellen Gefährdungen diskutiert Alexander und auch jetzt wieder versuchen wir dieses große Thema könnte sagen das Amt und KI oder die Behörde im Zeitalter von künstlicher Intelligenz, dass wir das von allen möglichen Seiten einkreisen.

00:02:31.690 --> 00:02:47.590
Speaker 1: Deine Perspektive ist nicht nur eine, dass du regelmäßig in diesem Bereich arbeitest sondern dass du, da bedeuten dich wahrscheinlich viele, die zuhören geradezu beruflich gezwungen bist um die Welt zu fahren und dich mit den aktuellsten Themen überlaufen der Welt was IT-Sicherheit angeht und Künstliche Intelligenze zu beschäftigen.

00:02:47.650 --> 00:02:48.450
Speaker 1: Hallo lieber Alexander!

00:02:49.710 --> 00:02:51.470
Speaker 0: Hallo lieber Sascha ich freue mich sehr.

00:02:51.630 --> 00:03:01.730
Speaker 0: auch hallo lieber Lars Und ja, ich interessiere mich nicht nur über das Thema IT-Sicherheit sondern auch für das Thema E-Government also Digitalisierung der Verwaltung.

00:03:01.830 --> 00:03:02.990
Speaker 0: Darüber habe ich nämlich promoviert.

00:03:03.250 --> 00:03:06.810
Speaker 0: Also insofern ist das Thema mir in zweifacher Reinsicht definitiv sehr nah.

00:03:06.950 --> 00:03:07.310
Speaker 0: Vielen Dank!

00:03:08.250 --> 00:03:16.810
Speaker 1: Ich möchte als Anlass nicht eine ketzerische Frage stellen aber eine die zeigt warum wir genau jetzt darüber diskutieren.

00:03:17.690 --> 00:03:23.670
Speaker 1: Nämlich dass wir einen extrem großen Digitalisierungs Druck haben, was die Verwaltung angeht.

00:03:24.170 --> 00:03:30.310
Speaker 1: Der ist nicht nur gesetzlich hinterlegt sondern der ist auch gar nicht mehr anders abzubilden im Jahr zwölfundzwanzig schon eine ganze Zeit lang.

00:03:30.750 --> 00:03:32.750
Speaker 1: Da kommt jetzt noch künstliche Intelligenz dazu.

00:03:33.450 --> 00:03:41.830
Speaker 1: sehr viele Menschen in Deutschland haben das Gefühl rund um Behörden könnte hier und da der Prozess noch ein Spureffizienter ablaufen sag ich mal ganz vorsichtig.

00:03:42.450 --> 00:03:45.730
Speaker 1: Und dass geht in vielen Fällen zumindest theoretisch mit Künstlichen Intelligenzen.

00:03:45.770 --> 00:03:53.250
Speaker 1: und gleichzeitig ist künstlicher Intelligenze wie man im IT Kontext sagt auch eine Art neuer Angriffsvektor.

00:03:53.990 --> 00:03:56.570
Speaker 1: Das heißt, wir haben so eine Multi-Aufgabe!

00:03:56.870 --> 00:04:07.010
Speaker 1: Wir müssen in Deutschland die Verwaltung digitaler, effizienter, schneller präziser machen und gleichzeitig muss sie weil immer mehr Angriffe von außen kommen sicherer werden.

00:04:07.830 --> 00:04:10.750
Speaker 1: oder besprechen wir gleich nochmal sicher bleiben?

00:04:11.330 --> 00:04:24.470
Speaker 1: Und der dritte Punkt ist natürlich dass wir zunehmend Angriffer haben von Staaten, von Gruppierungen die ein großes Interesse daran haben das Deutschland nicht funktioniert.

00:04:24.990 --> 00:04:34.730
Speaker 1: Wir sind in einer Art permanentem Cyberangriffshagel und diese drei Dinge zusammengenommen stellen aus meiner Sicht eine neue Epoche dar.

00:04:35.070 --> 00:04:49.410
Speaker 1: wie also ist das KI-Amt in Zukunft nicht nur sicher sondern funktioniert auch und das ganze am besten mit dem Fingerschnipsen so einfach dass man Wahnsinnig gerne Bürgeramtstermine in Zukunft bei seinem eigenen AI-Agent vom Bürgeramt machen wird.

00:04:50.190 --> 00:04:56.490
Speaker 2: Natürlich, du hast das jetzt gerade mit den drei Punkten super beschrieben Die Herausforderung könnte nicht größer sein.

00:04:56.650 --> 00:05:03.270
Speaker 2: Wir haben natürlich eine große Erwartungshaltung von den Bürgerinnen und Bürgern dass natürlich Verwaltung effizient wird.

00:05:03.610 --> 00:05:08.670
Speaker 2: Ganz klares Thema, das haben wir auch für uns erkannt und haben die ersten Themen auf den Weg gebracht.

00:05:09.190 --> 00:05:17.510
Speaker 2: Auf der anderen Seite müssen wir natürlich schauen, dass wir das Ganze mit einer entsprechenden kontrollierten Governance einführen.

00:05:17.610 --> 00:05:23.290
Speaker 2: Das sind eigentlich so die Themen, die für uns gerade die wesentlichen Herausforderungen sind.

00:05:23.690 --> 00:05:34.030
Speaker 2: Deswegen haben wir intern derzeit bei uns Jetzt im Security-Bereich war mir wichtig, dass man stückweit auch Vorderwelle schwimmen vor über zwei Jahren angefangen haben.

00:05:35.550 --> 00:05:37.110
Speaker 2: mit KI was selber zu bauen.

00:05:37.790 --> 00:05:52.490
Speaker 2: Also wir haben einen eigenen Bord gebaut, der mittlerweile unserem Security Bereich unterstützt ist auch vollkommen auf Open Source gebaut läuft bei uns on-prem von einer eigenen Umgebung und unterstützt uns mittlerweile im täglichen Security Geschäft.

00:05:52.810 --> 00:05:58.550
Speaker 2: das heißt wir haben den trainiert mit unseren Daten sozusagen um einfach mal Erfahrungen zusammen.

00:05:59.770 --> 00:06:09.470
Speaker 2: Fakt ist dass wir heute Bei uns nicht ein Zugriff auf Hacking Face haben, uns Modelle runterladen und die bei uns nach Lust und Laune ausprobieren.

00:06:10.110 --> 00:06:25.910
Speaker 2: Wenn ich mich mit meinen anderen Zizokollegen unterhalte in den Communities bei Cosenautomobilherstärken, wo es wirklich nur noch um Geschwindigkeit geht, die also permanent sich Modelle herunterladen installieren und eben auch verwenden.

00:06:26.430 --> 00:06:31.710
Speaker 2: Und die Security Abteilung sozusagen hinterherläuft, dann finde ich das als schwierig.

00:06:32.470 --> 00:06:42.530
Speaker 2: Auf der anderen Seite hast du natürlich schon den anderen Punkt gesagt Das Thema KI gerade im Einsatz der Produktverbesserung.

00:06:43.070 --> 00:06:55.350
Speaker 2: Ich bekomme jeden Tag den Lagebericht und wenn ich in einen Lagerbericht reingucke, die Schwachstellen derzeit, die geschlossen werden bei den großen Herstellern aus Amerika sind enorm teilweise im dreistelligen vierstelligen Bereich.

00:06:55.650 --> 00:06:58.170
Speaker 2: also man sieht die Frontiermodelle während dort eingesetzt.

00:06:58.210 --> 00:07:03.670
Speaker 2: das finde ich gut dass natürlich eine größere ja Qualitätsgesicherte Software rauskommt.

00:07:03.750 --> 00:07:14.750
Speaker 2: auf der anderen Seite müssen wir aber auch für uns schauen wie wir damit umgehen Bei uns mittlerweile durch zahlreichen Tooleinsatz, ob das jetzt in der Systementwicklung ist.

00:07:14.890 --> 00:07:28.750
Speaker 2: Also gerade im Bereich der Codes Entwicklung aber auch im Bereich des ganz traditionellen Patchmanagement haben wir eine sehr gute Visibilität an bekannten Schwachstellen und deren Umgang damit.

00:07:29.170 --> 00:07:35.130
Speaker 2: Es ist natürlich jetzt mit KI für uns noch mal eine völlig neue Herausforderung, weil die Geschwindigkeiten anders werden.

00:07:35.470 --> 00:07:52.770
Speaker 2: Wir haben also doch Schwachstellen gerade im Bereich... wir setzen ja auch viel Open Source Software gerade jetzt im webbasierten Entwicklungsbereich ein und da sehen wir natürlich schon schwachstellen sind doch sehr lange offen.

00:07:53.710 --> 00:07:59.570
Speaker 2: Wir stehen sehr lange, also wir sehen das sozusagen da auch eine andere Dynamik hinein kommen muss.

00:08:00.050 --> 00:08:01.890
Speaker 2: Patch-Zügeln sind sehr langsam.

00:08:03.250 --> 00:08:12.730
Speaker 2: Da setzen wir uns eigentlich gerade damit auseinander weil traditionelle Prozesse klassisch heute haben in dem Patch Zügel was ja irgendwie Immunisinoskurve ist.

00:08:13.050 --> 00:08:16.950
Speaker 2: Also man fängt an zu patchen und kommt ein neues Release und dann geht es wieder los.

00:08:17.250 --> 00:08:24.470
Speaker 2: und wenn ich das jetzt über einen Zeitraum von mehreren Monaten oder von einem Jahr sehe, dann verändert sich das nicht wesentlich.

00:08:24.790 --> 00:08:35.630
Speaker 2: Wir sehen aber jetzt alleine durch die KI-Modelleinsatz oder durch den KI-Angriff oder der Veröffentlichung von Schwachstellen allgemein natürlich dass die Geschwindigkeit einer andere sein muss.

00:08:35.850 --> 00:08:51.770
Speaker 2: also wir kommen nicht mehr hinterher das alles eigentlich sozusagen zu patchen und Alex hat es ja vorhin auch schon ganz kurz angesprochen klassisch wenn ich heute schwachstellen sehe dann werden die klassifiziert in dem CVS scoren haben neuner oder zehner CVS-Escore.

00:08:52.390 --> 00:09:00.730
Speaker 2: Aber die Frage, die man sicher auch immer stellen muss ist die Schwachstelle in dem Kontext denn wirklich auch von der schwere Grad überhaupt relevant?

00:09:01.170 --> 00:09:21.310
Speaker 2: Also das ist auch noch mal ein Thema wo wir jetzt schauen müssen zukünftig auch KI mit einzusetzen um sozusagen eine bessere Klassifizierung der Risiko an sich mit hinein zu bekommen weil es werden natürlich traditionelle Maßnahmen wie eben die aus Zero Trust Bereich haben, Netzwerksäckmetierungen etc.

00:09:21.990 --> 00:09:23.690
Speaker 2: da auch gar nicht mit berücksichtigt.

00:09:23.730 --> 00:09:33.330
Speaker 2: das heißt wir müssen eine bessere Klassifizierung von Schochstellen erlangen um letztendlich und vielleicht auch nochmal unterscheiden, wo wird ein System exponiert?

00:09:33.450 --> 00:09:35.230
Speaker 2: Ist es nach außen ist es nach innen.

00:09:36.250 --> 00:09:39.710
Speaker 2: Kann ich Ihnen vielleicht einen anderen Patchzyklus anlegen als nach Außen?

00:09:40.110 --> 00:09:51.270
Speaker 2: denn Faktes eins mit unseren traditionellen Prozessen die wir heute haben kann nicht die Geschwindigkeit die die Schwachstellen sozusagen veröffentlicht werden gar nicht mehr patchen.

00:09:51.670 --> 00:09:58.770
Speaker 2: Wir haben in den letzten Monaten war es so, dass ein Exploit wahrscheinlich ein halbes Jahr gebraucht hat bis er funktioniert hat.

00:09:58.850 --> 00:10:11.450
Speaker 2: heute ist das in wenigen Stunden der Fall und da muss letztendlich jetzt gerade auch in so einen großen IT-Betrieb wie wir sind, muss man letztendling auch deutlich flexibel werden um das einfach noch zur Bewehr leisten.

00:10:11.850 --> 00:10:15.330
Speaker 1: Du hast grade was erwähnt, was ich nochmal bisschen vertiefen möchte?

00:10:16.090 --> 00:10:23.350
Speaker 1: Anfang der Besprechung, wie kann künstliche Intelligenzbehörden gleichzeitig schneller, effizienter und sicherer machen?

00:10:23.550 --> 00:10:24.990
Speaker 1: Weil das einfach die Anforderungen ist.

00:10:25.470 --> 00:10:28.370
Speaker 1: Auch eine Anforderung von der ich sagen würde dass sie manchmal sehr ungerecht ist.

00:10:28.650 --> 00:10:29.590
Speaker 1: Ungerecht im Sinne von.

00:10:30.030 --> 00:10:33.930
Speaker 1: da hat man über Jahre und Jahre gesagt ihr seid jetzt so wichtig seit ihr jetzt auch nicht.

00:10:34.090 --> 00:10:35.270
Speaker 1: Jetzt kriegt euch mal ein.

00:10:35.350 --> 00:10:48.170
Speaker 1: Das ist bekannt doch alles es funktioniert doch noch und plötzlich quasi über Nacht verlangt man das drei Schritte auf einmal gemacht werden ja und das auch noch in allerhöchster Qualität denn Natürlich ist es immer total doof, wenn einer Behörde irgendwas nicht funktioniert.

00:10:48.690 --> 00:10:56.590
Speaker 1: Meine Wahrnehmung ist das der Begriff den du gesagt hast, dass deren neue Relevanz bekommen hat und eben auch eine Sicherheitsrelevanz bekommt.

00:10:56.750 --> 00:11:02.250
Speaker 1: Was von On-Premise gesprochen, on-prem abgekürzt heißt übersetzt Der Server steht im Keller.

00:11:02.610 --> 00:11:11.030
Speaker 1: Wir haben jetzt nicht irgendwie ne Cloud die auf siebenhundertdreiundzwanzig tausend verschiedene Data Center irgendwo verteilt ist sondern der Server steht Im Keller.

00:11:11.070 --> 00:11:12.130
Speaker 1: Das sind On-premises.

00:11:13.050 --> 00:11:17.430
Speaker 1: die ganze Fragestellung, die sich im Cyber Security Bereich ergeben hat.

00:11:17.650 --> 00:11:27.550
Speaker 1: Die ist auch dadurch dramatisch beschleunigt und intensiviert worden, dass wir spätestens seit Jahrzehnte zwanzig in einer neuen Welt leben.

00:11:27.810 --> 00:11:47.050
Speaker 1: Ich spiele natürlich an auf den Einmarsch dem Überfall der Ukraine durch Putin, wodurch sich dieser Krieg, der dort stattfindet... verhärtet, intensiviert hat und vor allem auch immer mehr Cyberwar-Anteile in alle möglichen Richtungen stattfinden.

00:11:47.630 --> 00:11:52.170
Speaker 1: Und diese Solbruchsstelle die hat weltweite Auswirkungen gehabt?

00:11:52.930 --> 00:11:58.370
Speaker 1: Unter anderem, dass wir inzwischen sehen der Staat ist ein Angriffsziel geworden?

00:11:58.910 --> 00:12:00.370
Speaker 0: Das ist natürlich absolut korrekt.

00:12:00.430 --> 00:12:10.710
Speaker 0: Ich würde es aber eigentlich sagen die Ukraine war eigentlich durch die Aktivitäten, die bereits vor zwei Jahren stattgefunden haben schon so einen Wake-up Call also im Prinzip seit den grünen Männchen.

00:12:11.270 --> 00:12:22.890
Speaker 0: Also weit davor gab es entsprechende Maßnahmen wo ja sogenannte Viper Malware auch eingesetzt wurde, wo also große Teile von Infrastrukturten einfach aus dem Betrieb genommen wurden.

00:12:23.850 --> 00:12:47.050
Speaker 0: Ich glaube, wir haben diese Geschichte mit der Ukraine und zum anderen haben wir einfach auch diese starke Dominanz von Ransome angriffen die einfach jeden in jeder Industrie, in jeder Größe einfach sukzessive getroffen haben und das hat sich dann eben fast als Mundpropaganda rumgesprochen und dementsprechend hat sich da natürlich einfach dann die Awareness für das Thema erhöht.

00:12:47.110 --> 00:12:52.410
Speaker 0: Vorher war es so ein Thema für gewisse, sagen wir mal elitäre Cyber Security Circle.

00:12:53.890 --> 00:13:01.150
Speaker 0: Ich finde du hast einen spannenden Punkt genannt und der Lars hatte ja auch gesagt sie machen sehr stark alles on-prem.

00:13:01.770 --> 00:13:07.670
Speaker 0: Das war gerade vor letzte Woche bei einer großen Veranstaltung von AMD in San Francisco.

00:13:08.230 --> 00:13:20.230
Speaker 0: es ging natürlich rauf und runter über KI und KI Infrastrukturen und das große Thema aktuell ist kommt ja auch zunehmend hier in der Debatte rein, ist natürlich dieses ganze Thema Token Economics.

00:13:21.090 --> 00:13:28.650
Speaker 0: Dass man eben sagt wir wollen KI einsetzen aber es kann uns quasi auch so viel kosten dass das alles nicht mehr effizient ist.

00:13:29.810 --> 00:13:49.730
Speaker 0: Ich gehe davon aus dass viele Organisationen plötzlich sagen werden ich halte mir plötzlich gewisse Infrastrukturen vor Ort vielleicht sogar Teilweise schon bei den Benutzern vor Ort auf dem System zur Verfügung mit entsprechenden optimierten Modellen, die gar nicht so viele Ressourcen komplexe Ressorzen brauchen.

00:13:50.130 --> 00:13:55.690
Speaker 0: Die für meinen Anwendungsfall notwendig sind, die dann eben nicht auf das große KI-Rechenzentrum zugreifen werden.

00:13:55.790 --> 00:14:09.690
Speaker 0: also weil man eben versucht durch eine Optimierung von KI ressourcenentsprechende Kostenvorteile zu gewinnen ja da geht es dann eben plötzlich um Kosten Und um Sicherheit.

00:14:10.290 --> 00:14:31.450
Speaker 0: Also wenn dort und in anderen Foren propagiert wird, dass jeder Organisation in Zukunft vielleicht hunderttausend, hundertfünfzig tausend Agenten hat die in einem Dauerloop sozusagen verschiedene Aufgaben erfüllen immer wieder Dinge abfragen sind das natürlich unendlich viele Schnittstellen, die diese KI-Agenten haben auch unendliche viele Rechte.

00:14:32.190 --> 00:14:32.690
Speaker 0: ja also ein.

00:14:32.890 --> 00:14:41.430
Speaker 0: wir müssen überlegen, dass einen KI-Agent am Ende teilweise Zugriffe bekommt, die ein neuer Mitarbeiter in der BA oder bei den Schwarz-Didgets niemals bekommen würde.

00:14:41.490 --> 00:14:54.550
Speaker 0: Aber einen KI-Agent bekommt er teilweise relativ gedankenlos und die machen dann alle möglichen Sachen und hoffentlich so kontrolliert dass wir das noch im Blick haben als IT oder als IT Security verantwortlich.

00:14:54.670 --> 00:15:06.810
Speaker 0: Und dann muss man sich vorstellen, dass je nach Aufgabe diese verschiedenen KI Aktivitäten – und es kann sich ja auch nochmal variieren unterschiedliche Ressourcen und unterschiedliche Modelle brauchen.

00:15:06.870 --> 00:15:12.050
Speaker 0: Also die Zukunft wird da leider noch komplexer, weil jetzt wir eben Security denken müssen.

00:15:12.110 --> 00:15:16.470
Speaker 0: Wir müssen sagen mal daran Art verwandt das Thema Data Protection denken.

00:15:16.650 --> 00:15:18.290
Speaker 0: Und dann haben wir das Thema Economics noch.

00:15:19.190 --> 00:15:33.790
Speaker 0: Das heißt für die Beteiligten in der IT und auch diejenigen, die vielleicht sich nicht als IT-ler fühlen aber an die IT reporten ist ja teilweise COO CFO CIO denkt das wahrscheinlich noch stärker mit.

00:15:33.850 --> 00:15:47.630
Speaker 0: Die müssen eben plötzlich diese ganze Klaviatur denken, sowohl in Behörden die natürlichen Staatsauftrag haben und von unseren Steuerbeträgen entsprechend finanziert werden als auch natürlich Unternehmen.

00:15:47.950 --> 00:16:03.810
Speaker 1: Wenn man sich so anschaut die Entwicklung nicht nur der Bundesagentur verarbeitet sondern von Behördenden den letzten zehn, fünfzehn vielleicht zwanzig Jahren insgesamt Dann hat man am Anfang Digitalisierung vielleicht nicht als nice to have betrachtet, aber schon so als das läuft parallel mit.

00:16:03.910 --> 00:16:05.510
Speaker 1: Wir schauen mal was wir damit machen können.

00:16:05.930 --> 00:16:08.250
Speaker 1: bei manchen war es besser, beim anderen war es schlechter.

00:16:08.650 --> 00:16:15.110
Speaker 1: Ich rede jetzt von der zweiten dritten Welle der Digitalisierung Als man gesagt hat naja Der Computer ist ein bisschen eine vernetzte Schreibmaschine.

00:16:15.810 --> 00:16:19.570
Speaker 1: Lange Zeit war auch das Fax immer noch das Mittel der Wahl in vielen Bereichen.

00:16:19.630 --> 00:16:32.910
Speaker 1: und plötzlich ich übertreibe nur ganz bisschen Und plötzlich kommen genau die gleichen Leute die gestern alles zusammensparen wollten und üben Druck auf, auf die Behörden und sagen eigentlich müsste euer AI-Bott übermorgen fertig sein.

00:16:34.170 --> 00:16:40.370
Speaker 1: Wie nimmst du diesen Wandel wahr so aus Sicht der operativen Realität in den Behörde?

00:16:41.690 --> 00:16:47.870
Speaker 2: Ja ich kann das so unterschreiben aber du hast vorhin schon eigentlich die Punkte schon mit aufgenommen.

00:16:48.310 --> 00:16:54.310
Speaker 2: wir sehen Vor Corona war das ja alles in der normalen Geschwindigkeit gelaufen.

00:16:56.490 --> 00:17:08.950
Speaker 2: Wir hatten unsere Prozesse, wir haben die mit der Digitalisierung angefangen, die D-Services nach außen zu bringen wobei man sagen muss, dass die BA deutlich weiter ist als andere Behörde im Vergleich.

00:17:09.550 --> 00:17:31.630
Speaker 2: Was ich jetzt natürlich wahrgenommen habe so eigentlich ist es mit Corona eingeleitet worden Es waren Brandbeschleuniger auf das Thema und dadurch rasant der Entwicklung von KI noch hinzukommt, sieht man das natürlich jeder jetzt irgendwie auf das Thema mit aufspringt und vorne so die Fackel in die Hand nimmt und sagt wir müssen jetzt alle nach vorne rennen.

00:17:31.810 --> 00:17:49.430
Speaker 2: Und jetzt so ein großer Druck quasi in den ganzen Organisationen auch erzeugt wird aber auch von außen natürlich eine enorm hohe Erwartungshaltung auch von Bürgerseite da ist dass Manchmal ist das gerade jetzt aus der Perspektive Security, dass wir kaum noch hinterherkommt.

00:17:49.610 --> 00:17:50.290
Speaker 2: Das muss man sagen.

00:17:50.630 --> 00:18:00.050
Speaker 2: Es ist ja eh schon immer ein Thema, dass man Security von Anfang an irgendwie mitgedacht wird und ich nehme das auch bei meinen Kollegen so wahr.

00:18:00.570 --> 00:18:06.250
Speaker 2: Wir sind in jedem Projekt was kommt Mit dabei versuchen immer mit dabei zu sein.

00:18:07.250 --> 00:18:15.850
Speaker 2: derzeit über dreißig Projekte parallel laufen und es kommt von allen Seiten hinein, jeder versucht jetzt sozusagen ganz vorne mit dabei zu sein.

00:18:16.370 --> 00:18:22.590
Speaker 2: Und kein Projekt was wir derzeit machen wo nicht das Wort KI fehlt also jedes Produkt heute.

00:18:22.770 --> 00:18:29.950
Speaker 2: wenn ein Produkt heute keinen KI mehr eine KI Funktionalität oder Unterstützung mehr dabei hat dann ist es irgendwie schon fast kein Projekt mehr.

00:18:31.590 --> 00:18:38.690
Speaker 1: Ja ich habe übrigens so als Seitennahmen dass glaube ich wird sich Ausgleichen und naturalisieren.

00:18:39.250 --> 00:18:54.190
Speaker 1: Das war nach meiner Beobachtung schon ein paar Mal so, dass man so eine neue Großtechnologie in Großkomplex betrachtet und dann am Anfang immer noch extra dazusagen muss das man das auch macht und es ist auch wichtig, dass Man das dazu sagt weil Es sich dann für selbstverständlich.

00:18:54.450 --> 00:19:05.310
Speaker 1: und irgendwann Ist man aber an dem Punkt Dass das vollkommen klar ist wir machen neues Projekt Natürlich ist da KI dabei Muss man gar nicht extra erwähnen ungefähr So wie man ja heute auch Nicht sagen würde hey ich gehe Heute ins Büro und arbeite mal mit Software.

00:19:06.590 --> 00:19:07.770
Speaker 1: Klar, natürlich tust du das.

00:19:08.150 --> 00:19:09.410
Speaker 1: Das musst du da nicht extra dazu sagen.

00:19:10.030 --> 00:19:20.030
Speaker 1: und genau diese Verselbstverständlichung die führt aber auch leider mit einem Punkt der eben schon deutlich geworden ist in neuen Statements zu einer Verschärfung der Sicherheitslage.

00:19:20.370 --> 00:19:34.710
Speaker 1: Wir haben ganz am Anfang der großen KI-Transformation noch kein besonders gutes Gefühl dafür was zum Beispiel die ganz klassischen Rechte und Rollenausstattungen von AI Agents angeht.

00:19:35.390 --> 00:19:45.990
Speaker 1: Wir haben, und das ist alles ein paar Monate alt, höchstens zwei Jahre alt eine Vielzahl von, sagen wir mal Großfails wo plötzlich einen KI-Agent etwas machen konnte.

00:19:46.110 --> 00:19:48.990
Speaker 1: Von dem man ganz überrascht dachte ach dass darf der, das ist ja crazy!

00:19:49.110 --> 00:19:50.790
Speaker 1: Und diese Daten darauf kann er auch zugreifen.

00:19:51.130 --> 00:19:51.810
Speaker 1: Das ist ja verrückt.

00:19:52.350 --> 00:20:11.150
Speaker 1: Wir haben noch kein gutes Gespür dafür wie KI-Agenden A sinnvoll eingesetzt werden können B Effizient sind, dass sie nicht drei Milliarden Token verbrauchen, nur mal am Ende irgendwie ein Ja oder Nein was man noch ratend hätte können draus zu geben und vor allem C wie Sie nicht ein eigenes gigantisches Sicherheitsrisiko werden.

00:20:12.190 --> 00:20:18.690
Speaker 1: Und das glaube ich ist jetzt eine Diskussion in der operativen Realität der Behörden.

00:20:18.990 --> 00:20:23.270
Speaker 1: da bin ich eben schon so mit dem Finger drauf wenn überall KI isst.

00:20:23.910 --> 00:20:27.590
Speaker 1: Was bedeutet das denn für diesen Sicherheitsaspekt?

00:20:28.990 --> 00:20:39.890
Speaker 2: Aus meiner Sicht, wenn wir vermehrt jetzt KI einsetzen müssen wir das in unseren Sicherheitsausprägung und Sicherheitsphilosophien mit integrieren.

00:20:40.210 --> 00:20:48.590
Speaker 2: Das heißt Wir müssen KI Agents genauso in Zero Trust integriern wie wir das heute für die anderen Bereiche im Netzwerkssegmentierungsbereich auch machen.

00:20:48.970 --> 00:20:49.010
Speaker 2: D.h.,

00:20:49.210 --> 00:20:51.150
Speaker 2: wir müssen uns um Berichtigungsthemen kümmern.

00:20:51.550 --> 00:20:55.610
Speaker 2: Wir müssen gucken dass wir die typischen Themen wie Nitonoprinzipien einhalten.

00:20:58.850 --> 00:21:01.090
Speaker 2: Vielleicht irgendwann, das ist ja noch Zukunftsmusik.

00:21:01.190 --> 00:21:19.210
Speaker 2: Aber das Management von KI Agents sozusagen in Berechtigungsagents mit zu überführen dass wir Lösungen schaffen Nur für eine bestimmte Zeit einräumen, dass wir die mit den wenigsten Rechten ausstatten und das wir sie permanent verifizieren und kontrollieren.

00:21:19.610 --> 00:21:27.250
Speaker 2: Und du hast gerade auch schon erwähnt – und da sehe ich in den ganzen Projekten – Wir müssen parallel auch lernen wie überhaupt mit dem Thema KI-Sicherheit.

00:21:27.750 --> 00:21:28.930
Speaker 2: Das wird es langsam mitnehmen!

00:21:29.410 --> 00:21:31.370
Speaker 2: Das ist noch Neuland für uns.

00:21:31.450 --> 00:21:35.510
Speaker 2: Wir probieren uns mit jedem Projekt natürlich auch aus.

00:21:35.730 --> 00:21:38.210
Speaker 2: Wie können wir das effizient für uns auch managen?

00:21:39.930 --> 00:21:44.730
Speaker 2: Und es ist ja nicht nur, ich möchte nicht das da der Eindruck entsteht dass wir alles nur unbremis machen.

00:21:44.790 --> 00:21:53.670
Speaker 2: Unsere Strategie ist schon in dem Hybrid Ansatz zu gehen und eben mit souveränen Cloud Anbietern auch perspektivisch mehr zu tun um mehr zu arbeiten.

00:21:54.250 --> 00:22:07.410
Speaker 2: Und da müssen wir alle gesamt noch eine ganze Menge an Erfahrungen sammeln mit entsprechenden Technologien, die wir dann eben bei uns eben auch mit berücksichtigen um das Thema KI sozusagen mit entwickeln zu lassen.

00:22:07.570 --> 00:22:25.110
Speaker 2: Das sind die klassischen Security-Themen dass ich eben gucke Berechtigungen Ich guck drauf was monitorisch sozusagen und welche Konzepte muss ich im Punkt Penetrationstesting machen, etc.

00:22:25.530 --> 00:22:30.030
Speaker 2: Wir haben ja Red Team alles... Das muss langsam mitgestaltet werden.

00:22:30.530 --> 00:22:36.510
Speaker 2: Ja das ist so momentan mit den Themen was wir uns da im KI-Bereich gerade anschauen.

00:22:37.070 --> 00:22:41.490
Speaker 1: Alexander Lars hat grade nicht nur von Penetrationstest, Pent-Test gesprochen.

00:22:41.750 --> 00:22:45.970
Speaker 1: Also der Test kann man in ein System eindringen auch von Red Teams.

00:22:46.050 --> 00:23:02.770
Speaker 1: also das sind Leute die auf der Seite der Guten stehen aber so tun als wenn sie jetzt mal ein paar Minuten lang böse und würden ganz gemein versuchen einzubrechen im Einsystem ob sowohl es nicht dürfen diese vielen unterschiedlichen Situationen in denen man sich wiederfinden kann.

00:23:03.290 --> 00:23:10.530
Speaker 1: Du verfolgst sehr engmarschig die internationale Diskussion, was IT-Security und eben auch künstliche Intelligenz angeht.

00:23:11.070 --> 00:23:24.910
Speaker 1: Und da sind ja ein paar Gruppierungen, würde ich sagen China, Vereinigte Staaten Russland Nordkorea... Ich möchte jetzt nicht in einen Topf tun aber da sind halt muss man sagen was Cybercriminalität angeht Schwerpunkte des Knowhow in diesen verschiedenen Ländern.

00:23:26.110 --> 00:23:35.710
Speaker 1: Was sind denn nach deiner Beobachtung die Dinge, die gerade groß diskutiert werden im Cyber Security Bereich und die deswegen automatisch relevant sein müssen für Behörden?

00:23:36.170 --> 00:23:38.030
Speaker 1: Die funktionieren garantieren müssen.

00:23:38.450 --> 00:23:56.430
Speaker 0: Also ich gebe meinen kleinen Überblick vielleicht aus Diskussionen beim World Economic Forum unter ZISUS mit der größten Unternehmen in der Welt vielleicht noch, es gibt noch so eine andere Gruppe vom Espen-Institut wo man sich auch zweimal im Jahr trifft.

00:23:56.990 --> 00:24:04.970
Speaker 0: Da sind dann sowohl Vertreter von verschiedenen Staaten als auch von großen Firmen und auch Forschungsinstitutionen.

00:24:05.570 --> 00:24:12.310
Speaker 0: Und die großen Themen über die wir bislang gesprochen haben waren zum Teil die alten Themen, die der Lars bereits erwähnt hat.

00:24:12.990 --> 00:24:26.970
Speaker 0: aber das was natürlich absolut die Diskussionen eingenommen hat war natürlich Diese Veröffentlichung von diesen Modellen wie Mythos, aber es gibt auch mittlerweile viele andere Lösungen aus Europa übrigens.

00:24:27.510 --> 00:24:34.730
Speaker 0: Die letztendlich in Windeseile Schwachstellen in Software finden und auch Software die sie gar nicht kennen.

00:24:36.170 --> 00:24:43.770
Speaker 0: Erst vor wenigen Tagen mussten wir wieder lernen das ist vielleicht zur Einordnung.

00:24:44.290 --> 00:24:55.270
Speaker 0: Da würde ich kurz noch was zu sagen, dass ja mit KI in diesem kryptografischen Ansatzhawk auch eine Schwachstelle identifiziert wurde.

00:24:55.710 --> 00:24:59.130
Speaker 0: Das eben entsprechend in einer Geschwindigkeit die man so vorher nicht kannte.

00:24:59.950 --> 00:25:13.710
Speaker 0: das ist aber völlig okay weil Dieser Ansatz ist ja noch nicht eingesetzt, sondern der ist im Moment in dieser, sagen wir mal über Prüfungsphase und man hat eben natürlich sofort auch die KI drauf angewendet.

00:25:13.790 --> 00:25:20.450
Speaker 0: Und hat dann entsprechend die Schwachstellen gefunden was ja auch sinnvoll ist und man härtet und verbessert seine Fehler.

00:25:21.130 --> 00:25:26.430
Speaker 0: also es ist das Thema Einsatz von KI, das ist das Thema... also da machen wir uns nichts vor.

00:25:26.570 --> 00:25:38.550
Speaker 0: Also alle großen Organisationen dieser Welt sicherlich auch die BA wie wir auch und wer auch immer da draußen isst Wir haben alle wissentlich Schwachstellen in unserem System.

00:25:38.730 --> 00:25:42.270
Speaker 0: Ob die ausnutzbar sind und wo sie sind Das ist eine andere Frage.

00:25:42.630 --> 00:25:46.130
Speaker 0: dass werden wir garantiert nicht in diesem Podcast irgendwie mehr erzählen.

00:25:46.690 --> 00:25:50.330
Speaker 0: Ich kann aber sagen wir sind praktisch unter uns.

00:25:50.950 --> 00:25:53.590
Speaker 1: Ihr könnt sagen, wir sind praktisch unter uns Alexander und Lars.

00:25:53.650 --> 00:26:01.450
Speaker 1: Ihr könnt auch ein Messer aus dem Nähkästchen plaudern und sagen ne also wenn man es richtig macht wir haben noch einen Windows drei einzelnen Keller da würde E-Motet funktionieren kein Problem.

00:26:01.530 --> 00:26:04.090
Speaker 1: also könnt ihr gerne zugeben ja ich bin da ganz offen

00:26:04.650 --> 00:26:12.250
Speaker 0: genau die vor der Herausforderung stehen Die größten Organisationen dieser Welt war ich vor ein paar Wochen mit denen im Austausch.

00:26:12.310 --> 00:26:33.910
Speaker 0: Das war wirklich sehr, sehr spannend und alle sagen auch ganz ehrlich wir können teilweise diese Themen und dieses Schwachstellen gar nicht adressieren weil unsere Kernaufgabe ist dass das Geschäft läuft und deswegen treffen wie eine risikobasierte Entscheidung und kümmern uns um gewisse Schwachstellen, also ähnlich das wie der Lasties Zukunfts skizziert hat.

00:26:35.130 --> 00:26:51.030
Speaker 0: Es wird noch wichtiger dass ich quasi in Echtzeit alle meine Systeme verstehe die verschiedenen Risiken von außen und von innen um dann zu sagen Wie könnte durch die Kombinatorik aller Möglichkeiten der Angreifer dahin kommen wo er hinkommen möchte?

00:26:51.550 --> 00:26:53.250
Speaker 0: Und worum muss ich mich heute kümmern?

00:26:53.330 --> 00:26:53.910
Speaker 0: und zwar heute?

00:26:54.050 --> 00:27:00.310
Speaker 0: und morgen muss ich wieder was anderes kümmern weil leider die Welt sich gerade so stark verändert hat.

00:27:00.490 --> 00:27:06.350
Speaker 0: Dieses Thema sollte man sich merken, also mean time to exploit.

00:27:06.810 --> 00:27:11.130
Speaker 0: tte ist mittlerweile quasi bei null oder negativ.

00:27:11.670 --> 00:27:28.390
Speaker 0: Ich kann auch jedem empfehlen, mal auf die Webseite Zero Day Clock zu gehen wo es eigentlich sehr eindrücklich steht dass es früher Jahre gedauert hat bis man sogenannte Exploits also Software gebaut hat um Schwachstellen auszunutzen und jetzt geht das eben teilweise in Minuten oder Stunden.

00:27:28.690 --> 00:27:30.870
Speaker 0: und dann ist natürlich die Frage wie setzt man sie ein?

00:27:31.570 --> 00:27:39.730
Speaker 0: Eine andere Diskussion, die wir einfach haben in den internationalen Zirkeln ist nach wie vor, wie man irgendwie besser zusammenarbeiten könnte.

00:27:39.790 --> 00:27:46.630
Speaker 0: Also wir reden da seit seit fünfzehn Jahren immer darüber ja Collaboration is key aber man tut sich teilweise immer noch schwer.

00:27:46.690 --> 00:27:51.810
Speaker 0: Wir haben natürlich teilweise sehr erfolgreiche Aktivitäten im Bereich entsprechend Sicherheitsbehörden.

00:27:51.890 --> 00:27:56.670
Speaker 0: also wir sehen das ja mal beim BKA zusammen mit ganz vielen anderen Behörden weltweit.

00:27:57.070 --> 00:28:00.490
Speaker 0: Ich glaube, der Karsten Mayward war auch schon mal in diesem Podcast.

00:28:01.390 --> 00:28:13.290
Speaker 0: Der leitet ja den Cyber-Gereich beim DKA und die haben natürlich sehr viele erfolgreiche Aktivitäten wo sie im Sinne des Gesetzes gemeinsam die Infrastrukturen zumindest im Zweifel temporär ausschalten.

00:28:13.450 --> 00:28:14.870
Speaker 0: Und da funktioniert das ja.

00:28:15.010 --> 00:28:19.410
Speaker 0: aber wir sehen nach wie vor die große Debatte ist immer noch Lagebilder.

00:28:21.590 --> 00:28:30.250
Speaker 0: Wie kann die Industrie oder kritische Infrastrukturen den Sicherheitsbehörden wie dem BSI und anderen Behörden, wie dem ANSI in Frankreich, der CSA in Singapur?

00:28:31.030 --> 00:28:32.070
Speaker 0: Der CSER in den USA.

00:28:32.210 --> 00:28:44.350
Speaker 0: Wie können wir da einfach das Lagebild, diese Informationen über vielleicht angefangenen Angriffe stärker verteilen um sie dann wiederum allen anderen zur Verfügung zu stellen?

00:28:44.390 --> 00:28:47.090
Speaker 0: Da tun wir uns nach wie vor alle sehr schwer.

00:28:48.210 --> 00:28:53.750
Speaker 0: Und natürlich jetzt, dass die große spannende Frage eben wie setzt man eben diese KI ein?

00:28:53.810 --> 00:28:55.570
Speaker 0: Da war auch sehr viel Frustration im Raum.

00:28:55.710 --> 00:29:06.090
Speaker 0: Kann man ganz klar sagen zwischen sagen wir alle nicht Amerikaner, die am Anfang da keinen Zugriff drauf haben Wir haben natürlich auch viel Frist gehabt weil alle gesagt haben ah das die wollen ja nur an die Börse Das ist alles Marketing.

00:29:06.190 --> 00:29:14.550
Speaker 0: aber wir haben natürlich schon gesehen Dass da schon auch leider was Wahres dran war an den Kapazitäten Was eben möglich ist.

00:29:15.270 --> 00:29:21.410
Speaker 0: und Die Frage ist natürlich, wie setzt man das Ganze jetzt ein und wie setzen wir uns auch wieder kostengünstig ein?

00:29:21.850 --> 00:29:26.790
Speaker 0: Das sind, sagen wir mal große Fragestellungen um die es eigentlich konstant auf globaler Ebene geht.

00:29:27.530 --> 00:29:32.470
Speaker 0: Ja, das würde ich sagen sind so die großen, die drei großen Themen Glück.

00:29:32.570 --> 00:29:48.610
Speaker 0: Vielleicht der vierte ist ein bisschen das Thema dass die Leute in der Security schon unter extremem Druck stehen und wir haben sie ja auch einmal in unserem früheren Cybersecurity Report berichtet Wir mehr Fälle von Burnout sehen, dass die Teams ausbrennen.

00:29:48.670 --> 00:29:51.710
Speaker 0: Dass sie daraus wollen und wie geht man damit um?

00:29:51.850 --> 00:30:04.370
Speaker 0: Aber sagen wir alle, die größten Börsen notierten Unternehmen und auch große Governmentorganisationen haben wirklich alle vergleichbare Themen und versuchen irgendwie einigermaßen damit zurechtzukommen.

00:30:06.690 --> 00:30:13.670
Speaker 1: Ich möchte jetzt mal zwei Begriffe kurz verbinden miteinander, die gefallen sind weil ich das für relevant halte die Perspektive, die wir darauf geben können.

00:30:13.770 --> 00:30:42.030
Speaker 1: Nicht nur Bundesagentur für Arbeit und schwarz-digit so von verschiedenen Seiten behördenseitig und security dienstleistungsseitig Und cloud diensteistung seitig sondern eben auch was die dritte Seite angeht nämlich das Publikum für dass man es am Ende machen muss und der Erne ist nochmal on premise oder ein bisschen präziser Am ende ist jetzt on premise Der Server im Keller, nur eine Variante von dem was man digital souverän nennen kann.

00:30:42.130 --> 00:30:49.870
Speaker 1: Man kontrolliert selbst welches Software die wo stattfindet mit den eigenen Daten tun kann.

00:30:49.990 --> 00:31:00.590
Speaker 1: Digitale Souveränität in Behördenkontexten ist ein Riesenthema geworden unter anderem durch Donald Trump der plötzlich angefangen hat sagen wir mal keine sichere Bank mehr zu sein, vorsichtig gesagt.

00:31:00.710 --> 00:31:10.710
Speaker 1: Wir kommen in eine Zeit sind zum Teil schon in einer Zeit wo wenn man einen Fehler entdeckt zb die Hersteller einer Software zum Beispiel der Anbieter von einem Cloud Service.

00:31:11.130 --> 00:31:31.410
Speaker 1: Wenn der Fehler entdekt wird dann muss man eigentlich davon ausgehen dass er bereits ausgenutzt worden ist und da kann man sich gut vorstellen was für eine dramatische Veränderung das bedeutet auch für die Instrumente die man braucht um Probleme in Anführungszeichen zu beheben, um Angriffe abzuwehren oder loszuwerden.

00:31:31.910 --> 00:31:39.250
Speaker 0: Eine spannende Sache von einem Dialog den wir hatten als die Teilnehmer von Project Glasswing ein bisschen berichteten.

00:31:39.370 --> 00:31:43.250
Speaker 0: Die konnten uns nicht alles sagen weil sie unter NDA von Entroffic waren.

00:31:44.030 --> 00:31:58.810
Speaker 0: Also Project Glass Wing ist letztendlich das Projekt von Entrophic mit einer sehr ausgewählten Zahl an amerikanischen Unternehmen gewesen wo man eben dann Zugriff bekam auf dieses Produkt Mythos und konnte damit letztendlich rumspielen.

00:31:58.930 --> 00:32:19.630
Speaker 0: Und natürlich gab es entsprechende Feedback-Loops dann an die Firma, aber die Firmen haben auch selber natürlich sofort reagiert weil man eben uns berichtet wurde dass man teilweise in sehr langjährig kuratierter Software Dinge gefunden hat wo man selber gesagt hat das gibt's ja wohl nicht da diese Schwachstelle war.

00:32:20.090 --> 00:32:26.110
Speaker 0: Man hatte aber auch Also es gibt ja Software die man einsetzt, das EOL End of Life.

00:32:26.390 --> 00:32:30.190
Speaker 0: Da gibts teilweise den Hersteller nicht mehr aber nur nutzt sie immer noch.

00:32:30.410 --> 00:32:36.790
Speaker 0: also du hast eben wieder irgendwelche Maschinen genannt, die wir irgendwo rumschten, die irgendwelchen Organisationen irgendwie rumstehen haben sollen.

00:32:37.390 --> 00:32:44.510
Speaker 0: Die haben dann auch mit der KI ein Patch entwickelt und mehr oder weniger, aber die anderen waren eher etwas überrascht davon.

00:32:44.890 --> 00:32:50.510
Speaker 0: Haben dann auch gesagt okay das wird schon irgendwie gehen und haben das Ding in die Produktivumgebung ausgerollt.

00:32:51.290 --> 00:32:55.830
Speaker 0: Da haben andere gesagt ja mutig, das könnten wir nicht machen weil dann steht unsere Chemieanlage im Zweifel.

00:32:56.370 --> 00:32:59.170
Speaker 0: Es war aber in dem Fall ein größerer Player aus der Finanzindustrie.

00:32:59.250 --> 00:33:05.630
Speaker 0: Die haben das einfach mal getestet wie es läuft und in diesem Fall lief es Und vielleicht in dem Kontext auch noch sehr, sehr spannend.

00:33:05.710 --> 00:33:06.550
Speaker 0: Auch zur Einordnung.

00:33:06.950 --> 00:33:17.570
Speaker 0: Es gibt natürlich immer diese Benchmarks wie diese offensiven Plattformen performen und da muss man natürlich mal gucken was passiert bei diesem Benchmark?

00:33:17.710 --> 00:33:24.210
Speaker 0: Wie weit realisieren oder stellen diese Benchsmarks eine echte Umgebung dar?

00:33:24.350 --> 00:33:36.890
Speaker 0: Weil das wird ja durchaus diskutiert, wie aussagekräftig das ist weil dann ignoriert wird wie der Lars auch gesagt hat dass Eine Netzwerkssegmentierung ist, dass da entsprechend eine andere Cyber Security-Lösung sind.

00:33:37.150 --> 00:33:39.730
Speaker 0: Die das oder jenes verhindern?

00:33:40.050 --> 00:33:40.090
Speaker 0: Ja

00:33:40.290 --> 00:33:43.870
Speaker 2: ich denke Panik muss man jetzt auch nicht machen weil ich hatte schon Eingang gesagt... Warum

00:33:43.910 --> 00:33:43.990
Speaker 1: nicht?

00:33:44.030 --> 00:33:45.630
Speaker 1: Ich habe total gute Erfahrungen mit Panik gemacht!

00:33:46.250 --> 00:33:48.350
Speaker 1: Kannst du mich mal ein bisschen Panik machen?

00:33:48.690 --> 00:33:50.290
Speaker 1: Wir haben keine Arbeitslosengeldzahlung.

00:33:50.330 --> 00:33:51.510
Speaker 1: weiß gar nicht ob es offiziell noch so heißt.

00:33:51.610 --> 00:33:54.490
Speaker 1: sicher ja nein Fragezeichen las guckuck nimmt live stellen.

00:33:54.710 --> 00:33:56.370
Speaker 1: also ich verstehe was du mit panik meinst.

00:33:56.410 --> 00:34:04.710
Speaker 1: aber ganz kurz dazwischen gefragt ist jetzt nicht genau der Zeitpunkt wo man sagen müsste krass Wenn man irgendwann mal den Druck erhöht, das ist für mich die Übersetzung von Panik.

00:34:04.830 --> 00:34:10.889
Speaker 1: Dann wäre jetzt der Zeitpunkt dass man sagt es kommt drauf an sonst fahren wir gegen die Wand.

00:34:12.030 --> 00:34:14.429
Speaker 2: Also die Diskussion führen wir ja schon.

00:34:14.770 --> 00:34:18.429
Speaker 2: also ich habe ja vorhin eingangs schon gesagt Wir müssen die Diskussionen führen.

00:34:18.590 --> 00:34:21.409
Speaker 2: wie können wir schneller und flexibler werden?

00:34:21.530 --> 00:34:23.250
Speaker 2: gerade was im Patchmanagement ist.

00:34:23.590 --> 00:34:40.130
Speaker 2: Das erste und das zweite ist Und da ist auch die Erwartungshaltung bei uns in den Entwicklungsabteilungen durchaus schon dar, wie wir es ermöglichen können zukünftig im LLMs auch in der Entwicklung einzusetzen.

00:34:40.730 --> 00:34:44.570
Speaker 2: Natürlich kriegen wir jetzt keinen Zugriff auf Frontiermodelle.

00:34:44.909 --> 00:34:52.750
Speaker 2: Das haben wir ja jetzt gesehen dass das politisch sozusagen von heute auf morgen uns verwehrt worden ist, dass ich einen Faible Five oder was weiß ich verwenden kann.

00:34:53.250 --> 00:35:12.470
Speaker 2: aber es muss uns doch gelingen möglichst schnell für uns Modelle zu trainieren, die wir in der Entwicklung mit einsetzen können und die wie bei uns sozusagen in die Software die wir entwickeln oder auch die wir im Einsatz haben sozusagen mit unseren Daten eine bessere Qualitätssicherung hinbekommen.

00:35:12.570 --> 00:35:16.230
Speaker 1: Lass brauchen wir eine staatliche Vibe Coding KI?

00:35:17.050 --> 00:35:29.730
Speaker 2: Also wie gesagt ich finde es jetzt bei uns wir haben einen großen Entwicklungsbereich muss es uns gelingen dass wir durchaus das Potenzial derzeit da ist für uns nutzbar zu machen.

00:35:31.370 --> 00:35:35.770
Speaker 2: Heute kann ich keinen Claw oder ich kann kein Chatchi-BT einfach so einsetzen.

00:35:36.050 --> 00:35:41.110
Speaker 2: Wir haben bis heute noch nicht den Mechanismus gefunden, um das Bedenken los einzusetzen.

00:35:41.150 --> 00:35:44.710
Speaker 2: wir haben heute Risiken und ich kann nicht kontrollieren dass Datenabflüsse da sind.

00:35:45.570 --> 00:35:46.410
Speaker 2: Das ist das eine.

00:35:47.150 --> 00:35:49.750
Speaker 2: Ich kann sozusagen chatchi bt.

00:35:50.830 --> 00:35:59.810
Speaker 2: also ich kann es heute nicht für hundert vierzehntausend Mitarbeiter verfügbar machen weil wir heute die Mechanismen nicht dafür haben ohne einen sicheren Einsatz zu gewähren.

00:36:00.110 --> 00:36:01.210
Speaker 1: Wir sind da schon mitten in der KI.

00:36:01.370 --> 00:36:04.010
Speaker 1: Digitale Souveränitätsdiskussion, Alexander.

00:36:04.150 --> 00:36:05.610
Speaker 1: Was ist denn dann deine Perspektive darauf?

00:36:05.650 --> 00:36:12.210
Speaker 1: Du verfolgst ja auch zum Beispiel Open Source Modelle, Chemica III gerade ein riesen Ding in der Diskussion.

00:36:12.930 --> 00:36:15.750
Speaker 1: Wie ist denn da deine Position und was ist denn dein Eindruck?

00:36:16.890 --> 00:36:31.350
Speaker 0: Also ich sehe hier einen interessanten Trend und zwar dass durch die Exportbeschränkungen natürlich andere Nationen insbesondere China im Prinzip durch die beschränkten Ressourcen kreativ geworden ist, um die Dinge anders zu tun.

00:36:31.850 --> 00:36:33.130
Speaker 0: Und das hat diese.

00:36:33.450 --> 00:36:52.090
Speaker 0: diesen Ansatz fährt China ja schon auch in anderen Bereichen wo sie sagen ah da wollen wir nicht mehr abhängig sein Da sind wir bereit reinzu investieren im Zweifel über ein Jahrzehnt und akzeptieren dass wir neun Jahre lang richtig schlecht sind bis wir dann vielleicht gleich ebenerdig so ebenwürdig sind und dann vielleicht sogar besser als Die Welt.

00:36:52.130 --> 00:36:58.770
Speaker 0: und dann versuchen wir das sozusagen in die Märkte reinzudrücken sagen wir industriepolitische strategische Ansatz.

00:36:59.630 --> 00:37:21.570
Speaker 0: Ich sehe so ein bisschen gerade den Trend, dass durch diese Sorge von dem politischen Einsatz von technologischer Überlegenheit und diesem Thema Vertrauen digitaler und dieser digitalen Souveränitätsdebatte die aktuellen Anbieter von den Frontschirmodellen nicht das klassisch amerikanische Modell fahren können wie sie es in der Vergangenheit gemacht haben.

00:37:21.610 --> 00:37:23.190
Speaker 0: ja in der vergangenheit war das immer.

00:37:23.810 --> 00:37:29.450
Speaker 0: Wir im Westen, gerade auch in Europa arbeiten sehr gerne mit den amerikanischen Anbietern zusammen.

00:37:29.570 --> 00:37:32.890
Speaker 0: Die sind innovativ, die sind cool und so weiter und sofort.

00:37:33.370 --> 00:37:34.950
Speaker 0: Wer besucht nicht gerne das Silicon Valley?

00:37:35.810 --> 00:37:39.250
Speaker 0: Und man konnte jahrelang im Prinzip diesen Burg graben.

00:37:39.410 --> 00:37:41.230
Speaker 0: also die Investoren sagen immer Mode.

00:37:42.250 --> 00:37:51.350
Speaker 0: Den konnte man einfach aufbauen weil man dann irgendwann einen Skaleneffekt so viele Kunden hatte dass andere Marktplayer gar nicht mehr so stark dort in den Markt reinkommen.

00:37:51.390 --> 00:37:52.590
Speaker 0: Gerade europäische Anbieten.

00:37:54.330 --> 00:38:02.230
Speaker 0: Und wir sehen aber hier gerade bei dem KI-Thema, auch weil natürlich da noch so viel Dynamik ist genau wie du gesagt hast.

00:38:02.710 --> 00:38:20.710
Speaker 0: Dass sie eben vielleicht nicht mehr diesen Burggraben aufbauen können, weil die Unternehmen schon von Anfang an nicht mehr sagen Wir machen jetzt diesen KI-Lock in sondern wir versuchen im Prinzip zu sagen sowohl aus Kostensicht als auch abhängigkeitssicht.

00:38:21.170 --> 00:38:29.290
Speaker 0: Wir arbeiten mit der KI zusammen und wir können sehr schnell einfach zwischen den KI switchen, das ist so ein bisschen die Situation in der wir uns gerade befinden.

00:38:29.730 --> 00:38:40.290
Speaker 0: Das heißt eigentlich hat man natürlich durch die typologischen Entscheidungen wahrscheinlich den Anbietern ein bisschen infusgeschossen dieses typische Modell zu fahren.

00:38:40.750 --> 00:38:51.930
Speaker 0: Ich könnte mir übrigens vorstellen weil du meintest verstaatlichste KI-Modeller oder so Natürlich fördern wir oder sollten Mit dem Start als Ankerkunden, also sei es jetzt die großen Infrastrukturen.

00:38:52.030 --> 00:38:53.090
Speaker 0: Die sind natürlich essentiell.

00:38:54.090 --> 00:38:56.270
Speaker 0: Muss der Start als Ankakunde dort beteiligt sein?

00:38:56.870 --> 00:39:07.470
Speaker 0: So wie das eben andere Länder auch machen, dass wir diese großen Modelle haben damit dann entsprechend Staat und Firmen, die an die Anwendung bauen können oder dann auch betreiben können.

00:39:08.150 --> 00:39:29.950
Speaker 0: Ich könnte mir aber durchaus vorstellen, dass wenn wir wirklich mal eine echte Krise sehen, müssen sich dann wahrscheinlich auch technologische Anbieter oder Datacenter-Anbietern Deo, Clouds und wie sie alle heißen könnten sich wahrscheinlich darauf einrichten dass vielleicht der Staat dann sagt irgendwann auch ihr seid für uns kritische Infrastruktur wir müssen jetzt große Berechnung fahren ist mir jetzt gerade egal was die Wirtschaft braucht.

00:39:30.290 --> 00:39:33.830
Speaker 0: Wir brauchen jetzt diese Rechenpower um das auch immer zu machen in der Krise.

00:39:34.550 --> 00:39:40.110
Speaker 0: also ich rede hier von dem äußersten Extremszenario aber das kann der Staat ja.

00:39:42.050 --> 00:39:47.410
Speaker 0: In der Totalkrise kann das ja, dass er dann eben staatlich eingreift und Ressourcen abgreift.

00:39:47.930 --> 00:39:56.230
Speaker 0: Das ist natürlich jetzt ein bisschen Off-Topic für das Thema digitale Souveränität aber das fand ich ein spannender Gedanke.

00:39:56.290 --> 00:39:57.210
Speaker 0: den habe ich so noch nicht gehört.

00:39:57.290 --> 00:39:58.550
Speaker 0: aber da ist was dran.

00:39:59.290 --> 00:40:05.870
Speaker 1: Man könnte sagen Behörden in Deutschland Das war noch nie eine große Liebesgeschichte mit dem Thema Geschwindigkeit und Beschleunigung.

00:40:06.290 --> 00:40:12.690
Speaker 1: Sogar Digitalisierung war in vielen, natürlich nicht BA vollkommen klar, in vielen anderen Behörden nicht immer auf Rang eins.

00:40:12.750 --> 00:40:28.470
Speaker 1: Dass es übrigens bei der BA auch ganz ohne Ironie anders ist, das konnte man sehen an Andrea Nahles die nicht nur hier im Podcast war sondern die auch von Anfang an gesagt hat, okay ich werde gerne die Chefin von der BA möchte dann aber auch gleichzeitig die IT-Chefin werden was ja ... seltener Move ist, um es mal so auszudrücken.

00:40:28.530 --> 00:40:52.190
Speaker 1: Es gibt eine Untersuchung von einer großen Unternehmensberatung... ... die im Jahr year two-tausend sechsundzwanzig erfolgt ist und die rausgefunden hat,... ... dass nur zwanzig bis fünfundzwantig Prozent aller Proof of Concepts also... Beweisführung, dass man ein Projekt macht und versucht rauszufinden ob das wie man sich gedacht hat auch funktioniert.

00:40:52.550 --> 00:41:03.850
Speaker 1: Dass nur zwanzig bis fünfundzwanzig Prozent der Proof of Concepts im Bereich künstlicher Intelligenz in Publixektor, in Behörden zum Erfolg wird, in Klammern, in den Regelbetrieb überführt wird.

00:41:04.730 --> 00:41:09.410
Speaker 1: Dass das immer als NUR bezeichnet wird Lars finde ich vorsichtig gesagt erstaunlich!

00:41:09.670 --> 00:41:23.010
Speaker 1: Ich würde sagen es ist ein total realistischer eigentlich sogar erstrebenswerter Wert, dass jedes vierte Test-Szenario was man macht mit einem Proof of Concept dennoch tatsächlich in den Regelbetrieb kommt.

00:41:23.570 --> 00:41:29.810
Speaker 1: Kannst du das irgendwie bestätigen aus deiner Wahrnehmung sowohl dieses nur was ich schwierig finde wie auch die Größenordnung?

00:41:30.370 --> 00:41:33.590
Speaker 2: Also ich kenne die Studie nicht die Du jetzt angeführt hast.

00:41:34.330 --> 00:41:52.310
Speaker 2: Ich kann Dir nur sagen Wir werden ja alle involviert aus Sicht der Informationssicherheit bei den Projekten, die anlaufen und mittlerweile ist es so dass fast jedes Projekt irgendeinen Anteil zumindest gewissen Anteil davon eben auch KI enthält.

00:41:52.710 --> 00:41:55.930
Speaker 2: Es ist nach wie vor sozusagen schwierig.

00:41:56.050 --> 00:41:59.690
Speaker 2: das ist halt weil wir als Behörde natürlich auch stark reguliert sind.

00:41:59.890 --> 00:42:01.470
Speaker 2: Das muss man ganz klar sagen.

00:42:02.190 --> 00:42:09.630
Speaker 2: Auf der anderen Seite ist es so, dass natürlich es sozusagen auch die Voraussetzungen erfüllt werden müssen.

00:42:09.830 --> 00:42:31.390
Speaker 2: Also ich brauche eine entsprechende Laufzeitumgebung, das sich das überhaupt zum Laufen bringen, dass ich es integriere in meine bestehenden Prozesse und dann überhaupt in Erfolg verbuchen kann muss ich ehrlich sagen bin ich sogar erstaunt, dass es offensichtlich weiß jetzt nicht wer da alles dran teilgenommen hat an dieser studie.

00:42:31.830 --> 00:42:35.670
Speaker 2: das ist doch jedes bei jedem vierten projekt gelingt.

00:42:36.150 --> 00:42:44.390
Speaker 2: Bei uns muss ich sagen wir haben jetzt auch den luxus eine Laufzeitumgebung überhaupt haben heute, die wir nutzen können.

00:42:44.710 --> 00:42:49.530
Speaker 2: Perspektivisch werden wir das auch in der souveränen Cloud sozusagen weiter voranbringen.

00:42:50.470 --> 00:42:53.630
Speaker 2: Ich weiß jetzt aber allerdings nicht wie bei uns die konkreten Werte sind.

00:42:53.790 --> 00:43:03.090
Speaker 2: Ich kann nur sagen dass wir momentan da sehr viel auch Security-Sites unterstützen, das Thema Kailina vorne zu bringen und eben auch den Einsatz zu ermöglichen.

00:43:03.870 --> 00:43:04.770
Speaker 2: Nur mal so als Kennzeil.

00:43:04.850 --> 00:43:11.110
Speaker 2: also Ich bin mir sicher, dass es wahrscheinlich im Public Sektor derzeit die einzig großen Use Days ist.

00:43:11.150 --> 00:43:20.870
Speaker 2: Wir haben unser ganzes Internet in eine eigene Entwicklung mit einer eigenen KI hineingeschoben und den haben wir schon mittlerweile über achtzig Tausend Mitarbeitern zur Verfügung gestellt.

00:43:21.570 --> 00:43:28.950
Speaker 1: Dafür finde ich so ein Viertel der Projekte, die am Ende tatsächlich produktiv eingebaut werden in den Regelbetrieb, finde ich viel.

00:43:29.990 --> 00:43:36.970
Speaker 1: Also meine Wahrnehmung ist eher... Das ist dieses lange geforderte Fehlerkultur, ich übersetze es meistens eher so als Kultur des Ausprobierends.

00:43:37.150 --> 00:43:42.650
Speaker 1: Es klingt positiver dass das im KI Bereich relativ schnell zur Regel geworden ist.

00:43:42.730 --> 00:43:46.030
Speaker 1: Dass Leute sagen wir probieren drei Sachen aus und gucken dann was am besten funktioniert.

00:43:46.110 --> 00:43:51.530
Speaker 1: Und das ja sogar teilweise in Behörden da finde ich eigentlich ein Fortschritt.

00:43:52.230 --> 00:43:55.770
Speaker 2: Aber man muss auch ganz klar sagen, es gibt natürlich viele Vorbehalte.

00:43:55.870 --> 00:43:59.110
Speaker 2: Ich glaube das braucht immer ein sauberes Change Management dazu.

00:43:59.570 --> 00:44:07.030
Speaker 2: wenn wir jetzt in die Entwicklung gehen und du weißt vor zwei drei Jahren war das meistgesuchtes Skill der Entwickler ja?

00:44:07.610 --> 00:44:13.370
Speaker 2: Und jetzt mit der Technologie KI Co zu generieren Ist das stark zurückgegangen?

00:44:13.510 --> 00:44:20.590
Speaker 2: Wir sehen draußen im öffentlichen Markt, dass quasi gut ausgebildete Entwickler große Schwierigkeiten haben überhaupt noch einen Job zu finden.

00:44:21.150 --> 00:44:34.670
Speaker 2: Und das was ich auch feststelle es gibt natürlich schon viele ich sage mal Vorbehalte wenn wir jetzt so Richtung denken Softwareentwicklung komplett zu revolutionieren mittels KI Effizienz und so wie.

00:44:35.070 --> 00:44:35.970
Speaker 2: wir müssen das tun.

00:44:36.450 --> 00:44:42.330
Speaker 2: aber das ist natürlich auch ein Change von den ganzen Entwicklungsteams heute mit zu arbeiten.

00:44:42.990 --> 00:44:55.690
Speaker 2: Ich erlebe immer, es gibt welche die sind total neugierig wollen sozusagen morgen Klorko oder auf dem Hof haben machen vielleicht auch privat ganz viel kennen die ganzen Themen die damit zusammenhängen die ganzen Chancen und wollen.

00:44:55.730 --> 00:45:05.550
Speaker 2: das ist gibt aber auch in der kleglichen Anteil die dann halt sagen ich habe noch ein bisschen wer jetzt dadurch morgen arbeitslos und kann das verstehen.

00:45:05.830 --> 00:45:09.750
Speaker 2: ja das ist ein Thema dass Du hast recht, wir stehen am Anfang.

00:45:10.210 --> 00:45:11.830
Speaker 2: Aber es ist ja nicht mehr zum Aufhalten!

00:45:12.390 --> 00:45:14.850
Speaker 2: Wir müssen nach vorne gehen und wir müssen effizienter werden.

00:45:14.890 --> 00:45:23.050
Speaker 2: Wir müssen schneller werden weil wenn ich heute schaue von einer Idee bis zur eigentlichen Umsetzung die Zeiten sind noch viel zu lang.

00:45:23.490 --> 00:45:28.770
Speaker 2: das muss effiziente, das muss schneller gehen und von daher wird auch eine gewisse Zeit brauchen.

00:45:29.010 --> 00:45:30.610
Speaker 2: Das ist so, wir müssen die Menschen mitnehmen

00:45:31.690 --> 00:45:35.030
Speaker 1: Alexander, das ist eine nahezu perfekte Überleitung.

00:45:35.290 --> 00:45:40.650
Speaker 1: Das offenbar viele Unternehmen glauben, ach wir brauchen nicht mehr so dringend gute Software-Entwicklerinnen.

00:45:40.790 --> 00:45:42.070
Speaker 1: Wir können das jetzt irgendwie zusammen.

00:45:42.150 --> 00:45:46.230
Speaker 1: vibecoding kein Problem und dann gibt es eine Art negative and trickledown Effekt ja?

00:45:46.410 --> 00:46:03.030
Speaker 1: Das heißt wenn jemand irgendwie zwölf Jahre bei Google Code geschraubt hat, dann ist diese Person im Zweifel in anderen Unternehmen wohl gelitten eher eingestellt als jemand, der vielleicht sagen wir drei oder vier Jahre Projektmanagement bei einem deutschen Mittelständler hinter sich hat.

00:46:03.150 --> 00:46:05.370
Speaker 1: Ohne dass ich das irgendwie bewerten oder abwerten möchte.

00:46:06.170 --> 00:46:29.970
Speaker 1: und jetzt glaube ich aber, dass genau diese Perspektive Wir brauchen nicht mehr so viel High End Know-How Dass die uns auf die Füße fallen wird weil Das ist die Überleitung Weil wir in eine Situation geraten Wo neue KI Modelle Neue KI Ansätze Teilweise Dinge, die wissenschaftlich gerade erst entdeckt werden.

00:46:30.830 --> 00:46:37.210
Speaker 1: Über Nacht Alexander ein explosiv größeres Sicherheitsrisiko darstellen können.

00:46:37.350 --> 00:46:38.970
Speaker 1: Wir haben die Diskussion um Cloud Mythos mitbekommen.

00:46:39.030 --> 00:46:55.170
Speaker 1: wir haben die Diskusionen um Chatchi-BT-Fünf-Punk-Sex-Zoll mitbekommen Die Aum-Passant plötzlich etwas tun was niemand gedacht hätte das möglich ist oder über Nacht Dutzende vielleicht hunderte Sicherheitslücken in altbekannter Software finden und das Sicherheitsgame komplett auf den Kopf stellen.

00:46:55.970 --> 00:47:06.230
Speaker 0: Ja, also das ist natürlich zum einen so dass diese ITler die wir haben ja auch viele Bewerbungen als der Schwarz-Digits jetzt freigesetzt werden.

00:47:06.290 --> 00:47:10.690
Speaker 0: Das freut uns im Zweifel weil wir den ein oder die andere wirklich für uns gewinnen können.

00:47:11.670 --> 00:47:22.510
Speaker 0: ich glaube das ist auch für die Verwaltung eine riesen Chance weil IT Kompetenz braucht es natürlich weiterhin wahnsinnig viel gebraucht in allen Bereichen.

00:47:23.190 --> 00:47:27.930
Speaker 0: Dann muss vielleicht der ein oder andere Attila auch mal akzeptieren, dass er dann vielleicht nicht mehr die entsprechenden Gehälter erhält.

00:47:28.550 --> 00:47:55.590
Speaker 0: Aber nichtsdestotrotz gerade in dieser KI-Zeit ist derjenige... Also das machen ja viele und KI Unternehmen, die wollen immer diesen Forward Deployed Engineer haben weil die schon bemerkt haben, dass das KI an sich, sondern da wo ihn sich KI bewegt natürlich jemand braucht, der diese Übersetzung macht Jeder IT-Lad, der in der Lage ist eben zu kommunizieren, in Architekturen zu denken und auch ein Code.

00:47:56.070 --> 00:48:01.830
Speaker 0: Und dann denjenigen Zuhört die vielleicht die physischen Prozesse und anderen Prozisse gut kennen.

00:48:02.290 --> 00:48:05.450
Speaker 0: Wenn man sie dann zusammen als Dream Team erschafft, ja?

00:48:06.070 --> 00:48:09.650
Speaker 0: Dann können wir natürlich das volle Potenzial KI entdecken.

00:48:09.730 --> 00:48:26.350
Speaker 0: Ich vermute mal, also ich habe leider diese Studie die du zitiert hast nicht erwähnt dass gerade in der Verwaltung die KI Anwendungen wahrscheinlich in der ersten Zeit sehr häufig zu Chat-Spots waren weil das war ja auch in der Industrie sehr häufig sehr beliebt ist ja auch eine tolle Möglichkeit im Prinzip den Kundennutzen zu erhöhen.

00:48:27.230 --> 00:48:28.030
Speaker 0: Das geht ja viel weiter.

00:48:28.070 --> 00:48:34.310
Speaker 0: es ist eben so dass ja KI in so vielen Bereichen mittlerweile Vorteile bietet eben auch In der Entwicklung.

00:48:37.490 --> 00:48:45.790
Speaker 0: In der Bundesangentur für Arbeit, da waren ja ganze Etagen voller Entwickler und haben die Programme weiterentwickelt und in den Stand gehalten.

00:48:46.390 --> 00:49:01.830
Speaker 0: Und in einer Welt wo wir mit KI neue Schwachstellen finden ist es natürlich umso wichtiger dass diese IT-Ler zusammen mit den KI Möglichkeiten einfach schauen das dieses Thema einfach sicherer werden und man das weiter umsetzt.

00:49:02.050 --> 00:49:05.810
Speaker 0: also sie sind nicht unwichtiger geworden und wir dürfen auch immer eins sich vergessen.

00:49:06.490 --> 00:49:18.390
Speaker 0: Das ist total toll, wenn ich bis zum Linus Torwald im Prinzip... Also das ist ja der Linux RL Entwickler.

00:49:19.450 --> 00:49:30.410
Speaker 0: Wenn ich entsprechend dort schon diese Fähigkeiten in der Key eingebaut habe und ich dann plötzlich nur noch alte Menschen um mich habe die das nicht mehr weitermachen, das kann ja nicht die Zukunft sein.

00:49:30.530 --> 00:49:37.790
Speaker 0: also wir müssen ja ... dass wir entsprechend auch Nachwuchs haben und das brauchen wir auch in einer zukünftigen KI-Welt.

00:49:38.010 --> 00:49:45.490
Speaker 0: Was auch immer danach kommt, werden wir auch nicht entwickeln weil das wird dann die Jüngeren beschäftigen.

00:49:45.670 --> 00:49:57.270
Speaker 0: also wenn wir jetzt plötzlich so handeln, dann haben wir auch irgendwas nicht von Demografie verstanden und vielleicht auch Verantwortung im Zweifel für die gesamte Gesellschaft.

00:49:58.010 --> 00:50:00.770
Speaker 0: Und also vielleicht noch ein spannender Punkt.

00:50:01.290 --> 00:50:15.870
Speaker 0: Wir haben ja das Institut für Seibersicherheit und digitale Souveränität, machen dort auch Untersuchungen und haben auch schon im Prinzip mit Organisationen zusammengearbeitet, wo wir uns geschaut haben wie sieht die an Angriffsfläche aus?

00:50:17.050 --> 00:50:25.630
Speaker 0: Machen es eher auf vertraulicher Basis Auch mal gerne Industriesteueranlagen im Internet und viele andere Themen auch.

00:50:26.070 --> 00:50:37.050
Speaker 0: Das sind eigentlich alte Themen, genau wie die der Larschen erwähnt hat, die einfach sehr, sehr viele Organisationen daraus haben in der öffentlichen Verwaltung als auch von kommerziellen Organisationen.

00:50:37.610 --> 00:50:45.630
Speaker 0: Und die brauchen einfach diejenigen IT-ler die diese Informationen in die Tat umsetzen, um die Organisation sicher zu machen.

00:50:45.710 --> 00:50:52.210
Speaker 0: Und das ist ja eigentlich auch der Weg vieler Cybersecurity-Expertinnen und Experten über die letzten Jahrzehnte.

00:50:52.830 --> 00:51:05.410
Speaker 0: Die haben sich nicht studiert und gesagt ich mache jetzt mal Cyber Security sondern viele waren ja vielleicht mal Systemadministratoren oder haben andere Themen gemacht und sind dann da irgendwie über die Zeit hineingewachsen.

00:51:05.510 --> 00:51:14.030
Speaker 0: und es braucht eben diese sagen wir mal Das Schweizer Taschenmesser an IT-Land, derer es da draußen viele gibt.

00:51:14.090 --> 00:51:19.610
Speaker 0: Die einfach dann auch Organisationen helfen KI in die Tat umzusetzen und Sicherheit in den Tat um zu setzen.

00:51:19.690 --> 00:51:21.290
Speaker 0: Und DERA haben wir immer noch so wenig.

00:51:21.630 --> 00:51:28.670
Speaker 1: Noch mal ganz kurz referenziert auf diese Bemühungen oder zumindest diese Aufforderung das Ganze ein bisschen zu entschleunigen.

00:51:29.230 --> 00:51:34.370
Speaker 1: Da gab es wenn man genau hinschaut in der großen Debatte in den Vereinigten Staaten zwei wichtige Momente.

00:51:34.450 --> 00:51:35.590
Speaker 1: einer war Anfang Juni.

00:51:37.730 --> 00:51:45.530
Speaker 1: Er hat nämlich Anthropic gesagt, ja wir sind schon offen für eine Verlangsamung der KI-Entwicklung.

00:51:46.030 --> 00:51:56.790
Speaker 1: In dieser großen Debatte war das erste Moment von Dario Amodei von Anthropic, dass sie Anfang Juni, zwanzig, sagen Wir sollten etwas zurückhalten.

00:51:57.370 --> 00:52:01.950
Speaker 1: die Gesellschaft und auch die Wirtschaft kommen nicht richtig hinterher.

00:52:02.410 --> 00:52:08.970
Speaker 1: Auch die Forschung hat er mit ins Feld geführt, die kommen nicht wirklich hinterher bei der extremen Beschleunigung in Klammern muss man immer dazusagen.

00:52:09.450 --> 00:52:33.130
Speaker 1: es geht bei dieser Entwicklung ja nicht nur um die großen Modelle OpenAI und Anthropic sondern es geht auch darum das ist schon festgestellt worden ist zwar auch Teil dieser Debatte dass etwa chinesische Anbieter die neusten großen Sprachmodelle systematisch absaugen, was deren Daten und Fähigkeiten angeht.

00:52:33.710 --> 00:52:40.310
Speaker 1: Das ist immer wieder festgestellt worden das die Tricks entwickelt haben um rauszufinden warum sind sie denn so leistungsstark?

00:52:41.110 --> 00:52:43.450
Speaker 1: Das tarnen Sie als normale Zugriffe.

00:52:43.770 --> 00:52:48.430
Speaker 1: Die werden nach und nach halt immer dann auch enttarnt aber nicht immer und nicht überall und nicht sofort.

00:52:48.490 --> 00:52:53.390
Speaker 1: und das bedeutet wir haben im Moment eine Verzögerung von sechs bis neun Monaten.

00:52:53.430 --> 00:53:03.290
Speaker 1: Das ist die Einschätzung von Fachleuten, wo ganz neue Modelle von Anthropic und OpenAI auf den Markt kommen, die Fähigkeiten haben vor dem man richtig Angst hat kann, die teilweise als Waffen gehandelt werden?

00:53:03.330 --> 00:53:09.810
Speaker 1: Und dann haben wir sechs bis neuen Monate bis diese Eigenschaften auch im Open Source Bereich ankommen zum Beispiel über chinesische Modelle.

00:53:09.910 --> 00:53:12.010
Speaker 1: das ist ungefähr die Zeit... ...die wir haben.

00:53:12.330 --> 00:53:13.970
Speaker 1: Ja, das ist der erste große incident.

00:53:14.190 --> 00:53:16.930
Speaker 1: Anthropik hat gesagt lasst mal ein bisschen softer werden, ein bisschen langsamer.

00:53:16.990 --> 00:53:23.150
Speaker 1: und das zweite war ein offener Brief im Juli, von den zwischen über tausend Mitarbeitenden.

00:53:23.250 --> 00:53:33.010
Speaker 1: Der auch von den Mitarbeitende kam nicht von der Firma, sondern von Mitarbeitern in den großen Unternehmen, großen KI-Konzernen Google, Open AI, Anthropic und ein paar andere noch.

00:53:33.450 --> 00:53:36.530
Speaker 1: Die gesagt haben Leute wir müssen ein bisschen auf die Bremse drücken.

00:53:37.110 --> 00:53:45.350
Speaker 1: Und der wichtigste Hebel des Aufdiebremse Drückens ist einer, der in der KI Security Szene intensiv diskutiert wird.

00:53:48.210 --> 00:53:49.910
Speaker 1: Markt noch nicht richtig angekommen ist.

00:53:50.010 --> 00:53:53.970
Speaker 1: Nämlich die Frage, wann macht sich eine KI selbstständig?

00:53:54.270 --> 00:54:07.290
Speaker 1: Und was wäre das für ein Sicherheitsrisiko wenn KI plötzlich anfangen würde zu sagen oh wär eigentlich gar nicht schlecht, wenn ich auf dreihundert tausend Servern weltweit noch irgendwelche Instanzen heimlich drauf nageln könnte weil dann kann man mich nicht abschalten.

00:54:07.690 --> 00:54:10.910
Speaker 1: also ganz plump in die Zukunft gedacht

00:54:12.310 --> 00:54:15.350
Speaker 0: Diese verlangsamen Stadt findet, glaube ich nicht dran.

00:54:15.490 --> 00:54:22.430
Speaker 0: Weil das ist wirklich eine Arms Race und du sagst in der Tat... Das ist auch so ein bisschen in der Debatte bislang untergegangen.

00:54:22.490 --> 00:54:56.010
Speaker 0: es geht ja hier nicht nur um Software Schadcode sondern es gibt ja auch noch andere Berichte die in Deutschland irgendwie untergegang sind dass man führende Experten im Bereich Biochemiewaffen mit einer Karriert spielen lassen Und die KI da eher sehr Ja es wirklich wie Hell bei dem berühmten Film von Stanley Kubrick sehr total emotionslos im Prinzip etwas einen Vorschlag gemacht hat, wie man möglichst viele Menschen entsprechend infiziert und die die Motilitätsraten hochtreibt.

00:54:56.230 --> 00:55:00.230
Speaker 0: Und das wirklich effizient und unbeobachtet machen kann.

00:55:00.690 --> 00:55:09.150
Speaker 0: Man war dann doch relativ schockiert weil die Experten gesagt haben auf diese Idee mit ich weiß nicht mal ob es irgend ein Enzym war oder was auch immer da werden sie jetzt auch nicht gekommen.

00:55:10.130 --> 00:55:12.710
Speaker 0: Und hat der dann auch nochmal wieder Restriktion gemacht?

00:55:13.470 --> 00:55:21.490
Speaker 1: Dass, worauf ich so ein bisschen zielen möchte was KI angeht ist noch mal die Sicherheitsfrage im Behörden Kontext.

00:55:21.570 --> 00:55:27.010
Speaker 1: Die sich automatisch zusammen mit digitaler Souveränität stellt wenn wir immer krassere Modelle haben.

00:55:27.630 --> 00:55:34.150
Speaker 1: Vorher hatten wir war schon die Rede von Projekt Glasswing, wo also Enthropic ein privates Unternehmen sagt.

00:55:34.690 --> 00:55:42.010
Speaker 1: Hey folgende siebzehn Institutionen und folgende neunundzwanzig Unternehmen unterrichten wir in Zukunft ein bisschen früher über die Fähigkeiten unserer KI.

00:55:42.190 --> 00:55:46.470
Speaker 1: Und da ist zufälligerweise aus Deutschland jetzt nicht so richtig nachvollziehbar tragfähig.

00:55:46.570 --> 00:55:52.050
Speaker 1: Also inzwischen ist da glaube ich auch der eine oder andere Unternehmung aus Deutschland mit dabei samt der Personen dahinter.

00:55:52.110 --> 00:55:55.550
Speaker 1: aber Am Anfang war das eher nicht so, in Zukunft muss es nicht so sein.

00:55:55.950 --> 00:55:57.330
Speaker 1: Wir sehen die geopolitische Verschiebung.

00:55:57.870 --> 00:56:01.050
Speaker 1: wie gehen wir als Land und auch aus Behördensicht laus?

00:56:01.250 --> 00:56:05.250
Speaker 1: Wie gehen wir damit um dass dort draußen inzwischen ein Takt

00:56:05.530 --> 00:56:06.070
Speaker 2: herrscht

00:56:06.630 --> 00:56:20.250
Speaker 1: an Sicherheits ich würde nicht sagen Horror aber an sicherheits bedeutenden KI Gefahren der in einer klassischen Behördensicht eigentlich kaum mehr bewältigbar ist.

00:56:20.430 --> 00:56:27.410
Speaker 1: Wie gehen wir damit um, dass nächsten Dienstag eine KI erscheinen kann die plötzlich Verschlüsselung X wie immer noch angewendet wird?

00:56:28.110 --> 00:56:37.310
Speaker 1: oder sagen wir mal Umgebung Y die wichtigste Umgebungen der Behörde Z ist das sie plötzlich nicht mehr sicher sind durch KI?

00:56:38.050 --> 00:56:40.890
Speaker 2: Also ich würde erst mal sagen wir haben ja heute unser ganz.

00:56:41.450 --> 00:56:42.210
Speaker 2: Also es kommt drauf an.

00:56:42.510 --> 00:56:54.290
Speaker 2: Wenn ich jetzt natürlich von draußen, wenn du die Gefahr anspielst dass von draußen KI gegen unseres Systeme läuft ganz im klassischen Fall dann ist das denke ich ein Thema.

00:56:55.090 --> 00:56:59.430
Speaker 2: Ich muss es natürlich irgendwie identifizieren können Das ist völlig klar.

00:57:00.670 --> 00:57:07.510
Speaker 2: und dann läuft zu mich Wenn ich es mitbekommen, im besten Fall natürlich über die klassischen Themen der Internet-Response.

00:57:07.910 --> 00:57:14.410
Speaker 2: Ich sage mal heute ist es bei uns ja so dass wir natürlich sehr reguliert sind.

00:57:14.550 --> 00:57:22.090
Speaker 2: Wir haben heute die KI, die wir im Einsatz haben Die haben wir vorher uns genau angeschaut, die läuft unter unseren Regeln.

00:57:22.970 --> 00:57:25.790
Speaker 2: Das ist noch sehr überschaubar das muss man ganz klar sagen.

00:57:26.290 --> 00:57:32.910
Speaker 2: wenn du natürlich die Bedrohung von außen her ansiehst die natürlich auf die BA ein brasseln können.

00:57:33.750 --> 00:57:41.830
Speaker 2: Dann ist es natürlich so, dass das aus meinen unseren Standardprozessen läuft ja, dass wir es identifizieren.

00:57:41.910 --> 00:57:46.570
Speaker 2: hoffentlich wenn man's nicht identifiziert dann ist es schon ein größeres Thema.

00:57:46.670 --> 00:57:50.610
Speaker 2: Wir haben aber eine ganze Menge an Partnern mit dem wir uns natürlich auch austauschen.

00:57:50.650 --> 00:57:53.830
Speaker 2: von denen war Natürlich auch Informationen kreben.

00:57:54.130 --> 00:58:06.470
Speaker 2: und ein Thema was ich noch nie angesprochen habe Was mir trotzdem sehr wichtig ist ist das Thema dazu hinkommen, unsere Infrastruktur und so Prozesse suchresilient zu haben.

00:58:06.930 --> 00:58:21.650
Speaker 2: Das sozusagen wenn dieser dieses Szenario eintritt dass wir Am Endeffekt das Thema KI, KI Ausfälle aus Fälle von Modellen oder im Identifizieren von Sicherheitslücken in unsere Notfallpläne mit überführt ist.

00:58:21.970 --> 00:58:29.050
Speaker 2: Und dass wir dieses Szenarien sozusagen mitdenken und eben dann auch zukünftig mit mit verproben.

00:58:30.270 --> 00:58:31.070
Speaker 2: Das ist eigentlich so.

00:58:31.150 --> 00:58:36.850
Speaker 2: das Thema aber Und das ist wirklich der Punkt, wo ich jetzt mit Kollegen auch dran bin.

00:58:36.930 --> 00:58:40.870
Speaker 2: Wie können wir insgesamt eine Resilienzstrategie weiter nach vorne treiben?

00:58:41.250 --> 00:58:44.290
Speaker 2: Dass wird die Szenarien KI... Das ist ein Ausfall!

00:58:44.630 --> 00:59:04.970
Speaker 2: Ich habe beispielsweise KI-Modelle in meine Geschäftsprozesse etabliert, die morgen ausgeschaltet werden meinetwegen aus geopolitischer Aspekte heraus oder eben dass es morgen komplette Schwachstellen so auftreten, das ich nicht mehr hinterher komme und vielleicht drüber nachdenken muss.

00:59:05.330 --> 00:59:23.990
Speaker 2: Dass sich Service abschalten muss weil sie nach Ex nach Außen hin exponiert sind Und derzeit das Risiko so groß ist, dass ich irgendwelchen Kundinnen nicht mehr zur Verfügung stellen kann Das sind Szenarien die muss man in einer Resilienz Strategie letztendlich mit aufnehmen letztendlich eben auch nicht überrascht zu sein.

00:59:24.070 --> 00:59:26.770
Speaker 2: Das wären jetzt so die Themen, die mir da spontan dazu einfallen?

00:59:27.290 --> 00:59:46.410
Speaker 1: Ich möchte einen Abschluss finden mit einer kleinen Vision wo ich euch bitten würde mal ganz fantasievoll und zukünftig und voller Begeisterung unter IT Security unüblicher Missachtung aller eventuellen Sicherheitsthemen die ihr damit schwingt möchte ich die Frage stellen bzw.

00:59:46.810 --> 00:59:59.870
Speaker 1: die Einleitung finden für unseren visionären Abschluss, dass man ein Staat ja als eine Art demokratisiertes und demokratisierendes Betriebssystem für eine Gesellschaft betrachten kann.

01:00:00.910 --> 01:00:14.570
Speaker 1: Und das wir sehen in den letzten Monaten deutlich geworden eigentlich in den Letzten zwei drei vier Jahren deutlich geworden dass KI Betriebssysteme nach und nach beeinflusst, teilweise überschreibt.

01:00:14.730 --> 01:00:20.790
Speaker 1: Teilweise umgeht oder eben irgendwann zu einer Art eigenem Betrieb system werden könnte?

01:00:21.590 --> 01:00:30.509
Speaker 1: Wann haben wir einen Staat der seine Behörden mit eine Art KI-Betrieb System versieht?

01:00:31.230 --> 01:00:35.450
Speaker 1: und wäre das A überhaupt sicherbar und B wünschenswert?

01:00:35.930 --> 01:00:37.590
Speaker 1: geht da mal ruhig ganz offen

01:00:38.390 --> 01:00:48.170
Speaker 0: Der Staat an sich braucht aus meiner Sicht in Deutschland gar nicht unbedingt ein KI-Betriebssystem, sondern er muss die Mittel, die er hat – die Bordmittel, die teilweise schon seit über fünfzehn Jahren existieren.

01:00:48.670 --> 01:00:50.410
Speaker 0: Zum Beispiel mit dem neuen Personalausweis.

01:00:51.110 --> 01:01:09.150
Speaker 0: Er muss hier einfach nur nutzen und gerade auf kommunaler Ebene wo wir glaube ich am ehesten Staat erleben das mußt es noch stärker durchdringen ja dass wird dort immer mehr digitale Prozesse abbilden zusätzlich uns immer wieder die Frage stellen.

01:01:09.210 --> 01:01:22.009
Speaker 0: Das passiert nicht so wenig, dass man sich zum einen sagt okay das was wir da getan haben die letzten dreißig Jahre oder weil es in irgendeiner Regulatorik stand müssen wir das überhaupt noch tun?

01:01:22.250 --> 01:01:24.830
Speaker 0: Brauche ich überhaupt noch das Formular den Antrag?

01:01:24.890 --> 01:01:25.110
Speaker 0: sonst?

01:01:25.150 --> 01:01:38.330
Speaker 0: wie ist der Staat mittlerweile so wissen zb durch die KI dass ich sagen kann der Sascha kriegt automatisch dies und jedes und welches also ähnlich wie wir das jetzt ja gerade bei dem Kindergeld gehört haben auf der politischen Ebene.

01:01:38.650 --> 01:01:46.490
Speaker 0: Es gibt aber ja noch viele, viele kleinere Beispiele und andersherum sehen wir auch das gerade auf staatlicher Ebene.

01:01:46.970 --> 01:02:05.690
Speaker 0: man ja teilweise wenn man Digitalisierung gesagt hat man in der Realität gesehen hat dass einfach physische Prozesse einfach digital stumpf abgebildet wurden weil man irgendwie sich unsicher war weil am Ende des Tages herrscht im Zweifel hat man Angst vor dem Haus Juristen der dann sagt Kannst du machen oder nicht?

01:02:06.310 --> 01:02:08.410
Speaker 0: Und ich glaube, da ist es einfach wichtig zu sagen.

01:02:09.210 --> 01:02:10.250
Speaker 0: Was können wir da schon machen?

01:02:10.430 --> 01:02:25.390
Speaker 0: Ansonsten gehe ich schwer davon aus dass der Staat sicherlich mit Verzögerung und je nach Geschäftsbereich von Sicherheitsbehörden über Behörden wie die BA KI sehr unterschiedlich einanwenden wird.

01:02:25.710 --> 01:02:34.310
Speaker 0: Er wird das anwenden so wie wir auch völlig unscheinbar und unspektakulär, wenn vielleicht kleinere Dinge entwickelt werden durch Vibecoding

01:02:34.350 --> 01:02:34.550
Speaker 0: usw.,

01:02:34.830 --> 01:02:35.730
Speaker 0: was wir besprochen haben.

01:02:36.810 --> 01:02:46.770
Speaker 0: Er wird es einsetzen in Security-Lösungen um effizienter zu sein, um sozusagen den Realitäten der neuen KI Bedrohungen herzuwerden.

01:02:47.370 --> 01:02:59.330
Speaker 0: Und dann kommt vielleicht das größere die größere Version wo der Staat wirklich agentisch wird und irgendwelche ganz neuen Modelle für die Bürger macht oder die staatlichen Prozesse ganz neu denkt.

01:02:59.390 --> 01:03:10.390
Speaker 0: Das sehe ich eher so in der Zukunft, aber es gibt viele völlig unkuhle und spektakuläre Einsätze von KI geben wo keiner richtig drüber... das wird genau wie du sagst.

01:03:10.490 --> 01:03:11.170
Speaker 0: Wie hast du das gesagt?

01:03:11.310 --> 01:03:16.010
Speaker 0: Ich gehe ja nicht mehr ins Büro und sage ich jetzt hafte es halt sondern es verselbstständigt sich.

01:03:16.130 --> 01:03:18.710
Speaker 0: also ich glaube diese Verselbständigung hat schon stattgefunden.

01:03:18.750 --> 01:03:23.050
Speaker 0: die Musik wird langsam lauter Aber sie spielt noch, das große Orchester hören wir noch nicht.

01:03:23.150 --> 01:03:23.250
Speaker 0: Ich

01:03:23.290 --> 01:03:31.930
Speaker 1: möchte natürlich bei dem Staat als KI-Betriebssystem Behörden nicht zu schnell werden damit es nicht plötzlich in eine sehr merkwürdige antidemokratische Ecke rutscht.

01:03:31.990 --> 01:03:37.710
Speaker 1: Aber Lars, siehst du aus der Innensicht wie nah können wir denn sinnvoll rankommen?

01:03:37.750 --> 01:03:51.490
Speaker 1: Machen das vielleicht ein bisschen kleiner als den ganzen Staat an eine Behörde die ein eigenes KI Betriebsystem hat und deswegen im Zweifel viel mehr Bürgerinnen, viel schneller, viel besser Gericht werden könnte.

01:03:52.190 --> 01:04:00.370
Speaker 2: Ich würde es nicht als Betriebssystem bezeichnen weil das können wir irgendwie assoziieren wie wir bauen jetzt im Vertriebsystem so ich wird's eher als Ökosystemen bezeichnend.

01:04:00.850 --> 01:04:14.290
Speaker 2: Ich glaube schon dass in den nächsten Jahren ein KI-Ökosistem bei uns speziell haben werden was uns deutlich mehr Automatisierung in den Prozessen ermöglichen wird.

01:04:14.710 --> 01:04:18.410
Speaker 2: Und die Erwartungshaltung der Bürgerinnen und Bürgern, ist ja durchaus da!

01:04:19.750 --> 01:04:27.150
Speaker 2: Ich sehe in den ganzen Projekten das oft... Du hattest jetzt einen elektronischen Personaler-Seil, das ist ein gutes Beispiel dafür.

01:04:28.290 --> 01:04:46.590
Speaker 2: das Security Mechanismen, gerade wenn es um Identifizierung oder sowas geht auch im Kontext der neuen EU Wallet die übrigens in die richtige Richtung geht und auch die Mechanismin hoffentlich zukünftig ganz normal machen wird dass Bürgerinnen und Bürger auf ihrem Handy in der Wallet alles dabei haben.

01:04:46.710 --> 01:04:56.350
Speaker 2: Und damit mal die Möglichkeit haben sich überall auch ganz einfach zu identifizieren denn das ist mir nicht so einfach für uns noch mal eine gute Beschleunigung geben würde.

01:04:56.410 --> 01:05:04.450
Speaker 2: Ich muss aber immer wieder sagen, dass ich in den Projekten feststelle das da dann die Medienbrüche kommen stand heute.

01:05:05.110 --> 01:05:08.970
Speaker 2: Aber ich bin davon überzeugt, dass wir in den nächsten Jahren und das wird mit Sicherheit.

01:05:09.490 --> 01:05:14.090
Speaker 2: Wenn ich jetzt mal eine Jahreszeit sagen soll bis zwanzig dreißig könnte ich mir das durchaus vorstellen?

01:05:14.390 --> 01:05:33.230
Speaker 2: Dass wir deutlich mehr KI-Agenten im Einsatz haben oder ganz andere Automatisierung haben und dann eben auch endlich Technologie haben Prozesse wirklich deutlich besser zu verschlanken und vor allen Dingen, so wie du es auch gesagt hast nicht einfach irgendwie nachbauen und entwickeln.

01:05:33.350 --> 01:05:39.330
Speaker 2: So wie sie heute sind sondern eben auch komplett anders denken und damit deutlich mehr Effizienzen gewinnen.

01:05:39.390 --> 01:05:54.510
Speaker 2: also davon bin ich schon überzeugt und es wird eher ein Ökosystem sein was vor allen dingen agnostisch ist was austauschbar ist wo wir versuchen die Abhängigkeiten so gering als möglich zu haben Und wobei eben, wie ich es vorhin schon gesagt habe.

01:05:54.950 --> 01:06:10.110
Speaker 2: Eben auch das in eine Resilienz überführen dass wir wenn ein wie auch immer geeigneter Notfall eintritt oder was auch immer sozusagen eine trainierte Organisation haben die damit umgehen kann.

01:06:10.610 --> 01:06:11.990
Speaker 2: also davon bin ich schon überzeugt.

01:06:12.430 --> 01:06:17.210
Speaker 1: Jetzt ganz als Abschluss wollte ich euch gerne mit kurzen Sätzen das Schlusswort geben.

01:06:17.650 --> 01:06:20.670
Speaker 1: würde wollen würde Was glaubt ihr?

01:06:21.410 --> 01:06:22.290
Speaker 1: Das KI-Amt.

01:06:22.690 --> 01:06:27.170
Speaker 1: Das KI Amt der Zukunft, die Behörde, die KI sicher und effizient einsetzt?

01:06:27.690 --> 01:06:31.790
Speaker 1: Was wären die drei wichtigsten Schritte in diese Richtung?

01:06:32.150 --> 01:06:35.170
Speaker 0: Ja was gehört zu dem ITamt?

01:06:35.850 --> 01:06:54.110
Speaker 0: Die richtige Führung das richtige Mindset eben die Dinge anders zu tun als man in der Vergangenheit gemacht hat und nicht zu sagen die und die Regulatorik verhindert das, sondern die Chancen zu sehen und gemeinsam mit anderen zusammen zu überlegen wie man das macht.

01:06:54.770 --> 01:07:15.090
Speaker 0: Das Schöne ist dass wir auch zwischen Bundländern und Kommunen über die letzten zwanzig Jahre wahnsinnig weit gekommen sind, dass man eben nicht mehr Insel-Lösungen denkt, sondern eben sowas wie GAFTEC und viele andere Initiativen nutzt um gemeinsam vielleicht ein zwei konkurrierende Lösungs haben, die man dann nutzen kann so dass man sehr effizient vorgeht.

01:07:15.490 --> 01:07:17.410
Speaker 0: also Führung ist ganz wichtig.

01:07:17.990 --> 01:07:28.290
Speaker 0: Der zweite Punkt, dass man agil bleibt und sowohl agile bleibt was die Infrastrukturen angeht als auch die Software-Lösungen selber.

01:07:28.430 --> 01:07:36.050
Speaker 0: also dieser Lock in effect bei KI wäre fatal und wir müssen hier auch geopolitisch denken.

01:07:36.670 --> 01:07:40.550
Speaker 0: es kann gut sein das die KI die ich heute nutze morgen nicht mehr zur Verfügung steht.

01:07:41.090 --> 01:07:47.930
Speaker 0: und das dritte punkt ist natürlich Trotz aller Agilität, auch die seine Hausaufgaben macht.

01:07:48.250 --> 01:08:08.090
Speaker 0: Die Hausaufгaben, die DBA natürlich in einer Dimension macht wie sie leider andere sich nicht leisten können als Organisationen auf dem KI-Amt oder in den KIämtern dieser Republik und auch an einem Professionalitätslevel seit Jahren, seit Jahrzehnten ja, wie man es für andere wünschen würde.

01:08:08.570 --> 01:08:12.870
Speaker 0: Nichtsdestotrotz ist Cybersecurity kein Hexenwerk.

01:08:13.470 --> 01:08:24.010
Speaker 0: Man kann heutzutage auch mit den neuen KI-Bedrohungen seine Hausaufgaben entsprechend machen, um einen im Prinzip einen sicheren KI-Einsatz zu gewährleisten.

01:08:24.170 --> 01:08:41.529
Speaker 0: Aber auch die Sicherheit der Bürgerdaten zu gewähre leisten und auch allgemein die Sicherheit des staatlichen Infrastruktur zu gewahre leisten, um im Zweifel a Resilienz zu sein und aber einfach diesen Staat immer am Laufen zu halten egal in welcher Situation wir uns befinden.

01:08:41.729 --> 01:08:49.029
Speaker 2: Also ich denke auch wichtig ist auf jeden Fall, dass sich es mit einer entsprechenden Governance einführen.

01:08:49.069 --> 01:08:51.790
Speaker 2: Ich muss es kontrolliert einführen und ich muss es mitdenken.

01:08:52.189 --> 01:08:59.630
Speaker 2: Es ist heute aus meiner Sicht das oberste Gebot genauso wie Sicherheit oder KI geht nur mit Sicherheit.

01:08:59.809 --> 01:09:01.450
Speaker 2: Das ist so, das ist gleichwertig!

01:09:01.910 --> 01:09:15.729
Speaker 2: Das ist, denke ich, das das obersche Thema, das zweite ist was ich jetzt eben schon gesagt habe für mich zumindest das Thema in die Notfallpläne mit aufzunehmen, es in eine Resilienz mit zu überführen.

01:09:15.830 --> 01:09:22.870
Speaker 2: In einer Resilience-Strategie regelmäßig sozusagen auch mit entsprechenden Szenarien mit zu hinterlegen.

01:09:23.069 --> 01:09:27.250
Speaker 2: Was ist wenn eben bestimmte Modelle nicht mehr verfügbar sind?

01:09:27.350 --> 01:09:33.970
Speaker 2: Also das heißt wie schaffe ich, wie gelingt's mir eine Landschaft zu haben, die ihm agnostisch ist.

01:09:34.450 --> 01:09:38.149
Speaker 2: Die Austauschbar ist sie sich nicht abhängig macht von bestimmten Modellen?

01:09:38.510 --> 01:09:43.410
Speaker 2: denn wir haben ja jetzt in den ganzen letzten Minuten diskutiert wie hoch die Geschwindigkeit ist.

01:09:43.729 --> 01:09:52.010
Speaker 2: ich baue heute Modelle ein und vielleicht sind Sie in vier Wochen wieder obsolet und wir sehen wir überholen uns links und rechts kaum hinterher.

01:09:52.470 --> 01:09:53.290
Speaker 2: das wäre so für mich.

01:09:53.630 --> 01:09:56.490
Speaker 2: der zweite Punkt Ja, der dritte Punkt.

01:09:56.850 --> 01:09:58.830
Speaker 2: im Prinzip hat das Alex auch schon gesagt.

01:09:58.890 --> 01:10:07.309
Speaker 2: Ich denke Führung ist auf jeden Fall wichtig und ist dabei obligatorisch das Thema sozusagen ganz oben zu verankern und das eben auch mitzubekleiden.

01:10:07.590 --> 01:10:12.390
Speaker 2: Das sind so die Themen, die mir eigentlich sehr spontan jetzt auch einfallen.

01:10:12.990 --> 01:10:18.330
Speaker 1: Lieber Alexander, lieber Lars vielen Dank dass ihr da war und diskutiert habt mitgesprochen.

01:10:18.550 --> 01:10:31.510
Speaker 1: Habt mit diesen vielen vielen sehr wichtigen wie ich finde Entwicklungen die genau jetzt passieren Wie kann dieses Land gerade auf Behördenseite fit werden für die Zukunft was Effizienz angeht vor allem auch was Sicherheit angeht?

01:10:31.570 --> 01:10:39.070
Speaker 1: Wie hat man das Gefühl vielleicht irgendwann dass man in Deutschland auch behördenseitig im einundzwanzigsten Jahrhundert lebt leben wird?

01:10:39.150 --> 01:10:41.750
Speaker 1: vielen dank euch, dass ihr da wart.

01:10:42.150 --> 01:10:52.030
Speaker 1: Vielen Dank auch an die Zuhörenden wenn ihr mit uns diskutieren möchtet über das KI-Amt über künstliche Intelligenz was Behörden angeht über die Sicherheitssituation?

01:10:52.110 --> 01:10:52.610
Speaker 1: ja ohnehin.

01:10:52.650 --> 01:11:04.390
Speaker 1: dann könnt ihr das gerne tun auf den verschiedenen Plattformen auf denen wir Social Media Account unterhalten von TechKI und Schmetterlinge nämlich vor allem linked in Instagram TikTok und YouTube.

01:11:04.450 --> 01:11:07.850
Speaker 1: vielen dank fürs zuhören und bis zum nächsten mal.