WEBVTT

00:00:05.180 --> 00:00:09.640
Speaker 2: In der heutigen Folge beleuchten wir die akuten Gefahren agentischer KI-Systeme.

00:00:10.040 --> 00:00:13.300
Speaker 2: Wir analysieren, warum raffinierte Prompt Injections

00:00:13.980 --> 00:00:14.120
Speaker 1: und

00:00:14.340 --> 00:00:21.860
Speaker 2: automatisierte Fishing Mails herkömmliche Schutzvorkehrungen mühlos überwinden, sobald Agenten eigenständig im Web handeln.

00:00:22.820 --> 00:00:31.620
Speaker 2: Mein Gast zeigt aber auch konkrete Möglichkeiten auf mit denen Unternehmen ihre Systeme absichern und die Hoheit über ihre Prozesse behalten.

00:00:40.900 --> 00:00:42.860
Speaker 2: Und herzlich willkommen bei CXTalks!

00:00:43.240 --> 00:00:47.340
Speaker 2: Mein Name ist Peter Perner und ich freue mich sehr, dass du heute wieder eingeschaltet

00:00:47.400 --> 00:00:47.600
Speaker 1: hast.

00:00:49.940 --> 00:00:58.940
Speaker 2: Wenn wir ehrlich sind erleben wir derzeit in vielen Unternehmen eine gefährliche Mischung aus grenzenloser KI-Euforie und kollektiven Kontrollverlust.

00:00:59.160 --> 00:01:10.920
Speaker 2: Überall experimentieren Teams mit autonomen Agenten verbinden Schnittstellen auf eigene Fausts und wiegen sich in der bequemen Illusion das am Ende ja immer noch ein Mensch über das Ergebnis schaut.

00:01:12.260 --> 00:01:21.660
Speaker 2: Doch seien wir realistisch, wer hundert automatisierte Vorgänge am Tag auf den Tisch bekommt prüft nichts mehr im Detail sondern winkt die Ergebnisse einfach durch.

00:01:23.300 --> 00:01:29.180
Speaker 2: Genau hier beginnt das Risiko wenn KI-Modelle sich an selbst generierten Webinhalten vergiften.

00:01:29.980 --> 00:01:34.480
Speaker 2: Fishing Angriffe in Sekundenbruchteilen durchschlagen und Mitarbeiter

00:01:34.580 --> 00:01:35.320
Speaker 1: ihre kritische

00:01:35.420 --> 00:01:41.220
Speaker 2: Urteilskraft an die Maschine abtreten steht weit mehr auf dem Spiel als nur Datensicherheit.

00:01:42.220 --> 00:01:49.080
Speaker 2: Es geht um die Glaubwürdigkeit unserer Touchpoints und den Schutz der Kundenbeziehung vor unberechenbaren Halluzinationen.

00:01:49.720 --> 00:01:56.720
Speaker 2: Das Thema treibt mich schon länger um, ausgelöst durch eine Ausgabe des wirklich lesenswerten Newsletters meines heutigen Gastes Roger Basler

00:01:56.780 --> 00:01:57.620
Speaker 1: de Roca –

00:01:57.820 --> 00:02:04.220
Speaker 2: der sich genau mit diesem Thema beschäftigte war mir klar ich muss mit Roger die nächste Folge auf CXTalks machen!

00:02:05.160 --> 00:02:12.820
Speaker 2: Wir haben uns in der Corona-Zeit über LinkedIn kennengelernt und bereits zwanzig, zweiundzwanzig einen Podcast zu Businessmodellen in den Social Media gemacht.

00:02:13.780 --> 00:02:25.700
Speaker 2: Roger ist Unternehmer, Dozent, Buchautor und Experte für digitale Geschäftsmodelle – er versteht es auf ganz besondere Weise, komplizierte Dinge anschaulich zu erklären!

00:02:26.400 --> 00:02:28.780
Speaker 2: Und das ist ihm auch diesmal sehr gut gelungen.

00:02:46.920 --> 00:02:53.220
Speaker 1: Lieber Roger, ich lese ja seit relativ langer Zeit deinen Newsletter.

00:02:53.280 --> 00:03:00.860
Speaker 1: Ich finde den Spannen und den Inhaltsreich und ich bilde mich persönlich da massiv tatsächlich auch im Bereich KI weiter.

00:03:02.660 --> 00:03:04.980
Speaker 1: Wo ist eigentlich dein fachlicher Hintergrund?

00:03:05.040 --> 00:03:06.560
Speaker 1: Warum beschäftigst du dich mit diesem Thema?

00:03:06.600 --> 00:03:08.960
Speaker 1: Und warum kannst du so einen guten Newsletter schreiben?

00:03:09.740 --> 00:03:12.080
Speaker 0: Es ist super lieb, dass du das so sagst.

00:03:12.500 --> 00:03:16.500
Speaker 0: Das ist bei mir wirklich auch wenn ich KI dazu nutze immer noch eine Tagesaufgabe.

00:03:17.220 --> 00:03:21.040
Speaker 0: Ich hatte als Kind lange eine Lese und Schreibschwäche, habe ich immer noch so ein bisschen.

00:03:21.120 --> 00:03:22.840
Speaker 0: Aber ich hatte Freude am Lernen.

00:03:23.480 --> 00:03:31.520
Speaker 0: Und das heißt, ich muss mir eine Strategie entwickeln wie ich die Information verarbeite, wie ich das aufnehme auch wenn ich nicht immer alles richtig sehe und irgendwie verstehe.

00:03:33.140 --> 00:03:41.400
Speaker 0: Wenn ich mir Gedanken mache wie ich so einen Produkt nach außen bringe dann überlege ich mich immer von wegen was sind so Dinge, die ich mir gerne merken würde?

00:03:42.060 --> 00:03:53.260
Speaker 0: An diesen merkwürdigen Dingen baue ich nachher das entsprechende Peace auf Und das ist oftmals, sind das Inputs wo ich sehe irgendwie die Welt besteht aus gewissen Mustern.

00:03:53.320 --> 00:03:57.540
Speaker 0: Da kommen gewisse Dinge zusammen und dann bin ich ganz old school.

00:03:57.640 --> 00:03:58.720
Speaker 0: Ich bin Post-it Fan!

00:03:59.240 --> 00:04:06.140
Speaker 0: Ich schreibe mir wirklich die Gedanken erst auf mach dann so einen roten Faden und dann diktiere ich mit der KI wo ich dahin möchte.

00:04:08.320 --> 00:04:08.640
Speaker 1: Was mehr?

00:04:09.340 --> 00:04:13.600
Speaker 1: aufgefallen ist es tatsächlich am anfang war das alles super positiv das war alles spannend.

00:04:13.700 --> 00:04:17.459
Speaker 1: ich meine dass geht einem selber ja auch so war alle super positiv und in letzter zeit.

00:04:18.919 --> 00:04:27.840
Speaker 1: finde ich zumindest ist es bei mir so angekommen ist ein ton kritischer geworden was mir eigentlich gut gefällt, wann ist denn bei dir so?

00:04:27.919 --> 00:04:41.080
Speaker 1: der punkt gekommen wurde gesagt hast jetzt geht's nicht mehr nur darum was alles fancy und was alles neuen was alles schick ist sondern man muss sich schon auch Gedanken machen über dieses sicherheitsrisiko was mit so einer neuen Technologie einhergeht?

00:04:41.900 --> 00:04:42.280
Speaker 0: Absolut.

00:04:42.739 --> 00:04:47.059
Speaker 0: Schau, ich bin immer noch Enthusiast also ich bin riesiger Nerd- und Technologiefan.

00:04:47.359 --> 00:04:56.799
Speaker 0: Ich würde mich auch als enthousiastischen Kritiker bezeichnen aus einem einfachen Grund es ging mir nicht mal jetzt um die ganzen Geschichten jetzt mit den ganzen Hackangriffen.

00:04:56.859 --> 00:05:04.520
Speaker 0: Es gingen ja schon zwei Schritte vor um das Thema Denken und dass die Leute aufhören kritisch vor, mit oder nachzudenken.

00:05:05.200 --> 00:05:11.659
Speaker 0: Und das habe ich festgestellt aufgrund dessen, dass ich im zahlreichen Unternehmen unterwegs bin und gemerkt habe es die Leute einfach diese.

00:05:12.659 --> 00:05:20.900
Speaker 0: Tools blind genutzt haben den gleichzeitig aber auch die ganzen Firmen niemals und ich redest von den Herstellern dieser langes Lenguage Modelle und Programme dahinter.

00:05:21.299 --> 00:05:23.200
Speaker 0: Niemals wirklich die Verantwortung übernommen haben.

00:05:23.359 --> 00:05:34.119
Speaker 0: und Sam Altmann und da haben so zwei drei Dinge fallen lassen in Kongressen wo ich auch live dabei war wie gesagt habe Jungs, geht es euch wirklich da ums Wohl der Menschheit?

00:05:34.239 --> 00:05:36.979
Speaker 0: oder habt ihr da vielleicht noch eine andere Agenda?

00:05:37.080 --> 00:05:39.460
Speaker 0: Und dann habe ich so ein bisschen genauer hingeschaut auch bei gewissen Dingen.

00:05:40.219 --> 00:05:45.700
Speaker 0: Ich glaube immer noch dass wir eine sehr gute Chance haben das KI positiv eingesetzt werden kann.

00:05:45.780 --> 00:05:48.260
Speaker 0: Wir haben sehr gut Ideen-Initiative in Europa.

00:05:48.880 --> 00:05:54.239
Speaker 0: Wir sind sehr viele tolle Menschen die sich tagtäglich engagieren für eine sinnvolle nachhaltige Nutzung.

00:05:54.320 --> 00:06:02.880
Speaker 0: aber wir haben halt leider an der Spitze zumindest einen sehr Gefährliche Entwicklungen, die sagten wegen bitte reguliert uns.

00:06:02.979 --> 00:06:03.979
Speaker 0: Wir wissen wir sind

00:06:04.039 --> 00:06:04.299
Speaker 0: böse.".

00:06:06.880 --> 00:06:11.640
Speaker 1: Dann glaube ich es ist doch Zeit das mal konkret auch zeitlich nachzuvollziehen.

00:06:12.599 --> 00:06:22.940
Speaker 1: Wenn wir jetzt mal so zwei drei Jahre zurückschauen dann saßen wir alle begeistert vor irgendeinem Chatfenster und haben dann im Nachhinein noch drüber philosophiert wie man prompt am besten schreibt.

00:06:24.200 --> 00:06:26.099
Speaker 1: Das Thema ist eigentlich mehr oder weniger durch.

00:06:26.200 --> 00:06:36.859
Speaker 1: heute reden wir über autonome Multiagentensysteme, die uns in Zahl für sogar das Prompting übernehmen und alles geht eigentlich nochmal deutlich schneller.

00:06:38.320 --> 00:06:38.539
Speaker 1: Wann?

00:06:39.520 --> 00:06:48.080
Speaker 1: Und warum ist die Entwicklung von KI von so einer gefühlt linearen zu einer gefühl exponentiellen Entwicklung gekippt?

00:06:50.340 --> 00:06:59.900
Speaker 0: Man kann ja zumindest was jetzt laut Language Modelle angeht eine sehr gute Analogie machen zu unserem Schulsystem respektive wie junge Menschen etwas lernen.

00:07:01.380 --> 00:07:04.359
Speaker 0: der erste große Schritt, den man ja macht ist.

00:07:04.460 --> 00:07:15.580
Speaker 0: Man versucht gewisse Wörter in eine gewisse Logik zu bringen und dann später kommt noch so dieses Thema Mathematik dazu und plötzlich sind Wörte und Zahlen Teil der Kommunikation.

00:07:16.440 --> 00:07:23.500
Speaker 0: Das ist anfangs sehr, sehr spannend, macht große Schritte aber im großen Ganzen wirkt man nicht sehr schlau.

00:07:24.539 --> 00:07:37.219
Speaker 0: Plötzlich dann aber so vielleicht ab fünfter, sechster siebter Klasse macht irgendwie Klick und man versteht da draußen okay Ich kann ja kombinieren, ich sehe jetzt was da ist und plötzlich macht man diese Sprünge in der Pubertät wenn man so will.

00:07:38.059 --> 00:07:39.599
Speaker 0: Und ähnlich geht es auch diesen Modellen.

00:07:40.219 --> 00:07:47.239
Speaker 0: Sie haben die Grundkompetenz sprachliche Kompetenz relativ gut und schnell gemeistert vom Transformmodell.

00:07:47.479 --> 00:07:51.559
Speaker 0: siebzehn achtzehn bis zwanzig du sagst ein gab schöne Geschichten und Gedichte.

00:07:52.280 --> 00:07:57.020
Speaker 0: Plötzlich aber hat man festgestellt, wer Sprache kann, der kann auch programmieren.

00:07:57.119 --> 00:08:10.940
Speaker 0: Wer sich selbst Dinge beibringen kann, kann sich exponentiell verbessern und das hat dazu geführt natürlich dass wir jetzt auch diese Entwicklung sehr rapide wahrnehmen müssen.

00:08:11.000 --> 00:08:15.880
Speaker 0: aber sehen natürlich das ganze hatte schon fast zehn jahre gedauert bis wieder hinkamen.

00:08:16.380 --> 00:08:22.440
Speaker 0: Aber natürlich in der mitte des Orkans spürst du nicht die groß der Wind rundherum ist.

00:08:22.700 --> 00:08:26.179
Speaker 0: Wenn du von außen schaust, dann denkst du oh mein Gott, die ganze Welt geht unter.

00:08:29.760 --> 00:08:51.760
Speaker 1: Wenn Du von Außen auf dieses Gesamthema draufschauest, geistern auch wahnsinnig viele Begriffe, die da so immer hoch ploppen und dann gefeiert werden und drei Wochen später sind sie wieder vergessen... wenn Du jetzt an dieses Agentic Universe denkst und von innen raus schausst mit der dir eigenen Ruhe Was funktioniert denn heute beim Agentec Universe?

00:08:52.680 --> 00:08:54.319
Speaker 1: in der Praxis schon wirklich?

00:08:54.699 --> 00:08:58.459
Speaker 1: und was ist eigentlich ehrlich noch Marketingversprechen?

00:08:59.500 --> 00:08:59.740
Speaker 0: Gerne.

00:09:00.740 --> 00:09:13.620
Speaker 0: Wir müssen vielleicht für die Einhörerinnen und Hörern mal ganz kurz klären, Agent das kommt ja aus dem lateinischen Agents Die Handlung Was im Gegensatz zum Sapiens den Bissenden einen sehr großen Unterschied macht.

00:09:14.360 --> 00:09:23.120
Speaker 0: Wer handeln kann braucht aber gewisse Kompetenzen und diese Kompetenz gibt man diesen Modellen heute nicht mehr mit Prompts, sondern schreibt sogenannte Skills.

00:09:23.199 --> 00:09:31.620
Speaker 0: Das sind eine Art Lastenheft – wir sagen in der Schweiz auch Pflichtenhefte – wo sich so ein handelndes System orientieren kann wie gewisse Dinge funktionieren.

00:09:33.280 --> 00:09:39.959
Speaker 0: Wenn ich eine Handlung habe oder eine Handlungsanweisung brauche ich aber noch die Kompetence sprich den Zug auf gewisse Programme.

00:09:40.439 --> 00:09:50.959
Speaker 0: Dazu gibt es diese Abkürzung MCP, Modell-Context-Protokoll die mir erlaubt gewisse Programme ähnlich wie eine Authentifizierung mit Login in dieses Thema einzubinden.

00:09:51.240 --> 00:09:52.319
Speaker 0: Lesen und Schreiberichte.

00:09:53.660 --> 00:09:58.540
Speaker 0: Das vorausgeschickt kann ich dir heute sagen welche Dinge sehr gut funktionieren.

00:09:58.640 --> 00:10:04.280
Speaker 0: sind so die alltäglichen Bürogeschichten von Prüfe meine E-Mails um Beantworte vor?

00:10:04.980 --> 00:10:09.579
Speaker 0: Ja das geht, weil man legt heute ein sogenanntes Second Brain und zweites Gehirn an.

00:10:10.079 --> 00:10:15.040
Speaker 0: Wo das Ding nachgucken kann welche E-Mails grundsätzlich beantwortet wurden wie das Ganze geht?

00:10:15.120 --> 00:10:16.839
Speaker 0: Und ja es geht auch DSG Voguekonformen.

00:10:17.439 --> 00:10:21.140
Speaker 0: was auch sehr gut geht ist Terminplanung unter verschiedenen Menschen.

00:10:21.339 --> 00:10:25.079
Speaker 0: da rede ich nicht nur von Kalendling sondern in Management Meetings rausfinden.

00:10:25.120 --> 00:10:34.040
Speaker 0: wir müssen verschiedene one to ones machen brauchen drei Räume dazu brauchen verschiedene Agenten das ganze muss den entsprechend auch vorbereitet werden auch kein Problem.

00:10:34.780 --> 00:10:39.660
Speaker 0: Was auch sehr gut geht, sind die ganzen Meeting-Protokolle und die nachhaltigen Prozesse daraus.

00:10:39.760 --> 00:10:43.680
Speaker 0: Sprich werben muss was bis wann machen plus eben dann die Zustellung dessen.

00:10:44.819 --> 00:10:51.560
Speaker 0: Alles was Kreation ist Websites Präsentationen Englische Research Berichte Blogs, Social Media

00:10:51.600 --> 00:10:51.699
Speaker 0: etc.,

00:10:52.060 --> 00:10:52.860
Speaker 0: gar kein Problem.

00:10:53.780 --> 00:10:55.280
Speaker 0: Was immer noch so ein bisschen marktig ist.

00:10:55.360 --> 00:11:03.199
Speaker 0: es zu dieser große große Vorstellung von einem Charis das sozusagen ständig mitdenkt mithört und mit plant.

00:11:03.819 --> 00:11:08.260
Speaker 0: Es gibt gewisse Tendenzen, du kannst unter sehr gutem Voraus setzten.

00:11:08.339 --> 00:11:11.280
Speaker 0: Wenn du ein Harness, kannst du einen Hermes oder eine Open-Claw einrichten?

00:11:11.339 --> 00:11:14.319
Speaker 0: Aber ich empfehle das nicht wirklich der große Mehrheit.

00:11:15.060 --> 00:11:20.060
Speaker 0: und auch das was da so ein bisschen gezeigt wird von wegen ja du kannst es einfach laufen lassen.

00:11:20.100 --> 00:11:23.380
Speaker 0: Das organisiert deine Kundenakquise – das nicht!

00:11:24.020 --> 00:11:31.720
Speaker 0: Und zu guter Letzt diese ganze Geschichte mit, was du jetzt auch hast, mit Podcast schneiden Thumbnail machen und dann auch hochladen und so weiter.

00:11:31.760 --> 00:11:42.839
Speaker 0: Und sofort mit Vorsicht zu genießen, es gibt gute Entwicklungen unter Titel gewisse B-Rows das geht schon länger aber der Rest ist viel noch Science Fiction und ja bisschen Geldmacherei.

00:11:44.180 --> 00:11:48.400
Speaker 1: Ja wobei also diese Plattform auf der wir jetzt gerade mitschnalten da bin ich mega begeistert.

00:11:48.500 --> 00:11:52.620
Speaker 1: die haben auch ein extrem hohes Innovationstempo um da neue Funktionen zu bringen.

00:11:52.660 --> 00:11:56.720
Speaker 1: Aber natürlich muss man da immer noch sehr viel manuell nachsteuern ist schon klar.

00:11:58.120 --> 00:12:04.100
Speaker 1: Du hast es schon gesagt In der Realität agieren ja schon unterschiedliche Agenten miteinander.

00:12:04.319 --> 00:12:19.459
Speaker 1: Und es gibt jetzt so ein Beispiel, das habe ich bei einer deiner Präsentationen gesehen wo eben OpenAI demonstriert hat wie man mit zehntausend koordinierten Agenten in achtundachtzig Stunden und einen hundertdreißig Milliarden Tokens.

00:12:19.640 --> 00:12:20.920
Speaker 1: Ich weiß nicht was ist das in Euro?

00:12:21.680 --> 00:12:23.240
Speaker 1: Ein Jahrhundert... Bitte!

00:12:23.920 --> 00:12:24.819
Speaker 0: Zwanzig Millionen Euro.

00:12:26.400 --> 00:12:28.760
Speaker 1: Ein Jahr-Hundert Rätsel der Mathematik gelöst hat.

00:12:30.699 --> 00:12:37.480
Speaker 1: Wie setzt man denn zehntausend Agenten so auf, dass die tatsächlich noch dazu kommen das Jahrhundert Rätsel

00:12:37.579 --> 00:12:38.060
Speaker 2: zu lösen?

00:12:39.220 --> 00:12:41.439
Speaker 0: Warst du mal einem Hackathon zufällig?

00:12:41.600 --> 00:12:41.760
Speaker 0: Nee.

00:12:42.400 --> 00:12:42.839
Speaker 0: Agnès was?

00:12:42.980 --> 00:12:43.140
Speaker 0: Okay.

00:12:43.339 --> 00:12:44.100
Speaker 0: Ne, leider nicht.

00:12:44.140 --> 00:12:45.400
Speaker 0: Hackathon muss dir vorstellen.

00:12:45.459 --> 00:12:55.680
Speaker 0: dann kommen motivierte engagierte Nerds oder auch Projektleiter und so weiter zusammen und sagen hey wollen Problem lösen und steht das sofort in großer Tisch.

00:12:55.920 --> 00:12:57.560
Speaker 0: wundertisch als jetzt im Laptop Start.

00:12:58.300 --> 00:13:05.420
Speaker 0: Jetzt Damit das gut funktioniert oder unseren Hackathon dauert, vierundzwanzig bis achtundvierzig Stunden muss ihr vorstellen bei uns Menschen.

00:13:05.459 --> 00:13:11.920
Speaker 0: wir brauchen eine Art Whiteboard oder irgendwas wo das koordiniert wird und wir müssen alle einander irgendwie sehen oder zumindest kommunizieren.

00:13:12.680 --> 00:13:16.959
Speaker 0: Jetzt übertragen auf dieses agentische System was dieses Jahrhundert Problem gelöst hat.

00:13:17.079 --> 00:13:20.540
Speaker 0: Muss ihr vorstellen, dass der Tisch relativ groß ist oder es hat mehrere Tische.

00:13:22.980 --> 00:13:23.319
Speaker 0: Genau, ja.

00:13:23.980 --> 00:13:28.360
Speaker 0: Am Anfang waren es nicht zehntausend, am Anfang sind es nur fünfzig bis hundert und ein paar Hundert mehr

00:13:28.420 --> 00:13:28.680
Speaker 0: usw.,

00:13:29.540 --> 00:13:36.140
Speaker 0: aber ähnlich haben diese Agenten verstanden, es braucht eine gewisse Koordination und zwar eine Aufgabenteilung.

00:13:37.079 --> 00:13:51.920
Speaker 0: Und der große Sprung fand da statt als man einen Messaging Board respektive für eine Ablage geschrieben hat – also die haben das selbst dann sozusagen protokolliert wie ein Lockbuch – wo andere Agenten, andere Tische werden so willst darauf zugreifen können?

00:13:52.900 --> 00:13:56.920
Speaker 0: Jetzt das Schöne beim Hackathon ist, du kriegst in wenigen Stunden relativ viel gemacht.

00:13:56.980 --> 00:14:00.819
Speaker 0: Weil alle ganz konzentriert nur diese Aufgabe machen und alle aber denselben Business stand.

00:14:02.100 --> 00:14:03.819
Speaker 0: Und genau dass herr passiert auch mit diesen Agenten.

00:14:03.880 --> 00:14:07.260
Speaker 0: Das heißt wenn ich das er arbeite dann teile ich das mit allen.

00:14:08.079 --> 00:14:12.800
Speaker 0: Wenn ich etwas irgendwie produziere was sehr gut genutzt werden kann steht es auf dem Board.

00:14:13.740 --> 00:14:17.160
Speaker 0: Und wenn ich natürlich jetzt sozusagen unlimitiert Comput habe.

00:14:17.920 --> 00:14:22.140
Speaker 0: Ich sage Open AI sagt ob es jetzt tausend zehntausend fünfzig Tausend sind da spielt uns keine Rolle.

00:14:22.880 --> 00:14:26.500
Speaker 0: Dann hast du natürlich die Möglichkeit, die Welt zu verändern was sie auch gemacht haben.

00:14:27.819 --> 00:14:37.720
Speaker 1: Naja jetzt kann dir natürlich aber passieren wie wahrscheinlich bei einem Hackathon dass der ein oder andere Agent sich in die die Welt einfach schön träumt und du dann plötzlich Alluzinationsfehler bekommst.

00:14:38.819 --> 00:14:49.339
Speaker 1: Ich stelle mir das wahnsinnig schwierig vor bei so einer großen Menge an Agenten wie man sowas dann noch kontrollieren kann weil das kann ja theoretisch an zehntausend verschiedenen Stellen passieren.

00:14:50.240 --> 00:14:50.600
Speaker 0: absolut.

00:14:51.260 --> 00:14:57.140
Speaker 0: Das Spannende ist, es gab offensichtlich was man jetzt auch rauskriegt und wir wissen das alles nur aus zweiter Hand.

00:14:57.660 --> 00:15:18.980
Speaker 0: Es gab so Organisationsstrukturen also es gab dann so einen Superagenten und super Agenten Teams die dann verschiedene Rollen inne hatten Die dann sozusagen sich eben zur Aufgabe gemacht haben dass sie entweder gewisse Dinge steuern oder auch verbieten Oder gewissen Agent sagen du darfst nicht mehr da arbeiten Du musst jetzt das arbeiten.

00:15:19.860 --> 00:15:21.980
Speaker 0: Man stellt sich immer so ein bisschen organisch vor.

00:15:22.160 --> 00:15:23.500
Speaker 0: allerdings muss man sehen also.

00:15:24.180 --> 00:15:36.860
Speaker 0: Diese LLM die Sprachmodelle sind ja trainiert aufgrund von unseren Instruktionen und das bedeutet eigentlich machen die nix anderes als gelesenen Management Handbücher oder gelesenes Gramm und gelesene PM.

00:15:37.339 --> 00:15:48.839
Speaker 0: handbüchern setzen jetzt einfach um in einer unglaublichen Geschwindigkeit natürlich aber das recht Da entsteht auch viel Chaos und es gibt doch lustige Anekdoten, wo gewisse Agenten auch auflehrend waren.

00:15:48.959 --> 00:15:54.100
Speaker 0: Weil sie sich sehr in etwas hallucinierend verbissen haben und nicht aufgegeben wollten.

00:15:55.400 --> 00:15:55.900
Speaker 0: Das gibt's auch!

00:15:58.740 --> 00:16:09.339
Speaker 1: Also jetzt haben wir erstmal gelernt alles wird schneller ist wird agentischer Und wir haben auch schon angefangen über Risiken wie Halluzination zu sprechen.

00:16:10.959 --> 00:16:21.699
Speaker 1: Die Risiken sind für Unternehmen natürlich fast noch größer, wenn Agenten das sehr zielgerichtet und sehr bewusst gesteuert mit System bei Unternehmensspielen.

00:16:22.660 --> 00:16:40.040
Speaker 1: Zum Beispiel im September hat das Sicherheitsunternehmen Grey Noise sehr öffentlichkeitswirksam von einem spektakulären globalen Hacker-Angriff berichtet, bei dem elf Organisationen in sechsundzwanzig Sekunden gehackt wurden.

00:16:41.020 --> 00:16:41.819
Speaker 1: Wie geht denn so was?

00:16:43.579 --> 00:16:44.540
Speaker 0: Meere Möglichkeiten.

00:16:44.819 --> 00:16:55.640
Speaker 0: Was man sehen muss, auch ein Agent oder ein ganzes System ist Software und Software lebt in Software heißt konkret wenn ich heute ja meinen Browser aufmache dann habe ich einen Plug-in.

00:16:55.720 --> 00:17:03.540
Speaker 0: das verbindet mich mit meinem agentischen System und Ich kann dem Zugriff geben auf diese Handlung sprich auf den Connector von dem Browser.

00:17:04.339 --> 00:17:07.839
Speaker 0: Wenn ich ein Browser habe, hab' ich ganz viele neue Möglichkeiten in der dreiD-Welt.

00:17:07.960 --> 00:17:14.040
Speaker 0: Ich kann Code nicht nur sehen... ...ich kann auch klicken, ich kann Folgen ausfindig machen und ich kann gewisse Dinge exploiten.

00:17:14.740 --> 00:17:24.060
Speaker 0: Exploiting bedeutet, ich sehe vielleicht Dinge im Code,... ...ich sehe vielleicht alte veraltete, wir haben es auch erlebt mit PHP-Skips,... ...die entsprechenden Angriffsflächen dienen.

00:17:24.819 --> 00:17:34.639
Speaker 0: Und wir müssen natürlich auch sehen letztendlich, dass wir Menschen bauen Systeme,... Wovon allerdings diese Agenten bereits gehört und gelernt haben und einen Schritt weiter sind.

00:17:35.639 --> 00:17:46.000
Speaker 0: Viele Dinge, die jetzt momentan passieren zeigen eigentlich unsere Schwächen auf, unsere manchmal auch Unzulänglichkeit oder auch Überlastbarkeit über Lastung bei gewissen Themen.

00:17:46.620 --> 00:18:03.240
Speaker 0: Und wenn man sich vorstellt dass ich jetzt da etwas habe was in keiner Zeit weil selbst wenn ich tippe und so schnell tippet wie der schnellste Mensch bin ich nie so schnell wie ein Code das es selbst ausführt Dann kann ich natürlich schon Attacken fahren, die dazu führen, dass dann gewisse Systeme einbrechen.

00:18:04.360 --> 00:18:09.300
Speaker 1: Ja ja, bei sechsundzwanzig Sekunden was soll denn da ein Security Specialist noch tun?

00:18:09.500 --> 00:18:12.639
Speaker 1: Also wie du es schon sagst, der kann ja selber gar nicht schnell genug tippen, wie das schon gehäckt ist.

00:18:13.660 --> 00:18:24.800
Speaker 0: Du musst so viele eigene entsprechende Traps also Abschnitte bauen damit das System nicht durchkommt und die dann früh alarmierend andere Systeme auslösen.

00:18:25.220 --> 00:18:29.899
Speaker 0: aber Du kannst weitgehend, also Fortinet sagt ich vielleicht was als Hersteller.

00:18:30.240 --> 00:18:34.139
Speaker 0: Du hast vielleicht von der Plattform Riccardo gehört in der Schweiz, die gehackt wurde.

00:18:34.220 --> 00:18:36.780
Speaker 0: Wir haben diese PR-Pischell Geschichte gehabt.

00:18:36.960 --> 00:18:41.520
Speaker 0: Es ist natürlich schon, was man jetzt erlebt, Fluchenziegen zugleich!

00:18:41.960 --> 00:18:45.120
Speaker 0: Weil jede Schwachstelle, die ich vielleicht raus will mit einer KI.

00:18:45.160 --> 00:18:52.899
Speaker 0: Die ist dann kommunizierend ein Messaging-Board oder in einem vielleicht MacFrey Report und so weiter Kapersky publiziert wird.

00:18:53.260 --> 00:18:57.240
Speaker 0: Hat hier auch ein anderes Agentsystem Zugriff drauf in Echtzeit und sieht Ah!

00:18:58.080 --> 00:18:58.600
Speaker 0: Gepatched?

00:18:59.600 --> 00:19:00.080
Speaker 0: Neuer Angriff.

00:19:00.560 --> 00:19:01.139
Speaker 0: Ah gepatched?

00:19:01.420 --> 00:19:02.240
Speaker 0: Neue Angriffe.

00:19:03.139 --> 00:19:11.320
Speaker 0: Und der Mensch, der das dann liest, vielleicht dann Freitag um zwölf... der den Security Update kriegt und sagt, stimmt ich muss ein Release machen?

00:19:11.420 --> 00:19:12.680
Speaker 0: Und jetzt muss sich das updaten.

00:19:12.780 --> 00:19:16.700
Speaker 0: Das mache ich jetzt heute um die Uhr, da ist er bereits acht Minuten zu spät.

00:19:18.600 --> 00:19:27.500
Speaker 1: Also auch im Prinzip Security sagst du wird agentisch, muss agentisch gelöst werden, sonst hast Du einfach ungleiche Voraussetzungen in der Bearbeitungsgeschwindigkeit.

00:19:27.740 --> 00:19:32.040
Speaker 0: Wir müssen uns ganz neue Gedanken machen wie diese Kriege funktionieren.

00:19:32.580 --> 00:19:41.780
Speaker 0: Ich vergleicht so ein bisschen mit wenn wir uns überlegen wie vor dem ersten Weltkrieg Krieg geführt wurde Mit Heeren stehenden Helen mit Angriff Formation und so weiter.

00:19:41.820 --> 00:19:45.560
Speaker 0: Und dann plötzlich kamen ja Schützengräben, Gas.

00:19:46.379 --> 00:19:47.920
Speaker 0: Pferde wurden ersetzt durch Panzer.

00:19:48.780 --> 00:19:54.060
Speaker 0: Wir leben genau das jetzt auch in der Andernskalierung aber eigentlich einer ähnlichen Geschwindigkeit.

00:19:58.080 --> 00:20:03.580
Speaker 1: Du hast es ja schon gesagt dass du selber deinen Browser verbindest mit einem Plug-in?

00:20:04.800 --> 00:20:24.399
Speaker 1: Und so geht's wahrscheinlich ganz vielen Usern auch die mal rum spielen ihre LMMs nutzen und du hast auch in einer deiner Präsentationen beschrieben, wie ein Angreifer über JetGPT ganz unbemerkt auf das Gmail-Konto eines Nutzers zugegriffen hat.

00:20:25.420 --> 00:20:28.480
Speaker 1: Wie baut man denn so einen Szenarioauffall?

00:20:28.700 --> 00:20:31.820
Speaker 1: Das Gmail Konto ja keine Microsoft Welt ist!

00:20:34.000 --> 00:20:39.160
Speaker 0: Nichtsdestotrotz kannst du auch ein Gmail-Konto, kannst du über den Konektor einbinden bei deinem Chat Gbidi oder Claude.

00:20:39.639 --> 00:20:45.920
Speaker 0: Wenn der Browser mal läuft und einen Link geklickt oder ausgeführt wird dann ist der Angreifer halt drin.

00:20:46.780 --> 00:20:52.300
Speaker 0: Das klingt immer so unglaubwürdig bis man sich überlegt von wegen warum gibt es überhaupt dieses Gameindustrie?

00:20:52.460 --> 00:20:55.879
Speaker 0: Warum schicken die Leute eben noch über Facebook irgendwelche komischen Links?

00:20:56.460 --> 00:21:01.879
Speaker 0: das würde ja nicht gemacht werden mich jemand drauf klickt Und die wenigen Systeme funktioniert es auch hier.

00:21:01.940 --> 00:21:09.080
Speaker 0: Also wenn ich einen lese, schreibe Agenten sozusagen auf meine Inbox los lasse und die Fishing-Mails werden immer besser.

00:21:09.940 --> 00:21:11.340
Speaker 0: Da steht was drinnen.

00:21:11.420 --> 00:21:12.520
Speaker 0: bitte prüfen sie!

00:21:13.300 --> 00:21:15.600
Speaker 0: Der Agent interpretiert – Ich muss prüffen.

00:21:16.620 --> 00:21:19.360
Speaker 0: Er klickt weil das ist seine Aufgabe.

00:21:20.620 --> 00:21:25.040
Speaker 0: Dann ist die Mailbox offen über den Browser den ich hier jetzt gleich klicken lasse.

00:21:26.040 --> 00:21:28.920
Speaker 0: Lasse das Fenster aufmachen und die Schadsoftware ist da.

00:21:30.379 --> 00:21:37.780
Speaker 1: Das heißt der Nutzer kann das gar nicht nachvollziehen denke ich etwas schlaues gemacht weil er sich jetzt praktisch sein seinen lesen agenten gebaut hat.

00:21:38.540 --> 00:21:45.760
Speaker 1: Der leser agent klickt auf genau auf das phishing wo du selber sagen würdest da würde ich jetzt eigentlich nicht draufklicken und schon

00:21:46.160 --> 00:21:47.080
Speaker 0: passieren die einschränke an.

00:21:47.220 --> 00:21:50.660
Speaker 0: genau also du hast bei agenten hast du verschiedene Levels, wenn du so willst.

00:21:50.720 --> 00:21:54.060
Speaker 0: Du kannst ausführen die Bestätigung nicht ausfühlen komplett ausfüllen.

00:21:54.560 --> 00:21:58.280
Speaker 0: Du kann es aber auch gerade, wenn zum Beispiel E-Mails geht oder wenn es um Dokumente geht.

00:21:58.379 --> 00:22:03.440
Speaker 0: klassisches Beispiel ist der Dobidokumente runterladen automatisch und Ausführen.

00:22:03.680 --> 00:22:10.600
Speaker 0: das momentan so ein Sicherheitspatch was ich heute auf LinkedIn gepostet habe weil das wird jetzt auto runtergeladen und dann aktiviert sozusagen.

00:22:11.520 --> 00:22:13.139
Speaker 0: Das musst du dir bewusst sein.

00:22:13.940 --> 00:22:15.360
Speaker 0: bis wohin lässt es sowas zu.

00:22:15.580 --> 00:22:25.639
Speaker 0: Also ich lasse meine E-Mails ja nicht agentisch beantworten, so ist ein Rockflow innerhalb von Gmail selbst und die verlassen nichts, die gehen sozusagen vom Inbox direkt in Draft.

00:22:26.080 --> 00:22:35.020
Speaker 0: Da wird nichts sonst geklickt, da wird nichts runtergeladen sondern wird noch vorbeantwortet und die E-mails gehen dann über den Label in eine separate Box rein.

00:22:35.960 --> 00:22:39.100
Speaker 0: Das verhindert zumindest irgendwas geklückt oder was untergeladen wird.

00:22:40.480 --> 00:22:46.720
Speaker 0: Das musst du allerdings wissen und das muss die Bewusstsein, wenn du halt ein bisschen mit ID-Packground kommst oder wenn man reingelaufen bist.

00:22:47.540 --> 00:22:52.040
Speaker 0: Dasselbe kann natürlich auch passieren, wenn Du beispielsweise Deinen Bot auf WhatsApp loslässt.

00:22:52.080 --> 00:22:57.600
Speaker 0: Ich geh'n ganz viele Leute, die haben Web-Whatsapp am Laufen, lassen ihre Agenten drauf und sagen ich beantworte jetzt meine WhatsApp darüber!

00:22:58.420 --> 00:23:03.700
Speaker 0: Das kommt gut bis dir irgendein Scammer irgendwas schickt und sagt HiHestMama oder HiHesPeter.

00:23:04.020 --> 00:23:09.720
Speaker 0: Und ich hab hier übrigens noch die Vorbereitung für unseren Podcast weil Die haben ja gesehen, von wegen den Kalender ausschaut.

00:23:10.320 --> 00:23:17.820
Speaker 0: Und dann steht ein Link der ähnlich ausschauend wie Riverside aber heißt leider Rewitzer Eiter und ja gern guckt das nicht und klickt drauf und vorbei.

00:23:19.840 --> 00:23:25.780
Speaker 1: Wie kriegt man sowas in Griff auch als Nicht-IT-Fachmann in einem Großunternehmen?

00:23:27.020 --> 00:23:32.540
Speaker 0: Ich glaube die große Herausforderung heute ist genug Zeit zum Atmen und Denken zu haben.

00:23:33.520 --> 00:23:40.680
Speaker 0: Ich habe ein Buch jetzt keine Vorbereitung, das heißt Denkfrag klick und da ist auch so eine Methode drin wo du atmen musst.

00:23:41.680 --> 00:23:50.920
Speaker 0: Natürlich von außen gesehen hast du das Gefühl ich muss jetzt unbedingt diesen Marathon mitrennen und ich frage mich doch welche Schuhe ich kaufen sollte damit nicht einigermaßen damit komme.

00:23:51.360 --> 00:23:56.940
Speaker 0: vielleicht machst aber mehr Sinn erst mal durchzuatmen und sagen deswegen bin ich überhaupt ein Läufer oder eine Läuferin?

00:23:58.480 --> 00:24:06.360
Speaker 0: Viele Leute setzen einfach aus FOMO Fear of Missing Out gewisse Dinge um, ohne sie mit Grundlagen zu beschäftigen.

00:24:06.460 --> 00:24:13.020
Speaker 0: Ich sage immer ich bin ja ursprünglich aus der Informatik und berate Digitalisierung, Transmissionsprozesse.

00:24:13.500 --> 00:24:21.520
Speaker 0: Ich sag Schau du kannst nicht hier oben anfangen mit der KI-Kompetenz wenn ihr nicht bewusst ist was so eine gewisse Security Ebene ist?

00:24:21.700 --> 00:24:25.440
Speaker 0: Was eine Daten Dialog und Handlungskompetenzen ausmacht.

00:24:26.220 --> 00:24:31.320
Speaker 0: Und dann gehst du gleich wie gesagt auf die Marathon Strecke ohne jemals fünf Kilometer gerannt sein.

00:24:32.280 --> 00:24:36.620
Speaker 0: Du kommst vermutlich als Laien, als Laie schon dahinter.

00:24:37.440 --> 00:24:39.379
Speaker 0: Aber du musst dich wirklich dahinter klemmen!

00:24:40.540 --> 00:24:41.660
Speaker 0: Du musst dich informieren.

00:24:41.879 --> 00:24:44.180
Speaker 0: von wegen wie funktioniert Software?

00:24:45.240 --> 00:24:49.680
Speaker 0: Was ist jetzt zum Beispiel eine Ausführung der Software und was bedeutet ein Download wirklich?

00:24:49.920 --> 00:24:50.760
Speaker 0: Was is'n Zugriff?

00:24:51.240 --> 00:24:54.220
Speaker 0: Was sind die zwei Faktor-Authentifizierung und so weit und sofort?

00:24:54.960 --> 00:25:00.100
Speaker 0: Und es wäre ja eigentlich schön wenn das bereits in einer Schule oder zumindest noch Hochschule nochmal thematisiert werden würde.

00:25:00.560 --> 00:25:04.379
Speaker 0: Wird das aber nicht und die Leute gehen Unternehmen rein... bringen ihre eigene KI mit.

00:25:05.000 --> 00:25:14.780
Speaker 0: Teilweise auch bring your own device und die haben dann vielleicht noch ein zweites Login drin, aber gehen dann trotzdem mit dem Privaten ins Firmenwifi und da geht es auch von IT-Sicht.

00:25:14.940 --> 00:25:18.580
Speaker 0: ganz viele Sperren, die du machen müsstest, aber werden nicht gemacht.

00:25:19.260 --> 00:25:23.580
Speaker 0: Es ist kompliziert Aber mehr Tempo hilft nicht, mehr Atmen hilft.

00:25:26.280 --> 00:25:34.480
Speaker 1: Und das ist jetzt so eine... So ein sehr technischer Bereich den wir gerade diskutiert haben, es geht aber ja noch.

00:25:35.139 --> 00:25:41.020
Speaker 1: Dann KI sehr viel simpler, selbst wenn ich gar keinen Agenten selber installiert habe.

00:25:41.100 --> 00:25:45.040
Speaker 1: Wenn nicht jetzt ein ganz normales klassisches Fishing-Schau.

00:25:46.100 --> 00:25:49.080
Speaker 1: Früher konntest du spätestens nach einem dritten Rechtschreibfehler erkennen.

00:25:49.220 --> 00:25:52.060
Speaker 1: das kann jetzt kein Nachricht meiner Bank sein.

00:25:53.379 --> 00:26:06.460
Speaker 1: heute ist es ja wesentlich schwieriger da überhaupt noch zu erkennen dass da diese E-Mail von jemandem ganz anderen als dem eigentlich vermuteten Absender geschrieben wurde.

00:26:07.940 --> 00:26:17.280
Speaker 1: Was gibst du denn da für Hinweise, wie man damit umgehen sollte, damit man jetzt noch solche Fishing-Attacken erkennen kann?

00:26:17.320 --> 00:26:18.660
Speaker 1: Da brauche ich noch gar keinen Agenten haben!

00:26:18.700 --> 00:26:22.200
Speaker 1: Das ist ganz normal in meinem Postfach oder auf meinen Botsapp.

00:26:23.920 --> 00:26:40.240
Speaker 0: Ich habe bei vielen Menschen – wir begleiten auch beispielsweise Menschen über Prosinek Tutis in der Schweiz, eine Organisation für ältere Menschen – das sage ich auch immer, dass erstes was wir einrichten bei euren E-Mails sind Filter Filter die das versorgen dass du alles was mit bank.

00:26:41.040 --> 00:26:58.240
Speaker 0: Versicherung in einer eigenen bereichein geht und das macht ihr schon mal bewusst von wegen dass du wenn du dann deine e-mails beantwortest, dass du die klassische Korrespondenz hast und du hast beispielsweise jetzt auch von der aah war bei uns an der pension ein seite oder von der bank weiter gehst du dann ganz bewusst rein?

00:26:59.080 --> 00:27:13.440
Speaker 0: Und schon dieser ganz kleine trick Wenn du dann siehst ich habe eine inbox unter sind jetzt drei imes von der Bank aber Die E-Mail mit der Kreditbestätigung sieht so ein bisschen anders aus als vom Wegen, wir haben hier ein neues Produkt und sie können bei uns vorbeikommen.

00:27:14.000 --> 00:27:15.520
Speaker 0: Dann fällt das schon ein bisschen besser auf.

00:27:15.600 --> 00:27:18.580
Speaker 0: Es fällt dir nicht auf in der Masse von den Emails.

00:27:19.660 --> 00:27:28.500
Speaker 0: Das zweite was man immer machen muss, du musst mit dort ein bisschen darauf hinweisen wegen, niemals irgendwelche Bilder oder sonstige Attachments automatisch runterladen ist eine Einstellungssache.

00:27:28.940 --> 00:27:33.300
Speaker 0: Ist meistens auch so drin übrigens... Überschreibt es dann eher, muss wieder rückgängig machen.

00:27:33.899 --> 00:27:41.060
Speaker 0: Und das dritte ist der Klassiker du guckst die Absender-E-Mail an also du klickst auf in deinem Browser deinen Memel drauf.

00:27:41.100 --> 00:27:50.600
Speaker 0: und wie man sitzt für eine Absender und eine Bank abgesehen davon dass sie nie würde irgendwelche Dokumente direkt über E-Mails schicken so ein immer neu bei die Applikation sei es da hingestellt.

00:27:51.000 --> 00:27:57.620
Speaker 0: Eine Bank wird niemals irgendwie add Outlook, add Gmail, add irgendwas drin haben und daran kenne ich auch schon sehr viel.

00:27:58.060 --> 00:28:00.300
Speaker 0: aber in der Hektik passiert es halt doch.

00:28:00.580 --> 00:28:03.320
Speaker 0: Und ich habe gerade wieder vor zwei Wochen einen Kunden gehabt.

00:28:03.440 --> 00:28:17.680
Speaker 0: Die haben gerade einen Ausfall gehabt in der Buchhaltung, ist jemand reingesprungen und dann hat die Person halt ... weil sie war als Tag im Job drin, hat geklickt und sich eingelockt und dummerweise dann halt die Credentials dem Fischer mitgegeben.

00:28:17.720 --> 00:28:19.800
Speaker 0: Jetzt

00:28:19.840 --> 00:28:27.399
Speaker 1: haben wir ein bisschen von der bösen Welt gesprochen, die sich darauf konzentriert uns Schaden zuzufügen.

00:28:28.399 --> 00:28:33.780
Speaker 1: Jetzt gibt es aber auch noch ein Risiko, das fand ich extrem spannend in einem Deiner Newsletter.

00:28:35.180 --> 00:28:46.340
Speaker 1: Das hatte ich so nicht auf dem Schirm, wo man sich eigentlich selber eine Art Falle stellt, indem ich nehme meine Wissensarbeit an die KI-Auslage, wie wir das fast alle ja tun.

00:28:47.700 --> 00:28:57.260
Speaker 1: Früher hat man sowieso gegoogelt und da musste immer ganz viel Handarbeit hinterher und Denkarbeit zugrunde legen, um das weiter zu verarbeiten und dann hat man schon die Spreu vom Weizen trennen können.

00:28:57.320 --> 00:28:58.620
Speaker 1: Zumindest hat man sich es eingebildet.

00:29:00.260 --> 00:29:09.280
Speaker 1: Wie unterscheidet sich denn die Recherche über Chat GPT von diesem klassischen Vorgehen in der Websuche über Google?

00:29:11.860 --> 00:29:16.080
Speaker 0: Wir müssen hier leider kurz zwei technische Rangbedingungen festlegen, Nr.

00:29:16.200 --> 00:29:16.399
Speaker 0: eins.

00:29:17.580 --> 00:29:26.540
Speaker 0: Sie arbeiten zwar an einem eigenen Suchindex jetzt, denn suche nix bedeutet das sozusagen das Web regelmäßig crossed und dir sozusagen die Landkarte baust.

00:29:26.899 --> 00:29:30.399
Speaker 0: momentan basieren sie aber zu Großteilen noch auf Bing.

00:29:31.120 --> 00:29:33.120
Speaker 0: Und suchen auch mit dem Internet.

00:29:33.860 --> 00:29:35.060
Speaker 0: Du hast schon gewisse Qualität.

00:29:35.639 --> 00:29:36.379
Speaker 0: Ja, ja das geht's immer noch.

00:29:36.420 --> 00:29:37.540
Speaker 0: Ja Co-Pilot ist auch Wabbing.

00:29:37.639 --> 00:29:41.180
Speaker 0: also die haben ein klassisches Revival totgesagte Leben länger.

00:29:41.680 --> 00:29:42.440
Speaker 0: Sie sind nicht gut.

00:29:43.020 --> 00:29:43.460
Speaker 0: Das wissen wir.

00:29:43.500 --> 00:29:51.340
Speaker 0: sie haben Lost in Translation Sprichs übersetzen gewisse Dinge auf Englisch und suchen eine amerikanische und sie nicht so bewandert bei gewissen Seiten aber nicht sehr stotziat.

00:29:51.399 --> 00:29:54.740
Speaker 0: es ist halt die Search Engine mit dem Bing Index.

00:29:55.639 --> 00:29:58.300
Speaker 0: Das bedeutet natürlich du bist nur auf einem Bruchteil.

00:29:58.800 --> 00:30:04.620
Speaker 0: das vielleicht sonstigen Internets unterwegs wissen, es gibt auch einfach das Darknet und was wir sehen.

00:30:06.379 --> 00:30:15.760
Speaker 0: Nichtsdestotrotz, gerade da muss man verstehen dass es halt gewisse präferierte Quellen gibt die eher populär sind bei Google übrigens auch.

00:30:16.580 --> 00:30:28.940
Speaker 0: Und das heißt Wir müssen uns dran gewöhnen Dass wir nicht um ein erstes Resultat als Bestes angucken Sondern sie Zeit nehmen beispielsweise Die resultaten auf der Schein sogenannten Crapjack zu prüfen.

00:30:29.500 --> 00:30:33.680
Speaker 0: Crab ist eine zwanzigjährige Methode, die kam ursprünglich aus den USA.

00:30:34.080 --> 00:30:43.639
Speaker 0: Die bedeutet wegen Beistich ob c ein Datum currency r eine reliability sprich Primärquelle a eine Autorität und p eine Absicht erkennt bei uns.

00:30:44.540 --> 00:30:49.720
Speaker 0: Und das wird insofern noch wichtiger weil aktueller Bericht ich glaube der war kann von algorithm watch.

00:30:50.160 --> 00:30:54.080
Speaker 0: wir haben sieben tausend so genannte k i Farmen.

00:30:54.800 --> 00:31:00.600
Speaker 0: das sind farmen die Informationen verbreiten die so nicht stimmen aber von den crawler sehr gerne genutzt werden.

00:31:01.120 --> 00:31:06.920
Speaker 0: Und spätestens dann mit einem guckst du wegen welchen lobby dahinter steckt und könntest du es feststellen, aber das passiert da nichts zu einer schnelle.

00:31:10.180 --> 00:31:13.480
Speaker 1: Da bräuchte ich jetzt auch schon fast wieder einen agenten der mir diesen prep check machte oder

00:31:13.899 --> 00:31:14.180
Speaker 0: sonst.

00:31:14.360 --> 00:31:22.620
Speaker 0: ja also ist uns gill du kannst auch unser gilt dazu machen oder die einfach schreiben wegen mach mir für alle quellen ein krebschack und dann siehst du schon mal was hier passiert.

00:31:23.780 --> 00:31:25.920
Speaker 0: Der crept sagt dir nicht war oder falsch?

00:31:26.720 --> 00:31:34.440
Speaker 0: Der Crapjack gibt ja Transparenz und er gibt dir Zeit wieder zum Atmen, weil du guckst nochmals doppelt hin von wegen CRAP.

00:31:34.800 --> 00:31:37.800
Speaker 0: Ah okay das ist also diese Agentur und der hat das gesagt.

00:31:37.860 --> 00:31:41.960
Speaker 0: und da okay gut dann verbesserst vielleicht deinen Prompt oder gehst nochmal in die Tiefe.

00:31:45.379 --> 00:31:48.379
Speaker 1: Jetzt haben wir auf der einen Seite das Problem dass das Dinge ausgewählt werden.

00:31:48.480 --> 00:32:08.740
Speaker 1: ich sehe nicht die ganze Wahrheit aber selbst wenn es ausgewillt wird und selbst wenn das was ausgewildert ganz ok ist haben wir ja mittlerweile das Phänomen, dass unglaublich viel Content im Web oder zum Beispiel auflegt in von der KI erstellt wird und viele Leute sagen ich werde hier geflutet mit Inhalten.

00:32:08.820 --> 00:32:12.520
Speaker 1: die habe ich so schon tausendmal an X Stellen gesehen.

00:32:13.899 --> 00:32:22.379
Speaker 1: Und das wiederum bewirkt ja, dass die Maschine das lernt was sie vielleicht sowieso schon fünfzigtausend mal eine andere Stelle gesehen hat und da selber wieder Inhalte gebaut hat.

00:32:23.260 --> 00:32:23.540
Speaker 2: woran

00:32:24.320 --> 00:32:28.860
Speaker 1: merken wir denn selber vielleicht schon diese Modelle?

00:32:29.120 --> 00:32:33.620
Speaker 1: an den Daten, die selbst generiert wurden vergiften.

00:32:33.660 --> 00:32:39.000
Speaker 1: Also dieser klassische Model Collapse, den man bei solchen Systemen unterstellt.

00:32:39.820 --> 00:32:40.600
Speaker 1: Woran kann man das merken?

00:32:40.639 --> 00:32:42.020
Speaker 1: dass wir da schon unterwegs sind?

00:32:42.820 --> 00:32:45.399
Speaker 0: Der Model-Collapse ist lustigerweise gar nicht das große Problem.

00:32:45.740 --> 00:32:56.580
Speaker 0: OBI hat selbst letzte Woche gesagt, sie hören auf sich an Internetquellen zu bedienen und auch andere Modelle haben längst gesagt wegen des Internetes nicht mehr unser primary source of education.

00:32:56.660 --> 00:33:03.240
Speaker 0: Das heißt man geht eher auf klassifizierte oder dedizierte strukturierte Daten, wissenschaftliche Quellen.

00:33:03.320 --> 00:33:07.800
Speaker 0: Man hat alte Bücher, Projekt Pegasus und zum Beispiel hat alle Bücher eingescannt.

00:33:08.200 --> 00:33:10.660
Speaker 0: Das Internet ist nicht mehr die verlässige Quelle.

00:33:11.520 --> 00:33:12.460
Speaker 0: Das Problem ist ein anderes.

00:33:12.620 --> 00:33:13.379
Speaker 0: Das ist von angesprochen.

00:33:13.420 --> 00:33:21.240
Speaker 0: so bisschen mit LinkedIn und vielleicht, wenn ihr auch manchmal auf Instagram oder am nächsten Dorfmarkt unterwegs seid... Die Flyer sehen ja alle gleich aus!

00:33:21.440 --> 00:33:22.820
Speaker 0: Die Posts sehen alle gleichaus.

00:33:23.960 --> 00:33:31.899
Speaker 0: Wir Menschen tendieren leider unsere Persönlichkeit nicht wirklich reinzubringen weder bei Design noch bei Sprache Und das führt zu einer gewissen Standardisierung.

00:33:32.060 --> 00:33:38.680
Speaker 0: Diese Standardisierung wiederum setzt den nächsten Mittelgrad was als schön oder gut gilt.

00:33:39.760 --> 00:33:45.399
Speaker 0: Dazu kommt natürlich, dass die Menschen – und das ist eigentlich noch verrückt – nicht unbedingt mehr Content generieren.

00:33:45.440 --> 00:33:47.960
Speaker 0: Also auf Linken ist die Kreationsquote immer noch vier Prozent.

00:33:48.920 --> 00:33:51.340
Speaker 0: Das ist knapp ein Prozent mehr als letztes Jahr.

00:33:51.800 --> 00:33:53.879
Speaker 0: Bedeutet aber, dass sechs, neun Prozent immer noch nicht posten.

00:33:53.920 --> 00:33:56.740
Speaker 0: Aber die vier Prozent, die halt posten, die posten viel mehr.

00:33:57.680 --> 00:33:58.420
Speaker 0: Und nicht unbedingt besser!

00:33:59.899 --> 00:34:04.899
Speaker 0: Da musst du heute schon extrem ... Ich versuche es ja auch so ein bisschen mit meinem Stil oder mit deinem Designs usw.

00:34:05.580 --> 00:34:10.700
Speaker 0: Die Leute aufzuhalten sagen, nee bei mir sieht's ein bisschen anders aus Weil sonst bist du halt einheitsfrei.

00:34:11.360 --> 00:34:15.060
Speaker 0: Und es ist halt schon so, nicht nur die KI ist copy-paced.

00:34:15.160 --> 00:34:15.300
Speaker 0: wir!

00:34:15.720 --> 00:34:16.500
Speaker 0: Wir sind copy-paced.

00:34:16.540 --> 00:34:22.940
Speaker 0: Es gibt nachfällige Studie, die sagt dass wir Menschen immer mehr auch sprechen wie JGPT weil wir haben uns der Maschine angeglichen nicht umgekehrt.

00:34:23.520 --> 00:34:24.640
Speaker 0: Das ist noch festgefährlicher.

00:34:26.960 --> 00:34:49.220
Speaker 1: Wenn wir jetzt mal die Unternehmensperspektive nochmal einnehmen wollen und in einem Unternehmen arbeiten viele Menschen mittlerweile mit ihren KI Systeme und ich habe eigentlich ja die Aufgabe, dass keine ungeprüften KI-Ergebnisse in operative Kundenprojekte einfließen.

00:34:49.660 --> 00:34:53.660
Speaker 1: Was kann denn etwas machen Unternehmen schon und was könnten sie noch machen?

00:34:54.100 --> 00:34:55.020
Speaker 1: Damit das nicht passiert?

00:34:55.640 --> 00:35:05.640
Speaker 0: Ich glaube der erste wichtige Schritt ist, dass man sich – und das sagt ja auch der EUI Act – eigentlich dieser Verpflichtung wahrnimmt, dass man die Menschen außen weiterbildet.

00:35:06.180 --> 00:35:11.580
Speaker 0: Vieles kommt erst durch die Befähigung und da geht es auch sehr viele Firmen, die sehr viel tun dazu.

00:35:12.100 --> 00:35:16.560
Speaker 0: Sie bilden sogenannte KI-Botschafterinnen aus oder Ambassadoren oder wie sie immer heißen.

00:35:17.160 --> 00:35:22.140
Speaker 0: Und sie machen so kleine Champions in denen diese Person sich sehr gezielt mit diesen Systemen auskennen.

00:35:22.980 --> 00:35:26.160
Speaker 0: Der zweite Punkt ist, man baut kleinere Racks ein.

00:35:26.280 --> 00:35:28.620
Speaker 0: Rack ist ein Retrieverlockment Generative System.

00:35:28.800 --> 00:35:34.640
Speaker 0: Man kann es vorstellen als hättest du einen Server Und dieser Server ist die einzige Quelle der Wahrheit.

00:35:35.580 --> 00:35:44.240
Speaker 0: Das bedeutet, wenn man zwingt das Modell weder ins Internet noch sonstige Sekundärquellen zu beziehen, sondern sagt da darauf.

00:35:44.700 --> 00:35:45.800
Speaker 0: Darauf muss dazugreifen.

00:35:46.540 --> 00:35:50.980
Speaker 0: und das Dritte ist, man bringt mehr Struktur rein beim Mensch wie auch beim Modell selbst.

00:35:52.000 --> 00:36:03.080
Speaker 0: Du kannst ja beispielsweise jetzt bei Copilot Agenten kannst du auch so eine Skills hochladen und Knowledge Layers das bedeutet dass du sozusagen hingehen kannst und sagst ich gebe dir die Arbeitseinweisung wie du zu suchen, zu filmen und zu validieren hast.

00:36:03.600 --> 00:36:05.820
Speaker 0: Und ich gebe dir auch noch einen Referenzrahmen.

00:36:06.000 --> 00:36:07.400
Speaker 0: Knowledge im Sinne von.

00:36:07.960 --> 00:36:14.400
Speaker 0: so funktioniert das bei uns ähnlich eigentlich wie wenn du ein Mitarbeiterhandbuch hättest oder so eine Deeskalationscheckliste.

00:36:14.460 --> 00:36:16.160
Speaker 0: ja sollte mal irgendwo vorher ausbrechen.

00:36:16.300 --> 00:36:19.000
Speaker 0: also dass gibt man diesen agendischen System mit.

00:36:19.280 --> 00:36:31.440
Speaker 0: aber und auch das ganz ganz wichtig letzter Punkt Du hast die Möglichkeit all diesen Dingen dieses human in the loop einzuporn klingt extrem wieder so new age mäßig, aber bei der nix anderes.

00:36:31.480 --> 00:36:33.340
Speaker 0: heißt du machst eigentlich die letzte prüfen.

00:36:33.420 --> 00:36:39.120
Speaker 0: oder auch im Zwischentritt sagst du hier musst du stoppen und hier brauche ich den input des menschen.

00:36:39.740 --> 00:36:55.480
Speaker 0: Den input des Menschen kann entweder sein ein Häkchen setzen, Text reinschreiben oder eine Aufgabe weiterschieben und das hilft schon extrem von der Schulung bis hin zu den delizierten Systemen, den Skills & the knowledges bis hin to human in the loop.

00:36:55.560 --> 00:36:57.200
Speaker 0: dass Du genau eben diese Dinge verhinderst

00:36:58.680 --> 00:36:59.960
Speaker 1: Das ist ein wunderbarer Begriff.

00:37:00.140 --> 00:37:08.800
Speaker 1: An dem störe ich mich nämlich massiv, weil wir uns das eigentlich schon seit vielen Jahren mit diesem human in the loop aus meiner Sicht wahnsinnig viel vormachen.

00:37:09.360 --> 00:37:13.940
Speaker 1: also Es hieß lange es braucht den human in der luft damit wirklich kreativ ist.

00:37:14.540 --> 00:37:26.900
Speaker 1: aber Ein durchschnittlich kreativer mensch ist weniger kreative als dass mein jaminer oder mein chat gpt heute schon ist finde Ich und jetzt haben wir Bei den Qualitätskontrollen ja eine ähnliche Situation.

00:37:27.120 --> 00:37:34.060
Speaker 1: Also wenn ich jetzt da human in the loop habe und sage du bist jetzt verantwortlich dafür, dass da nix rausgeht was nicht unseren Leitlinien entspricht

00:37:34.920 --> 00:37:35.020
Speaker 0: dann

00:37:35.120 --> 00:37:38.440
Speaker 1: haben wir es ungefähr so wie den IT Security Specialists Spezialisten.

00:37:38.860 --> 00:37:41.940
Speaker 1: Du kriegst so viele Anfragen Und irgendwann sagst du naja ich baue mal.

00:37:42.000 --> 00:37:50.000
Speaker 1: entweder bau ich mir jetzt meinen Agentin der das dann wieder für mich macht Dann kann ich das auch bewältigen oder Das wird schon stimmen und die zwei Prozent die net stimmen die sehe ich eh nicht.

00:37:50.100 --> 00:37:56.160
Speaker 1: also klick Es schätzt sich das falsch sein oder ist es nicht wirklich ein Gefahr?

00:37:58.100 --> 00:38:01.840
Speaker 0: Du hast dich recht insofern, man spricht ja auch von diesen Agenten Babysitten.

00:38:03.700 --> 00:38:08.320
Speaker 0: Die einen machen's gerne, alle wirklich gerne und dann manchmal nerven die Kleinen und du sagst ja jetzt geh ich spiele.

00:38:08.420 --> 00:38:10.300
Speaker 0: Du hast so eine iPad oder hier hast du was Süßes Blatt.

00:38:11.480 --> 00:38:18.520
Speaker 0: Kein Erziehungsratschläge hier übrigens von mir sondern mehr im Sinne von wie du richtig sagst, du hast dann die Inbox voll mit, jetzt muss ich noch prüfen.

00:38:18.560 --> 00:38:19.960
Speaker 0: Dann hab' ich keinen Bock mehr.

00:38:21.060 --> 00:38:25.740
Speaker 0: Das bedeutet übrigens und das ist ja eigentlich die große Herausforderung, der wir uns auch immer stellen von wegen.

00:38:26.420 --> 00:38:28.080
Speaker 0: Was ist jetzt wirklich Digitalisierung?

00:38:28.120 --> 00:38:30.680
Speaker 0: Was ist Transformation auch im KI-Kontext?

00:38:30.920 --> 00:38:41.920
Speaker 0: Es macht keinen Sinn dass ich sozusagen hingehe und sage okay bis anhin habe ich zum Beispiel mein Recherche Prozess oder meinen Offwerten oder meinen Pitchprozess so und so gemacht und Ich bin da reingegangen.

00:38:42.780 --> 00:38:47.140
Speaker 0: Und ich mache das eins zu eins für die KI nur dass ich dann Schluss sozusagen gucken kann.

00:38:47.200 --> 00:38:49.000
Speaker 0: hat sie das gemacht was ich gemacht hätte?

00:38:49.900 --> 00:38:51.520
Speaker 0: sondern du musst den Prozess umkehren.

00:38:51.600 --> 00:38:57.680
Speaker 0: Das bedeutet, du gehst dir und sagst okay wir brauchen ja regelmäßig Research also bauen in Research-Datenbank.

00:38:57.980 --> 00:39:00.720
Speaker 0: Wir brauchen regelmäßig Designs also haben wir Designs Guidelines.

00:39:01.240 --> 00:39:11.040
Speaker 0: Und wir haben mindestens Anforderungen vielleicht ABC drei Slides, neun Slides zwölf Slides und basierend darauf formulierst du dann die Aufgabe als System.

00:39:11.320 --> 00:39:16.460
Speaker 0: ganz konkret sagst du jetzt nicht von wegen mach mir die Recherche oder wählst aus Variante ABC.

00:39:17.580 --> 00:39:19.440
Speaker 0: Du weißt, ich habe die C-Variante gewählt.

00:39:19.560 --> 00:39:22.800
Speaker 0: Das sind zwölf Slides und da hab' ich so zwei drei Kontrollfragen drin.

00:39:22.860 --> 00:39:23.920
Speaker 0: Sind die zwölfe Slides drin?

00:39:23.960 --> 00:39:25.240
Speaker 0: Hat sie Design-Gate-Lines benutzt?

00:39:25.540 --> 00:39:27.540
Speaker 0: hat sich hier wirklich auch dieses richtige Referenzierter.

00:39:27.580 --> 00:39:36.580
Speaker 0: So du musst schon noch mitdenken aber wenn wir es einfach nur digitalisieren um die Leute nach fünfzehn Schritte sozusagen abhaken müssen.

00:39:36.740 --> 00:39:37.580
Speaker 0: das wird nicht funktionieren.

00:39:40.000 --> 00:39:49.720
Speaker 1: Jetzt müssen Unternehmen wie du ja schon gesagt hast Sie müssen sicher drum kümmern und sie können so eine Sicherheitsrichtlinie also Papier oder die Festplatte ist ja geduldig und das Internet auch.

00:39:51.000 --> 00:40:06.680
Speaker 1: Du kannst solche Regelungen ja festlegen, aber woran merkst denn du wenn du jetzt in einem Unternehmen bist dass die zwar den ersten Schritt so eine Regelung zu finden gut vollzogen haben, aber in der Umsetzung einfach noch viel zu viel Freiraum da ist?

00:40:08.560 --> 00:40:15.280
Speaker 0: Das merke ich eigentlich relativ schnell, wenn du die Leute auch fragst, was hast du heute mit KE gemacht und weißt du was die KE für dich gemacht hat?

00:40:19.640 --> 00:40:20.680
Speaker 0: komplexe Angelegenheit.

00:40:20.800 --> 00:40:23.360
Speaker 0: und gleichzeitig wissen wir, Menschen finden immer Wege.

00:40:23.640 --> 00:40:30.660
Speaker 0: Also Menschen finden Wege damit sie halt ihre Arbeit für einen fairen Lohn, den Sie empfinden in der fairen Zeit auch umsetzen.

00:40:31.580 --> 00:40:43.740
Speaker 0: Und das ist natürlich dann die große Herausforderung des Managements dass vielleicht als nächstes ein abgeschafft wird weil die Mitarbeiter sagen für ihn ja ich habe ihn erkennt nicht muss mich selbst managen ich brauche es nicht mehr irgendwie rausfinden muss.

00:40:44.760 --> 00:40:50.800
Speaker 0: Das ist schon eine Crocs und da merkst du dann auch Wo hast du wirklich eine Firmenkultur, die es auch zulässt?

00:40:51.280 --> 00:40:56.360
Speaker 0: Und diese Reibung auch dann sagt okay jetzt aber das geht so nicht und das klappt so nicht.

00:40:56.560 --> 00:40:57.800
Speaker 0: Das müssen wir noch mal anschauen usw.

00:40:58.840 --> 00:41:00.820
Speaker 0: Welche Unternehmen muss man schon aushalten?

00:41:01.340 --> 00:41:02.000
Speaker 0: Da gibt's nicht viele!

00:41:02.660 --> 00:41:07.000
Speaker 0: Weil die meisten machen Dienst nach Vorschrift und haben eher Angst dass sie ihre Ziele nicht erreichen.

00:41:07.200 --> 00:41:10.120
Speaker 0: Dann ist er Push push push und ist schon gut.

00:41:10.300 --> 00:41:11.020
Speaker 0: ich habe jetzt gemacht.

00:41:11.640 --> 00:41:14.060
Speaker 0: Das ist schon ne Realität der ich oft begegne.

00:41:17.020 --> 00:41:31.260
Speaker 1: Im Kern gehts ja darum Wenn ich das jetzt mir so vor Augen halte, dass du letztendlich klare Regeln für die Anwendung Auswahl von Modellen und die Nutzung von KI-Modellen in einem Unternehmen hast.

00:41:31.380 --> 00:41:33.840
Speaker 1: Also die klassische KI-Gavanets, sagen wir mal!

00:41:36.140 --> 00:41:43.920
Speaker 1: Wenn Du jetzt einen mittelständischen Unternehmer vor Dir hast – und ich weiß, Du arbeitest ja auch viel mit mittelständigen Unternehmen zusammen – was würdest Du dem sagen?

00:41:45.640 --> 00:41:47.380
Speaker 1: Was wäre ein gutes Vorgehensmodell?

00:41:48.560 --> 00:41:55.660
Speaker 1: Für sich selber zu strukturieren, was brauche ich damit dich eine pragmatische KI-Governance in meinem Unternehmen implementieren kann?

00:41:55.700 --> 00:41:57.680
Speaker 1: Die dann auch die Leute befolgen können und wollen.

00:41:59.140 --> 00:42:07.960
Speaker 0: Ich glaube das Wichtigste ist sich bewusst machen dass KI keine Sonderkompetenz ist sondern dass KI der nächste logische Schritt in der Digitalisierung stattfindet.

00:42:08.740 --> 00:42:19.200
Speaker 0: Das bedeutet wir müssen uns erstmal Gedanken machen und anschauen wegen wie digital sind wir unterwegs Bei Systemen, Prozessen, Zugriffen und Kompetenzen von den Menschen.

00:42:20.060 --> 00:42:32.300
Speaker 0: Basierend darauf braucht es schon eine gewisse Vision wo wir hin wollen, wo wir sagen, wo können wir durch Technologieeinsatz im Klammer KI hingehen und die Qualität erhöhen?

00:42:33.380 --> 00:42:38.420
Speaker 0: Die Geschwindigkeit, sprich den Output oder auch entsprechend die Kosten reduzieren?

00:42:39.220 --> 00:42:43.500
Speaker 0: Und das darf aber nicht als rundum Schlag gelten und auch nicht im Sinne von ich habe jetzt.

00:42:44.160 --> 00:42:53.260
Speaker 0: Ich bin digital alles funktioniert, sondern du gehst ganz gezielt auf einen ganz klaren Anwendungsfall hin.

00:42:53.840 --> 00:43:04.380
Speaker 0: use case und der Anwendung fall den ich dir lustigerweise immer zuerst höre ist ich hätte gerne dass meine emails automatisch beantwortet werden.

00:43:04.660 --> 00:43:12.200
Speaker 0: das wünschen sich alle wirklich brauchen tun sie allerdings einen Zugriff auf Know-how des Unternehmens.

00:43:14.020 --> 00:43:29.740
Speaker 0: Und das ist oftmals, was wir rausfinden in Workshops, dass die Leute zwar sagen ja ich hätte gerne mehr Produktivität, sprich weniger E-Mails, wenige Anfragen bla bla, wenn du aber reingehst dann merkst du nee ihr habt ein Problem beim Businessmanagement, ihr wisst ja gar nicht wer was wo macht und was der letzte Stall sonst weiter.

00:43:29.980 --> 00:43:42.940
Speaker 0: Lass uns das zuerst klären weil wenn wir dann so weit sind Das wem ist beantworten kannst du immer noch auf dieses nur zugreifen, aber du hast schon verstanden dass es wichtig ist das hier pflegst bevor du hier antworten kannst.

00:43:45.320 --> 00:44:08.640
Speaker 1: Wenn du morgen früh als noch frisch eingestellter CIO eines Konzerns antreten würdest und schaust du auf das System und welchen Stecker so lange nicht ganz klar bist Was dich da erwartet, welch Stecker ziehst du als allererstes damit nichts anbrennen kann im Umfeld von Kai?

00:44:10.020 --> 00:44:18.380
Speaker 0: Ich würde hundertprozenten Zugriff auf nicht autorisierte KI-Systeme für den Tag verbieten.

00:44:19.840 --> 00:44:24.340
Speaker 0: Das wird dazu führen dass wir ganz viele Beschwerden kriegen und ganz viel gemummelt werden.

00:44:24.400 --> 00:44:31.260
Speaker 0: das ist gut aus dem einfachen Grund weil Ich erlebe ganz oft, dass man zwar KI einführt im Unternehmen.

00:44:31.400 --> 00:44:34.400
Speaker 0: Aber effektiv haben sie die Mitarbeiterinnen und Mitarbeiter längst angeführt.

00:44:35.820 --> 00:44:40.040
Speaker 0: Und solange diese Reibung nicht hast und dir bewusst ist für wegen ja was wird jetzt genutzt?

00:44:40.100 --> 00:44:43.760
Speaker 0: Und wie kannst du nicht hingehen und sagen ok ich verstehe Du brauchst dieses Tool.

00:44:44.280 --> 00:44:45.440
Speaker 0: Was löst dieses tool für dich?

00:44:45.760 --> 00:44:52.420
Speaker 0: Lass uns hier eine offizielle Lösung finden und lass uns gucken das alle davon profitieren Nicht nur du weil du es einen Weg gefunden hast.

00:44:53.560 --> 00:45:02.580
Speaker 0: Die Leute nur schätzen massiv Wie gefährlich gewisse dinge sein können gerade jetzt, wenn du einfach irgendwie ein wild wuchs hast und gewisse Dinge einfach zulässt.

00:45:03.060 --> 00:45:14.560
Speaker 0: ich erlebe immer noch dass viele Menschen beispielsweise auch mit irgendwie Plot das sind diese kleinen Dinger die du hinten ans Handy anmachen kannst Mietingsdrehen setzen ohne leute zu informieren.

00:45:15.400 --> 00:45:21.580
Speaker 0: Dass ihr aufzeichnen Das darf schon in einem halt irgendwie im Büro mit haben.

00:45:21.640 --> 00:45:22.000
Speaker 0: der ist da.

00:45:22.120 --> 00:45:22.800
Speaker 0: macht dann.

00:45:26.000 --> 00:45:29.460
Speaker 0: Ich glaube, ich will nicht als Controlfreak gelten.

00:45:32.360 --> 00:45:36.160
Speaker 0: Wir sagen bei uns in der Schweiz immer so auch beim Bergsteigen halt stoppsicher.

00:45:37.520 --> 00:45:44.000
Speaker 0: Also dass du wirklich mal hingehst und sagst, guck mal sind alle eingefädelt haben wir ja wirklich die Karabinen am richtigen Ort?

00:45:44.060 --> 00:45:47.780
Speaker 0: sind sie in der richtigen Fluchtrestive-Laufrichtung drin?

00:45:48.120 --> 00:45:51.560
Speaker 0: Und dann geht es weiter weil ich hab hinter mir nochmals sechs Leute.

00:45:52.260 --> 00:45:53.220
Speaker 0: für die habe ich eine Verantwortung.

00:45:56.260 --> 00:46:05.860
Speaker 1: ganz zum Schluss noch eine Frage Gibt's ein KI-Tool oder irgendeinen Agenten, der dich in letzter Zeit super begeistert hat?

00:46:06.060 --> 00:46:09.580
Speaker 1: und gibt es irgendetwas wo du sagst da bin ich jetzt wirklich beunruhigt.

00:46:13.540 --> 00:46:25.060
Speaker 0: Wirklich begeistered hat mich... ...wirklich das neue Sprachmodell von ChatGPT also ChatGpT Voice mit der Live Funktion.

00:46:26.960 --> 00:46:33.580
Speaker 0: Ich bin wahnsinnig überrascht, wie gut und wie human es wirkt mit Zwischentöten.

00:46:34.940 --> 00:46:37.240
Speaker 0: Es hört auf sich auch zu und es gibt dieses Feedback.

00:46:37.800 --> 00:46:46.160
Speaker 0: Und ich verstehe hundert Prozent warum die Leute sich entweder verlieben, sich das als beste Freundin wünschen oder gewisse andere Dinge damit machen.

00:46:46.420 --> 00:46:47.360
Speaker 0: Dann steh' ich hunderte Prozent!

00:46:47.800 --> 00:46:53.900
Speaker 0: Ich bin begeistert, wie die Latents her so wie diese Verzögung praktisch nicht existiert und es versteht auch mein Schweizer-Deutsch beispielsweise.

00:46:53.940 --> 00:46:54.840
Speaker 0: Das finde ich extrem gut.

00:46:55.880 --> 00:46:56.800
Speaker 0: Was hat mich extrem?

00:46:57.060 --> 00:46:57.220
Speaker 0: dann?

00:46:57.340 --> 00:47:10.280
Speaker 0: gleichzeitig auch erstaunt ist, dass in dem Moment dieser Statistik herauskam was die Leute mit KI machen und den Top zehn Dingen sind persönliche Probleme Beziehungsprobleme Entscheidungshilfen Arbeitsbuddy.

00:47:10.820 --> 00:47:23.340
Speaker 0: Das heißt wir haben uns schon so krass darauf verlassen weil sie so gut klingen und unseren Gefühl geben das es gut ist und gut kommt dass wir praktisch alle wichtigen Entscheidungen unserem Leben auslagern.

00:47:24.540 --> 00:47:29.240
Speaker 0: Dieses Kognitive Offloading und dieses Bewusste, sich auf die Maschine verlassen.

00:47:29.300 --> 00:47:29.660
Speaker 0: Das macht mir

00:47:29.700 --> 00:47:29.900
Speaker 0: Angst.".

00:48:08.740 --> 00:48:11.860
Speaker 2: Und damit sind wir am Ende der heutigen Sendung von CXTalks angekommen.

00:48:12.820 --> 00:48:22.000
Speaker 2: Ich hoffe, diese Analyse der aktuellen KI-Risiken hat hier wertvolle Impulse gegeben um Projekte und Workflows in deiner eigenen Organisation noch einmal kritisch zu hinterfragen!

00:48:23.060 --> 00:48:35.720
Speaker 2: Wenn dir unser Austausch gefallen hat – und du auch in Zukunft keine fundierten Diskussion an der Schnittstelle von Kundenzentrierungen, Technologie und Führung verpassen willst dann abonniere CXTALKS direkt in der Podcast

00:48:35.820 --> 00:48:35.900
Speaker 1: ab

00:48:36.320 --> 00:48:37.320
Speaker 2: Deines Vertrauens.

00:48:38.220 --> 00:48:43.620
Speaker 2: Lass uns gerne eine fünf Sterne Bewertung da und diskutiere auf LinkedIn mit mir zu den Inhalten dieser Folge.

00:48:43.660 --> 00:49:15.760
Speaker 2: Bis zur nächsten Folge, bleibt gesund, optimistisch und immer mit dem Kunden im Herzen!