Ann-Kathrin De Moy: So, Technik steht. Herzlich willkommen zu einer neuen Folge, heute eine Sonderfolge. Und ich bin super dankbar, dass Michael und Florian heute bei uns sind. sagen gleich nochmal zwei Worte zu sich. Mit Michael haben wir schon eine Folge gemacht zum Thema KI im letzten Jahr. Wir haben vorhin geguckt, ist genau ein Jahr her. Deswegen cool, dass du heute nochmal wieder bei uns bist. Und warum das Ganze?
weil wir in den letzten Wochen immer mal wieder Veranstaltungen hatten im Verband zum Thema KI und warum es so wichtig und relevant für uns als Vertriebsführungskräfte ist und immer wieder auch Fragen kamen, ja wie ist denn das mit dem Datenschutz, wie ist das mit der Sicherheit, welche Auswirkungen hat das neue KI-Gesetz für uns als Vertriebsmanager und ich bin ehrlich gesagt nicht die Expertin,
Ja, doch, fast 90 Prozent meines Wissens habe ich von Michael in unserer letzten Podcast-Folge. Also, da kehre ich nochmal rein. Ich stochere da sehr in der Oberfläche. muss man ja da an der Stelle auch nochmal einfach sagen. Deswegen toll, dass ihr heute da seid. Das ist besser, wenn Michael und Florian heute die Fragen beantworten. Aber bevor wir in die Thematik gehen, ihr zwei, stellt euch doch mal vor, Florian, vielleicht verdatest du einmal,
warum du heute mit dabei bist.
Florian Läpple: Also der EUAI Act ist ja in aller Munde und hat ja für Furore gesorgt, seitdem im letzten Jahr verabschiedet wurde. Und ich bin bei uns, bei der W &W AG zuständig in der Projektleitung für die Umsetzung der Anforderungen bei uns im Konzern. Und freue mich heute auch hier zu sein. Vielen Dank für die Einladung, vielleicht auch ein bisschen Licht ins Dunkel zu bringen, was der EUAI Act ist und was er auch für Auswirkungen hat.
Ann-Kathrin De Moy: Danke. Und Michael, hast eine andere Rolle, seitdem du letztes Jahr bei uns warst. Vielleicht magst auch nochmal erzählen, was dich gerade umtreibt.
Michael: Genau, also eigentlich Florian ist ja in meinem Team verantwortlich, den EU-AI-Act anwendbar zu machen, dass wir uns diesen Thema stellen. Und am Ende, ich bin der, ich trage die Schuld. Nein, die Verantwortung mit dem ganzen Thema soll KI in unsere Datenprozesse bringen. Und vor dem Hintergrund ist halt wichtig, dass wir uns auch den Risiken stellen, die Sachen angehen, aber bei all den Risiken halt auch nicht vergessen, den Nutzen zu stiften.
und in pragmatische Dokumentationen zu kommen. so ein bisschen Spoiler, wenn man sich die Medien ja gerade anguckt. Es könnte kompliziert werden, muss es aber nicht. Und ich glaube, Florian kann da dann auch Hands-on-Sachen direkt sagen, wie wir uns der Thematik stellen. Also dementsprechend. Wir lösen es gerade und sind gut dabei, glaube ich.
Ann-Kathrin De Moy: Genau, vielleicht können wir starten mit wirklich dem Thema AI Act. Was steckt eigentlich, was steckt dahinter für die ganzen vielen Vertriebler, Vertriebsverantwortlichen in der Welt, die jeden Tag oder jede Woche, so geht es mir zumindest, mit irgendeinem neuen tollen Tool konfrontiert werden. Wir sind ja gut vernetzt und unser Netzwerk empfiehlt da stetig neue Tools. Heute habe ich wieder, was war das?
Google Notebook empfohlen kommen. Unbedingt, unbedingt. Das ist so geil. Das musst du probieren. Sodass ich mich mit den Hintergrundinformationen eigentlich herzlich wenig beschäftigt habe. Also vielleicht könnt einer von euch erstmal wirklich in groben Zügen die Rahmenbedingungen skizzieren, was da eigentlich so beschlossen wurde, was da auf uns zukommt von der rechtlichen Seite ganz.
Michael: Ich glaube, die groben Sachen als Einstieg, bevor Florian ins Detail gehen kann. Wir haben mit KI eine Neuerung, dass wir Funktionalitäten in der Geschwindigkeit kriegen, wie wir es bisher noch nicht hatten. Auch aus Dingen lernen, was so nicht da war. Was wir jetzt sehen, ist, dass sich die EU der großen Macht und der großen Verantwortung bewusst wird und sagt, wir müssen die Anwendungen, den Menschen und auch die Sicherheit des Menschen in den Fokus setzen. Das ist der Kern.
Da gibt es dann risikobasierte Ansätze, ein Anwendungsfall mit hohem Risiko, wo es zum Beispiel die Gesundheit oder Leib und Leben geht, hat eine andere Regulatorik als ein Case, wo ich nur noch was in Anführungszeichen transkribiere. Was wir aber auch nicht vergessen dürfen, das haben wir im letzten Podcast diskutiert, auch ein Transkribieren kann eine Datenschutzverletzung nochmal nach sich führen.
Und am Ende gibt uns der EU-AI-Eck da einen Rahmen vor, an dem wir uns entlanghangeln, KI kritisch zu bewerten, zu dokumentieren und die Hausaufgaben zu machen, dass wir im Zweifel auch nicht in einer orwischen, unregulierten Welt landen. Und Florian hat da auch immer so Punkte. Es geht ja den Menschen. Und hat da einfach auch noch mal nette Konkretisierungen, die ich ihm einfach mal geben würde, ein Gefühl zu geben. Weil ich glaube, das kann man dann auch noch greifbarer machen als bei der allgemeinen
Florian Läpple: Genau, also wie Michael schon richtig gesagt hat, letztendlich zielt die EU-KI-Verordnung darauf ab oder auch der EU-AI-Act, die verantwortungsvolle Entwicklung und den Betrieb und Verwendung von KI im EU-Raum sicherzustellen, um einfach einen sicheren Rahmen zu schaffen, damit sich auch der Betroffene, mit einem KI-System interagiert, also auch als Endnutzer, sich sicher sein kann, dass seine Daten nicht missbräuchlich verwendet werden.
dass er nicht in irgendeiner Weise manipuliert oder beeinflusst wird. Und hier setzt der EU-KI-Act an. Viele sagen auch, die EU verfolgt damit eine CE-Zertifizierung von KI-Systemen. Ich breche es immer ganz schön auf oder übertrage das immer in die Welt der Werkzeuge, dass ich sage, was will der EU-E-Act eigentlich bei KI-Systemen?
wenn man jetzt beispielsweise eine Tischkreissäge mal hernimmt. Dann muss der Anbieter oder der Hersteller von der Tischkreissäge auch dafür sorgen, alle Schrauben sicher verankert sind in der Entwicklung, damit wenn die Tischkreissäge betrieben wird, nicht das Sägeblatt durch die Gegend fliegt und muss auch eine Betriebsanleitung demjenigen zur Verfügung stellen, wie er mit dieser Tischkreissäge umgehen muss.
damit er auch die besten Ergebnisse erzielt und der sichere Einsatz gewährleistet ist. Auf der anderen Seite gibt es dann den sogenannten Betreiber im EU-AI-Act, der gleichzusetzen ist so ein Stück weit auch mit dem Nutzer der Tischkreissäge, der seinen Mitarbeitern auch wiederum, die er mit dem Betrieb der Tischkreissäge befakt oder beauftragt, die Not über Arbeitsschutz
Maßnahmen über Schulungen, wie mit der Tischkreissäge umzugehen ist, die notwendigen Kompetenzen vermitteln muss, dass auch der Mitarbeiter, der mit der Tischkreissäge hantiert, jetzt nicht seine Hand in die Tischkreissäge, in das Sägeblatt, ja, oder mit der Hand in die Tischkreissäge fest, sodass seine Hand weg ist. Und ähnliche Anforderungen stellte EU AI Act auch. Also man hat
Florian Läpple: die zwei Hauptakteure, einerseits den Anbieter, andererseits den Betreiber. Der Anbieter ist für die sichere oder verantwortungsvolle Entwicklung zuständig, dass auch datenschutzrechtliche Themen eingehalten werden. Er ist auch verantwortlich, eine Betriebsanleitung mitzugeben, wie mit dem KIT-Thema umzugehen ist. Und der Betreiber ist dann wiederum verantwortlich,
das KI-System in einem sicheren Rahmen im Unternehmen einzuführen, den Mitarbeitern die notwendigen Kompetenzen zu vermitteln, dass auch der Mitarbeiter die Ergebnisse, die das KI-System produziert, auch richtig einschätzen und bewerten kann, dann auch für die Betroffenen, letztendlich je nach Anwendungszweck mit dem KI-System in Kontakt kommen, dann dementsprechend auch die Sicherheit haben, dass jetzt mit dem System kein Schindelude getrieben wird.
Ann-Kathrin De Moy: Und die darf ich zwei Fragen. Das klingt super nervig und super kompliziert. Wir Vertriebler sind ja nicht so viel nervig und kompliziert. Wir wollen ja agil sein, neue Sachen ausprobieren und die dann auch umsetzen können. Ist der große Zauber der KI vorbei? Also, welche Verantwortung? Also, wer ist der Betreiber? Ist der Betreiber, verantwortlich ist, die Person, die es nutzt? Oder kann es der Vertriebsmanager oder die Vertriebsmanagerin sein? Oder muss das das Unternehmen sein?
Ann-Kathrin De Moy: Das zweite ist tatsächlich auch, also das klingt halt so sehr nach, da geht die Geschwindigkeit wieder raus.
Michael: Also ich... Ich glaub...
Michael: Also zum einen, je nachdem, wie ich das Ganze ausgestalte, kann es natürlich sehr, sehr viel Dokumentation sein oder eine sinnvolle Geschichte. Was wir aber auch nochmal sagen müssen, also sowohl im Vertrieb als auch ja hier in dem Verband, aber auch in anderen, es gibt ja jetzt nicht den Vertrieb, der gleich aussieht. Also wir als integrierter Finanzkonzern, wir haben halt exklusiv Vertriebe, die für uns arbeiten, die aber auch eigenständige Unternehmen sind.
Wenn wir denen Funktionalitäten ausrollen, ob das jetzt nachher eine KI-basierte Anwendung ist oder auch irgendwelche Plattformen, denen sie arbeiten, da sind wir ganz schnell in Betreiber- und auch Anbieterhaftungen. Es gibt auch Situationen, du jetzt als sozusagen exklusive Agentur deinen Mitarbeitern die Funktionalität weitergibst, dass da auch nochmal Verpflichtungen kommen.
Für den normalen Anwender jetzt, der zum Beispiel als kleineres Unternehmen sagt, ist auch nochmal der Punkt Datenschutz, welche Tools nutze ich, weil da seid ihr sozusagen die Anwender eines zentral bereitgestellten Tools und wir müssen einfach nur gucken, dass wir sichere Instanzen davon kriegen, aber die Problematik kommt halt raus, wenn du jetzt in der Agentur mit mehreren Niederlassungen bist oder wie wir im Konzern...
wie wir uns halt dieser Thematik stellen. Und da kommen dann halt ganz schnell Betreiber- und Anbieterkonstrukte heraus. Das Ganze kann man klären, aber man muss sich halt der Sache bewusst sein. Und auch meine Gespräche, und Florian, du bist ja auch mittlerweile mit vielen Juristen und Co. im Austausch, da merkt man halt, dass wieder viele Leute sich dessen gar nicht bewusst sind. Und ich glaube, das ist auch noch mal wichtig. Man kann da viel pragmatisch und schlank machen.
Aber man muss wissen, dass da was kommen könnte. Deshalb ist auch, glaube ich, gut, dass wir heute mal darüber reden und wieder ein bisschen sensibilisieren. Und es macht halt einen Unterschied. Einzelunternehmen, Großkonzern, Vertriebsnetz mit Agenturen oder nicht. Das sind halt Parameter, die man gucken muss, die halt dann aber auch die Dokumentationsaufwände eventuell verändern.
Ann-Kathrin De Moy: In der zweiten Punkt ist, ich habe immer noch Menschen, mit denen ich mich unterhalte, die so Sachen sagen wie, KI tangiert mich in den nächsten zehn Jahren nicht. Das beschäftigt mich in meinem Umfeld. Das bringt mich auch nicht weiter im Vertrieb. Ich weiß aber, dass Mitarbeitende bestimmt mit KI arbeiten. Wir hatten ja in letzten Folge das Beispiel mit Diepel als Übersetzungsplattform, die ich sehr...
die ich ja unbedacht benutzt habe, auch E-Mails zu übersetzen, wo du mir Michael ja noch mal ganz lang gesagt hast, so, Herr Anni, was machst du da? So Datenschutz und so. In der Free Version sollte man vielleicht nicht machen. Kann ich mir das erlauben? Und habt ihr vielleicht so drei, vier Punkte, wo ihr sagt, jede Vertriebsführungskraft befolgen und wissen muss? Gibt es so eine Checkliste oder gibt es...
so ein, wie sagt man dann, irgendeine Guide Line, die man sich halten kann, damit man nicht zu aufwendig ist, aber auch irgendwie gut fährt mit der Thematik.
Michael: Ich würde vorschlagen, ich komme allgemein und Florian du ergänzt dann noch mit KI-Act, weil eine Sache ist, denkt an eure Daten. Also wenn etwas nichts kostet oder zu günstig ist, zahle ich mit meinen Daten. Und da muss ich halt gucken, sind es wirklich nur meine, sind es die von Kunden, sind es von Partnern und eben bewusst auch sein, dass ich Dinge rein geben kann. Also wir hatten es ja, wie du erwähnt hast, mit Dieb.
Ann-Kathrin De Moy: Wer will, rein.
Michael: Wie kann man Daten reingeben? Moment, E-Mails habe ich inklusive Klarnamen in die Übersetzung gegeben. Das war ja das Beispiel. Also ich muss das wissen. Also dementsprechend überlegt, was gebe ich rein. Gleichzeitig dann von den Anwendungsfällen. ich war auch auf Vertriebstagungen, wo ich eine Session dreimal mit der gleichen Zielgruppe hintereinander gehalten habe. In der ersten hieß es Michael, wann gibt es mehr KI für uns? Der zweite meinte, Michael, warum bist du der KI so kritisch gegenüber, war die Meinung.
Ann-Kathrin De Moy: Ja.
Michael: Und die dritte Gruppe, die gleiche Peergroup, also KI, brauchen wir ja eigentlich eh nicht. Wir haben das immer schon so gemacht. Das interessante war dann aber, in der Diskussion mit den Leuten kommen dann halt Themen auf. Also ich habe so junge, wilde Agenturisten, dann sagen, wir haben da hier die Professoren, die Doktoren, die dann irgendwie eine Police wollen und die nutzen halt dann
Ann-Kathrin De Moy: Ja.
Michael: ein Sprachmodell, es in der richtigen Sprache zu machen für Ihre Kundengruppe. Das ist ein relativ simpler Anwendungsfall, aber es ist eine andere E-Mail, wie wenn Sie es selber schreiben. Wir haben Bewertungsthemen, wo unser Außendienst langsam so Promtvorlagen gibt. Wie antworte ich denn auf eine negative Bewertung oder so was? Da sitzt er auch zum Teil vor dem Lehramtblatt. Also da gibt es schon Dinge, inklusive Zusammenfassungen.
Was ich aber wirklich interessant finde, ist, wie unterschiedlich die Sichten sind. Da brauchst du dann aber auch mal den Endmystizierer, die Person, die vielleicht auch mal spiegelt und Positives wie Negatives auf den Tisch bringt, um Impulse zu geben und zum Nachdenken anzuregen. Und was im Nachgang von der Person dann kam, die auch meinte, ich kann es mir nicht vorstellen, da kam dann, wo wir am Kaffee noch standen, gut, ich bin kurz vor der Rente, aber ehrlich gesagt, den Jungen, den ich mir als Nachfolger ausgesucht habe, der arbeitet auch schon anders.
Das sind auch nochmal die Themen, ich glaube das Bewusste ist es. Und Florian, beim EU AI-Eck kommen ja noch ein paar andere Dimensionen mit dazu. Da gibt es ja auch glaube ich nur ein paar Good Practices.
Florian Läpple: Genau, und an Kathrin du hast vorhin gesagt, muss man jetzt extremst viel beachten. Der Vertrieb will ja eigentlich nur verkaufen und den Kunden betreuen oder auch den Kunden beraten. Ich war selber eine Zeit lang im Vertrieb und kann das vollkommen nachvollziehen. Und das ist auch unser Ansatz, dass wir sagen, die ganze Bürokratie, den EU-AI-Act kann man zu einem bürokratischen Monster aufziehen, wenn man das möchte. Aber er bietet auch die Möglichkeiten, die Dinge
schmal umzusetzen, trotzdem Rechtssicherheit herzustellen, dann insbesondere den Vertrieb von diesen ganzen bürokratischen Themen zu entlasten, damit der Vertrieb das machen kann, wofür er da ist und wofür sein Herz brennt und die Leidenschaft hat, Kunden beraten, ihm die besten Produkte anzubieten, unterstützt durch KI-Lösungen. Und es lässt sich wahrscheinlich, insbesondere bei uns jetzt auch mit einer Ausschließlichkeitsorganisation im Vertrieb,
nicht in wahrscheinlich allen Fällen vermeiden, dass ein gewisser Dokumentationsaufwand entsteht. Aber das klare Ziel bei uns ist auch, sagen, den EU-AI-Act zu interpretieren, auszulegen, die Bürokratie im Hintergrund stattfinden zu lassen, die Komplexität anzunehmen, aber die Komplexität
Vertrieb fernzuhalten, damit er sich auf die wichtigen Themen fokussieren kann, für die er auch da ist.
Ann-Kathrin De Moy: Das finden wir ja sehr gut, den Ansatz. Dann könnt ihr vielleicht auch mal als Beispiel den ganzen, ja in den vielen Unternehmen uns mitgeben, wer wäre denn aus eurer Sicht die richtige Funktionseinheit, Person im Unternehmen, vielleicht auch ein bisschen gesplittet nach Konzern, Mittelstand und Start-up, der sich dann eben wirklich direkt mit dem AI Act auseinandersetzt.
und eben wirklich nur die relevanten Themen dann Richtung Vertrieb vorfiltert und anbringt.
Oder ist es der? Nein, das ist nicht der Vertriebsleiter. Ja, genau. Das sind die Diskussionen, die wir führen müssen. Und ich glaube, wir müssen auch nochmal entzaubern, was bedeutet Dokumentationsaufwand? Weil da weiß ich gar nicht, von was reden wir jetzt. Reden wir einfach nur davon, dass ich irgendwo schreiben muss, welches Tool ich benutze oder muss ich eine ewig lange Template jedes Mal ausfüllen. Aber diese Diskussion müssen wir führen, weil wenn nämlich es dann die Situation ist, braucht irgendjemand im Unternehmen, der diese Verantwortung trägt, dann sind wir ganz schnell wieder da.
Dass Vertriebsführungskräfte sagen, wieso ist das nicht meine Verantwortung. Das sehe ich nämlich anders. Ich glaube nämlich, dass wir da schon sehr in der Verantwortung stehen. Ja gut, fragen wir mal die Spezialisten.
Michael: Aber, Anni, ich glaube, das ist gar nicht meine Verantwortung. Also ich glaube, was wir auf jeden Fall brauchen, ist dieses Mindset. Ich habe da was Tolles, was mir einen Mehrwert liefert. Wir müssen jemanden finden, der die Verantwortung mit mir trägt und sich nicht zurückzuziehen. Es ist nicht meine Verantwortung. Ich mache es einfach mal, ohne zu wissen, was. Also wir brauchen da Leute und wir müssen gucken, dass wir es zusammenbringen. Weil irgendwann vor der Komplexität zu resignieren, ist der falsche Ansatz.
Aber wenn wir jetzt nochmal auf die unterschiedlichen Größen zurückgehen. Das Einzelunternehmen ist selbst und ständig. Also da wird es im Zweifel der Geschäftsführer in Personalunion in irgendeiner Form machen müssen. Ist aber aus meiner Sicht jetzt noch nicht so tragisch, weil da kleinere Dinge dahinter sind. Das ändert sich. Du hast ein Start-up erwähnt. Wenn du jetzt auf die Idee kommst, tolle Transkriptions-Services, KI-basierte Vorhersagen.
anderen Vertriebler zur Verfügung zu stellen, dann bist du halt als Start-up in einer Anbietersituation und musst dich stellen und nochmal ganz anders dokumentieren, weil du hast da ein Produkt, da bist du dann sozusagen wieder bei dem CE-Zeichen für dein Produkt. Und wenn wir jetzt in die größere
Ann-Kathrin De Moy: Wenn ich Startup für einen KI und für ein KI Tool bin. Nee, Hengis Startup.
Michael: Wenn du jetzt sagst, du willst, wenn du mit KI was selber vertreiben willst, genau, wenn du jetzt sagst, hier, Anni, du hast jetzt hier Dienstleistungen und deine KI ist so toll, das möchtest du Georg jetzt geldwertig oder auch zum Teil anbieten, dann lieferst du ihm ein Produkt und wird es das geben. Also das wäre der Start-up-Charakter dann nochmal mit, dass du einen Mehrwert daraus generierst und verkaufst. Und
Ann-Kathrin De Moy: Wir müssen noch ein paar reden danach. Ich habe schon wieder einige Fehler gemacht. ist super. Seht ihr die Leute, ich lerne hier jedes Mal dazu. Michael rettet mir hier jetzt meinen Arsch. Zum Glück machen wir nur einmal im Jahr Antwort. Das sollten wir öfters machen. Okay, sorry, wir dich wieder gebrochen. Abgedriftet.
Michael: und
Michael: meinte er, nehme die Schuld. Das zweite ist ja dann jetzt, wenn wir in größere Konstrukte kommen, dann haben wir einfach Anwendungen, die ja dann als Unternehmensanwendung ausgerollt werden oder eingekauft werden, die wir Leuten zur Verfügung stellen. Und in dem Zuge müssen dann halt gewisse, je nach Anwendungsfall, gewisse Dokumentationen gemacht werden. Und wer ist dafür verantwortlich? Also irgendwann hast du halt einen
IT-Verantwortlichen für Tools, der es in Personalunion mitmachen muss im Zweifel oder in größeren Konzernen, wie dann nachher bei uns, wo Daten, KI, Prozesse wichtig sind, rollen wie meine, der dann einerseits das Thema thematisch treibt, aber halt auch als Second-Line-Funktion grinsend gesagt die Schuld, die Verantwortung trägt und auch gewisse Dinge dann mitmacht. Und was bedeutet das am Aufwand?
Also am Ende, das Minimum, was wir gerade alle tun müssen, ist, als größerer Konzern ein Inventar zu machen von unseren Anwendungen. Welche Anwendungen haben wir? Was steckt da dahinter, sie zu dokumentieren? Jetzt wird das Ganze nun nicht so einfach. Jeder Softwareanbieter sagt heutzutage, meine Software hat KI, auch wenn da gar nicht viel dahintersteckt. Also gerade in unseren Einkaufsprozessen müssen wir da auch rein, KI zu bewerten. Das ist einfach eine Thematik. Und wie so eine Dok-
Ann-Kathrin De Moy: Und der Zwischenhaken, gereden wir denn, das ist nämlich ein wichtiger Punkt. Ich mache gerade meinen MBA in generative KI. Betrifft das nur generative KI oder betrifft das wirklich so, ich habe vorher für ein Trainingsunternehmen angearbeitet, da ging es adaptive Lernen, ist auch KI gestützt. Da weiß ich, so haben wir es gesagt, jetzt weiß ich es ist nicht. Beziehungsweise ist es eigentlich schon, weil wir keine Wenn Dann Lösung dahinter haben. Aber das würde jetzt zu weit führen. Aber
Michael: Ja.
Ann-Kathrin De Moy: Muss ich schon, wenn ich so wenn dann Lösung habe und sage, es ist eine künstliche Intelligenz oder muss ich wirklich erstens um generative KI ist oder bringe ich gerade alles durcheinander?
Michael: wenn dann unkritisch. Aber die lineare Regression aus der Mathematik, wir erinnern uns an 8. Klasse f von x gleich 3 x minus 2, wenn ich die mehrmals ausführe, kann das auch eine KI sein. Also es ist auch sehr generisch. Oder die OCR, die mir meine Texte erkennt. Also das ist da sozusagen, kann es sein, ist kein hohes Risiko, aber mit deinem Beispiel mit adaptiven Lernen.
Ann-Kathrin De Moy: Gut.
Ann-Kathrin De Moy: Ich kann nicht den Ebravos Kontexte
Michael: Die Regeln sind eigentlich gar nicht das Problem. Aber wenn wir im Lernen sind, Personalwesen ist laut EU-AI-Act als hochkritischer Fall definiert. Weil da geht es den Mensch, da geht es Chancengleichheit. Und wenn wir jetzt überlegen, du lernst und George trägt sich jetzt wo ein und macht hier eine Bewertung, dann hast du eine Skillmatrix. Was einfach dann auch im Zuge der Mitarbeitermitbestimmung, im Zuge der Bewertung der Mitarbeiter...
ein kritisches Thema sein kann, wo ich besondere Sorgfaltspflichten habe. Für mich als Einzelperson nicht, aber wenn ich jetzt im Konzern als Chef gucke, ist einfach schon ein Thema, wie gehe ich damit weil ich könnte es ja zu Mitarbeiterkontrolle, zu einer Leistungsbewertung machen und ich muss mir das Ganze dann irgendwie bewusst sein. Also diese Klassifizierung kann kritisch sein. Das muss man halt auch noch mal sehen und deshalb ist halt HR-Anwendungen
derzeit auf dem Papier vom EU-AI-Act sehr, sehr weit gefasst als kritisches Thema. Genau.
Ann-Kathrin De Moy: Okay. Okay, aber das jetzt, jetzt sind wir da. Danke dafür für die Einordnung. das wäre jetzt ein gutes Beispiel für mir. Wir lassen mal in den Vertrieb zurückgehen. Wann, wann musst du bei mir als Vertriebsemanager die, also ich habe verstanden, wenn ich meine Mitarbeiter weiterentwickeln möchte mit solchen Themen kritisch, muss ich mich mit beschäftigen.
Generative KI?
Michael: Nicht die Weiterentwicklung ist kritisch, die Bewertung sozusagen mit Skillmatrizen, die Einordnung der Mitarbeiterklassifizierung.
Ann-Kathrin De Moy: Genau, aber wenn ich solche Tools nutze. So, jetzt weiß ich oder ich zum Beispiel, geben wir mal mein Beispiel, wo ich jetzt auch gerade ein Webinar zugehalten habe. Ich gebe mal die Beispiele durch. Ich nutze Canvas, aus meinen Präsentationen Postings zu erstellen, also dass das angepasst wird und auch, mir zum Beispiel meine, the Canvas schlägt ja dann auch Bilder vor, die ähnlich sind.
wie die, schon habe. Es gibt mir Vorschläge für weitere Weiterentwicklung meiner Inhalte. Ist das kritisch? Muss ich das als Vertriebsmanager vorher absichern? Muss ich das protokollieren? Vielleicht können wir an den Beispielen uns langen. Oder reicht es, wenn ich einfach mit IT kläre, ich darf die Software kennen, weil jetzt nutzen.
Florian Läpple: Beim EU-AI-Act kommen mehr Wettpunkte zusammen, weil der EU-AI-Act schreibt Unternehmen unterschiedliche Pflichten vor und stellt unterschiedliche Anforderungen anhand zweier wesentlicher Kriterien. Das eine Kriterium ist, welchen Anwendungszweck verfolge ich mit dem KI-System. Dieser wird klassifiziert anhand von Risikoklassen in geringes Risiko, limitiertes Risiko.
Hochrisiko-KI-Systeme oder verbotene Praktiken. Im Idealfall durchläuft derjenige, der ein KI-System im Einsatz hat oder eine Softwarelösung in den Einsatz bringen möchte, einen Prozess, dass er sagt, er beschreibt kurz den Anwendungszweck, was er mit dieser Softwarelösung machen möchte. Und dann findet ein Zusammenspiel in der Regel zwischen unterschiedlichen Bereichen statt. Oder im Falle, dass es ein KI-
beauftragten Unternehmen gibt. Eine Bewertung anhand von einerseits dieser Risikoklasse und der Entscheidung bin ich in der Anbieter- oder Betreiberrolle. Und aus der Kombination aus Risikoklasse plus Akteursrolle ergeben sich dann die Pflichten. Wenn man jetzt beispielsweise Adobe Creative Cloud nutzt oder Canva, da ruft man ja nur eigentlich einen Service ab, wo man irgendwo gebucht hat.
hostet nicht selber, geht auf die Website, lockt sich mit seinen Credentials ein, führt in irgendeiner Form am Monatsende Betrag X ab und kann diesen Service nutzen. Da hat man dann ein KI-System im limitierten Bereich, wo man das nur dann in sein KI-Inventar mit aufnehmen muss, dass man diese KI-Anwendung nutzt. Dann gibt es die limitierten Risiken, die beispielsweise ein Chatbot.
Also wenn ich jetzt W &W, wenn ich jetzt Chat-GPT nutze oder bei uns in der Versicherung, in unserem Konzern haben wir einen internen gebauten W &W-GPT. Das gilt als limitiertes Risiko. Da habe ich dann besondere Transparenzpflichten, dass wenn ich das beispielsweise auch Kunden zur Verfügung stelle oder Bilder, Texte, die ich mir damit generieren lasse, eins zu eins übernehme, stellt der EUKI-Eck da die Anforderung, dass ich
Florian Läpple: dem Dritten gegenüber Ersichtlieb machen muss, dass er entweder mit einer KI interagiert oder dass die Inhalte, die eins zu eins übernommen worden sind, von einer KI generiert worden sind. Also dass man da gewisse Transparenzpflichten erfüllt.
Ann-Kathrin De Moy: aus Vertriebsperspektive eins zu eins bedeutet, wenn ich jetzt zum Beispiel mit Chechapiti oder Perplexity mir Zusammenfassungen oder Texte erstellen lasse und ich sie dann aber selber für mich nochmal umformuliere, weil ich sag jetzt nicht meine Tonalität oder nochmal einen Satz hinzufüge, dann muss ich es nicht mehr erkenntlich machen, richtig?
Florian Läpple: Genau, weil dann nutzt man dieses Zwischenergebnis, das die KI generiert hat, als Grundlage, dann in die Verfeinerung oder Redigierung von einem Artikel oder Ähnliches zu gehen. Es ist dann wieder die eigene Leistung, die dahinter steht, den finalen Schliff dem Ganzen zu geben. Ziel ist es einfach, auch wieder den Endverbraucher zu schützen, dass wenn man jetzt eins zu eins was übernimmt, was grob falsche Informationen wären.
dass diese dann nicht verbreitet werden, sondern dass man da einfach noch mal dieses im EUI Act, das ist Human in the Loop Prinzip oder unter menschlicher Aufsicht das Prinzip genannt, noch mal hat, dass das Ergebnis, wo ja auch gerade bei generativen Modellen auch Halluzination dahinter stehen kann, noch mal eine Sicherheitsprüfung hat oder so ein Quality Gate, in dem Fall der Mensch, der dann prüft, sind die Informationen korrekt und wie kann ich es weiterverwenden.
Ann-Kathrin De Moy: Ich habe eine Frage und ich habe Angst vor der Antwort. Der zweite Fall. Vielleicht müssen wir danach was rausschneiden, wer weiß. Und zwar mein bester Mitarbeiter, Fried. Der Fried ist ein Virtual Assistant, der mit mir in jedes Meeting kommt. Ich habe vor acht Monaten ein Baby bekommen, das heißt, ich habe wenig Zeit, meine Termine nachzubereiten. Musste aber aus Gründen direkt wieder, oder wollte direkt wieder arbeiten.
Das heißt, Fred kommt in jedes Meeting, geht auch in Meetings, in denen ich nicht bin und vertritt mich da und schickt mir die Zusammenfassung. Fred meldet sich an, vorher. Fred stellt sich auch vor, im Meeting wer er ist und er gibt auch die Datenschutzbestimmungen raus und so weiter und so fort. Aber das ist ja schon hochgradig schwierig. Richtig? Werdet Kenner schon? nicht, ob es jetzt genug war. Der Fred, also feierfleis.ai
Michael: Ne, also...
Ann-Kathrin De Moy: Und es gibt auch noch andere wie Co-Pilot und Co., die halt mitkommen, mit schreiben, aufnehmen, der transkribiert mir alles fast zusammen, schickt mir meine Jodus am Ende. Und schickt sie an alle auch, ne? An alle, die dabei waren, genau.
Michael: Also ich glaube das Entscheidende ist, wenn du nimmst jetzt dieses Transkribieren, man es jetzt... Also Transkribieren ist ja erst mal ein relativ simpler Case. Also der ist jetzt auch nicht wirklich komplex. Die Thematik, die du hier nur hast, wenn jetzt, also wir sind jetzt hier gemeinsam in einem Podcast und wir transkribieren das jetzt mit und schneiden das jetzt.
Ann-Kathrin De Moy: Sag bitte, was nett ist.
Ann-Kathrin De Moy: Mhm.
Michael: Dann ist halt die Thematik einerseits, es werden Dinge transkribiert, dauerhaft gemacht. Und die Leute müssen das Recht haben. Also du musst es erkenntlich machen, dass er drin ist. Wobei das ist eher eine Datenschutz-Thematik, das dem so ist. Und die Frage ist nachher, die du irgendwann klären musst, wie gehst du mit dem Transkript Wird es irgendwann gelöscht? Weil da hast du ja auch noch mal Löschfristen, wo ich denke, da wirst du im Zweifel nicht dran denken als Person. Aber da ist eher die Thematik ...
Ann-Kathrin De Moy: Mhm.
Michael: dass wir gucken, wie wir damit umgehen. Der Case, und Florian ergänzt mich, ist nicht so kritisch. Nur wenn wir in Konzernen gehen und auch wieder überlegen, wir haben ja gewisse Mitarbeiterschutzrechte, da muss ich dem Mitarbeiter das Recht geben, zu sagen, gehe ich da jetzt mit rein, ja oder nein? Oder anders gesagt, wenn ich jetzt offen hier irgendwelche Dinge erzähle, will ich vielleicht auch nicht, dass der Chatbot nachher mit protokolliert, weil einfach auch Dinge privat sein.
Und ich glaube, ist die Thematik, wo man halt gucken muss. Das ist eher die Thematik hier.
Ann-Kathrin De Moy: Hm.
geht mir damit Aber das macht er jetzt tatsächlich. der meldet sich an und man kann ihm auch widersprechen. Der wird auch oft ausgeladen. Dann frage ich immer, war das bewusst oder unbewusst? Möchtest du dir nicht dabei? Und meinst du sagen, ich wusste gar nicht, was das ist. Deswegen habe ich jetzt mal neingeklickt und laden wir ihn wieder ein. Das macht er. Das heißt, dann darf ich ihn bewerben.
Michael: Und eine Einschränkung, guckt bitte in die AGBs, wo die Daten nachher von dem Tool gespeichert werden, weil unabhängig jetzt vom EU AI Act, ihr erinnert euch DSGVO, war auch noch mal was, wenn halt da drin steckt, die Daten gehen außerhalb der EU, dann hast du halt da noch mal eine Thematik. Also da musst du rein technisch in die AGBs noch mal reingucken, weil jetzt nehmen wir den Fall, du bist hier in einem Meeting drin,
Ann-Kathrin De Moy: Ja.
Ann-Kathrin De Moy: Mhm.
Michael: Und wir unterhalten uns jetzt über ein Partnerunternehmen und da kommen irgendwelche Bilanzzahlen mit rein, die noch nicht veröffentlicht sind. Dann würden da jetzt im Worst Case Insider-Informationen, das ist auch immer so ein Standardfall für Trainings, deshalb kann ich es erwähnen, Insider-Informationen in die USA gehen und jetzt setzt den Fall, da guckt nachher jemand und kriegt jetzt mit, dass die Firma besser oder schlechter steht und verkauft Aktien rein hypothetisch, dann hättest du ein riesiges Problem im Zweifel.
Ann-Kathrin De Moy: Mhm.
Michael: Und das sind halt die Themen, man gucken muss. Also da ist eher der Datenschutz. Wo wird es gemacht? Ist das Ganze EU-konform? Den Case würde ich mit dem, es ist ein KI-Bot, wir sagen, der ist mit drin. Das, Florian ja auch gesagt hat. Also ich glaube, die Offenlegungspflichten werden erfüllt. Ich würde aber nochmal in die Vertragsbedingungen gucken. Geht es in die USA? Sind Server in Deutschland? Das ist nochmal die Thematik. Wo lege ich die Daten ab? Weil du halt auch nicht weißt, was die Leute erzählen.
Ann-Kathrin De Moy: Vielen
Michael: Und es kann Krankheits-, Personenbezug, was auch immer sein. Und gibt halt Daten, die sind kritischer als unser Smalltalk hier. Weil wo der jetzt gehostet wird, ist ja im Prinzip egal. Wir sagen ja nichts für Brot.
Ann-Kathrin De Moy: Und könnt ihr eine Aussage machen, wie gehen wir jetzt alle zusammen und ich weiß nicht, wie viele Prozent der Unternehmen, aber die meisten, mit Microsoft-Produkten Also MS Teams, dem Co-Pilot von Microsoft. Ist das denn sichergestellt, dass die Daten alle in der EU gehostet werden oder gehen die alle in die USA? Und jeder, ich hab mal gehört, eigentlich jeder, Microsoft-Produkte benutzt, der sowieso schon verraten und verkauft. Und das Ganze wird ja
noch mal umso kritischer für mich jetzt, weil das AI-Act ist ja nun beschlossen worden, bevor Mr. Elon Musk und Kollege Trump nun letzte Woche Rambo-Zambo gemacht haben.
Michael: Also wenn du die Datenschutzbeauftragten nimmst, gab es ja vor der Wahl die Situation, dass es mit der EU einen Deal gab, dass die Daten auch in der USA gleichzusetzen sind, wie wenn es jetzt in dem Rechenzentrum in Bayern liegt. Gleichzeitig hat sich jetzt mit der Wahl getan, dass gewisse Behörden, die das überwachen sollten, zumindest wenn man den Medien folgt, nicht mehr handlungsfähig sind. Also das Board von diesen sind von vier Leuten auf einen runtergeschrumpft. Da bin ich jetzt auch mal gespannt.
wie es hier sozusagen weitergeht. Und wenn wir jetzt aber Microsoft als Thematik nehmen, ich glaube wir müssen halt eine Sache unterscheiden, mit KI können wir Dinge verknüpfen. Und es gibt halt Tools, wo ich sagen kann, und ich nenne jetzt keine Namen, weil einerseits ich will kein Produktbashing machen, aber wenn ich halt jetzt meinen E-Mail-Account mit meiner Festplatte, wo ich Daten abgelegt habe, mit irgendwelchen Online-Datenbanken verknüpfen kann,
dann können da halt Informationen und bei uns als Finanzkonzernen, wir haben Personendaten aus einer Krankenversicherung, Lebensversicherung, die wir nicht mischen dürfen. Und die Gefahr bei den Tools ist, früher lagen die, das hat niemand gesehen und niemand hat darauf zugegriffen, weil die Leute gar nicht auf die Ideen kamen. Aber wenn ich jetzt sage, ich verknüpfe den Posteingang mit den Ordnern, mit dem Dokumenten-Store, dann kriege ich da plötzlich Informationen, weshalb auch Großkonzerne, glaube ich schon eher, den Weg gehen, das gerade noch bewusst
zu beobachten, weil die KI und das Sprachmodell ist an sich gar nicht das Problem, aber der Verschnitt der Daten, den du damit machen kannst, ist die Herausforderung.
Florian Läpple: Ja und insbesondere auf Microsoft bezogen, die haben jetzt, man könnte sagen pünktlich oder just in time, ihre Cloud-Dienste oder ihre Datengrenze für ihre Cloud-Dienste fertiggestellt. Wo sie sagen, als selbst verpflichtendes Argument, dass sie ihre Dienste auch weiterhin in der EU betreiben sollen, auch je nachdem wie es mit dem Data Privacy Act jetzt weitergeht, verpflichten sie sich.
dass keine Daten über, ich nicht alle Services, aber die meisten Services verarbeitet werden, innerhalb der EU-Grenzen bleiben. Also da ist einerseits natürlich auch von den Hyperscalern die Idee da zu sagen, von den Großkonzernen, wir etablieren auch Rechenzentren, sicherstellen, dass wir selbst im Notfall den europäischen Markt nicht verlieren. Da ist einiges an Aktivität im Hintergrund da. Weil...
dass es halt in Teilen ja auch sensible Daten sind und wie der Michael richtig gesagt hat, wenn man diese ganzen Verknüpfungen hat, die ja mittlerweile über manche Produkte hergestellt werden können und es läuft ja alles letztendlich bei einer Microsoft User ID zusammen, dann ist man ganz schnell in dem Fall, dass auf Basis dieser unterschiedlichen Datenpunkte ein Profiling möglich wäre und das gilt es halt auch dann nochmal zu beachten.
Ann-Kathrin De Moy: Ja, ja, ja, ich hab schon wieder. Ich weiß schon, was ich jetzt falsch gemacht habe. Könnt ihr mir noch mal aufklären, was das mit dem Dokumentationsding zu tun hat? Das hatten wir die App, du hattest das Lohren gerade kurz einmal angerissen. Aber was bedeutet das wirklich? Weil Dokumentation ist halt im Vertrieb. Das klingt halt immer super. Also wir sind ja schon haben Probleme damit, dass unsere Mitarbeitenden alle Informationen in die CRM Systeme einfliegen.
Michael: Annie guckt nicht glücklich.
Florian Läpple: ...
Michael: Mach's doch mal am Beispiel.
Ann-Kathrin De Moy: Das heißt, Dokumentation ist schon ein Wort für jeden Vertriebler, da verstecken wir uns irgendwo.
Florian Läpple: Also in der Regel, an den ganzen vorgelagerten Prozessschritten alles erfolgreich dokumentiert wird, also von der Entwicklung übers Onboarding von dem ID-System, dann fällt beim Vertrieb gar keine Dokumentation.
Ann-Kathrin De Moy: Halleluja! I like it! Das heißt?
Florian Läpple: keine Dokumentation, je nachdem, wie man es gestaltet. Weil der EU-AI-Act bietet auch sehr, sehr viel Raum für Interpretation aktuell. gibt viele unbestimmte Rechtsbegriffe, die aktuell immer mehr konkretisiert werden. Aber es ist immer auch eine Einzelfallprüfung.
Ann-Kathrin De Moy: Mhm.
Florian Läpple: weil man kann da keine pauschale Aussage treffen, weil der EU AI Act immer zweckbezogen KI-Systeme prüft, welcher Anwendungszweck wird verfolgt und anhand dessen wird dann bewertet Risikoklasse plus Akteursrolle, welche Auswirkungen kann das haben, gerade wenn man jetzt auch beispielsweise Dein Alfred nimmt als Assistenten, wenn man das Thema jetzt mal weiterdenkt und sagt, hey, du siehst eigentlich immer, wenn du in
Videokonferenzen bist, teilweise leere Gesichter oder abgelenkte Kollegen und du sagst dem Fred, pass auf, gib den doch mal aktives Feedback. Dass wenn du transkribier nicht nur, sondern mach mit Facial Recognition oder ähnliches, beobacht die und schickte nach dem Termin eine Auswertung, ganz im Sinne eines Coachings.
Michael: Buse!
Florian Läpple: Ja, ihr oder Michael war nicht so aufmerksam oder war extrem übermotiviert, weil er einen größten Gesprächsanteil hatte. Bei manchen Themen sollte er sich mehr einbringen, bei manchen Themen sollte er sich vielleicht zurücknehmen und gibst ihm dadurch Feedback auf Basis von Emotionserkennung oder ähnliches. Da bist du dann im Hochrisikobereich, weil du der wetischen Profiling machst.
Ann-Kathrin De Moy: Mhm.
Ann-Kathrin De Moy: Ihr lacht so darüber, Das kann ja mein Frieden. Also, Schorsch und ich, das wird so witzig. Das fängt schon an. Schorsch und ich haben uns darüber lustig gemacht. habe meinen Mann hier, der wird mich killen, dass ich das erkläre, erzähle. trotzdem, Michael Kennt mein Thema. Da ging es das Thema Gleichberechtigung und wie teilen wir uns jetzt hier die Care-Arbeit auf. Und weil das immer so ein Thema war und hinterher keiner mehr sich daran erinnern kann, was er denn versprochen hat, habe ich mal den Frieden mitlaufen lassen.
Und der Fred kann tatsächlich sagen, wer hat wieviel Gesprächsanteil, wo waren die Konfliktsituationen, wo waren emotionale Streitthemen. Also das kann der oft sagt eben, das war sehr lustig im Nachhinein, das sich anzugucken. In dem Fall haben wir es, wie gesagt, für privaten Zweck genutzt. Aber das kann mein Fred schon auch. Also es ist noch nicht so easy.
Michael: Also ich glaube, das Entscheidende ist ja, dass Wohl und Heil der eigenen Ehe ist nochmal ein anderes Thema. Aber was Florian ihr andeutet, also ist der Punkt, wenn wir halt auf Gesichtserkennung, Interaktionen, auf mehr als Text gehen, dann sind wir halt in anderen Fällen und ähnlich wie, wenn ich jetzt, wir haben vorher von Personal geredet, wenn ich halt einem Bewerber dann nachher hier sowas mitlaufen lasse,
Ann-Kathrin De Moy: In den Mund!
Ann-Kathrin De Moy: Das ist es.
Michael: bin ich in anderen Risikoszenarien. Aber was wir ja auch hier machen wollen, und das war auch ein Feindding, weshalb ihr uns ja wieder eingeladen habt, mit großer Macht kommt große Verantwortung. Und man muss sich dessen halt auch bewusst sein. Und am Ende jetzt nimm mich wieder als Chef von mehreren größeren Einheiten. Ich lass jetzt Fred mitlaufen und ich krieg halt dann jetzt rein hypothetisch gesagt, also es sind Anwendungen, wir nicht machen, aber rein hypothetisch.
Ann-Kathrin De Moy: Mhm.
Michael: Der reagiert jetzt mit und ich sehe jetzt halt, hat eigentlich nicht aufgepasst. Dann kommen im Zweifel noch irgendwelche psychologischen Geschichten, wenn es dumm läuft, noch raus in weiterführenden Sachen. Und dann bist du halt in Themen, die sind kritisch. Und glaube, dessen muss man sich im Klaren sein. Und deshalb ist ja auch so wichtig, den Leuten hinzuweisen, was gemacht wird. Also dieses Zuhören kann ja schon, wenn Leute nicht mehr meinen, offen sprechen zu können, weil sie denken, sie wollen nicht im Protokoll haben.
kann ja schon einschränkend sein. Aber einfach mimikgestig den Mensch zu erkennen, es ist wichtig zu zeigen, sich zu hinterfragen. Und es bedeutet ja nicht, dass man das nicht in allen Situationen nicht tun kann. Aber man muss sozusagen entscheiden, wo, wann, wie, unter welchen Bedingungen. Und da kommt ja auch mit dem, diesem Gesetz was hin. Wir müssen gucken, dass der Mensch im Vordergrund steht und nachher der Mensch ja nicht mehr der Sklave der Technologie. Und wir haben ja einen Schutz unserer Kunden.
Ann-Kathrin De Moy: Mh.
Michael: unserer Mitarbeiter, unserer Familien und Co. Und so wie du ja grinsen sagst, erträgt es ja mit, müssen wir auch bei den anderen Sachen die Sachen sehen und bewusst machen. Und die Erkenntnis ist glaube ich schon mal wichtig, dass es nicht so ganz trivial ist.
Ann-Kathrin De Moy: Okay, also das war jetzt ganz viel Stoff und es ist ein sehr komplexes Thema, haben wir an vielen Beispielen festgestellt, aber ich glaube wir konnten durchaus einiges aufklären. Wenn ich es jetzt mal für mich Revue passieren lasse, ich würde versuchen zusammenzufassen und ihr könnt ja gerne noch anfügen, ob das so vernünftig ist aus eurer Sicht, jetzt einfach, wenn wir eine Empfehlung aussprechen würden.
an die vielen Unternehmen da draußen. jetzt gerade eben die Vertriebsverantwortlichen, die uns zuhören, wie gehe ich jetzt damit Die kommen eben zu der Situation, heute das tool, morgen das tool empfohlen und ich will es einfach ausprobieren, damit ich natürlich auch einen Wettbewerbsvorsprung habe, damit ich nicht in den Brunnen der Falle. Vorgehensweise aus meiner Sicht jetzt vernünftig, das überhaupt mal zu thematisieren im Unternehmen, dass wir uns damit mal beschäftigen sollten. Wie ist eigentlich
der Prozess, der dazugehört. Es müsste sich irgendjemand mal thematisch mit dem AI Act überhaupt auseinandersetzen, dass jemand weiß, was da drinsteht, wäre Nummer eins für mich. Nummer zwei, ich habe gelernt, ich muss eine Fallunterscheidung lernen. Bin ich in einem unkritischen Fall der Anwendung oder bin ich in einem hyperkritischen Fall? Personalthemen zum Beispiel. Und Thema Nummer drei, ich muss dokumentieren und zwar Hauptaugenmerk darauf,
quasi eine Userliste. Was sind eigentlich die Software Tools, die wir nutzen im Unternehmen, das irgendwo dokumentieren, transparent machen und natürlich, das lebt ja auch. Ist das eine Vorgehensweise, wo ihr sagt, so macht das Sinn oder was würde ich noch zufügen?
Florian Läpple: Also, wenn man es je nach Unternehmensgröße hat, macht es Sinn, interdisziplinär das Team zusammenzustellen. Aus einerseits Datenschutz, jemandem aus Konzernrecht, jemandem aus, je nachdem der IT-Infrastruktur oder ähnliches, der das Ganze auch bewerten kann. Es macht Sinn, auch den ein oder anderen Data Scientist mit dazu zu nehmen und jemanden, der sich mit dem EU AI Act tiefergehend auseinandergesetzt hat.
Ann-Kathrin De Moy: Vielen
Florian Läpple: und sich darin auskennt. Der erste Schritt, wo eigentlich die Ausgangssituation ist, ist wirklich mit dem AI-Act einmal beschäftigen, aber viel wichtiger ist, ein KI-Inventar aufzustellen. Dass man mal durch seine ganze Anwendungslandschaft geht, schaut, habe ich KI-Systeme, die gemäß des EU-AI-Acts als KI-System zu klassifizieren sind, die dann in eine Liste schreiben und anhand dessen mal zu schauen, habe ich jetzt ein
geringes, limitiertes oder Hochrisiko- KI-System oder habe ich vielleicht auch eine verbotene Praktik im Einsatz, die ich gar nicht machen darf, aber historisch noch im Einsatz ist. Da sollte man dann zügigst schauen, dass man die aus dem Verkehr tritt bzw. abschaltet, weil seit dem 2.2. 2025 darf man verbotene Praktiken nicht mehr im Euro-Raum einsetzen, was auch mit dem 8.
2.8. August dann, wenn die Sanktionskriterien oder die Sanktionierung in Kraft tritt, auch bestraft werden kann. Es ist auch noch mal wichtig zu schauen, wie hoch die Strafen sind.
Ann-Kathrin De Moy: Danke schön.
Michael: Aber, Bad, du hast ja jetzt sozusagen hier die Thematik ja auf und wir müssen auch abschichten, weil ein Konzern, größeres Unternehmen ist nochmal was anderes. glaube, Georg, du hast ja erwähnt sozusagen, wenn ich ein neues Tool habe, also ich glaube, probieren ist und sollte immer möglich sein. Aber bitte unter dem Ding, ich probiere, also ich gehe auch auf ein, wenn ich auf einem See Schlittschuh laufen gehe, werde ich nicht direkt mitten reinspringen.
sondern mich erst mal rantasten und erst mal schauen, trägt das. Also bitte denkt dran, wir geben da Daten rein, wir haben Verantwortung uns, unseren Kunden etc. gegenüber, ich glaube, mit diesem Mindset. Wenn wir jetzt sehen, das ist ein interessantes Tool, dann müssen wir gucken, in die Bedingungen reinschauen, weil als Unternehmer, was ihr ja auch seid, fallen wir auch unter diese Rechtsprechung, einfach mal zu gucken, wohin gehen die Daten, was mache ich denn damit. Und...
Ich glaube, was auch helfen wird, einfach dann, also hochkritische Anwendungen oder verbotene Anwendungen, Social Scoring. In Echtzeit Videoüberwachungen, wenn es Leid und Leben geht oder auch Entscheidungen, die das Leben beeinflussen. Kriegt die Person jetzt irgendwie was oder nicht? Also das sind wirklich die hochkritischen, einfach auch nur noch mal zur Einordnung. Aber die Wahrheit dazwischen liegt halt auch...
Wir müssen uns dessen bewusst sein und nein, als Kleinunternehmen werden ihr wahrscheinlich jetzt nicht direkt die Milliardenstrafen haben. Aber die Awareness, wo habe ich den KI drin, wo tue ich was, sollte man sich glaube ich in einem stillen Moment machen. Und bei Großkonzernen ist es halt nicht in einem stillen Moment. Die deutsche oder die europäische Industrie, ob es jetzt finanz- oder produzierend ist,
Wir stellen uns dem, wir machen die Inventare, wir erfassen es und da ist dann auch eine regulatorische Anforderung, die wir im großen Stil erfüllen. Und wir als Finanzkonzern mit Versicherung bewerten schon seit jeher Risiken. glaube, deshalb sind wir auch der Sache schneller dran, haben aber auch den Vorteil, dass wir wissen, wie es geht.
Ann-Kathrin De Moy: Hier kommt das Baby rein. Wenn der Postmann zweimal kinkt. Ich glaube wir hatten jetzt ein super Resümee von den beiden, Florian und Michael, zum Schluss als Zusammenfassung, Vorgehensweise, wie geht es dann in den Unternehmen und...
Michael: Ich hätte noch eine Lanze zu brechen. Also, Anni braucht ihren Freit. Jedes Unternehmen braucht Florian. Also im Sinne von der sich dem Thema annimmt, sich nicht einschränken lässt, die Leute zusammenbringt, aber mit strahlenden Augen dieses durchaus komplexe und nicht immer so leicht zu verdauende Thema in die Breite trägt, weil mit großer Macht kommt große Verantwortung. Also wir brauchen jemand, der sich dem stellt.
Ann-Kathrin De Moy: Und für die, die noch kein Florian haben, Florian, hast du was, was wir inhaltlich unseren Zuhörenden verlinken können, wo sie sich informieren können über all diese wichtigen Punkte?
Florian Läpple: Also ich habe oder ich durfte die die Ausbildung zum AI Officer machen. Und das kann ich nur empfehlen. Also der Ben Hansen ist auf LinkedIn auch sehr aktiv und.
Ann-Kathrin De Moy: Das ist jetzt Werbung, es gibt bestimmt auch noch andere. Aber liebe Grüße an der Stelle an Ben Hansen, erzählt beide, wir müssen das sagen, weil sonst sind wir nämlich... Jetzt gibt es wieder die Nierstregeln, an die wir uns erhalten müssen, erzählt weiter.
Florian Läpple: Aber er, also gerne auf LinkedIn folgen, weil er hat auch super Informationen, schöne Übersichten. Wie kann ich KI, den EU AI Act bei mir im Unternehmen umsetzen? Was muss ich an Checklisten irgendwie beachten? Oder auch wie gehe ich mit dem ganzen Thema KI Kompetenzvermittlung Wie kann ich das gemäß den Anforderungen, wo ich dann anhand von Rolle, Erfahrungsschatz, Ausbildung des jeweiligen Mitarbeiters
in welcher Position er auch zuständig ist und wie, in welchem Maße er mit einem KI-System interagiert. Auch ein Schulungskonzept dann für den Mitarbeitenden aufsetzen. Also wenn da jemand eine Anlaufstelle braucht, gerne auch in ...
Ann-Kathrin De Moy: Denn vernetzt mich doch mal mit dem. Vielleicht können wir für unsere Mitglieder oder unsere Zuhörerinnen eine Sonderaktion machen. Auf jeden Fall danke für eure Zeit. Wenn ihr Bock habt, ich würde sehr gerne mit euch im Herbst noch mal einchecken, weil ich glaube, gerade dann, wenn es darum geht, dass die Sanktionen in Kraft getreten sind, haben wir einige Fragen gesammelt. Also lasst uns mal nicht noch wieder ein Jahr warten. Wer weiß, was ich bis dahin schon wieder alles für FAT LIVE für mitgenommen habe.
Das ist so Power-Coaching für Anni. Power-Coaching für AI-Dummies. Und wenn Unternehmensleitende, Verantwortliche sich über das neue Berufsbild, dein Berufsbild Florian, entdeckt machen dürfen, dann dürfen sie euch beide bestimmt auch kontaktieren und mal fragen, wie fühlt sich das an, wenn man so jemanden im Unternehmen sitzen hat.
Michael: Der Weg zur Hölle ist mit guten Vorsätzen gepflastert.
Florian Läpple: Jederzeit gerne.
Ann-Kathrin De Moy: Cool, danke euch. Super, danke für eure Zeit. bald.
Florian Läpple: Vielen Dank.
