Vortrag

 

Und sie denkt doch nicht: Vom Trugschluss der mitdenkenden KI

Warum falsches Vertrauen in KI zu Fehlern führt und wie man sie vermeidet. 

 

Harald Huber

USU GmbH
Executive Advisor – Knowledge, AI & Digital Strategy

Christian Milosev

USU GmbH
Senior Sales Manager

Biografien

Harald Huber verantwortet seit 2008 das Produktmanagement im Bereich Knowledge Management bei der USU GmbH. Als Referent für Wissensmanagement und Künstliche Intelligenz verbindet er langjährige Praxiserfahrung mit aktuellem KI-Know-how und zeigt auf, wie Unternehmen intelligente Technologien erfolgreich einsetzen können.

Christian Milosev ist seit Februar 2020 als Senior Sales Manager bei der USU Software AG tätig. In dieser Rolle berät und betreut er Kunden und Interessenten branchenübergreifend - von der Finanzwelt über produktionsnahe Unternehmen bis hin zu Dienstleistungsfirmen. Sein Spezialgebiet umfasst die USU-Produktlinien Knowledge Management, IT Service Management und IT Asset Management. Mit über 7 Jahren Erfahrung im komplexen Softwaresales bringt Christian Milosev ein tiefes Verständnis für die verschiedensten Anforderungen und Geschäftsprozesse seiner Kunden mit. Sein Fundament - geprägt durch Bankkaufmannslehre, Vermögensberatung und ein BWL-Studium - kombiniert er mit langjähriger Vertriebserfahrung. Besonders seine KI-Affinität ermöglicht es ihm, innovative Lösungsansätze für Kunden zu entwickeln und die Zukunftsthemen der digitalen Transformation aktiv mitzugestalten.

Vortrag

Und sie denkt doch nicht: Vom Trugschluss der mitdenkenden KI
Warum falsches Vertrauen in KI zu Fehlern führt und wie man sie vermeidet. 

Abstract

Anwender übergeben KI zunehmend umfangreiche, komplexe und teilweise kritische Aufgaben. Moderne KI wirkt dabei erstaunlich kompetent: Sie formuliert überzeugend, analysiert scheinbar Zusammenhänge und liefert schnell Ergebnisse. Genau darin liegt jedoch ein Trugschluss: die Vorstellung einer KI, die tatsächlich mitdenkt. 

Denn KI besitzt weder echtes Verständnis noch Einsicht oder Verantwortungsbewusstsein. Das kann dazu führen, dass Ergebnisse oberflächlich, unvollständig oder schlicht falsch sind und am Ende mehr Aufwand verursachen, statt Arbeit abzunehmen. Der Vortrag zeigt anhand konkreter Beispiele, wo diese Grenzen sichtbar werden und wie sich daraus entstehende Fehler frühzeitig erkennen und vermeiden lassen. Im Fokus stehen unter anderem:

  • Überzeugend trotz Wissenslücken: KI weiß nicht zuverlässig, was sie nicht weiß und kann falsche oder unvollständige Antworten dennoch sehr kompetent formulieren.
  • Antworten ohne echtes Verständnis: KI kann eine Problemstellung bearbeiten, ohne deren Bedeutung, Kontext oder Tragweite tatsächlich zu erfassen.
  • Oberflächliche statt gründliche Analyse: Komplexe Aufgaben werden mitunter vorschnell abgearbeitet, erste Ergebnisse übernommen oder Analysen beendet, bevor eine belastbare Lösung vorliegt.
  • Fehlende Einschätzung der Komplexität: KI kann vorab nur begrenzt beurteilen, wie viel Analyse und „Denkaufwand“ eine Aufgabe tatsächlich erfordert.
  • Keine verlässliche Selbstkontrolle: KI erkennt nicht immer, ob eine Aufgabe wirklich gelöst wurde oder ob entscheidende Aspekte noch fehlen.

Für diese Situationen zeigt der Vortrag konkrete Ansätze, mit denen sich Schwächen erkennen, Ergebnisse gezielt überprüfen und KI verlässlicher in Arbeits- und Entscheidungsprozesse integrieren lässt.

zurück