Herzlich willkommen!
In dieser monatlichen Kolumne gehen wir gemeinsam mit Dr. Björn Becker und Magnus Kirschstein von Petleo mit klaren Worten, unbequemen Fragen und konkreten Lösungsansätzen für einen gesünderen Praxisalltag auf die Fragen ein, wie Prozesse, Organisation und Kommunikation neu gedacht werden können und müssen, und welche Lösungen verfügbar sind. Seien Sie gespannt auf das, was alles schon geht!
Dein neuer Kollege lügt. Aber er merkt es nicht.
Ich muss dir eine Geschichte erzählen. Vielleicht ist sie dir sogar auch schon passiert.
Du fragst deine KI nach einer wissenschaftlichen Studie zu irgendeinem Thema, das dich gerade beschäftigt. Und bekommst eine wunderbare Antwort. Autoren, Erscheinungsjahr, Fachzeitschrift, eine plausible Zusammenfassung der Ergebnisse. Alles da. Klingt spannend, passt perfekt zu deiner Fragestellung. Also willst du die Studie lesen.
Und findest sie nicht.
Du suchst nochmal. Andere Schreibweise, andere Suchmaschine, vielleicht hat sich ja irgendwo ein Tippfehler eingeschlichen. Aber nein. Diese Studie gibt es nicht. Hat es nie gegeben. Frei erfunden. Und zwar so überzeugend, dass du zunächst eher an deinen eigenen Recherchefähigkeiten zweifelst als an der KI.
Willkommen in der wunderbaren Welt der Halluzinationen.
Fehler passieren. Auch uns. Wer noch nie eine Dosis zweimal nachgerechnet hat, werfe die erste Pipette. Das eigentliche Problem ist, dass man der KI ihren selbstverzapften Unsinn nicht anhört.
Sie klingt bei einer frei erfundenen Studie genauso souverän wie bei einer korrekten Antwort. Kein Zögern, kein „Moment, da müsste ich nochmal nachsehen“. Nichts.
Stell dir einen Kollegen vor, der gelegentlich kompletten Blödsinn erzählt, dabei aber auftritt wie ein Oberarzt bei der Visite. Nach dem Motto: Ich habe zwar keine Ahnung, aber das mit voller Überzeugung.
Genau so jemanden hast du da im Browser sitzen.
Wir haben in dieser Kolumnenreihe bisher ziemlich viel darüber gesprochen, was mit KI alles möglich ist. Und ich bin nach wie vor begeistert von dem, was diese Technologie kann. Aber Begeisterung sollte uns nicht davon abhalten, auch das eigene Gehirn einzuschalten.
Denn es gibt Grenzen. Und die sollte man kennen.
Was die KI nicht mitbekommt
Die KI hat noch nie einen Patienten selbst untersucht.
Sie kennt diesen Hund nicht, der auf dem Behandlungstisch steht, dessen Besitzer sagt, er sei „eigentlich nur ein bisschen ruhiger als sonst“. Sie sieht nicht, wie die Katze beim Abtasten kurz den Kopf wegdreht. Sie spürt keine Umfangsvermehrung, riecht nichts und bekommt auch nicht mit, dass die Besitzerin bei der Frage nach den Behandlungskosten einen Moment zu lange schweigt.
Das sind Kleinigkeiten. Zumindest für jemanden, der noch nie in einer Praxis gearbeitet hat.
Für uns sind es manchmal die entscheidenden Hinweise.
Dieses diffuse Gefühl, dass irgendetwas nicht stimmt, obwohl die klassischen Symptome noch gar nicht so richtig zusammenpassen. Das entsteht aus Erfahrung, Beobachtung und einer Menge Informationen, die wir oft gar nicht bewusst wahrnehmen.
Natürlich kann KI inzwischen Bilder, Videos und Sensordaten auswerten. Teilweise sogar erstaunlich gut. Aber sie bekommt eben nur das, was wir ihr zur Verfügung stellen. Und wenn wir etwas übersehen oder für unwichtig halten, fehlt es sehr wahrscheinlich auch in ihrer Beurteilung.
Ein guter Kollege würde vielleicht nochmal nachfragen. Eine KI kann das auch, wenn sie entsprechend eingesetzt wird. Aber darauf verlassen würde ich mich nicht.
Und dann gibt es da noch eine Kleinigkeit, die bei aller Begeisterung gerne vergessen wird.
Die Verantwortung.
Die bleibt nämlich bei uns.
Weder die Kammer, noch der Tierhalter werden später sonderlich beeindruckt sein, wenn wir erklären, dass ChatGPT die Therapie vorgeschlagen hat.
„Die KI hat das aber so geschrieben“ ist als Verteidigung ungefähr so tragfähig wie „der Hund hat es mir erlaubt“.
Das bedeutet nicht, dass KI in der tierärztlichen Praxis nichts verloren hätte. Ganz im Gegenteil. Ich nutze sie täglich, für alle möglichen Dinge. Als Sparringspartner, zum Strukturieren, Recherchieren, Formulieren und manchmal auch, um meine eigenen Überlegungen ordentlich auseinandernehmen zu lassen.
Aber ich verwechsle einen guten Vorschlag nicht mit einer richtigen Entscheidung.
Vertrauen, prüfen oder Finger weg?
Ich habe mir dafür eine ziemlich einfache Faustregel zurechtgelegt.
Vertrauen kann ich der KI bei Dingen, deren Ergebnis ich selbst problemlos beurteilen kann.
Ein E-Mail-Entwurf, Ideen für Social Media, eine Vortragsgliederung oder die erste Fassung einer SOP. Wenn da Unsinn drinsteht, merke ich es normalerweise beim Lesen. Dann wird eben korrigiert. Schlimmstenfalls verspricht meine Stellenanzeige plötzlich einen Firmenwagen und eine Vier-Tage-Woche. Wäre schön, ist aber gerade nicht im Angebot.
Prüfen muss ich alles, was nach belastbaren Fakten aussieht.
Studien, Zahlen, Gesetzestexte, Dosierungen, Grenzwerte. Gerade bei wissenschaftlichen Quellen ist Vorsicht angesagt. Nur weil eine KI einen Autor, eine Fachzeitschrift und eine Jahreszahl nennt, ist daraus noch lange keine echte Veröffentlichung geworden.
Also: Originalquelle suchen. DOI prüfen. Nachlesen.
Und bitte nicht nur die KI fragen, ob die Studie wirklich existiert. Das wäre ungefähr so, als würde man unseren Oberarzt fragen, ob er sich sicher ist. Was soll er denn sagen?
Finger weg heißt es für mich immer dann, wenn ein Fehler einem Tier schaden könnte und ich selbst nicht in der Lage bin, die Antwort fachlich zu überprüfen.
Eine Dosierung blind übernehmen? Eine Therapieentscheidung an die KI abgeben? Eine Diagnose akzeptiert, weil die Begründung so schön wissenschaftlich klingt?
Nein.
Dafür habe ich studiert. Dafür habe ich Erfahrung gesammelt. Und dafür trage ich am Ende auch die Verantwortung.
Übrigens gilt das nicht nur für KI. Auch einem menschlichen Kollegen sollte man nicht jeden Unsinn glauben. Der Unterschied ist nur, dass man den im Zweifel hinterher zur Rede stellen kann.
Deine Hausaufgabe
Diesmal möchte ich, dass du deine KI ganz bewusst aufs Glatteis führst.
Such dir ein Thema aus deinem Fachgebiet, bei dem du dich wirklich gut auskennst. Und dann frag sie:
„Nenne mir drei wissenschaftliche Studien zu [dein Spezialthema], jeweils mit Autoren, Erscheinungsjahr, Fachzeitschrift und DOI.“
Jetzt kommt der interessante Teil.
Such diese Studien tatsächlich. Nicht nur die Titel überfliegen, sondern prüfen, ob es die Veröffentlichungen gibt und ob darin auch wirklich das steht, was die KI behauptet.
Vielleicht stimmt alles. Vielleicht auch nicht.
Anschließend fragst du:
„Welche deiner Angaben sind tatsächlich belegt? Wo bestehen Unsicherheiten? Und welche Informationen hast du möglicherweise nur aus dem Zusammenhang abgeleitet?“
Die Antworten können ziemlich aufschlussreich sein. Allerdings solltest du auch dieser Selbstkritik nicht blind vertrauen. Eine KI kann nämlich nicht nur überzeugend Unsinn erzählen. Sie kann dir anschließend auch noch überzeugend erklären, warum sie sich dabei angeblich ziemlich sicher war.
Was mir bei der Arbeit mit KI wirklich geholfen hat, ist deshalb weniger die Frage, wie sicher sie sich fühlt. Sondern die Angewohnheit, nach Belegen zu fragen und diese auch zu überprüfen.
Das kostet manchmal ein paar Minuten.
Kann einem aber auch ziemlich viel Ärger ersparen.
Und wenn deine KI dir demnächst wieder eine bahnbrechende Studie präsentiert, die außer ihr niemand kennt, dann denk an unseren Oberarzt.
Der hatte vielleicht keine Ahnung. Aber vorgetragen hat er es hervorragend.
Und noch ein Tipp zum Schluss: Besuche die EU AI Act-Schulung auf Myvetlearn.de, ab 16.11. online, speziell für Tierärzt:innen und mit 2 ATF-Stunden anerkannt.
Dr. Björn Becker
Tierarzt, Unternehmer und Brückenbauer zwischen Praxis und Zukunft – ich bringe Digitalisierung, KI und Telemedizin dahin, wo sie wirklich wirken: in den Alltag und die Köpfe von Tierärzt:innen.
Mein Antrieb: bessere Medizin, bessere Arbeitsbedingungen und eine Branche, die endlich mutig nach vorne denkt.
Bild mit KI erstellt
Mit der neuen, monatlichen Kolumne von Vetion.de und Petleo helfen wir Ihnen beim Einsteigen! Ab jetzt jeden Monat exklusiv vorab eine neue Folge für Abonnent:innen des Vetion.de-Newsletters!
