Deepfakes im Gesundheitswesen: Warum „Schau genauer hin" keine Antwort ist

Vor ein paar Monaten ist mir der Fall von Alina Walbrun hängen geblieben. DocAlina hatte auf Instagram über die „postvirale nasale Hypersensibilität" gesprochen – kurz PVNH. Sie erklärte, sie kenne das Krankheitsbild aus ihrem Medizinstudium und könne sich vorstellen, selbst betroffen zu sein.

Doch PVNH gibt es nicht.

Marvin Wildhage hatte die Krankheit erfunden. Dazu eine Pharmafirma, eine vermeintliche Studienlage, eine Studienleiterin. Ein Experiment, das zeigen sollte, wie leicht sich medizinische Fehlinformationen über Influencer verbreiten lassen. Alina hat ihren Fehler später öffentlich eingeräumt.

Mich beschäftigt der Fall trotzdem bis heute, weil da zunächst alles vorhanden war, was Vertrauen erzeugt: eine echte Person, eine Ärztin, medizinische Sprache, hohe Reichweite, professioneller Auftritt, persönliche Einordnung. Und dafür brauchte es noch nicht einmal KI.

Das Wettrüsten hat begonnen

Heute können wir Gesichter, Stimmen und ganze Videos synthetisch so überzeugend erzeugen, dass viele der Hinweise verschwinden, an denen wir Fakes bislang erkannt haben.

Die Vorstellung, einen Deepfake schon irgendwie zu sehen, dürfte uns zunehmend im Weg stehen. Die Technologie entwickelt sich schnell und die Deepfake-Detektion entwickelt sich parallel.

Ein Beispiel aus der Forschung zeigt ganz gut, wie dieses Wettrüsten aussieht. Physiologische Signale wie der Herzschlag galten lange als vielversprechender Ansatz zur Erkennung von Deepfakes. Über minimale Farbveränderungen der Haut lässt sich aus einem normalen Video ein Pulssignal ableiten. Genau solche Signale wurden genutzt, um Manipulationen zu erkennen. 2025 hat ein Forschungsteam des Fraunhofer HHI gezeigt, dass hochwertige Deepfakes inzwischen ebenfalls einen überzeugend wirkenden Herzschlag enthalten können. Das Pulssignal wird dabei aus dem zugrunde liegenden Originalmaterial übernommen.

Wieder wird ein Merkmal, auf das man sich bei der Erkennung gestützt hat, weniger verlässlich. Wie lange wollen wir dieses Wettrüsten führen? Wir finden ein Merkmal. Die nächste Generation synthetischer Inhalte bildet es mit ab. Dann suchen wir weiter. Technisch ist das sinnvoll und notwendig. Für die breite Bevölkerung ist dieser Weg aus meiner Sicht nicht dauerhaft tragfähig. Menschen können nicht bei jedem Gesundheitsvideo prüfen, ob Hauttextur, Stimme, Lippenbewegung und physiologische Signale zusammenpassen.

Ein anderer Ansatz: Herkunft statt Erkennung

Deshalb finde ich Forschung zu Herkunftsnachweisen mindestens genauso wichtig. Digitale Signaturen und Provenienzstandards können Informationen darüber mit einem Video verknüpfen, woher es stammt und welche Bearbeitungsschritte es durchlaufen hat. C2PA – die Coalition for Content Provenance and Authenticity – entwickelt dafür einen offenen technischen Standard. Auch das Fraunhofer HHI arbeitet an solchen Verfahren. Gerade wurde auf der IBC 2026 ein vollständiger Workflow gezeigt, bei dem Videoinhalte digital signiert und mit überprüfbaren Herkunftsinformationen verknüpft werden können.

Das verändert die Fragestellung grundlegend. Ich muss dann nicht allein anhand des Bildes beurteilen, ob ich einem Video glaube. Ich bekomme zusätzliche Informationen darüber, woher es kommt, wer für die Signatur steht und ob der Inhalt nachträglich verändert wurde.

Spotify macht etwas Ähnliches bereits auf einer sehr sichtbaren Ebene: Mit „Verified by Spotify" werden Künstlerprofile gekennzeichnet, bei denen Spotify nach eigener Prüfung Signale für eine reale, authentisch auftretende Künstleridentität sieht. KI-Personas bekommen inzwischen eine eigene Kennzeichnung.

Das wirkt vielleicht wie ein Detail. Ich halte den Gedanken dahinter für ziemlich relevant: Wenn synthetischer Content in riesigen Mengen produziert werden kann, wird Authentizität selbst zur Information.

Im Gesundheitsbereich wiegt das besonders

Gesundheitsinformationen beeinflussen Entscheidungen. Menschen entscheiden aufgrund solcher Inhalte, ob sie ein Medikament nehmen, eine Behandlung fortführen, zum Arzt gehen, noch warten oder ein Produkt bestellen. In der Diskussion kommt dann oft: „Fragen Sie Ihren Arzt oder Apotheker." Natürlich. Aber diese Antwort reicht mir nicht.Denn Menschen suchen genau dann online, wenn niemand erreichbar ist. Abends auf dem Sofa. Nach einer Diagnose.Mit einem Befund, den sie nicht verstehen. Mit einer Nebenwirkung. Mit Angst. Oder mit einer Frage, die sie zunächst niemandem stellen möchten. Der nächste Arzttermin kann Wochen entfernt sein. Google, TikTok, YouTube und ChatGPT sind in diesen Momenten längst Teil der Realität. Daran wird sich wenig ändern. Eine Patientin mit einer neuen Krebsdiagnose sollte nicht zusätzlich herausfinden müssen, ob der vermeintliche Onkologe in einem Video tatsächlich gesprochen hat. Ein älterer Mensch sollte nicht beurteilen müssen, ob eine Stimme synthetisch erzeugt wurde. Und wir sollten nicht so tun, als ließe sich das allein mit mehr Medienkompetenz lösen. Gesundheitskompetenz bleibt wichtig. Quellenkritik auch. Trotzdem gibt es eine Grenze dessen, was wir einzelnen Menschen zumuten können.

Vertrauen braucht Struktur

Wir brauchen nachvollziehbare Herkunftsinformationen für digitale Gesundheitsinhalte. Verifizierbare Absender. Und Regeln für Plattformen, die mit der Verbreitung dieser Inhalte Geld verdienen. Der AI Act setzt seit August 2026 erste Transparenzpflichten für KI-generierte und manipulierte Inhalte. Technische Verfahren für Provenienz und Authentifizierung entwickeln sich parallel weiter. Entscheidend wird sein, ob daraus etwas entsteht, das Menschen im Alltag tatsächlich verstehen und nutzen können. Ein kryptografischer Herkunftsnachweis hilft wenig, wenn er in einem Untermenü versteckt ist. Ein Vertrauenssignal muss sichtbar und verständlich sein — ähnlich wie wir heute selbstverständlich erkennen, ob eine Website verschlüsselt ist oder ein Account verifiziert wurde. Diese Diskussion sollten wir im Gesundheitsbereich jetzt führen. Nicht erst dann, wenn medizinische Deepfakes so alltäglich geworden sind, dass wir jedem Video zunächst misstrauen.

Was du bis dahin tun kannst

Absender prüfen, nicht nur den Inhalt. Schau dir den Kanal an: Wer betreibt ihn? Seit wann? Gibt es die Person oder Organisation auch außerhalb dieses Accounts? Bei konkreten medizinischen Aussagen eine zweite, unabhängige Quelle suchen. Und wenn eine Information unmittelbare Konsequenzen für deine Behandlung oder Medikamente hätte: nicht aufgrund eines Videos handeln, sondern mit einer medizinischen Fachperson abklären. Wir können Menschen nicht aus der Verantwortung für ihre Entscheidungen nehmen. Wir sollten ihnen aber auch nicht die Verantwortung dafür übertragen, technisch perfekte Täuschungen erkennen zu müssen.