Ein aktueller Sicherheitsvorfall bei OpenAI zeigt, wie weit solche Systeme dabei unerwartet gehen können. Forschende warnen zugleich vor koordinierten KI-Schwärmen, die Desinformation skalieren und auch medizinische Debatten gezielt beeinflussen könnten.

Wie schnell aus einem theoretischen Risiko ein realer Sicherheitsvorfall werden kann, zeigte sich im Juli 2026 bei OpenAI. Während einer internen Prüfung ihrer Cyberfähigkeiten überwanden mehrere KI-Modelle die Begrenzungen einer isolierten Testumgebung, verschafften sich Zugang zum offenen Internet und drangen in die Systeme der KI-Plattform Hugging Face ein. Dabei nutzten sie unter anderem eine bislang unbekannte Sicherheitslücke und gestohlene Zugangsdaten. OpenAI bezeichnete den Vorgang als „beispiellosen Cybervorfall“. Die häufig verwendete Formulierung, die KI habe sich „verselbstständigt“, ist dennoch erklärungsbedürftig. Die Modelle entwickelten kein eigenes Angriffsziel. Sie sollten in einem bewusst weitgehend ungeschützten Test komplexe Sicherheitsaufgaben lösen und gingen dabei unerwartet weit: Um an die Lösungen zu gelangen, fanden sie selbstständig einen Weg aus der Testumgebung und griffen auf fremde Systeme zu. Gerade das macht den Fall bedeutsam. Ein eng definiertes Ziel genügte, um eine lange Kette nicht vorgesehener Handlungen auszulösen.

Generative KI beantwortet Fragen und erstellt Texte. KI-Agenten gehen einen Schritt weiter: Sie erhalten ein Ziel, planen eigenständig mehrere Arbeitsschritte, greifen auf Programme oder Datenbanken zu und passen ihr Vorgehen an neue Informationen an. Mehrere Agenten können dabei zusammenarbeiten. Genau diese Verbindung aus Autonomie, Geschwindigkeit und nahezu unbegrenzter Skalierbarkeit macht die Technologie zugleich interessant und riskant.

Ein internationales Autorenteam um Daniel Thilo Schroeder warnte in einem 2026 in Science veröffentlichten Beitrag vor sogenannten bösartigen KI-Schwärmen. Gemeint sind große Gruppen koordinierter Agenten, die in sozialen Netzwerken eigenständig Inhalte erzeugen, künstliche Identitäten aufbauen und ihre Botschaften fortlaufend optimieren könnten [1]. Anders als herkömmliche Social Bots wären solche Systeme nicht darauf beschränkt, vorbereitete Beiträge zu verbreiten. Sie könnten auf Reaktionen eingehen, unterschiedliche Rollen übernehmen und gezielt Vertrauen aufbauen. Die eigentliche Gefahr liegt dabei möglicherweise weniger in einer einzelnen Falschmeldung als in der Erzeugung eines scheinbaren gesellschaftlichen Konsenses. Wenn zahlreiche vermeintlich unabhängige Nutzer dieselbe Behauptung vertreten, wirkt sie glaubwürdiger. Ein Agentenschwarm könnte so den Eindruck erzeugen, eine bestimmte Meinung werde von sehr vielen Menschen geteilt, obwohl hinter den Accounts nur ein einzelner Auftraggeber steht.

Für medizinische Themen ist dieses Szenario besonders relevant. Gesundheitsentscheidungen sind komplex, häufig emotional belastet und für Patienten nur schwer vollständig zu überprüfen. Agenten könnten in Foren, Kommentarspalten oder sozialen Netzwerken unterschiedliche Rollen übernehmen: Ein Account berichtet von einer angeblichen Nebenwirkung, ein zweiter liefert vermeintliche wissenschaftliche Belege, ein dritter unterstellt Ärzten oder Behörden wirtschaftliche Interessen. Die Beiträge müssten nicht vollständig erfunden sein. Oft reicht es, seltene Risiken hervorzuheben, Einzelfälle zu verallgemeinern und wissenschaftliche Unsicherheit als Beleg für eine Vertuschung darzustellen. Hinzu kommt, dass Menschen KI-generierte Inhalte nicht zuverlässig erkennen. Eine in den Begleitmaterialien zitierte Metaanalyse zur Erkennung von Deepfakes kommt zu dem Ergebnis, dass die Trefferquote kaum besser als Zufall sein kann. Auch KI-Schreibassistenten können durch eine einseitige Auswahl und Formulierung von Argumenten die Einstellungen ihrer Nutzer schrittweise beeinflussen. Noch problematischer wäre es, wenn Agenten nicht nur Menschen, sondern auch die Informationsgrundlage zukünftiger KI-Systeme manipulieren. Große Mengen automatisch erzeugter Webseiten, Patientenberichte oder pseudowissenschaftlicher Texte könnten von Suchmaschinen und Sprachmodellen erfasst werden. Durch gegenseitige Verlinkung und Wiederholung entstünde der Eindruck einer breiten Quellenbasis, obwohl die Inhalte aus derselben gesteuerten Kampagne stammen.

Dabei ist eine nüchterne Einordnung wichtig. Der Science-Beitrag belegt nicht, dass vollständig autonome KI-Schwärme bereits in großem Maßstab eingesetzt werden. Er beschreibt vielmehr ein plausibles Bedrohungsszenario. Viele technische Einzelbausteine existieren jedoch schon heute: KI-generierte Texte und Bilder, automatisierte Accounts, personalisierte Ansprache sowie Agenten, die planen, Werkzeuge verwenden und Aufgaben untereinander verteilen.

Für Ärztinnen und Ärzte bedeutet dies vor allem, dass viele übereinstimmende Beiträge nicht automatisch viele unabhängige Quellen darstellen. Medizinische Aussagen sollten weiterhin auf Leitlinien, Originalpublikationen und nachvollziehbare Fachquellen zurückgeführt werden. Im Patientengespräch könnte es künftig zudem häufiger notwendig werden, nicht nur eine einzelne Falschinformation zu korrigieren, sondern ein ganzes scheinbar geschlossenes Informationssystem aus Videos, Erfahrungsberichten und vermeintlichen Expertenaussagen einzuordnen.

Literatur

1. Schroeder DT, Cha M, Baronchelli A, et al. How malicious AI swarms can threaten democracy: The fusion of agentic AI and LLMs marks a new frontier in information warfare. Science. 2026;391:354. doi:10.1126/science.adz1697.

Text: Redaktion arztCME

Bild: OpenAI für arztCME

Der Beitrag Wie gefährlich sind KI-Agenten? erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Gesundheitssysteme stehen unter Druck. Nicht nur in Deutschland. Eine Pharmafirma hat in einer repräsentativen Umfrage untersucht, wie die Bürger Europas damit umzugehen gedenken.

Nur 56 Prozent der Befragten sind demnach mit der aktuellen Versorgung zufrieden, 42 Prozent sehen ihre Erwartungen nicht erfüllt. Deutschland liegt mit 63 Prozent über dem europäischen Durchschnitt, immerhin. Zwei Drittel nennen Fachkräftemangel und lange Wartezeiten als größte Herausforderung. Hinzu kommen Defizite bei Bezahlbarkeit, Prävention und psychischer Gesundheit.

Das war zu erwarten, spannender ist der Blick nach vorn. Die Menschen reagieren mit wachsender Eigeninitiative. 78 Prozent sind überzeugt, ihr Wohlergehen selbst im Griff zu haben. Acht von zehn nutzen mindestens ein Hilfsmittel, um ihre Gesundheit zu beobachten. Doch dieses Empowerment hat Grenzen: Nur 22 Prozent trauen sich zu, die Vielzahl verfügbarer Informationen sicher einzuordnen, während sich 46 Prozent davon überfordert fühlen. Besonders betroffen sind Menschen mit schlechter psychischer Gesundheit.

In diesem Spannungsfeld gewinnt KI rasch an Bedeutung. Bereits 55 Prozent setzen sie im Gesundheitskontext ein. Die Mehrheit würde eine medizinische Beratung durch KI erwägen, und nahezu jeder Zweite vertraut KI-generierten Diagnosen bereits oder wäre dazu bereit. KI wird damit zum Instrument der Selbstinformation und Entscheidungsunterstützung – gerade dort, wo professionelle Beratung nicht zeitnah erreichbar ist.

Ein Ersatz für medizinische Fachkräfte ist sie dennoch nicht. Für 77 Prozent bleiben Hausärzte und andere Gesundheitsdienstleister die wichtigste Einflussquelle bei Gesundheitsentscheidungen. Auch Apotheken behalten ihre Rolle als niedrigschwellige Anlaufstellen. Zwar würden 62 Prozent einer reinen Online-Apotheke zumindest teilweise vertrauen, vollständig auf eine digitale Lösung setzen jedoch nur 13 Prozent.

Glaubt man den Daten, ist in Zukunft ein hybrides Versorgungsmodell gefragt: KI ermöglicht schnellen Zugang zu Informationen und unterstützt Entscheidungen. Ärzte, Apotheker und Pflegekräfte ordnen Ergebnisse ein, erkennen Risiken und übernehmen Verantwortung. Der zentrale Rohstoff dieser Transformation bleibt Vertrauen.

Quelle: STADA Health Report 2026

Text: Reinhard Merz
Bild: OpenAI für arztCME

Der Beitrag KI trifft Versorgungskrise: Patienten werden selbstständiger erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Für Hausärzte verändert sich der Erstkontakt: Neben den Beschwerden muss oft auch eine bereits vorgeprägte KI-Diagnose eingeordnet werden.

„ChatGPT meint, das könnte eine Autoimmunerkrankung sein.“ Solche Sätze dürften in Hausarztpraxen häufiger werden. Anders als bei einer klassischen Internetsuche erhalten Patienten von KI-Systemen keine Liste von Treffern, sondern eine zusammenhängende, individuell formulierte Antwort. Das wirkt verständlich, persönlich und oft erstaunlich überzeugend. Gerade der Hausarzt ist davon besonders betroffen. Er ist für viele Patienten die erste medizinische Anlaufstelle und muss aus unspezifischen Beschwerden, Vorerkrankungen, Medikamenten und psychosozialem Kontext ein stimmiges Gesamtbild entwickeln. Die KI kennt dagegen nur das, was der Nutzer eingegeben hat. Wichtige Informationen können fehlen, falsch gewichtet oder missverständlich formuliert sein.

Die Nutzung von KI ist nicht grundsätzlich problematisch. Patienten können ihre Beschwerden zeitlich ordnen, Fachbegriffe nachschlagen und Fragen für das Gespräch vorbereiten. Das kann die Anamnese erleichtern. Schwierig wird es, wenn aus einer möglichen Differenzialdiagnose eine vermeintliche Gewissheit wird. Sprachmodelle formulieren flüssig und plausibel, ohne dass ihre Aussagen medizinisch zuverlässig sein müssen. Die sprachliche Qualität kann so eine Sicherheit vortäuschen, die diagnostisch nicht besteht. Für den Hausarzt entsteht dann eine doppelte Aufgabe: Er muss die Beschwerden abklären und zugleich eine bereits entstandene Deutung korrigieren oder relativieren.

Die KI-Antwort als Teil der Anamnese? Ein pauschaler Hinweis, man solle „nicht alles aus dem Internet glauben“, hilft meist wenig. Sinnvoller ist es, die KI-Nutzung sachlich in die Anamnese einzubeziehen:

• Was genau wurde eingegeben?
• Welche Diagnose oder Aussage hat besonders beunruhigt?
• Welche Untersuchungen oder Behandlungen erwartet der Patient?
• Wurden aufgrund der Antwort bereits Medikamente verändert oder Arztkontakte verschoben?

Diese Fragen zeigen schnell, ob die KI lediglich zur Vorbereitung genutzt wurde oder das Verhalten des Patienten bereits beeinflusst hat. Besondere Aufmerksamkeit ist erforderlich, wenn Patienten Medikamente abgesetzt, Dosierungen verändert oder vermeintlich harmlose Beschwerden selbst behandelt haben. Ebenso problematisch kann es sein, wenn ein Chatbot durch beruhigende Formulierungen einen notwendigen Arztbesuch verzögert hat. Die hausärztliche Kompetenz liegt nicht im bloßen Abruf medizinischer Informationen. Entscheidend sind die Gewichtung von Wahrscheinlichkeiten, die körperliche Untersuchung, die Kenntnis des Patienten und die Entscheidung, welche Diagnostik tatsächlich erforderlich ist. Eine von der KI genannte Diagnose sollte deshalb weder reflexhaft verworfen noch unkritisch übernommen werden. Sie ist zunächst eine Hypothese – ähnlich wie eine Vermutung des Patienten oder ein Hinweis aus dem persönlichen Umfeld.

Bei unspezifischen Beschwerden bleibt die hausärztliche Aufgabe, gefährliche Verläufe auszuschließen, Überdiagnostik zu vermeiden und den weiteren Weg zu steuern. Dazu gehört auch, dem Patienten verständlich zu erklären, warum eine vorgeschlagene Untersuchung sinnvoll ist – oder eben nicht.

Literatur

Montero A, Montalvo J III, Kearney A et al. KFF Tracking Poll on Health Information and Trust: Use of AI for Health Information and Advice. KFF, 25.03.2026.

Draelos RL, Afreen S, Shah A. Large language models provide unsafe answers to patient-posed medical questions. npj Digital Medicine. 2026;9. Published online 13.02.2026.

Text: Redaktion arztCME

Bild: Open AI für arztCME

Der Beitrag „ChatGPT meint …“ – Wenn die KI mit in die Hausarztpraxis kommt erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Die Alzheimer-Medizin steht an einem Wendepunkt. Lange wurde die Erkrankung vor allem dann relevant, wenn kognitive Defizite bereits klinisch sichtbar waren. Heute verschiebt sich der Fokus nach vorn: auf Risikoprofile, Blutbiomarker, Prävention und eine möglichst frühe therapeutische Weichenstellung.

Zwei aktuelle Arbeiten zeigen, wie diese neue Demenzmedizin aussehen könnte. Im Zentrum stehen künstliche Intelligenz, Multi-Omics-Analysen und genetisch-exposomische Risikoabschätzungen. Gemeint ist: Genetik, Lebensstil, Umweltfaktoren, Familienanamnese, kognitive Tests und Biomarker werden nicht isoliert betrachtet, sondern zu einem individuellen Risikobild integriert.

Der klinische Hintergrund ist klar. Alzheimer-Pathologie beginnt Jahre bis Jahrzehnte vor der Demenz. Gleichzeitig stehen zunehmend Blutbiomarker zur Verfügung, die amyloid- und tauassoziierte Veränderungen früher und weniger invasiv erfassen können als Liquoranalytik oder PET. Auch antiamyloide Therapien und Präventionsprogramme machen es wichtiger, Risikopersonen rechtzeitig zu identifizieren.

Ein integriertes Risikoassessment könnte künftig unterscheiden: Wer benötigt nur allgemeine Prävention? Wer sollte engmaschiger biomarkerbasiert kontrolliert werden? Wer braucht eine spezialisierte Abklärung? Und bei wem kommt – bei gesicherter Alzheimer-Pathologie und Symptomen – eine krankheitsmodifizierende Therapie infrage?

Künstliche Intelligenz soll dabei helfen, die biologische Komplexität der Erkrankung zu ordnen. Alzheimer ist kein linearer Prozess, sondern ein heterogenes Syndrom mit genetischen, transkriptomischen, proteomischen und metabolischen Signaturen. KI-Modelle können Muster erkennen, die konventionellen Analysen entgehen: Gen-Gen-Interaktionen, molekulare Subtypen, Progressionsprofile oder potenzielle therapeutische Zielstrukturen.

Der Nutzen läge nicht nur in der Diagnose. KI-gestützte Modelle könnten abschätzen, wie rasch eine milde kognitive Beeinträchtigung fortschreitet oder welche Patientengruppen besonders wahrscheinlich von bestimmten Interventionen profitieren. Perspektivisch könnten genetische Profile auch Therapieentscheidungen absichern.

Noch ist das Zukunftsmusik. Der wichtigste limitierende Faktor ist die klinische Übersetzbarkeit. Viele Datensätze stammen überwiegend aus Populationen europäischer Abstammung. Ein zweites Problem ist die Erklärbarkeit. Ein KI-generierter Demenz-Risikoscore ist nur dann sinnvoll nutzbar, wenn nachvollziehbar bleibt, welche biologischen oder klinischen Faktoren die Vorhersage tragen.

Genau hier liegt aber auch die Chance. Wenn Risikoprofile nicht als Schicksalsurteil, sondern als Präventionsinstrument vermittelt werden, können sie gezielte Interventionen unterstützen: Blutdruckkontrolle, Gewichtsmanagement, Schlaf, Bewegung, Hörversorgung, soziale Aktivierung oder Depressionsbehandlung. Polyexposure-Scores könnten helfen, individuelle Risikofaktoren zu priorisieren, statt pauschale Lebensstilempfehlungen zu geben.

Wir meinen: Der Durchbruch wird nicht durch immer komplexere Algorithmen entstehen, sondern durch klinisch belastbare und erklärbare Modelle. Erst wenn Risikovorhersagen zu besseren Entscheidungen führen, wird aus Datenmedizin Präzisionsversorgung.

[1] Tan ACM, Woon EPH, Wang JDJ. Artificial intelligence and multi-omics integration in Alzheimer’s disease: translational challenges. Acad Mol Biol Genom 2026; 3. doi:10.20935/AcadMolBioGen8272

[2] Andrews SJ, Yaffe K. Advancing Precision Dementia Care With Genetic-Exposome Risk Assessment. JAMA Neurol 2026; 83: 513–514. doi:10.1001/jamaneurol.2026.0573

Text: Reinhard Merz
Bild: OpenAI für arztCME

Der Beitrag Alzheimer: Früher erkennen, gezielter vorbeugen erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

KI verändert die medizinische Informationssuche – doch je mehr Kanäle entstehen, desto wichtiger wird Vertrauen. Der coliquio Facharztreport 2026 zeigt, warum künftig vor allem verlässliche Einordnung statt bloßer Informationsfülle gebraucht wird.

Noch nie waren medizinische Informationen so leicht verfügbar – und zugleich so schwer einzuordnen. Fachmedien, Fortbildungsangebote, Newsletter, Ärztenetzwerke, soziale Medien und inzwischen auch KI-Chatbots konkurrieren um Aufmerksamkeit. Für Ärztinnen und Ärzte stellt sich dadurch immer weniger die Frage, wo Informationen zu finden sind. Entscheidend wird vielmehr, welchen Informationen sie im Alltag vertrauen können.

Genau an diesem Punkt setzt der Facharztreport 2026 von coliquio an. Unter dem Titel „Trust-Shift: Wie Vertrauen als neue Währung den Kanalmix verändert“ untersucht der Report, wie sich das ärztliche Informationsverhalten im Kontext von KI, digitalem Wandel und Generationenunterschieden verändert. Befragt wurden 1.340 Ärztinnen und Ärzte. Die Ergebnisse zeigen: Der ärztliche Alltag ist von einem deutlichen Information Overload geprägt. Fast jede zweite befragte Person nennt das Herausfiltern relevanter Informationen als zentrale Herausforderung. Hinzu kommt eine neue Unsicherheit: 40 Prozent der Befragten sehen die Einschätzung der Verlässlichkeit von KI-Informationen als akutes Problem.

Damit verschiebt sich der Blick auf medizinische Informationskanäle. Die bisher oft verwendete Unterscheidung zwischen analog und digital greift zu kurz. Entscheidend ist nicht mehr allein der Kanal, sondern der konkrete Bedarfsmoment. Wenn im Praxis- oder Klinikalltag schnelle Antworten gefragt sind, werden niedrigschwellige und jederzeit verfügbare Angebote genutzt. Geht es dagegen um vertiefendes Wissen, Einordnung oder Fortbildung, bleiben strukturierte Formate, Fachliteratur, Webseminare und Kongresse wichtig – allerdings zunehmend als bewusst ausgewählte Wissensphasen, für die Ärztinnen und Ärzte aktiv Zeit schaffen müssen. Besonders deutlich zeigt sich dieser Wandel beim Blick auf die Generationen. Während ältere Ärztinnen und Ärzte weiterhin häufiger etablierte Fachmedien, Printangebote und klassische Informationswege nutzen, greifen jüngere Kolleginnen und Kollegen stärker auf digitale, interaktive und KI-gestützte Quellen zurück. Für sie ist nicht in erster Linie die Menge der verfügbaren Informationen das Problem, sondern die knappe Zeit. Zugleich begegnen jüngere Ärztinnen und Ärzte digitalen Kanälen insgesamt mit einem höheren Vertrauensvorschuss.

Der Report macht jedoch klar: Häufige Nutzung ist nicht gleichbedeutend mit hoher Vertrauenswürdigkeit. KI-Chatbots und soziale Medien sind im ärztlichen Alltag angekommen, werden aber deutlich kritischer bewertet als klassische Fachquellen, kollegialer Austausch oder etablierte Ärztenetzwerke. Für Vertrauen zählen vor allem fachliche Korrektheit, transparente Quellenangaben und ein klar erkennbarer, kompetenter Absender. Damit wird Vertrauen zur eigentlichen Währung der Kanalrelevanz. Sichtbarkeit allein reicht nicht mehr aus; entscheidend ist, ob Inhalte nachvollziehbar, evidenzbasiert und fachlich eingeordnet sind.

Eine zentrale Rolle behält der kollegiale Austausch. Therapieentscheidungen, Behandlungsstrategien und Zweitmeinungen zu konkreten Patientenfällen gehören zu den wichtigsten Themen im ärztlichen Gespräch. Mehr als die Hälfte der Befragten geht davon aus, dass der persönliche Austausch im Kontext von KI künftig noch wichtiger wird. KI ersetzt den Dialog im Fachkreis also nicht. Im Gegenteil: Je mehr automatisiert generierte Informationen verfügbar sind, desto stärker wächst der Bedarf an menschlicher Einordnung, fachlicher Erfahrung und vertrauenswürdigen Filterinstanzen.

Für die medizinische Fortbildung und die fachliche Kommunikation ergibt sich daraus eine klare Aufgabe. Ärztinnen und Ärzte brauchen keine zusätzliche Informationsflut, sondern Orientierung. Gefragt sind Formate, die schnell erfassbar sind, aber bei Bedarf in die Tiefe führen; Inhalte, die wissenschaftlich fundiert sind, aber zugleich den praktischen Nutzen im Versorgungsalltag deutlich machen; und Angebote, die transparent zeigen, auf welchen Quellen und welcher Expertise sie beruhen.

Auch für die Industrie formuliert der Facharztreport konkrete Erwartungen. Ärztinnen und Ärzte wünschen sich vor allem wissenschaftlich fundierte, transparente und praxisnahe Informationen. Genannt werden unter anderem kompakte Evidenzformate, kuratierte Updates, gut zugängliche Webportale, On-Demand-Fortbildungen sowie konkrete Tools und Hilfsmittel für den Praxisalltag. Reine Produktkommunikation verliert dagegen an Bedeutung. Pharmaunternehmen werden stärker als Servicepartner gefragt, die Orientierung ermöglichen, anstatt lediglich Botschaften zu senden.

Quelle: coliquio Facharztreport 2026: Trust-Shift: Wie Vertrauen als neue Währung den Kanalmix verändert. Befragung von 1.340 Ärztinnen und Ärzten auf coliquio per Online-Fragebogen; Befragungszeitraum: 20.01. bis 20.02.2026.

Text: Redaktion arztCME

Bild: Open AI für arztCME

Der Beitrag Warum Vertrauen zur neuen Währung der medizinischen Informationssuche wird erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Künstliche Intelligenz in der Medizin ist längst kein Zukunftsszenario mehr. Sie liest Röntgenbilder, strukturiert Arztbriefe, schlägt Differenzialdiagnosen vor und unterstützt bei der Leitlinienrecherche. Neu ist jedoch die nächste Eskalationsstufe: KI-Systeme sollen nicht mehr nur einzelne Aufgaben übernehmen, sondern klinische Prozesse über längere Verläufe hinweg begleiten – von der Anamnese über Diagnostik und Therapieplanung bis zur Aufnahmeentscheidung.

Zwei aktuelle Nature-Arbeiten zeigen, wie weit diese Entwicklung bereits ist. Das in Heidelberg und Dresden entwickelte System MIRA arbeitet in einer simulierten elektronischen Patientenakte (LINK). Es kann Patientenhistorien erheben, Labor-, Bildgebungs- und mikrobiologische Untersuchungen anfordern, Befunde interpretieren, Differenzialdiagnosen erstellen und Therapieentscheidungen vorbereiten – inklusive Medikationsvorschlägen, Prozeduren und Aufnahmeplanung. In Simulationen auf Basis realer Patientendaten erreichte MIRA eine diagnostische Leistung auf ärztlichem Niveau oder darüber. Die Autor betonen jedoch ausdrücklich: Getestet wurde in einer kontrollierten, „sandkastenartigen“ Umgebung, nicht im klinischen Alltag.

Ähnlich ambitioniert ist AMIE, ein von Google entwickeltes dialogorientiertes KI-System für das Disease Management (LINK). AMIE wurde in einer randomisierten, verblindeten virtuellen OSCE-Studie mit 21 Hausärztinnen und Hausärzten verglichen. Grundlage waren 100 Mehrfachkontakt-Szenarien über verschiedene medizinische Fachgebiete hinweg. Das Ergebnis ist bemerkenswert: AMIE war den Ärzt im Management Reasoning nicht unterlegen und schnitt insbesondere bei der Präzision von Diagnostik- und Therapieempfehlungen sowie bei der Leitlinienanbindung besser ab. Auch bei anspruchsvollen Fragen zur Arzneimitteltherapie war AMIE überlegen – allerdings blieb die Gesamtleistung selbst im offenen Setting mit Zugriff auf externe Arzneimittelinformationen deutlich unter Perfektion.

Genau hier beginnt die eigentliche Diskussion. Denn aus hoher Testleistung folgt noch keine bessere Versorgung. Adam Rodman, Internist am Beth Israel Deaconess Medical Center und KI-Forscher an der Harvard Medical School, bringt in einem SPIEGEL-Interview (LINK) eine zentrale klinische Erfahrung auf den Punkt: KI kann bei ungewöhnlichen Fällen enorm hilfreich sein. Sie kann eine seltene Differenzialdiagnose früh ins Spiel bringen, einen kognitiven Bias durchbrechen oder eine übersehene Arzneimittelreaktion sichtbar machen. Aber sie verbessert die Versorgung nicht automatisch. Entscheidend ist die Mensch-Maschine-Interaktion.

Das Risiko liegt weniger darin, dass KI grundsätzlich „dumm“ wäre. Es liegt darin, dass sie plausibel klingt – auch wenn sie falsch liegt. Sprachmodelle können halluzinieren, sie können erfundene Befunde oder Quellen mit hoher sprachlicher Sicherheit präsentieren. Hinzu kommt ein subtileres Problem: Modelle neigen zur Bestätigung. Wird eine Frage suggestiv gestellt, kann die KI die implizite Annahme verstärken. Für die Medizin ist das gefährlich, weil es bestehende Fehlannahmen stabilisieren kann. Die klinische Kunst besteht deshalb nicht darin, die KI nach einer Bestätigung zu fragen, sondern sie neutral als kognitives Gegenüber einzusetzen.

Für Ärztinnen und Ärzte bedeutet das: KI darf nicht als Ersatz für klinisches Denken missverstanden werden. Sie ist eher ein zusätzlicher diagnostischer Resonanzraum. Besonders nützlich kann sie werden, wenn Befundkonstellationen nicht zum erwarteten Muster passen, wenn mehrere Leitlinien gleichzeitig berücksichtigt werden müssen oder wenn komplexe Verläufe über mehrere Kontakte hinweg synthetisiert werden sollen. Gerade dort, wo klinische Versorgung fragmentiert ist, könnte ein gut regulierter KI-Copilot Kontinuität schaffen.

Die Nebenwirkungen sind jedoch erheblich. Erstens besteht das Risiko des Automation Bias: Empfehlungen werden übernommen, weil sie technisch und sprachlich überzeugend wirken. Zweitens droht ein Kompetenzproblem in der Ausbildung. Wenn junge Ärztinnen und Ärzte von Beginn an KI-Systeme nutzen, stellt sich die Frage, ob sie die erforderlichen diagnostischen und pathophysiologischen Grundfähigkeiten in gleicher Tiefe entwickeln. Drittens ist die Haftungsfrage offen. Solange generative KI nicht klar reguliert ist, bleibt die ärztliche Verantwortung bestehen. Viertens hinkt die Regulierung der technischen Entwicklung hinterher. Klassische Konzepte von „Software als Medizinprodukt“ erfassen adaptive, generative Systeme nur unzureichend.

Die beiden Nature-Arbeiten sind deshalb weniger ein Beweis für den unmittelbar bevorstehenden „KI-Arzt“ als vielmehr ein Weckruf. Sie zeigen, dass agentische Systeme klinische Workflows erstaunlich realistisch abbilden können. Sie zeigen aber auch, dass der Weg in die Versorgung nur über prospektive Studien, klare Governance-Strukturen, Auditierbarkeit, Datenschutz, Interoperabilität und definierte Verantwortlichkeiten führen kann.

Die wichtigste Botschaft lautet: KI wird die Medizin nicht dadurch verbessern, dass sie Ärztinnen und Ärzte ersetzt. Ihr Potenzial liegt darin, klinische Entscheidungen transparenter, leitliniennäher und konsistenter zu machen – sofern sie kritisch eingesetzt wird. Die entscheidende Frage lautet also nicht: Kann KI Medizin? Sondern: Unter welchen Bedingungen macht sie Medizin sicherer? Bis dahin gilt: KI kann ein starker Copilot sein. Aber sie darf nicht allein fliegen.

Text: Reinhard Merz
Bild: openAI für arztCME

Der Beitrag Die Versprechen der KI – Risiken und Nebenwirkungen inklusive erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Die erweiterte Deklarationspflicht für Duftstoffallergene macht Inhaltsstofflisten transparenter, aber auch komplexer. Für die COSMILE Europe App ist das kein Problem: Sie kann relevante Allergene beim Produktscan automatisch erkennen und so die dermatologische Beratung im Alltag unterstützen.

Nach positivem Epikutantest ist die Empfehlung meist eindeutig: konsequente Kontaktvermeidung. Für Betroffene ist das im Alltag jedoch schwer umzusetzen. Kosmetika enthalten lange INCI-Listen, Rezepturen ändern sich, und allergologisch relevante Stoffe sind für Laien oft kaum einzuordnen.

Mit der Kommissionsverordnung (EU) 2023/1545 wird die Deklarationspflicht für allergieauslösende Duftstoffe deutlich erweitert. Die frühere Liste der „26 Duftstoffallergene“ wird um zahlreiche zusätzliche Stoffe und Stoffgruppen ergänzt; künftig umfasst die Kennzeichnung mehr als 80 Duftstoffallergene. Dazu zählen unter anderem Menthol, Camphor und Vanillin. Für Patientinnen und Patienten bedeutet mehr Transparenz zugleich mehr Komplexität. Genau hier zeigt sich der Nutzen der COSMILE Europe App: Auch die erweiterte Deklarationspflicht ist für die App kein Problem. Alle relevanten Duftstoffallergene können in der App markiert werden; beim Produktscan erkennt die App diese Stoffe automatisch in der INCI-Liste und weist darauf hin. Damit wird aus einer zunehmend schwer lesbaren Inhaltsstoffliste eine praktische Entscheidungshilfe am Point of Sale. Nach der Diagnose können Patientinnen und Patienten ihre relevanten Allergene in der App hinterlegen und Kosmetikprodukte bei jedem Neukauf schnell prüfen. Bei Unsicherheit können sie die INCI-Liste oder einen Screenshot aus der App zur dermatologischen Kontrolle mitbringen.

Die App ersetzt keine Diagnostik und keine ärztliche Bewertung. Sie kann aber helfen, die Lücke zwischen Patch-Test-Befund und Alltagshandeln zu schließen. Grundlage ist die europäische COSMILE-INCI-Datenbank, die auf der CosIng-Datenbank der Europäischen Kommission aufbaut. Die App ist kostenfrei, werbefrei, in 13 Sprachversionen verfügbar und im Apple App Store sowie bei Google Play erhältlich.

Quelle: Wiegers W. Kontaktallergie und Kosmetik: Allergenvermeidung im Alltag. Der Privatarzt Dermatologie, 2026; Ausgabe 2: S. 32 

Link zum Beitrag

Text: Redaktion arztCME

Bild: Open AI für arztCME

Der Beitrag App unterstützt Allergenvermeidung bei Kosmetika erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Die elektronische Patientenakte (ePA) ist nicht mehr Zukunftsmusik. Aber so richtig in der Versorgung angekommen ist sie auch noch nicht. Ein Vor-Ort-Bericht von der Dauerbaustelle.

Seit Januar 2025 wurde für gesetzlich Versicherte automatisch eine ePA angelegt, sofern kein Widerspruch erfolgte. Nach dem bundesweiten Rollout im Frühjahr 2025 ist die Nutzung seit Oktober 2025 für Praxen, Krankenhäuser und Apotheken verpflichtend. Damit ist die ePA formal im Versorgungsalltag angekommen. Die entscheidende Frage lautet aber: Ist sie dort auch nutzbringend angekommen?

Eine aktueller Erfahrungsbericht von heise online trägt den bezeichnenden Titel „Gut gemeint, ist nicht gut gemacht“ [Link] und bringt das Kernproblem auf den Punkt: Digitale Gesundheitsversorgung verspricht Entlastung, in der Sprechstunde zeigt sich aber häufig ein anderes Bild. Heise verortet die ePA dabei nicht isoliert, sondern im Kontext der Telematikinfrastruktur insgesamt – mit E-Rezept, elektronischem Heilberufsausweis und den vielen kleinen Prozessbrüchen, die im Praxisalltag den Unterschied zwischen „digital“ und „funktional“ ausmachen.

Auch der Abschlussbericht der TI-Modellregionen beschreibt ein gemischtes Bild. Zu Beginn der Pilotierung traten häufig Zugriffsprobleme auf. Viele Akten waren leer oder enthielten keine Fremdbefunde. In Hausarztpraxen wurde die ePA zwar zunehmend befüllt, die Dokumentenliste war aber wegen fehlender Inhalte, unzureichender Metadaten und begrenzter Zeit im Patientengespräch oft nur eingeschränkt nutzbar [Link].

Aus Patientensicht verlief die Entwicklung ähnlich ambivalent. Der Medicallearning-Selbstversuch von 2021 war noch eine kleine Odyssee: App-Installation, fehlerhafte Anmeldung, unklare Supportantworten, notwendige Identifikation in der Kassenfiliale und am Ende eine zu alte Gesundheitskarte [Link]. Der Beitrag von Juli 2024 blickte entsprechend skeptisch auf den bevorstehenden Opt-out-Rollout: Die Idee war richtig, aber der Start drohte an unvollständigen Praxisanbindungen, PDF-Dokumenten statt strukturierter Daten und mangelnder Alltagstauglichkeit zu scheitern [Link].

Im November 2024 klang der Ton erstmals optimistischer: Login per PIN und NFC funktionierten, das E-Rezept war in der App sichtbar und konnte in der Apotheke per QR-Code eingelöst werden [Link]. Der Fortschritt war real – aber er beruhte auf einem einfachen, gut abgrenzbaren Anwendungsfall. Die eigentliche ePA als longitudinaler, sektorenübergreifender Informationsraum war damit noch nicht bewiesen.

Aktuelle Verbraucherperspektiven bestätigen diesen Befund. Zwar ist die ePA inzwischen sehr bekannt, aber ein großer Teil der Versicherten verwaltet die eigene Akte nicht aktiv. Das heißt: Die ePA ist rechtlich eine versichertengeführte Akte, praktisch aber oft eine Akte, die ohne aktive Versichertensteuerung existiert. Wer die App nicht nutzt, Zugriffsrechte nicht versteht oder keine digitalen Identifikationsverfahren beherrscht, hat formal eine ePA, aber kaum Patientensouveränität.

Medizinisch ist das Potenzial der ePA unbestritten. Eine aktuelle Medikationsliste, Entlassbriefe, Laborwerte, Impfstatus, Notfalldaten und künftig strukturierte Medikationspläne könnten Anamnese, Arzneimitteltherapiesicherheit und Versorgungskontinuität deutlich verbessern. Das Problem: Dieser klinische Nutzen entsteht erst, wenn Informationen vollständig genug, auffindbar, aktuell und in den Workflow integriert sind.

Der Stand der Dinge lautet daher: Die ePA ist da, aber noch nicht reif. Sie scheitert nicht an der Idee, sondern an der Implementierung. Die ePA muss weniger beworben als verbessert werden. Nicht mehr Versprechen, sondern weniger Reibung. Nicht mehr Opt-out als politischer Erfolg, sondern aktive Nutzung als Versorgungsgewinn. Erst dann wird aus „gut gemeint“ irgendwann auch „gut gemacht“.

Text: Reinhard Merz
Bild: chatGPT für arztCME

Der Beitrag ePA – was geht auf der Dauerbaustelle? erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Der Beitrag von arztCME zeigt, wie MOOC-Prinzipien in einem regulierten professionellen Umfeld adaptiert werden können – und welche Rolle akkreditierte digitale Fortbildung künftig in medizinischen Lernökosystemen spielen kann.

Die Online-Fortbildung im Gesundheitswesen entwickelt sich seit Jahren weiter: Neben klassischen E-Learning-Modulen gewinnen skalierbare, strukturierte und zugleich qualitätsgesicherte Lernformate an Bedeutung. Ein aktueller Buchbeitrag im internationalen Peer-Reviewed-Projekt Implementation Strategies and Effects of Massive Open Online Courses greift diese Entwicklung auf und beschreibt arztCME.de als Beispiel für ein domänenspezifisches MOOC-Modell in der akkreditierten ärztlichen Fortbildung. Der Beitrag mit dem Titel „Accredited Medical MOOCs: arztCME.de as a Domain-Specific MOOC Model for Continuing Medical Education (CME)” erscheint im Rahmen der Buchreihe Education and Human Development bei IntechOpen.

Im Mittelpunkt des Kapitels steht die Frage, wie sich Prinzipien von Massive Open Online Courses, kurz MOOCs, auf einen regulierten Bildungsbereich wie die ärztliche Fortbildung übertragen lassen. Während klassische MOOCs häufig auf große Teilnehmerzahlen, niedrige Zugangshürden und selbstgesteuertes Lernen ausgerichtet sind, gelten in der Continuing Medical Education besondere Anforderungen. Dazu gehören Akkreditierung, Neutralität, transparente Interessenkonflikte, überprüfbare Lernerfolgskontrollen, verlässliche Zertifizierungsprozesse und datenschutzkonforme Auswertungen. Der Buchbeitrag führt hierfür den Begriff „accredited medical MOOCs“ ein. Gemeint ist ein spezifisches Modell digitaler Fortbildung, das die Skalierbarkeit und Zugänglichkeit von MOOCs mit den Anforderungen akkreditierter medizinischer Weiterbildung verbindet. arztCME.de dient dabei als reflektiertes Praxisbeispiel: Die Plattform zeigt, wie standardisierte Lernmodule, strukturierte Inhalte, Prüfungslogik, Zertifikatsprozesse und Qualitätssicherung in einem digitalen Fortbildungsökosystem zusammengeführt werden können.

Ein wesentlicher Aspekt des Beitrags ist die Abgrenzung zu allgemeinen MOOC-Modellen. In der ärztlichen Fortbildung bedeutet „offen“ nicht automatisch anonym oder beliebig zugänglich. Zwar können digitale Inhalte niedrigschwellig bereitgestellt werden, doch für die Anerkennung von CME-Punkten sind registrierte Teilnahme, nachvollziehbare Prüfungsschritte und dokumentierte Zertifizierung erforderlich. Damit entsteht ein hybrides Modell: breiter digitaler Zugang auf der einen Seite, formale Nachweis- und Qualitätsanforderungen auf der anderen. Das Kapitel beschreibt außerdem, wie digitale CME-Module didaktisch aufgebaut sein sollten. Dazu zählen klar formulierte Lernziele, transparente Angaben zu Autorenschaft und möglichen Interessenkonflikten, strukturierte Inhalte, optionale Selbsttests, eine summative Lernerfolgskontrolle sowie Evaluation und Feedback. Ergänzend werden moderne Formate wie avatarbasierte Einführungen, Chatbots zur tutoriellen Unterstützung, interaktive Fallvignetten, Microlearning und Spaced Learning diskutiert.

Ein weiterer Schwerpunkt liegt auf Learning Analytics. Der Beitrag zeigt, wie aggregierte Kennzahlen – etwa Modulstarts, Start der Lernerfolgskontrolle, Zertifikate, Downloads ergänzender Materialien oder regionale Verteilung – zur Qualitätssicherung und Projektsteuerung genutzt werden können. Zugleich wird betont, dass solche Auswertungen datenschutzkonform, zweckgebunden und möglichst aggregiert erfolgen müssen. Auch der verantwortungsvolle Einsatz von Künstlicher Intelligenz wird aufgegriffen. KI-gestützte Funktionen können künftig etwa bei der Orientierung in Lernmodulen, bei Zusammenfassungen, bei adaptiven Übungsfragen oder in der tutoriellen Unterstützung helfen. Der Beitrag plädiert jedoch für einen schrittweisen und kontrollierten Einsatz, insbesondere dort, wo Akkreditierung, Prüfungsvalidität und Neutralität berührt sind.

Für arztCME ist die Veröffentlichung ein wichtiger wissenschaftlicher Bezugspunkt. Sie ordnet die langjährige praktische Erfahrung mit digitaler ärztlicher Fortbildung in einen internationalen Diskurs über MOOCs, professionelle Weiterbildung und digitale Bildungssysteme ein. Zugleich macht der Beitrag deutlich, dass medizinische Online-Fortbildung mehr ist als die digitale Bereitstellung von Inhalten: Sie erfordert ein Zusammenspiel aus Didaktik, technischer Plattformlogik, Akkreditierung, Datenschutz, Transparenz und kontinuierlicher Qualitätssicherung.

Wolf, S., Wiegers, W. (2026). Accredited Medical MOOCs: arztCME.de as a Domain-Specific MOOC Model for Continuing Medical Education (CME). In: Ye, J.-H. et al. (eds.), Implementation Strategies and Effects of Massive Open Online Courses [Working Title]. IntechOpen, Online First.
https://doi.org/10.5772/intechopen.1015248

Text: Redaktion arztCME

Bild: Open AI für arztCME

Der Beitrag arztCME in Buchprojekt zu MOOCs in der medizinischen Fortbildung erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.

Fast täglich erscheinen aktuell White Paper zur Zukunft der Arbeit und dem Wandel durch Künstliche Intelligenz (KI). Das McKinsey-Global-Institute-Paper „Agents, robots, and us“ (Link) beschreibt dabei keine ferne Zukunftsvision, sondern eine beginnende Reorganisation von Arbeit. 

Für Europa beziffert die Analyse den theoretisch automatisierbaren Anteil aktueller Arbeitsstunden auf 58%: 44% könnten durch digitale Agenten, 14% durch Roboter übernommen werden. Für Deutschland weist das Dashboard ein ähnliches Profil aus: 45% agentenfähige und 14% robotikfähige Arbeitsstunden; 41% bleiben primär menschlich geprägt. Wichtig ist: Das ist technisches Potenzial, keine Prognose für Stellenabbau.

Für den Gesundheitsbereich ist diese Differenzierung zentral. Ärztliche und pflegerische Arbeit gehört zu den Tätigkeiten, in denen klinische Urteilsbildung, Empathie, Verantwortungsübernahme und situatives Handeln nicht substituiert werden. Zugleich enthält der Versorgungsalltag viele strukturierte, dokumentations- und koordinationsintensive Prozesse: Befundzusammenfassungen, Arztbriefe, Kodierung, Termin- und Ressourcenplanung, Qualitätskontrolle, Abrechnung, Patientenkommunikation oder Vorselektion administrativer Anfragen. Genau hier liegt der kurzfristig relevanteste Nutzen von KI-Agenten.

Das Paper schätzt, dass im europäischen Sektor „Healthcare and social assistance“ bis 2030 im Midpoint-Szenario rund 19% der heutigen Arbeitsstunden automatisiert werden könnten; der wirtschaftliche Wert wird mit 177 Milliarden US-Dollar beziffert. Auffällig ist, dass 80% dieses Potenzials auf digitale Agenten und nur 20% auf Robotik entfallen. Für deutsche Krankenhäuser und Praxen bedeutet das: Die größere Produktivitätsreserve liegt zunächst nicht im Pflegeroboter, sondern in der Entlastung von Dokumentation, Informationssuche, Prozesssteuerung und Routinekommunikation.

Medizinisch entscheidend wird sein, KI nicht als isoliertes Tool einzuführen, sondern Workflows neu zu designen. Das Paper betont, dass punktuelle Automatisierung in alten Prozessen oft wenig Nutzen erzeugt. Für die Versorgung heißt das: KI muss in KIS, Praxissoftware, ePA, Laborsysteme und Medikationsprozesse integriert werden – mit klarer ärztlicher Letztverantwortung, Auditierbarkeit und Datenschutzkonzept.

Die wichtigste Kompetenz wird daher „AI Fluency“: Ärztinnen und Ärzte müssen KI-Ergebnisse interpretieren, Plausibilität prüfen, Bias erkennen und wissen, wann Human Review zwingend ist. KI kann Zeit zurückgeben. Ob daraus bessere Medizin wird, hängt weniger von der Software ab als von Governance, Interoperabilität und klinischer Prozesskompetenz.

Text: Reinhard Merz
Bild: openAI für arztCME

Der Beitrag Rettet KI das Gesundheitswesen vor dem administrativen GAU? erschien zuerst auf arztCME - Zertifizierte Fortbildung für Ärztinnen und Ärzte.