Datenchaos statt Diagnose: ChatGPT scheitert am Herz-Check

Manchmal ist es besser, wenn die KI einfach nur Texte zusammenfasst, statt die eigene Lebenserwartung zu würfeln. Geoffrey Fowler von der Washington Post hat den Selbstversuch gewagt und ChatGPT Health Zugriff auf ein Jahrzehnt seiner Apple-Health-Daten gewährt - von 29 Millionen Schritten bis hin zu Millionen von Herzschlagmessungen. Das Ergebnis war eine glatte Sechs für seine Herzgesundheit. Ein Schockmoment, der sich nach Rücksprache mit einem echten Kardiologen als technischer Totalausfall entpuppte.

Das Problem liegt nicht an einem Mangel an Daten, sondern an deren Interpretation. Die KI stützte ihre düstere Prognose maßgeblich auf den VO2-max-Wert. Das ist technisch gesehen mutig, da selbst Apple darauf hinweist, dass es sich bei den Werten der Watch lediglich um Schätzungen handelt. Für echte medizinische Validität bräuchte es eine Spiroergometrie unter Laborbedingungen, keine Hochrechnung am Handgelenk. ChatGPT behandelte diese Schätzwerte jedoch wie in Stein gemeißelte Fakten.

Noch absurder wurde es bei der Hardware-Historie. Wenn du dir eine neue Apple Watch kaufst, ändern sich oft die Sensoren oder die Algorithmen dahinter. Die KI interpretierte die daraus resultierenden Abweichungen in der Ruheherzfrequenz als biologische Veränderung, statt sie als das zu erkennen, was sie waren: ein technisches Upgrade.

Dass ChatGPT zudem bei mehrmaligem Nachfragen zwischen den Noten F und B schwankte, unterstreicht die aktuelle Unzuverlässigkeit. Die KI vergaß zwischendurch schlicht das Geschlecht oder das Alter des Nutzers, obwohl die Daten direkt vorlagen. Diese Inkonsistenz ist bei einem Chatbot für Rezepte oder Reiseplanungen amüsant, im Gesundheitskontext ist sie gefährlich. Es zeigt aber auch die riesige Marktlücke, in die Apple mit seinem gemunkelten „Health+“-Dienst stoßen könnte. Wenn Apple es schafft, die hauseigene KI so zu trimmen, dass sie den Unterschied zwischen einem Sensor-Update und einem drohenden Infarkt versteht, hätten sie einen gewaltigen Vorsprung. Bis dahin bleibt ChatGPT in Gesundheitsfragen eher ein hypernervöser Medizinstudent im ersten Semester als ein verlässlicher Partner.