Google: Fehlerhafte medizinische Zusammenfassungen sorgen für Kritik

Google gerät erneut in die Kritik, nachdem das Unternehmen für fehlerhafte medizinische Zusammenfassungen verantwortlich gemacht wurde. Experten warnen, dass ungenaue Informationen im Gesundheitsbereich erhebliche Risiken für Nutzerinnen und Nutzer darstellen könnten.

Zweifel an der Zuverlässigkeit von KI im Gesundheitsbereich

Im Spannungsfeld zwischen Fortschritt und Verantwortung steht derzeit die Nutzung von Künstlicher Intelligenz im medizinischen Alltag. Jüngst wurden durch eine Recherche des britischen Mediums The Guardian zahlreiche Schwächen in den automatisierten AI Overviews von Google offengelegt: Mehrere Zusammenfassungen zu Gesundheitsthemen enthielten ungenaue oder sogar gefährliche Empfehlungen. Beispielsweise wurde bei einer einfachen Suche nach Leberwerten wesentliche Faktoren wie Alter oder Herkunft der Patientinnen und Patienten ausgeblendet. Besonders schwerwiegend: Hinweise für Betroffene von Bauchspeicheldrüsenkrebs widersprachen anerkannten medizinischen Leitlinien.

Scharfe Kritik aus Fachkreisen

Rasche und deutliche Kritik ließ nicht auf sich warten. Die britische Stiftung Pancreatic Cancer UK, vertreten durch die Support-Leiterin Anna Jewell, bezeichnete die KI-Antworten als „völlig falsch“ und warnte eindringlich vor konkreten Gefahren für Erkrankte. In anderen Fällen kam es zur Verwechslung unterschiedlicher Krebsarten beim Screening oder zur Verbreitung fragwürdiger Ratschläge im Zusammenhang mit Essstörungen. Fachleute fordern daher ein konsequenteres Qualitätsmanagement bei den angebotenen Informationen.

Googles Reaktion – Teilschritte statt umfassender Lösung?

Der digitale Branchenriese hat inzwischen erste Korrekturen vorgenommen. Auffällige AI Overviews wurden entfernt oder überarbeitet, etwa zum Thema Leberanalysen. Doch nach wie vor erscheinen nicht alle automatisierten Zusammenfassungen frei von Fehlern. Das Unternehmen selbst äußerte sich zurückhaltend: Man kommentiere keine Einzelfälle, arbeite jedoch an der generellen Verbesserung der Suchergebnisse.

Aussichten und offene Fragen zur digitalen Medizinberatung

Wie tragfähig sind also die Versprechen der digitalen Medizin? Mehrere Faktoren erklären diese Unsicherheit:

• Zuverlässigkeit: KI-Systeme müssen kontinuierlich überwacht werden.
• Sicherheit: Fehlende Präzision birgt ernsthafte Risiken für Patienten.
• Zukunftspotenzial: Trotz aller Bedenken investieren Unternehmen wie OpenAI – jüngst mit dem neuen „ChatGPT Health“ – und Google weiter in verbesserte Lösungen.

Abschließend bleibt festzuhalten: Die Diskussion um Chancen und Grenzen von medizinischer KI bleibt lebendig. Während Innovationen Hoffnung wecken, mahnen Experten zur Vorsicht – ein endgültiges Urteil lässt weiter auf sich warten.