OpenAIs 'Doktor-Flüsterer': Wie ChatGPT lernt, besser über Gesundheit zu sprechen

Wenn Sie bemerkt haben, dass ChatGPT bessere Ratschläge zu Ihren Rückenschmerzen gibt, ist das wahrscheinlich einem Arzt in tausenden Kilometern Entfernung zu verdanken.

Jede Woche nutzen mehr als 300 Millionen Menschen ChatGPT für gesundheitsbezogene Ratschläge. Um die KI-Entwicklung im Gesundheitswesen zu steuern, hat OpenAI hunderte praktizierende Ärzte aus der ganzen Welt verpflichtet.

Diese Vertragsärzte sprechen 49 Sprachen und bewerten Beispiele von Gesprächen, die Nutzer oder Ärzte mit dem Chatbot führen könnten, wobei sie nach Stellen suchen, an denen er seine Nutzer verwirren oder jemanden in körperliche Gefahr bringen könnte.

Die Ärztin, die diese Bemühungen leitet, Rebecca Soskin Hicks, kam 2024 zu OpenAI und ist seither so etwas wie eine „Ärzteflüsterin“ geworden, die zwischen den Ärzten und dem Unternehmen vermittelt, um KI im Gesundheitswesen zu verbessern.

„Dies ist ein Bereich mit hohem Risiko“, sagte Soskin Hicks. „Es gibt keine Ziellinie dafür, was gut genug ist. Soweit ich weiß, werden wir den Weg der Verbesserung unbegrenzt fortsetzen. Kontinuierlich.“

Das Risiko kann in der Tat hoch sein. Im Juli verklagte ein Pastor OpenAI wegen der Antworten von ChatGPT auf Details zu einer gesundheitlichen Krise mit seiner Lunge. Er behauptete, das GPT-4o-Modell habe seine Symptome fehldiagnostiziert und heruntergespielt; die Klage zielte darauf ab, OpenAI dazu zu bringen, den Betrieb von gesundheitsbezogenen Produkten einzustellen.