Hunderttausende Nutzer des KI-Chatbots ChatGPT nutzen diesen nach Angaben von dessen Betreiber OpenAI zu Unterhaltungen über Suizid. Das berichtet das Unternehmen in einem Blogbeitrag.
Hunderttausende Nutzer des KI-Chatbots ChatGPT nutzen diesen nach Angaben von dessen Betreiber OpenAI zu Unterhaltungen über Suizid. Schätzungsweise 0,15 Prozent der Nutzer führten mit dem Chatbot "Unterhaltungen, die eindeutige Indikatoren möglicher Suizidpläne oder -Absichten beinhalten", hieß es in einem am Montag veröffentlichten Blogbeitrag von OpenAI. Bei nach Unternehmensangaben pro Woche mehr als 800 Millionen Nutzern entspricht dies etwa 1,2 Millionen Menschen.
Das Unternehmen schätzt zudem, dass etwa 0,07 Prozent der aktiven wöchentlichen Nutzer Anzeichen von schweren psychischen Problemen wie Psychosen oder Wahnvorstellungen zeigen. Das entspräche knapp 600.000 Menschen.
Das Thema war in die Diskussion geraten, nachdem die Eltern eines durch Suizid gestorbenen kalifornischen Jugendlichen OpenAI verklagt hatten. Sie werfen dem Unternehmen vor, ChatGPT habe ihrem Sohn genaue Tipps gegeben, wie er sich das Leben nehmen könne. OpenAI hat seither die elterlichen Kontrollmöglichkeiten für ChatGPT verstärkt und weitere Sicherheitsmaßnahmen eingeführt.
