Das US-Unternehmen OpenAI hat eine Version seines vielgenutzten KI-Chatbots ChatGPT mit stärkeren Schutzmaßnahmen für Jugendliche vorgestellt. Eltern können ihr Konto mit dem ihrer Kinder verknüpfen und bei sensiblen Themen benachrichtigt zu werden.
Nach öffentlicher Kritik und Klagen hat das US-Unternehmen OpenAI eine Version seines vielgenutzten KI-Chatbots ChatGPT mit stärkeren Schutzmaßnahmen für Jugendliche vorgestellt. Die Einstellungen der am Dienstag präsentierten Version ChatGPT for Teens werden den Angaben zufolge automatisch für alle Nutzer aktiviert, die laut Registrierung zwischen 13 und 17 Jahren alt sind oder die vom Unternehmen etwa anhand von Nutzungsmustern als minderjährig erkannt werden.
ChatGPT mit seinen vielfältigen Anwendungsmöglichkeiten im Bereich der Künstlichen Intelligenz (KI) wird von Verbrauchern weltweit genutzt. Die meisten Schutzmaßnahmen von ChatGPT for Teens gab es für Konten Minderjähriger schon bislang, wie etwa Einschränkungen bei Themen wie Selbstverletzung, Gewalt, Essstörungen und Sexualität.
Neu sind unter anderem häufigere Pausen-Erinnerungen sowie ein Lernmodus, der mit leitenden Fragen statt direkten Antworten reagiert, "um Jugendlichen zu helfen, den Stoff zu verstehen", wie OpenAI mitteilte. Einige Einstellungen wie der Sprachmodus sind nicht verfügbar.
Eltern haben die Möglichkeit, ihr Konto mit dem ihrer Kinder zu verknüpfen und bei Themen wie Selbstverletzung oder Suizid benachrichtigt zu werden. Die Hinweise werden von menschlichen Moderatoren überprüft. Details aus den Chatprotokollen werden zum Schutz der Privatsphäre entfernt.
OpenAI wurde bereits mehrfach wegen Todesfällen verklagt, die nach Ansicht der Kläger und Klägerinnen mit ChatGPT in Verbindung stehen. Die Eltern eines 16-Jährigen etwa klagten, nachdem sich ihr Sohn offenbar nach Chatbot-Hinweisen zu Suizid-Methoden das Leben nahm.
Wie Anbieter anderer Onlinedienste sehen sich auch die Anbieter von KI-Diensten international verstärkter Regulierung durch die Politik ausgesetzt. Der OpenAI-Rivale Anthropic hat die Nutzung seines Angebots auf Erwachsene beschränkt.
