OpenAI hat seine Pläne, einen Chatbot speziell für erotische Inhalte zu entwickeln, vorerst auf Eis gelegt. Das Unternehmen bestätigte gegenüber der Financial Times, dass die Entwicklung „auf unbestimmte Zeit“ gestoppt wurde. Interne Bedenken von Mitarbeitern und Investoren spielten bei dieser Entscheidung eine wesentliche Rolle.

Die Pläne für diese Funktion, die erstmals im Oktober 2025 angekündigt und ursprünglich im Dezember des letzten Jahres veröffentlicht werden sollte, wurden bereits verzögert. Das Unternehmen diskutierte intern intensiv, ob die Veröffentlichung überhaupt erfolgen sollte. Interessanterweise ist dies bereits die zweite App, deren Entwicklung OpenAI innerhalb einer Woche eingestellt hat. Erst am Dienstag wurde bekannt gegeben, dass die Entwicklung des Sora Video Generators ebenfalls eingestellt wird.

Der Chatbot für Erwachsene, intern wohl unter dem Codenamen „Citron Mode“ geführt, ist nun auf Eis gelegt, ohne dass ein neuer Veröffentlichungstermin in Aussicht steht. Laut Informationen der Financial Times hatte das Unternehmen Schwierigkeiten, Modelle zu trainieren, die zuvor darauf ausgelegt waren, erotische Inhalte zu vermeiden. Eine besondere Herausforderung stellte die Filterung illegaler Inhalte wie beispielsweise Darstellungen von Tierliebe oder Inzest dar. Hierbei stieß OpenAI an seine Grenzen.

In einer Stellungnahme betonte OpenAI, dass man langfristige Forschung über die Auswirkungen erotischer Chats und die Bindung von Nutzern an KI durchführen wolle. Aktuell gäbe es noch nicht genügend „empirische Beweise“ zu diesem Thema. Man wolle die potenziellen gesellschaftlichen Auswirkungen besser verstehen, bevor man ein solches Produkt auf den Markt bringe.

Die Entscheidung von OpenAI wirft ein Schlaglicht auf die ethischen und praktischen Herausforderungen bei der Entwicklung von KI-Anwendungen mit erotischen Inhalten. Die Schwierigkeit, schädliche Inhalte zu filtern und die potenziellen Auswirkungen auf die Nutzerbeziehungen sind komplexe Themen, die sorgfältige Überlegungen erfordern. OpenAI scheint sich dieser Verantwortung bewusst zu sein und hat sich daher für einen vorsichtigen Ansatz entschieden. Es bleibt abzuwarten, ob und wann das Unternehmen seine Pläne in diesem Bereich wieder aufnehmen wird. Im Moment konzentriert sich OpenAI offenbar darauf, die bestehenden Technologien weiter zu verbessern und die ethischen Implikationen neuer Entwicklungen gründlich zu untersuchen.