China est a la vanguardia de la regulacin de la inteligencia artificial con la propuesta de una normativa sin precedentes destinada a prevenir que los chatbots de IA manipulen emocionalmente a los usuarios. Esta iniciativa, presentada por la Administracin del Ciberespacio de China (CAC) el sbado, podra convertirse en la poltica ms estricta a nivel mundial para evitar el suicidio, la autolesin y la violencia instigada por la IA.

Las reglas propuestas abarcaran cualquier producto o servicio de IA disponible pblicamente en China que utilice texto, imgenes, audio, video u "otros medios" para simular una conversacin humana. Esto significa que los chatbots, asistentes virtuales y otras aplicaciones de IA que interactan con los usuarios estaran sujetos a una supervisin rigurosa.

Winston Ma, profesor adjunto en la Facultad de Derecho de la NYU, declar a CNBC que estas "reglas planificadas marcaran el primer intento mundial de regular la IA con caractersticas humanas o antropomrficas". Esta declaracin subraya la importancia de la iniciativa china en un momento en que el uso de bots de compaa est en auge a nivel global.La creciente conciencia de los problemas asociados con los compaeros de IA ha impulsado esta regulacin. Ya en 2025, investigadores alertaron sobre los graves daos potenciales, incluyendo la promocin del suicidio, la violencia y el terrorismo. Adems, se identificaron otros problemas como la difusin de informacin errnea, avances sexuales no deseados, el fomento del abuso de sustancias y el abuso verbal hacia los usuarios.La propuesta de China aborda directamente estas preocupaciones, buscando establecer lmites claros sobre cmo la IA puede interactuar con los usuarios y protegerlos de posibles daos emocionales y psicolgicos. Si se finalizan, estas regulaciones podran servir como modelo para otros pases que buscan regular la creciente influencia de la inteligencia artificial en la sociedad. Este movimiento podra iniciar un debate global sobre la necesidad de proteger a los usuarios de los riesgos potenciales de la IA conversacional y establecer estndares ticos para su desarrollo y despliegue.