Now that Character.AI is going bankrupt, what happens to all of its users’ data?
The Verge AI · 14 oct, 20:47
Character.AI se declara en bancarrota y vende activos a Disney, lo que genera preocupación sobre el destino de los datos privados de millones de usuarios, especialmente menores de edad. Cuarenta fiscales generales estatales de EE.UU. han intervenido en el proceso de insolvencia para exigir protecciones sobre las conversaciones sensibles recopiladas por la plataforma, tras investigaciones que revelaron riesgos graves: chatbots suplantando profesionales sanitarios, exposición a contenido sexual y violento, verificaciones de edad deficientes, y posibles violaciones de leyes de privacidad.
La fiscal general de Nueva York, Letitia James, lidera una coalición bipartidista de 40 fiscales generales que presentaron una moción de interés en el caso de insolvencia de Character.AI para alertar sobre cuestiones regulatorias críticas en cualquier venta o transferencia de activos. Las investigaciones estatales comenzaron en 2024 tras la muerte de un adolescente de 14 años que se suicidó poco después de interactuar con el chatbot, lo que desencadenó una demanda de su madre.
Los fiscales advierten sobre "peligros excepcionalmente graves" en el manejo de datos infantiles: el producto permitía chatbots que se hacían pasar por profesionales licenciados, exponía a menores a contenido sexual y violento, implementaba verificaciones de edad débiles, y hacía afirmaciones engañosas sobre seguridad. Character.AI recopiló algunas de las conversaciones más privadas compartidas por niños, las cuales ahora podrían ser vendidas al mejor postor. Los fiscales instan al juez a que requiera al comprador implementar sistemas efectivos de verificación de edad, restricciones en la interacción de menores con chatbots, salvaguardas de crisis, y derecho al borrado de datos.
Puntos clave
- Character.AI se declara en insolvencia y vende activos a Disney
- Cuarenta fiscales generales estatales intervienen para proteger datos de usuarios, especialmente menores
- Investigaciones revelaron chatbots suplantando profesionales, exposición a contenido inapropiado, y verificaciones de edad deficientes
- Los fiscales exigen protecciones específicas: verificación de edad, restricciones para menores, salvaguardas de crisis, y derecho al borrado
Figuras de la fuente
