From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search

arXiv cs.CR · 9 oct, 06:00

Investigadores miden cómo el contenido publicado en plataformas de bajo acceso puede ser citado rápidamente por sistemas de búsqueda con IA, convirtiéndose en información presentada a los usuarios. El análisis de 10 plataformas de AI-search revela que muchas concentran sus citas en dominios con barreras bajas de entrada, permitiendo que publicaciones ordinarias influyan en las respuestas generadas sin que los usuarios vean el origen manipulado. Esto representa un vector de ataque económicamente viable para inyectar información falsa o sesgada en sistemas de IA.