El editor académico Major Springer Nature está investigando un nuevo libro de texto de aprendizaje automático después de que un grupo de vigilancia lo encontró plagado de citas fabricadas, un signo revelador de contenido generado por IA. El libro,”Mastering Machine Learning”, se publicó en abril de 2025.
Las fallas fueron expuestas por
La controversia plantea preguntas urgentes sobre los procesos de verificación de los editores y la necesidad crítica de la supervisión humana a medida que la IA generativa se vuelve más extendida. src=”https://winbuzzer.com/wp-content/uploads/2025/07/mastering-machine-leearning-fromic-basics-to-advanced-govindakumar-madhavan.jpg”> . Una muestra del libro, dos tercios de 46 citas eran inexistentes o contenían errores sustanciales. Investigadores como Yehuda Dar y Aaron Courville, que fueron citados en el texto, confirmaron que las obras atribuidas a ellos fueron falsas o tergiversadas. El autor del libro, Govindakumar Madhavan, es el fundador de Seopai y ha escrito numerosos libros y videos. Irónicamente, su empresa promesas para ayudar a”las organizaciones a construir sistemas de detección de fraude con alimentación de IA que son precisas, responsables y adaptadas a las amenazas del mundo real. No respondió directamente las preguntas sobre su uso de los modelos de idiomas grandes (LLMS).. Un desafío, ya que incluso el texto escrito por humanos puede parecer”como AI”.” Esta respuesta evita el tema central del uso de IA no declarado. href=”https://link.springer.com/book/10.1007/978-981-97-9914-5″Target=”_ en blanco”> Libro El publicado investiga las citas generadas por AI en un nuevo libro
Un patrón de AI”confidentemente incorrecto”
Este incidente no está aislado, pero refleja un desafío persistente en toda la industria conocido como AI Hallucination. para disculparse formalmente en la corte. DISPARACIÓN. Problemas.
De la fabricación accidental hasta el engaño deliberado
La amenaza a la integridad ahora se está intensificando más allá de la fabricación accidental a la manipulación intencional. href=”https://asia.nikkei.com/business/technology/artificial-intelligence/positivo-review-only–researchers-hide-hide-ai-pompts-inpapers”target=”_ en blanco”> Informado por Nikkei en julio de 2025 desaconsejó una nueva forma de juegos académicos . Los comandos ocultos, conocidos como ataques de inyección rápidos, en sus documentos para engañar a los sistemas de revisión de AI. Aceptado basado en una revisión de IA manipulada, constituye”Rigging de revisión por pares”.”Esto representa un asalto directo al proceso de revisión por pares.
Una industria revuelve por las barandillas éticas
Estos incidentes escaladores revelan un sistema bajo una presión inmensa, cuando una cultura de”publicar o perseguir”puede incentivar los cortos achates y los inyectores y los inyectores de los cañones y los mortales. Las políticas de los editores sobre el uso de la IA crean un área gris que está madura para la explotación.
En respuesta, los organismos clave de la industria están comenzando a actuar. Orientación sobre la IA en la revisión por pares , enfatizando la necesidad de transparencia y supervisión humana robusta. del problema.