Inicio / Estudiantes / Cuidado con los usuarios de Google Books y Scholar: las tonterías generadas por la IA están llenando los resultados de búsqueda

Cuidado con los usuarios de Google Books y Scholar: las tonterías generadas por la IA están llenando los resultados de búsqueda

muro del librogettyimages-184268876

datos funky/Getty Images

¿Utiliza Google Libros para buscar libros sobre temas específicos? ¿O Google Scholar para sumergirte en la investigación académica? Esto es lo que debe saber: estos sitios, que permiten a los usuarios «buscar en el índice de libros de texto completo más completo del mundo» (y buscar literatura académica en cualquier disciplina), han comenzado a indexar libros de baja calidad generados por IA que parecen ser escrito por seres humanos reales por los autores.

Además: Meta promete un mejor etiquetado de videos, imágenes y audio generados por IA

Este consejo es cortesía de 404 Media, que utilizó un truco sencillo para encontrar libros generados por IA.

Cuando te refieres a eventos actuales en ChatGPT, a menudo te saludan con la frase «Según mi última actualización de conocimientos». Esta es simplemente la forma en que OpenAI le hace saber que tiene límites de tiempo sobre la información a la que puede acceder.

Pero si busca esa frase en particular, «A partir de mi última actualización de conocimientos», en Google Books, encontrará libros que parecen publicar contenido creado textualmente por ChatGPT.

Una búsqueda rápida de la frase arrojó página tras página de títulos. Algunos de los libros en realidad trataban sobre ChatGPT y contenían esta redacción para mostrar sus límites, pero docenas de otros intentan hacer pasar creaciones de IA como genuinas.

Además: la IA que asume más trabajo no significa que te esté reemplazando. Aquí hay 12 razones para preocuparse menos

Por ejemplo, un libro sobre el atentado del maratón de Boston utilizaba la frase: «En el momento de mi última actualización en septiembre de 2021, el caso todavía estaba en litigio y el resultado final aún era incierto», refiriéndose a los responsables del ataque. El «autor» de este libro tiene otras 50 obras, incluidos títulos sobre la Guerra Fría, el 11 de septiembre, los padres fundadores de Estados Unidos, la antigua Roma, boxeadores famosos y nativos americanos famosos.

Cada uno de estos títulos se publicó en 2023 (Jack Wallen, de ZDNET, tardó 30 años en publicar esa cantidad de libros) y tenía entre 50 y 100 páginas. Al revisarlos, descubrí que cada uno ofrecía narrativas superficiales que, en el mejor de los casos, se parecían a una entrada de Wikipedia y, en el peor, parecía que ChatGPT simplemente arrojaba hechos.

Una búsqueda rápida en Internet reveló que estos libros se venden en Amazon y otros minoristas.

Además: esta es la razón por la que la desinformación sobre IA es el mayor riesgo del mundo

Cuando puse la misma frase en Google Scholar, que se supone que es un depósito de investigaciones en humanos, obtuve 19 páginas de resultados, incluidos artículos sobre jóvenes en riesgo, diabetes, autismo, COVID-19 y fatiga de los pilotos de aerolíneas.

No es nada nuevo que exista contenido generado por IA, pero cuando aparece en recursos confiables como Google Books y Google Scholar junto con contenido real, es un poco alarmante.

En declaraciones a 404 Media, Google dijo que «continuará evaluando nuestro enfoque a medida que evolucione el mundo editorial de libros», pero no mencionó la eliminación de esos resultados de la búsqueda.

Puede interesarte

Reseña del libro: Un gran cielo abierto de Lesa Klein-Ransom

UN GRAN CIELO ABIERTO, Lesa Klein-Ransom En un libro de historia de bolsillo de 1992, …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *