Micólogos avisan de libros sobre setas escritos por IA que pueden ser peligrosos
El uso de una IA parece fascinante al principio, pero no hay que olvidar que usarla tiene riesgos. Riesgos como que una IA generativa como Bard o ChatGPT no son un buscador ni una fuente fiable de información, pues les han alimentado de millones de textos para que parezca que puede entender un idioma. Son un entretenimiento, y una posible inspiración, y pueden quitarte de tareas de escritura repetitivas y complicadas, pero su trabajo siempre debería de ser revisado por un humano experto y puesto en duda. Es lo que decimos nosotros, y lo que dicen micólogos en micología y micólogos amateurs sobre libros sobre recolección de setas que empiezan a aparecer en Amazon.
Un género de libros generados por IA en Amazon está asustando a buscadores de setas y micólogos: libros de cocina y guías de identificación de setas dirigidas a principiantes. Afirman que Amazon tiene un problema de libros generados por IA. Muchos de estos libros han sido creados diseñados para ganar dinero y los expertos dicen que podrían matar a la gente si comen la seta equivocada porque una guía escrita por una IA les dice que es segura.
El riesgo de los libros hechos por una IA
La Sociedad Micológica de Nueva York advirtió en las redes sociales que la proliferación de libros de forrajeo generados por IA «podría significar la vida o la muerte» y que «una mala descripción en un libro puede inducir a alguien a comer una seta venenosa«. Un escaneo de los libros de setas en Amazon reveló muchos libros probablemente escritos por ChatGPT, pero que se venden sin ninguna indicación de que son generados por IA y se comercializan como si hubieran sido escritos por un humano.
Han encontrado libros por gente que no tiene ningún rastro en internet con una búsqueda en Google, ni siqueira de gente en redes sociales. Las descripciones y contenidos fueron pasados por IA ZeroGPT, que calcula qué parte de una selección de texto podría estar escrita por un generador de texto. Algunos estaban escritos en más de un 85% por IA. Además, vio que solían empezar con una estructura similar de una vida antes de empezar a dar supuestos datos micológicos.
Los micólogos ponen de ejemplo las falsas colmenillas y los sombreros de la muerte. Son dos especies que se parecen mucho a sus homólogas comestibles no venenosas, y pueden matar a quien las consuma en cuestión de horas. Un chatbot puede no comprender la información que se le da, e incluso confundir las fotos. Esto hace que estos libros sean un potencial peligro para la salud.
Amazon evalúa constantemente las tecnologías emergentes y se compromete a ofrecer la mejor experiencia posible de compra, lectura y publicación a nuestros autores y clientes. Todos los editores en la tienda deben adherirse a nuestras directrices de contenido, independientemente de cómo se creó el contenido. Invertimos mucho tiempo y recursos para asegurarnos de que se siguen nuestras directrices, y eliminamos los libros que no las cumplen. Nos comprometemos a ofrecer una experiencia de compra y lectura segura a nuestros clientes y nos tomamos muy en serio este tipo de asuntos.
Ashley Vanicek, portavoz de Amazon
Fuente: 404 Media
