La policía china ha detenido a un hombre por supuestamente generar bulos sobre un accidente de tren y difundirlas en Internet. La peculiaridad de este arresto es que estaba utilizando la inteligencia artificial de ChatGPT para crear información deliberadamente falsa y poder publicarla en múltiples cuentas haciendoq ue parezca que muchas personas han reportado este falso incidente.
La idea es que el uso de ChatGPT le habría permitido crear numerosas formas de reportar un evento falso y que parezca que la información procede de más gente. Esta sería considera la primera detención en China por uso indebido de ChatGPT.
ChatGPT se ha usado para generar desinformación en China
La policía de la provincia de Gansu enm China, informó el domingo en un comunicado de la detención de un sospechoso apellidado Hong por «utilizar tecnología de inteligencia artificial para urdir información falsa y no veraz«. Llamó la atención de la división cibernética de la policía cuando detectaron un artículo de una noticia falsa que afirmaba que nueve personas habían muerto en un accidente de tren local el 25 de abril.
Agentes de ciberseguridad del condado de Kongtong descubrieron que el artículo había sido publicado simultáneamente por más de 20 cuentas en Baijiahao. Esta es una plataforma de blogs gestionada por el buscador Baidu. El artículo había recibido más de 15.000 clics cuando llegó a conocimiento de las autoridades.
El Departamento de Seguridad Pública de Gansu declaró que Hong era sospechoso de un delito de «buscar pelea y provocar problemas«, que conlleva una pena máxima de cinco años. En casos considerados especialmente graves, pueden acarrear hasta 10 años de prisión y penas adicionales. La policía dijo que había rastreado los orígenes del artículo hasta una empresa propiedad del sospechoso Hong, que operaba plataformas de medios personales registradas en Shenzhen. Unos 10 días después, un equipo policial registró el domicilio de Hong, su ordenador y lo detuvo.
Hong confesó haberse saltado la función de comprobación de duplicados de Baijiahao para publicar en varias cuentas que había adquirido. Introdujo en ChatGPT los elementos de las historias sociales que habían sido tendencia en China en los últimos años para producir rápidamente diferentes versiones de la misma historia falsa y las subió a sus cuentas de Baijiahao.
Fuente: Gadgets 360
