El contenido generado por IA tendrá marca de agua en para avisar contra desinformación
Debido al nivel de realismo de las imágenes, salvo si uno no se para a mirar los detalles a mirar inconsistencia; se están usando para esparcir desinformación y noticias falsas. Si bien pueden usarse para el humor, como mucha gente hace con aplicaciones como Dall-E; se han popularizado imágenes generadas por IA generativa para esparcir desinformación. Los principales creadores de estas IAs se han dado cuenta del problema que suponen, y han firmado un acuerdo para poner marcas de agua a las imágenes creadas mediante estos medios.
OpenAI, Alphabet y Meta Platforms se han comprometido voluntariamente con la Casa Blanca a aplicar medidas como la marca de agua en los contenidos generados por IA: esperan que esto ayude a que la tecnología sea más segura, según informó el Gobierno de Biden. Anthropic, Inflection, Amazon.com y Microsoft se comprometieron a probar a fondo los sistemas antes de lanzarlos al mercado y a compartir información sobre cómo reducir los riesgos e invertir en ciberseguridad.
Ante la desinformación por las imágenes generadas por IA, toca marcarlas y evitar que se usen para el mal
Reuter comenta que Estados Unidos va a la zaga de la Unión Europea en la regulación de la inteligencia artificial. En junio, los legisladores de la UE acordaron una serie de normas en las que sistemas como ChatGPT tendrían que revelar los contenidos generados por IA, ayudar a distinguir las llamadas imágenes deep-fake de las reales y A garantizar salvaguardias contra los contenidos ilegales. El senador estadounidense, Chuck Schumer; pidió en junio «una legislación exhaustiva para avanzar y garantizar salvaguardias sobre la inteligencia artificial».
El Congreso está estudiando un proyecto de ley que obligaría a los anuncios políticos a revelar si se ha utilizado IA para crear imágenes u otros contenidos. Pero hay que tener en cuenta que no sólo los políticos usarían contenido pernicioso con fines políticos, pues están también los militantes y la gente afin que desa hacer daño a la imagen de otros partidos con los que no comulgan. El Presidente Joe Biden, recibirá en la Casa Blanca a ejecutivos de las siete empresas. También está trabajando en la elaboración de una orden ejecutiva y una legislación bipartidista sobre la tecnología de IA.
Las siete empresas mencionadas en este artículo se comprometieron a desarrollar un sistema de «marca de agua» en todas las formas de contenido, desde texto, imágenes, audios hasta vídeos generados por IA, para que los usuarios sepan cuándo se ha utilizado la tecnología. Esta marca de agua, incrustada en el contenido de manera técnica, espera facilitará a los usuarios la detección de imágenes o audios falsificados. Pero no olvidemos que alguien que sepa de esto, puede buscarse cómo quitar estas marcas de agua.
Las empresas también se comprometieron a proteger la privacidad de los usuarios a medida que se desarrolle la IA, a garantizar que la tecnología esté libre de prejuicios, y que no se utilice para discriminar a grupos vulnerables. Otros compromisos incluyen el desarrollo de soluciones de IA para problemas científicos como la investigación médica y la mitigación del cambio climático.
Fuente: Reuters
