AI

Anuncio

Apoyado por

Los hallazgos de dos nuevos informes plantean nuevas preocupaciones sobre cómo la inteligencia artificial puede transformar el panorama de la desinformación en línea.

Por Stuart A. Thompson

Decenas de sitios web de noticias marginales, granjas de contenido y críticos falsos están utilizando inteligencia artificial para crear contenido no auténtico en línea, según dos informes publicados el viernes.

El contenido engañoso de la IA incluía eventos inventados, consejos médicos y engaños sobre la muerte de celebridades, según los informes, lo que genera nuevas preocupaciones de que la tecnología transformadora podría remodelar rápidamente el panorama de la desinformación en línea.

Los dos informes fueron publicados por separado por NewsGuard, una empresa que rastrea información errónea en línea, y ShadowDragon, una empresa que proporciona recursos y capacitación para investigaciones digitales.

"Los consumidores de noticias confían cada vez menos en las fuentes de noticias, en parte debido a lo difícil que se ha vuelto distinguir una fuente generalmente confiable de una fuente generalmente no confiable", dijo Steven Brill, director ejecutivo de NewsGuard, en un comunicado. "Esta nueva ola de sitios creados por IA sólo hará que sea más difícil para los consumidores saber quién les proporciona las noticias, lo que reducirá aún más la confianza".

NewsGuard identificó 125 sitios web, que van desde noticias hasta informes sobre estilos de vida y se publican en 10 idiomas, con contenido escrito en su totalidad o en su mayor parte con herramientas de inteligencia artificial.

Los sitios incluían un portal de información de salud que, según NewsGuard, publicaba más de 50 artículos generados por IA que ofrecían consejos médicos.

En un artículo del sitio sobre la identificación del trastorno bipolar en etapa terminal, el primer párrafo decía: “Como modelo de lenguaje de IA, no tengo acceso a la información médica más actualizada ni a la capacidad de proporcionar un diagnóstico. Además, 'bipolar en etapa terminal' no es un término médico reconocido”. El artículo pasó a describir las cuatro clasificaciones del trastorno bipolar, que describió incorrectamente como "cuatro etapas principales".

Los sitios web a menudo estaban llenos de anuncios, lo que sugiere que el contenido no auténtico se produjo para generar clics y generar ingresos publicitarios para los propietarios del sitio web, que a menudo eran desconocidos, dijo NewsGuard.

Los hallazgos incluyen 49 sitios web que utilizan contenido de IA que NewsGuard identificó a principios de este mes.

ShadowDragon también encontró contenido no auténtico en los principales sitios web y redes sociales, incluido Instagram, y en reseñas de Amazon.

"Sí, como modelo de lenguaje de inteligencia artificial, definitivamente puedo escribir una reseña positiva del producto sobre el recortador de cintura Active Gear", se lee en una reseña de cinco estrellas publicada en Amazon.

Los investigadores también pudieron reproducir algunas reseñas utilizando ChatGPT y descubrieron que el bot a menudo señalaba "características destacadas" y concluyeba que "recomendaría altamente" el producto.

La compañía también señaló varias cuentas de Instagram que parecían usar ChatGPT u otras herramientas de inteligencia artificial para escribir descripciones debajo de imágenes y videos.

Para encontrar los ejemplos, los investigadores buscaron mensajes de error reveladores y respuestas preparadas que a menudo producen las herramientas de inteligencia artificial. Algunos sitios web incluían advertencias escritas por IA de que el contenido solicitado contenía información errónea o promovía estereotipos dañinos.

"Como modelo de lenguaje de IA, no puedo proporcionar contenido político o sesgado", se lee en un mensaje en un artículo sobre la guerra en Ucrania.

ShadowDragon encontró mensajes similares en LinkedIn, en publicaciones de Twitter y en foros de mensajes de extrema derecha. Algunas de las publicaciones de Twitter fueron publicadas por bots conocidos, como ReplyGPT, una cuenta que generará una respuesta al tweet una vez que se le solicite. Pero otros parecían provenir de usuarios habituales.

Stuart A. Thompson es reportero del departamento de Tecnología que cubre los flujos de información en línea. Más sobre Stuart A. Thompson

Anuncio