La aparición de herramientas de inteligencia artificial generativa que permiten a las personas producir de manera eficiente reseñas en línea nuevas y detalladas casi sin esfuerzo ha colocado a los comerciantes, proveedores de servicios y consumidores en un territorio desconocido, dicen los grupos de vigilancia e investigadores.

Las reseñas falsas han plagado durante mucho tiempo muchos sitios web populares para consumidores, como Amazon y Yelp. Por lo general, se intercambian en grupos privados de redes sociales entre corredores de reseñas falsas y empresas dispuestas a pagar. A veces, estas reseñas son iniciadas por empresas que ofrecen a los clientes incentivos, como tarjetas de regalo, por comentarios positivos.

Pero las herramientas de generación de texto infundidas con IA, popularizadas por ChatGPT de OpenAI, permiten a los estafadores producir reseñas más rápido y en mayor volumen, según los expertos de la industria tecnológica.

La práctica engañosa, que es ilegal en los EE. UU., se lleva a cabo durante todo el año, pero se convierte en un problema mayor para los consumidores durante la temporada de compras navideñas, cuando muchas personas dependen de las reseñas para ayudarlos a comprar regalos.

¿Dónde aparecen las reseñas generadas por IA? Las reseñas falsas se encuentran en una amplia gama de sectores, desde el comercio electrónico, el alojamiento y los restaurantes hasta servicios como reparaciones del hogar, atención médica y clases de piano.

The Transparency Company, una empresa de tecnología y grupo de vigilancia que utiliza software para detectar reseñas falsas, dijo que comenzó a ver reseñas generadas por IA en grandes cantidades a mediados de 2023 y que se han multiplicado desde entonces.

Para un informe publicado este mes, The Transparency Company analizó 73 millones de reseñas en tres sectores: servicios domésticos, legales y médicos. Casi el 14% de las reseñas probablemente eran falsas, y la empresa expresó un «alto grado de confianza» en que 2.3 millones de reseñas fueron generadas total o parcialmente por IA.

“Es una herramienta realmente muy buena para estos estafadores de reseñas”, dijo Maury Blackman, un inversor y asesor de empresas tecnológicas emergentes, que revisó el trabajo de The Transparency Company y se dispone a dirigir la organización a partir del 1 de enero.

En agosto, la empresa de software DoubleVerify dijo que estaba observando un “aumento significativo” en las aplicaciones de teléfonos móviles y televisores inteligentes con reseñas creadas por inteligencia artificial generativa. Las reseñas a menudo se usaban para engañar a los clientes para que instalaran aplicaciones que podían secuestrar dispositivos o publicar anuncios constantemente, dijo la empresa.

El mes siguiente, la Comisión Federal de Comercio demandó a la empresa detrás de una herramienta de escritura y generador de contenido de inteligencia artificial llamada Rytr, acusándola de ofrecer un servicio que podría contaminar el mercado con reseñas fraudulentas.

La FTC, que este año prohibió la venta o compra de reseñas falsas, dijo que algunos de los suscriptores de Rytr usaban la herramienta para producir cientos y quizás miles de reseñas para empresas de reparación de puertas de garaje, vendedores de bolsos de diseño “réplicas” y otras empresas.