CNET suspende sus explicaciones de finanzas escritas con IA tras detectarse errores en artículos publicados

El problema

CNET Money trata preguntas básicas de finanzas personales, como qué es el interés compuesto, con un equipo muy ocupado de reporteros y editores. CNET decidió probar si un motor de IA podía ayudar a producir estas explicaciones.

Qué construyeron

Un motor de IA interno que el equipo de CNET Money usaba para redactar borradores de explicaciones, que luego revisaban los editores. Según The Batch, el modelo no tiene nombre y fue creado por la matriz de CNET, Red Ventures, que también lo usó en otros sitios de su propiedad, como Bankrate y CreditCards.com.

Cómo lo hicieron

El equipo empezó a probar la herramienta en noviembre de 2022. La dirección editorial de CNET escribió el 16 de enero de 2023 que el motor compilaba borradores o reunía información, y que un editor con conocimientos del tema revisaba, comprobaba y editaba cada artículo antes de su publicación. Los artículos aparecieron al principio con la firma «CNET Money Staff»; tras los reportajes externos, CNET cambió la firma y trasladó su aviso para hacerlo más visible. Las fuentes no dan coste ni tamaño del equipo.

Resultados

CNET informó de unos 75 artículos de este tipo a mediados de enero de 2023. Futurism, un medio rival, encontró errores graves en uno de ellos, una explicación del interés compuesto que sobrestimaba la ganancia del primer año de un depósito de 10.000 dólares. Engadget informa de que el artículo se corrigió y de que también aparecieron errores en explicaciones sobre intereses de préstamos y certificados de depósito.

Qué salió mal

CNET añadió a sus artículos escritos con IA una nota en la que decía que estaban en revisión para comprobar su exactitud y que los errores se corregirían. The Batch informa de que CNET suspendió la práctica tras 78 artículos generados. Un portavoz de CNET dijo a Futurism, según cita Engadget, que la empresa estaba revisando activamente todas sus piezas asistidas por IA.