Preguntas clave que los periodistas deben plantearse antes de utilizar la IA generativa

Este artículo fue traducido por Debbie Ponchner y editado por Rodrigo Pérez Ortega.

Desde que ChatGPT debutó a finales de 2022, esta y otras herramientas de inteligencia artificial (IA) generativa se han colado cada vez más en las conversaciones sobre periodismo. A diferencia de la IA asistida —que los periodistas llevan mucho tiempo utilizando para crear transcripciones de entrevistas o corregir la ortografía—, la IA generativa puede realizar tareas que antes solo podían hacer los humanos, en una fracción del tiempo. Estas herramientas pueden aportar ideas para artículos, analizar conjuntos de datos complicados, redactar textos y sugerir preguntas para entrevistas, entre otras hazañas editoriales.

Algunos líderes de medios de comunicación están “inclinándose hacia la IA”, explorando su capacidad para crear contenidos e interactuar con los lectores. Y algunas organizaciones periodísticas prominentes están creando grupos de trabajo para estudiar cómo esta tecnología puede ser útil en la práctica. Pero otros expertos advierten de que la IA generativa roba trabajo a los periodistas y plantea una serie de preguntas éticas espinosas. Las empresas que están detrás de esta tecnología, como OpenAI, desarrolladora de ChatGPT, son alarmantemente opacas, afirma Tim Requarth, colaborador de Slate. El competidor chino de OpenAI, DeepSeek, que afirma ser de código abierto, también ha sido criticado por su falta de transparencia.

La proliferación de contenidos generados por IA puede degradar las condiciones sociales y económicas que permiten prosperar a los escritores humanos, según Requarth. El proceso de redacción suele ser la forma en que los periodistas reflexionan sobre las ideas, afirma; si la IA se atraviesa en ese proceso, “querrás ser cuidadoso a qué le subcontratas tu proceso de pensamiento”.

El debate continúa, pero el 45% de los 3.016 periodistas encuestados por la empresa de software de relaciones públicas y medios de comunicación Cision en mayo de 2024 afirman que ya han empezado a utilizar herramientas de IA generativa al menos “un poco”. Y según una encuesta de Associated Press de abril de 2024, el porcentaje de periodistas que afirmaron que ellos o su organización han utilizado IA generativa es aún mayor: casi el 74%.

Aprender por su cuenta sobre las herramientas de IA puede ayudar a los periodistas a tomar mejores decisiones para su trabajo y su audiencia, afirma Meghan Murphy, directora de programas de la Online News Association (ONA), que dirige la Iniciativa de IA en Periodismo de la organización. Entonces, ¿cómo empieza un periodista científico a separar las promesas de la IA generativa de sus trampas? The OPEN Notebook te deja esta lista de consejos, basada en conversaciones con profesionales de los medios de comunicación y periodistas que han estudiado detenidamente el uso de la IA en nuestro sector —y, para algunos, en su propio trabajo— expone las cuestiones clave que hay que tener en cuenta a la hora de plantearse probar la IA.

¿Qué puede hacer la IA generativa?

La IA generativa puede crear textos sofisticados. Los periodistas legítimos no utilizan IA para escribir sus artículos sin supervisión humana, pero una herramienta de IA como ChatGPT o Claude puede elaborar fácilmente un esquema viable o incluso intentar redactar un texto —aunque esto último podría ser considerado éticamente turbio por algunos editores o compañeros reporteros—. También puede generar posibles transiciones entre párrafos, redactar mensajes para redes sociales y proponer titulares.

Puede resumir y sintetizar material. Los periodistas pueden utilizar herramientas de IA para que les ayuden a digerir largos textos de investigación o documentos masivos. Los periodistas de datos del Proyecto Marshall, por ejemplo, utilizaron ChatGPT para transformar documentos políticos densos en resúmenes legibles de las políticas de prohibición de libros en las cárceles de más de 30 estados de Estados Unidos. Los humanos del equipo verificaron el resultado dos veces, según un artículo del líder del proyecto de datos, Andrew Rodriguez Calderón, en el boletín “Generative AI in the Newsroom”.

Puede hacer más accesible la recopilación de información.

Puede ayudar a generar ideas. Murphy no utiliza ChatGPT para que escriba por ella, pero sí comparte ideas con el chatbot para que le ayude a pelotear entradas para del blog de ONA. “Es un interesante iniciador de ideas”, afirma. Cuando Murphy pregunta a la herramienta, “la mayoría de las veces me devuelve lo que ya sé o lo que he escrito de todos modos”, dice, pero a veces le presenta un punto de vista que quiere explorar más a fondo. Y cuando se le ha escapado un titular ingenioso, Murphy dice que ha explorado la herramienta de inteligencia artificial integrada en la aplicación de productividad y toma de notas Notion para obtener algunas ideas. Incluso si lo único que obtienes de las ideas del chatbot es una buena carcajada, a veces eso puede ser suficiente para sacudirte el bloqueo del escritor, dice Murphy.

Puede favorecer la participación del público. Solo los seres humanos pueden cultivar las relaciones con el público y las fuentes, afirma José Nieves, director de la publicación cubana elTOQUE y becario Knight del International Center for Journalists. Pero los periodistas sin recursos para sintetizar grandes cantidades de texto pueden utilizar la IA para seguir las tendencias de las redes sociales o incluso las reacciones a su trabajo. Nieves y su equipo han utilizado la IA para resumir las publicaciones en las redes sociales, ayudando así a la pequeña redacción a decidir hacia dónde dirigir su energía y “generar relaciones significativas con nuestra comunidad”, afirma.

Puede hacer más accesible la recopilación de información. Las herramientas de IA generativa adaptan sus resultados a las necesidades o preferencias de los usuarios. Por ejemplo, cuando la reportera del MIT Technology Review Caiwei Chen estaba rastreando puestos de trabajo inusuales relacionados con los datos en China para un proyecto con los Laboratorios de Periodismo de IA de la Universidad de la Ciudad de Nueva York (CUNY), ella y su colaborador pidieron a ChatGPT que les ayudara a codificar un programa rastreador o crawler de ofertas de empleo. “Constantemente le preguntaba a ChatGPT: ‘Explícame por qué funciona así como si yo fuera una estudiante universitaria de primer año’”, dice. Y del lado de a la audiencia, la IA generativa podría ayudar a los lectores a entender mejor tus historias. Padres de familia le han dicho a Chen, por ejemplo, que la herramienta puede ayudar a los niños con dislexia convirtiendo un artículo en una conversación. “[Puede que no] lean un artículo, pero cuando pueden hablar con el artículo, [les] resulta más fácil aprender”, explica.

¿Qué no puede hacer la IA generativa?

No se puede asumir que sus resultados son datos reales. La IA generativa se basa en modelos de lenguaje de gran tamaño o LLM, por sus siglas en inglés. Estos modelos utilizan la probabilidad para predecir las respuestas probables a una pregunta basándose en lo que aprenden de los datos con los que fueron entrenados. Por eso, las herramientas de IA a veces generan respuestas sin sentido o falsas llamadas “alucinaciones”. Estas herramientas no están diseñadas para recuperar información precisa, afirma Requarth. Redactan respuestas basadas en asociaciones de palabras. Así que, en cierto modo, “las LLM solo alucinan”, dice. (No te molestes en buscar referencias en ChatGPT, esas también las alucina). Asegurate de verificar cuidadosamente todos los resultados que recibas y recuerda que eres responsable de los errores que cometas en tu trabajo. “Incluso si lo has hecho sin querer, porque ChatGPT lo ha hecho por ti”, dice Nicola Jones, periodista científica freelance.

Es evidente que las redacciones no pueden funcionar únicamente con IA generativa.

No puede aportar ideas realmente originales. Las herramientas de IA generativa producen respuestas a preguntas basadas en textos ya existentes —es decir, cualquier cosa que se le haya proporcionado como datos de entrenamiento—. Debido a la naturaleza derivada de esta tecnología, a algunos escritores y académicos les preocupa que, si se normaliza la escritura generada por IA, se homogenice nuestra cultura escrita en estilo y quizá incluso en contenido. La IA generativa también podría reducir la creatividad de los usuarios al provocar un sesgo de anclaje, en el que confíen excesivamente en las respuestas generadas por la IA. La incapacidad de la IA para producir ideas nuevas es una de las razones por las que Jones no utiliza esta tecnología en sus reportajes. “Como periodista, necesito que [lo que escribo] sea correcto y novedoso, y esto no puede ser ni correcto ni novedoso”.

No puede sustituir a un redactor o editor humano. Es evidente que las redacciones no pueden funcionar únicamente con IA generativa. “Las tareas creativas deben reservarse a los humanos; la IA sigue cometiendo errores graves”, escribió en un correo electrónico Alexandre Orrico, director editorial del medio brasileño Núcleo Jornalismo. “Esto es un riesgo que, en un medio periodístico, no podemos correr”. (Núcleo Jornalismo fue el primer medio de comunicación de Brasil en publicar una política de uso de la IA). Vera Chan, consultora de medios y antigua periodista, afirma que sería un error utilizar la IA en lugar de trabajar con periodistas reales. “El instinto con toda tecnología es ir hacia un área de sustitución en lugar de aumento”, afirma. En cambio, Chan espera que la IA pueda ser una parte constructiva de la industria, que ayude a los periodistas a hacer su trabajo en lugar de sustituirlos.

¿Qué cuestiones éticas plantea la IA generativa?

Utilizar IA generativa aumenta tu huella de carbono. Una sola consulta de ChatGPT consume unas 10 veces más electricidad que una búsqueda en Google y, como resultado, los centros de datos consumirán el 4,5% de la producción mundial de energía en 2030. La tecnología de IA también consume grandes cantidades de agua para refrigerar los equipos y generar electricidad para los centros de datos. Los periodistas deben pensar detenidamente en los costos climáticos que conlleva el uso de estas herramientas, afirma Requarth.

El uso de la IA puede presentar riesgos inaceptables para la precisión y la calidad.

Las aplicaciones de IA generativa pueden haberse entrenado con textos robados. Los datos con los que se entrenan los LLM proceden de fuentes gratuitas de internet, como Wikipedia, y de otras no tan gratuitas, como The New York Times. Todavía no se ha decidido si los datos de entrenamiento pueden considerarse un “uso permitido” de esos materiales en virtud de la legislación sobre derechos de autor, pero algunos escritores y editores están descontentos por el hecho de que su trabajo se utilice sin que empresas como OpenAI les den crédito o ingresos.

OpenAI funciona sin mucha transparencia ni supervisión. Varios investigadores de seguridad han abandonado OpenAI desde principios de 2024, y muchos de ellos estaban sujetos a un estricto acuerdo de no menosprecio como parte de su salida, lo que ha escandalizado a muchos en el mundo de la tecnología. Los denunciantes afirman que existen graves riesgos si la tecnología de OpenAI, que supuestamente cambia las reglas del juego, se utiliza de forma irresponsable. Y existen pocas barreras gubernamentales. La Unión Europea adoptó una de las primeras normativas exhaustivas sobre IA en julio de 2024. Y aunque los responsables políticos estadounidenses están estudiando más de cien proyectos de ley relacionados con la IA, todavía no existe ninguna ley federal general que regule el desarrollo o el uso de esta tecnología.

El uso de la IA generativa implica aceptar compromisos. El uso de la IA puede presentar riesgos inaceptables para la precisión y la calidad. Orrico aconseja a los periodistas que se pregunten por adelantado: ¿Realmente necesito la IA para realizar esta tarea? Y si es así, ¿puedo aprovechar la agilidad que ofrece la herramienta de IA sin comprometer demasiado? Las organizaciones de noticias también deberían hacerse las mismas preguntas. Nieves, que define la misión de elTOQUE como servir a las comunidades que viven bajo la censura, dice que su equipo confía en la IA generativa para generar titulares y redactar propuestas de financiación más rápidamente. Eso les permite dedicar recursos a “un trabajo profundo y valioso que la IA no podría hacer, [como] reportear sobre el terreno”, afirma.

¿Cómo es la experimentación reflexiva con IA generativa?

¡Aprende cómo funciona! No des por sentado que ya sabes todo lo que hay que saber sobre la IA generativa. Aprender los conceptos básicos puede ayudarte a tomar decisiones, a entender cómo se está desarrollando la IA, y a sopesar sus puntos fuertes y sus limitaciones. La Global Investigative Journalism Network ha publicado un recurso que recopila abundante información útil sobre las herramientas de IA y su funcionamiento, incluido un manual visual sobre cómo procesan las LLM frases completas a la vez. También puedes escuchar el podcast Newsroom Robots, de Nikita Roy, científica de datos y periodista, en el que trata el uso de la IA en el periodismo, o probar uno de los cursos de formación en IA para periodistas de la ONA.

Habla abiertamente sobre el uso de la IA con tus colegas y editores.

Juega con ella. Antes de utilizar la tecnología en tu trabajo, prueba a jugar con ella por tu cuenta. Por ejemplo, Jones puso a prueba ChatGPT pidiéndole que escribiera búsquedas del tesoro con rima para sus hijos. Puedes explorar la ingeniería de instrucciones y ver cómo afecta a los resultados el uso de diferentes instrucciones de ChatGPT. (Por ejemplo, decir “Explica el método científico” y “Eres un neurólogo profesional con décadas de experiencia. Explica el método científico en relación con la investigación neurológica”, obtendrá respuestas muy diferentes). Requarth aconseja a los periodistas que sientan curiosidad por la IA que pongan a prueba sus capacidades en “escenarios de bajo riesgo e información poco sensible”, como escribir borradores de mensajes para las redes sociales para promocionar un artículo.

Puedes utilizarlo para organizar tu investigación. Chen dice que a veces utiliza ChatGPT para orientarse mientras se sumerge en la investigación para un reportaje, apoyándose en la herramienta para descifrar términos de jerga o para refrescar la memoria sobre material periodístico extenso, como libros. Pero recuerda que sus resultados no son fidedignos. La llegada de la IA generativa ha llevado a Jones a ser igualmente cautelosa: “Sé cada vez más cauteloso con todo lo que lees en internet”, afirma. “Acude siempre a fuentes primarias. Habla con la gente”.

Habla abiertamente sobre el uso de la IA con tus colegas y editores. Durante una reunión de 2024 de los directores de las redacciones estatales dentro del National Trust for Local News, el grupo mantuvo una conversación de dos horas sobre sus puntos de vista sobre la experimentación con la IA generativa, recuerda Rodney Gibbs, jefe de producto y audiencia de dicha organización sin ánimo de lucro. La discusión ayudó a generar confianza en las redacciones ante el cambio de paradigma de la IA, dice. “Nos ayudó a ponerlo en perspectiva”. También es inteligente consultar con tus editores sobre las políticas de IA de sus publicaciones.

¿Cómo deberían pensar los periodistas sobre la IA y la privacidad?

Sé muy selectivo con lo que compartes con las herramientas de IA generativa. Todo lo que subas o le compartas podría utilizarse como material de entrenamiento y reaparecer sin tu conocimiento como parte de una respuesta a la consulta de otra persona. Podrías estar adentrándote en las turbias aguas de la infracción de los derechos de autor, por ejemplo, al introducir una historia en un LLM sin obtener el permiso de la publicación que la “posee”. “Hay que tener mucho cuidado de estar al día de las políticas de privacidad [de cada herramienta de IA] y de dónde va esa información”, dice Murphy. Para evitar problemas éticos, considera la posibilidad de utilizar suscripciones de pago, como ChatGPT Team, que permite a los usuarios evitar que la empresa utilice sus intercambios para entrenar sus productos. También existen plataformas privadas, como la herramienta de código abierto AnythingLLM, que puedes descargar y utilizar localmente en tu propio dispositivo.

La transparencia en el uso de la IA puede contribuir en gran medida a fomentar la confianza de los lectores.

No des información personal o identificativa a un chatbot. Transmitir una conversación delicada a una herramienta de IA podría ponerte a ti o a tus fuentes en peligro. Para los periodistas de investigación o los que trabajan en zonas hostiles, como Nieves, la privacidad puede ser una cuestión de seguridad personal. Por estas razones, Nieves y su equipo tienen cuidado de no introducir en los chatbots información sobre fuentes protegidas, ni siquiera los nombres de los autores.

Si decides utilizar IA generativa, sé transparente con tus fuentes. Después de que una fuente expresara su malestar por el uso de Otter.AI para transcribir entrevistas, Jones cambió su firma de correo electrónico para ser más transparente. Ella enumera las herramientas de grabación específicas que utiliza para realizar entrevistas y transcribirlas, de modo que las fuentes puedan tomar decisiones informadas sobre su participación en entrevistas.

Los resultados de la IA merecen ser revelados. La mayoría de los lectores —el 94%— quiere que los periodistas revelen el uso que hacen de la IA, según una encuesta realizada por la ONA y la organización de formación e investigación periodística Trusting News, que también ofrece un kit de confianza sobre el tema para que los periodistas puedan consultarlo. “Desafortunadamente, sabemos que en muchos sitios se utilizan indiscriminadamente plataformas de IA sin informar a los lectores”, dice Orrico, cuyo medio tiene por costumbre revelar si se ha utilizado IA para generar resúmenes o traducciones, por ejemplo. La transparencia en el uso de la IA puede contribuir en gran medida a fomentar la confianza de los lectores, sobre todo en un momento en que está cada vez más fragmentada. “Tenemos que levantar aún más el telón como sector y mostrar a la gente cómo trabajamos”, afirma Murphy. “Creo que esta es una buena oportunidad para hacerlo”.

Publicado por The OPEN Notebook.