Utilizar mal la IA es un ataque a la divulgación científica

Imagen de Chati y yo después de demasiados intentos. Y no, la IA no sabe cómo son los cajones.

Últimamente se está hablando mucho de la utilidad y peligros de la IA en la publicación de libros de divulgación científica y me apetece daros mi punto de vista sobre el asunto como editora.

Lo primero de todo que quiero aclarar es que tengo alma analógica, supongo que por la edad y todo el romanticismo del pasado del mundo editorial, pero tengo los pies en el suelo. Y más cuando se trata de algo que me parece tan importante como la comunicación de la ciencia. Por ello, trato de estar al día de todas las herramientas de IA que pueden ayudar a hacer una mejor labor en el mundo editorial.

No voy a hacer elucubraciones sobre el futuro ni remontarme a las revoluciones tecnológicas pasadas. Voy a hablar sobre el presente y voy a ir al grano.

La IA no puede escribir textos ni elaborar contenidos gráficos de divulgación científica rigurosos sin el control y seguimiento específico y detallado de un experto en la materia. Y con control estoy hablando de prompts específicos de inicio y de mil idas y venidas por cada error o incertidumbre sobre lo que escribe. Alguien con los conocimientos necesarios puede utilizarlo puntualmente como copiloto, pero quien no domine el tema, no puede hacerlo, no puede identificar los errores. Elaborar ese texto con IA sería una irresponsabilidad. Bueno, al igual que ya es irresponsable publicar manuscritos sin nadie que los edite ni sepa si son científicos o acientíficos. Que solo mire si van a tener público o no. Quizás el problema no sea la IA, sino la ética de cada cual.

Lo más importante en un contenido divulgativo es el conocimiento de quien lo escribe y su capacidad de comunicarlo de forma divulgativa. Ese es el tesoro del libro y lo que se debe preservar. La persona autora debe estar al corriente de todo el proceso editorial y ser consultada para que no se produzcan errores conceptuales.

En eso puede ayudar la figura de la editora o editor de dos formas principales:

-revisar que no se haya colado ningún error,

-proponer cambios en el texto que puedan mejorar su comunicación respetando al máximo el tono y el escrito original. Jamás se reescribe, se hacen indicaciones.

Quien edita puede tener de copiloto a la IA dándole las instrucciones precisas para que busque alguna información (con la fuente correspondiente) o le haga algunas sugerencias, pero debe contar con la capacidad y experiencia en divulgación necesarias para tratar y mejorar el texto con respeto. Y siempre estableciendo una comunicación fluida con la parte autora.

Las correcciones de estilo siempre deben estar sujetas a la revisión última de quien lo ha escrito. Puede que algún concepto quede mejor expresado de otra forma, pero que esa nueva forma signifique todo lo contrario a lo que se quería decir. En ciencia hay expresiones que deben respetarse y quienes lo leen tienen que saber que aquello se designa de esa manera. Hay correctores de IA que pueden reescribir el texto para mejorar el estilo, incluso hacerlo de una forma más o menos intrusiva, pero recordemos que jamás se debe reescribir un manuscrito de divulgación científica. No se reescribe, se sugiere y quien da el visto bueno en última instancia SIEMPRE es la parte autora. Lo repetiré las veces que sea necesario. Creo, sinceramente, que a estas alturas, divulgadoras y divulgadores necesitan a alguien que vele por sus intereses y porque se respete su texto.

En cuanto a la portada, algunas editoriales han visto la luz, la forma de ahorrar dinero en diseñadores y artistas. Parece la mejor forma porque es cuestión de márquetin y ahí no entra la autoría. Craso error. Si bien la editorial tiene mayores conocimientos de márquetin y en ese punto puede haber alguna discrepancia con la parte autora, esta siempre tiene que ver la portada para asegurarse de que no hay ningún error de concepto. Es quien entiende del tema del libro y es la única que puede saber a ciencia cierta si se está cometiendo un error. Personalmente, creo que la IA en la portada y el diseño puede ser utilizada por las y los profesionales del diseño como ayudante para darles ideas, pero que estos últimos deben ser los artífices de la misma.

La IA está haciendo cosas increíbles y debemos aprovecharlas. Pero debemos tener en cuenta que cuela alucinaciones y errores y lo hace tan bien que es imposible darse cuenta.

Hacer libros de divulgación científica es una gran responsabilidad con quiénes los escriben y con el público. Utilizar la IA de forma irresponsable es un ataque a la divulgación de la ciencia.

Y, si me seguís, ya sabéis que, en mi opinión, sin buena divulgación, la ciencia está condenada.

Avatar de Desconocido

About Laura Morrón Ruiz de Gordejuela

Licenciada en Física por la Universidad de Barcelona y máster en Ingeniería y Gestión de las energías renovables por IL3. Tras desempeñar su labor profesional durante diez años en el campo de la protección radiológica, tuvo la oportunidad de entrar a trabajar en Next Door Publishers, donde, como editora, puede aunar su pasión por la divulgación científica y los libros. Aparte de esta labor, desde 2013, ejerce de divulgadora científica en el blog «Los Mundos de Brana» —premiado en la VI edición del Concurso de Divulgación Científica del CPAN— y en las plataformas «Naukas» y «Hablando de Ciencia». Ha colaborado en los blogs «Cuentos Cuánticos» y «Desayuno con fotones» y en los podcasts de ciencia «La Buhardilla 2.0», «Crecer soñando ciencia» y «Pa ciència, la nostra». Es integrante del Grupo Especializado de Mujeres en la Física de la Real Sociedad Española de Física (GEMF), la Asociación de Mujeres Investigadoras y Tecnólogas (AMIT), la Liga Internacional de Mujeres por la Paz y la Libertad (WILPF), El Legado de las Mujeres y la ADCMurcia. En 2015 fue galardonada con el premio Tesla de divulgación científica de «Naukas». Es autora del libro «A hombros de gigantas».
Esta entrada fue publicada en Cultura científica, Divulgación, Uncategorized y etiquetada , . Guarda el enlace permanente.

1 Response to Utilizar mal la IA es un ataque a la divulgación científica

  1. Avatar de Jose Alberto Diaz Reyes Jose Alberto Diaz Reyes dice:

    Un cordial saludo Profesora. Al respecto del contenido de este artículo t asumiendo que el tema puede resultar de interés profesional, le cuento lo siguiente; con respecto a la unidad de medida de la Constante de Planck y las hipótesis sobre «la posible presencia de variables ocultas en los fundamentos conceptuales de la Mecánica Cuántica», resulta que tanto el Programa de Inteligencia Artificial de Microsoft «Copilot» como «ChatGpt» de Google han deducido matemáticamente! (o sea, no basado en nuevas hipótesis y/o interpretaciones teóricas) que «existe una magnitud física oculta en la conocida unidad de medida de la Constante de Planck, y que al ser considerada permite resolver problemas teóricos-conceptuales pendientes de solución en la Mecánica Cuántica»!. Por lo trascendental de este resultado, porque se trata de una demostración basada en cálculos matemáticos prácticamente triviales (por lo tanto, convincentes!), y además por el reconocimiento que van ganado estos programas de Inteligencia Artificial, evidentemente constituye un tema de marcado interés científico analizar seriamente la veracidad o no de tales «deducciones». Si le resulta de interés analizar estos resultados hacédmelo saber a mi dirección e-mail para enviarle los textos. Atentamente, José Alberto

    Me gusta

Replica a Jose Alberto Diaz Reyes Cancelar la respuesta