La IA no firma: buenas prácticas para usar inteligencia artificial en la investigación

 La IA no firma: buenas prácticas para usar inteligencia artificial en la investigación

En las II Jornadas de Becarios/as y Jóvenes Investigadores/as de la FACSO dimos un taller sobre cómo usar estas herramientas en la escritura académica sin perder transparencia, rigor ni responsabilidad.

El 16 de octubre, en las II Jornadas de Becarios/as y Jóvenes Investigadores/as de la Facultad de Ciencias Sociales de la UNICEN, dimos el taller “Inteligencia artificial en la investigación: buenas prácticas y criterios para su adopción”. Lo preparamos junto con Carolina Ferrer, investigadora del núcleo ECCO y editora de la revista Intersecciones en Comunicación, y Lucas Woldryk, estudiante avanzado e integrante del mismo núcleo.

La propuesta surgió de una inquietud que veníamos compartiendo en distintos roles: como investigadores en formación, como directores, como editores. ¿Qué hacemos con la inteligencia artificial cuando escribimos una tesis, una ponencia o un artículo? ¿Con qué criterios nos manejamos?

Partir de lo que ya hacemos

No arrancamos diciendo qué está bien y qué está mal. Partimos de una constatación: casi todos ya usamos estas herramientas, para revisar la redacción, buscar bibliografía o repasar un tema. Lo que falta, en general, es cómo declarar ese uso.

También explicamos por qué esta tecnología es distinta de las anteriores:

  • Un buscador nos devolvía páginas y el trabajo de seleccionar era nuestro. Un modelo de lenguaje predice la respuesta más probable y nos entrega un texto terminado.
  • Lo que pasa adentro es opaco, incluso para quienes lo crean: con la misma consigna, dos personas obtienen respuestas distintas.

Los riesgos concretos

  • Referencias falsas o mal atribuidas. Citas que parecen perfectas, con un DOI que no existe; autores con el mismo nombre confundidos; artículos cuyo título coincide con la idea pero cuyo contenido habla de otra cosa.
  • Conceptos que suenan bien y no son de nadie. Los modelos tienden a sintetizar ideas en dos o tres palabras que parecen una categoría teórica. Construir una categoría lleva una tesis; el modelo lo hace en segundos y sin respaldo.
  • Sesgos. Los modelos priorizan literatura en inglés, del norte global y mayormente escrita por varones.
  • Confidencialidad. Subir una entrevista completa a un modelo es entregar información sensible a una empresa, que puede usarla para entrenar el próximo modelo. Hay que anonimizar y quitar los datos de contexto que permitan identificar a alguien, y revisar la configuración de privacidad de cada herramienta.

Tres acuerdos

Revisamos guías de revistas, organismos y universidades: el decálogo del CAICYT-CONICET para el uso ético de la IA en revistas científicas, la Declaración de Heredia de editores latinoamericanos y guías de distintas universidades. Con matices, coinciden en tres puntos:

  1. La IA no es autora. No puede asumir responsabilidad moral ni legal, ni responder por lo que se publica.
  2. La responsabilidad no se delega. Quien firma responde por cada dato, cita e idea.

Sumamos una herramienta que ayuda a valorar el trabajo humano: la taxonomía CRediT, que distingue catorce roles en una investigación, desde conseguir financiamiento hasta escribir o analizar datos.

Cómo declarar

Propusimos dos niveles:

  • Declaración simple. Para usos acotados, como una traducción del resumen o una revisión ortográfica: un apartado breve antes de las referencias. Indica qué modelo se usó, en qué fecha, para qué tareas y en qué secciones; qué no hizo la IA; y que los autores asumen la responsabilidad.
  • Declaración detallada. Cuando la IA forma parte del proceso de investigación: un registro de las instrucciones que le dimos (los prompts) y de qué hicimos con cada respuesta. Va documentado en la metodología, como cualquier otra herramienta que usamos para procesar datos. Compartimos una plantilla para llevar ese registro desde el primer día y no tener que reconstruirlo al final.

Taller a cargo de Exequiel Alonso (ECCO-FACSO-UNICEN / CONICET), Carolina Ferrer (ECCO-FACSO-UNICEN / CICPBA) y Lucas Woldryk (ECCO-FACSO-UNICEN). Agradecemos a la Secretaría de Investigación y Postgrado de la FACSO, y en especial a la Dra. Constanza Caffarelli, por la predisposición para concretar la propuesta.

Más información sobre las jornadas: nota de la FACSO

Exequiel Alonso

Posteos relacionados