Privacidad e integridad académica al utilizar IA para revisar una tesis
El planteamiento de Philologica sitúa la revisión académica dentro de un flujo estructurado y mantiene principios como trazabilidad, privacidad, límites claros y revisión humana como parte de la forma en que se presenta la herramienta.
Por Manuel Enrique Morales[ LATIN FLASH LDA ]
investigación inédita;
datos no publicados;
hipótesis originales;
información de participantes;
material sometido a embargo;
resultados pendientes de publicación;
trabajo de varios años.
«¿Puede detectar errores?»
«¿Cómo se trata el documento, qué decisiones seguimos controlando y qué límites tiene la herramienta?»
Una tesis puede contener información sensible antes de publicarse
resultados originales;
una nueva metodología;
datos preliminares;
ideas pendientes de patente;
información compartida bajo acuerdos de confidencialidad;
revisiones recibidas de terceros.
¿Estoy autorizado a procesar este contenido mediante este servicio?
No todo manuscrito puede tratarse igual
Documento A
Documento B
Documento C
Privacidad no significa solamente «tener una política de privacidad»
¿qué información necesita realmente la herramienta?
¿durante cuánto tiempo necesita conservarla?
¿quién puede acceder al documento?
¿qué partes del análisis permanecen almacenadas?
¿puede el usuario eliminar el proyecto?
¿qué ocurre con los archivos derivados?
El principio de minimización
¿Buscas transformar tu arquitectura o posicionamiento?
Hablemos de cómo nuestros sistemas y socios pueden articular tu proyecto.
un sistema debería tratar únicamente la información que necesita para realizar la tarea.
La privacidad también puede diseñarse por herramienta
«¿Qué necesita esta operación concreta?»
«Utilicemos todo el documento para todo.»
Un manuscrito como proyecto, no como texto desechable
qué archivo está asociado al proyecto;
qué análisis se han realizado;
qué resultados se conservan;
qué versión se está revisando.
Confidencialidad e integridad son problemas diferentes
¿Quién puede acceder al contenido y cómo se trata?
¿Cómo se utiliza la IA dentro del proceso intelectual y qué responsabilidad conserva el autor?
Qué significa integridad académica con IA
¿puede una IA corregir estilo?
¿puede proponer una reformulación?
¿puede resumir bibliografía?
¿puede generar una premisa?
¿puede redactar conclusiones?
¿debe declararse su uso?
cuanto más se acerque la IA a producir el contenido intelectual que está siendo evaluado, más importante resulta revisar las reglas aplicables y hacer explícito su uso cuando corresponda.
Revisar no es lo mismo que escribir
«Escribe mi argumento.»
«Indícame dónde mi argumento parece tener un salto.»
«Genera referencias para esta afirmación.»
«Comprueba si esta referencia puede verificarse externamente.»
Una herramienta de revisión debería favorecer el diagnóstico
«He encontrado una posible inconsistencia aquí.»
leer;
evaluar;
decidir;
corregir conscientemente.
El problema de aceptar correcciones automáticamente
«Reescribir conclusión.»
Aceptar.
Human in the loop no debería ser una etiqueta
evidencia;
contexto;
capacidad de cuestionar;
capacidad de rechazar;
comprensión de la recomendación.
La trazabilidad protege también la integridad académica
La misma herramienta puede utilizarse de maneras muy distintas
«Explícame por qué esta frase es difícil de leer.»
«Escribe las conclusiones de mi tesis.»
Las reglas institucionales importan
normas de su universidad;
reglamento de tesis;
instrucciones de la revista;
políticas del proyecto;
requisitos de declaración de IA.
Un sistema académico debería recordar sus límites
El uso de IA debería poder explicarse
«¿Podría explicar claramente a mi director, revisor o editor cómo he utilizado esta herramienta?»
Revisar una fuente frente a inventar una fuente
«Dame cinco referencias que apoyen esta idea.»
FUENTE PROPUESTA
↓
BÚSQUEDA EXTERNA
↓
VERIFICACIÓN
↓
REVISIÓN HUMANA
↓
CITA
Una referencia generada no debería convertirse automáticamente en evidencia
Una referencia propuesta por IA debería considerarse una pista de búsqueda hasta que exista verificación independiente.
Existencia, pertinencia y respaldo
1. ¿Existe?
2. ¿Es pertinente?
3. ¿Respalda realmente la afirmación?
La confidencialidad de las fuentes también puede importar
documentos internos;
entrevistas;
transcripciones;
informes privados;
datasets restringidos.
Los datos de participantes merecen especial atención
entrevistas;
historias clínicas;
encuestas;
datos demográficos;
respuestas abiertas.
Anonimización y seudonimización
«María López, médica del Hospital X…»
«Participante 12…»
La privacidad también incluye metadatos
nombre de autor;
institución;
comentarios;
propiedades del archivo;
nombres de revisores;
control de cambios.
Un PDF puede revelar más de lo que parece
El principio de propósito
¿para qué se está utilizando el documento?
El usuario necesita entender el ciclo de vida del documento
¿cuándo subo el documento?
¿qué análisis se realiza?
¿qué información derivada se genera?
¿qué permanece asociada al proyecto?
¿qué ocurre cuando elimino el proyecto?
No afirmar más de lo que la arquitectura puede garantizar
«Seguridad total.»
«Privacidad garantizada al 100 %.»
La transparencia sobre proveedores también importa
USUARIO
↓
APLICACIÓN
↓
SERVICIO DE IA
↓
RESULTADO
Privacidad por oscuridad no es privacidad
La privacidad también es una cuestión de control
decidir qué subir;
elegir qué analizar;
ver qué resultados existen;
eliminar información cuando corresponda;
comprender qué actores participan.
El principio de reversibilidad
«¿Puede el usuario deshacer razonablemente lo que ha hecho?»
La integridad también implica preservar el texto original
TEXTO ORIGINAL
↓
SUGERENCIA
↓
DECISIÓN DEL AUTOR
TEXTO ORIGINAL
↓
MODIFICACIÓN AUTOMÁTICA
Conservar el original es una forma de trazabilidad
qué cambió;
quién tomó la decisión;
qué parte fue sugerida;
qué parte permaneció igual.
Una revisión académica debería poder auditarse
«¿Qué hizo el sistema y qué hice yo?»
Autoría y asistencia
señalado una inconsistencia;
propuesto una fuente;
identificado un cambio de estilo;
formulado una pregunta crítica.
formular tesis;
construir premisas;
seleccionar evidencia;
redactar conclusiones;
La responsabilidad final no puede delegarse a la herramienta
«La IA dijo que estaba correcto.»
sus afirmaciones;
sus fuentes;
sus conclusiones;
sus decisiones metodológicas.
Esto es precisamente lo que hace valiosa la supervisión humana
«He encontrado esto.»
«Comprendo la evidencia y decido esto.»
El dossier de Philologica mantiene esta frontera
La revisión humana no es un defecto de la IA
responsabilidad;
interpretación;
criterio disciplinar;
elecciones teóricas;
consecuencias éticas.
Una IA más potente no elimina necesariamente esta frontera
Una herramienta académica debería saber decir «no lo sé»
evidencia insuficiente;
datos ambiguos;
una fuente no verificable;
un PDF mal extraído;
una interpretación abierta.
«No puedo determinarlo con suficiente confianza.»
La incertidumbre debería ser visible
Privacidad e integridad tienen una raíz común
control sobre el documento y sus datos.
control sobre las decisiones intelectuales.
Un buen sistema debería poder responder siete preguntas
¿Qué información voy a proporcionar?
¿Tengo derecho a procesarla?
¿Qué parte del trabajo realizará la IA?
¿Qué decisiones seguirán siendo mías?
¿Puedo verificar sus resultados?
¿Conozco las normas de mi institución?
¿Podría explicar abiertamente cómo he utilizado la herramienta?
Un checklist práctico antes de subir una tesis
Comprueba si el documento contiene información confidencial.
Revisa si incluye datos personales o material restringido.
Consulta las normas de tu universidad o institución.
Identifica qué análisis necesitas realmente.
No compartas información innecesaria para la tarea.
Verifica las fuentes propuestas por IA.
No aceptes automáticamente cambios argumentativos.
Conserva siempre el documento original.
Revisa manualmente los hallazgos importantes.
Documenta el uso de IA cuando las normas aplicables lo requieran.
Un checklist durante la revisión
¿Puedo ver el fragmento original?
¿Puedo saber por qué se ha marcado?
¿Puedo verificar la fuente?
¿La recomendación modifica el contenido intelectual?
¿Comprendo el cambio antes de aceptarlo?
Un checklist antes de entregar
Revisa todas las citas y referencias.
Comprueba que las sugerencias de IA no hayan introducido datos nuevos sin verificar.
Revisa especialmente tesis, premisas y conclusiones.
Comprueba la terminología.
Verifica cualquier texto reformulado de manera significativa.
Comprueba si debes declarar el uso de IA.
Conserva una versión final bajo tu control.
El principio de «no introducir evidencia silenciosamente»
datos;
referencias;
afirmaciones;
causalidades;
conclusiones;
Una reformulación puede cambiar más de lo que parece
«Los resultados sugieren una posible relación.»
«Los resultados demuestran una relación.»
La integridad también exige controlar el significado
resume;
traduce;
reformula;
simplifica;
expande.
El investigador debe seguir reconociendo su propio texto
«¿Podría defender cada afirmación de esta versión aunque la sugerencia inicial procediera de una IA?»
La privacidad no sirve de mucho sin confianza operativa
qué se está procesando;
qué análisis se está ejecutando;
qué resultado se está generando;
La integridad no debería depender únicamente de advertencias
«Comprueba las respuestas de la IA.»
mostrar fragmentos;
mostrar fuentes;
separar evidencia de interpretación;
evitar correcciones silenciosas;
conservar versiones.
La seguridad también debe entenderse como proceso
«¿El nivel de protección y las condiciones de uso son adecuados para el tipo de material que voy a procesar?»
La tesis detrás de una IA académica responsable
la IA debería ampliar la capacidad de revisión del investigador sin quitarle el control sobre su documento ni sobre sus decisiones intelectuales.
La IA no debería convertirse en una zona opaca del proceso académico
métodos;
fuentes;
datos;
decisiones.
La transparencia protege también al investigador
«Utilicé IA para detectar inconsistencias bibliográficas y revisar estructura, pero verifiqué manualmente todos los hallazgos y no delegué la elaboración de las conclusiones.»
La mejor relación con la IA puede ser una relación auditable