““Vivimos bajo tormentas de datos que no construyen verdad sino ruido”. La información, desanclada de la confianza, se vuelve atmósfera. Y en atmósfera turbia, cualquiera puede gritar “fuego” y llamar a los bomberos, o “deepfake” y zafarse de la comisión de un delito”

Por: Jorge Saldaña

Hay épocas en las que la tecnología acelera más rápido que la ley en una carrera en pista sinuosa, de esas con curvas tan cerradas que hasta el volante tiembla.

Estamos ahí. La inteligencia artificial (IA) ya es capaz de imitar una voz al grado de confundir a tu mamá, de injertar un rostro en un cuerpo ajeno con precisión perfecta, de producir un “comunicado oficial” con sellos y sintaxis idénticos a los originales. Qué peligroso.

No obstante, lo que de veras me quita el sueño (y eso que soy dormilón) no es solo lo que la IA puede fabricar, sino lo que su misma sombra puede desmentir, es decir, que lo verdadero sea tirado a la basura señalándolo a la ligera como “irreal”.

Dicho en pocas palabras: sí temo a la mentira hecha con IA, pero temo más que la IA se vuelva la coartada perfecta para negar la verdad. ¿Me explico?

Pienso en un audio que exhibe una extorsión, en una foto que capta a un político con un criminal, en un contrato auténtico que documenta un desvío.

Con la reforma aprobada en San Luis Potosí (con tan solo 10 días de análisis) que tipifica el “uso indebido” de IA para provocar alarma, alterar la paz social, o dañar la imagen de un tercero, creo que nos pone a todos, pero aún más a los que nos dedicamos al periodismo, en un altísimo riesgo de que la primera reacción del involucrado no sea la responder al fondo, sino señalar al mensajero: “Eso lo creó la IA”, y entonces deberá ser el reportero, y no el delincuente exhibido, el que deberá de demostrar que su evidencia no es sintética o artificial, o se va al bote.

Invertimos la carga de la prueba: del hecho al emisor; del culpable al periodista.

No exagero: Artículo 19 ya advirtió lagunas de precisión en conceptos como “alarma pública” o “paz social” (que son ambiguos y propensos a la interpretación) y un riesgo de discrecionalidad que podría alcanzar desde la crítica política hasta la edición creativa.

Es cierto, la iniciativa del diputado Héctor Serrano, incorpora exclusiones para fines periodísticos, académicos, artísticos y de parodia “siempre que no exista dolo y se indique expresamente ese carácter”. Bien intencionado, sí. ¿Suficiente? No, porque el campo de juego queda resbaladizo y no hay árbitro judicial ni peritos especialistas en el tema.

Las modificaciones al Código Penal producto de la iniciativa de regulación a la IA, no define con precisión cómo demostrar el dolo, qué es alarma y, sobre todo, quién y cómo lo acredita.

Byung-Chul Han lo dijo en su libro Infocracia, (que me gusta mucho citar): “vivimos bajo tormentas de datos que no construyen verdad sino ruido”. La información, desanclada de la confianza, se vuelve atmósfera. Y en atmósfera turbia, cualquiera puede gritar “fuego” y llamar a los bomberos, o “deepfake” y zafarse de la comisión de un delito.

Nuestro tiempo es el de la sospecha permanente, la duda como política de Estado.

El tema me recuerda a Orson Welles que lo anticipó en 1938 con La guerra de los mundos: una ficción radial que, contada como boletín, desató pánico.

Hoy no necesitamos actores; bastan modelos generativos, un par de clics y un algoritmo de difusión.

Imaginen —no es ciencia ficción— un boletín “verosímil” de la Sedena ordenando toque de queda; una “conferencia” de la presidenta aceptando una invasión o un “video” de un presunto homicida de un estudiante de Estomatología confesando un delito… (saben a lo que me refiero).

¿Qué tal que el homicida alega que el video que se filtró fue hecho con Inteligencia Artificial? ¿Se va a perseguir al medio que lo difundió? En una de esas, hasta el homicida sale libre…¿Ya me entiende, Culto Público a lo que me refiero, me preocupa, y me da comezón?

La IA escribe el guion; las redes, el miedo.

Ahora bien: San Luis Potosí ya legisló. ¿Hacía falta? Sí. Pero… ¿Así? ¿Tenemos la suficiente fortaleza académica, experiencia profesional y capacidades para fundamentar una legislación sobre esta materia que nos va ganando la carrera? ¿No será esto un acelerón en plena curva?

El que esto escribe, aprendiz de reportero, alcanza a ver al menos tres riesgos que no podemos ignorar:

1) La coartada perfecta del poderoso.

Frente a una investigación sólida, la respuesta fácil será: “es IA”. Si la norma deja ambigüedades, el periodista puede terminar litigando su autenticidad en vez de publicar, y esto puede generar un efecto inhibidor, una autocensura preventiva por miedo a ser acusado de crear “realidades sintéticas”.

2) La puerta trasera de la censura.

Cuando “alarma social” o “paz pública” no tienen parámetros verificables, cualquier pieza incómoda puede ser encuadrada como “desestabilizadora”. Hoy se promete que no; mañana basta un fiscal con prisas o un juez con miedo o a modo.

3) La prueba imposible.

En la práctica forense, demostrar que algo no fue generado por IA requiere peritajes especializados, sellos de procedencia, cadenas de custodia digitales. No los tenemos para temas como la IA ¿Quién los hará? ¿Con qué estándares? ¿Con qué independencia? Si no definimos eso, la balanza se inclina contra el informador.

Ante ello, creo que necesitamos definiciones más concretas, cerradas y taxativas, lo mismo que una “mente culpable” o como dicen los abogados una Mens rea probada, exigir dolo específico: intención de provocar alarma…me-di-ble y no de “sensación” de la misma.

Además, si alguien alega que una pieza es sintética o fabricada, que lo acredite con peritajes de laboratorios independientes (no “peritos de parte” -que además no hay en SLP- a modo).

Los periodistas también tenemos que tener garantías reales y no meramente declarativas.

Efectivamente hay una exclusión en la iniciativa aprobada para el ejercicio del periodismo, arte, academia y sátira, sin embargo, ¿quién garantiza que opere en los hechos, cuando alguien -como dije arriba- nada más porque sienta calor le llame a los bomberos…?

No se trata de negar el dilema —que es brutal y de múltiples aristas—, sino de evitar que la cura mate al paciente. Porque, paradójicamente, la IA que nos amenaza con fabricar mundos, también puede servir para validarlos.

A ver, para Usted mi Culto Público, le comparto dos escenarios de pesadilla y uno de esperanza:

Un “Falso con consecuencias reales”: Un “comunicado” apócrifo de Protección Civil que ordene evacuar colonias. Pánico, saqueos, accidentes. Nadie herido por la IA; todos por la estampida.

Un “Verdadero desmentido como falso”: Un video auténtico que documenta un abuso policial. Los responsables gritan “deepfake”, “IA”, un juez timorato concede medidas cautelares, y el reportero enfrenta proceso. La evidencia muere antes que el delito.

Uno de esperanza: que la norma haga lo que promete: perseguir mentiras sintéticas dañinas, proteger a víctimas (como las 400 estudiantes de Zacatecas) y blindar la crítica. Se puede, si se afina y lo hacemos de forma acompañada y profesional. No a la ligera.

La delgada línea entre vigilar y castigar —permítanme el guiño— no debería cruzarse hacia castigar al que vigila. La prensa, con sus errores y excesos que a veces tenemos (no me subo al púlpito ni tiro la primera piedra), sigue siendo el semáforo en una avenida oscura: si se apaga “por seguridad”, lo que viene no es orden, sino una carambola con trágicas consecuencias.

Cierro con una imagen. La IA es el Orson Welles de nuestros tiempos: puede narrar invasiones que no existen y desmentir revoluciones que sí ocurrieron. La diferencia será si, en San Luis, ponemos reglas claras, peritos que sepan, y un principio simple grabado en piedra: a la verdad no se le pone grillete; a la mentira, sí.

Insisto, si lo hacemos bien, con profesionalismo y sin miedo, quizá esta vez la radio hablando de marcianos no provoque pánico, sino lucidez.

Mañana será el diputado de Morena Carlos Arreola (qué casualidad) el que anuncie el desarrollo inmediato de foros con ciudadanos, académicos, especialistas, periodistas, abogados y otros grupos para discutir, plantear y afinar la iniciativa aprobada. Aunque lo convoque Arreola, ni modo, me apunto.

Nota: Esta columna no fue redactada con IA, sino con MIR (Mi Ignorancia Regular).

Hasta la próxima.

Yo soy Jorge Saldaña.

También lee: La IA, periodismo, y la coartada perfecta | Apuntes de Jorge Saldaña