Confianza excesiva: el texto suena bien

Confianza excesiva en ChatGPT no es un defecto de carácter. Es el gesto más barato que hay: el párrafo entra limpio, sin tachones, con comas en su sitio, y el cerebro baja la guardia. Está bien escrito. Puede ser falso. El tono no apaga el criterio. Tú lo dejas encendido.

Este artículo no es el método largo de contrastar cifras y URLs: eso está en cómo comprobar si una respuesta de IA es fiable. Tampoco explica el motor de las alucinaciones: eso está en por qué un chatbot se inventa datos. Aquí el trabajo es otro: no apagar el criterio porque la prosa fluye. El ejemplo que importa es un email pulido con un plazo que nadie te dio.

Por qué engaña un párrafo bien escrito

Por qué engaña un párrafo bien escrito no es un misterio de laboratorio. Es un hábito escolar y laboral. Te han corregido faltas. Te han premiado la claridad. Un texto sin erratas, con sujeto y verbo y un cierre educado, parece de alguien que ha mirado el expediente. El modelo produce exactamente esa superficie. No ha mirado el expediente.

Tres mecanismos, todos aburridos y suficientes:

1. Bloque homogéneo. El dato falso no viene en rojo. Viene en la misma fuente, el mismo ritmo y el mismo “por tanto” que el dato verdadero de la frase anterior. El ojo no hace un corte. Tú lees un email. No lees una lista de afirmaciones.
2. Cortesía de informe. Conectores (“así pues”, “en consecuencia”, “quedamos a la espera”), listas de tres, una disculpa medida. Eso es el disfraz de un trámite hecho. Un trámite hecho suele tener el plazo bien. El disfraz no.
3. Cero fricción. Un humano que duda deja un “creo”, un “confírmame la fecha”, un hueco. El modelo rellena el hueco. El hueco rellenado se lee como certeza.

IA convincente y falsa es eso: no un párrafo disparatado. Un párrafo que podrías haber escrito tú un martes con prisa, solo que tú, con prisa, a veces dejas el “confirmar viernes” entre corchetes. El chat lo convierte en viernes y punto.

No hace falta antropomorfismo para caer. No hace falta creer que “piensa”. Basta leer en diagonal un texto que parece ya enviado. Si te habla como persona y encima te fías del tono, el problema se duplica; eso se trata aparte en antropomorfismo: no es tu amigo. Aquí: la fluidez.

Una regla corta: la calidad de la redacción no es un indicador de la calidad del dato. Son dos ejes. El modelo es fuerte en el primero. En el segundo, a veces acierta y a veces fabrica. Tú no ves cuál de las dos ha ocurrido si solo miras si “suena profesional”.

El tono seguro de un modelo no es una prueba

El tono seguro de un modelo es un producto de entrenamiento. Han recompensado respuestas útiles, completas, que no se quedan a medias. Completar empuja a no dejar un “no lo sé” en el cuarto punto de una lista de cuatro. El cuarto punto se inventa para que el patrón cierre. El tono sigue igual de firme.

Qué no es ese tono:

• No es una probabilidad. No hay un 92 % escondido detrás de “el plazo vence el viernes”.
• No es una consulta a un calendario. El chat no ha abierto tu Outlook.
• No es una firma. Nadie colegiado ha leído el párrafo.
• No es una disculpa previa que lave lo que viene. “Puedo equivocarme” al final no tacha el viernes del segundo párrafo.

Qué sí es:

• Frases declarativas.
• Cero tartamudeo.
• Un cierre de oferta (“si necesitas que lo deje en 80 palabras…”).
• A veces un “por supuesto” o un “claro” que imita a un compañero dispuesto.

Ese “claro” no ha contrastado nada. Es el mismo estilo que usa para acortar tu email cuando los hechos sí estaban. Por eso el oído no avisa: el canal de la verdad y el canal del estilo no están enchufados.

Errores fluidos de un LLM (el mismo tipo de programa, cambie el nombre comercial) se leen peor que un error tosco. Un número absurdo (“plazo de 400 días”) salta. Un “antes del viernes 12” cabe en cualquier oficina española. Cabe, y por eso pasa.

No uses el tono como filtro. Úsalo al revés: cuanto más “ya está listo para enviar”, más pasada de plazos y cifras.

Ejemplo: el email pulido con un plazo inventado

Hechos de partida. Tú has escrito esto (tosco, pero tuyo):

Hola Laura, te escribo por el presupuesto de la sala. Aún no tenemos el anexo de medidas. Cuando lo tengamos te lo mando y seguimos. Un saludo, Pablo.

No hay fecha. No hay “viernes”. No hay “cierre de oferta”. Hay un hecho: falta el anexo.

Pides al chat: “Reescribe en tono profesional, 90 palabras, para una proveedora. Sin peloteo.”

El modelo devuelve, muy limpio:

Estimada Laura:
Gracias por tu propuesta para el acondicionamiento de la sala. Hemos revisado el presupuesto y, en líneas generales, nos encaja. Quedamos a la espera del anexo de medidas para confirmar. Necesitaríamos disponer de esa documentación antes del viernes 12, a fin de no retrasar la adjudicación. Quedamos a tu disposición para cualquier aclaración.
Un cordial saludo,
Pablo

Léelo en diagonal. Es un email de adulto. Cortesía, “adjudicación”, una fecha que organiza la semana de Laura. Ese viernes no estaba. El chat ha completado el patrón “email de proveedor + siguiente paso + plazo”. El plazo es el relleno más frecuente de ese patrón. Encaja. Es falso respecto a tu borrador.

Qué pasaría si lo envías:

1. Laura mueve a alguien el jueves para cumplir un viernes que tú no habías decidido.
2. El viernes 12 llega, no hay anexo, y ahora hay un compromiso por escrito que no existía.
3. Si el 12 era un día cualquiera y en tu calendario la reunión de adjudicación es en tres semanas, has mentido sin querer. La mentira tiene tu firma.

Eso es confianza excesiva en ChatGPT en un caso de diez minutos. No hace falta un BOE inventado. Hace falta un conector y un día del mes.

Cómo pillarlo, en este ejemplo, sin el protocolo largo de fuentes:

1. Pon el original y la reescritura en dos ventanas, o imprímelos.
2. Subraya en la reescritura todas las fechas, plazos, importes, porcentajes y promesas (“nos encaja”, “antes del viernes 12”, “adjudicación”).
3. Para cada subrayado, una pregunta: ¿esto está en mi texto o lo he decidido yo fuera del chat? Si no, fuera.
4. El “nos encaja” tampoco estaba. Es una evaluación. Si aún no encaja, tacha. El modelo ha rellenado una postura.
5. Rehaces el mensaje: “Quita el viernes 12 y la adjudicación. No inventes plazos ni que el presupuesto nos encaja. Mantén que falta el anexo.”

Segunda salida típica, ya más honesta:

Hola Laura: te escribo por el presupuesto de la sala. Aún no tenemos el anexo de medidas. Cuando lo tengamos te lo enviamos y seguimos. Un saludo, Pablo.

Menos “profesional” en el sentido de folleto. Más cierto. Eso envías. Si más tarde tú decides un viernes, lo escribes tú, mirando el calendario, no el chat.

El gesto no es “desconfía de toda coma”. Es: todo dato que cambie la semana de otra persona se trata como dato, no como estilo.

Leer con sospecha útil

Leer con sospecha útil no es volver el chat inservible. Es una pasada, como mirar si has dejado las llaves antes de cerrar. No es un juicio moral al programa. No es antropología. Es no copiar.

Orden, para un texto que vas a usar (email, mensaje a un cliente, párrafo de un informe, resumen que reenvías):

1. Separa estilo y afirmaciones. Estilo: cortesía, longitud, orden de párrafos. Afirmaciones: cifras, nombres, fechas, plazos, causas (“porque el servidor falló”), compromisos (“te lo mando el martes”), evaluaciones (“nos parece correcto”).
2. Las afirmaciones van contra el original. Si reescribías tu email o tu acta, el original gana. Lo que no esté, no se queda aunque “mejore” el trámite.
3. Si no hay original (has pedido un dato del mundo: un horario, una norma, una cifra pública), no uses la fluidez como atajo. Ahí sí sales a la web que emite el dato. El método está en el artículo de comprobar. Aquí basta la regla: sin apertura, no se pega.
4. Mira el último punto de las listas y el cierre. Ahí el modelo suele “redondear”: un extra, una fecha, una fuente, un “en resumen, conviene firmar”. El redondeo es el sitio clásico del invento pequeño.
5. Lee en voz alta solo las frases con número o día. El resto puede esperar. Si no podrías defender esa frase mañana delante de Laura, fuera.
6. Copia a tu correo o a tu documento solo lo que haya pasado la pasada. El chat no es la bandeja. Enviar desde el chat (o copiar entero “que ya está bien”) es cómo se cuela el viernes.

Sospecha útil no es:

• Tirar el resumen entero porque una fecha era falsa (tachas la fecha; las cuatro viñetas que sí estaban en el PDF pueden servir si las has visto).
• Discutir con el modelo si “de verdad lo cree”.
• Pedirle “¿estás seguro?” y relajarte si dice que sí.
• Contratar el plan de pago para ahorrarte la pasada. Pagas límites y velocidad. No pagas un criterio.

Una frase que puedes añadir al prompt, auxiliar, no milagrosa:

No añadas plazos, importes, nombres ni motivos que no estén en el texto. Si falta un dato, escribe [NO ESTÁ], no lo inventes.

A veces obedece. A veces cuela el viernes igual. La frase reduce. No sustituye el subrayado.

Si el texto es una cita legal o una sentencia, la fluidez es especialmente cara: el molde “artículo + número + año” está muy entrenado. No lo desarrollamos aquí. El sitio de ese trabajo es citas legales inventadas. La regla es la misma: el molde no es el BOE.

Dónde se cuelan los errores fluidos

Los errores fluidos de un LLM no aparecen como un párrafo en otro idioma. Aparecen donde el patrón “texto profesional” pide un hueco y el modelo lo rellena.

Sitios habituales, en español de oficina y de casa:

• Plazos. “En 10 días hábiles”, “antes del viernes”, “a la mayor brevedad” convertido en una fecha. El patrón de reclamación y de proveedor vive de plazos.
• Motivos. “Debido a una incidencia técnica”, “por un error en el envío”. Tú no habías dado motivo. El chat pone uno para que el tono no quede seco. Ese motivo, en tu firma, es una explicación. A veces es una admisión.
• Cifras redondas. Un 10 %, un 15 %, “unas dos semanas”. Suenan a estimación razonable. Son relleno si no estaban.
• Nombres y cargos. Completa “la directora de…” con un apellido plausible. O cambia Marta por María porque el patrón de email usa María más veces.
• Evaluaciones disfrazadas de hecho. “El presupuesto es ajustado y competitivo.” Eso no estaba en tu tosco “aún no tenemos el anexo”. Es una opinión. Si la envías, es tuya.
• Fuentes de adorno. Un “según la normativa vigente” sin decir cuál. Suena a respaldo. No respalda. O peor: un artículo concreto. Fluidez de código legal, no de archivo.

Ninguno de estos pide un detector. Piden el subrayado del apartado anterior.

El listón no es el mismo en todas las tareas. Acortar tu párrafo de “la reunión es el jueves a las 10” y que el chat respete el jueves: la pasada es rápida (¿sigue el jueves a las 10?). Pedir “redacta un seguimiento profesional” sin pegar el hilo: el modelo improvisará hechos de seguimiento. Ahí la sospecha sube. Si improvisar hechos es lo que necesitabas, no era una tarea para el chat: era escribir tú el hecho y luego, si acaso, pedir tono.

IA convincente y falsa duele más en el reenvío. Lo pegas al grupo de WhatsApp del trabajo “para que lo mire Marta” con pinta de ya revisado. Marta no hace la pasada: el formato ya parece el email final. Has multiplicado el viernes inventado. La confianza excesiva no es solo tuya. Se contagia por el aspecto de documento.

Errores: apagar el criterio

Esta es la sección de para aquí en negativo. Gestos que apagan el criterio aunque creas que “luego lo miro”.

Enviar porque ya no hay faltas. Las faltas no eran el riesgo. El viernes sí.

Pedir una segunda versión “más segura” y fiarte de la segunda. La segunda puede quitar un adorno y dejar el plazo. Extraes otra vez. Siempre.

Usar otro chatbot como testigo. “Gemini, ¿ChatGPT tiene razón con el viernes 12?” El otro modelo no tiene tu original. Puede inventar otro viernes. El testigo es el borrador tosco de Pablo, no un segundo predictor.

Confundir disclaimers con revisión. El pie de “esto no es asesoramiento” no tacha la fecha del cuerpo. El cuerpo es lo que Laura lee.

Leer solo el primer párrafo. El plazo suele ir en el segundo o en el cierre, donde el patrón de email pone “siguiente paso”.

Aceptar el “nos encaja” porque mejora la relación. Si aún no encaja, es una mentira útil a corto y un lío a medio. El modelo no va a la reunión de adjudicación. Tú sí.

Dejar de usar el chat por pánico. Sigue sirviendo para acortar y cambiar el registro de un texto cuyos hechos tú controlas. El fallo es tratar la fluidez como certificado.

Para aquí, en positivo, tres líneas:

1. Está bien escrito no es es cierto.
2. El tono seguro de un modelo es estilo. Las fechas y las cifras se miran aparte.
3. En el email: original al lado, subrayar plazos y promesas, tachar lo que no estaba, enviar lo tuyo.

La confianza excesiva en ChatGPT se corrige con esa pasada, no con un sermón al programa ni con dejar de redactar. El criterio no se apaga porque el párrafo entre limpio. Si entra limpio, miras los números. Luego pegas. No al revés.