Evitar alucinaciones y verificar fuentes
Un LLM puede inventar hechos con total seguridad. A esto se le llama alucinación, y es el mayor riesgo de uso directo.
¿Por qué alucina?
- Predice texto plausible, no necesariamente verdadero.
- No tiene acceso a tus datos ni a fuentes actualizadas (salvo que se le den).
- Completa huecos de conocimiento con invenciones convincentes.
Cómo mitigarlo
- RAG: dale los documentos fuente y pídele citar (ver curso 4).
- Pide verificación: "¿De dónde sale este dato? Cita la fuente."
- Para hechos críticos, confirma por fuera (web, base de datos).
- Baja la temperatura para tareas factuales.
REGLA DE ORO EN INT
nunca envíes a un cliente una cifra o cláusula generada por IA sin verificación humana.
Calificación
No hay comentarios por ahora.
para ser el primero en comentar.