¿La inteligencia artificial generativa es confiable para datos y cifras?
Por Sebastián Ignacio García Cáceres · RUT 18.128.930-9 · Perito judicial informático inscrito, ficha 359345
No por sí sola. Puede inventar cifras, mezclar fuentes o redondear de forma incorrecta. Es confiable cuando trabaja sobre datos entregados por la empresa, cita la fuente de cada número y alguien verifica el resultado. Para cálculos, conviene que la IA use una herramienta de cálculo o una planilla, no su memoria.
En concreto:
- Confabulación: Riesgo de afirmaciones falsas con apariencia segura (NIST AI 600-1).
- Validez: Válida y fiable es la base de una IA confiable (NIST AI RMF).
- Desinformación: Las salidas pueden contener información incorrecta (OWASP, LLM09).
- Salidas: Validar las salidas antes de usarlas en otros sistemas (OWASP, LLM05).
Una cifra sin fuente en un informe hecho con IA debe tratarse como borrador.
Fuente: Perfil de IA generativa del NIST (NIST AI 600-1) (NIST); Marco de gestión de riesgos de IA del NIST (AI RMF 1.0) (NIST); OWASP Top 10 para LLM y aplicaciones de IA generativa 2025 (OWASP). Consultadas el 3 de octubre de 2026.
Contenido informativo. No constituye asesoría legal; para su caso, consulte con un abogado habilitado.
