El uso de la Inteligencia Artificial (IA) no es nuevo en el sector de la seguridad pública. Desde hace un tiempo se utiliza para crear sistemas capaces de aprender, razonar, tomar decisiones y reconocer patrones mediante técnicas como machine learning, clustering, algoritmos predictivos, entre otros. Sin embargo, la irrupción de la inteligencia artificial generativa (IAG), que se especializa en crear contenido nuevo a partir de los datos con los que fue entrenada —como textos, imágenes o videos—, es un fenómeno deslumbrante que suscita fascinación, pero también gran preocupación, porque puede llegar a violar derechos ciudadanos y afectar la confianza en las instituciones.

Existen ya casos de uso de IAG en diferentes partes del mundo. A manera de ejemplo, en la Policía de San Francisco (EE. UU.) se emplea Draft One: en esta ciudad los agentes usan un copiloto de IAG que transforma las grabaciones de sus cámaras corporales en borradores de reportes. Lo que antes podía tardar horas ahora se hace en minutos, dándole más tiempo a los policías que patrullan las calles para labores operativas y de acercamiento comunitario.

Existen experiencias en otros continentes. En Agra, ciudad de la India, la policía fue entrenada en ingeniería de prompt y hoy algunos policías, con mucho orgullo, reciben el grado de “AI comandos”, que combinan esta tecnología con la labor policial tradicional. En la Unión Europea, diversos casos piloto prueban el uso de la IAG en análisis de inteligencia criminal y en la reducción de la carga burocrática. Los resultados iniciales muestran ahorros de tiempo significativos, mayor satisfacción de los funcionarios y aumento de la confianza ciudadana.

El informe Public Safety AI: Assessing the Benefits (Policing Project, NYU) documenta cómo la IAG puede aumentar la eficiencia policial, mejorar la comunicación con las comunidades y facilitar la rendición de cuentas. Una de sus conclusiones es contundente: cuando la IAG se aplica en tareas administrativas y de gestión, el impacto positivo es inmediato y cuantificable.

En Colombia tenemos a PretorIA: la Corte Constitucional ha puesto en marcha un sistema para apoyar la revisión de miles de tutelas que llegan diariamente. PretorIA analiza textos jurídicos y ayuda a filtrar casos relevantes, lo que demuestra que la IAG puede convertirse en un aliado para agilizar la justicia sin reemplazar el criterio humano.

Sin embargo, no todo es tan fácil como parece. La IAG trae consigo retos que no pueden ignorarse. Veamos algunos de ellos:

Alucinaciones: los sistemas de IAG pueden inventar datos, cifras o hechos inexistentes con la misma seguridad con la que entregan información veraz. En seguridad y justicia, una alucinación puede comprometer una investigación criminal, afectar una sentencia o violar derechos fundamentales.

Sesgos: la IAG aprende de datos históricos y puede reproducir prejuicios sociales basados en desigualdades económicas. Un sistema de predicción del crimen puede reforzar estigmatizaciones, concentrar la vigilancia en comunidades vulnerables o étnico-raciales y alimentar desconfianzas ciudadanas.

Ciberamenazas avanzadas: el informe Generative AI: a Double-Edged Sword in the Cyber Threat Landscape (Artificial Intelligence Review, 2025) alerta sobre la aparición del malware polimórfico: programas maliciosos generados por IA capaces de mutar y evadir defensas tradicionales. Esta amenaza convierte a la IAG en un arma tanto para la seguridad como para el crimen organizado.

Ética y gobernanza: como aún no hay reglas claras, la tentación de usar la IAG para vigilancia masiva y control social puede desbordar los marcos democráticos. El riesgo de caer en prácticas de “Gran Hermano” es real y requiere una discusión pública abierta.

Vigilancia masiva: cámaras con reconocimiento facial, sistemas de seguimiento de ciudadanos y modelos que predicen conductas antes de que ocurran: todo parece sacado de la película Minority Report, pero ya se prueba en varias ciudades del mundo. La línea que separa la prevención legítima de la intromisión abusiva en la vida privada se vuelve cada día más difusa.

La ética debe ser la brújula que guíe cada proyecto basado en IAG. Evitar que la fascinación tecnológica derive en abusos o exclusión social debe ser un objetivo prioritario.

La IAG ya es parte del presente de la seguridad pública. Sus beneficios son claros: reducción de cargas administrativas, más tiempo para la labor operativa, mayor capacidad de análisis y nuevas herramientas para la prevención. Una conclusión simple podría ser: la IAG no reemplaza al ser humano, lo potencia. El uso adecuado no está en decidir por jueces o policías, sino en liberar a los funcionarios de la carga burocrática para que dediquen más tiempo a lo esencial: proteger a las comunidades y garantizar la justicia.

Es importante reconocer que el Estado colombiano ya trazó una hoja de ruta con el CONPES 4144 sobre IA como una oportunidad para liderar una adopción responsable de la IAG que aproveche los beneficios sin caer en la trampa del abuso o la ingenuidad.

La IAG es una espada de doble filo. La pregunta no es si vamos a usarla, sino cómo. Y la respuesta marcará la diferencia entre una herramienta que fortalezca la democracia o un arma que, en manos imprudentes, la ponga en riesgo.

Por: Juan Carlos Nieto Aldana, PhD.
Experto en Inteligencia Estratégica y Seguridad Pública.