Curso AWS Certified AI Practitioner AIF-C01

El Dominio 5 cierra el temario de AIF-C01 con una idea muy importante: una solución de IA no es solo un modelo. También incluye datos, usuarios, permisos, aplicaciones, APIs, integraciones, registros, políticas internas, controles de seguridad y procesos de revisión. Por eso AWS evalúa si sabes reconocer cómo proteger y gobernar una solución de IA de forma básica, aunque el examen no espere que diseñes una arquitectura avanzada de seguridad.

Este dominio tiene un peso menor que los dominios de IA generativa y modelos fundacionales, pero es fácil perder preguntas si se estudia de forma superficial. Muchas preguntas no te pedirán configurar un servicio, sino elegir qué control, práctica o servicio de AWS ayuda a resolver un riesgo: acceso indebido, exposición de datos sensibles, falta de trazabilidad, ausencia de auditoría, incumplimiento normativo o uso inseguro de prompts y respuestas generativas.

Qué cubre el Dominio 5

El dominio se divide en dos grandes bloques. El primero está orientado a la seguridad de los sistemas de IA. El segundo se centra en la gobernanza y el cumplimiento. Para el examen debes entender ambos desde un punto de vista práctico: qué riesgo existe, qué control lo reduce y qué servicio de AWS se suele asociar a ese control.

Seguridad en IA: no es solo seguridad del modelo

Un error frecuente es pensar que la seguridad de una solución de IA consiste únicamente en proteger el modelo. En realidad, el modelo es solo una pieza. Antes de llegar al modelo hay datos, usuarios, permisos y aplicaciones. Después del modelo hay respuestas, acciones, integraciones con otros sistemas y registros que pueden contener información sensible.

En una aplicación generativa, por ejemplo, un usuario puede introducir información confidencial en un prompt. El modelo puede recuperar documentos internos mediante RAG. La aplicación puede llamar a herramientas externas o agentes. Las respuestas pueden almacenarse en logs. Cada uno de esos puntos necesita controles adecuados. Si el examen habla de proteger una solución de IA, piensa en la cadena completa, no solo en el endpoint de inferencia.

IAM, roles, políticas y mínimo privilegio

AWS Identity and Access Management sigue siendo una base esencial. En IA, IAM se usa para controlar quién puede acceder a servicios como Amazon Bedrock, Amazon SageMaker, Amazon S3, bases de datos, funciones Lambda, APIs o recursos de monitorización. También controla qué servicios pueden invocar a otros mediante roles.

Para AIF-C01 debes quedarte con el principio de mínimo privilegio: conceder solo los permisos necesarios para la tarea. Si una aplicación necesita invocar un modelo en Amazon Bedrock, no debería tener permisos administrativos sobre toda la cuenta. Si un proceso solo necesita leer documentos de un bucket, no debería poder borrar objetos ni acceder a otros buckets.

• Usuarios y grupos: representan personas o equipos que necesitan acceso.
• Roles: permiten que servicios, aplicaciones o identidades temporales asuman permisos.
• Políticas: definen qué acciones están permitidas o denegadas sobre qué recursos.
• Mínimo privilegio: reduce el impacto de errores, credenciales comprometidas o permisos excesivos.

Cifrado en reposo y en tránsito

Las soluciones de IA suelen trabajar con datos de negocio, documentos, conversaciones, imágenes, audio, metadatos y registros. Por eso el cifrado aparece como control básico. El cifrado en reposo protege los datos almacenados; el cifrado en tránsito protege los datos cuando se mueven entre usuarios, aplicaciones, servicios y APIs.

AWS Key Management Service permite crear y administrar claves criptográficas para proteger datos en distintos servicios. En preguntas de examen, KMS suele aparecer cuando el escenario habla de cifrado, control de claves, protección de datos almacenados o requisitos de seguridad corporativa.

Privacidad y protección de datos sensibles

La IA aumenta el valor de los datos, pero también aumenta el riesgo de exposición. Una aplicación puede procesar texto de clientes, documentos internos, datos personales, información financiera o contenido confidencial. Antes de usar esos datos, la organización debe saber dónde están, quién puede acceder, cuánto tiempo se conservan y si contienen información sensible.

Amazon Macie ayuda a descubrir y proteger datos sensibles en Amazon S3, como información personal o datos confidenciales. Para el examen, asocia Macie con descubrimiento de datos sensibles, especialmente cuando el escenario menciona buckets de S3, privacidad o necesidad de identificar información protegida.

Linaje, catalogación y origen de los datos

El linaje de datos permite entender de dónde vienen los datos, cómo se han transformado y dónde se usan. En soluciones de IA esto es especialmente relevante porque un modelo puede depender de datos de entrenamiento, documentos de una base de conocimiento, datasets de evaluación o fuentes internas conectadas a una aplicación RAG.

La catalogación ayuda a saber qué datos existen, qué significado tienen, quién es responsable de ellos y bajo qué condiciones pueden utilizarse. En el examen, cuando veas expresiones como “origen de los datos”, “trazabilidad”, “documentar fuentes” o “demostrar de dónde procede la información”, piensa en prácticas de linaje, catalogación y documentación.

Seguridad de red y acceso privado

Otro aspecto importante es cómo se comunican los componentes de la solución. No siempre es deseable que el tráfico hacia servicios o APIs viaje por Internet pública. AWS PrivateLink permite acceder a servicios de forma privada desde una VPC, reduciendo exposición y ayudando a cumplir requisitos de seguridad o conectividad privada.

No necesitas memorizar configuraciones profundas para AIF-C01. Lo importante es reconocer el patrón: si el escenario pide acceso privado a servicios, menor exposición de red o comunicación sin pasar por Internet pública, PrivateLink puede ser una opción relevante.

Prompt injection y riesgos específicos de IA generativa

La IA generativa introduce riesgos que no aparecen igual en aplicaciones tradicionales. Uno de los más importantes es la inyección de prompts. Ocurre cuando un usuario intenta manipular las instrucciones de la aplicación para que el modelo ignore reglas, revele información o realice acciones no previstas.

También pueden aparecer ataques de jailbreak, exposición de información sensible, envenenamiento del contexto en sistemas RAG, respuestas no verificadas o uso de contenido generado sin revisión. Para el examen, no tienes que diseñar una defensa completa, pero sí reconocer que estos riesgos existen y que se mitigan con controles como validación de entradas, límites de permisos, guardrails, revisión humana, separación de datos, monitorización y políticas claras.

CloudTrail, Config y auditoría

Las organizaciones necesitan saber qué ocurrió, quién hizo cambios y si los recursos cumplen las políticas esperadas. AWS CloudTrail registra llamadas a la API y actividad de cuenta. AWS Config permite evaluar configuraciones de recursos y comprobar cambios frente a reglas. En soluciones de IA, estas herramientas ayudan a auditar acceso, cambios de configuración, uso de servicios y cumplimiento operativo.

Para el examen, recuerda una distinción sencilla: CloudTrail responde a “quién hizo qué y cuándo”; AWS Config ayuda a revisar “cómo está configurado un recurso y si cumple las reglas”.

AWS Audit Manager, Artifact y Trusted Advisor

AIF-C01 también incluye servicios que apoyan cumplimiento, auditoría y gobierno. AWS Audit Manager ayuda a recopilar evidencia para auditorías. AWS Artifact proporciona acceso a informes de cumplimiento y acuerdos de AWS. AWS Trusted Advisor ofrece recomendaciones sobre buenas prácticas, incluyendo seguridad, rendimiento, coste, tolerancia a fallos y límites de servicio.

Gobernanza de datos en soluciones de IA

La gobernanza de datos define cómo se gestionan los datos durante todo su ciclo de vida. En IA, esto incluye decidir qué datos se pueden usar, con qué propósito, durante cuánto tiempo, en qué región deben residir, quién puede acceder, cómo se registran las operaciones y cómo se eliminan cuando ya no son necesarios.

El examen puede presentar escenarios donde la organización necesita controlar residencia de datos, retención, observabilidad, registro de actividad o revisión periódica. En esos casos, la respuesta rara vez será “entrenar un modelo mejor”. Normalmente estará relacionada con políticas, controles de acceso, auditoría, documentación, clasificación o servicios de gobierno.

• Residencia: dónde se almacenan y procesan los datos.
• Retención: cuánto tiempo se conservan los datos y registros.
• Observabilidad: capacidad de supervisar actividad, rendimiento, errores y comportamiento.
• Ciclo de vida: creación, uso, archivo y eliminación de datos.
• Responsabilidad: propietarios claros para datos, modelos, controles y decisiones.

Políticas, revisiones y formación

La gobernanza no se resuelve únicamente con tecnología. También requiere políticas internas, procesos de revisión, estándares de transparencia, formación de equipos y criterios para aprobar o rechazar casos de uso. En IA generativa esto es especialmente importante porque las herramientas pueden parecer fáciles de usar, pero sus riesgos dependen del contexto, los datos y el impacto de las decisiones.

Una organización madura no solo despliega una aplicación de IA. Define qué usos están permitidos, qué datos no pueden introducirse, quién revisa los resultados, cómo se gestionan incidentes, cómo se documentan limitaciones y cuándo se necesita intervención humana.

Cómo razonar preguntas del Dominio 5

Cuando leas una pregunta de este dominio, localiza primero el riesgo principal. Después busca la respuesta que lo controle de forma más directa. No elijas una herramienta de IA solo porque el examen sea de IA. Muchas veces la respuesta correcta será un servicio clásico de seguridad, auditoría o gobernanza de AWS aplicado a una solución de IA.

Errores habituales en preguntas de examen

• Pensar que la seguridad de IA se limita al modelo y olvidar datos, permisos, prompts, respuestas y logs.
• Confundir CloudTrail con CloudWatch o AWS Config. CloudTrail audita acciones; Config evalúa configuraciones.
• Elegir entrenamiento o fine-tuning cuando el problema real es cumplimiento, privacidad o acceso a datos.
• No aplicar mínimo privilegio a servicios que invocan modelos o acceden a documentos.
• Olvidar que los sistemas RAG también necesitan permisos, control de fuentes y trazabilidad.
• Tratar las respuestas generativas como si fueran siempre correctas, sin validación ni revisión.
• No distinguir entre informes de cumplimiento de AWS Artifact y evidencia de auditoría gestionada con Audit Manager.

Checklist antes de avanzar

• Entiendo que una solución de IA incluye datos, modelo, aplicación, permisos, red, logs y gobierno.
• Sé asociar IAM con control de acceso y mínimo privilegio.
• Sé asociar AWS KMS con cifrado y gestión de claves.
• Sé asociar Amazon Macie con detección de datos sensibles en S3.
• Sé diferenciar CloudTrail, AWS Config, Audit Manager, Artifact y Trusted Advisor.
• Entiendo los riesgos de prompt injection, jailbreak, exposición de datos y envenenamiento del contexto.
• Comprendo la importancia del linaje, la catalogación y la documentación del origen de los datos.
• Sé que la gobernanza también incluye políticas, revisiones, formación y responsabilidades claras.