Uso Seguro de la IA Generativa

UNIDAD.- Contexto y Ecosistema

• Qué es la IA Generativa y por qué cambia las reglas del juego.
• De la IA predictiva a la creación de contenido sintético.
• Los grandes modelos de lenguaje (LLM) en el entorno empresarial.
• Breve mapa de proveedores: De OpenAI a los modelos Open Source.
• El concepto de "Copiloto": La IA como asistente, no como autor.
• Por qué la seguridad tradicional no basta para la IA.
• El usuario como primera línea de defensa (Human-in-the-loop).

UNIDAD.- Funcionamiento Técnico y Flujo del Dato

• Anatomía de un transformer: Cómo "entiende" la IA el texto.
• El concepto de Token y su impacto en la seguridad.
• Ventana de contexto: Limitaciones y riesgos de la memoria a corto plazo.
• Arquitectura de una consulta: Del teclado al servidor.
• Inferencia y generación: ¿Dónde se procesa la información?
• Almacenamiento y persistencia de datos en la nube.
• Diferencia técnica entre interfaces de chat y conexiones API.
• El papel de la temperatura y el Top-P en la fiabilidad.
• Modelos locales vs. Modelos SaaS: Diferencias de exposición.
• El ciclo de vida de una interacción con IA Generativa.

UNIDAD.- Privacidad y Protección de Datos (RGPD)

• El RGPD ante los algoritmos de caja negra..
• Identificación de Datos de Carácter Personal (DCP) en el prompt.
• El riesgo de la inferencia: Cuando la IA deduce datos sensibles.
• Bases de legitimación para el uso de IA en la empresa.
• El principio de minimización de datos aplicado a la IA.
• Derechos ARSULIPO: Acceso, rectificación y el reto de la supresión.
• El entrenamiento con datos de usuario: Cómo desactivarlo.
• Evaluación de Impacto en la Protección de Datos (EIPD) específica para IA.
• Transferencias internacionales: El escudo de privacidad UE-EE.UU.
• Anonimización vs. Seudonimización: Técnicas prácticas.
• El riesgo de re-identificación por combinación de datos.
• La figura del DPO en la supervisión de herramientas de IA.
• Registro de Actividades de Tratamiento (RAT) con IA.
• Seguridad en el tratamiento de categorías especiales de datos.
• Auditoría de privacidad en proveedores de IA de terceros.

UNIDAD.- Ciberseguridad y Amenazas Específicas

• El nuevo perímetro de seguridad: El Prompt.
• Inyección de prompts directa: Rompiendo las instrucciones del sistema.
• Inyección indirecta: El peligro de los documentos y webs infectadas.
• Ataques de "Jailbreaking": Técnicas de manipulación psicológica a la IA.
• Exfiltración de datos mediante técnicas de ingeniería de prompts.
• El riesgo de las alucinaciones como vector de error de seguridad.
• Data Poisoning: Envenenamiento de los datos de entrenamiento.
• Ataques de denegación de servicio (DoS) a modelos de IA.
• Extracción del modelo: Robo de propiedad intelectual algorítmica.
• Ingeniería social 2.0: Phishing y Vishing hiper-realistas.
• Deepfakes de audio y video en fraudes de identidad (CEO Fraud).
• Seguridad en el uso de extensiones y plugins de IA.
• Fuga de datos a través del historial compartido y cuentas mal configuradas.
• El riesgo del código generado por IA: Vulnerabilidades inyectadas.
• Monitorización de prompts sospechosos en tiempo real.
• El concepto de Red Teaming en modelos de lenguaje.
• Guardrails y capas de filtrado: Defensa en profundidad.
• Respuesta ante incidentes específicos de IA Generativa.

UNIDAD.- Propiedad Intelectual y Activos Críticos

• El estatus legal de las obras generadas por IA.
• Quién ostenta la autoría: Análisis de la jurisprudencia actual.
• Riesgos de infracción de copyright de terceros en el output.
• Protección del secreto comercial y know-how corporativo.
• Los términos de servicio (ToS): Letra pequeña de OpenAI, Microsoft y Google.
• Uso de IA en el desarrollo de software: Licencias de código.
• El riesgo de pérdida de derechos de propiedad industrial.
• Marcas de agua digitales y metadatos de procedencia.
• Actividad Unir con flechas – Marcas de agua digitales y metadatos de procedencia.
• La doctrina del Fair Use frente al derecho de autor europeo.
• Cómo documentar el uso de IA en procesos creativos para auditorías.
• Contratos con proveedores: Cláusulas de propiedad del dato.
• El impacto de la IA en los derechos de imagen y marca personal.

UNIDAD.- Marco Regulatorio

• La Ley de IA de la Unión Europea: Estructura y filosofía.
• Clasificación de riesgos: De lo inaceptable a lo mínimo.
• Sistemas de IA prohibidos: Reconocimiento de emociones y vigilancia.
• Requisitos para sistemas de Alto Riesgo: Documentación y control.
• Obligaciones específicas para los modelos de propósito general (GPAI).
• Transparencia obligatoria: Notificar que "esto es una IA"
• Gobernanza de datos y calidad en el entrenamiento según la ley.
• Vigilancia post-comercialización y reporte de incidentes graves.
• El papel de la Oficina Europea de IA y autoridades nacionales.
• Sanciones y multas: El coste del incumplimiento legal.
• Cronograma de implementación: ¿Cuándo entra en vigor cada parte?
• Estándares técnicos y certificación de conformidad (Marcado CE).
• El impacto del Reglamento en las PYMES y el ecosistema startup.

UNIDAD.- Gobernanza y Políticas Corporativas

• Por qué tu empresa necesita una Política de Uso Aceptable (AUP).
• Elementos clave del manual de buenas prácticas para empleados.
• Gestión del Shadow AI: Cómo canalizar la demanda de herramientas.
• El Comité de IA: Roles de IT, Legal, RRHH y Negocio.
• Clasificación de herramientas permitidas, restringidas y prohibidas.
• El proceso de onboarding de una nueva herramienta de IA.
• Formación continua y certificación interna de usuarios.
• Métricas de riesgo vs. Beneficio operativo.
• Transparencia interna: El registro corporativo de casos de uso.
• Sostenibilidad y ética en la compra de servicios de IA.

UNIDAD.- Ética y Verificación de la Información

• Sesgos algorítmicos: Cómo identificarlos y mitigarlos.
• El problema de la "Caja Negra" y la falta de explicabilidad.
• Fact-checking obligatorio: Protocolos de verificación de respuestas.
• La responsabilidad del "último clic": El humano como validador.
• Evitar la dependencia excesiva y el sesgo de automatización.
• Impacto social y diversidad en la generación de contenidos.
• La ética del engaño: Transparencia en la relación máquina-humano.
• IA para el bien: Uso ético para mejorar la accesibilidad.

UNIDAD.- Conclusión y Futuro

• Resumen de los 10 mandamientos de la IA segura.
• Tendencias futuras: IA multimodal y agentes autónomos.
• Evolución esperada de las amenazas y defensas.
• Recursos recomendados para mantenerse actualizado.
• Reflexión final: Innovar con seguridad es posible.