Cisco acaba de anunciar el lanzamiento de Cisco AI Defense, una solución diseñada para que las empresas puedan desarrollar, implementar y asegurar aplicaciones de inteligencia artificial (IA) con confianza. Esta solución, que estará disponible en marzo, surge en un momento crucial, ya que la rápida evolución de la tecnología de IA trae consigo nuevas y complejas amenazas de seguridad que las soluciones tradicionales no están preparadas para enfrentar.

Según Jeetu Patel, Vicepresidente Ejecutivo y Director de Producto de Cisco, "Los líderes empresariales y tecnológicos no pueden permitirse sacrificar la seguridad por la velocidad al adoptar la IA". En un mercado altamente competitivo, la velocidad es fundamental, y AI Defense se integra directamente en la infraestructura de red para detectar y proteger contra amenazas sin comprometer la agilidad.

La adopción de la IA conlleva riesgos significativos. El Índice de Preparación de IA de Cisco de 2024 revela que solo el 29% de los encuestados se sienten preparados para detectar y prevenir la manipulación de la IA. Las aplicaciones de IA son cada vez más complejas, operando en múltiples modelos y nubes, lo que incrementa las vulnerabilidades a nivel de modelo o aplicación. Además, a medida que las empresas entrenan modelos con datos propios, los riesgos de seguridad aumentan considerablemente.

AI Defense: una capa de seguridad integral

Según explicó Cisco, para impulsar la innovación y la adopción de la IA, las empresas necesitan una capa común de seguridad que proteja a cada usuario y cada aplicación. AI Defense aborda dos riesgos principales:

• Desarrollo e implementación de aplicaciones de IA seguras: Las empresas utilizarán y desarrollarán una gran cantidad de aplicaciones de IA. AI Defense proporciona las barreras de seguridad necesarias para cada aplicación, permitiendo a los desarrolladores avanzar rápidamente y proteger los sistemas de IA contra ataques y asegurar el comportamiento del modelo en todas las plataformas. Sus capacidades incluyen:
  
  • Descubrimiento de IA: Permite a los equipos de seguridad identificar quién construye las aplicaciones y las fuentes de entrenamiento que se utilizan, detectando tanto las aplicaciones de IA sancionadas como las no autorizadas en nubes públicas y privadas.
  • Validación de modelos: Realiza pruebas automatizadas para verificar los modelos de IA en busca de posibles problemas de seguridad. Utiliza un equipo rojo algorítmico impulsado por IA para identificar vulnerabilidades y recomendar medidas de seguridad.
  • Seguridad en tiempo de ejecución: Protege continuamente contra amenazas como inyección de indicaciones, denegación de servicio y fuga de datos sensibles.
  
  
• Asegurar el acceso a aplicaciones de IA: A medida que los usuarios adoptan herramientas de IA para mejorar su productividad, los equipos de seguridad necesitan prevenir la fuga y el envenenamiento de datos. AI Defense permite:
  • Visibilidad: Proporciona una visión completa de las aplicaciones de IA utilizadas por los empleados.
  • Control de acceso: Implementa políticas para restringir el uso de herramientas de IA no autorizadas.
  • Protección de datos y amenazas: Protege continuamente contra amenazas y pérdida de datos confidenciales, garantizando el cumplimiento.
  
  A diferencia de las soluciones de seguridad integradas en modelos de IA individuales, AI Defense ofrece controles consistentes para un entorno multimodelo. Esta solución es autooptimizante, utilizando modelos de aprendizaje automático de Cisco para detectar amenazas en evolución basándose en datos de inteligencia de amenazas de Cisco Talos. Los clientes de Splunk recibirán alertas enriquecidas con contexto adicional. AI Defense se integra con los flujos de datos existentes, proporcionando una visibilidad y control sin precedentes y está integrado en Security Cloud, la plataforma de seguridad unificada de Cisco.