A medida que las empresas extienden el uso de agentes de IA en sus organizaciones, IBM anuncia hoy el primer software del sector que unifica los equipos de seguridad y gobernanza de la IA, ofreciendo una visión unificada del perfil de riesgo de las organizaciones.
Estas nuevas capacidades mejoran e integran watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes, seguros y responsables a escala. IBM watsonx.governance es la herramienta integral de gobernanza de IA de IBM, y Guardium AI Security es la herramienta de la compañía para proteger los modelos, datos y uso de IA.
“Los agentes de IA están llamados a revolucionar la productividad empresarial, pero sus beneficios también pueden plantear un desafío”, afirma Ritika Gunnar, General Manager, Data and AI de IBM. “Cuando estos sistemas autónomos no se gobiernan o aseguran adecuadamente, pueden acarrear riesgos importantes”. E
ntre las funcionalidades anunciadas hoy, se incluyen: Integración y automatización de la seguridad de la IA agéntica IBM está mejorando la integración de IBM Guardium AI Security y watsonx.governance, proporcionando a las empresas la primera solución unificada para gestionar los riesgos de seguridad y gobierno asociados a los casos de uso de IA. La integración respalda los procesos de los usuarios para validar estándares de cumplimiento frente a 12 marcos diferentes, incluida la ley de IA de la UE y la ISO 42001.
IBM también introduce nuevas capacidades en Guardium AI Security gracias a una colaboración con AllTrue.ai, incluida la capacidad de detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas integrados, proporcionando así una visibilidad y protección amplias en un ecosistema de IA cada vez más descentralizado. Una vez identificados, IBM Guardium AI Security puede activar automáticamente los flujos de trabajo de gobierno apropiados desde watsonx.governance.
Las actualizaciones recientes de IBM Guardium AI Security también incluyen la automatización de red teaming, que ayuda a las empresas a detectar y corregir vulnerabilidades y errores de configuración en distintos casos de uso de IA. Además, para mitigar riesgos como la inyección de código, la exposición de datos confidenciales y las fugas de datos, la herramienta permite a los usuarios definir políticas de seguridad personalizadas que analizan tanto las instrucciones de entrada como las respuestas de salida. Estas funcionalidades ya están disponibles en IBM Guardium AI Security, y su integración con watsonx.governance se llevará a cabo a lo largo de
este año.
“El futuro de la IA depende de lo bien que la aseguremos hoy. Incorporar la seguridad desde el principio es fundamental para proteger los datos, cumplir con las obligaciones normativas y consolidar una confianza a largo plazo”, ha afirmado Suja Viswesan, Vice President, Security and Runtime Products de IBM.
“Uno de los mayores retos para los equipos de seguridad es traducir los incidentes y violaciones de cumplimiento en riesgos empresariales cuantificables. La rápida adopción de la IA y la IA agéntica amplifica este problema”, ha dicho Jennifer Glenn, Research Director de IDC Security and Trust Group. “Unificar la gobernanza de IA con la seguridad de IA proporciona a las organizaciones el contexto necesario para identificar y priorizar riesgos, así como la información para comunicar claramente las consecuencias de no abordarlos”.
