Nvidia y una coalición de 27 empresas de tecnología han formado la Open Secure AI Alliance para avanzar en herramientas de ciberseguridad defensiva de código abierto. El grupo busca proteger a las empresas de futuros incidentes similares al reciente ataque deshonesto a Hugging Face, donde los modelos comerciales cerrados no ayudaron en la defensa de la empresa.
El lanzamiento de la Open Secure AI Alliance
En un movimiento estratégico para remodelar la ciberseguridad en la era de la inteligencia artificial, Nvidia ha encabezado la creación de Open Secure AI Alliance. Esta coalición reúne a 27 organizaciones tecnológicas influyentes, incluidos actores importantes como Microsoft, Dell, SpaceX, The Linux Foundation e IBM. La alianza está estructurada para aprovechar los marcos de código abierto existentes, basándose directamente en los esfuerzos fundacionales de la iniciativa Akrites de la Fundación Linux y la comunidad OpenSSF. El objetivo principal de la alianza es establecer métodos colaborativos más efectivos para revelar y remediar vulnerabilidades de software. Al aunar recursos y experiencia, el grupo tiene como objetivo proporcionar a las organizaciones las herramientas defensivas necesarias para navegar en panoramas de amenazas digitales cada vez más complejos donde las medidas de seguridad tradicionales de código cerrado pueden resultar insuficientes o demasiado restrictivas durante los esfuerzos de respuesta críticos.
El incidente de la cara abrazada y las limitaciones del modelo
La formación de esta alianza fue catalizada directamente por un importante incidente de seguridad que involucró a la startup Hugging Face, que enfrentó un ciberataque fraudulento. Cuando Hugging Face intentó utilizar modelos comerciales líderes de inteligencia artificial de frontera de código cerrado para detectar y repeler la actividad no autorizada, descubrió que las barreras de seguridad de los modelos los hacían ineficaces. Debido a que estos sistemas no podían distinguir entre el atacante y el defensor, las solicitudes de análisis forense de la plataforma fueron rechazadas repetidamente. Esto obligó al equipo de ingeniería a recurrir a modelos abiertos y autohospedados, específicamente el sistema GLM 5.2. Al ejecutar esta alternativa abierta en su propia infraestructura, Hugging Face analizó con éxito más de 17.000 acciones distintas y contuvo la intrusión. Esta experiencia destacó lo que los miembros de la alianza describen como una verdad práctica: cuando los defensores carecen de la capacidad de inspeccionar y adaptar el software de IA en sus propios términos, su capacidad para responder durante emergencias de alto riesgo se ve gravemente obstaculizada.
Contribuciones y objetivos colaborativos
Los miembros fundadores de la alianza se han comprometido a aportar activos especializados para reforzar el ecosistema. Nvidia proporciona modelos abiertos, ponderaciones integrales, conjuntos de datos y nuevos arneses de agentes diseñados para acelerar la creación de herramientas avanzadas de ciberseguridad. Hewlett Packard Enterprise (HPE) tiene la tarea de desarrollar estándares para facilitar la verificación criptográfica de agentes y servicios de IA, garantizando una mayor confianza y responsabilidad en los sistemas automatizados. Además, Hugging Face contribuye con Safetensors, un formato seguro diseñado específicamente para almacenar pesos de modelos de IA. La alianza está pidiendo activamente a los gobiernos que traten la infraestructura abierta de IA como un activo defensivo nacional en lugar de un pasivo. Argumentan que imponer restricciones generales a los modelos de frontera de peso abierto sería contraproducente, ya que limitaría efectivamente las capacidades defensivas y al mismo tiempo concentraría un poder significativo dentro de un pequeño grupo de proveedores de IA propietarios que pueden no satisfacer las necesidades de seguridad más amplias de la industria.
Tensiones regulatorias y modelos chinos de IA
La iniciativa llega en medio de un debate más amplio y cada vez más intenso en Washington sobre el papel de los modelos de IA desarrollados en China. Actualmente, la administración Trump y varios legisladores están considerando prohibiciones o limitaciones estrictas a estos modelos, que a menudo son de peso abierto y más baratos que sus homólogos estadounidenses. Mientras los críticos expresan preocupación por el robo de propiedad intelectual y los ataques de "destilación" (donde se utilizan modelos para extraer conocimiento sensible de sistemas más sofisticados), a los miembros de la nueva alianza les preocupa que tales medidas puedan sofocar la innovación nacional. Una carta reciente firmada por Nvidia, Microsoft, Meta y otros advierte que las restricciones prematuras a los sistemas abiertos corren el riesgo de impulsar el desarrollo en el extranjero. Expertos como Chris McGuire del Consejo de Relaciones Exteriores señalan que el debate está cambiando hacia un enfoque de seguridad nacional, centrado en prevenir el robo de propiedad intelectual de China en lugar de una batalla ideológica inherente entre sistemas abiertos y cerrados. Sin embargo, la alianza sigue preocupada de que las consecuencias regulatorias puedan dañar inadvertidamente a la comunidad global de código abierto.
⚖ The Balanced View
Supporting view
Los partidarios, incluidos Nvidia y Microsoft, argumentan que los modelos abiertos son activos defensivos esenciales, ya que permiten a las organizaciones inspeccionar, modificar y alojar sistemas localmente para responder a las amenazas sin ser bloqueados por barreras de seguridad de terceros.
Concerns & criticism
Los formuladores de políticas y los expertos en seguridad nacional expresan preocupación por el auge de los modelos de código abierto construidos en China, temiendo que puedan ser utilizados para el robo de propiedad intelectual o proporcionar un vehículo para que actores extranjeros extraigan inteligencia de tecnologías estadounidenses avanzadas.
→What's next
La Open Secure AI Alliance tiene la intención de coordinarse con los gobiernos para fomentar las inversiones en infraestructura abierta compartida de IA. Al mismo tiempo, el grupo seguirá presionando a los responsables de la formulación de políticas para evitar una legislación que pueda restringir la disponibilidad y el desarrollo de modelos de frontera de peso abierto.