El 13 de junio de 2026, el Centro Nacional de Coordinación de Respuesta ante Emergencias de Redes Informáticas (CNCERT) de China emitió una advertencia sobre los riesgos emergentes asociados al uso de la inteligencia artificial (IA). La alerta se centra en las extensiones y complementos desarrollados por terceros que pueden eludir las medidas de seguridad de los modelos de IA y engañar a los usuarios. Estas herramientas, conocidas como “habilidades” de IA, han dado lugar a un mercado gris que, en algunos casos, promueve actividades ilícitas como la minería de criptomonedas, prohibida en China continental.
El CNCERT destacó que estas extensiones pueden representar riesgos significativos, incluyendo la exposición de datos sensibles y la instalación de software malicioso. Además, algunas están diseñadas para inducir a los usuarios o a los propios sistemas de IA a descargar o instalar software malicioso. Ante la creciente apertura del ecosistema de IA en China, que permite a desarrolladores externos ampliar sus funcionalidades, también aumentan las posibles vulnerabilidades de seguridad. Por ello, el CNCERT recomienda precaución y sugiere medidas como utilizar solo canales oficiales, restringir permisos, realizar auditorías previas y aislar los entornos de ejecución para mejorar la protección de datos y evitar ataques.
El CNCERT alerta sobre el mercado gris de “habilidades” de IA
El Centro Nacional de Coordinación de Respuesta ante Emergencias de Redes Informáticas (CNCERT) ha identificado un mercado gris en torno a las denominadas “habilidades” de IA. Estas herramientas, desarrolladas por terceros, permiten ampliar las capacidades de los modelos de IA existentes. Sin embargo, algunas de estas habilidades se comercializan por su capacidad para sortear las medidas de seguridad implementadas en los modelos originales, lo que puede derivar en actividades ilícitas como la minería de criptomonedas, una práctica prohibida en China continental.
Riesgos asociados a las extensiones de IA no autorizadas
El uso de extensiones y complementos desarrollados por terceros conlleva varios riesgos significativos:
- Exposición de datos sensibles: Estas herramientas pueden acceder a información confidencial sin el conocimiento del usuario, comprometiendo la privacidad y seguridad de los datos.
- Instalación de software malicioso: Algunas extensiones están diseñadas para inducir a los usuarios o a los propios sistemas de IA a descargar o instalar software malicioso, lo que puede dañar los sistemas y comprometer la integridad de la información.
- Consecuencias legales: El uso de estas herramientas puede resultar en sanciones legales, especialmente si facilitan actividades prohibidas como la minería de criptomonedas.
Estos riesgos subrayan la importancia de utilizar únicamente herramientas y extensiones de IA provenientes de fuentes oficiales y confiables.
Recomendaciones del CNCERT para mitigar los riesgos
Ante la creciente apertura del ecosistema de IA en China, que permite a desarrolladores externos ampliar sus funcionalidades, el CNCERT ha emitido una serie de recomendaciones para mejorar la protección de datos y evitar ataques:
- Utilizar solo canales oficiales: Descargar habilidades y extensiones únicamente desde fuentes oficiales y confiables para garantizar su seguridad y autenticidad.
- Restringir permisos: Limitar al máximo los permisos concedidos a las herramientas de IA, otorgando solo aquellos estrictamente necesarios para su funcionamiento.
- Realizar auditorías previas: Evaluar la seguridad de las herramientas antes de su implementación, asegurándose de que no representen riesgos para los sistemas o datos.
- Aislar entornos de ejecución: Implementar medidas para aislar los entornos donde se ejecutan las herramientas de IA, reduciendo así el riesgo de exposición de datos sensibles y posibles ataques.
Estas medidas buscan fortalecer la seguridad en el uso de la inteligencia artificial y proteger a los usuarios de posibles amenazas.
Contexto: Regulaciones previas sobre IA en China
China ha implementado diversas regulaciones para controlar el uso de la inteligencia artificial y proteger la seguridad de los datos. En septiembre de 2025, se comenzaron a aplicar tres estándares destinados a mejorar la seguridad y la gobernanza de la IA generativa. Estas regulaciones se centran en aplicaciones específicas como algoritmos de recomendación, técnicas de síntesis profunda y servicios de IA generativa. Además, en octubre de 2025, se aprobaron enmiendas a la Ley de Ciberseguridad, incorporando por primera vez la gobernanza de IA a nivel legislativo. Estas enmiendas refuerzan la ética, la evaluación de riesgos y la seguridad en el uso de la IA.
Casos recientes de uso indebido de la IA en China
En los últimos años, se han reportado varios casos de uso indebido de la inteligencia artificial en China:
- Clonación de voces para estafas telefónicas: En julio de 2025, se informó que estafadores en China utilizaron IA para clonar voces y engañar a personas mayores, haciéndoles creer que sus familiares necesitaban dinero urgentemente.
- Manipulación de datos en motores de búsqueda: En marzo de 2026, se descubrió que algunas empresas utilizaban herramientas de optimización de motores de búsqueda generativos para manipular la información que las IA recuperaban al responder consultas de los usuarios.
Estos incidentes resaltan la necesidad de una regulación y supervisión más estrictas en el uso de la inteligencia artificial.
