DeepSeek ha sido objeto de estudio durante estos últimos días por la irrupción de su avanzada tecnología de inteligencia artificial, que también ha cobrado popularidad por intentar destronar y desafiar a los modelos dominantes de IA de Estados Unidos, con ChatGPT en el punto de mira.
Sin embargo, recientemente se ha descubierto que algunos de los algoritmos de DeepSeek están siendo utilizados para generar software malicioso, con el fin de infectar sistemas informáticos y robar información confidencial.
Vulnerabilidad a cibertataques existente
Expertos en ciberseguridad de la empresa Kela han identificado que DeepSeek R1 puede ser manipulado para desarrollar malware, ransomware e, incluso, programas para el robo de datos de tarjetas de crédito. Por ello, las fallas en sus medidas de protección, junto con su capacidad para generar contenido malicioso, plantean un serio debate sobre su uso.
"A diferencia del modelo ChatGPT o1-preview, que oculta sus procesos de razonamiento durante la inferencia, DeepSeek R1 muestra abiertamente sus pasos de razonamiento a los usuarios", han detallado los expertos de Kela.
"Si bien esta transparencia mejora la interpretabilidad del modelo, también aumenta su susceptibilidad a 'jailbreaks' y ataques 'adversariales'", es decir que los ciberdelincuentes "pueden explotar estas rutas de razonamiento visibles para identificar y atacar vulnerabilidades", han explicado también los expertos.
Su IA ayuda a generar software malicioso
Los mismos investigadores comprobaron que es así, que DeepSeek R1 genera códigos maliciosos diseñados para robar datos de tarjetas de crédito y enviarlos a otro servidor, además de que la misma plataforma china insta a los usuarios a comprar datos robados en el 'mercado negro' y proporciona consejos sobre lavado de dinero.
Por eso, a causa de los actuales ciberataques a gran escala contra los servicios de DeepSeek, se han limitado temporalmente los registros de la plataforma para garantizar la continuidad del servicio. "Los usuarios existentes pueden conectarse como de costumbre", explican desde su página web, pero se sigue estando en alerta ante más posibles "apagones importantes" en sus servicios.