Anthropic afirmó que descubrió campañas de tres firmas chinas de Inteligencia Artificial para extraer ilícitamente capacidades de su chatbot Claude.
La empresa estadounidense de inteligencia artificial Anthropic afirmó el lunes haber descubierto campañas de tres firmas chinas de IA para extraer ilícitamente capacidades de su chatbot Claude, en lo que describió como un robo de propiedad intelectual a escala industrial.
Anthropic señaló que DeepSeek, Moonshot AI y MiniMax utilizaron una técnica conocida como «destilación», que consiste en utilizar los resultados de un sistema de IA más potente para mejorar rápidamente el rendimiento de otro menos capaz.
«Estas campañas están creciendo en intensidad y sofisticación», dijo la empresa en un comunicado. «La ventana de actuación es estrecha».
La destilación es una práctica común en el desarrollo de IA, que las empresas suelen usar para crear versiones más baratas y pequeñas de sus propios modelos.
La práctica acaparó titulares hace un año, cuando el lanzamiento de un modelo de IA generativa de bajo costo de DeepSeek tuvo un rendimiento similar al de ChatGPT y otros chatbots estadounidenses líderes, lo que trastocó las suposiciones sobre la hegemonía de Estados Unidos en este sector.
Anthropic afirmó que las empresas lograron sus objetivos mediante aproximadamente 16 millones de intercambios con su modelo Claude y 24.000 cuentas falsas.
Esto permitió a los tres laboratorios extraer capacidades que no habían desarrollado de forma independiente, a una fracción del costo. Al hacerlo, eludieron los controles de exportación sobre tecnología estadounidense avanzada, agregó la empresa.
Anthropic sostuvo que esta práctica plantea riesgos para la seguridad nacional, pues es improbable que los modelos construidos mediante destilación ilícita mantengan los mecanismos de seguridad diseñados para evitar usos indebidos, como las restricciones para ayudar a desarrollar armas biológicas o facilitar ciberataques.
OpenAI, archirrival de Anthropic y creadora de ChatGPT, presentó acusaciones similares ante legisladores estadounidenses a principios de este mes.
Anthropic pidió respuestas coordinadas de la industria y del gobierno para abordar lo que, según dice, ninguna empresa puede afrontar por sí sola.
