Anthropic trabaja en un sistema para probar la identidad de los modelos de IA

Anthropic está desarrollando un sistema de código abierto llamado FlashProve que proporciona una prueba criptográfica de qué modelo de IA generó una salida determinada. El sistema, descrito en una publicación de blog, tiene como objetivo evitar que impostores disfracen un modelo como otro, incluso por parte del laboratorio que construyó y ejecuta el modelo. Podría impedir que las empresas de IA cambien secretamente a modelos más baratos o más caros. FlashProve requiere que los laboratorios publiquen una huella digital del modelo que pueda coincidir con las salidas y verificarse criptográficamente sin revelar los pesos del modelo. El sistema está diseñado para ser ligero y permitir la verificación en un dispositivo local. Los investigadores han publicado una especificación técnica y código funcional en GitHub bajo una licencia de código abierto. La investigación está en curso y no hay planes inmediatos de implementación; la publicación tiene como objetivo compartir progresos intermedios para que otros los mejoren.

(Fuente：TechCrunch)