Esta compañía de defensa creó agentes de IA que hacen explotar cosas

Scout AI es una startup de Silicon Valley que está adaptando grandes modelos de IA para crear agentes capaces de destrucción física, a diferencia de la IA típica centrada en tareas digitales. En una demostración reciente en una base militar secreta en California, su IA dirigió con éxito un vehículo todoterreno y dos drones para localizar y destruir un camión objetivo mediante una carga explosiva.

El CEO, Colby Adcock, declaró que el objetivo es transformar modelos fundacionales generalizados en agentes de combate. El sistema utiliza un modelo grande (Fury Orchestrator) para interpretar comandos de alto nivel y emitir órdenes a modelos más pequeños que controlan los activos físicos. Este enfoque busca una mayor autonomía que los sistemas heredados, permitiendo a los agentes replanificar basándose en información en tiempo real y la intención del comandante.

Aunque expertos como Michael Horowitz reconocen la importancia de impulsar la integración de la IA en defensa, advierten que las demostraciones impresionantes no equivalen a la fiabilidad y ciberseguridad de grado militar, especialmente dada la imprevisibilidad conocida de los modelos de lenguaje grandes. Críticos y especialistas en ética también expresan preocupación por las complejidades y riesgos éticos de otorgar autonomía letal a la IA, aunque Scout AI afirma que su tecnología se adhiere a las reglas de enfrentamiento del ejército estadounidense y a las normas internacionales.

(Fuente：WIRED)