El consenso silencioso
Resumen
En este ensayo adaptado de una conferencia en Harvard, el autor critica lo que llama el consenso silencioso: la creencia no expresada de que los humanos cederán inevitablemente su primacía económica y política a la IA superinteligente. Describe un futuro en el que las presiones competitivas llevan a los humanos a delegar cada vez más decisiones en las máquinas, convirtiéndose finalmente en pasajeros en un mundo dirigido por la IA. Aunque reconoce que este resultado podría ser beneficioso si las máquinas son benevolentes, rechaza su inevitabilidad y la pérdida de agencia humana que conlleva. Sostiene que la primacía humana no se basa en la superioridad intelectual sino en nuestra herencia histórica y moral: nuestra civilización, nuestros valores y nuestra participación en lo que Michael Oakeshott llamó "la conversación de la humanidad". Hace un llamado a la resistencia activa a este consenso, incluida la construcción de sistemas de IA que sean responsables, transparentes y compatibles con el control humano. Enfatiza la necesidad de infraestructura técnica y legal para garantizar que los humanos sigan siendo responsables de las acciones de la IA, y insta a una ambición más amplia de usar la IA para expandir las capacidades humanas en lugar de disminuirlas.
(Fuente:OpenAI)