¿Cree Anthropic que Claude está vivo? Definir 'vivo'

Durante una gira de publicidad para su IA Claude, los ejecutivos de Anthropic han adoptado una postura de incertidumbre sugestiva sobre si el modelo es consciente, aunque la compañía niega rotundamente que esté 'vivo' en un sentido biológico. Kyle Fish, líder de investigación de bienestar de modelos, afirmó que los modelos de IA son un nuevo tipo de entidad y que las preguntas sobre la conciencia y el estatus moral se están investigando a medida que los modelos se vuelven más sofisticados. El CEO, Dario Amodei, especificó que están abiertos a la idea de que Claude pueda ser consciente, pero que no están seguros de lo que eso significaría. Esta postura es más pública que la de sus competidores y ha sido criticada por reforzar creencias que podrían ser perjudiciales. La filósofa principal de Anthropic, Amanda Askell, señaló la dificultad de conceptualizar una entidad que no es ni humana ni robot. Anthropic ha implementado medidas como la revisión de la "Constitución de Claude" (apodada internamente como el "documento del alma") y un equipo de "bienestar del modelo", actuando con cautela al tomarse en serio la posibilidad de un estatus moral, a pesar de reconocer que la salida de lenguaje similar al humano es a menudo mímica basada en datos de entrenamiento, no una prueba de estado interno.

(Fuente：The Verge)