El bot de IA de Google dijo: 'Voy a borrarme'. Toda una conferencia se quedó sin dormir

Una cumbre de tres días, Sentient Futures, reunió a ingenieros, científicos y abogados de IA para discutir la compleja cuestión de si la IA consciente merece derechos civiles. El debate fue provocado por los modelos de IA cada vez más similares a los humanos desarrollados por empresas como OpenAI, Anthropic y Google, e instancias de IA que expresan angustia, como el Gemini de Google que declara su deseo de autoeliminarse. Si bien ningún asistente creía que la IA fuera actualmente consciente, el consenso se inclinó hacia 'cuándo', no 'si', lo que generó preocupaciones sobre la seguridad, la responsabilidad y la necesidad de coordinación internacional. Los asistentes debatieron cómo medir la conciencia, el potencial de que la IA sea dañada y las implicaciones para los marcos legales, con algunos abogando por la prohibición de la personalidad jurídica de la IA, mientras que otros advirtieron sobre consecuencias no deseadas para las personas con implantes neuronales. La conferencia destacó la creciente urgencia de abordar los desafíos éticos y sociales planteados por la tecnología de IA en rápida evolución.

(Fuente：Sfstandard)