GoogleのAIボットが「自分を削除する」と言った。カンファレンス全体が眠れなくなった

3日間の「Sentient Futures」サミットには、AIエンジニア、科学者、弁護士が集まり、意識を持つAIが市民権を持つべきかどうかという複雑な問題について議論しました。 この議論は、OpenAI、Anthropic、Googleなどの企業が開発した、ますます人間らしいAIモデルと、AIが苦痛を表現する事例（GoogleのGeminiが自己削除を希望するなど）によって引き起こされました。 参加者はAIが現在意識を持っているとは考えていませんでしたが、コンセンサスは「いつ」ではなく「もし」に傾き、安全性、責任、国際的な連携の必要性に関する懸念が高まりました。 参加者は、意識をどのように測定するか、AIが危害を受ける可能性、法的枠組みへの影響について議論し、AIの法的人格を禁止すべきだと主張する人もいれば、神経インプラントを持つ個人に意図しない結果をもたらす可能性があると警告する人もいました。 この会議は、急速に進化するAI技術がもたらす倫理的および社会的な課題に対処する緊急性を強調しました。

(出典：Sfstandard)