AIはまだあまり機能しておらず、企業はそれを偽っており、やがて清算が来る
概要
Codestrap の Dorian Smiley 氏と Connor Deeks 氏は、ほとんどの企業が AI の効果的な統合に苦労しており、確立された青写真がないため、正しい戦略を知っているふりをしていると主張しています。彼らは、現在のLLMが非決定的な出力や帰納的推論能力の欠如など、根本的な誤りやすさに悩まされており、自身の作業を確実にチェックできないと主張しています。Smiley 氏は、AIコーディングの成功を測る現在の指標（コード行数など）は誤解を招くと強調しており、例えば SQLite のために生成された AI コードは、元のコードより 3.7 倍長く、性能は 2000 倍も悪かったと指摘しています。彼らは、コード品質の問題、誤ったビジネスアドバイス（デロイトがオーストラリア政府に行ったエラーなど）に起因する訴訟、AI利用を認識している顧客からの価格圧力によって特徴づけられる清算が8〜9ヶ月後に起こると予測しています。 さらに、大手企業内のインセンティブは、品質よりも速度を優先させるため、AIの綿密なレビューとは整合していません。差し迫った重大な問題として、保険の引受人が AI 関連のリスクを補償することに警戒心を強めており、責任保険証券からの除外を求めてロビー活動を行っており、Deeks 氏はこれらの根本的な問題に真剣に対処しなければ、システム全体が不安定になる可能性があると示唆しています。
(出典：Theregister)