La IA todavía no funciona muy bien, las empresas lo están fingiendo y se avecina una rendición de cuentas
Los expertos advierten que las empresas están exagerando el éxito de la adopción de la IA, ya que los modelos actuales tienen fallas fundamentales que conducirán a futuros fracasos y demandas.Resumen
Dorian Smiley y Connor Deeks de Codestrap argumentan que la mayoría de las empresas están luchando para integrar la IA de manera efectiva y están fingiendo conocer las estrategias correctas, ya que no existe un manual establecido. Sostienen que los LLM actuales sufren de falibilidad fundamental, incluyendo resultados no deterministas y falta de capacidad de razonamiento inductivo, lo que significa que no pueden verificar de manera confiable su propio trabajo. Smiley destaca que las métricas actuales para el éxito de la codificación con IA, como las líneas de código, son engañosas; por ejemplo, el código generado por IA para SQLite era 3.7 veces más largo y funcionaba 2,000 veces peor que el original. Predicen una rendición de cuentas en 8 a 9 meses marcada por problemas de calidad de código, demandas derivadas de consejos empresariales defectuosos (como el error de Deloitte para el gobierno australiano) y presión de precios por parte de clientes conscientes del uso de la IA. Además, los incentivos internos dentro de las grandes firmas no se alinean con la revisión cuidadosa de la IA, fomentando la velocidad sobre la calidad. Un problema inminente significativo es que los suscriptores de seguros se están volviendo cautelosos al cubrir riesgos relacionados con la IA, presionando para obtener exclusiones en las pólizas de responsabilidad civil, lo que Deeks sugiere que podría desestabilizar el sistema si no se abordan seriamente estos problemas fundamentales.
(Fuente：Theregister)