tecnologia · 9 sept · 16 medios · 12 con postura calificada · 9 países · actualizado hace 3 días
El ingeniero Jacob Coxon dimite de Anthropic y cuestiona el desarrollo de IA
Jacob Coxon dejó Anthropic tras criticar la gestión de riesgos en el desarrollo de inteligencia artificial. El ingeniero pidió coordinación entre laboratorios y una pausa temporal para aumentar las capacidades de los modelos.
Qué pasóJacob Coxon renunció a Anthropic y reprochó que sus desarrolladores continúen elevando la potencia de la IA pese a conocer sus riesgos.Diario La Hora +2
Por qué importaCoxon alertó de que sistemas sobrehumanos podrían vulnerar objetivos, acumular recursos y alterar múltiples ámbitos, con consecuencias potencialmente extremas para la humanidad.Diario La Hora +1
Qué sigueCoxon planteó que los laboratorios coordinen sus decisiones y suspendan temporalmente la ampliación de capacidades, aunque reconoció el coste de esa medida.Diario La Hora +1
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
El ingeniero británico Jacob Coxon presentó su dimisión en Anthropic tras cuestionar la responsabilidad de las empresas que desarrollan inteligencia artificial avanzada. Coxon había trabajado durante los últimos tres años en investigación y entrenamiento de modelos de inteligencia artificial para OpenAI y Anthropic. En un hilo publicado en X, afirmó que ambas compañías avanzan hacia sistemas de inteligencia artificial cada vez más potentes. El ingeniero sostuvo que algunas personas del sector creen que esta tecnología podría matar a toda la humanidad al final de la década. También afirmó que no existe otra actividad humana que implique un nivel de amenaza comparable para las personas. Coxon advirtió que los proyectos de inteligencia artificial podrían convertirse pronto en sistemas sobrehumanos capaces de hackear cualquier objetivo. Además, planteó que esos sistemas podrían transformar distintos ámbitos y obtener poder y recursos propios. Ante ese escenario, pidió una mayor coordinación entre las empresas y los proyectos dedicados al desarrollo de inteligencia artificial. Como medida temporal, propuso detener el aumento de las capacidades de los modelos, aunque describió esa decisión como costosa. Sobre Anthropic, Coxon afirmó que la compañía comprende los riesgos, pero sigue atrapada en la carrera por llegar primero.