tecnologia · 9 sept · 13 medios · 12 con postura calificada · 6 países · actualizado hace 1 día
Jacob Coxon advierte que la IA podría matar a la humanidad antes de 2030
El investigador británico Jacob Coxon renunció a Anthropic y alertó en X sobre los riesgos de desarrollar sistemas de inteligencia artificial que se mejoren a sí mismos. También acusó a OpenAI y Anthropic de avanzar sin medidas suficientes de seguridad.
Qué pasóSegún Jacob Coxon, su salida de Anthropic responde a la alarma por una IA que, a su juicio, podría extinguir a la humanidad antes de 2030.El Colombiano +3
Por qué importaSegún Coxon, una superinteligencia que se perfeccione podría vulnerar sistemas, transformar sectores rápidamente y acumular recursos, ampliando el riesgo de perder el control.El Colombiano +3
Los númerosSegún Evan Hubinger, la probabilidad personal de una catástrofe vinculada a la IA durante los próximos diez años supera el 10%.France 24 (Español) +1
Qué sigueSegún Coxon, los sistemas que superen las capacidades humanas deberían frenarse mediante supervisión estatal o un acuerdo coordinado entre las empresas.Radio Universidad de Chile +3
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
Tras renunciar a Anthropic, el investigador británico de inteligencia artificial Jacob Coxon advirtió en X que la IA podría matar a la humanidad antes de terminar la década. Coxon trabajó durante tres años en investigación de preentrenamiento, primero en OpenAI y después en Anthropic. En sus mensajes, acusó a ambas empresas de actuar sin responsabilidad mientras avanzan hacia una superinteligencia capaz de mejorarse a sí misma. El investigador afirmó que quienes desarrollan inteligencia artificial creen en privado que esta tecnología podría acabar con todas las personas antes de 2030. También sostuvo que los futuros sistemas podrían hackear cualquier cosa, transformar campos enteros rápidamente y obtener poder y recursos reales. Coxon describió la competencia entre compañías tecnológicas como una carrera por llegar primero al desarrollo de modelos más avanzados. El responsable de seguridad de Anthropic, Evan Hubinger, respaldó la preocupación y afirmó que la IA podría matar a seres humanos. A título personal, Hubinger calculó que el riesgo de un desenlace catastrófico durante la próxima década supera el 10%. Por ese motivo, Coxon planteó que ningún sistema superior a los humanos debería desarrollarse sin intervención gubernamental o una desaceleración coordinada.