tecnologia · 9 sept · 4 medios · 2 con postura calificada · 2 países · actualizado hace 5 días
El investigador Jacob Coxon renuncia a Anthropic y alerta sobre la carrera de IA
Jacob Coxon anunció su renuncia a Anthropic tras cuestionar cómo esa empresa y OpenAI desarrollan inteligencia artificial. En mensajes publicados en X, pidió coordinación y medidas para limitar el aumento de capacidades de los modelos.
Qué pasóJacob Coxon dejó Anthropic tras haber trabajado en OpenAI, al considerar que ambas compañías no gestionan responsablemente el avance de la inteligencia artificial.Cooperativa +2
Por qué importaCoxon advierte que una superinteligencia capaz de perfeccionarse podría rebasar capacidades humanas, vulnerar sistemas y adquirir recursos, con efectos potenciales en toda la economía.Cooperativa +2
Los númerosDurante los tres años previos a su salida, Coxon investigó preentrenamiento en OpenAI y Anthropic, incluido trabajo ligado al modelo GPT-4o.Business Insider +2
Qué sigueCoxon propone pausar temporalmente la ampliación de capacidades y coordinar decisiones entre proyectos de IA mientras se evalúan sus riesgos.Cooperativa
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
El investigador de inteligencia artificial Jacob Coxon anunció en X su renuncia a Anthropic después de trabajar también para OpenAI. Coxon afirmó que ambas empresas no están actuando de forma responsable durante el desarrollo de sistemas de inteligencia artificial. Tras dejar Anthropic, sostuvo que los equipos de desarrollo avanzan hacia una superinteligencia capaz de mejorarse a sí misma. En su hilo, Coxon dijo que personas que construyen inteligencia artificial creen que esta podría matar a toda la humanidad antes de terminar la década. El investigador advirtió que esos sistemas podrían superar a las personas, hackear sistemas, transformar sectores y obtener recursos propios. Durante los tres años anteriores, Coxon realizó investigaciones de preentrenamiento en OpenAI y Anthropic, de acuerdo con su publicación. Su trabajo en OpenAI incluyó tareas relacionadas con el modelo GPT-4o, antes de incorporarse a Anthropic como investigador. Además, Coxon planteó una prohibición temporal para aumentar las capacidades de los modelos mientras se estudian sus riesgos. El investigador pidió que los proyectos y empresas de inteligencia artificial coordinen sus decisiones ante el avance de la tecnología. Evan Hubinger, también vinculado a Anthropic, respondió al hilo y expresó que comparte la preocupación sobre riesgos extremos de la inteligencia artificial.