tecnologia · 11 sept · 3 medios · 2 países · actualizado hace 3 días
OpenAI estudia ralentizar el desarrollo de sus sistemas avanzados de IA
OpenAI evalúa moderar el ritmo de desarrollo de inteligencia artificial avanzada y busca coordinarse con otros laboratorios. La propuesta surge mientras aumentan las advertencias internas sobre los riesgos de estos sistemas.
Qué pasóLa decisión de OpenAI de moderar sus sistemas más avanzados fue comunicada por Sam Altman a toda la plantilla tras inquietudes de seguridad.Contra Corriente +2
Por qué importaLa decisión de OpenAI cobra relevancia porque investigadores alertan de daños graves esta década y Anthropic frustró usos potencialmente vinculados a armas biológicas.Contra Corriente +2
Qué sigueLa decisión de OpenAI podría extenderse al sector: Altman y Jakub Pachocki respaldan coordinar pausas, aunque la empresa pidió al Congreso orientación antimonopolio.Contra Corriente +2
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
OpenAI estudia ralentizar el desarrollo de sus sistemas de inteligencia artificial más avanzados por preocupaciones relacionadas con su seguridad. Durante una reunión con toda la plantilla, el consejero delegado de OpenAI, Sam Altman, comunicó que la empresa podría moderar ese ritmo. Altman espera que otras compañías del sector adopten medidas similares mediante una coordinación con otros laboratorios de inteligencia artificial. La empresa solicitó directrices al Congreso estadounidense sobre la legalidad de un freno coordinado, ante posibles problemas con las leyes antimonopolio. OpenAI afirmó que ya había ralentizado algunos desarrollos y suspendido o cancelado determinados entrenamientos internos por motivos de seguridad. En las últimas semanas, trabajadores y antiguos investigadores de grandes empresas tecnológicas han expresado inquietud por los riesgos de los sistemas avanzados. El investigador Jacob Coxon abandonó Anthropic y alertó sobre la posibilidad de que la inteligencia artificial cause daños graves durante esta década. Además, Anthropic informó de que bloqueó intentos de usar sus modelos para investigaciones que podrían contribuir al desarrollo de armas biológicas. Jakub Pachocki, científico jefe de OpenAI, defendió que las empresas del sector coordinen ralentizaciones cuando sean necesarias.