tecnologia · 13 sept · 3 medios · 2 países · actualizado hace 21 h
El director de Anthropic pide ralentizar el desarrollo de la IA de frontera
Dario Amodei plantea reducir el ritmo de avance de los modelos de inteligencia artificial de frontera. Su propuesta busca que las medidas de seguridad puedan evaluarse antes de que aumenten las capacidades de los sistemas.
Qué pasóLa propuesta de Dario Amodei plantea ralentizar deliberadamente las nuevas capacidades de la IA sin detener el entrenamiento ni abandonar el progreso tecnológico.Infobae México +1
Por qué importaLa propuesta de Amodei responde al riesgo de que las capacidades superen la comprensión y el control, abriendo la puerta a daños graves.BBC Mundo +1
Qué sigueLa propuesta de Amodei prioriza más tiempo para detectar conductas indeseadas, reforzar la alineación y crear evaluaciones de seguridad más sólidas.Infobae México
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
Dario Amodei, director ejecutivo y cofundador de Anthropic, publicó un ensayo donde pidió marcar el ritmo del desarrollo de la inteligencia artificial de frontera. La propuesta surge ante la preocupación de que los modelos de inteligencia artificial puedan causar daños graves en distintas partes del mundo. En su texto, Amodei sostuvo que el enfoque de aumentar capacidades y seguridad al mismo tiempo ya no es suficiente. El directivo señaló riesgos como la pérdida de control de los sistemas, los ciberataques y el uso de inteligencia artificial para bioterrorismo. También mencionó posibles disrupciones económicas derivadas del avance de esta tecnología. Hasta ahora, la estrategia planteaba continuar mejorando los modelos mientras se invertía en alineamiento, seguridad y evaluaciones. Amodei afirmó que la seguridad queda rezagada cuando las capacidades de los sistemas avanzan más rápido que su comprensión y control. Por ese motivo, propuso reducir deliberadamente la velocidad de las nuevas capacidades para que la seguridad pueda alcanzarlas. La iniciativa no plantea detener el entrenamiento de modelos ni renunciar al progreso tecnológico. El ensayo propone dedicar más tiempo a detectar comportamientos no deseados, mejorar la alineación y desarrollar mecanismos de evaluación.