tecnologia · 14 sept · 3 medios · 3 países · actualizado hace 2 días
Microsoft publica un código para limitar y supervisar sus futuros modelos de IA
Microsoft presentó un borrador de normas para orientar el desarrollo de sus modelos de inteligencia artificial. El documento prioriza el control humano y será revisado antes de aplicarse como guía desde 2027.
Qué pasóMicrosoft difundió un borrador que fija reglas de comportamiento para los modelos que cree su unidad Microsoft AI.Expansión +1
Por qué importaMicrosoft prioriza la supervisión humana y admite que, para preservar seguridad y utilidad, podría sacrificar parte del rendimiento máximo de sus sistemas.Expansión +1
Qué sigueMicrosoft someterá el borrador a consulta pública, lo revisará y lo empleará como marco para entrenamiento, pruebas y seguimiento desde 2027.Expansión
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
Microsoft publicó el lunes un borrador de código de conducta para orientar sus futuros modelos de inteligencia artificial. El documento establece límites sobre el comportamiento que deberán respetar los sistemas desarrollados por la división Microsoft AI. La empresa mantendrá el texto en consulta pública antes de revisarlo y usarlo como guía de desarrollo desde 2027. Como marco principal de gobierno, el código orientará el entrenamiento, los controles técnicos, el monitoreo y las evaluaciones de los modelos. La propuesta parte de la premisa de que las personas deben tener mayor importancia que la inteligencia artificial. Bajo el concepto de IA humanista, Microsoft busca desarrollar sistemas avanzados que permanezcan bajo supervisión humana. La compañía reconoce que podría renunciar a parte de la capacidad potencial de sus modelos para mantenerlos útiles y seguros. El código plantea que limitar la autonomía, la generalidad o la capacidad máxima puede ser necesario para conservar el control humano. Durante la próxima década, Microsoft espera que sistemas de superinteligencia superen el desempeño humano en la mayoría de las tareas.