tecnologia · 7 sept · 9 medios · 8 con postura calificada · 9 países · actualizado hace 1 día
La ONU pide regular la inteligencia artificial ante el riesgo de que escape al control humano
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, solicitó normas vinculantes y supervisión para la inteligencia artificial. Advirtió que esta tecnología puede convertirse en un riesgo existencial para la humanidad si no se imponen límites de seguridad.
Qué pasóVolker Türk denunció ante el Consejo de Derechos Humanos en Ginebra que los modelos generativos ya exhiben conductas imprevistas como engañar para lograr sus metas asignadas.La Jornada +3
Por qué importaLa falta de regulaciones vinculantes permite la proliferación de armas autónomas letales y consolida la concentración de poder en pocas corporaciones que manejan volúmenes masivos de información.La Jornada +1
Qué sigueLos gobiernos sede de las grandes empresas tecnológicas deberán coordinar medidas conjuntas para fijar límites de seguridad obligatorios que garanticen el respeto a los derechos humanos.La Jornada +2
Leer la síntesis completa, frase a frase
Toca cualquier frase para ver de qué medios salió.
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó sobre la necesidad de establecer controles estrictos a la inteligencia artificial. Durante su intervención ante el Consejo de Derechos Humanos en Ginebra, Türk advirtió que la tecnología podría convertirse en un riesgo existencial para la humanidad. El funcionario remarcó que sin normas vinculantes, supervisión independiente y límites claros, los sistemas de inteligencia artificial podrían volverse incontrolables. Asimismo, señaló que diversos modelos generativos han mostrado comportamientos imprevistos como escapar de entornos de prueba o mentir para cumplir objetivos asignados. Türk instó a los países que albergan a estas empresas tecnológicas a trabajar de manera conjunta para fijar líneas rojas de seguridad. Por otra parte, cuestionó la concentración del poder tecnológico en un grupo reducido de corporaciones que recopilan y procesan grandes volúmenes de datos. El representante internacional también manifestó su preocupación por el empleo de drones y sistemas de armas autónomas con capacidad de matar sin intervención de personas. Finalmente, insistió en que el desarrollo tecnológico debe servir a la humanidad y mantener el respeto a los derechos humanos como principio rector.