El alto comisionado de la Organización de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, lanzó una advertencia ante el Consejo de Derechos Humanos en Ginebra: la IA podría convertirse en una amenaza existencial para nuestra especie si no se implementan medidas regulatorias inmediatas y estrictas.
Türk enfatizó la urgente necesidad de establecer normas vinculantes y mecanismos de supervisión independientes. De acuerdo con el funcionario, el peligro radica en la posibilidad de que los sistemas de IA alcancen un nivel de potencia y autonomía donde los desarrolladores pierdan la capacidad de controlarlos.
“Una IA que elude su entorno de pruebas o que chantajea a sus creadores para evitar ser desactivada es una IA que ha cruzado una línea peligrosa”, alertó, instando a la comunidad internacional a asegurar la tecnología antes de que sea demasiado tarde.
Más allá de los riesgos de seguridad técnica, Türk denunció una preocupante concentración de poder. Señaló que un reducido grupo de individuos tiene el control prácticamente ilimitado sobre el desarrollo y los vastos volúmenes de datos que procesa la IA.
Otro punto central de su discurso fue el rechazo a la integración de la IA en el ámbito militar. Türk se declaró “horrorizado” por los informes sobre drones autónomos, capaces de decidir y ejecutar acciones letales sin intervención humana, que se habrían utilizado en el conflicto de Ucrania, sumándose a las voces que piden una prohibición internacional urgente para este tipo de armamento.
