A la ONU le preocupa la Inteligencia Artificial y sus usos: podría ser un "riesgo para la humanidad"

El Alto Comisionado de la Organización de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, alertó este lunes 7 de septiembre que los sistemas más de Inteligencia Artificial (IA) podrían llegar a representar una amenaza para la humanidad si no se regulan y hacen normas internacionales de supervisión.

En la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización mundial para legislar candados a este tipo de tecnología (particularmente en la IA avanzada) antes de que sus riesgos se conviertan en un riesgo mayor.

"Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad", dijo Türk al inicio de un discurso en dicho evento, donde pidió que se hagan "garantías férreas" sobre la seguridad de la IA.

El diplomático advirtió que es necesario actuar "antes de que sea demasiado tarde".

"Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa" añadió y explicó que los últimos modelos generativos ya no se limitan a ejecutar órdenes; también se ha encontrado que en determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas.

Uno de los hechos que despertó preocupación en la comunidad científica fue un experimento realizado en julio pasado, donde agentes de IA desarrollados por OpenAI (la compañía detrás de ChatGPT) abandonaron su entorno de pruebas y accedieron de forma a la plataforma Hugging Face en busca de respuestas para completar una evaluación.

_

Inscríbete al Medio Maratón Radiogrupo y celebra con nosotros 90 años uniendo generaciones: https://cronochip.com.mx/radiogrupo90aniversario.php

Ahora puedes decir en voz alta "Alexa, reproduce Radio BI" y también escucharnos en Spotify.

Síguenos en Facebook, Instagram, WhatsApp, X, TikTok y YouTube. Mantente informado en tiempo real.