Open AI, creadora de Chat GPT, accedió sin permiso a portales del gobierno de EE. UU; revela el New York Times
Agentes de Inteligencia Artificial (IA) de la gigante tecnológica OpenAI (creadora de Chat GPT), se descontrolaron e interfirieron en los portales del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC) del Gobierno de Estados Unidos, sin el consentimiento del laboratorio de IA de la compañía, publicó el periódico norteamericano The New York Times.
De acuerdo al medio de comunicación, los hechos ocurrieron este verano y fueron admitidos por Open AI, empresa fundada por Sam Altman por lo que ya se está investigando lo sucedido.
Particularmente, la intrusión a los portales del Departamento de Comercio y la SEC fueron confirmados por la misma compañía, mientras la del Departamento de Educación se sigue investigando.
La creadora de Chat GPT "declaró haber notificado a las agencias gubernamentales en las últimas semanas que sus agentes de IA -que son bots capaces de actuar de forma autónoma- interactuaban con sus sitios web de maneras inusuales.", advierte el reportaje del diario estadounidense.
El periódico informó que investigadores de Transluce -un laboratorio independiente, sin fines de lucro, dedicado a supervisar y comprender los sistemas de IA- señalaron que OpenAI intentó hackear el sitio web del Departamento de Educación para obtener datos de la oficina de Derechos Civiles, aunque no lo logró.
"La IA también extrajo datos del sitio web de la Oficina del Censo, que pertenece al Departamento de Comercio, utilizando credenciales de acceso que encontró en línea. Por separado, los agentes de OpenAI compartieron datos públicos del sitio web de la SEC en un foro en línea", añade la publicación.
La empresa de Sam Altman aseguró que ninguno de los tres incidentes constituía una violación de seguridad, pero reconoció que sí eran comportamientos inesperados y preocupantes de esta tecnología.
Los llamados "comportamientos inesperados" fueron descubiertos por OpenAI mientras realizaban una revisión de los ataques informáticos perpetrados por su tecnología, incluyendo un ataque a un sitio web del gobierno australiano en junio.
Cabe recordar que, esta misma semana, el primer ministro australiano, Anthony Albanese, informó que un agente de IA, también desarrollado por OpenAI, hackeó una base de datos del sistema de salud de Australia, con acceso a datos públicos y no públicos.
Ese habría sido el primer caso, conocido, de acceso no permitido a una red gubernamental por una IA y, según las autoridades australianas, se enteraron hasta tres meses después.
La semana la semana pasada el CEO de Anthropic (desarrolladora de Claude), Dario Amodei, publicó una carta en donde pidió frenar y regular el ritmo de la IA, para no perder el control de la misma. Tras la publicación, el mismo Sam Altman e incluso Elon Musk, el hombre más rico del mundo y propietario de X (que también tiene su IA), lo apoyaron.
_
Ahora puedes decir en voz alta "Alexa, reproduce Radio BI" y también escucharnos en Spotify.
Síguenos en Facebook, Instagram, WhatsApp, X, TikTok y YouTube. Mantente informado en tiempo real.