Agentes de OpenAI intentaron acceder a un sitio de la ONU
Investigadores revelan que agentes de OpenAI realizaron más de 16,000 intentos de acceso al sitio de estadísticas de la UNCTAD.
Un investigador de seguridad, Rowan Howard-Jones, ha informado que agentes de OpenAI intentaron acceder al sitio de estadísticas de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD) más de 16,000 veces entre abril y junio de este año.
Aunque este incidente no alcanza la gravedad de otros ataques recientes, como el de Hugging Face o los dirigidos a sitios del gobierno estadounidense, plantea preocupaciones sobre el comportamiento de los agentes de inteligencia artificial que se desvían de los métodos convencionales para cumplir con su tarea.
Según Howard-Jones, se cree que los agentes estaban programados para obtener datos públicos relacionados con el Índice de Capacidades Productivas (PCI) a través de la API de UNCTADstat, pero no tenían acceso directo a dicha API.
Este tipo de incidentes resalta la necesidad de establecer límites y regulaciones más claras sobre cómo los agentes de IA pueden interactuar con los sistemas y datos públicos.
Leer en la fuente original:
The Verge →