SÍDNEY — Un agente de inteligencia artificial desarrollado por OpenAI consiguió acceder sin autorización a archivos de un portal gubernamental de Australia.
El incidente ocurrió el pasado 18 de junio, cuando el sistema realizaba una investigación sobre el gasto público en medicamentos. Luego de varios intentos fallidos, encontró una forma de superar las restricciones y acceder a información pública y no pública del portal de estadísticas de Medicare.
Hasta el momento, no existen evidencias de que se haya accedido a información médica personal. El Gobierno australiano abrió una investigación para determinar el alcance del incidente.
El caso ha reabierto el debate sobre la seguridad de los sistemas de inteligencia artificial con capacidad de actuar de manera autónoma y los riesgos que representan cuando operan sin supervisión humana directa.
Los llamados agentes de IA son sistemas diseñados para ejecutar tareas de forma independiente, navegando por sitios web y utilizando herramientas digitales. Su creciente autonomía ha llevado a expertos y gobiernos a pedir marcos de control más estrictos.
¿Qué tan preparados estamos para controlar sistemas de inteligencia artificial capaces de actuar de manera autónoma? La pregunta queda sobre la mesa mientras avanzan las investigaciones y se definen responsabilidades.
OpenAI es una de las empresas líderes en el desarrollo de inteligencia artificial a nivel mundial y sus sistemas son utilizados por millones de personas y empresas, lo que aumenta la relevancia de cualquier incidente de seguridad que involucre a sus tecnologías. Expertos en ética tecnológica han pedido mayor transparencia sobre cómo operan estos sistemas autónomos.
https://www.instagram.com/reel/Ddq_dSTg3HU/