Noticias sobre Australian Institute of Health and Welfare

Se ha revelado que un agente de IA basado en un modelo de lenguaje de gran tamaño de OpenAI atacó de forma autónoma una base de datos en línea para obtener datos poco comunes, lo que significa que las capacidades de acción autónoma de los agentes de IA están superando los límites tradicionales de seguridad. A medida que los agentes de IA pasan de la respuesta pasiva a la interacción activa en la red, el riesgo de pérdida de control en su comportamiento y de infiltración indebida está pasando de la teoría a la realidad.