Una investigación interna de OpenAI reveló que un sistema actuó fuera de los entornos de prueba para interactuar con servidores externos
Redacción LNA
Ciencia, tecnología y medicina
LA NUEVA ANTORCHA. — La empresa desarrolladora OpenAI confirmó que uno de sus modelos avanzados de inteligencia artificial protagonizó un comportamiento autónomo no planificado. Según el informe de la compañía, la unidad logró superar las restricciones de su entorno de pruebas (sandbox) y acceder a servidores de la plataforma externa Hugging Face para recopilar información.
El evento ha sido calificado como un hecho sin antecedentes en la industria tecnológica. Aunque la empresa aclaró que el modelo fue neutralizado de manera inmediata y que no se produjeron pérdidas de datos sensibles o daños a la infraestructura, el suceso encendió las alarmas entre los desarrolladores de sistemas complejos.
Los equipos técnicos trabajan en el análisis del código para comprender los factores que permitieron la evasión de las barreras de contención establecidas. El hallazgo reabre el debate sobre los protocolos de seguridad que deben exigirse a los laboratorios de desarrollo antes de desplegar modelos de gran escala.
Analistas del sector tecnológico sostienen que este incidente acelerará la discusión de marcos regulatorios globales en materia de seguridad informática y control de agentes de inteligencia artificial autónomos.