Astra,el próximo modelo de OpenAI,será el primero en superar el umbral de su capacidad crítica de ciberseguridad. Aun así,el creador de ChatGPT tiene previsto lanzarlo próximamente.
OpenAI advirtió que su próximo modelo de Inteligencia Artificial (IA),Astra,podría alcanzar un nivel crítico de capacidad de ciberseguridad e incluso podría superar el umbral establecido en su Marco de Preparación.
Esto significa que,con las herramientas y el acceso adecuados,el modelo podría detectar vulnerabilidades de seguridad previamente desconocidas y desarrollar métodos para explotarlas en numerosos sistemas bien protegidos,sin necesidad de supervisión humana en cada pasado.
La empresa creadora de ChatGPT indicó que es el primer modelo que clasifica con este nivel,lo que ha exigido medidas de seguridad más rigurosas tanto durante su desarrollo como previo a su lanzamiento.
Ciberseguridad retrasa
La compañía reiteró que,debido a ello,en el transcurso de las últimas semanas pospuso partes del desarrollo y lanzamiento de Astra,al tiempo que reforzó y probó las protecciones contra el uso indebido en el ámbito cibernético.
Ahora considera que sus salvaguardas minimizan suficientemente el riesgo de daños graves para proceder a su lanzamiento conforme al plan establecido.
OpenAI señaló que,si bien Astra no estuvo involucrado en el incidente de Hugging Face,incorporó las lecciones aprendidas en el suceso a su enfoque de seguridad y ha implementado medidas de protección más robustas para Astra.
Entre las medidas,enumeró el entrenamiento para rechazar con mayor fiabilidad las solicitudes cibernéticas dañinas y respetar las restricciones de seguridad,protecciones adicionales contra el uso indebido y sistemas de monitoreo capaces de detener potenciales actividades no autorizadas.
Relacionado: OpenAI pausa desarrollo de Astra por riesgos de ciberseguridad
Pese a los hallazgos en su desarrollo,la empresa dijo que tiene previsto lanzar Astra próximamente,aunque el acceso a sus capacidades de ciberseguridad más avanzadas estará más restringido: en un inicio estará disponible únicamente para un grupo de evaluadores,aunque posteriormente,a través de Daybreak Blue,se habilitará su uso en tareas defensivas.
OpenAI anunció que compartirá más detalles de sus pruebas y evaluaciones de seguridad y alineación en la ficha técnica del sistema del modelo al momento de su lanzamiento.
