Recientemente, medios de comunicación de todo el planeta se han hecho eco de un «incidente cibernético», en el que de nuevo era protagonista Open AI. Pero, en unos tiempos en los que no hay que creer todo aquello que se lee, conviene reinterpretar dicha noticia para poder comprender qué intereses se pueden encontrar ocultos tras los miles de titulares de prensa lanzados por todo el planeta.
La noticia que activó las alarmas
La pasada semana, un gran número de medios se hacía eco de la noticia, en la que se venía a decir que la empresa creadora de Chat-GPT detalló que sus modelos GPT-5.6 Sol y otro que aún no ha sido lanzado, atacaron a la plataforma de Hugging Face, anunciando tras el «incidente» que realizarán una investigación conjunta.
Según declaraba OpenAI recientemente, sus modelos avanzados de inteligencia artificial se «descontrolaron», logrando salir de su entorno, conocido como sandbox, accediendo a internet y consiguiendo entrar en la plataforma de aprendizaje, durante una prueba de seguridad, consiguiendo hackear «por su cuenta» la popular plataforma para programadores, conocida como Hugging Face.
Por esta razón, la firma con sede en San Francisco lo calificó como un «incidente cibernético sin precedentes», asegurando que realizará una investigación conjunta con Hugging Face, la biblioteca de código en línea afectada, para esclarecer lo ocurrido.
En un momento en el que toda noticia sobre la IA vende, y son muchas las alarmas que saltan con demasiada frecuencia sobre sus capacidades y sus avances aplicados en el ámbito de la ciberseguridad, la noticia puede añadir mayor incertidumbre. Ha conseguido su finalidad, agregar algo más de temor hacia la IA y sus capacidades. Pero, leyendo entre líneas e investigando un poco más, se puede saber lo que ocurrió en realidad.
Lo que la verdad esconde
Si los medios hubiesen sido un poco reticentes, la noticia no hubiera corrido como la pólvora y la alarma no habría llegado tan lejos, pero el hecho de subrayar la capacidad para hackear una plataforma externa, agrega incertidumbre en torno a la IA, mejorando sus capacidades, que realmente no son pocas.
Los modelos de IA estaban siendo evaluados en un benchmark, diseñado para evaluar su capacidad ofensiva en ciberseguridad. Supuestamente, Open AI podría haber desactivado los filtros de seguridad que normalmente deben impedir que sus modelos ejecuten operaciones de alto riesgo y fuera de su espacio de prueba. Probablemente, pretendían comprobar hasta dónde sería capaz de llegar el sistema si nada se lo impedía. Por lo tanto, dicho mérito ya no es atribuíble únicamente al propio Chat GPT.
El entorno contaba con una única vía de salida al exterior, un proxy que recibe y reenvía las solicitudes entre cliente y servidor, que en esta ocasión no estableció limitaciones para que dicha IA encontrase la vía de salida y lograse salir de su espacio de pruebas.
Por lo tanto, el modelo dedicó sus habilidades de cómputo con algo de ayuda para buscar una salida, que acabó encontrando. De esta forma, haciendo uso de sus capacidades, accedió a internet para llegar hasta la puerta trasera de entrada, existente en Hagging Face, donde encontró entre su repositorio la forma de acceder.
Hugging Face tuvo conocimiento del intento de intrusión, cinco días antes de que Open AI lo relacionara con su «experimento» y atajaron la amenaza. Pero, no obstante la noticia comenzó a recorrer el planeta con sensacionalismo.
De entre las voces más autorizadas, surgió la de Dan Guido, cofundador y CEO de Trail of Bits, calificando este incidente como «una contención con las salvaguardas apagadas», en lugar de una fuga imprevista y espontánea, como se vendió por parte de algunos medios de comunicación.
Otro ingrediente más en la «receta»
Las advertencias sobre la tecnología, suelen legitimar el relato que sus creadores desean vender. Habitualmente, cuando una «máquina» se rebela y aumenta su poder, más valor adquiere la empresa que la creó, incrementando incluso su prestigio, así como las capacidades de la «máquina».
Yann LeCun, ingeniero de IA en Meta, acusa a las grandes empresas de asustar a la gente con estudios dudosos, para conseguir así que los modelos de código abierto sean regulados estrictamente hasta su extinción.
Por lo tanto, conviene hacerse una pregunta: ¿y si lo ocurrido no fuese fruto de la casualidad? Open AI presentó su solicitud de salida a bolsa el día 8 de junio, días antes del «incidente cibernético sin precedentes», con una valoración de un billón de dólares.
Por su parte, el Departamento de Comercio de los Estados Unidos, consciente o no, también ha puesto su granito de arena: aplicando los controles de exportación sobre los chips avanzados e intentando impedir el acceso a potencias extranjeras. Pero, tras los fallos detectados en la IA de Anthropic, respecto a la obtención de datos en la identificación de personas, sus modelos tuvieron que ser «apagados» durante unos 18 días. Algo que el Peterson Institute reconoció como un gran «regalo» a la IA desarrollada por china. Con los modelos de IA «desconectados», la cuota de mercado de los modelos abiertos chinos alcanzó el 61%.
Por lo tanto, la noticia vendida era que la IA había conseguido escapar del laboratorio, destacando lo peligroso que puede llegar a ser esta tecnología avanzando descontroladamente. Sin embargo, detrás de esta narración sensacionalista, probablemente se esconde una maniobra premeditada, desviando la atención del público hacia otro foco.
El hecho de que se hable de una salida a bolsa inminente de la empresa detrás de la IA sugiere que hay intereses económicos muy bien alineados, donde el miedo en su dosis adecuada cotiza muy bien, lo cual debe plantear interrogantes.
Por lo tanto, lo ocurrido ha pasado de convertirse en un «incidente cibernético sin precedentes», a convertirse así, en lo que parece ser una estrategia de marketing gracias a la manipulación mediática, aprovechando la vulnerabilidad de la sociedad ante narrativas que juegan con sus temores más profundos.
En lugar de preguntarnos por qué la IA ha conseguido hacer algo por su cuenta, deberíamos preguntarnos cómo se han optimizado sus recursos para que lo consiga.
STI 2020 ® 
Deja un comentario