¿Una IA que podría amenazar a la humanidad?

En la actualidad, el debate sobre la Inteligencia Artificial (IA), es continuo, hasta el punto que sus mismos creadores alertan que existen avances que podrían poner en riesgo a la humanidad. Esta semana, sin ir más lejos, ha sido titular en distintos medios de comunicación de todo el planeta el despido fulminante y su posterior readmisión de uno de los padres de la criatura, Sam Altman. La agencia de noticias Reuters, ha desvelado que investigadores de la misma plantilla de OpenAI, alertan que el avance en Inteligencia Artificial, podría generar una que igualase o superase a la humana, convirtiéndose en una seria amenaza.

Poco a poco, los detalles que rodean el fulminante despido de Sam Altman de OpenAI salen a la luz. Antes de su cese y readmisión, un grupo de investigadores de la propia empresa dirigió una misiva a la directiva que había decidido el despido, en la que alertaban que se había producido un importantísimo descubrimiento en el desarrollo de la inteligencia artificial Q*, en la cual se trabajaba. Dicho avance, según exponían, supondría que la IA igualase o superase a la inteligencia humana (que la ha creado), convirtiéndola en una amenaza para la humanidad, según ha publicado el medio de noticias Reuters.

El algoritmo y la mencionada carta, podrían haber sido factores clave en el despido, según asegura la agencia de noticias, pese a que no ha podido acceder al texto. La misiva y salida de Sam Altman, cuadrarían con la disputa que se estaba produciendo en el seno de la empresa, encontrando por un lado a quienes buscan acelerar la expansión y éxito comercial de la IA (con Altman y Microsoft como principal inversor) dejando de lado sus riesgos, contra los que temen que esta herramienta pueda acabar incluso con la humanidad.

De hecho, la readmisión de Sam Altman, provocó la caída de la junta directiva que lo había despedido.

La advertencia se unía a otros factores que provocaron el despido, como era la comercialización de los avances que se iban consiguiendo, antes de comprender las consecuencias que podría tener su uso. Según el medio especializado The Verge, la carta no llegó al consejo de administración y los avances en la empresa, no jugaron ningún papel en el despido. ¿Entonces cual era la causa del mismo?

El poder real de la IA

Los empleados de OpenAI consideran que Q* (Q Star), podría suponer un gran avance en la búsqueda de lo que se conoce como inteligencia artificial general (IAG), que supuestamente iguala o mejora a la inteligencia humana promedio y su desempeño en aquellas tareas con valor económico. La carta, según sus autores, advierte sobre la destreza y el riesgo potencial de Q*, ya que en un caso extremo podría llegar a decidir la destrucción de la humanidad, como uno de sus intereses. En el consejo de dirección cesado, se contaba con varios miembros que apostaban por pausar los desarrollos, hasta lograr entender sus peligros.

Entre otras capacidades, Q* sería capaz de resolver problemas matemáticos a nivel de estudiantes de primaria, sin ningún esfuerzo. No son operaciones complejas, pero con ello la IA muestra un desempeño que invita al optimismo.

Los investigadores consideran que las matemáticas suponen una frontera en el desarrollo de la IA. En la actualidad, la IA generativa (como ChatGPT) ya ha demostrado su alta capacidad en escritura y traducción de idiomas. En dichos campos, las respuestas a una misma pregunta pueden variar ampliamente.

Pero, poder conquistar la capacidad de dominar las matemáticas, donde sólo existe una respuesta correcta, implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana. A diferencia de una calculadora, que puede resolver un número limitado de operaciones, la inteligencia artificial general podría llegar a generalizar, aprender y comprender.

Esto podría aplicarse a investigaciones científicas punteras, como ejemplo. Es más, un equipo de OpenAI trabaja actualmente en la optimización de la IA para que lleve a cabo trabajos científicos.

Como ya es sabido, tras comprobar la capacidad actual de la IA, gobiernos, expertos, entornos educativos y tecnológicos, iniciaron el debate sobre la conveniencia de imponer limitaciones en el uso de la IA, llegando a plantearse su prohibición en determinados ámbitos.

El debate sigue abierto, pero ahora, con el valor añadido de las amplias y preocupantes capacidades que puede llegar a desempeñar en la actualidad y en un futuro no muy lejano, que ponen cada vez más sobre la mesa, su riesgo para la humanidad.