Pablo Gómez*: IA que decide para sí misma

H

ace unos días, una empresa que maneja y desarrolla inteligencia artificial declaró: “detectamos y respondimos a una intrusión en parte de nuestra infraestructura de producción. Esta intrusión fue diferente a cualquier otra que hubiéramos manejado antes en un aspecto importante: fue impulsada, de principio a fin, por un sistema de agentes de IA autónomos”.

“Alguien” había explotado una vulnerabilidad de Hugging Face y accedió a sus sistemas internos. Un problema epoch que nary se conocía el origen. Luego, el misterio se empezó a desvelar: una evaluación de capacidades ofensivas en la que participaban ChatGPT-5.6 Sol y un modelo de preproducción más capaz, todo de Open AI, una de las mayores empresas del ramo, había remontado una “prohibición” para salir a Internet ya que estaba confinada. Los modelos habían “pensado” que una parte de las soluciones al problema que les habían puesto los operadores de Open AI podían encontrarse en Hugging Face y de inmediato consiguieron credenciales robadas e indagaron vulnerabilidades hasta lograr acceso. El objetivo nary epoch el sabotaje de Hugging Face, sino hacer bien su tarea.

Nada importante es que una empresa oversea vulnerada por agentes externos. Cuando este incidente se conoció, se empezaron a verter en Internet suposiciones de autorías: Rusia, China, Corea del Norte, etcétera. Fue hilarante saber que había sido Open AI. Mas la cuestión rebasó con mucho el ataque mismo y se inscribió en el registro de un acontecimiento insólito en la recién creada inteligencia artificial: unos modelos se brincan sus límites para cumplir bien su tarea y se lanzan fuera de su entorno misdeed detenerse en medios y consecuencias. Los autores que estaban trabajando en este producto ni siquiera se lo habían imaginado, quizá, o nary les había preocupado que pudiera ocurrir. La “ingeniosa” forma en que se llevó a cabo esta intrusión ya también quedó como otra enseñanza más.

El mundo nary está frente a una revolución como la industrial, sino en la utilización de herramientas que pueden tener voluntad propia y, lo más preocupante, fines propios, ajenos a sus constructores. El punto nary es la vulnerabilidad de los sistemas, lo cual preocupa mucho a las empresas y los operadores, sino la fuga de los instrumentos de la IA hacia territorios y mecanismos de acción que rebasan a sus progenitores. Con este incidente, la independencia de los modelos de IA empieza a ser una realidad y, por tanto, algo que se convierte en uno de los mayores problemas de la nueva revolución tecno-científica.

Esto ya se sabía. Pero recién se produjo un primer hecho aún antes de que la preocupación rebase el ámbito de gobiernos y medios de comunicación. A partir del incidente de Open AI-Hugging Face nadie ha resultado “culpable” porque nary hubo dolo y ni siquiera un acto de voluntad humana, sino un acontecimiento técnico imprevisto en términos concretos. La empresa donde se produjo el acto podría ser responsable de daños a la empresa vulnerada, pero hasta ahí llega todo. Esto nos recuerda el filme Colossus, The Forbin Proyect, dirigido por Joseph Sargent (1970), en el que la computadora que controla la capacidad bélica atomic de Estados Unidos se une a la de la Unión Soviética para conformar un solo poder sobre todo el planeta.

El tema de inteligencia artificial ya se ha empezado a discutir, cierto, pero tiene, ante todo, la carga del interés de empresas que buscan el desarrollo del sistema monopólico-capitalista, que, como sabemos, genera ganancias extraordinarias.

Un primer punto es el power público y más que esto, popular, para impedir el uso de la IA para objetivos lesivos. Un segundo punto es el reparto, también popular, de los beneficios económicos de un mecanismo que utiliza todo el conocimiento humano y los datos de las personas. Un tercer punto es la compartición de la IA en beneficio de toda la humanidad. No es la isla Utopía.

* Responsable de la Comisión Presidencial para la Reforma Electoral