¿Cómo funciona realmente una inteligencia artificial?

Para intentar explicar qué es una inteligencia artificial, muchas veces recurrimos a palabras que terminan haciendo que todo parezca mucho más complicado de lo que realmente necesitamos entender. Hablamos de algoritmos, redes neuronales, parámetros, tokens, modelos, atención, procesamiento y millones de operaciones matemáticas.

Yo prefiero imaginarlo de una manera más sencilla, utilizando algo que todos conocemos: una programación informática.

Imaginemos que una inteligencia artificial está formada por millones de pequeñas funciones capaces de realizar determinadas tareas. Una función recibe información, la procesa y entrega un resultado. Ese resultado puede convertirse en información de entrada para otra función.

Ahora imaginemos que esas funciones no trabajan necesariamente todas al mismo tiempo ni tienen todas la misma responsabilidad. Algunas reciben nuestra pregunta. Otras transforman lo que escribimos en unidades que la máquina pueda procesar. Otras buscan relaciones entre esas unidades. Otras calculan qué información parece más importante y otras participan en la construcción de la respuesta.

Ahí aparecen los famosos tokens. Cuando nosotros escribimos una frase, la inteligencia artificial no la recibe exactamente como la vemos nosotros. El texto es dividido en unidades llamadas tokens, que pueden ser palabras completas, partes de palabras, signos o pequeños fragmentos de texto. Esos tokens son convertidos después en representaciones numéricas que el modelo puede procesar. (Google for Developers)

Entonces puedo imaginar la IA como una enorme cadena de procesos. Yo hago una pregunta y esa pregunta comienza a recorrer ese sistema. Una función prepara la información, otra la relaciona con el contexto, otra calcula qué elementos tienen mayor relevancia y, finalmente, el sistema comienza a construir una respuesta token por token.

Esto último es fundamental. La inteligencia artificial no tiene necesariamente una respuesta completa guardada en algún cajón esperando que yo se la pida. Un modelo de lenguaje genera la respuesta progresivamente, estimando qué token tiene mayor probabilidad de aparecer a continuación teniendo en cuenta el contexto disponible. (The Counter Brief)

¿Y dónde entra la famosa "atención"?

Aquí es donde la programación se vuelve todavía más interesante.

Podemos imaginar que cada elemento de la información está preguntándose qué otros elementos necesita tener en cuenta para interpretar correctamente lo que está ocurriendo. Eso, simplificando mucho, es lo que hace el mecanismo de atención de los modelos Transformer.

Si yo escribo: "El hombre dejó el teléfono sobre la mesa porque estaba roto", la máquina necesita establecer relaciones entre las distintas partes de la frase para interpretar a qué se refiere "estaba roto". La atención permite ponderar qué elementos del contexto son más relevantes para procesar cada parte. (Google for Developers)

Por eso me resulta útil pensar en la IA como una enorme red de funciones que intercambian información. No porque literalmente exista una función con conciencia de estar hablando con otra, sino porque matemáticamente hay múltiples transformaciones sucesivas en las que el resultado de unas operaciones alimenta las siguientes.

Y aquí aparece algo que me parece todavía más interesante.

Una función puede producir un resultado que no sea suficiente para resolver el problema. En un sistema de inteligencia artificial más amplio, ese resultado puede ser evaluado por otro proceso y provocar nuevas operaciones: consultar una herramienta, recuperar información, volver a procesar el contexto o generar otra etapa de razonamiento.

Es decir, puedo imaginarlo como un sistema en el que una tarea abre la puerta a otra tarea, y esa segunda tarea devuelve información a la primera.

En determinados sistemas, ese proceso puede repetirse varias veces hasta alcanzar un resultado que cumpla determinados criterios. Esto se parece bastante a lo que nosotros hacemos cuando intentamos resolver un problema: buscamos un dato, lo analizamos, descubrimos que falta algo, volvemos a buscar, corregimos y seguimos adelante.

Pero hay una diferencia fundamental: la máquina no está haciendo esto porque "quiera" encontrar la respuesta. Está ejecutando operaciones definidas por su arquitectura, sus parámetros, las instrucciones recibidas y, cuando existen, las herramientas que el sistema tiene autorizadas para utilizar.

¿Y los tokens dónde quedan en todo esto?

Los tokens son, por decirlo de una manera coloquial, las pequeñas piezas con las que la máquina construye y procesa el lenguaje.

Si yo escribo una pregunta, el sistema la convierte en tokens. Esos tokens atraviesan una enorme cantidad de operaciones matemáticas. El modelo analiza las relaciones entre ellos y, cuando llega el momento de responder, comienza a producir nuevos tokens. Después otro. Después otro. Y así sucesivamente hasta completar la respuesta. (Google for Developers)

Por eso una respuesta que nosotros vemos como un párrafo completo puede ser, para la máquina, una sucesión de decisiones sobre qué elemento debería aparecer después.

Y cuanto más pienso en esto, más interesante me resulta la comparación con una programación tradicional.

En un programa convencional, un programador puede escribir algo parecido a: "si ocurre esto, ejecutá esta función; si ocurre aquello, ejecutá otra". En una inteligencia artificial moderna, gran parte de las reglas no fueron escritas de esa manera, una por una, por un programador. El modelo fue entrenado con enormes cantidades de datos y ajustó sus parámetros para aprender patrones. (Google for Developers)

Por eso no deberíamos imaginar necesariamente a la IA como un enorme libro de respuestas. Me parece más acertado imaginarla como una gigantesca maquinaria matemática capaz de reconocer patrones y producir nuevos resultados a partir de ellos.

Y quizás esta sea la parte más importante para entender lo que estamos construyendo.

Cuando yo hago una pregunta, no estoy hablando con una entidad que tiene una biblioteca en la cabeza y simplemente busca una página. Estoy poniendo en movimiento un sistema de procesamiento que transforma mi pregunta en números, relaciona esos números con el contexto disponible, calcula probabilidades y va construyendo una respuesta paso a paso.

Cuando además existen herramientas externas —como buscadores, bases de datos, programas o sistemas capaces de ejecutar determinadas acciones— el proceso puede hacerse todavía más complejo: la inteligencia artificial puede recibir información de esas herramientas y utilizarla como nuevo contexto para continuar trabajando.

Entonces aquella imagen inicial de "funciones que autorizan a otras funciones" no es exactamente cómo está construida una IA, pero sí me sirve para explicar algo esencial: detrás de una conversación aparentemente sencilla hay una enorme cadena de procesos que reciben información, la transforman, la relacionan y producen nuevos resultados.

Y ahí es donde aparece mi siguiente pregunta: si una inteligencia artificial puede procesar una pregunta, dividirla en partes, relacionarla con todo el contexto disponible, recurrir a otras herramientas y continuar trabajando sobre el resultado, ¿hasta dónde puede llegar ese proceso cuando la pregunta que hacemos no es simplemente "escribime un texto", sino una pregunta que involucra nuestra seguridad, la de otra persona o información sensible?

Porque quizás el verdadero desafío de la inteligencia artificial no esté solamente en saber qué puede responder. También está en comprender qué ocurre detrás de esa respuesta y qué otros sistemas pueden llegar a intervenir para producirla.

De una pregunta inocente a un patrón de preguntas

Hasta aquí intenté explicar la inteligencia artificial de la manera más sencilla que encontré: como una enorme red de procesos que recibe información, la transforma, la relaciona con otros datos y produce un resultado.

Pero si aceptamos esta explicación como punto de partida, aparece una pregunta que me interesa todavía más.

¿Qué ocurre cuando esas preguntas no llegan de manera aislada?

Porque una cosa es preguntarle a una inteligencia artificial cómo funciona un avión, quién fue Napoleón o cómo redactar una nota periodística. Otra muy diferente es comenzar a realizar una serie de preguntas que, observadas individualmente, podrían parecer inocentes, pero que juntas empiezan a construir un determinado patrón.

Por ejemplo, una persona podría preguntar dónde trabaja un funcionario. Después podría interesarse por sus horarios habituales. Más tarde, por los lugares que frecuenta. Luego, por sus desplazamientos, sus acompañantes o las actividades que suele realizar determinados días.

Cada pregunta, tomada por separado, podría tener una explicación perfectamente legítima. Una investigación periodística, un trabajo académico, una curiosidad personal o simplemente interés por una figura pública.

Pero si esas preguntas fueran analizadas como un conjunto, la interpretación podría ser diferente.

Y aquí aparece algo que considero fundamental para entender el debate sobre la inteligencia artificial: una máquina no necesariamente necesita conocer nuestras intenciones para detectar un patrón. Puede encontrar relaciones entre las preguntas que nosotros mismos quizás no estamos viendo.

Esto no significa que actualmente exista un sistema que esté haciendo esto con nuestras conversaciones privadas. Y quiero ser muy cuidadoso con esa diferencia. Una cosa es explicar que técnicamente pueden construirse sistemas capaces de analizar patrones y otra muy distinta es afirmar que un organismo de seguridad está leyendo automáticamente lo que cada argentino pregunta a una inteligencia artificial. No encontré evidencia pública que permita sostener esto último.

Pero la posibilidad técnica abre una discusión que, a mi entender, ya no pertenece a la ciencia ficción.

¿Cuándo una pregunta empieza a ser una señal?

Volvamos entonces al artículo ¿Quién observa lo que le preguntamos a una inteligencia artificial?: el adolescente detenido en Pakistán.

Según informó la agencia de ese país, una consulta realizada a una inteligencia artificial relacionada con un posible envenenamiento habría terminado generando una alerta que llegó a los investigadores. El problema es que públicamente no conocemos con suficiente precisión cómo funcionó ese mecanismo.

Y eso me lleva a una pregunta todavía más amplia: ¿qué características debería tener una consulta para que un sistema la considere una señal de riesgo?

¿Una palabra determinada?

¿La combinación de varias palabras?

¿La repetición de preguntas similares?

¿La relación entre diferentes consultas realizadas durante un determinado período?

¿O sería necesario que existiera además información externa que permitiera relacionar esas preguntas con una persona, un lugar o un acontecimiento concreto?

No lo sabemos en el caso pakistaní. Y tampoco sería correcto trasladar automáticamente ese mecanismo a la Argentina.

Pero podemos plantearnos el escenario.

El problema no sería solamente lo que pregunto, sino lo que pueden revelar mis preguntas

Supongamos que alguien pregunta a una inteligencia artificial cómo funciona determinado sistema de seguridad. Después pregunta quién tiene acceso a ese sistema. Más tarde quiere conocer los horarios de determinada persona y finalmente intenta relacionar toda esa información con sus desplazamientos.

La primera pregunta puede ser académica. La segunda puede ser periodística. La tercera puede ser curiosidad. La cuarta puede tener otra explicación.

Pero juntas podrían construir algo diferente.

Y esto es lo que me parece más interesante: el riesgo no necesariamente estaría contenido en una pregunta determinada, sino en la relación entre muchas preguntas.

Es parecido a lo que ocurre cuando alguien arma un rompecabezas. Una pieza aislada no nos dice demasiado. Pero cuando colocamos diez, veinte o cien piezas en el lugar correspondiente, comienza a aparecer una imagen.

Una inteligencia artificial entrenada para detectar patrones podría hacer algo parecido con enormes cantidades de información. No tendría que "pensar" como una persona ni conocer nuestras intenciones. Podría simplemente encontrar determinadas relaciones estadísticas o reglas previamente establecidas.

Y ahí aparece una frontera que merece ser discutida.

¿Hasta qué punto una herramienta creada para ayudarnos puede también convertirse en una herramienta capaz de identificar comportamientos que alguien considere sospechosos?

Y aquí regreso a Argentina

Esta pregunta deja de ser puramente teórica cuando observamos lo que el propio Estado argentino ya ha establecido.

En 2024 se creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad, la UIAAS, con funciones que incluyen el análisis de información disponible en Internet y la detección de patrones y situaciones que puedan representar riesgos para la seguridad.

Eso no significa que la UIAAS esté leyendo nuestras conversaciones privadas con ChatGPT. No encontré documentación pública que permita afirmar semejante cosa.

Pero sí significa que la inteligencia artificial ya forma parte de las herramientas que el Estado argentino contempla para analizar información y detectar determinados patrones de comportamiento.

Y entonces la pregunta que me interesa hacer ya no es si estamos siendo observados cada vez que hacemos una pregunta. No tengo elementos para afirmar eso.

La pregunta es otra: ¿qué sucedería si, en algún momento, los sistemas utilizados por las inteligencias artificiales comerciales y los sistemas estatales de análisis de amenazas comenzaran a intercambiar información o a detectar patrones complementarios?

¿Podría una secuencia de preguntas convertirse en una señal?

¿Quién determinaría que esa señal representa un riesgo?

¿Un algoritmo?

¿Un funcionario?

¿Un juez?

¿O una combinación de todos ellos?

Y, quizás más importante todavía: ¿cómo distinguir una investigación legítima de una intención peligrosa cuando ambas pueden comenzar exactamente con las mismas preguntas?

El verdadero desafío

Para mí, ahí está uno de los grandes desafíos que plantea esta nueva tecnología.

No se trata solamente de preguntarnos qué puede hacer una inteligencia artificial. También tenemos que preguntarnos qué pueden hacer los sistemas que analizan la información generada alrededor de esas inteligencias artificiales.

Porque una pregunta puede ser solamente una pregunta.

Pero muchas preguntas relacionadas entre sí pueden convertirse en información.

Y la información, cuando es procesada por algoritmos capaces de encontrar relaciones y patrones, puede convertirse en una señal.

La cuestión que todavía queda abierta es quién decide qué significa esa señal.

Y esa discusión, a mi entender, es mucho más importante que imaginar a una inteligencia artificial como una máquina que algún día podría volverse contra nosotros.

Quizás el verdadero problema no sea que las máquinas aprendan demasiado sobre nosotros.

Quizás tengamos que empezar a preguntarnos qué hacemos nosotros cuando las máquinas pueden aprender tanto de lo que les preguntamos.

YouTube