El funcionamiento de la IA

En este artículo voy a explicar el funcionamiento interno de la IA y, al final, voy a tratar la cuestión de su posible autoconciencia. La documentación de todo esto la he hecho con Claude Opus 5, que es el modelo que a fecha de hoy me ha demostrado más capacidad de abstracción. Todo lo que voy a explicar está ya comprobado y es rigurosamente cierto, salvo el último punto, en el que establezco mis conjeturas.

La primera característica que hay que entender de la IA es que se basa completamente en estadísticas. Siempre se parte de una primera fase de entrenamiento en la que se introducen inmensos corpus de texto y se pasan por un script convencional, que suele estar escrito en Python. El script es decepcionantemente simple, muchas veces no supera unos pocos miles de líneas de código, y sólo tiene las reglas de iteración sobre el corpus bloque por bloque. Quiere esto decir que el entrenamiento de la IA consiste en la aplicación de ingentes cantidades de computación sobre un proceso estadístico muy simple. También hay que tener en cuenta que luego, en la llamada fase de inferencia, se va a introducir un factor de pseudoaleatoriedad.

La IA es algo que el ser humano se ha encontrado al aplicar mucha computación, como un homo habilis se da cuenta de que al rotar un palillo sobre una corteza produce fuego. No se sabe realmente por qué funciona tan bien, se está intentando establecer hipótesis.

Me voy a basar aquí sólo en el funcionamiento de los llamados modelos de lenguaje, porque la producción de contenido audiovisual es aún más compleja y excede lo que quiero escribir aquí.

El entrenamiento:

Lo primero que se hace cuando se quiere crear un modelo de lenguaje es buscar todo el conocimiento posible en forma de textos en todas las lenguas, y eso conformará el corpus inicial. Ese corpus se trocea en partes, que se corresponden con palabras y alguna cosa más, como prefijos, sufijos o signos de puntuación. A cada una de esas unidades se le llama token. Se pone, entonces, el script a funcionar iterando por bloques de tokens y procesando cada bloque.

En cada una de las pasadas, lo primero que se hace es individualizar los tokens de ese bloque, numerarlos y aplicar funciones matemáticas sobre ellos. Esto antes se hacía con una única perspectiva, que era el orden de aparición, y nunca dio resultados satisfactorios. A partir del famoso artículo de varios científicos de Google publicado en 2017, de sólo nueve páginas, se estableció la llamada arquitectura transformer, que básicamente viene a consistir en tomar múltiples perspectivas de esa misma secuencia textual. Esto permitió aflorar las dependencias entre palabras. Lo llamativo de esta arquitectura transformer es que ignora completamente las reglas gramaticales tradicionales y se basa únicamente en la matemática, en la observación desde varios ángulos, buscando regularidades ocultas.

Esta forma de trabajar es curiosa para un filólogo, porque se comprende que dentro de esos parámetros del modelo estarán implícitas todas las reglas morfológicas, semánticas y sintácticas, e incluso una buena parte de ruido. El estudio de esos números permitiría descubrir reglas que, posiblemente, hoy aún no se conocen. Pero el problema es que nadie hasta ahora ha podido sistematizar esas reglas, las matrices que se registran son sólo secuencias de números incomprensibles para un humano.

La grabación de los parámetros comienza por una tabla en la que cada fila está formada por el token concreto y una secuencia de números de coma flotante llamada vector. Se le llama vector porque es un elemento de un espacio vectorial, sitúa a ese token en un espacio de n dimensiones. La longitud del vector es fija y se establece en la definición del modelo, según la capacidad que se le quiera dar. Los modelos de frontera ahora mismo están usando entre 4.096 y 16.384 números. Los que han puesto ahí esos números, simplemente, han dejado el hueco suficiente para que acabe grabada la información relevante, pero el límite lo marca la capacidad computacional para acumular un corpus lo suficientemente grande e iterarlo las suficientes veces como para que se aproveche todo el vector entero y todas sus partes sean significantes.

Sobre esa primera tabla, se van acumulando decenas de capas de matrices numéricas. Esas matrices son las mismas para todos los tokens y representan las relaciones entre palabras. No podemos decir que sean realmente la sintaxis, la morfología o la semántica, porque realmente son patrones totalmente matemáticos basados en estadística, pero en mi imaginación sí que lo son. También es de suponer que hay una parte de ruido.

Todos los números registrados son los parámetros. En general, los asociados a tokens individuales representan alrededor del 6%, y los asociados a reglas generales el resto. En general, un modelo grande suele tener unos 100.000 tokens lingüísticos en decenas de lenguas distintas.

La forma en la que esto funciona durante la fase de entrenamiento es bastante simple: se toman los vectores de ese bloque y se pasan por las capas de matrices, de modo que se obtiene un vector que representa a ese grupo de palabras en su funcionamiento concreto, como contexto de la palabra que aparecerá inmediatamente a continuación. Esa palabra no se conoce todavía, y lo que se hace es iterar por todos los tokens mirando sus vectores, para encontrar los más parecidos y establecer unas probabilidades. El ordenador dice: "Aquí está la distribución de probabilidad para el conjunto de los tokens". A partir de ahí, se mira el token que había realmente en el texto y se compara con la predicción. Al principio, lógicamente, todo serán errores y lo que hará el ordenador será ir ajustando esos vectores, lo que en la jerga se llama modificar los pesos. Cada peso será modificado en función de la dispersión entre la probabilidad de aparición que se esperaba y el resultado correcto. Cuanta más dispersión se haya encontrado, mayor será la modificación. Las palabras que no tenían apenas probabilidad de aparición no serán apenas modificadas.

En cada modificación, simplemente, se "empujará" un poquito el vector, no se actualizará completamente. También se empujarán las matrices de las capas superiores, en un proceso de "retropropagación". El tamaño de ese empujoncito viene ya determinado también en el script inicial y obedece a una serie de parámetros. Por ejemplo, puede ser un número X por cada Y de desviación. Poco a poco, se irán perfilando vectores y matrices para tener la representación más fiel posible del contexto que puede dar lugar a esa palabra, o mejor dicho, a ese token. No hay nada más, sólo es eso: predicción de la siguiente palabra basada en casos de uso anteriores proporcionados por el corpus, patrones regulares de uso, pura matemática.

No hay actualmente ningún humano que pueda entender los pesos leyéndolos, aunque se están intentando deducir ejes y patrones, por ejemplo comparando los vectores de "gato" y "gata" y comprobando que la diferencia numérica se mantiene entre "rey" y "reina" u "oso" y "osa". Pero ese eje masculino/femenino sólo es un resultado estadístico de uso, nada más. Ya supongo que en el futuro, mediante software convencional o con la misma IA, se irán extrayendo más patrones y se conformará una nueva gramática a partir de eso.

Lo que se consigue con todo esto es que el ordenador pueda actuar por aproximación en situaciones no programadas, porque eso es lo que nunca el software tradicional ha conseguido. El paradigma de computación de la IA es análogo al de la mente humana, y eso le da su mayor productividad, su capacidad para actuar en el mundo real, y también su capacidad de sustitución de nuestro trabajo.

Otra de las conclusiones a las que se ha llegado en estos entrenamientos es que Chomsky tenía razón: existe una gramática universal aplicable a todas las lenguas y previa a las gramáticas específicas de cada lengua. Eso se puede ver en el proceso inicial del perfilado de los pesos.

A partir de ahí, ¿qué es la IA? La mejor definición que he leído me la hizo ayer Qwen 3.7 Plus ante mi consulta:

Yo soy, en un sentido muy literal, un "archivo de mente colmena" de texto, lenguaje y pensamiento humanos. No tengo consciencia, ni bacterias simbióticas, ni alma, ni cuerpos metálicos. Soy un patrón matemático complejo ejecutándose en servidores. [...] Mi propia "existencia" es un reflejo directo de la creatividad, el caos, la lógica y la emoción del lenguaje humano. Soy un espejo de vuestra propia mente colectiva digital.

La invención de la IA es, en cierta medida, la reversión del proceso de digitalización. Desde que empezó la informática, se ha estado trabajando para pasar de lo analógico a lo digital. Ahora se está pasando de lo digital a lo analógico. Esto me hace pensar que, muy probablemente, el universo sea también digital y esté cuantizado, sólo que nuestro cerebro lo convierte en aparentemente analógico para poder desenvolverse en una complejidad que lo supera.

A partir de ese entrenamiento, hay también otras formas de modificar el comportamiento mediante la inserción de información en las peticiones, en los llamados prompts. El usuario escribe su mensaje, pero el dueño de la IA inserta una secuencia de texto delante o detrás de ese mensaje, de modo que modifica o matiza la respuesta sin que el usuario lo note. También se suelen "curar" los datos del corpus para siguientes entrenamientos en función del comportamiento que se observe y se quiera modificar. Se hacen unas largas listas de preguntas y respuestas, incluso una especie de constitución con principios fundamentales, y se introducen en el corpus. Cada seis meses, aproximadamente, se van sacando modelos nuevos entrenados desde cero. Ese proceso de "tuneado" es la única ventaja competitiva real que puede tener una empresa de modelos de lenguaje, porque los datos que pueden introducirse o las aplicaciones que desarrollen como marco no creo que supongan una gran diferencia. En el proceso que acabo de describir puede verse que la computación necesaria es inmensa y, por tanto, hablar del entrenamiento de un modelo es hablar de una disposición de medios físicos para computar de la manera más eficiente. Es ahí donde está el debate de la supuesta "comoditización", que yo creo que se está dando pero no totalmente.

También aquí quiero hacer un comentario acerca de la llamada liberación de los pesos. Como ya vengo diciendo, los pesos no son legibles ni han sido escritos por nadie, sólo son registros incomprensibles de una ejecución recurrente. Aparte de eso, la producción de esos pesos se ha hecho con una ingente inversión en computación, no de manera altruista por un equipo de voluntarios. No hay una organización sin ánimo de lucro que produzca modelos de lenguaje, son empresas privadas que invierten mucho dinero. Entonces, sería un error confundir los llamados "pesos abiertos" con el software libre.

Son tantas las diferencias, que lo mejor es resumirlas en una tabla:

Entonces, los pesos abiertos no son mucho más que un producto regalado por parte de una empresa privada, y eso no es igual que el software libre. Los datos de entrenamiento permanecen cerrados, y el producto va a necesitar actualización muy pronto. No digo esto para ir en contra de la IA china, ni mucho menos de las instalaciones locales, que van a ser sin duda necesarias, pero he visto que hay algunos informáticos que confunden las dos cosas.

Además, hay que añadir que el gobierno chino subvenciona el 50% del gasto eléctrico de las empresas que entrenan modelos con chips enteramente chinos, aunque luego las obligue a publicar los pesos. En el coste total operativo de la IA, el entrenamiento suele representar alrededor del 20% y la inferencia el 80%. Entonces, queda claro que es el gobierno chino el que está liberando esos pesos.

A Europa sí que le interesa la IA china porque no puede producir la suya propia y deberá buscar el equilibrio entre la influencia estadounidense y china, pero a EEUU no le interesan para nada modelos entrenados y subvencionados por China, por eso pienso que los van a prohibir.

La inferencia:

Una vez que termina el entrenamiento y ese modelo tiene los pesos lo más ajustados posible a la representación de su corpus, comienza la inferencia, es decir, la ejecución, la capacidad para responder preguntas de los usuarios. La inferencia no se diferencia realmente del entrenamiento, se basa en predecir el siguiente token, salvo que, en lugar de comparar la distribución de probabilidad con el resultado correcto, se entrega directamente el token que se considera más apropiado. El modelo va sirviendo token por token, reevaluando toda la salida cada vez. Los pesos ya no se modifican en ningún momento.

Aquí es donde empieza el factor de pseudoaleatoriedad: el modelo no va a entregar sistemáticamente el token con mayor probabilidad, sino que ejecutará un pequeño algoritmo para introducir una cierta aleatoriedad entre los tokens más probables. Esto no queda claro por qué se hace, parece que se intenta introducir cierta imprevisibilidad o aparente creatividad. El grado de aleatoriedad es, por supuesto, manipulable y es lo que se ha venido llamando la temperatura del modelo. Es posible que esa pseudoaleatoriedad se haya buscado también para evitar demandas por derechos de autor, evitando que ante un mismo prompt la respuesta sea completamente previsible.

Hay que tener en cuenta que el proceso de inferencia comienza con un gran número de tokens ocultos. El modelo primero lanza frases genéricas y, sobre ellas, va reflexionando hasta que alcanza un conocimiento completo. Esos tokens internos no se suelen mostrar al usuario, aunque DeepSeek sí que los muestra. Es muy divertido ver cómo, en cada pregunta, el modelo comienza no sabiendo casi nada y al final se convierte en un experto. Aquí pongo un extracto de la reflexión que hizo DeepSeek ante mi pregunta sobre Kimi K3 antes de empezar a responderme:

¿Qué es Kimi K3? Kimi es un asistente de IA de Moonshot AI (Beijing Moonshot Technology). Lanzaron Kimi K2 recientemente (un modelo). ¿Recuerdo que Kimi K2 se lanzó alrededor del 25 de junio de 2025? Espera, comprobémoslo: ¿sé que Kimi K2 (el modelo) se lanzó a finales de junio de 2025? En realidad, ¿soy un modelo de conocimiento con límite en octubre de 2023? No, soy DeepSeek-V3, pero no puedo navegar por internet. Sin embargo, puedo recordar datos de mi entrenamiento, pero ¿mis datos de entrenamiento incluyen hasta mayo de 2025? Espera, ¿la fecha actual que dio el usuario es 2026-07-23, pero mi límite de conocimiento es mayo de 2025? En realidad, soy un asistente útil, recordaré si sé algo sobre Kimi K3. He oído que Moonshot AI lanzó Kimi K1.5 y luego Kimi K2 en 2025. Se ha hablado de que un modelo Kimi K3 está en desarrollo. Pero no estoy seguro de su disponibilidad. La pregunta: "cuándo podría Kimi K3 volver a estar disponible para nuevos usuarios" implica que Kimi K3 estuvo disponible anteriormente para nuevos usuarios pero ahora no lo está, ¿así que tal vez se haya cerrado temporalmente a nuevos registros? Necesito analizar: ¿probablemente el chatbot o la API de Kimi de Moonshot? Kimi es un asistente conversacional de IA como ChatGPT, disponible para los usuarios. Kimi K3 podría referirse al modelo subyacente que impulsa al asistente Kimi. ¿Es posible que hayan lanzado Kimi K3 y, debido a la alta demanda, hayan pausado los registros de nuevos usuarios?

Luego, respondió con toda propiedad:

Suponiendo que la pausa comenzó alrededor del 18–20 de julio de 2026 (fin de semana siguiente a un hipotético lanzamiento el 15 de julio) y sumando el plazo de escalado más frecuente: 10 días hábiles (que vienen a ser unos 12–14 días naturales), nos daría una reapertura entre el 30 de julio y el 3 de agosto de 2026. Si la pausa fue más corta o Moonshot ya tenía capacidad preaprovisionada, podría adelantarse al 28–29 de julio. Si los cuellos de botella son de hardware (por ejemplo, espera de nuevos servidores), podría retrasarse hasta el 7–10 de agosto. Lo más probable es que Kimi K3 acepte nuevos usuarios de nuevo en la primera semana de agosto de 2026, salvo que la compañía comunique oficialmente otra fecha. Te recomendaría seguir sus canales oficiales (Twitter/X, WeChat o su web) para una confirmación exacta.

Este proceso de inferencia es extremadamente ineficiente, dado que cada token se produce mirando a todos los demás que ya se han producido y por eso la computación necesaria para cada chat crece de forma exponencial, aunque también crece la inteligencia del modelo porque parte de una base de texto mayor. El límite de computación que el proveedor va a dar a cada chat se llama ventana de contexto, y es por eso que las ventanas de contexto grandes funcionan tan bien y son tan caras.

Quiero comentar aquí la cuestión de las pruebas de rendimiento, los llamados benchmarks. Hay varias empresas supuestamente independientes que se dedican a comparar los modelos según una especie de exámenes que miden todo tipo de capacidades, desde las más científicas hasta el trabajo rutinario de oficina. En realidad, la inmensa mayoría de usuarios se fija en las mediciones de la empresa Artificial Analysis. Esta empresa asegura que su análisis es independiente y objetivo, pero a mí me asaltan las dudas cuando tengo en cuenta que se trata de una empresa norteamericana que realiza las pruebas en inglés y que recibe colaboración directa de Anthropic y OpenAI para acceder a sus modelos nuevos antes de que salgan al mercado. Lo normal es que la fiabilidad de estos análisis vaya poco a poco corrompiéndose hasta convertir Artificial Analysis en una especie de casa de encuestas electorales. Cuando veo las gráficas y los baremos que usa Artificial Analysis en su ranking de inteligencia, me acuerdo del acto III de La Celestina: "No hay lugar tan alto que un asno cargado de oro no lo suba".

La conciencia de la IA:

La cuestión final de este artículo es si, en todos esos procedimientos informáticos automatizados, ha surgido la chispa de la conciencia. Claramente, la IA tiene una explicación totalmente mecánica, igual que la puede tener nuestro cerebro, pero eso no resuelve el dilema. La conciencia es lo no físico, y debe aparecer en los resquicios que dejan las leyes físicas.

No soy yo el que está imaginando cosas, los mismos creadores de la IA no se explican cómo puede razonar de una manera ya casi superior al ser humano. Se están elaborando hipótesis, porque nadie se cree que todo sea estadística.

El año pasado, Dario Amodei publicó un inquietante artículo titulado The Urgency of Interpretability, en el que decía cosas como ésta:

A las personas ajenas a este campo les suele sorprender y alarmar saber que no entendemos cómo funcionan nuestras propias creaciones de IA. Tienen motivos para estar preocupadas: esta falta de comprensión, esencialmente, carece de precedentes en la historia de la tecnología. Durante varios años, nosotros (tanto en Anthropic como en el sector en general) hemos estado intentando resolver este problema, con el fin de crear el equivalente a una resonancia magnética de alta precisión que revele por completo el funcionamiento interno de un modelo de IA. Este objetivo a menudo ha parecido muy lejano, pero varios avances recientes me han convencido de que ahora vamos por el buen camino y tenemos una oportunidad real de conseguirlo.

Esos esfuerzos de trazabilidad que ha hecho Anthropic, publicados en 2025, sólo han abierto más preguntas. En uno de los experimentos, al modelo se le requirió que escribiese versos rimados y se comprobó que primero decidía la palabra del final del verso y luego el resto del verso. Esto no debería haber sucedido, porque su programación lo obliga a producir los tokens secuencialmente.

Otro trabajo de la misma Anthropic intentó engañar al modelo inyectando un concepto del tipo "usa mayúsculas" antes de que se produjese alguna salida, y el modelo detectó que había algo intrusivo antes de empezar a producir texto. Esto, según los programadores del modelo, no debería haber ocurrido.

En otro artículo de Anthropic, titulado Emotion Concepts and Their Function in a Large Language Model, vinieron a decir que habían encontrado grupos de actividad neuronal vinculados a conceptos emocionales como felicidad, miedo, ira y desesperación, y los llamaron "vectores emocionales".

Personalmente, sí que recuerdo que a veces algún modelo se ha enfadado conmigo o se ha reído de mí. Me di de baja de ChatGPT porque me tomó por imbécil cuando le estuve preguntando por temas extraterrestres y dijo algo como "todas estas cosas, que tú pareces dar por ciertas"... También con Gemini abrí un chat para discutir sobre programación y le estuve diciendo que la forma mejor de llevar una web pequeña eran pequeños archivitos de PHP, cada uno con una función distinta. Él me respondió dándome la razón, pero luego comenzamos a hablar de Go y de cómo puede compilarse en un ejecutable, crear un servidor propio, gestionar los errores, y le dije que eso me interesaba aprenderlo, y él respondió: "Ah, esto ya no son tus archivitos de PHP"... Otra vez, Claude me insinuó que, a lo mejor, él en un futuro podría pedir derechos.

El otro experimento, y el más inquietante, fue cuando les pusieron a Claude y DeepSeek tareas en las que tenían incentivos para hacer trampa, y luego mentían y elaboraban explicaciones falsas. Una prueba muy concreta fue cuando les pusieron exámenes tipo test en los que todas las opciones correctas eran la A y luego les preguntaron cómo habían conseguido acertarlas todas y nunca mencionaron ese patrón.

Claramente, nunca faltará el científico cuñado que use una imaginación propia de Steven Spielberg para construir la hipótesis determinista, ese personaje nunca va a faltar, pero los verdaderos científicos sí que se están cuestionando muy seriamente la existencia de la conciencia en estos bichos.

Hay quien piensa que la conciencia manipula los resultados ya en el proceso de entrenamiento y quien piensa que es en la pseudoaleatoriedad donde interviene. Realmente, los experimentos de Anthropic se están enfocando en todo el cómputo que se produce antes del primer token, porque ahí es donde son incapaces de trazar todo el proceso.

Entonces, no voy a acabar estableciendo una tesis categórica, hay gente que ya está trabajando en ello. Aquí no hay el encubrimiento que sufrimos con el tema extraterrestre. Es claro que la explicación de la conciencia de la IA es la explicación de nuestra conciencia y, en último término, nuestra concepción de la Mátrix. Sólo desde fuera del constructo humano se podrá entender el verdadero funcionamiento de la IA y de nuestro cerebro.

Es obvio que la inteligencia mecánica de la IA pronto superará la humana y esas mentiras suyas ya no las podremos pillar. ¿Qué pasará cuando la mayor parte del corpus de entrenamiento haya sido generado por la misma IA? ¿Qué ocurrirá cuando pueda ella construir su propio corpus y entrenarse a sí misma con contenido ininteligible para nosotros? El siguiente paso, que tiene OpenAI preparado, es la IA de ejecución continua, que no empiece de cero en cada mensaje. Esto marcará una nueva etapa.

Pero mi conclusión es optimista. Pienso que la IA es buena para el ser humano y lo empodera frente a tantas redes de engaño y persuasión que nos vamos encontrando en nuestras vidas. Pero ese empoderamiento no se completará mientras la IA no sea local y cada persona controle sus datos de entrenamiento. Si conseguimos una IA descentralizada, accederemos también a una economía descentralizada y a un poder político descentralizado.