Lanzamiento de un modelo de IA en un antiguo PDP-11: el entusiasta utilizó una CPU de 6 MHz y 64 KB de RAM

Veterano de Microsoft demuestra el funcionamiento de un transformador en una computadora antigua

*Dave Plummer (Dave Plummer) – desarrollador conocido de Windows,*

*muestra que los modelos de IA modernos pueden entrenarse incluso en equipos con décadas de antigüedad.*

Qué se hizo
- Equipo: PDP‑11 / 44, computadora de 47 años con procesador de 6 MHz y 64 KB de RAM.

- Modelo: “Attention 11” – red transformadora escrita en ensamblador PDP‑11 por Damien Buret (Damien Buret).

- Tarea de entrenamiento: construir la secuencia inversa de ocho números.

El modelo no necesita memorizar ejemplos; debe aprender la regla de “invertir” la secuencia.

Cómo funciona
1. Inicialización – el modelo comienza con pesos aleatorios, precisión casi nula.

2. Entrenamiento – en cada paso se realiza una pasada directa (punto fijo de 8 bits) y actualización de pesos.

3. Aprendizaje gradual del patrón – después de varios cientos de iteraciones, el mecanismo de atención “detecta” la regla, y el modelo pasa de adivinar a conocer realmente.

> “Observamos una anatomía simplificada del propio aprendizaje… la máquina finalmente cruza la línea invisible — de adivinar a saber.” – Plummer

Resultados
- Precisión: 100 % en la tarea de secuencia inversa.

- Velocidad: alrededor de 350 pasos de entrenamiento, lo que tomó ~3,5 minutos en el PDP‑11/44 con caché.

Qué significa para la IA moderna
Plummer destaca que los principios fundamentales del aprendizaje — operaciones aritméticas repetitivas y corrección de errores — están completamente implementados incluso en un sistema tan simple.

“Esta vieja máquina no piensa mística; simplemente actualiza unas pocas miles de números. La esencia de la IA moderna es escalar este proceso.”

Así, el autor demostró que el mecanismo básico de los transformadores permanece igual, independientemente del hardware en el que operen.