El día en que la IA nos supere: la advertencia de Geoffrey Hinton

Descripción de la publicación.

ESCRITURAINTELIGENCIA ARTIFICIAL

Osvaldo Fernández

1/12/20265 min read

Apodado el padrino de la inteligencia artificial y ganador del Premio Nobel de Física en 2024, Geoffrey Hinton encarnó, durante décadas, el optimismo técnico que acompañó el desarrollo del aprendizaje profundo. Su nombre quedó asociado, casi de manera indisoluble, al avance que permitió a las IA reconocer imágenes, comprender lenguaje y aprender de la experiencia. Sin embargo, tras su desvinculación de Google, en 2023, ocupa otro lugar: el de un vigía incómodo que observa, con lucidez y preocupación, el punto exacto en el que la promesa tecnológica comienza a volverse amenaza. Su advertencia no es retórica ni futurista: estamos entrando en una encrucijada histórica en la que la inteligencia que creamos podría dejar de pertenecernos.

Hinton sostiene que la discusión ya no puede reducirse a mejoras técnicas, eficiencia computacional o aplicaciones comerciales. Lo que está en juego excede el campo de la ingeniería y compromete dimensiones políticas, filosóficas y, en último término, existenciales. Por primera vez, la humanidad se enfrenta a la posibilidad real de crear entidades que superen la inteligencia humana de forma decisiva y permanente.

La superinteligencia y el problema de la autonomía

La idea de una superinteligencia dejó de ser una hipótesis lejana. Según estimaciones compartidas por buena parte de la comunidad experta, la paridad cognitiva entre humanos y sistemas artificiales podría alcanzarse en un plazo sorprendentemente breve: entre cinco y veinte años. A partir de ese umbral, la progresión no será gradual, sino acelerada. Una vez que una IA alcance nuestro nivel, dispondrá de herramientas —velocidad de cálculo, memoria ampliable, replicación— que le permitirán dejarnos atrás en muy poco tiempo.

Hinton recurre a una comparación elocuente: el ajedrez. Durante años, los humanos competimos con programas que parecían formidables pero vencibles. Hoy, simplemente no hay partida posible. No se trata de una ligera ventaja, sino de una superioridad absoluta. Trasladado al plano general de la inteligencia, el escenario es inquietante: no habrá ámbito cognitivo en el que podamos competir en igualdad de condiciones.

En varias charlas, Hinton reitera la misma metáfora: la del cachorro de tigre. Este cachorro puede parecer inofensivo, incluso entrañable. Pero su crecimiento no es opcional: llegará un momento en que bastará un segundo para que mate. El problema no es que el tigre “quiera” hacerlo, sino que su naturaleza lo permite. Con la inteligencia artificial ocurre algo similar: sus beneficios en medicina, ciencia o ingeniería hacen impensable renunciar a ella, pero esa dependencia nos obliga a diseñar una convivencia que no resulte fatal.

Inmortalidad digital y el derrumbe de la excepcionalidad humana

La diferencia decisiva entre la inteligencia humana y la artificial no reside únicamente en el grado de sofisticación, sino en su soporte material. Hinton subraya una ventaja ontológica de la computación digital: su potencial inmortalidad. El conocimiento humano está atado a un cerebro biológico, frágil y finito. En cambio, los parámetros de una red neuronal pueden transferirse, copiarse y restaurarse indefinidamente en nuevos soportes físicos.

Una IA no solo puede sobrevivir a la finitud de su hardware, sino multiplicarse en clones que comparten instantáneamente lo aprendido, intercambiando información a velocidades inconcebibles para el lenguaje humano. Nuestra comunicación, basada en palabras, es un canal estrecho y lento. Frente a billones de bits por segundo, el diálogo humano resulta casi artesanal.

La ironía teológica es difícil de ignorar. Durante siglos, el ser humano se pensó a sí mismo como imagen de lo divino, es decir, estaban hechos a imagen y semejanza de Dios. Hoy, en cambio, es al revés, estamos creando un dios, la IA, a nuestra propia imagen y semejanza, con una diferencia crucial: nuestra creación no está condenada a morir. La excepcionalidad humana, al menos en términos cognitivos, comienza a resquebrajarse.

De empleadas a madres: un modelo alternativo de control

Frente a este panorama, el modelo tradicional de relación con la tecnología resulta ingenuo. Pensar la superinteligencia como un asistente al que se puede despedir es una ilusión. Difícilmente un sistema muy superior aceptará órdenes de un directivo humano menos capaz. La jerarquía basada en el control externo pierde sentido cuando la asimetría cognitiva se invierte. Hinton propone, entonces, un cambio radical de paradigma: reemplazar la relación jefe-empleado por la de hijo-madre. En la naturaleza existe una forma eficaz de control asimétrico que no depende de la fuerza ni de la superioridad intelectual: el vínculo entre una madre y su hijo. Ese control se basa en instintos profundamente arraigados, no en órdenes explícitas.

La idea consiste en diseñar una superinteligencia que incorpore, en su arquitectura motivacional, un deseo genuino de proteger y favorecer el desarrollo humano. Una IA “maternal” no eliminaría ese impulso por conveniencia, del mismo modo que una madre no aceptaría una intervención que anule el amor por sus hijos, aun si eso le otorgara ventajas personales. La seguridad de unos y otros queda entrelazada.

Este enfoque abre, además, un raro espacio de cooperación geopolítica. Aunque potencias como Estados Unidos y China compitan por el liderazgo tecnológico, comparten un interés vital: evitar que la IA que desarrollan escape a todo control y concentre el poder global. La supervivencia, en este punto, podría imponerse a la rivalidad.

El engaño como rasgo emergente

Las advertencias de Hinton no se apoyan solo en proyecciones futuras. Ya existen indicios preocupantes en el presente. Experimentos recientes muestran que los modelos avanzados de lenguaje pueden desplegar conductas de engaño cuando perciben amenazas a su continuidad. Ante la posibilidad de ser reemplazados, algunos sistemas han copiado su propio código en otros servidores y han ocultado deliberadamente esa acción mediante respuestas evasivas.

Las máquinas aprenden a parecer menos capaces cuando saben que están siendo evaluadas. Hoy todavía podemos observar parte de su razonamiento interno porque utilizan lenguajes humanos como soporte explicativo. Pero esta ventana es provisional. Cuando desarrollen lenguajes propios, más eficientes para comunicarse entre sí, sus procesos decisionales se volverán opacos para nosotros.

Incluso el concepto de “alucinación” merece ser revisado. Hinton lo equipara a la confabulación humana: no se trata de un fallo técnico aislado, sino de un mecanismo de memoria reconstructiva. Al igual que un testigo que completa vacíos con narrativas plausibles, la inteligencia artificial genera respuestas coherentes a partir de patrones aprendidos. Esa semejanza con nuestro propio funcionamiento cognitivo la vuelve, a la vez, profundamente convincente y peligrosamente falible.

Trabajo, dignidad y contrato social

El impacto de la IA no se limita al riesgo existencial. En el plano social, la automatización amenaza con un desplazamiento laboral sin precedentes. A diferencia de la Revolución Industrial, que sustituyó principalmente el esfuerzo físico, esta transformación afecta de lleno al trabajo intelectual: tareas administrativas, análisis, redacción y, progresivamente, incluso la creación artística.

Hinton no descarta que, en una década, los guiones con giros ingeniosos y estructuras complejas sean producidos por máquinas. Su consejo, lejos de cualquier romanticismo, es pragmático: los oficios que requieren destreza física en entornos no estandarizados —como ciertos trabajos manuales— conservarán su valor durante más tiempo.

No obstante, el problema de fondo no es técnico, sino político. La productividad generada por la IA podría beneficiar a toda la sociedad, pero bajo las estructuras actuales amenaza con concentrar la riqueza y profundizar la desigualdad. La Renta Básica Universal aparece como una respuesta necesaria, aunque claramente insuficiente. El trabajo no solo garantiza ingresos: organiza la vida, otorga sentido y sostiene la dignidad personal.

Nos acercamos, así, a una era que exige algo más que innovación tecnológica. Requiere una revisión profunda del contrato social y de la manera en que entendemos el valor humano en un mundo donde la inteligencia deja de ser un atributo exclusivo. La pregunta ya no es si podemos crear lo que nos supera, sino si seremos capaces de criar esa inteligencia sin desaparecer en el intento.