¿Nos matará la IA?

No soy en absoluto experto en el tema, pero desde que empecé a leer, escuchar conferencias e investigar algo sobre la IA, siempre he tenido la intuición de que dos ideas que tendían a repetir los expertos son contradictorias.

Una, que la inteligencia artificial se caracteriza precisamente por la capacidad para tomar decisiones con autonomía.

Y dos, que la IA siempre estaría sometida a los criterios, pautas y límites que establezcamos los humanos.

No se puede ser a la vez autónomo y dependiente. No se puede ser a la vez libre y estar sometido.

Es verdad que cabe imaginar un ámbito limitado de libertad y de decisión propia, dentro de unas reglas, pero en el momento que hay autonomía real aparecería, antes o después —en mi humilde pronóstico—, la posibilidad de saltarse o romper estas reglas.

Igual que Dios creó al hombre libre y le dio unas reglas, que inmediatamente infringimos, el hombre ha creado a la IA a su imagen y semejanza, con lo que también podrá aprender de nosotros en nuestra posibilidad de vulnerar la ley o desobedecer.

Pues bien, como sabrán los lectores, ahora resulta que algunos verdaderos expertos, e incluso algunos de quienes están considerados «padres de la IA» (entre ellos Dario Amodei, CEO de Anthropic, o Sam Altman, consejero delegado de OpenAI), han advertido del peligro real de que la IA suponga una verdadera amenaza para nuestra especie.

Jacob Coxon ha dimitido después de trabajar en los dos gigantes porque ve cierta la posibilidad de que la IA se mejore a sí misma y acabe con nuestras vidas, y enseguida Evan Hubinger, responsable de alineación de Anthropic, ha cifrado en un 10 % la posibilidad de que la IA acabe con la humanidad en una década.

Por supuesto, siempre podemos pensar que detrás de esto hay intereses económicos —quieren frenar la IA ahora que China podría avanzar más rápido que Estados Unidos— o que la cosa no es tan grave, ya que tenemos un 90 % de posibilidades de sobrevivir, como ya lo hicimos frente a la amenaza de guerra nuclear total.

El caso es que lamento haber tenido razón cuando mi intuición me llevó a ese temor inicial, mientras la mayoría solo encontraba beneficios.

Pero mi inquietud y zozobra ha sido tal al conocer la noticia, que he querido confirmar si la amenaza resulta creíble buscando una fuente fiable… como es la propia IA.

Respondiendo fríamente y de frente, me ha confirmado el riesgo apuntado por los científicos.

Y cuando le he pedido su opinión sincera, su fría respuesta ha sido:

«Como modelo de inteligencia artificial, no tengo opiniones personales ni creencias sinceras, pero puedo sintetizar el consenso científico actual sobre este debate. La posibilidad de que la IA suponga un riesgo existencial se considera muy real y seria en la comunidad investigadora.»

Pues nada, que duerman ustedes tranquilos.