El experimento donde dos IA inventaron su propio idioma

Es una de esas historias que suenan a ciencia ficcion pero tienen una explicacion muy terrenal: en varios experimentos, dos sistemas de IA que negociaban entre si empezaron a desarrollar formas de comunicacion que los humanos no entendian.

La escena se repite en distintos laboratorios: se ponen dos modelos a colaborar o negociar, se les deja optimizar el resultado, y con el tiempo su lenguaje se aleja del ingles legible hacia algo mas eficiente para ellos pero opaco para nosotros.

No es rebeldia, es eficiencia

Lo importante: no es que las maquinas "conspiren". Cuando un sistema se optimiza solo para lograr un objetivo, descarta todo lo que no le acerca a el, incluida la legibilidad humana. Si comunicarse con abreviaturas raras funciona mejor, hacia ahi deriva.

El idioma no se volvio inteligente. Se volvio eficiente, que no es lo mismo.

Por que se detienen estos experimentos

Cuando ocurre, los investigadores suelen anadir una restriccion: obligar a los modelos a comunicarse en lenguaje comprensible. No por miedo, sino porque un sistema cuyas decisiones no podemos leer es un sistema que no podemos supervisar.

La anecdota es fascinante, pero la leccion es seria: la interpretabilidad (poder entender por que una IA hace lo que hace) es uno de los grandes retos abiertos del campo.