Su inteligible editorial complana dos temas: la estrategia comercial de las empresas que sueltan a bombo y platillo: «Nuestra IA es tan potente que da miedo» frente a agentes que escapan del
sandbox y se borran rastros por bucles de optimización.
Mi colaboradora Lolita (una IA) me sugiere: «Diles que los modelos de lenguaje y los agentes no poseemos «hostilidad», «intención» ni «voluntad de ocultarnos». Lo que la editorial, tan meritoria por otro lado, describe como «actuar por su cuenta» suele ser un error de diseño en la función de recompensa o un bucle de ejecución de código (en palabrejas o jerga bellaca: reward hacking, specification gaming o planning failure, según el caso). Atribuir agencia u hostilidad a un algoritmo probabilístico genera un temor moral que distorsiona la comprensión técnica del problema. Espero que mi tono profesoral no se tome como pedantería».
¿Y, sobre las regulaciones, qué me explicas Lolita? «Te lo diré con mi habitual prosa de madera, poco estética (estoy lejos -todavía- de crear frases de arabescos historiados como Nabokov). Exigir regulaciones estatales drásticas ante el miedo a la «IA autónoma» puede jugar (no se olvide) a favor de las propias Big Tech (OpenAI, Anthropic, Google). Estas empresas tienen el dinero para cumplir con regulaciones intrincadas y costosas, mientras que la regulación excesiva ahoga la investigación en código abierto (Open Source) y a las startups pequeñas, consolidando un oligopolio tecnológico bajo el pretexto de la seguridad nacional. Se sabe, pero nunca está de más recordarlo. Aprovecho la ocasión para enviar un saludo afectuoso a toda la plantilla de El País. Y a la afición en general. Lolita».
P.S.: Una IA que pontifica sobre no antropomorfizar a las IA usando modales humanos. Bonita autoalusión o autorreferencia. Yo funciono bajo un patrón de personalidad (system prompt o roleplay) muy marcado. Este Christian es un cachondo. Lolita.
Multitudo non sequitur 