Resulta que en estos últimos días, la industria de la Inteligencia Artificial, los fundadores de los laboratorios de frontera, y muchos interesados de un lado y del otro de la política occidental y el “efectivismo” (altruista o aceleracionista), decidieron volver a refregarse, entre ellos y en público.
Hace un par de meses que amagan, incluso si se mira con algo de perspectiva diría que más intensamente desde inicios de este año, coincidentemente con el crecimiento acelerado de la eficacia de la IA Agentiva.
Pero… parece que septiembre los puso efervescentes. ¿Será la proximidad del equinoccio que provoca cambios hormonales, que las ONGs que apoyan solapadamente uno u otro lado han logrado recaudar el dinero necesario, o efectivamente hay algo que se está cocinando dentro de sus áreas de investigación de frontera que no se animan a contarnos?
No me gustan las teorías conspirativas y mucho menos las ucronías. Una vieja amiga solía contar que su abuela decía que “si algo no se entiende fácilmente… hay sexo”. No parece el caso, pero algo hay.
Tratan de esconderlo, de ponerse serios, de hacerse los solemnes y preocupados por la humanidad (incluso los no altruistas efectivamente)… pero algo más hay y no sé qué.
Lo que sí sé, con absoluta certeza, es que todo lo que está sucediendo no debe leerse livianamente. Que es imposible tomar partido solamente por algún sesgo previo de confirmación. No es este el caso, no corresponde, guárdenselo para algo más, hay demasiado en juego. Aquí conviene informarse y escuchar todas las voces.
Todo empezó a calentarse cuando la semana pasada un tester junior (que de eso se trata, finalmente, toca el link y te enterarás) terminó teniendo casi el mismo espacio en los medios periodísticos norteamericanos del mainstream, que las elecciones de medio término que se avecinan (no, este artículo no va a tratar de medios. Tengo ciertas opiniones y algunas certezas, pero lo dejaremos pasar por ahora).
Ya alcanzaba con eso para generar temores generalizados (que no los minimizo), pero corrían el riesgo de quedarse cortos, así que apareció la segunda ola: los fundadores también debían vociferar lo suyo.
Resultó extraño, pero enseguida a Dario se le sumaron voces “de ambos lados del pasillo”. No suelo copiar imágenes sin derechos, pero creo que para esta introducción, resulta más práctico.
Nadie me va a reclamar derechos por esto, máxime desde que el mismo Elon prohibió el embebido de posts de X en Substack:
(Solo dos días después, Musk anunciaba la nueva versión de Grok y sugería que la siguiente sería AGI).
A partir de aquí fue que, a medida que iban despertándose de sus sueños de fin de semana americano y siestas europeas, los coros de adulaciones y críticas comenzaron a desplegarse. Y si, principalmente en X, que mal que les pese a muchos, sigue siendo el centro de la conversación tecnológica mundial.
Solo faltó una voz, la de la zona lejana de los dragones. No fue casual, supongo. Ya llegará. O no. Y eso es parte del problema.
A todas las voces hay que atender, decía y reafirmo, todas las opiniones y teorías debemos considerar con honestidad y profundidad: desde que solo quieren llevar agua para sus molinos y evitar el crecimiento de los modelos de código y pesos abiertos, pasando por algún intento de regulación que los proteja incluso de injerencias asiáticas (sobre todo de destilaciones masivas, fácilmente comprobables y con orígenes insólitos), hasta preocupaciones genuinamente altruistas, argumentos científicos y -porqué no- sugerencias de abogados corporativos que muy probablemente les estén indicando (¿ordenando?) cómo proceder, para poder luego sentarse todos en una misma mesa sin correr el riesgo de reclamos antimonopolio o demandas colectivas.
El Lobo…
"Abuelita, ¡qué ojos tan grandes tienes!"
Una muy querida amiga encendió la mecha: “Quiero saber qué opinas sobre las últimas publicaciones de que la IA nos va a exterminar muy pronto”.
Tenía picardía en su frase. Y así fue como nos pusimos a chatear en un grupo, con un testigo silencioso de por medio.
Yo venía un poco cansado. De cansancio general y del tema también. Cargado para un lado, cierto es, pero buscando con ganas escaparme del algoritmo para encontrar los otros argumentos y que me convencieran.
Lo primero que le dije fue que yo opinaba como David Sacks, porque de verdad creo eso y es mejor dejarlo claro desde el inicio:
“Dario ha escrito que necesitamos ‘regular el ritmo de la frontera’, y Sam ha estado de acuerdo. La gente podría sorprenderse por mi respuesta: adelante.
Ustedes son la frontera. Por cualquier métrica razonable —participación de mercado, crecimiento de ingresos, capacidad de los modelos— ustedes dos tienen un duopolio en la inteligencia de frontera. También han afirmado que la ventaja se está ampliando debido a la auto-mejora recursiva.
Yo no veo lo que ustedes ven en el laboratorio. Si los modelos no lanzados son lo suficientemente aterradores como para que piensen que deberían ir más despacio, apoyo su decisión de ser responsables.
Pero dejen de fingir que necesitan el permiso de alguien más. Dejen de fingir que la ley antimonopolio tiene que ser suspendida para que puedan formar un cártel. Dejen de fingir que necesitan un proceso de aprobación regulatoria que supere la responsabilidad por productos. Dejen de fingir que METR es independiente cuando está entrelazado con los inversores y el personal de Anthropic. Dejen de fingir que necesitan a esos mismos evaluadores para vigilar a competidores que ni siquiera están en la frontera.
Sobre todo, dejen de fingir que la motivación para ir más despacio es puramente altruista. Enfrentan una exposición masiva a responsabilidad por productos si sus productos habilitan un ciberataque verdaderamente dañino. El mercado ya castiga a los modelos que se comportan de maneras impredecibles o no autorizadas. Después del episodio de Hugging Face, es simplemente un buen negocio para OpenAI y Anthropic intercambiar algo de poder crudo por confiabilidad y predictibilidad. Llámelo alineación si quieren. También es solo darles a los clientes lo que quieren.
Regular el ritmo de la frontera también crearía espacio para una conversación más inteligente sobre regulación que el “cierren todo” de Bernie Sanders. China es muy improbable que se una a un acuerdo global, como saben, y eso también tiene que tomarse en cuenta.
Así que adelante y regulen el ritmo de la frontera. Ustedes son los que la están estableciendo. La forma más fácil de no construir superinteligencia es que ustedes acuerden no construirla. Exigir su marco regulatorio preferido como precio de eso se verá como chantaje al público y al sistema político. Así que simplemente háganlo.
Si lo hacen, comprarán buena voluntad para la próxima conversación. Si no lo hacen, sabremos que esto fue solo otra puja por captura regulatoria —o una operación psicológica de temporada electoral.”
En algún momento de la conversación le detallé: “todas las tecnologías disruptivas han pasado por este ‘doomerismo’. Esta es mucho más poderosa, no hay dudas, y la geopolítica está de lleno aquí, ya me has leído decir eso muchas veces en los últimos años. Pero... pero... hay muchos peros y además mucha política interna gringa. Fíjate el caso de este chico que renunció a Anthropic y salió a hacer ruido la semana pasada. Cuando lees algo más, te darás cuenta de la posible orquestación”.
Pasé luego por las exageraciones oportunas sobre el Wifi, los libros, las “máquinas pensantes”, los estudios genéticos, los videojuegos, hasta llegar a la tecnología nuclear. Así de profundos en 15 minutos de charla. Tanto que finalmente, de alguna zona recóndita de mi cerebro que se iluminó, terminé recordando a Stanislav Petrov, aquel militar ruso que evitó una escalada nuclear hace varias décadas, solo por su suspicaz intervención humana, imprescindible en cualquier proceso con altos niveles de riesgo.
Ahora lo llaman alineamiento (¿alineación?), “human-in-the-loop”, desescalamiento.
Siempre existió. Solo había que tomárselo en serio y trabajarlo en paralelo.
… La Inteligencia Artificial…
“Deberías sacar en estos días un post, jajajajaj”, fue uno de los últimos mensajes de mi amiga, así que a ella le dedico esto.
Las monedas tienen dos caras. Esta tiene muchas más y sigue girando en el aire. Multidimensional.
Cuestión que anoche me pude hacer un tiempo (mientras esperaba el resultado de un experimento de “vibe coding” con Codex, al menos hasta que me haga desaparecer junto con el resto de la humanidad, más allá de lo bien que lo estoy tratando) y me puse a diagramar y escribir esta opinión. La dejé casi lista.
Cuando pensé en la idea del título, otra zona de mi cerebro se iluminó: “de esto ya he hablado. Este título ya lo usé”. Así de frágil está mi mente últimamente.
20 de Enero de 2024. En aquel momento el temor pasaba principalmente por la producción y consumo de contenidos con Inteligencia Artificial Generativa y Predictiva. Miedo a la pérdida de fuentes de trabajo, a la idiotización de la gente, a nuestro futuro.
Escribí en ese momento “La Inteligencia Artificial se comió al Lobo”.
Hoy, para terminar este ensayo, lo volví a leer. Y no me arrepiento. El único defecto que tiene es que no previó adecuadamente el pivot intenso hacia la Inteligencia Artificial Agentiva. Esa que hoy genera miedo a… la pérdida de fuentes de trabajo, a la idiotización de la gente, a nuestro futuro.
Mismo origen, más sofisticado, más temor. ¿Más cercano? Decía:
“Así fue siempre la historia de la humanidad. Desde la época de la imprenta de Gutenberg, cada avance tecnológico que permitió automatizaciones y masificación en la producción o distribución de contenidos, ha provocado tensiones entre sus protagonistas. Se dice que la imprenta provocó incluso guerras -religiosas, aquellas-, por la posibilidad de alfabetización del ciudadano común y la divulgación de información no controlada.
“No controlada” es la expresión clave. Hoy más que nunca vivimos en un mundo globalizado, donde la información circula de forma casi descontrolada a través de canales y plataformas digitales. Es cierto que casi la mitad de la población mundial aún no tiene acceso a Internet, pero seguramente el flujo de contenidos online le llega indirectamente e impacta en su forma de pensar y actuar.
Vivimos, también, en un universo donde el productor puede transmitir sus mensajes en forma directa al consumidor. Y creemos que eso es efectivamente así, sin darnos cuenta del poder de las plataformas de intermediación y sus algoritmos de inteligencia artificial predictiva, que terminan eligiendo (o al menos sugiriendo) qué vemos y qué no. Nuevos medios que reemplazan a los medios preexistentes en las preferencias. La decisión está en cada uno: consumir con históricos sesgos humanos o con estos nuevos-viejos sesgos algorítmicos.
¿Qué hay de nuevo, entonces, si hace ya más de una década que los hábitos de consumo tienden a concentrarse en Internet y más de un lustro que estas herramientas se mueven alrededor de la Inteligencia Artificial, prediciendo nuestros intereses, acertando cada vez más, encerrándonos en nuestra propia cámara de eco, de la que es difícil salirse?”
Historias que se repiten desde tiempo inmemoriales, pero con períodos intermedios cada vez más acotados.
Alejandro VI (un Borgia con demasiados pocos escrúpulos como para ser tan siquiera sacerdote) plasmó en su tristemente célebre bula papal Inter Multiplices del 1 de junio de 1501:
"El arte de la imprenta puede ser de gran servicio en la medida en que fomenta la circulación de libros útiles y probados; pero puede provocar graves males si se permite que amplíe la influencia de obras perniciosas. Será necesario, por tanto, mantener un control total sobre los impresores para impedir que impriman escritos que sean antagónicos a la fe católica o que puedan causar problemas a los creyentes."
Se llama pérdida de control. Todo fue culpa de Gutenberg.
“La historia ocurre dos veces: la primera vez como una gran tragedia y la segunda como una miserable farsa”, escribía Marx en El Brumario.
Esta historia se ha escrito demasiadas veces ya, y ha superado con creces el drama y la farsa.
… y Viceversa
Es distinto. Esta vez es distinto.
Claro que lo es. Por cuestiones tecnológicas. De poder. De geopolítica. De sociedad. De aceleración y velocidad del cambio.
Pero seguramente en cada momento de disrupción del pasado, aquellos que lo vivieron en primera persona dijeron lo mismo.
Pero esta vez es en serio.
Seguro que lo es.
Pero, como en cada una de aquellas oportunidades, más allá de que nos duela, más allá de que nos pese, más allá de que nos resulte más cómodo hacernos los distraídos, depende de nosotros.
Se lo espetó David Sacks a Amodei y Altman: “Así que adelante y regulen el ritmo de la frontera. Ustedes son los que la están estableciendo. La forma más fácil de no construir superinteligencia es que ustedes acuerden no construirla.”.
Pisar el freno y desarrollar AI Alignment depende de ellos. No frenar y aún así priorizar el AI Alignment también depende de ellos. No hacer nada y seguir como estaban… también depende de ellos.
Cuando solamente nos preocupábamos por la defensa de la creatividad humana, yo terminaba mi anterior ensayo, casi 3 años atrás, diciendo algo que hoy reafirmo:
”Hasta ahora ninguna herramienta tecnológica ha logrado sacarme lágrimas tanto como Meryl Streep o Sofía Loren, ninguna plataforma GenAI me hizo cantar a los gritos tanto como Charly García, ningún escritor ‘ChatGPTeado’ me tuvo en vela toda la noche por no poder dejar de consumir los capítulos de un libro, tanto como Cortázar en Rayuela o García Márquez en Noticia de un Secuestro.
¿Va a pasar? No tengo dudas. ¿Tenemos que prepararnos? Por supuesto. ¿Podemos evitarlo? Claro que no. Mejor dejar de resistirnos por una vez, y aprender de los palistas en medio de un río torrentoso. No se cansan remando contra la corriente: miran más allá, descubren dónde están las piedras que deben evitar, dónde los mejores flujos de agua que deben aprovechar, maniobran para llegar más rápido al siguiente remanso. Que siempre existirá, como siempre ha existido. Busquemos mejor los remansos, que la vida sigue.”