Traducido con un LLM del original en inglés. Leer el original
Una loss function (función de pérdida) es un método para evaluar lo bien que un algoritmo de machine learning modela los datos que se le dan. Se usa en el contexto de la optimización matemática y la teoría de la decisión, y hace poco se convirtió en un concepto ampliamente conocido gracias a la llegada de la IA. Una forma intuitiva de entenderla es que es el término que intentamos minimizar en un problema de optimización.
Las loss functions nos dan una ecuación matemática con la que es mucho más fácil trabajar que con conceptos abstractos. Pero encontrar esta situación es en muchos casos tan difícil como el propio problema. La idea es que, solo por pertenecer a la especie humana, tiene que haber un conjunto de objetivos que coincidan, independientemente de la cultura, la edad o cualquier otra variable. Con suerte, al encontrar esta función podremos empezar a trabajar juntos más y mejor, ya que nuestros incentivos estarán alineados. Haré lo posible por ser consciente de mis propios sesgos e intentaré encontrar los términos más comunes.
Primero me gustaría repasar algunas críticas a este enfoque, la primera de ellas que es imposible encontrar un objetivo que satisfaga a todos los humanos a la vez. Se podría argumentar que somos seres puramente independientes que pueden interactuar entre sí. No estoy de acuerdo, ya que los humanos somos animales sociales para lo bueno y para lo malo, pero también reconozco que vivimos en una de las épocas más individualistas de la historia, y va a peor. De forma parecida, se puede decir que nuestro único objetivo es reproducirnos y que todo lo demás es solo contexto, pero creo que esa época la dejamos atrás hace mucho, y vemos una y otra vez que las sociedades más desarrolladas tienden a tener menos hijos y menos selección.
Nassim Talebs argumenta que en la realidad empírica las pérdidas reales a menudo no son matemáticamente bonitas y no son diferenciables. Esto es un ejercicio puramente teórico que probablemente se desmoronaría en la práctica y, para ser sincero, ni siquiera voy a escribir la ecuación; esto es solo una forma de poner por escrito algunas ideas y cosas que he leído sobre el tema.
Una cosa importante para este experimento es que hay que pensar a largo plazo, a infinitamente largo plazo, para afrontar bien este problema. Esto plantea otro conflicto, ya que esta forma de pensar puede llevar a consecuencias catastróficas en el presente, puesto que las ganancias potencialmente infinitas siempre van a pesar más que cualquier efecto negativo en el futuro, lo que puede dejar a la humanidad en un softlock
. Tampoco creo que deba haber un “tope” de hasta dónde podemos llegar, así que pongo una asíntota horizontal en 0 y simplemente podemos seguir acercándonos con ganancias decrecientes para siempre. Lo que represente llegar a 0 depende de ti, pero más adelante presentaré algunas sugerencias. También tiene que ver con las paradojas de Zenón
, que siempre me han fascinado y modelan
muchos de los misterios sin resolver
de nuestro universo.
Una primera aproximación ingenua, pero útil igualmente, es una puramente utilitarista. Deberíamos esforzarnos por maximizar la felicidad y el bienestar de tanta gente como podamos y tanto como podamos. Cuanta más felicidad y menos sufrimiento haya, mejor. Como la mayoría de argumentos utilitaristas, se desmorona en cuanto le aprietas un poco, pero la premisa es estrictamente correcta. Entre las críticas habituales están la imposibilidad de medir de verdad la felicidad y el sufrimiento, o cómo ignora por completo los conceptos de justicia y moral.
También es importante preguntarse si lo que buscamos maximizar es la felicidad total o la media. Usar la felicidad total cae en la conclusión repugnante
e incluso en la conclusión muy repugnante
, mientras que usar la media puede llevar a otras consecuencias indeseadas parecidas (es mucho más fácil repartir los recursos de la tierra cuando hay menos gente). Disfruto
los debates sobre cómo hacer funcionar el utilitarismo con modificaciones, y me gustaría explorarlos en un post futuro, pero para mí hace demasiado fácil justificar asesinar a gente.
El utilitarismo plantea una cuestión interesante, ya que centrar nuestros esfuerzos en optimizar una sola métrica sin tener en cuenta el contexto puede engañarnos y hacernos pensar que todo va bien cuando no es así. En el contexto de entrenar modelos de machine learning se conoce como overfitting, y hay que evitarlo a toda costa. A esto se le suele llamar ley de Goodhart
: “When a measure becomes a target, it ceases to be a good measure”. En principio estoy de acuerdo con ella, pero si la métrica es una función de evaluación más allá de la complejidad que los humanos pueden modelar, probablemente rompería esa ley. Yo no sé hacerlo, pero me pregunto cómo se podría conseguir y si siquiera querríamos hacerlo.
La ciencia ficción está llena de ejemplos de IAs descontroladas que acaban exterminando a la humanidad a cambio de clips. En el terreno de la fantasía, uno de mis favoritos viene de los libros de Stormligt Archives de Brandon Sanderson, donde el rey de Jah Keved, Taravangian
, en una visita a una pseudodiosa conocida como la Nightwatcher, pidió la capacidad de salvar el mundo. Como resultado, su inteligencia fluctúa de un día para otro, a veces volviéndolo idiota y a veces un genio, con su compasión siendo inversamente proporcional a lo listo que es. Su solución, escrita en una compilación llamada The Diagram (que escribió en un día en el que su inteligencia estaba en su punto máximo), le llevó a traicionar a la raza humana a cambio de la salvación de los pocos sobre los que gobernaba. Acaba dándose cuenta de sus errores, pero el daño ya está prácticamente hecho. Como suele pasar con los libros de Brandon Sanderson, se pueden hacer muchas comparaciones con la vida real.
Maximizar la felicidad es un buen punto de partida, pero es demasiado general y difícil de medir como para que encaje en la ecuación, así que tenemos que encontrar proxies. La pirámide de necesidades de Maslow
da un buen marco para pensar en esto (aunque desde luego no es perfecta
). Cualquiera con sus necesidades básicas sin cubrir (fisiológicas y de seguridad) representa un fracaso como comunidad y no debería recompensarse en la función. No me siento tan seguro como para sacar conclusiones de los niveles superiores, ya que esos pueden cambiar según las circunstancias (tiempos de paz/de guerra, por ejemplo), pero en general, cuanto más alto lleguemos y más gente, mejor.
Pero ¿queremos la mayor cantidad de gente posible? Quizá desde un punto de vista evolutivo tenía sentido, pero ¿sigue valiendo en una sociedad en la que ya no existe un proceso de selección, ni para grupos ni para individuos? Problemas como el calentamiento global o la superpoblación de la Tierra quedan fuera del alcance de este post, y si de verdad estamos pensando a largo plazo, tenemos que asumir una buena dosis de exploración espacial.
La razón por la que siempre preferiría más población a menos tiene que ver con la singularidad del ser humano, y en particular con el concepto de creatividad. Más adelante en el post quiero hablar de la importancia de la expresión artística, pero la mera adición de una consciencia única, con su conjunto único de experiencias, tiene para mí cierto valor innato. A ese valor se le suma nuestro nivel de inteligencia como especie, que por ahora es el más alto que hay. Uno podría preguntarse si tener más inteligencia añade más valor a esa consciencia. Eso tiene implicaciones crudas, tanto si consideras que los animales son conscientes como si no. Para evitar responder a esa pregunta, le doy más valor a los humanos porque son mi grupo, y no tengo en cuenta la inteligencia, ya que eso implicaría un grado de eugenesia con el que no me siento cómodo.
Otra buena razón por la que en general deberíamos querer más gente, desde un punto de vista económico, la explica Brian Kaplan:![]()
But suppose the world population will reach 10.1 billion by the end of this century. Would that be a good or a bad thing? Arguably a good thing, on several grounds. One is that it would enable greater specialization, which reduces costs. Second is that it would increase the returns to innovation by increasing the size of markets, though an offset is that innovation can produce immensely destructive as well as constructive technology. Third, the more people there will be, the more high-IQ people there will be, and hence the faster the growth of knowledge will be;
Estoy de acuerdo con él salvo en lo último. Brian, entre otros como Eric Weinsteinn
, defiende una postura sobre la que todavía no me he decidido. Sostienen que la mayor parte del progreso y la innovación, sobre todo en ciencia, sale de unas pocas mentes extremadamente brillantes, y que deberíamos esforzarnos más en encontrarlas y darles los recursos que necesitan para maximizar los resultados. La falta de descubrimientos científicos importantes en los últimos 20 años más o menos es difícil de explicar, y una explicación es que no tenemos las condiciones que permitieron que esa innovación se diera en primer lugar. Otra posible explicación es que todos los retos “fáciles” ya están resueltos y ahora nos queda el trabajo más difícil. No estoy de acuerdo con la implicación de que la mayor parte del trabajo científico que se hace tiene una importancia despreciable, pero desde luego es un problema que merece la pena pensar. Un blanco fácil son las instituciones, como la Ivy League, que llevan bastante tiempo perdiendo prestigio de forma constante y que, por mi experiencia personal estudiando informática en España, merecen muchas más críticas.
La muerte probablemente no debería recompensarse en la función, lo que significa que tenemos que intentar vivir tanto como podamos. La inmortalidad me parece perfectamente bien siempre que mantengamos un botón para salirse. Y si alguna vez llegamos a eso, estoy seguro de que habrá bastante gente argumentando que no deberías tener derecho a pulsar ese botón. Para evitarlo, deberíamos meter cierta cantidad de libertad en la fórmula. Algunos capitalistas reconvertidos en pensadores, como Peter Thiel, defienden “authentic human freedom as a precondition for the highest good”
. Estoy de acuerdo con él, aunque probablemente no en la misma medida. Siempre hay que buscar el equilibrio entre libertad y seguridad (que tenemos que garantizar como segundo escalón de la pirámide de Maslow), y aunque no creo que se pueda escapar nunca del todo de ese trade-off, sí podemos mejorar la tasa a la que intercambiamos una por otra con un concepto prestado de los griegos: el Thymos
.
El significado original de la palabra era algo cercano a “espíritu” o “brío”. Los griegos lo concebían como una ira justa, una necesidad y un deseo de luchar contra la injusticia que percibían en el mundo. La palabra tiene ciertos matices violentos, así que encaja bien. Maximizar este rasgo nos permitiría restringir mucha menos libertad para alcanzar la cantidad necesaria de seguridad. No creo que la realidad capitalista en la que vivimos hoy ayude a fomentarlo, ya que el individualismo y la competencia no suelen recompensar a quienes se desviven por buscar justicia. Creo que la curva del progreso tecnológico se opone directamente a esta, y deberíamos encontrar formas de aumentarla manualmente.
Tanto Marc Andreessen
como Curtis Jarvan
coinciden en la importancia de esta curva, y en que una sensación general de orden es necesaria para que una sociedad funcione bien. Pero, como con todo lo demás, hay que tener cuidado con la dosis. Un problema menos obvio es que con demasiado orden, aunque no se le “imponga” a la población, podríamos estancarnos. La estabilidad total es uno de los 3 peores finales posibles para la humanidad, probablemente justo antes del wireheading
y la extinción
. Hace falta cierta cantidad de caos e incertidumbre para no perder nuestra humanidad y seguir vivos. Llegar a cero en la función podría significar que nos convirtamos en una especie de ángeles, incapaces de tomar decisiones equivocadas y atascados en ese lugar para toda la eternidad. Si nos convertimos en Máquinas de Turing, perdemos.
Otra trampa en la que podemos caer la describe la distinción de Lenin entre libertad formal y libertad real, según la cual algunas sociedades solo contienen libertad formal, “freedom of choice within the coordinates of the existing power relations”, mientras prohíben la libertad real, “the site of an intervention that undermines these very coordinates.”
Precisamente por eso deberíamos valorar mucho más la creatividad, ya sea en un contexto de ingeniería o en uno puramente artístico. La innovación surge de encontrar nuevas formas de afrontar los problemas, y las consecuencias del progreso tecnológico han demostrado a lo largo de la historia ser abrumadoramente positivas (aunque esto se puede discutir
). Independientemente de eso, también creo en la importancia de la tecnología por la tecnología. La ciencia y la tecnología van de la mano en cada paso del camino y, para mí, una de las principales misiones de la humanidad es entender las leyes que gobiernan nuestra realidad. Aunque no puedo meter eso directamente en la fórmula (demasiado abstracto), tiene un impacto directo, ya que nos permite desarrollar las herramientas necesarias para tener más humanos y más felices.
Creo que una buena métrica para representar nuestros avances en los campos tecnológicos es la cantidad de energía que consumimos. También tiene una correlación bastante buena con nuestra calidad de vida si la dividimos per cápita. Y también da motivos para preocuparse, ya que ha dejado de crecer tanto en la mayor parte de Europa e incluso en EEUU. El principal culpable es el cambio climático, que me puedo saltar porque en la escala de tiempo que estoy mirando hay terraformación incluso de nuestro planeta original. La mía es una postura optimista en este frente, y eso que suelo ser pesimista. No estoy diciendo en absoluto que debamos ignorar el cambio climático como problema, solo creo que seremos capaces de superarlo antes de que se vuelva fatal.
Como defensor de usar más energía, soy fan de la nuclear. No tengo nada en contra de las renovables, pero nunca van a ser ni de lejos suficientes para satisfacer el crecimiento de la humanidad. También creo que podríamos encontrar una especie de “resquicio” en el universo (como el protocolo de teletransporte cuántico de energía
o las esferas de Dyson
)que nos permita obtener energía a un coste mucho menor. Una medida como la escala de Kardashev
también lo asume un poco. Me parece una de las pocas salidas del capitalismo, ya que el fin de la escasez debería parar los engranajes de la máquina
, siempre que no se genere artificialmente.
También podemos aplicarnos a nosotros mismos formas de medir civilizaciones alienígenas, por ejemplo la teoría del ensamblaje
. Aunque no pretendo entenderla del todo, me han fascinado las ideas que presenta Lee Cronin, sobre todo en lo relativo al no determinismo, pero para lo que nos ocupa solo necesitamos entender el índice de ensamblaje.
Assembly theory outputs how complex a given object is as a function of the number of independent parts and their abundances. To calculate how complex an item is, it is recursively divided into its component parts. The ‘assembly index’ is defined as the shortest path to put the object back together.
Este índice sirve para identificar vida (aunque hay críticas válidas
en su contra), ya que solo los sistemas vivos pueden producir moléculas complejas que no podrían formarse al azar en ninguna abundancia. Cuanto más complejo es un objeto, menos probable es que pueda existir una copia idéntica sin la selección de algún mecanismo basado en información que genere ese objeto. El índice de ensamblaje por sí solo no puede detectar selección, pero el número de copias combinado con el índice de ensamblaje sí. Y al encontrar selección, podemos identificar vida.
Me gusta este enfoque porque además nos da números reales que puedo usar en la ecuación como forma de medir nuestros avances. Como extra, si hay alienígenas buscando vida en otras partes de este universo, probablemente estén buscando el mismo tipo de cosa, ya que es la forma más directa de medir la complejidad.
Ya he dejado caer un par de pistas a lo largo del texto sobre el tema del crecimiento, pero hay que abordarlo directamente. Todo este tiempo he trabajado bajo la suposición de que el crecimiento constante es el único camino posible, ya que, hasta donde llega la historia, este crecimiento ha traído beneficios gigantescos para toda la humanidad. Pero ¿hay un punto en el que crecer deja de merecer la pena? Estamos viendo un poco de eso en cómo se montaron los mercados globales después de la Segunda Guerra Mundial, donde, mientras sigas creciendo, todo iría bien. Se suele decir que los avances tecnológicos y económicos siempre acaban filtrándose hacia los estratos más bajos, y probablemente eso se ha cumplido hasta ahora, pero no tiene por qué seguir siendo así.
Espero que seamos capaces de reconocer la situación si alguna vez llegamos a eso y adaptarnos en consecuencia. Movimientos como el aceleracionismo efectivo
sostienen que la vida es
una especie de fuego que busca energía libre en el universo para crecer, y que el crecimiento es fundamental para la vida. También creen que el capitalismo puro es la forma de encontrar las configuraciones de crecimiento más óptimas. No sé si estoy de acuerdo con que el crecimiento sea un requisito para la vida, pero desde luego no estoy de acuerdo con la utopía anarcocapitalista que persiguen. Aun así, estamos lejos de tener que responder a esa pregunta, y por ahora crecer es la mejor estrategia hacia nuestros objetivos, si es que hay alguno.
Por último, la cuestión del libre albedrío es sin duda un aspecto importante a tener en cuenta, pero no tengo pensado explorarla por ahora. Trabajo bajo la suposición de que existe de alguna forma y de que no somos máquinas deterministas como algunos
afirman.
Edit: Esta vez he tardado incluso menos de lo habitual en odiar este post. Mi intención era aportar algunas ideas sobre cómo deberíamos medir el avance de la humanidad, pero al intentar encajarlas en mi narrativa he estropeado gran parte de lo útil. Aun así, el post se va a quedar sin cambios, ya que la mayor parte del contenido sigue entrando en la categoría de interesante. Y también la fertilidad
2023-12-202023-12-20