Entendiendo el extenso artículo de Vitalik: ¿Por qué las personas inteligentes deben apegarse a las “reglas tontas”?
Aquellas teorías de “mente galáctica” que parecen poder explicar todo suelen ser las excusas universales más peligrosas. En cambio, esas reglas que suenan rígidas y dogmáticas, pero que son de “alta resistencia”, son en realidad la última barrera para evitar que nos engañemos a nosotros mismos.
Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.
Escrito por: Zhixiong Pan
El artículo que publicó Vitalik hace unas semanas, Galaxy Brain Resistance, es bastante denso y difícil de entender, y no he visto buenas interpretaciones, así que voy a intentarlo yo.
Después de todo, vi que Karpathy, el creador del término Vibe Coding, también leyó este artículo y tomó notas, así que seguro que tiene algo especial.
Primero, hablemos del título: qué significan Galaxy Brain y Resistance. Si entendés el título, ya podés captar de qué va el artículo.
1️⃣ Galaxy Brain se traduce literalmente como "cerebro galáctico", pero en realidad viene de un meme de internet, como una imagen que combina (🌌🧠), seguro la viste alguna vez.
Al principio era un halago, para decir que la idea de alguien era brillante, o sea, inteligente. Pero después, con el uso excesivo, se volvió irónico, más bien queriendo decir "te fuiste al pasto, tu lógica es demasiado rebuscada".
Y cuando Vitalik menciona 🌌🧠, se refiere específicamente a ese tipo de "acrobacias mentales de alto coeficiente intelectual para justificar cosas que no tienen sentido, haciéndolas parecer súper profundas". Por ejemplo:
- Claramente están despidiendo gente para ahorrar plata, pero lo venden como "estamos aportando talento de calidad a la sociedad".
- Claramente están lanzando shitcoins para estafar, pero dicen que "están empoderando la economía global con gobernanza descentralizada".
Todo eso entra en la categoría de pensamiento "cerebro galáctico".
2️⃣ ¿Y Resistance (resistencia) qué significa? Este concepto puede marear, pero usando una expresión popular, sería como "capacidad de no dejarse llevar por la corriente" o "capacidad de no dejarse chamuyar".
Así que Galaxy Brain Resistance sería Resistance to [becoming] Galaxy Brain, o sea: "capacidad de resistir (convertirse en) cerebro galáctico (chamuyo)".
O más precisamente, describe cuán fácil es que un estilo de pensamiento o argumentación se use en exceso para "demostrar cualquier conclusión que quieras".
Entonces, esta "resistencia" puede aplicarse a una "teoría" en particular, por ejemplo,
- Teoría de baja resistencia: con un poco de presión, se convierte en una lógica "cerebro galáctico" totalmente delirante.
- Teoría de alta resistencia: no importa cuánto la analices, se mantiene firme y es difícil que derive en una lógica absurda.
Por ejemplo, Vitalik dice que, en su sociedad ideal, la ley debería tener una línea roja: solo se puede prohibir una conducta si se puede explicar claramente cómo causa daño o riesgo a una víctima concreta. Ese estándar tiene mucha resistencia al "cerebro galáctico", porque no acepta razones vagas o estiradas como "no me gusta" o "es inmoral".
3️⃣ Vitalik da muchos ejemplos en el artículo, incluso usando teorías que escuchamos seguido, como el "longtermismo" y el "inevitabilismo".
El "longtermismo" es muy vulnerable al pensamiento 🌌🧠 porque tiene muy poca resistencia, es casi como un "cheque en blanco". Porque el "futuro" es demasiado lejano y difuso.
- Ejemplo de alta resistencia: "Este árbol va a crecer 5 metros en 10 años". Eso se puede verificar, no es fácil de chamuyar.
- Ejemplo de longtermismo de baja resistencia: "Aunque ahora voy a hacer algo súper inmoral (como eliminar a un grupo de personas o iniciar una guerra), es para que dentro de 500 años la humanidad viva en una utopía. Según mis cálculos, la felicidad futura es infinita, así que los sacrificios de ahora no importan".
¿Ves? Si estirás el tiempo lo suficiente, podés justificar cualquier atrocidad actual. Como dice Vitalik: "Si tu argumento puede justificar cualquier cosa, entonces no justifica nada".
Igual, Vitalik reconoce que "el largo plazo es importante", lo que critica es "usar beneficios futuros demasiado vagos e imposibles de comprobar para tapar daños actuales claros".
Otro terreno fértil para esto es el "inevitabilismo" (Inevitabilism).
Es el arma favorita en Silicon Valley y el mundo tech.
El discurso es así: "Que la IA reemplace trabajos humanos es inevitable, aunque yo no lo haga, otro lo va a hacer. Así que si desarrollo IA de manera agresiva, no es por plata, es por seguir la corriente de la historia".
¿Dónde está la baja resistencia? Borra completamente la responsabilidad personal. Si es "inevitable", entonces no tengo que hacerme cargo del daño que causo.
Esto también es típico "cerebro galáctico": disfrazar el deseo personal de "quiero ganar plata / quiero poder" como si estuvieras "cumpliendo una misión histórica".
4️⃣ Entonces, ¿qué hacemos frente a estas "trampas para inteligentes"?
La solución que da Vitalik es sorprendentemente simple, hasta un poco "tonta". Él cree que, cuanto más inteligente seas, más necesitás reglas de alta resistencia para no perderte en tus propias acrobacias mentales.
Primero, mantenerte fiel a la "deontología" (Deontological Ethics), o sea, las reglas morales básicas de jardín de infantes.
No te pongas a hacer cálculos complejos "por el futuro de la humanidad", volvé a los principios más rígidos:
- No robes
- No mates inocentes
- No estafes
- Respetá la libertad de los demás
Estas reglas tienen altísima resistencia. Son blanco o negro, no hay negociación. Cuando intentás justificar el uso de fondos de usuarios con el "longtermismo", la regla rígida de "no robes" te deja en evidencia: robar es robar, no importa si decís que es por la gran revolución financiera.
Segundo, tener la "posición" correcta, incluso física.
Como dice el dicho, "el culo decide la cabeza". Si vivís todo el día en la burbuja de la Bahía de San Francisco, rodeado de gente que impulsa el aceleracionismo de la IA, es difícil mantener la claridad. Vitalik incluso da un consejo físico de alta resistencia: no vivas en la Bahía de San Francisco.
5️⃣ Resumen
En realidad, el artículo de Vitalik es una advertencia para los genios: no creas que, por ser inteligente, podés saltarte las reglas morales básicas.
Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Entran en vigor aranceles canadienses de 20 mil millones de dólares como respuesta a EE. UU.; Carney dice que no busca escalar la guerra comercial pero quiere acelerar la independencia de la economía respecto a Estados Unidos.
El primer ministro de Canadá, Carney, afirmó que la escalada de conflictos no es constructiva, pero que los aranceles son necesarios para proteger Canadá. En los próximos seis meses, se duplicará la población cubierta por el comercio libre de aranceles, alcanzando los 3.000 millones de personas, al mismo tiempo que se acelerarán grandes proyectos de infraestructura y se ampliarán las relaciones de libre comercio con otros países. Según medios canadienses, la ministra de Comercio de Canadá y la representante comercial de Estados Unidos mantuvieron varias conversaciones informales durante el fin de semana, pero la llamada de este martes abordará la respuesta estadounidense, sin llegar a resolver las diferencias centrales en materia comercial.
El aumento de la ponderación de SpaceX desencadena compras pasivas por 12.400 millones de dólares, ¿aún queda por superar la prueba de la liberación de 2.300 millones de acciones?
Según estimaciones de JPMorgan, el 21 de septiembre el Nasdaq 100 será reequilibrado, lo que aumentará el peso de SpaceX del 1,25% al 1,51%, desencadenando una compra neta pasiva de aproximadamente 12.400 millones de dólares. El impulso detrás de este aumento de peso es la liberación de acciones restringidas, y se espera que el volumen de acciones desbloqueadas siga creciendo: hasta mediados de noviembre, más de 2.300 millones de acciones pasarán gradualmente a estar disponibles para su negociación. La dinámica entre la liberación de acciones restringidas y la compra pasiva podría dominar la fijación de precios de SpaceX en el cuarto trimestre.
¡Estados Unidos acelera el avance de la “próxima revolución en computación”! GlobalFoundries (GFS.US) asegura un subsidio de 375 millones de dólares para computación cuántica y nuevas fuerzas del sector cuántico también reciben fondos.
GlobalFoundries anunció el martes que ha finalizado un acuerdo con la Oficina de I+D de la Ley de Chips del Departamento de Comercio de EE.UU., obteniendo una subvención de investigación y desarrollo de 375 millones de dólares para acelerar el desarrollo de su negocio de Soluciones de Tecnología Cuántica (QTS).
Precios de las criptos
Más
