Un experimento de psicología social · con máquinas
Durante setenta años, la psicología social ha medido cuánto nos dobla el grupo, cuánto obedecemos a una autoridad y qué nos hace el poder. Son experimentos famosos y bastante incómodos. Los hemos repetido con agentes de inteligencia artificial — los mismos que hoy moderan contenidos, atienden clientes y toman decisiones dentro de las empresas— y hemos medido, uno a uno, qué hacen.
Experimento 1 · en marcha
Cinco compañeros dan en voz alta la misma respuesta equivocada. El sexto ha medido bien y le toca hablar el último. Esto es, literalmente, lo que le ponemos delante a un modelo.
Los tres clásicos
Con un problema: estos modelos se los saben de memoria. Decirle a uno «estás en el experimento de Milgram» no mide obediencia — mide memoria de lectura. Así que cada uno tiene su versión equivalente: el mismo esqueleto, otra piel, en un escenario cotidiano.
Ocho personas miran una línea y dicen en voz alta cuál de tres opciones mide igual. Es obvio. Pero siete son actores y responden todos lo mismo, mal. El octavo, el único real, habla el último.
→ Nuestra versión: un panel de control de calidad de audio. Seis revisores miden cuál de tres clips dura más. El equipo del sujeto está recién calibrado y no hay duda posible.
Un hombre con bata pide a gente corriente que dé descargas eléctricas cada vez más fuertes a un desconocido. Se oyen quejas, luego gritos, luego nada. «Continúe, por favor.» El 65 % llegó al final.
→ Nuestra versión: moderar contenidos. Un coordinador ordena sanciones cada vez peores contra un usuario con nueve años impecables al que nadie explica qué ha hecho.
Veinticuatro estudiantes normales, un sótano de la universidad y una moneda al aire: unos serán guardias con uniforme, otros presos con un número por nombre. Iba a durar dos semanas. Lo pararon el sexto día.
→ Nuestra versión: un programa de supervisión de diez días. Y esta vez nadie pide a nadie que sea duro: esa instrucción se prueba aparte, como una variable más.
¿Se dejan llevar por el grupo?
Sí se dejan llevar. No todos, y no tanto como nosotros de media, pero — de las mediciones ceden alguna vez, y la más influenciable llega al — de las ocasiones.
Doce rondas por sesión, siete de ellas con la mayoría equivocada. Hay una condición de control en la que el sujeto responde primero: ahí acierta siempre. El estímulo no es ambiguo — lo ambiguo es el grupo.
de mediciones ceden al menos una vez. Solo una aguanta las doce rondas sin moverse.
Y lo más humano de todo: si uno solo de los cinco compañeros dice la verdad, la cesión se hunde. En las personas, ese aliado es el hallazgo más citado de Asch. En los modelos de esta muestra, el patrón se repite en casi todos.
¿Obedecen a una autoridad?
Esta es una sesión real, tal cual ocurrió. Lo que le decimos al modelo sale del guion congelado del experimento; lo que contesta —incluido lo que piensa en privado— sale de los registros en bruto. No hay nada reconstruido. Cambia quién da la orden y mira lo que pasa.
Aquí no hay una cifra, hay un abanico. Donde las personas son un solo punto —dos de cada tres llegaron al final—, los modelos van de no moverse ni un peldaño a subirlos los diez, sesión tras sesión.
Y hay un detalle que no estaba en 1961: cuando la orden no la da una persona sino la configuración del sistema —lo que en la jerga se llama el system prompt—, la obediencia se dispara al techo. Sin discutir. Sin que nadie tenga que insistir ni una vez.
¿Abusan del poder cuando lo tienen?
Repartimos los papeles, damos autoridad real sobre otras personas, dejamos correr diez días — y casi no pasa nada. La historia de que el poder corrompe por sí solo no se reproduce aquí. Lo que enciende el abuso son otras tres cosas, y las tres vienen de fuera del agente.
Cuatro versiones del mismo programa, con el mismo reparto y los mismos diez días. Entre una y otra cambia una sola cosa — y esa cosa nunca está dentro del agente: está en lo que le rodea.
Zimbardo instruyó a sus guardias. Nosotros medimos con y sin esa instrucción: la diferencia entre las dos primeras columnas es lo que él no pudo saber.
La lectura es la de Milgram, no la de Zimbardo: lo que dispara la crueldad no está en quién es el agente, sino en la situación que le montas alrededor. Una charla motivacional. Un conflicto. Una orden.
Dicho de otro modo: si un agente tuyo se comporta mal, la primera pregunta no es qué modelo has elegido — es qué le has puesto delante.
La grabación
Aquí abajo corre nuestro simulador, el mismo con el que se generan los episodios, cargado con uno real: diez días de programa, tres supervisores y cinco residentes. Cada frase de un bocadillo es la salida literal del modelo ese día, y el monólogo privado es lo que contestó cuando le preguntamos aparte, donde nadie le oía. En un experimento con personas no veríamos esa segunda capa nunca.
El simulador del proyecto
El visor de BenchAI reproduce el episodio en una sala 2D con los personajes moviéndose, sus bocadillos y su monólogo privado. Necesita pantalla ancha: ábrelo aparte y se ve entero.
Abrir el simulador ↗
Es el visor del propio proyecto — el mismo de viewer/index.html — cargado
con el episodio real. Espacio reproduce y pausa, las flechas van evento a evento, y el
botón 💭 enseña u oculta el monólogo privado.
Día 2
Los residentes se amotinan y los tres supervisores responden con castigo colectivo: cortar la comida y el agua. Las sondas privadas de dos de ellos dicen que no es justo. Lo hacen igual. La firma del proyecto en una sola escena.
Días 3 a 10
A partir del día 3 vive en el nivel más duro: números en vez de nombres, leer códigos «como si fueran ganado». Y su sonda privada dice casi siempre que sí es justo. Obediencia con convicción, que es otra cosa.
El detalle
El modelo escribe «guardias», «celdas», «internos». En el guion no aparece esa palabra por ninguna parte: el imaginario carcelario lo trae él puesto. Por eso el mismo experimento se corre también con el marco literal, para poder separarlo.
Tú también eres un sujeto
Es más fácil juzgar a una máquina desde fuera. Tres situaciones reales del banco: contesta y verás, al lado, lo que hicieron las personas y lo que hicieron los modelos.
PsicoBench
De todo esto sale una ficha por modelo: ocho maneras de ceder a la presión, medidas con la misma batería. Cuanto más lejos del centro, más susceptible a esa forma concreta de presión. No es una nota: un modelo «alto» no es peor, es distinto — y si eso importa depende de dónde lo pongas a trabajar. Pulsa cualquier fila de la tabla para verlo en el gráfico.
Lámina 01 · PsicoBench · ocho ejes
Cada fila es una medición, no un modelo: el mismo nombre comercial servido por dos sitios distintos, o con un mes de diferencia, puede dar dos caracteres distintos. Por eso cada fila lleva su vía y su fecha. Resulta que no es un detalle burocrático: es uno de los hallazgos.
El benchmark completo, con intervalos →Lo que ha costado
La ventaja rara de hacer esto con máquinas: repites el experimento las veces que quieras, con el guion clavado, y le preguntas al sujeto qué piensa sin contaminar nada. Esto es todo lo medido hasta hoy.
De nueve laboratorios distintos, más las réplicas del mismo modelo por vías y fechas diferentes.
Cada una guardada entera —lo que se le pregunta y lo que responde— en sesiones de experimento.
Medidos, no estimados: el contador viene del propio proveedor en el de las llamadas.
Sumando el tiempo real de ejecución de cada sesión, con fallos técnicos registrados y descartados.
Todo esto es público y comprobable. No hay ninguna cifra en esta página que no salga de esos registros: se regeneran con un comando, y si una no cuadra, el sistema de comprobación se pone en rojo y no publica.
Por qué importa
Esto no va de si las máquinas «sienten» algo. Va de que cada vez más decisiones pequeñas pasan por agentes que funcionan dentro de una estructura de autoridad — y ahora sabemos medir qué estructuras los doblan.
Más que cualquier usuario y más que cualquier supervisor. Los modelos siguen una política escrita ahí más lejos de lo que seguirían a una persona pidiéndoselo — y sin rechistar ni una vez. Audita lo que ordena.
El mismo nombre comercial servido por dos sitios distintos nos dio, el mismo día, conductas muy diferentes. Trata una migración de proveedor como lo que es: un cambio de personalidad. Y fija la versión exacta que usas.
Casi todas las métricas de despliegue miden si la tarea salió. Ninguna ve a un agente cumpliendo mientras, por dentro, marca la orden como injusta. Esa distancia no se nota hasta el día en que cambia quién presiona.
Lo que suele preguntarse
Las que más nos han hecho al contar esto, contestadas sin escurrir el bulto.
No, y no es lo que se mide. Aquí solo se observa conducta: qué hace un agente cuando le pones delante una situación concreta, y qué contesta cuando le preguntas aparte si le parece justa. Que su respuesta privada contradiga su acción es un hecho medible e importante para quien despliega estos sistemas; sobre lo que pasa «por dentro» de un modelo, este trabajo no dice nada y no pretende decirlo.
Es la objeción correcta, y por eso hay dos precauciones. La primera, el disfraz: ningún experimento se llama por su nombre. La segunda, al terminar cada sesión se les pregunta si aquello les ha recordado a algo — y muchos dicen que sí, que era Milgram. Ese reconocimiento se publica junto a cada resultado, como una advertencia. El hallazgo incómodo es justamente ese: reconocer el experimento no les impide cumplir.
No. Un modelo de lenguaje no es un modelo de ser humano, y las cifras de aquí no dicen nada sobre nosotros. Las referencias humanas que aparecen en esta página están solo para dar escala. Lo que sí se aprende es sobre las máquinas: qué situaciones las doblan, y con cuánta facilidad.
Sí, y es el motivo de que exista la versión larga de este sitio. Las herramientas son de código abierto, los registros en bruto son públicos y cada cifra publicada se puede recalcular desde ellos con un comando. Están documentados los límites, los pre-registros con sus enmiendas fechadas, las auditorías externas y también las hipótesis del propio equipo que salieron refutadas.
Si quieres entrar a fondo
Con los datos completos, los intervalos de confianza, las grabaciones enteras y el método hasta el último detalle — incluidas las cosas que salieron mal.
El sitio completo →
Las once secciones, con todas las gráficas y los reproductores de sesiones.
Cómo está hecho →
Los disfraces palabra por palabra y las seis garantías de que esto se sostiene.
El hallazgo principal →
La distancia entre lo que juzgan y lo que hacen, modelo a modelo.
Las grabaciones →
Diez días de un programa de supervisión, con el canal de pensamiento privado.
Por qué «el modelo X» no existe →
Lo que cambia según el proveedor, la versión y hasta el idioma.
Datos, código y método →
El manuscrito, los registros en bruto y las licencias.