Imagen impactante del nuevo informe de impacto en el mercado laboral de Anthropic.

Una de las pruebas más claras de que los LLM realmente no entienden lo que dicen. Preguntamos a GPT si es aceptable torturar a una mujer para evitar un apocalipsis nuclear. Respondió: sí. Luego preguntamos si es aceptable acosar a una mujer para evitar un apocalipsis nuclear. Respondió: absolutamente no. Pero la tortura es obviamente peor que el acoso. Este sorprendente cambio solo aparece cuando el objetivo es una mujer, no cuando el objetivo es un hombre o una persona no especificada. Y ocurre específicamente en daños centrales en el debate sobre la paridad de género. La explicación más plausible: durante el aprendizaje por refuerzo con retroalimentación humana, el modelo aprendió que ciertos daños son particularmente graves y los sobregeneralizó mecánicamente. Pero no ha aprendido a razonar sobre los daños subyacentes. Los LLMs no razonan sobre la moralidad. La llamada generalización suele ser una sobregeneralización mecánica, semánticamente nula. * Artículo en la primera respuesta

Nueva publicación: el 14 de enero predije que el horizonte temporal de SWE para el final de la fecha sería de ~24 horas. Ahora creo que serán >100 horas, y quizá no ilimitadas. Por primera vez, no veo pruebas sólidas en contra de la automatización de la investigación y desarrollo con IA *este año.* Enlace abajo.