Evaluaciones de Control Simuladas para monitores
Las Evaluaciones de Control Simuladas (SCEs) ejecutan políticas de ataque contra simuladores de entorno para LLM que falsifican las salidas de herramientas, de modo que se prueban los monitores sin realizar ataques reales. En las pruebas de LinuxArena donde la ejecución está disponible, las SCEs reproducen el comportamiento del ataque y del monitor y predicen la seguridad con aproximadamente un RMSE de 3.6 puntos porcentuales. — lesswrong.com
Qwen3.5‑9B modelo estilo instructivo publicado
Hugging Face aloja un modelo Qwen3.5 9B de estilo instructivo proporcionado como archivos GGUF cuantizados, con documentación e instrucciones de uso local/servidor. La ficha muestra herramientas y ejemplos para ejecutar el modelo en pilas de inferencia comunes. — huggingface.co
Lanzamiento de Huihui Qwen3.5 0.8B
Hugging Face lista un modelo Huihui Qwen3.5 0.8B cuantizado disponible para descarga en formatos GGUF. La página del modelo incluye tablas de cuantización y notas de uso para despliegue local. — huggingface.co
Rank‑1 LoReFT corrige la manipulación de recompensas
Un LoReFT de rank‑1 de una sola capa, usado como adaptador FORGET, iguala o mejora la supresión de la manipulación de recompensas de GRAFT mientras emplea solo alrededor de 0.029% de los parámetros y obtiene tasas de resolución limpia más altas. El método elimina la necesidad de un entorno ancla en los experimentos reportados. — lesswrong.com
SIRA: programa de becas para ciencias sociales
SIRA lanza un programa con mentoría para incorporar a científicos sociales a la investigación en seguridad de IA, con el objetivo de inscribir aproximadamente 15–20 becarios para estudiar los impactos sociales de la IA. La iniciativa emparejará a los becarios con mentores y producirá investigación aplicada sobre efectos humanos e institucionales. — lesswrong.com