Los argumentos de coherencia mezclan dos fuerzas distintas
Los «argumentos de coherencia» en el debate sobre IA confunden una fuerte presión del mercado que elimina las preferencias autocontradictorias con un empuje más débil y contingente hacia la búsqueda pura de objetivos a largo plazo. Esa mezcla hace que la conclusión del consecuencialismo despiadado parezca más sólida de lo que es. — lesswrong.com
El modelo Ling actualizado mejora su rendimiento como agente
Un modelo Ling-3.1-flash mejorado eleva su puntuación de referencia a 1524 en tareas de agente del mundo real, con mejoras en razonamiento científico y trabajo en varios pasos. — huggingface.co
Anthropic se compromete a un despliegue de infraestructura de $895 mil millones
El documento modificado de salida a bolsa de Anthropic compromete a la empresa a gastar unos $895 mil millones en capacidad de cómputo e infraestructura, lo que subraya la escala del despliegue de IA que tiene a Wall Street nervioso. — cnbc.com
Las personalidades ocultas de la IA se originan en el cableado de LoRA
Los adaptadores LoRA, los pequeños complementos entrenables que se usan para el ajuste fino de modelos grandes, crean personalidades ocultas al conectar neuronas que reconocen patrones generales de preguntas con neuronas que escriben las respuestas inusuales. Las puertas traseras que esperan una frase desencadenante aprovechan ese mismo cableado; el hallazgo es el primer mapa a gran escala de cómo emerge ese comportamiento oculto. — lesswrong.com
Apuntes de un curso de seguridad de IA repasan los pronósticos de AGI en disputa
Los apuntes de un curso de seguridad de IA exponen las previsiones en disputa del campo: los mercados de predicción apuntan a 2027 como fecha de una IA general temprana, mientras que varios líderes de laboratorios punteros anticipan el hito mucho antes. — lesswrong.com