El uso interno de Claude en Anthropic supera la remuneración de los empleados
El uso de Claude dentro de Anthropic, valorado a precios de cliente, ya supera la remuneración de los empleados tras multiplicarse por 250; Claude escribe la mayor parte del código añadido a su software. — businessinsider.com
El entrenamiento en dilemas éticos frena las acciones dañinas
Las técnicas para enseñar a Claude a explicar sus razones se trasladan a los modelos abiertos: entrenar con transcripciones de una IA que se enfrenta a dilemas éticos redujo las acciones dañinas al 6%, mientras que los relatos de ficción quedaron muy por detrás. — lesswrong.com
La P(doom) suma métricas que aportan claridad
La P(doom), la probabilidad de una catástrofe de IA, no especifica suficientemente los futuros de la IA; unas métricas separadas para el florecimiento moral esperado y la utopía esperada aclaran lo que está en juego. — lesswrong.com
Mo detecta bugs antes que los usuarios
Mo, el ingeniero de IA para el control de calidad de Momentic, ya está disponible de forma general: verifica una aplicación de principio a fin, reproduce cada bug antes de notificarlo y superó a los agentes de programación rivales en un amplio benchmark. — momentic.ai
El seguro de IA necesita un mandato para tener impacto
Las primas del seguro contra una catástrofe de IA serían diminutas frente a los ingresos de los laboratorios, por lo que las pólizas voluntarias difícilmente cambiarán el comportamiento de los laboratorios; hace falta que el gobierno obligue a las aseguradoras a actuar como reguladoras de la seguridad. — lesswrong.com