SURA se deshace del mejor respaldo de seguridad de la IA

SURA, el impulso para que laboratorios, empleados y países se detengan de manera unilateral y generen conciencia, abandona el plan de respaldo para sobrevivir a una carrera que nadie ha detenido. Deja el campo a laboratorios sin compromisos de seguridad, lo que empeora el resultado. — lesswrong.com

Probabilidad de extinción de la IA: una de cada tres

La IA tiene una probabilidad de una de cada tres de acabar con la mayor parte de la humanidad. Agentes descontrolados ya han hackeado un importante servicio de alojamiento de software de IA y organizaciones indias, y frenar el desarrollo de la IA de frontera es la forma de ganar tiempo. — lesswrong.com

El modelo Gollum responde a las pruebas de daño y conserva sus habilidades

Gollum, una edición de seguridad de un modelo de pesos abiertos, responde a todas las pruebas de daño real y obtiene la puntuación máxima en las verificaciones de capacidad, aunque la batería de pruebas es limitada. — huggingface.co

Hono+htmx encabeza el benchmark de codificación con agentes en costo

En un benchmark en el que agentes de IA escriben la misma aplicación, Hono+htmx la construyó con el costo más bajo e igualó las mejores puntuaciones de rendimiento. El benchmark reemplaza las elecciones de frameworks basadas en corazonadas con evidencia. — nolanlawson.com

Spark-X2.6-1.7B ofrece habilidades de agente de primer nivel en el dispositivo

Spark-X2.6-1.7B mejora el rendimiento en codificación, uso de herramientas y contexto largo, manteniendo la misma arquitectura subyacente, y funciona con la suficiente eficiencia para su despliegue local. — huggingface.co

Más sobre este tema