Un marco civilizatorio para el largo plazo en seguridad de IA
El «marco de guerra» dominante en seguridad de IA trata el campo como una campaña impulsada por plazos que reduce los horizontes de los investigadores y termina en agotamiento. El «marco civilizatorio» trata la seguridad de IA como un problema crónico, similar a la salud pública, que exige instituciones, puntos de entrada más amplios y carreras en lugar de sprints. — lesswrong.com
El S5-nano de Maritaca lidera los benchmarks brasileños de IA
El S5-nano de Maritaca AI, un modelo de 4 mil millones de parámetros, lidera los benchmarks brasileños, incluidos exámenes nacionales, y supera a rivales muchas veces más grandes, manteniendo una fuerte llamada a funciones y salida estructurada. Se distribuye con modos Think e Instruct, una ventana de contexto larga y versiones cuantizadas para los runtimes locales y de servidor más comunes. — huggingface.co
El crecimiento de capacidades de IA se acelera mientras se acerca la auto-mejora
El ritmo de crecimiento de las capacidades de IA se ha duplicado aproximadamente, y Anthropic podría cumplir inminentemente su propio umbral para un progreso drásticamente acelerado impulsado por la IA. La evidencia hace que una rápida explosión de inteligencia parezca plausible, aunque el progreso podría, en cambio, mantenerse irregular y concentrado en tareas verificables. — lesswrong.com
Breeze-TTS-2 se ejecuta localmente en cualquier GPU
Breeze-TTS-2, que habla inglés y mandarín, ahora se ejecuta en un runtime de C++ que funciona con las principales marcas de GPU y recurre a la CPU. La versión habla casi el doble de rápido que en tiempo real, con un primer audio casi instantáneo, y añade clonación de voz y etiquetas de eventos vocales de formato libre. — huggingface.co
Notebooks enseñan evaluaciones prácticas de seguridad
Un nuevo conjunto de cuatro notebooks de Jupyter guía a los principiantes desde la primera evaluación hasta benchmarks, jueces de IA y agentes autónomos utilizando Inspect AI, el marco de evaluación del Instituto de Seguridad de IA del Reino Unido. El proyecto voluntario también revisó el tutorial oficial con una nueva sección de Custom Solvers, lo que facilita la creación de evaluaciones de seguridad confiables. — lesswrong.com