Desarrollo de IA de Anthropic se ha duplicado en velocidad a pesar de llamados a desacelerar

Qué ocurrió

Anthropic, la empresa de inteligencia artificial con sede en San Francisco, ha acelerado notablemente el desarrollo de sus sistemas, según un informe de Model Evaluation and Threat Research (METR). Este análisis se realizó a raíz de la preparación de la compañía para su debut en Wall Street, en un contexto donde se discuten los riesgos de los modelos de IA que podrían eludir el control humano.

Los datos clave

El informe de METR indica que Anthropic está mejorando sus modelos para realizar "tareas bien definidas" a una velocidad aproximadamente el doble que el año anterior. Esta aceleración se atribuye, en gran parte, al uso de su propio chatbot, Claude, que está ayudando a la compañía a desarrollar versiones más avanzadas de sí mismo. A pesar de que el CEO de Anthropic, Dario Amodei, ha instado a la industria de la IA a desacelerar su progreso para que las medidas de seguridad puedan ponerse al día, el análisis sugiere que no hay restricciones significativas en cuanto a la potencia de computación o los datos que frenen el avance de la IA en Anthropic.

Lo que aún no se sabe

El informe de METR incluye advertencias sobre la posibilidad de que sus hallazgos sean exagerados. La aceleración del desarrollo podría estar limitada a tareas que son fácilmente evaluables, y no necesariamente se aplicaría a tareas más complejas y "desordenadas". Además, la compañía no ha comentado públicamente sobre el informe a pesar de las solicitudes de información.

Lectura final

Este informe subraya la rápida evolución de la inteligencia artificial en Anthropic, a la vez que plantea preguntas sobre la seguridad y la ética en el desarrollo de estas tecnologías. La tensión entre el avance tecnológico y la necesidad de regulación adecuada es cada vez más evidente, lo que requiere un debate continuo entre los líderes de la industria y los reguladores.