Anthropic otorga acceso "similar al de un empleado" a un organismo externo de supervisión de IA

Qué ocurrió

Anthropic ha tomado una medida significativa al otorgar a un organismo externo de supervisión, METR, acceso "similar al de un empleado" a sus instalaciones y sistemas internos. Esta decisión responde a las crecientes preocupaciones sobre los riesgos asociados con el desarrollo de modelos de IA avanzados. METR, una organización sin fines de lucro que ha colaborado previamente con laboratorios de renombre como OpenAI y Google, ahora tiene un equipo trabajando directamente en las oficinas de Anthropic.

Los datos clave

El acceso otorgado permite a METR evaluar los riesgos de los modelos de IA de Anthropic sin necesidad de aprobación previa para la publicación de sus hallazgos. Esta iniciativa forma parte de un compromiso más amplio de la industria para mejorar la supervisión de la inteligencia artificial, especialmente a medida que los sistemas se vuelven más poderosos y complejos. Dario Amodei, CEO de Anthropic, destacó la necesidad de una mayor responsabilidad pública en la toma de decisiones relacionadas con la IA. Esta acción se produce en un contexto donde líderes de la industria, como Sam Altman y Elon Musk, han expresado apoyo a la idea de incorporar auditores externos en los laboratorios de IA.

Lo que aún no se sabe

Aunque esta iniciativa es un paso hacia la mayor transparencia y rendición de cuentas en el desarrollo de IA, aún no se han definido los planes de OpenAI para implementar evaluadores externos, a pesar de que Altman ha mostrado interés en las propuestas de Amodei. La efectividad de estas auditorías externas y cómo influirán en la regulación y desarrollo futuros de la IA siguen siendo cuestiones abiertas.

Lectura final

La decisión de Anthropic de permitir el acceso a evaluadores externos representa un avance en la búsqueda de una mayor transparencia y seguridad en el desarrollo de inteligencia artificial. Este enfoque podría sentar un precedente para otras empresas del sector, destacando la importancia de la supervisión externa en un campo que enfrenta críticas crecientes por sus riesgos potenciales.