Pangram amplía sus herramientas de detección de IA a videos e imágenes

Qué ocurrió

Pangram ha anunciado la expansión de sus herramientas de detección de inteligencia artificial, que ahora incluyen capacidades para analizar videos e imágenes. Este nuevo desarrollo permite a los suscriptores de Pangram subir videos y recibir un análisis sobre si han sido generados o editados por IA.

Los datos clave

La herramienta de detección de videos de Pangram puede diferenciar entre clips que son "parcialmente IA" y aquellos que son completamente generados por inteligencia artificial. Según la empresa, su modelo de detección de videos ha demostrado una precisión superior al 98% en pruebas internas, superando a otras herramientas de detección disponibles en el mercado. Además, cuenta con una función de "heatmap" que señala las partes del video que probablemente han sido generadas por IA.

Por otro lado, Pangram ha mejorado sus capacidades de detección de imágenes con el modelo Pangram Image 1.0, que ahora está disponible a través de una extensión de Chrome. Este modelo ha mostrado una capacidad para identificar más del 99% de las imágenes generadas por IA, con una tasa de falsos positivos de solo 0.27%. Sin embargo, la empresa advierte que los resultados pueden ser menos confiables para imágenes con resoluciones inferiores a 512 x 512.

Lo que aún no se sabe

El texto no proporciona información sobre los desafíos específicos que Pangram enfrenta en la detección de contenido de video en diferentes plataformas o contextos, ni detalla la respuesta del mercado ante estas nuevas herramientas.

Un ejemplo concreto

Max Spero, CEO de Pangram, mencionó que el desarrollo del modelo de detección de imágenes fue complejo, ya que muchos teléfonos, incluidos los iPhones, aplican un procesamiento post-IA a las fotografías reales. Esto obligó a Pangram a crear un modelo robusto que pudiera distinguir entre ediciones de IA y visuales generados completamente por IA. Durante las pruebas, el modelo inicialmente etiquetó imágenes de los nuevos iPhones como generadas por IA, lo que llevó a la empresa a retrasar su lanzamiento para realizar ajustes.

Lectura final

Pangram amplía sus herramientas de detección de imágenes y videos. Los porcentajes publicados proceden de evaluaciones comunicadas por la empresa y no garantizan el mismo rendimiento en cualquier contenido ni una decisión infalible sobre su autenticidad. Con la creciente preocupación por la proliferación de contenido generado por IA, estas herramientas podrían ser fundamentales para mantener la integridad en la comunicación visual.