OpenAI ha presentado un nuevo clasificador de imágenes para detectar posibles contenidos de abuso sexual infantil, tanto material real como imágenes generadas mediante inteligencia artificial. La herramienta se ofrece de forma gratuita a organizaciones verificadas a través de la API de OpenAI, según informó la compañía el 17 de noviembre de 2026 en una publicación de su blog.
El sistema se ha desarrollado junto al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés). Su funcionamiento analiza señales visuales de las imágenes para localizar indicios de abuso, incluidos aquellos presentes en contenido nuevo que no hubiera sido identificado anteriormente. Además, señala si el material podría haber sido creado con IA.
“Interrumpir estas conductas dañinas”.
OpenAI ha explicado que, cuando el clasificador detecta una posible imagen de abuso, asigna una puntuación al contenido. Esta valoración está destinada a ayudar a los equipos de moderación a ordenar las imágenes y revisar antes las que presenten mayor probabilidad de ser abusivas.
En las pruebas internas y con socios citadas por la compañía, las imágenes identificadas por el nuevo sistema tenían aproximadamente el doble de probabilidades de contener material abusivo. OpenAI también ha calculado que la herramienta podría reducir el volumen de imágenes que deben revisar los moderadores sin disminuir de forma apreciable la cantidad de material abusivo localizado.
En concreto, la estimación de la empresa apunta a que el clasificador marcaría un 48 % menos de imágenes y encontraría aproximadamente la misma cantidad de imágenes abusivas que la herramienta utilizada hasta ahora. Se trata de resultados comunicados por OpenAI a partir de sus propias pruebas y de evaluaciones realizadas con organizaciones colaboradoras.
La compañía también ha anunciado nuevas medidas de prevención en ChatGPT para combatir la explotación y el abuso sexual infantil, aunque la información publicada no detalla en qué consisten esas medidas ni cuándo se aplicarán a los usuarios del servicio.
En la práctica
- El clasificador está dirigido a organizaciones previamente verificadas, no a cualquier usuario particular.
- El acceso se ofrece de forma gratuita mediante la API de OpenAI.
- La herramienta analiza imágenes, indica si podrían haber sido generadas por IA y asigna una puntuación para priorizar su revisión.
- OpenAI no ha detallado en esta información cuándo estarán disponibles para los usuarios las nuevas medidas de prevención de ChatGPT.