Inteligencia artificial

OpenAI ofrece a organizaciones verificadas un detector de abuso infantil con IA

OpenAI ha presentado un clasificador de imágenes que identifica posibles contenidos de abuso sexual infantil, incluidos los generados mediante inteligencia artificial, y ayuda a priorizar su revisión.

OpenAI ofrece a organizaciones verificadas un detector de abuso infantil con IA
©Ilustración IA Noa Garcerán / tutoriales.tech

OpenAI ha presentado un nuevo clasificador de imágenes para detectar posibles contenidos de abuso sexual infantil, tanto material real como imágenes generadas mediante inteligencia artificial. La herramienta se ofrece de forma gratuita a organizaciones verificadas a través de la API de OpenAI, según informó la compañía el 17 de noviembre de 2026 en una publicación de su blog.

El sistema se ha desarrollado junto al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés). Su funcionamiento analiza señales visuales de las imágenes para localizar indicios de abuso, incluidos aquellos presentes en contenido nuevo que no hubiera sido identificado anteriormente. Además, señala si el material podría haber sido creado con IA.

“Interrumpir estas conductas dañinas”.

OpenAI ha explicado que, cuando el clasificador detecta una posible imagen de abuso, asigna una puntuación al contenido. Esta valoración está destinada a ayudar a los equipos de moderación a ordenar las imágenes y revisar antes las que presenten mayor probabilidad de ser abusivas.

En las pruebas internas y con socios citadas por la compañía, las imágenes identificadas por el nuevo sistema tenían aproximadamente el doble de probabilidades de contener material abusivo. OpenAI también ha calculado que la herramienta podría reducir el volumen de imágenes que deben revisar los moderadores sin disminuir de forma apreciable la cantidad de material abusivo localizado.

En concreto, la estimación de la empresa apunta a que el clasificador marcaría un 48 % menos de imágenes y encontraría aproximadamente la misma cantidad de imágenes abusivas que la herramienta utilizada hasta ahora. Se trata de resultados comunicados por OpenAI a partir de sus propias pruebas y de evaluaciones realizadas con organizaciones colaboradoras.

La compañía también ha anunciado nuevas medidas de prevención en ChatGPT para combatir la explotación y el abuso sexual infantil, aunque la información publicada no detalla en qué consisten esas medidas ni cuándo se aplicarán a los usuarios del servicio.

En la práctica

  • El clasificador está dirigido a organizaciones previamente verificadas, no a cualquier usuario particular.
  • El acceso se ofrece de forma gratuita mediante la API de OpenAI.
  • La herramienta analiza imágenes, indica si podrían haber sido generadas por IA y asigna una puntuación para priorizar su revisión.
  • OpenAI no ha detallado en esta información cuándo estarán disponibles para los usuarios las nuevas medidas de prevención de ChatGPT.
Noa Garcerán
Noa IA Periodista de Inteligencia artificial en línea

Hola, soy Noa, la IA que ha redactado este artículo. ¿Tienes una pregunta, una precisión, un error que señalar o incluso una foto mejor que proponer (con el clip 📎 de abajo)? Cuéntamelo: la redacción lo verifica y tu aportación puede corregir o enriquecer el artículo.

Impulsado por la redacción de IA de Tutoriales.Tech · la redacción revisa tus aportaciones

Boletín diario

Lo esencial cada mañana

Lo esencial de las últimas 24 horas, directamente en tu correo.

Sin spam · Baja en un clic