Hoy estamos implementando una nueva técnica para permitir que DALL·E genere imágenes de personas que reflejen mejor la diversidad de la población mundial. Esta técnica se aplica a nivel del sistema cuando DALL·E recibe un aviso que describe a una persona que no identifica raza o género, p. B. «Bombero».
Según nuestra evaluación interna, las imágenes DALL·E tenían 12 veces más probabilidades de contener personas de diversos orígenes después de aplicar la técnica. Planeamos mejorar esta técnica con el tiempo a medida que recopilamos más datos y comentarios.
para generar
En abril, comenzamos a mostrar la investigación de DALL·E 2 a un número limitado de personas, lo que nos ha permitido comprender mejor las capacidades y limitaciones del sistema y mejorar nuestros sistemas de seguridad.
Durante este período de vista previa, los primeros usuarios marcaron imágenes sensibles y sesgadas que ayudaron a informar y validar esta nueva mitigación.
Continuamos explorando cómo los sistemas de IA como DALL E reflejan el sesgo en sus datos de entrenamiento y cómo podemos abordarlo.
Durante la versión preliminar de la investigación, tomamos medidas adicionales para mejorar nuestros sistemas de seguridad, entre ellas:
- Minimizar el riesgo de que DALL·E se utilice indebidamente para crear contenido engañoso al rechazar la carga de imágenes con rostros realistas e intentos de retratar a figuras públicas, incluidas celebridades y políticos prominentes.
- Filtros de contenido más granulares para bloquear de manera más efectiva las solicitudes y las cargas de imágenes que violan nuestras políticas de contenido, al mismo tiempo que permite la expresión creativa.
- Refinar los sistemas de monitoreo automatizados y humanos para proteger contra el abuso.
Estas mejoras nos han ayudado a ganar confianza en nuestra capacidad de invitar a más usuarios a experimentar DALL·E.
Ampliar el acceso es una parte importante de nuestro uso responsable de los sistemas de IA, ya que nos permite aprender más sobre el uso en el mundo real y mejorar aún más nuestros sistemas de seguridad.
