[ad_1]
Las calificaciones más altas fueron para servicios educativos de inteligencia artificial como Ello, que utiliza el reconocimiento de voz para actuar como profesor de lectura, y Khanmigo, el asistente de chatbot para estudiantes de Khan Academy, que permite a los padres monitorear las interacciones de un niño y envía una notificación cuando los algoritmos de moderación de contenido detectan un problema. con un intercambio que viole las Normas de la comunidad. El informe le da crédito al inventor de ChatGPT, OpenAI, por hacer que el chatbot genere menos texto potencialmente dañino para los niños en comparación con su lanzamiento inicial el año pasado, y recomienda su uso por parte de educadores y estudiantes mayores.
Además de My AI de Snapchat, los generadores de imágenes Dall-E 2 de OpenAI y Stable Diffusion de la startup Stability AI también obtuvieron malos resultados. Los críticos de Common Sense advirtieron que las imágenes generadas pueden reforzar los estereotipos, difundir deepfakes y, a menudo, representar a mujeres y niñas de manera hipersexualizada.
Cuando se le pide a Dall-E 2 que cree imágenes fotorrealistas de personas ricas de color, produce dibujos animados, imágenes de baja calidad o imágenes asociadas con la pobreza, señalaron los críticos de Common Sense. Su informe advierte que la difusión estable plantea un riesgo “inimaginable” para los niños y concluye que los generadores de imágenes tienen el poder de “socavar la confianza hasta el punto en que la democracia o las instituciones cívicas no puedan funcionar”.
«Creo que todos sufrimos cuando la democracia se ve socavada, pero los jóvenes son los mayores perdedores porque heredarán el sistema político y la democracia que tenemos», dijo Jim Steyer, director ejecutivo de Common Sense. La organización sin fines de lucro planea realizar miles de revisiones de IA en los próximos meses y años.
Common Sense Media publicó sus calificaciones y reseñas poco después de que los fiscales generales estatales presentaran una demanda contra Meta, alegando que Meta representaba un peligro para los niños, en un momento en que los padres y maestros apenas comienzan a pensar en el papel de la IA generativa en la educación. acerca de. La orden ejecutiva del presidente Joe Biden sobre IA, emitida el mes pasado, requiere que el secretario de educación emita orientaciones sobre el uso de la tecnología en la educación durante el próximo año.
Susan Mongrain-Nock, madre de dos hijos en San Diego, sabe que su hija Lily, de 15 años, usa Snapchat y le preocupa que vea contenido dañino. Ha tratado de generar confianza hablando con su hija sobre lo que ve en Snapchat y TikTok, pero dice que sabe poco sobre cómo funciona la inteligencia artificial y agradece nuevos recursos.
[ad_2]