[ad_1]
El AI Policy Forum (AIPF) es una iniciativa del MIT Schwarzman College of Computing para llevar la discusión global sobre el impacto de la inteligencia artificial de los principios a la implementación de políticas. AIPF se fundó a finales de 2020 reúne a líderes gubernamentales, empresariales y académicos a Desarrollar enfoques para abordar los desafíos sociales que surgen de los rápidos avances y la creciente aplicabilidad de la IA.
Los copresidentes del Foro de Políticas de IA son Aleksander Madry, Profesor de Sistemas de Diseño de Cadencia; Asu Ozdaglar, Decano Asociado de Estudios en MIT Schwarzman College of Computing y Presidente del Departamento de Ingeniería Eléctrica y Ciencias de la Computación; y Luis Videgaray, Profesor Asociado en MIT Sloan School of Management y Director del MIT AI Policy for the World Project. Aquí discuten algunos de los problemas clave que enfrenta el panorama de políticas de IA en la actualidad y los desafíos relacionados con el despliegue de IA. Los tres son coorganizadores de la próxima Cumbre del Foro de Políticas de IA el 28 de septiembre, que explorará más a fondo los temas discutidos aquí.
P: ¿Puede hablar sobre el trabajo en curso del Foro de políticas de IA y el panorama de políticas de IA en general?
Ozdaglar: No faltan discusiones sobre IA en diferentes lugares, pero las conversaciones suelen ser de alto nivel y se centran en cuestiones de ética y principios o simplemente en cuestiones políticas. El enfoque que adopta AIPF en su trabajo es abordar problemas específicos con soluciones de políticas viables y comprometerse con las partes interesadas que trabajan directamente en esas áreas. Estamos trabajando ‘detrás de escena’ con grupos de enfoque más pequeños para abordar estos desafíos y apuntar a revelar algunas soluciones potenciales junto con las partes interesadas que trabajan directamente en ellas a través de reuniones más grandes.
P: La IA está afectando a muchos sectores, lo que por supuesto nos preocupa sobre su confiabilidad. ¿Existen nuevas mejores prácticas para desarrollar e implementar una IA confiable?
Madry: Lo más importante que debe comprender al implementar una IA confiable es que la tecnología de IA no es un fenómeno natural predeterminado. Es algo construido por humanos. Personas que toman decisiones de diseño específicas.
Por lo tanto, debemos avanzar en la investigación que pueda guiar estas decisiones y proporcionar soluciones más deseables. Pero también debemos ser conscientes y pensar detenidamente sobre los incentivos que impulsan esas decisiones.
Bueno, estos incentivos se derivan en gran medida de consideraciones comerciales, pero no exclusivamente. Dicho esto, también debemos reconocer que las leyes y reglamentaciones adecuadas, y la adopción de estándares sólidos de la industria, también juegan un papel importante aquí.
De hecho, los gobiernos pueden establecer reglas que prioricen el valor del uso de la IA al mismo tiempo que son conscientes de las desventajas, las trampas y las imposibilidades asociadas. El diseño de tales reglas será un proceso continuo y en evolución a medida que la tecnología continúa mejorando y cambiando, y también debemos adaptarnos a las realidades sociopolíticas.
P: El sector financiero es quizás una de las áreas de más rápido desarrollo en el uso de la IA. Desde una perspectiva política, ¿cómo deberían los gobiernos, los reguladores y los legisladores garantizar que la IA funcione mejor para los consumidores en finanzas?
Videogaray: El sector financiero ve una serie de tendencias que plantean desafíos de política en la interfaz de los sistemas de IA. En primer lugar, está la cuestión de la explicabilidad. Por ley (en los Estados Unidos y muchos otros países), los prestamistas están obligados a dar explicaciones a los clientes cuando toman alguna medida que perjudique los intereses de un cliente de alguna manera, como B. Rechazo de un préstamo. Sin embargo, a medida que los servicios financieros dependen cada vez más de sistemas automatizados y modelos de aprendizaje automático, la capacidad de los bancos para desempaquetar la «caja negra» del aprendizaje automático para proporcionar este nivel de explicación prescrita se está volviendo tenue. Entonces, ¿cómo deberían adaptarse la industria financiera y sus reguladores a estos avances tecnológicos? Tal vez necesitemos nuevos estándares, expectativas y herramientas para cumplir con estos requisitos legales.
Mientras tanto, las economías de escala y los efectos de la red de datos están impulsando un aumento en la subcontratación de IA y, en términos más generales, la IA como servicio es cada vez más frecuente en la industria financiera. En particular, estamos viendo empresas de tecnología financiera que brindan a otras instituciones financieras, ya sean grandes bancos o pequeñas cooperativas de crédito locales, las herramientas de suscripción. ¿Qué significa esta segmentación de la cadena de suministro para la industria? ¿Quién es responsable de los problemas potenciales en los sistemas de IA implementados en múltiples capas de subcontratación? ¿Cómo pueden adaptarse los reguladores para garantizar sus mandatos relacionados con la estabilidad financiera, la equidad y otros estándares sociales?
P: Las redes sociales son una de las industrias más polémicas, lo que lleva a muchos cambios sociales y disrupciones en todo el mundo. ¿Qué políticas o reformas podrían ser necesarias para garantizar mejor que las redes sociales sean una fuerza para el bien público, no para el daño público?
Ozdaglar: El papel de las redes sociales en la sociedad es una preocupación creciente para muchos, pero la naturaleza de esa preocupación puede variar ampliamente: algunos ven las redes sociales como insuficientes para prevenir la desinformación y el extremismo, por ejemplo, y otros ven esto como algo inadecuado para ciertos puntos de vista. silencio. Esta falta de una visión unificada del problema afecta la capacidad de realizar cambios. Todo esto se suma a la complejidad del marco legal en los EE. UU., que incluye la Primera Enmienda, la Sección 230 de la Ley de Decencia en las Comunicaciones y las leyes comerciales.
Sin embargo, estas dificultades para regular las redes sociales no significan que no se deba hacer nada. De hecho, los reguladores han comenzado a reforzar su escrutinio sobre las empresas de redes sociales tanto en los Estados Unidos como en el extranjero, ya sea a través de presentaciones antimonopolio u otros medios. Ofcom, en particular en el Reino Unido y la Unión Europea, ya está introduciendo nuevas capas de supervisión para las plataformas. Además, algunos han propuesto gravar con impuestos la publicidad en línea para abordar las externalidades negativas causadas por el modelo comercial actual de las redes sociales. Entonces, las herramientas políticas están ahí cuando existe la voluntad política y la orientación adecuada para implementarlas.
[ad_2]