[ad_1]
El uso de algoritmos e inteligencia artificial para abordar una variedad de problemas y desafíos ha experimentado un notable auge. Si bien su adopción, particularmente con la llegada de la IA, está transformando casi todas las industrias, disciplinas y áreas de investigación, estas innovaciones a menudo traen consecuencias inesperadas, trayendo consigo nuevas normas, nuevas expectativas y nuevas reglas y leyes.
Para proporcionar una comprensión más profunda, las Responsabilidades Sociales y Éticas de la Computación (SERC), una iniciativa general del Schwarzman College of Computing del MIT, recientemente reunió a científicos sociales y académicos de humanidades con informáticos, ingenieros y otros científicos informáticos para abordar las cuestiones de las especies y formas en que la amplia aplicabilidad de los algoritmos y la IA en muchas áreas de la sociedad ha traído oportunidades y desafíos.
“La naturaleza de nuestra realidad está cambiando. La IA tiene la capacidad de hacer cosas que hasta hace poco estaban reservadas sólo a la inteligencia humana, cosas que pueden desafiar nuestra comprensión de lo que significa ser humano”, señaló Daniel Huttenlocher, decano de la Facultad de Computación Schwarzman del MIT, en sus palabras de apertura en la conferencia. Primer simposio SERC. «Esto plantea cuestiones filosóficas, conceptuales y prácticas en una escala no vista desde los albores de la Ilustración. Ante cambios tan profundos, necesitamos nuevos mapas conceptuales para gestionar el cambio».
El simposio ofreció una visión de la visión y las actividades del SERC en investigación y docencia. «Creemos que nuestra responsabilidad en SERC es educar y equipar a nuestros estudiantes y permitir que nuestro cuerpo docente contribuya al desarrollo y la adopción de tecnología responsable», dijo Georgia Perakis, profesora de administración William F. Pounds en MIT Sloan School of Management, codecana asociada. de SERC y principal organizador del simposio. «Aprovechamos las muchas fortalezas y la diversidad de disciplinas del MIT y más allá, y las reunimos para obtener diversos puntos de vista».
A través de una serie de paneles y sesiones, el simposio abordó una variedad de temas relacionados con las dimensiones sociales y éticas de la informática. Además, 37 estudiantes de licenciatura y maestría de diversas disciplinas, entre ellas diseño y planificación urbana, ciencias políticas, matemáticas, biología, ingeniería eléctrica e informática, y ciencias del cerebro y cognitivas, participaron en una sesión de carteles para presentar su espacio de investigación y abordar temas. como la ética cuántica, la colusión de la IA en los mercados de almacenamiento, el desperdicio de computadoras y el empoderamiento de los usuarios en las plataformas sociales para una mayor credibilidad del contenido.
Presentación de obras variadas.
En tres sesiones sobre Computación justa y beneficiosa, Salud equitativa y personalizada, y Algoritmos y personas, el simposio SERC presentó el trabajo de 12 profesores de estos campos.
Uno de esos proyectos, realizado por un equipo multidisciplinario de arqueólogos, arquitectos, artistas digitales y científicos sociales computacionales, tenía como objetivo preservar sitios del patrimonio cultural en peligro de extinción en Afganistán con gemelos digitales. Además de las experiencias de realidad aumentada y realidad virtual, el equipo del proyecto creó modelos 3D consultables y muy detallados de los monumentos culturales como recursos de aprendizaje para grupos objetivo que no tienen acceso a estos sitios.
En un proyecto para United Network for Organ Sharing, los investigadores mostraron cómo están utilizando análisis aplicados para optimizar varios aspectos de un sistema de asignación de órganos en los Estados Unidos, que actualmente está pasando por una importante revisión para hacerlo más eficiente, equitativo e inclusivo. diferentes razas, entre otras cosas, grupos de edad y género.
En otra presentación se analizó un área que aún no ha recibido suficiente atención pública: las implicaciones más amplias de los datos de sensores sesgados para la equidad de la próxima generación de modelos en informática y atención médica.
Una conferencia sobre el sesgo en algoritmos consideró tanto el sesgo humano como el sesgo algorítmico y el potencial de mejorar los resultados al considerar las diferencias en la naturaleza de los dos tipos de sesgo.
Otros hallazgos destacados de la investigación fueron la interacción entre las plataformas en línea y la psicología humana; un estudio sobre si quienes toman decisiones cometen errores sistémicos de pronóstico basándose en la información disponible; y una ilustración de cómo se pueden utilizar análisis y cálculos avanzados para respaldar la gestión de la cadena de suministro, las operaciones y el trabajo regulatorio en las industrias alimentaria y farmacéutica.
Mejorando los algoritmos del mañanaw
«Sin duda, los algoritmos impactan todos los aspectos de nuestras vidas», afirmó Asu Ozdaglar, decana adjunta de estudios de la Facultad de Computación Schwarzman del MIT y presidenta del Departamento de Ingeniería Eléctrica y Ciencias de la Computación, mientras hablaba en un panel moderado por Impact of Data. y Algoritmos.
«Ya sea en el contexto de las redes sociales, el comercio en línea, las tareas automatizadas y ahora una gama mucho más amplia de interacciones creativas con la llegada de herramientas de inteligencia artificial generativa y grandes modelos de lenguaje, no hay duda de que hay mucho más por venir», dijo Özdaglar. «Si bien la promesa es obvia para todos nosotros, también hay muchos motivos de preocupación. Ahora hay mucho tiempo para el pensamiento imaginativo y una cuidadosa consideración para mejorar los algoritmos del mañana”.
Al dirigirse al panel, Ozdaglar pidió a expertos en informática, ciencias sociales y ciencia de datos ideas sobre cómo comprender el futuro y darle forma de manera que enriquezca los resultados para la mayoría de la humanidad.
Sarah Williams, profesora asociada de tecnología y planificación urbana en el MIT, enfatizó la importancia de comprender el proceso de compilación de conjuntos de datos, ya que los datos son la base de todos los modelos. También destacó la necesidad de realizar investigaciones para examinar los efectos potenciales del sesgo en los algoritmos, que a menudo encuentran su camino a través de sus creadores y los datos utilizados en su desarrollo. «Depende de nosotros pensar en nuestras propias soluciones éticas a estos problemas», afirmó. “Así como es importante avanzar con la tecnología, también debemos comenzar a abordar las preguntas: ¿Cuáles son los sesgos en los algoritmos? ¿Qué sesgos hay en los datos o en el recorrido de esos datos?
Los panelistas, que también incluyeron a Srini Devadas, profesor de Ingeniería Eléctrica y Ciencias de la Computación en el MIT, John Horton, profesor de Tecnología de la Información, y Simon Johnson, profesor de…, se centraron en los modelos generativos y en si el desarrollo y uso de estos Las tecnologías que se regulan deberían ser emprendimiento: todos estuvieron de acuerdo en que regular los algoritmos de código abierto que son de dominio público sería difícil ya que los reguladores todavía están poniéndose al día y luchando incluso por establecer barreras protectoras para tecnologías que ahora tienen 20 años.
Volviendo a la cuestión de cómo regular eficazmente el uso de estas tecnologías, Johnson sugirió como posible solución un sistema de impuesto corporativo progresivo. Recomienda que los pagos de impuestos corporativos se basen en las ganancias, particularmente las grandes corporaciones cuyas enormes ganancias en gran medida no están sujetas a impuestos debido a la banca extraterritorial. De esta manera, dijo Johnson, este enfoque puede servir como un mecanismo regulatorio que disuade a las empresas de intentar «poseer el mundo entero» mediante la introducción de incentivos perversos.
El papel de la ética en la educación informática.
A medida que la tecnología informática continúa avanzando y no muestra signos de desaceleración, es vital enseñar a los estudiantes a ser conscientes de los impactos sociales de las tecnologías que desarrollarán e implementarán en el mundo. ¿Pero es posible enseñar algo así? ¿Si es así, cómo?
Caspar Hare, profesor de filosofía en el MIT y decano asociado de SERC, planteó esa amenazadora pregunta a los profesores en un panel que moderó sobre el papel de la ética en la educación en informática. Cada panelista tiene experiencia enseñando ética y reflexionando sobre el impacto social de la informática y compartió su perspectiva y enfoque.
Eden Medina, profesor asociado de ciencia, tecnología y sociedad en el MIT, es un firme defensor de la importancia de aprender de la historia y dice: «A menudo, la forma en que entendemos las computadoras es tal que todo es nuevo». En mis clases es cómo la gente ha abordado estos temas en el pasado, y trato de usar eso como una forma de pensar en posibles caminos a seguir”. Medina utiliza regularmente estudios de casos en sus cursos y hace referencia a un artículo de la historiadora de la ciencia de la Universidad de Yale, Joanna. Radin sobre el conjunto de datos Pima Indian Diabetes, que planteó cuestiones éticas sobre la historia de este conjunto de datos en particular que muchos no ven como un ejemplo de cómo las decisiones en torno a la tecnología y los datos pueden surgir de contextos muy específicos.
Milo Phillips-Brown, profesor asociado de Filosofía en la Universidad de Oxford, habló sobre el Protocolo de Computación Ética, que ayudó a desarrollar mientras era postdoctorado en SERC en el MIT. El protocolo, un enfoque de cuatro pasos para desarrollar tecnología de manera responsable, tiene como objetivo capacitar a los estudiantes de informática para que piensen mejor y con mayor precisión sobre el impacto social de la tecnología dividiendo el proceso en pasos más manejables. «El enfoque básico que seguimos está fuertemente orientado hacia las áreas de diseño sensible a los valores, investigación e innovación responsables y diseño participativo como ideas rectoras, y también es fundamentalmente interdisciplinario», afirmó.
Campos como la biomedicina y el derecho cuentan con un ecosistema ético que distribuye la función del pensamiento ético a estos campos. Se proporciona supervisión y regulación para guiar a las partes interesadas de primera línea y a los tomadores de decisiones a medida que surgen problemas, al igual que los programas de capacitación y el acceso a experiencia interdisciplinaria a la que recurrir. «No tenemos nada de eso en esa área», dijo John Basl, profesor asociado de filosofía en la Universidad Northeastern. «Para la generación actual de científicos informáticos y otros tomadores de decisiones, en realidad les permitimos hacer ellos mismos el razonamiento ético.» Basl señaló además que enseñar habilidades fundamentales de razonamiento ético en todo el plan de estudios, no solo en las clases de filosofía, es esencial y que el objetivo es No es necesario que todo científico informático sea un especialista en ética profesional, sino que sepa lo suficiente sobre el panorama para poder formular las preguntas correctas e identificar la experiencia y los recursos relevantes disponibles.
Después de la sesión de clausura, grupos interdisciplinarios de profesores, estudiantes e investigadores entablaron animados debates sobre los temas tratados a lo largo del día en una recepción que cerró el simposio.
[ad_2]