[ad_1]
Hablando en el simposio «Generative AI: Shaping the Future» el 28 de noviembre, el evento inaugural de la Generative AI Week en el MIT, el orador principal y cofundador de iRobot, Rodney Brooks, advirtió a los asistentes sobre las capacidades de esta tecnología emergente que apuntala cada vez más, de manera acrítica. Sobreestimamos herramientas poderosas como ChatGPT de OpenAI y Bard de Google.
“La exageración conduce a la arrogancia, y la arrogancia conduce a la arrogancia, y la arrogancia conduce al fracaso”, advirtió Brooks, quien también es profesor emérito del MIT, ex director del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) y fundador de Robust. AI.
«Ninguna tecnología ha superado jamás a ninguna otra», añadió.
El simposio que atrajo a cientos de Los participantes del mundo académico y de la industria en el Auditorio Kresge del instituto estuvieron llenos de mensajes esperanzadores sobre las posibilidades que ofrece la IA generativa para hacer del mundo un lugar mejor, incluso a través del arte y la creatividad, intercalados con historias de advertencia sobre lo que sucederá con estas IA: herramientas que podrían salir mal no se desarrollan de manera responsable.
«IA generativa» es un término que describe modelos de aprendizaje automático que aprenden a generar material nuevo similar a los datos con los que fueron entrenados. Estos modelos han demostrado algunas habilidades increíbles, como la capacidad de producir escritura creativa similar a la humana, traducir idiomas, generar código de computadora funcional o crear imágenes realistas a partir de indicaciones de texto.
En sus palabras de apertura en la inauguración del simposio, la presidenta del MIT, Sally Kornbluth, destacó varios proyectos que profesores y estudiantes han emprendido para utilizar la IA generativa para tener un impacto positivo en el mundo. Por ejemplo, el trabajo de Axim Collaborative, una iniciativa de educación en línea lanzada por el MIT y Harvard, incluye explorar los aspectos educativos de la IA generativa para ayudar a los estudiantes desfavorecidos.
El Instituto también anunció recientemente subvenciones iniciales para 27 proyectos de investigación interdisciplinarios de profesores que exploran cómo la IA transformará la vida de las personas en toda la sociedad.
Al organizar la Semana de la IA Generativa, el MIT espera no sólo mostrar este tipo de innovación, sino también generar «colisiones colaborativas» entre los participantes, dijo Kornbluth.
La colaboración entre científicos, formuladores de políticas y la industria será fundamental si queremos integrar de manera segura una tecnología en rápida evolución como la IA generativa que sea humana y ayude a las personas a resolver problemas, dijo a la audiencia.
“Honestamente, no puedo imaginar un desafío que se ajuste mejor a la misión del MIT. Es una gran responsabilidad, pero tengo confianza en que si la afrontamos de frente y como comunidad, podremos estar a la altura”, afirmó.
Si bien la IA generativa tiene el potencial de ayudar a resolver algunos de los problemas más apremiantes de nuestro planeta, la aparición de estos poderosos modelos de aprendizaje automático ha desdibujado la línea entre la ciencia ficción y la realidad, dijo la directora de CSAIL, Daniela Rus, en sus comentarios de apertura. Ya no se trata de si podemos fabricar máquinas que produzcan nuevos contenidos, dijo, sino de cómo podemos utilizar estas herramientas para mejorar los negocios y garantizar la sostenibilidad.
«Hoy discutiremos la posibilidad de un futuro en el que la IA generativa no sólo exista como una maravilla tecnológica, sino que actúe como una fuente de esperanza y poder para el bien», dijo Rus, quien también es profesor Andrew y Erna Viterbi en el Departamento. de Ingeniería Eléctrica e Informática.
Pero antes de que la discusión profundizara en las posibilidades de la IA generativa, primero se pidió a los participantes que reflexionaran sobre su humanidad mientras el profesor del MIT Joshua Bennett leía un poema original.
A Bennett, profesor del departamento de literatura del MIT y catedrático distinguido de Humanidades, se le pidió que escribiera un poema sobre lo que significa ser humano y se inspiró en su hija, que nació hace tres semanas.
El poema cuenta sus experiencias cuando era niño viendo Star Trek con su padre y discutió la importancia de transmitir las tradiciones a la próxima generación.
En sus discursos de apertura, Brooks se propuso aclarar algunas de las profundas cuestiones científicas que rodean la IA generativa y explorar lo que la tecnología puede decirnos sobre nosotros mismos.
Primero, intentó resolver algunos de los misterios que rodean a las herramientas de IA generativa como ChatGPT explicando los conceptos básicos de cómo funciona este gran modelo de lenguaje. ChatGPT, por ejemplo, genera texto palabra por palabra determinando cuál debe ser la siguiente palabra en el contexto de lo que ya se ha escrito. Mientras que un humano podría escribir una historia pensando en oraciones completas, ChatGPT solo se centra en la siguiente palabra, explicó Brooks.
ChatGPT 3.5 se basa en un modelo de aprendizaje automático con 175 mil millones de parámetros y estuvo expuesto a miles de millones de páginas de texto en la web durante el entrenamiento. (La última versión, ChatGPT 4, es aún más completa). Aprende correlaciones entre palabras en este enorme corpus de texto y utiliza ese conocimiento para sugerir qué palabra podría aparecer a continuación cuando se le solicite.
El modelo ha demostrado algunas habilidades increíbles, como la capacidad de escribir un soneto sobre robots al estilo del famoso Soneto 18 de Shakespeare. Durante su charla, Brooks presentó el soneto que le había pedido a ChatGPT que escribiera junto con su propio soneto.
Aunque los investigadores todavía no entienden exactamente cómo funcionan estos modelos, Brooks aseguró a la audiencia que las capacidades aparentemente increíbles de la IA generativa no son mágicas y eso no significa que estos modelos puedan hacer cualquier cosa.
Sus mayores temores sobre la IA generativa no giran en torno a modelos que algún día podrían superar la inteligencia humana. Más bien, lo que más le preocupa son los investigadores que podrían desperdiciar décadas de excelente trabajo que estaban a punto de lograr grandes avances sólo para precipitarse hacia nuevos y brillantes avances en IA generativa; empresas de capital de riesgo que pululan ciegamente por tecnologías que pueden ofrecer los márgenes más altos; o la posibilidad de que toda una generación de ingenieros se olvide de otras formas de software e inteligencia artificial.
En última instancia, quienes creen que la IA generativa puede resolver los problemas del mundo y quienes creen que sólo creará nuevos problemas tienen al menos una cosa en común: ambos grupos tienden a sobreestimar la tecnología, dijo.
“¿Qué tiene de vanidosa la IA generativa? La presunción es que de alguna manera conducirá a la inteligencia artificial general. No es eso per se”, dijo Brooks.
Después de la presentación de Brooks, un grupo de profesores del MIT habló sobre su trabajo con la IA generativa y participó en un panel de discusión sobre avances futuros, temas de investigación importantes pero poco investigados y los desafíos de la regulación y las políticas de la IA.
El panel estuvo formado por Jacob Andreas, profesor asociado del Departamento de Ingeniería Eléctrica y Ciencias de la Computación (EECS) del MIT y miembro de CSAIL; Antonio Torralba, profesor de Electrónica Delta de la EECS y miembro del CSAIL; Ev Fedorenko, profesor asociado de ciencias cognitivas y del cerebro e investigador del Instituto McGovern de Investigación del Cerebro del MIT; y Armando Solar-Lezama, distinguido profesor de informática y director asociado del CSAIL. Fue moderado por William T. Freeman, profesor Thomas y Gerd Perkins de la EECS y miembro de CSAIL.
Los panelistas discutieron varias posibles direcciones futuras de investigación en torno a la IA generativa, incluida la posibilidad de integrar sistemas de percepción utilizando sentidos humanos como el tacto y el olfato, en lugar de centrarse principalmente en el habla y las imágenes. Los investigadores también hablaron sobre la importancia de trabajar con los formuladores de políticas y el público para garantizar que las herramientas de IA generativa se produzcan y utilicen de manera responsable.
“Uno de los grandes riesgos de la IA generativa hoy en día es el riesgo de la trampa digital. «Existe un gran riesgo de que salgan al mercado muchos productos que dicen hacer maravillas pero que podrían ser muy dañinos a largo plazo», dijo Solar-Lezama.
La sesión de la mañana concluyó con un extracto de la novela de ciencia ficción de 1925 “Metropolis”, leída por Joy Ma, estudiante de física y teatro, seguida de una mesa redonda sobre el futuro de la IA generativa. En el debate participaron Joshua Tenenbaum, profesor del Departamento de Ciencias Cognitivas y del Cerebro y miembro del CSAIL; Dina Katabi, profesora Thuan y Nicole Pham de EECS e investigadora principal de CSAIL y MIT Jameel Clinic; y Max Tegmark, profesor de Física; y fue moderado por Daniela Rus.
Un tema central de la discusión fue la posibilidad de desarrollar modelos generativos de IA que vayan más allá de lo que podemos hacer como humanos, como herramientas que puedan detectar las emociones de una persona usando señales electromagnéticas para comprender cómo la respiración y el ritmo cardíaco cambian a una persona.
Pero una clave para integrar de forma segura dicha IA en el mundo real es asegurarnos de que podamos confiar en ella, afirmó Tegmark. Cuando sabemos que una herramienta de IA cumple con las especificaciones que requerimos, “ya no tenemos que tener miedo de construir sistemas realmente poderosos que salgan al mundo y hagan cosas por nosotros”, dijo.
[ad_2]