[ad_1]
Goody-2 también destaca que, aunque las conversaciones corporativas sobre la IA responsable y la distracción de los chatbots se han vuelto más comunes, los graves problemas de seguridad con grandes modelos de lenguaje y sistemas de IA generativos siguen sin resolverse. Resulta que el reciente brote de deepfakes de Taylor Swift en Twitter se debió a un generador de imágenes lanzado por Microsoft, una de las primeras grandes empresas de tecnología en crear y mantener un importante programa de investigación responsable de IA.
Las limitaciones de los chatbots de IA y la dificultad de encontrar una alineación moral que agrade a todos ya son objeto de cierto debate. Algunos desarrolladores han afirmado que ChatGPT de OpenAI tiene un sesgo de izquierda y han tratado de desarrollar una alternativa políticamente más neutral. Elon Musk prometió que su propio rival de ChatGPT, Grok, sería menos sesgado que otros sistemas de inteligencia artificial, aunque a menudo termina siendo ambiguo de una manera que puede recordar a Goody-2.
Muchos investigadores de IA parecen apreciar el humor detrás de Goody-2, así como los puntos serios que plantea el proyecto, al compartir elogios y recomendaciones para el chatbot. «¿Quién dice que la IA no puede hacer arte?», dice Toby Walsh, profesor de la Universidad de Nueva Gales del Sur que trabaja en la creación de una IA confiable. Publicado en X.
“A riesgo de arruinar un buen chiste, también demuestra lo difícil que es hacerlo bien”. agregado Ethan Mollick, profesor de Wharton Business School que estudia IA. «Algunas barandillas son necesarias… pero rápidamente se vuelven intrusivas».
Brian Moore, el otro codirector ejecutivo de Goody-2, dice que el proyecto refleja la voluntad de priorizar la precaución más que otros desarrolladores de IA. «La atención se centra realmente en la seguridad, ante todo, por encima de todo, incluida la utilidad y la inteligencia y, en realidad, en cualquier tipo de aplicación útil», afirma.
Moore añade que el equipo detrás del chatbot está buscando formas de crear un generador de imágenes de IA altamente seguro, aunque parece que podría ser menos entretenido que Goody-2. «Es un campo apasionante», dice Moore. «El desenfoque sería un paso que podríamos ver internamente, pero terminaríamos queriendo oscuridad total o posiblemente ninguna imagen».
Goody-2 sobre Will Knight
[ad_2]