[ad_1]
Esas preocupaciones son una de las razones por las que OpenAI dijo en enero que prohibiría a las personas usar su tecnología para desarrollar chatbots que se hagan pasar por candidatos políticos o proporcionen información falsa relacionada con las elecciones. La compañía también dijo que no permitiría a nadie crear aplicaciones para campañas políticas o lobby.
Si bien la página Kennedy Chatbot no revela el modelo subyacente, el código fuente del sitio vincula este bot con LiveChatAI, una empresa que anuncia su capacidad para proporcionar chatbots de atención al cliente basados en GPT 4 y GPT 3.5 a empresas. En el sitio web de LiveChatAI, los bots se describen como «aprovechando las capacidades de ChatGPT».
Cuando se le preguntó qué modelo de lenguaje principal impulsa el bot de la campaña de Kennedy, Emre Elbeyoglu, cofundador de LiveChatAI, dijo en un comunicado enviado por correo electrónico el jueves que, además de GPT-3.5 y GPT-4, la plataforma utiliza «una variedad de tecnologías como Llama y Usos del Mistral”. «Debido a nuestro compromiso con la confidencialidad del cliente, no podemos confirmar ni negar los detalles del uso de un cliente», dijo Elbeyoglu.
El portavoz de OpenAI, Niko Felix, dijo a WIRED el jueves que la compañía «no tenía indicios» de que el chatbot de la campaña Kennedy se construyera directamente en sus servicios, pero sugirió que LiveChatAI podría estar usando uno de sus modelos a través de los servicios de Microsoft. Según se informa, Microsoft ha invertido más de 13 mil millones de dólares en OpenAI desde 2019. Los modelos ChatGPT de OpenAI ahora se han integrado en el motor de búsqueda Bing de Microsoft y en Office 365 Copilot de la compañía.
El viernes, un portavoz de Microsoft confirmó que el chatbot Kennedy «aprovecha las capacidades del servicio Microsoft Azure OpenAI». Microsoft declaró que sus clientes no están sujetos a los términos de servicio de OpenAI y que el chatbot Kennedy no viola las políticas de Microsoft.
«Nuestras pruebas limitadas de este chatbot demuestran su capacidad para generar respuestas que reflejen el contexto previsto, con las advertencias apropiadas para evitar información errónea», dijo el portavoz. “Cuando encontramos problemas, nos comunicamos con los clientes para comprenderlos y guiarlos hacia aplicaciones que se alineen con estos principios. En algunos casos, esto podría resultar en que le neguemos a un cliente el acceso a nuestra tecnología”.
OpenAI no respondió de inmediato a la solicitud de WIRED de comentar si el bot violó sus reglas. A principios de este año, la compañía bloqueó al desarrollador de Dean.bot, un chatbot basado en modelos de OpenAI que imita al candidato presidencial demócrata Dean Phillips y proporciona respuestas a las preguntas de los votantes.
A última hora de la tarde del domingo, el servicio de chatbot ya no estaba disponible. Si bien la página del sitio web de la campaña de Kennedy sigue siendo accesible, la ventana del chatbot integrado ahora muestra un signo de exclamación rojo y simplemente dice «Chatbot no encontrado». WIRED contactó a Microsoft, OpenAI, LiveChatAI y la campaña Kennedy para comentar sobre la aparente eliminación del chatbot, pero no recibió una respuesta inmediata.
Dada la propensión de los chatbots a sufrir alucinaciones e hipo, su uso en contextos políticos es controvertido. Actualmente, OpenAI es el único modelo de lenguaje importante que prohíbe explícitamente su uso en campañas electorales; Meta, Microsoft, Google y Mistral tienen términos de servicio, pero no abordan directamente la política. Y teniendo en cuenta que una campaña puede acceder a GPT-3.5 y GPT-4 a través de un tercero aparentemente sin consecuencias, apenas existen restricciones.
«OpenAI puede decir que, por un lado, no permite el uso de sus herramientas en elecciones o durante campañas», dijo Woolley. “Por otro lado, estas herramientas también están disponibles de forma bastante gratuita. Dada la naturaleza distribuida de esta tecnología, uno debe preguntarse cómo OpenAI hará cumplir sus propias políticas”.
[ad_2]