Alucinaciones, puntos ciegos y comportamientos involuntarios: por qué las IA actuales todavía no son muy inteligentes

¿Cuáles son las principales causas del comportamiento impredecible de la IA?

Según Maren, los grandes modelos de lenguaje (LLM) y otras herramientas que se utilizan actualmente para crear aplicaciones de IA tienen problemas estructurales inherentes. Hacen que estas aplicaciones «alucinen», son propensas a «mal juicio» y, según el Dr. Maren limita su utilidad en aplicaciones que requieren inteligencia artificial general (AGI) completa.

Durante su conferencia, la Dra. Maren destaca algunos de los defectos estructurales más importantes en forma de una breve historia de la IA desde la década de 1940 hasta la actualidad. Entre otras cosas, mostró cómo las redes neuronales actuales están entrenadas para enfocarse demasiado e ignorar resultados importantes de diferentes partes de la red. Además, la Dra. Maren describe la separación de 50 años entre los gráficos de conocimiento simbólico utilizados para estructurar la información dentro de un sistema de inteligencia artificial y las redes neuronales que realizan el procesamiento real.

Un nuevo enfoque para el diseño de IA: CORTECON

Para llenar este vacío, Maren desarrolló un nuevo componente fundamental de IA llamado CORTECON (COntent-Retentive, TEmporal-CONnected Network), que permite la integración de tres propiedades neurofisiológicas importantes en una arquitectura AGI. Esta arquitectura se basa en tres elementos neurofisiológicos:

• Modelos neuronales avanzados
• Formulación avanzada de energía libre (método variacional del grupo Kikuchi)
• Bucles de retroalimentación que pueden influir en las transiciones entre estados metaestables

En conjunto, estas nuevas capacidades permiten que una IA manifieste una amplia gama de nuevos comportamientos que tienen muchos más matices que los disponibles actualmente. Aunque algunos de los conceptos pueden resultar difíciles de entender para alguien que no esté muy familiarizado con la IA, el Dr. Maren es excelente para explicar todo lo posible en un inglés sencillo.

Ya sea que sea un usuario avanzado con conocimientos de inteligencia artificial o un novato fascinado por la tecnología, es una buena apuesta que ver nuestra charla será informativo y posiblemente incluso entretenido (si no le importa que se apaguen algunos chistes cursis).

Se pueden encontrar más artículos/vídeos en TechXchange: Generación de IA.