[ad_1]
en un rústico En el verano de 2010, fundé una empresa llamada DeepMind con dos amigos, Demis Hassabis y Shane Legg, desde mi oficina de la era Regencia con vistas a Russell Square de Londres. Nuestro objetivo, que todavía parece tan ambicioso, loco y esperanzador como entonces, era reproducir exactamente lo que nos hace únicos como especie: nuestra inteligencia.
Para hacerlo, necesitaríamos crear un sistema que pueda imitar y eventualmente superar todas las capacidades cognitivas humanas, desde la vista y el habla hasta la planificación, la imaginación, la empatía y la creatividad. Dado que un sistema de este tipo se beneficiaría del procesamiento paralelo masivo de supercomputadoras y de la explosión de enormes fuentes de datos nuevas a través de la web abierta, sabíamos que incluso un progreso modesto hacia este objetivo tendría profundas implicaciones sociales.
Ciertamente parecía bastante descabellado en ese momento.
Pero la IA lleva décadas ascendiendo en la escala cognitiva y ahora se espera que alcance un rendimiento a nivel humano en una amplia gama de tareas en los próximos tres años. Es una afirmación muy grande, pero si estoy en lo cierto aunque sea remotamente, las implicaciones son realmente profundas.
Nuevos avances en un área aceleran los demás en un proceso caótico y catalizador mutuo que está más allá del control directo de cualquiera. Estaba claro que si nosotros u otros lográbamos reproducir la inteligencia humana, no sólo sería un negocio rentable, sino que también implicaría un cambio sísmico para la humanidad, que marcaría el comienzo de una era de oportunidades sin precedentes con riesgos sin precedentes. Ahora, junto con una variedad de tecnologías que incluyen la biología sintética, la robótica y la computación cuántica, está comenzando a estallar una ola de IA extremadamente poderosa y en rápida evolución. Lo que parecía sobrenatural cuando se fundó DeepMind se ha vuelto no sólo plausible, sino aparentemente inevitable.
Como desarrollador de estas tecnologías, creo que pueden hacer un bien extraordinario. Pero sin lo que yo llamo contención, cualquier otro aspecto de una tecnología, cualquier discusión sobre sus defectos éticos o los beneficios que podría aportar, es irrelevante. Veo la contención como un conjunto de mecanismos técnicos, sociales y legales entrelazados que restringen y controlan la tecnología, funcionando en todos los niveles posibles: en teoría, un medio para escapar del dilema de cómo retener el control de las tecnologías más poderosas de la historia. Necesitamos urgentemente respuestas coherentes sobre cómo controlar y contener la ola que se avecina, y cómo mantener las salvaguardas y capacidades del Estado-nación democrático que son fundamentales para hacer frente a estas tecnologías, aunque amenazadas por ellas. Por el momento nadie tiene tal plan. Esto apunta a un futuro que ninguno de nosotros desea, pero que me temo que es cada vez más probable.
Dados los enormes y arraigados incentivos para impulsar la tecnología, a primera vista, la contención no es posible. Y, sin embargo, por el bien de todos nosotros: la contención debe para ser posible.
Parece que la clave para la contención reside en una regulación inteligente a nivel nacional y supranacional que equilibre la necesidad de avances con limitaciones de seguridad sensatas, que abarquen todo, desde gigantes tecnológicos y militares hasta pequeños grupos de investigación universitarios y empresas emergentes, en un marco integral y ejecutable. El sistema está incorporado en el marco. Lo hemos hecho antes ese es el argumento; Mire los coches, los aviones y las medicinas. ¿No es así como estamos gestionando y conteniendo la ola que se avecina?
Si pudiera ser así de fácil. La regulación es esencial. Pero la regulación por sí sola no es suficiente. A primera vista, los gobiernos deberían estar mejor preparados que nunca para hacer frente a los riesgos y tecnologías emergentes. Los presupuestos gubernamentales para este tipo de cosas se encuentran generalmente en niveles récord. La verdad, sin embargo, es que las amenazas emergentes son extraordinariamente difíciles de afrontar para cualquier gobierno. Esto no es un defecto en la idea de gobierno; Es una evaluación de la magnitud del desafío que tenemos por delante. Los gobiernos están librando la última guerra, la última pandemia, regulando la última ola. Los reguladores regulan las cosas que pueden prever.
[ad_2]