[ad_1]
Durante el año pasado, la industria ha logrado avances significativos en las capacidades de IA. A medida que estos avances se aceleran, se necesitan nuevas investigaciones académicas sobre la seguridad de la IA. Para abordar esta brecha, el Foro y sus socios filantrópicos están creando un nuevo Fondo de Seguridad de la IA que apoyará a investigadores independientes de todo el mundo afiliados a instituciones académicas, centros de investigación y nuevas empresas. El compromiso de financiación inicial para el AI Safety Fund proviene de Anthropic, Google, Microsoft y OpenAI, así como de la generosidad de nuestros socios filantrópicos, la Fundación Patrick J. McGovern y la Fundación David y Lucile Packard.[^footnote-1], Eric Schmidt y Jaan Tallin. En conjunto, esto representa más de $10 millones en financiación inicial. Esperamos contribuciones adicionales de otros socios.
A principios de este año, los miembros del Foro de la Casa Blanca firmaron compromisos voluntarios de IA, que incluían el compromiso de facilitar que terceros descubran e informen vulnerabilidades en nuestros sistemas de IA. El Foro considera que el Fondo de Seguridad de la IA es una parte importante para cumplir este compromiso al proporcionar a la comunidad externa los medios para evaluar y comprender mejor los sistemas fronterizos. El debate global sobre la seguridad de la IA y la base general de conocimientos sobre la IA se beneficiará de una gama más amplia de voces y perspectivas.
El objetivo principal del fondo será apoyar el desarrollo de nuevas evaluaciones de modelos y técnicas para equipos rojos de modelos de IA para respaldar el desarrollo y prueba de técnicas de evaluación de capacidades potencialmente peligrosas de los sistemas fronterizos. Creemos que una mayor financiación en esta área ayudará a elevar los estándares de seguridad y proporcionará información sobre las mitigaciones y controles que la industria, los gobiernos y la sociedad civil necesitan para responder a los desafíos que plantean los sistemas de IA.
El Fondo publicará una convocatoria de propuestas en los próximos meses. El Meridian Institute gestionará el fondo. Su trabajo cuenta con el respaldo de un consejo asesor compuesto por expertos externos independientes, expertos de empresas de inteligencia artificial y personas con experiencia en concesión de subvenciones.
[ad_2]