[ad_1]
W.
Bienvenido a TechCrunch Exchange, un boletín semanal para nuevas empresas y mercados. Está inspirado en la columna diaria TechCrunch+, de la que toma su nombre. ¿Lo quieres en tu bandeja de entrada todos los sábados? Entre aquí.
La capacidad de la tecnología para reinventarse La rueda tiene sus desventajas: puede significar ignorar verdades obvias que otros ya han aprendido. Pero la buena noticia es que los nuevos fundadores a veces se dan cuenta más rápido que sus predecesores. — ana
IA, confianza y seguridad
Este año es un año olímpico, un año bisiesto. . . y también El Año electoral. Pero antes de que me acusen del impago de Estados Unidos, no pienso sólo en la continuación del enfrentamiento Biden vs. Trump: se están celebrando elecciones nacionales en más de 60 países, sin mencionar las del Parlamento de la UE.
¿Qué impacto podría tener cada uno de estos cambios de votación en las empresas de tecnología? Por ejemplo, diferentes partidos tienden a tener diferentes puntos de vista sobre la regulación de la IA. Pero incluso antes de que se celebren las elecciones, la tecnología también desempeñará un papel para garantizar su integridad.
Cuando Mark Zuckerberg fundó Facebook, probablemente no estaba pensando en la integridad electoral, y quizás tampoco cuando compró WhatsApp. Pero 20 y 10 años después, la confianza y la seguridad son ahora una responsabilidad que Meta y otros gigantes tecnológicos no pueden eludir, lo quieran o no. Esto significa que debemos trabajar para prevenir la desinformación, el fraude, el discurso de odio, el CSAM (materiales de abuso sexual infantil), las autolesiones y más.
Sin embargo, es probable que la IA dificulte la tarea, y no solo por los deepfakes o el empoderamiento de un mayor número de actores maliciosos. Lotan Levkowitz, socio general de Grove Ventures, dice:
Todas estas plataformas de confianza y seguridad tienen esta base de datos para compartir hash, por lo que puedo cargar cualquier cosa que esté mal allí, compartirla con todas mis comunidades y todos lo detendrán juntos; Pero hoy puedo enseñarle el modelo para evitarlo. Incluso el trabajo más tradicional de confianza y seguridad se está volviendo cada vez más difícil gracias a Gen AI, ya que el algoritmo puede ayudar a evitar todas estas cosas.
De la ocurrencia tardía al primer plano
Aunque los foros en línea ya habían aprendido un par de cosas sobre la moderación de contenido, cuando se fundó Facebook, no existía un manual de estrategias de redes sociales a seguir. Por lo tanto, es algo comprensible que lleve algún tiempo ponerse a la altura de la tarea. Sin embargo, es desalentador saber a través de metadocumentos internos que ya en 2017 todavía había reticencia interna a introducir medidas que pudieran proteger mejor a los niños.
Zuckerberg fue uno de los cinco directores ejecutivos de tecnología de redes sociales que comparecieron en una reciente audiencia en el Senado de Estados Unidos sobre la seguridad de los niños en línea. El testimonio estuvo lejos de ser la primera vez de Meta, pero también vale la pena señalar el hecho de que Discord estuvo allí; Aunque se está expandiendo más allá de sus raíces en los juegos, es un recordatorio de que pueden surgir riesgos de confianza y seguridad en muchos lugares en línea. Esto significa que, por ejemplo, una aplicación de juegos sociales también podría exponer a sus usuarios al riesgo de phishing o de seducción.
¿Las empresas más nuevas se convertirán en propietarias más rápido que las FAANG? Esto no está garantizado: los fundadores suelen partir de principios básicos sobre lo que es bueno y malo; La curva de aprendizaje para la moderación de contenidos es real. Pero OpenAI es mucho más joven que Meta, por lo que es alentador saber que está formando un nuevo equipo para estudiar la seguridad infantil, aunque eso puede ser el resultado del escrutinio al que se está sometiendo.
Sin embargo, algunas empresas emergentes no esperan a que aparezcan señales de problemas para actuar. ActiveFence, un proveedor de soluciones de seguridad y confianza impulsadas por IA y parte de la cartera de Grove Ventures, está viendo un número cada vez mayor de consultas entrantes, me dijo su director ejecutivo, Noam Schwartz.
“He visto a muchas personas acercarse a nuestro equipo desde empresas que recién estaban comenzando o incluso a punto de comenzar. Piensan en la seguridad de sus productos desde la fase de diseño [and] Presentamos un concepto llamado Seguridad por Diseño. Incorporan medidas de seguridad en sus productos, tal como usted piensa en la seguridad y la privacidad cuando desarrolla sus funciones hoy”.
ActiveFence no es la única startup en este espacio que Wired describió como «confianza y seguridad como servicio». Pero es uno de los más grandes, especialmente desde la adquisición de Spectrum Labs en septiembre. Así que es bueno saber que entre sus clientes se incluyen no sólo grandes nombres temerosos de las crisis de relaciones públicas y el control político, sino también equipos más pequeños que recién comienzan. La tecnología también tiene la oportunidad de aprender de los errores del pasado.
[ad_2]