W.
Bienvenido a TechCrunch Exchange, un boletín semanal sobre nuevas empresas y mercados. Está inspirado en la columna diaria TechCrunch+ de donde recibe su nombre. ¿Lo quieres en tu bandeja de entrada todos los sábados? Registrate aquí.
La capacidad de la tecnología para reinventarse La rueda tiene sus desventajas: puede significar ignorar verdades flagrantes que otros ya han aprendido. Pero la buena noticia es que los nuevos fundadores a veces lo descubren por sí mismos más rápido que sus predecesores. — ana
IA, confianza y seguridad
Este año es un año olímpico, un año bisiesto. . . y también el año electoral. Pero antes de que me acusen de defaultismo estadounidense, no estoy pensando sólo en la secuela entre Biden y Trump: más de 60 países están celebrando elecciones nacionales, sin mencionar las del Parlamento de la UE.
De qué manera cada uno de estos cambios de votos podría tener un impacto en las empresas de tecnología; Diferentes partidos tienden a tener diferentes opiniones sobre la regulación de la IA, por ejemplo. Pero incluso antes de que se celebren las elecciones, la tecnología también tendrá un papel que desempeñar para garantizar su integridad.
La integridad electoral probablemente no estaba en la mente de Mark Zuckerberg cuando creó Facebook, y tal vez ni siquiera cuando compró WhatsApp. Pero 20 y 10 años después, respectivamente, la confianza y la seguridad son ahora una responsabilidad de la que Meta y otros gigantes tecnológicos no pueden escapar, les guste o no. Esto significa trabajar para prevenir la desinformación, el fraude, el discurso de odio, el CSAM (material de abuso sexual infantil), las autolesiones y más.
Sin embargo, la IA probablemente hará que la tarea sea más difícil, y no solo por los deepfakes o por empoderar a un mayor número de malos actores. Dice Lotan Levkowitz, socio general de Grove Ventures:
Todas estas plataformas de confianza y seguridad tienen esta base de datos para compartir hash, así que puedo cargar allí lo que es malo, compartirlo con todas mis comunidades y todos juntos lo detendremos; pero hoy puedo entrenar el modelo para intentar evitarlo. Entonces, incluso el trabajo más clásico de confianza y seguridad, gracias a la Generación AI, se está volviendo cada vez más difícil porque el algoritmo puede ayudar a evitar todas estas cosas.
De la ocurrencia tardía a la vanguardia
Aunque los foros en línea ya habían aprendido un par de cosas sobre moderación de contenido, Facebook no tenía un manual de estrategias de red social a seguir cuando nació, por lo que es algo comprensible que necesitaría un tiempo para estar a la altura de la tarea. Pero es desalentador saber a través de documentos internos de Meta que, ya en 2017, todavía había renuencia interna a adoptar medidas que pudieran proteger mejor a los niños.
Zuckerberg fue uno de los cinco directores ejecutivos de tecnología de redes sociales que comparecieron recientemente en una audiencia del Senado de Estados Unidos sobre la seguridad de los niños en línea. Testificar no fue ni mucho menos la primera vez para Meta, pero también vale la pena señalar que Discord fue incluido; Si bien se ha expandido más allá de sus raíces en los juegos, es un recordatorio de que pueden ocurrir amenazas a la confianza y la seguridad en muchos lugares en línea. Esto significa que una aplicación de juegos sociales, por ejemplo, también podría poner a sus usuarios en riesgo de sufrir phishing o seducción.
¿Las empresas más nuevas se harán cargo más rápido que las FAANG? Eso no está garantizado: los fundadores a menudo operan desde los primeros principios, lo cual es bueno y malo; La curva de aprendizaje de la moderación de contenidos es real. Pero OpenAI es mucho más joven que Meta, por lo que es alentador saber que está formando un nuevo equipo para estudiar la seguridad infantil, incluso si puede ser el resultado del escrutinio al que está sujeto.
Algunas startups, sin embargo, no esperan señales de problemas para tomar medidas. ActiveFence, proveedor de soluciones de confianza y seguridad basadas en IA y parte de la cartera de Grove Ventures, está recibiendo más solicitudes entrantes, me dijo su director ejecutivo, Noam Schwartz.
“He visto a muchas personas acercarse a nuestro equipo desde empresas recién fundadas o incluso prelanzadas. Están pensando en la seguridad de sus productos durante la fase de diseño. [and] adoptando un concepto llamado seguridad por diseño. Están incorporando medidas de seguridad dentro de sus productos, de la misma manera que hoy piensas en la seguridad y la privacidad cuando creas tus funciones”.
ActiveFence no es la única startup en este espacio, que Wired describió como «confianza y seguridad como servicio». Pero es uno de los más grandes, especialmente desde que adquirió Spectrum Labs en septiembre, por lo que es bueno saber que entre sus clientes no sólo se incluyen grandes nombres que temen las crisis de relaciones públicas y el escrutinio político, sino también equipos más pequeños que recién están comenzando. La tecnología también tiene la oportunidad de aprender de los errores del pasado.