\n<\/p>\n
El 9 de noviembre veremos por primera vez el tan publicitado \u201cPIN AI\u201d de Humane (lo que sea que sea), y la startup de memoria AI personalizada Rewind est\u00e1 lanzando un colgante para rastrear no solo su vida digital sino tambi\u00e9n su vida f\u00edsica en alg\u00fan momento del mundo. futuro previsible. Abundan los rumores sobre la reuni\u00f3n de Sam Altman de OpenAI con la antigua deidad del dise\u00f1o de Apple, Jony Ive, sobre la construcci\u00f3n de un dispositivo de hardware de IA de alg\u00fan tipo y los murmullos en los pasillos de las oficinas de VC en todas partes anuncian en tonos sin aliento la llegada de un momento iPhone para la IA.<\/p>\n
Por supuesto, el potencial es inmenso: un dispositivo que toma y extiende a muchos otros aspectos de nuestras vidas lo que ChatGPT ha podido hacer con la IA generativa, con suerte con un poco m\u00e1s de inteligencia y practicidad. Pero el costo es considerable; no el costo financiero, que no es m\u00e1s que una mayor transferencia de riqueza desde las reservas de carb\u00f3n de las oficinas familiares ricas y las personas de alto patrimonio neto a los insaciables incendios de las tasas de quema de startups. No, me refiero al precio que pagamos en privacidad.<\/p>\n
La muerte de la privacidad ha sido anunciada, cancelada, contrarrestada y repetida muchas veces a lo largo de los a\u00f1os (solo busque la frase en Google) en respuesta a una gran cantidad de avances tecnol\u00f3gicos, incluidos aspectos como compartir la ubicaci\u00f3n en vivo de dispositivos m\u00f3viles; el advenimiento y eventual ubicuidad de las redes sociales y sus gr\u00e1ficos sociales resultantes; cartograf\u00eda por sat\u00e9lite e im\u00e1genes de alta resoluci\u00f3n; fugas masivas de credenciales e informaci\u00f3n de identificaci\u00f3n personal (PII) y mucho, mucho m\u00e1s.<\/p>\n
La IA generativa, del tipo popularizado por OpenAI y ChatGPT, y al que la mayor\u00eda de la gente se refiere cuando anticipa una pr\u00f3xima ola de dispositivos de IA, es otro enemigo mortal de lo que consideramos privacidad, y es uno de sus tipos m\u00e1s voraces y asesinos indiscriminados todav\u00eda.<\/p>\n
En nuestro reciente evento TechCrunch Disrupt en San Francisco, la presidenta de Signal, Meredith Whittaker, una de las \u00fanicas figuras importantes en tecnolog\u00eda que parece dispuesta y ansiosa por abordar las amenazas realistas espec\u00edficas de la IA, en lugar de se\u00f1alar eventuales escenarios apocal\u00edpticos para mantener la atenci\u00f3n de la gente. fuera del premio, dijo que la IA es en esencia \u201cuna tecnolog\u00eda de vigilancia\u201d que \u201crequiere el modelo de negocio de vigilancia\u201d en t\u00e9rminos de su capacidad y necesidad de absorber todos nuestros datos. Tambi\u00e9n tiene un uso vigilante en t\u00e9rminos de reconocimiento de im\u00e1genes, an\u00e1lisis de sentimientos y muchas otras aplicaciones similares.<\/p>\n
Todas estas compensaciones son para un facs\u00edmil razonable de una computadora que piensa y sabe, pero no una que realmente pueda pensar y saber. Las definiciones de esas cosas obviamente variar\u00e1n, pero la mayor\u00eda de los expertos coinciden en que los LLM que tenemos hoy, si bien definitivamente son avanzados y claramente capaces de imitar de manera convincente el comportamiento humano en ciertas circunstancias limitadas, en realidad no est\u00e1n replicando el conocimiento o el pensamiento humanos.<\/p>\n
Pero incluso para lograr este nivel de rendimiento, los modelos en los que se basan cosas como ChatGPT han requerido el ingreso de grandes cantidades de datos, datos recopilados posiblemente con el \u00abconsentimiento\u00bb de quienes los proporcionaron, es decir, que los publicaron libremente en Internet. sin una comprensi\u00f3n firme de lo que eso significar\u00eda para la recopilaci\u00f3n y reutilizaci\u00f3n, y mucho menos en un dominio que probablemente no exist\u00eda realmente cuando lo publicaron para empezar.<\/p>\n
Esto tiene en cuenta la informaci\u00f3n digital, que es en s\u00ed misma una colecci\u00f3n muy amplia de datos que probablemente revela mucho m\u00e1s de lo que cualquiera de nosotros individualmente se sentir\u00eda c\u00f3modo. Pero ni siquiera incluye el tipo de informaci\u00f3n del mundo f\u00edsico que est\u00e1 a punto de ser recopilada por dispositivos como el pin AI de Humane, el colgante Rewind y otros, incluidos los Ray-Ban Meta Smartglasses que el propietario de Facebook lanz\u00f3 a principios de este mes, que est\u00e1n listos para agregar funciones el pr\u00f3ximo a\u00f1o que brindan informaci\u00f3n a pedido sobre objetos y lugares del mundo real capturados a trav\u00e9s de sus c\u00e1maras integradas.<\/p>\n
Algunos de los que trabajan en esta categor\u00eda emergente han anticipado preocupaciones en torno a la privacidad y han brindado todas las protecciones que pueden: Humane se\u00f1ala que su dispositivo siempre indicar\u00e1 cu\u00e1ndo est\u00e1 capturando a trav\u00e9s de un LED amarillo; Meta renov\u00f3 la luz de notificaci\u00f3n en las gafas Ray-Ban Smart en comparaci\u00f3n con la primera versi\u00f3n para desactivar f\u00edsicamente la grabaci\u00f3n si detectan manipulaci\u00f3n u ofuscaci\u00f3n del LED; Rewind dice que est\u00e1 adoptando un enfoque que prioriza la privacidad en todo el uso de datos con la esperanza de que se convierta en el est\u00e1ndar para la industria.<\/p>\n
Es poco probable que eso se convierta en el est\u00e1ndar para la industria. Hist\u00f3ricamente, el est\u00e1ndar ha sido el m\u00ednimo que el mercado y los reguladores soportar\u00e1n, y ambos han tendido a aceptar m\u00e1s incursiones con el tiempo, ya sea t\u00e1citamente o al menos mediante la ausencia de objeciones a los cambios en los t\u00e9rminos, condiciones y pol\u00edticas de privacidad.<\/p>\n
Un salto desde lo que tenemos ahora a una verdadera computadora pensante y conocedora que pueda actuar como un compa\u00f1ero virtual con al menos una imagen tan completa de nuestras vidas como la que tenemos nosotros mismos, requerir\u00e1 la p\u00e9rdida de tantos datos como podamos esperar. coleccionar o poseer, en la medida en que sea algo que cualquiera de nosotros pueda poseer. Y si logramos nuestros objetivos, el hecho de si estos datos alguna vez abandonan nuestros dispositivos locales (y las inteligencias virtuales que habitan en ellos) o no se vuelve algo discutible, ya que nuestra informaci\u00f3n ser\u00e1 compartida con otro, incluso si el otro en este caso sucede que no tiene forma de carne y hueso.<\/p>\n
Es muy posible que en ese momento el concepto de \u201cprivacidad\u201d tal como lo entendemos hoy sea anticuado o insuficiente en t\u00e9rminos del mundo en el que nos encontramos, y tal vez tengamos algo para reemplazarlo que preserve su esp\u00edritu a la luz de este nuevo paradigma. De cualquier manera, creo que el camino hacia el momento de la IA en el iPhone requiere necesariamente la \u201cmuerte\u201d de la privacidad tal como la conocemos, lo que coloca a las empresas que consideran y valoran la privacidad como un diferenciador clave, como Apple, en una posici\u00f3n extra\u00f1a durante la pr\u00f3xima d\u00e9cada aproximadamente. .<\/p>\n<\/p><\/div>\n