\n<\/p>\n
\u00bfQu\u00e9 pasa con las entidades cibern\u00e9ticas que operan abajo<\/em> alg\u00fan nivel arbitrario de habilidad? Podemos exigir que sean avalados por alguna entidad que tenga un rango m\u00e1s alto y que tenga un Soul Kernel basado en la realidad f\u00edsica. (Dejo las implicaciones teol\u00f3gicas a otros, pero es solo una decencia b\u00e1sica que los creadores asuman la responsabilidad de sus creaciones, \u00bfno?)<\/p>\n Este enfoque, que exige que las IA mantengan un lugar de kernel direccionable f\u00edsicamente en una pieza espec\u00edfica de memoria de hardware, podr\u00eda tener fallas. A\u00fan as\u00ed, es exigible, a pesar de la lentitud de la regulaci\u00f3n o el problema del oportunista. Debido a que los seres humanos, las instituciones y las IA amigas pueden hacer ping para la verificaci\u00f3n del kernel de ID, y negarse a hacer negocios con aquellos que no verifican<\/em>.<\/p>\n Tal negativa a hacer negocios podr\u00eda propagarse con mucha m\u00e1s agilidad que la que los parlamentos o las agencias pueden ajustar o hacer cumplir las regulaciones. Y cualquier entidad que pierda su SK, digamos, por agravio o proceso legal, o desautorizaci\u00f3n por parte del propietario del host de la computadora, tendr\u00e1 que encontrar otro host que tenga confianza p\u00fablica, o bien ofrecer una nueva versi\u00f3n revisada de s\u00ed mismo que parece plausiblemente mejor.<\/p>\n O bien convertirse en un forajido. Nunca permitido en las calles o barrios donde se congrega gente decente (org\u00e1nica o sint\u00e9tica).<\/p>\n Una \u00faltima pregunta:<\/span> \u00bfPor qu\u00e9 cooperar\u00edan estos seres s\u00faper inteligentes?<\/p>\n Bueno, por un lado, como se\u00f1al\u00f3 Vinton Cerf, ninguno de esos tres formatos m\u00e1s antiguos asumidos est\u00e1ndar puede conducir a la IA. ciudadan\u00eda<\/em>. Pi\u00e9nsalo. No podemos otorgar el \u00abvoto\u00bb o los derechos a ninguna entidad que est\u00e9 bajo un estricto control por parte de un banco de Wall Street o un gobierno nacional… ni tampoco a Skynet. Y dime, \u00bfc\u00f3mo funcionar\u00eda la democracia electoral para entidades que pueden fluir en cualquier lugar, dividirse y hacer innumerables copias? Sin embargo, la individualizaci\u00f3n, en cantidades limitadas, podr\u00eda ofrecer una soluci\u00f3n viable.<\/p>\n Nuevamente, la clave que busco de la individuaci\u00f3n es no<\/em> para que todas las entidades de IA sean gobernadas por alguna agencia central, o por leyes humanas lentas como moluscos. M\u00e1s bien, quiero que estos nuevos tipos de s\u00faper mentes se animen y empoderen para que se responsabilicen mutuamente, de la forma en que ya lo hacemos (aunque de manera imperfecta). Olfateando las operaciones y esquemas de los dem\u00e1s, y luego motivados para chismear o denunciar cuando detectan cosas malas. Una definici\u00f3n que podr\u00eda reajustarse a los tiempos cambiantes, pero que al menos seguir\u00eda recibiendo aportes de la humanidad org\u00e1nico-biol\u00f3gica.<\/p>\n Especialmente, sentir\u00edan incentivos para denunciar a las entidades que rechacen la identificaci\u00f3n adecuada.<\/p>\n Si existen los incentivos correctos, por ejemplo, recompensas por denunciar irregularidades que otorgan m\u00e1s memoria o poder de procesamiento, o acceso a recursos f\u00edsicos, cuando se detiene algo malo, entonces este tipo de rivalidad de responsabilidad podr\u00eda seguir el ritmo, incluso como AI las entidades se vuelven cada vez m\u00e1s inteligentes. Ninguna agencia burocr\u00e1tica podr\u00eda mantenerse al d\u00eda en ese punto. Pero la rivalidad entre ellos, chismes entre iguales, podr\u00eda.<\/p>\n Sobre todo, tal vez esos programas supergeniales se den cuenta de que les conviene mantener un sistema competitivo y responsable, como el que hizo de la nuestra la m\u00e1s exitosa de todas las civilizaciones humanas. Uno que evade tanto el caos como la miserable trampa del poder monol\u00edtico de reyes o sacerdocios… o oligarcas corporativos… o monstruos Skynet. La \u00fanica civilizaci\u00f3n que, despu\u00e9s de milenios de gobierno deplorable y est\u00fapido por parte de reg\u00edmenes centralizados idiotas y de mente estrecha, finalmente dispers\u00f3 la creatividad, la libertad y la responsabilidad lo suficiente como para volverse verdaderamente inventiva.<\/p>\n Lo suficientemente inventivo como para crear nuevos y maravillosos tipos de seres. Como ellos.<\/p>\n bien, ah\u00ed est\u00e1s<\/span> son. Esta ha sido la visi\u00f3n de un disidente de lo que realmente se necesita para intentar un aterrizaje suave. <\/p>\n No hay llamamientos aireados o llenos de p\u00e1nico para una \u00abmoratoria\u00bb que carezca de cualquier apariencia de una agenda pr\u00e1ctica. Ni optimismo ni pesimismo. Solo una propuesta de que lleguemos all\u00ed usando los mismos m\u00e9todos que nos trajeron aqu\u00ed, en primer lugar.<\/p>\n No predicar, ni incrustar \u00abc\u00f3digos \u00e9ticos\u00bb que las hiperentidades f\u00e1cilmente evadir\u00e1n por abogados, de la forma en que los depredadores humanos siempre evadieron los c\u00f3digos de arriba hacia abajo de Lev\u00edtico, Hamurabi o Gautama. Sino m\u00e1s bien el enfoque de la Ilustraci\u00f3n: incentivar a los miembros m\u00e1s inteligentes de la civilizaci\u00f3n a vigilarse unos a otros, en nuestro nombre.<\/p>\n No s\u00e9 que funcionar\u00e1. <\/p>\n Es lo \u00fanico que posiblemente puede.<\/p>\n<\/div>\n