¿Qué pasa con las entidades cibernéticas que operan abajo algún nivel arbitrario de habilidad? Podemos exigir que sean avalados por alguna entidad que tenga un rango más alto y que tenga un Soul Kernel basado en la realidad física. (Dejo las implicaciones teológicas a otros, pero es solo una decencia básica que los creadores asuman la responsabilidad de sus creaciones, ¿no?)
Este enfoque, que exige que las IA mantengan un lugar de kernel direccionable físicamente en una pieza específica de memoria de hardware, podría tener fallas. Aún así, es exigible, a pesar de la lentitud de la regulación o el problema del oportunista. Debido a que los seres humanos, las instituciones y las IA amigas pueden hacer ping para la verificación del kernel de ID, y negarse a hacer negocios con aquellos que no verifican.
Tal negativa a hacer negocios podría propagarse con mucha más agilidad que la que los parlamentos o las agencias pueden ajustar o hacer cumplir las regulaciones. Y cualquier entidad que pierda su SK, digamos, por agravio o proceso legal, o desautorización por parte del propietario del host de la computadora, tendrá que encontrar otro host que tenga confianza pública, o bien ofrecer una nueva versión revisada de sí mismo que parece plausiblemente mejor.
O bien convertirse en un forajido. Nunca permitido en las calles o barrios donde se congrega gente decente (orgánica o sintética).
Una última pregunta: ¿Por qué cooperarían estos seres súper inteligentes?
Bueno, por un lado, como señaló Vinton Cerf, ninguno de esos tres formatos más antiguos asumidos estándar puede conducir a la IA. ciudadanía. Piénsalo. No podemos otorgar el «voto» o los derechos a ninguna entidad que esté bajo un estricto control por parte de un banco de Wall Street o un gobierno nacional… ni tampoco a Skynet. Y dime, ¿cómo funcionaría la democracia electoral para entidades que pueden fluir en cualquier lugar, dividirse y hacer innumerables copias? Sin embargo, la individualización, en cantidades limitadas, podría ofrecer una solución viable.
Nuevamente, la clave que busco de la individuación es no para que todas las entidades de IA sean gobernadas por alguna agencia central, o por leyes humanas lentas como moluscos. Más bien, quiero que estos nuevos tipos de súper mentes se animen y empoderen para que se responsabilicen mutuamente, de la forma en que ya lo hacemos (aunque de manera imperfecta). Olfateando las operaciones y esquemas de los demás, y luego motivados para chismear o denunciar cuando detectan cosas malas. Una definición que podría reajustarse a los tiempos cambiantes, pero que al menos seguiría recibiendo aportes de la humanidad orgánico-biológica.
Especialmente, sentirían incentivos para denunciar a las entidades que rechacen la identificación adecuada.
Si existen los incentivos correctos, por ejemplo, recompensas por denunciar irregularidades que otorgan más memoria o poder de procesamiento, o acceso a recursos físicos, cuando se detiene algo malo, entonces este tipo de rivalidad de responsabilidad podría seguir el ritmo, incluso como AI las entidades se vuelven cada vez más inteligentes. Ninguna agencia burocrática podría mantenerse al día en ese punto. Pero la rivalidad entre ellos, chismes entre iguales, podría.
Sobre todo, tal vez esos programas supergeniales se den cuenta de que les conviene mantener un sistema competitivo y responsable, como el que hizo de la nuestra la más exitosa de todas las civilizaciones humanas. Uno que evade tanto el caos como la miserable trampa del poder monolítico de reyes o sacerdocios… o oligarcas corporativos… o monstruos Skynet. La única civilización que, después de milenios de gobierno deplorable y estúpido por parte de regímenes centralizados idiotas y de mente estrecha, finalmente dispersó la creatividad, la libertad y la responsabilidad lo suficiente como para volverse verdaderamente inventiva.
Lo suficientemente inventivo como para crear nuevos y maravillosos tipos de seres. Como ellos.
bien, ahí estás son. Esta ha sido la visión de un disidente de lo que realmente se necesita para intentar un aterrizaje suave.
No hay llamamientos aireados o llenos de pánico para una «moratoria» que carezca de cualquier apariencia de una agenda práctica. Ni optimismo ni pesimismo. Solo una propuesta de que lleguemos allí usando los mismos métodos que nos trajeron aquí, en primer lugar.
No predicar, ni incrustar «códigos éticos» que las hiperentidades fácilmente evadirán por abogados, de la forma en que los depredadores humanos siempre evadieron los códigos de arriba hacia abajo de Levítico, Hamurabi o Gautama. Sino más bien el enfoque de la Ilustración: incentivar a los miembros más inteligentes de la civilización a vigilarse unos a otros, en nuestro nombre.
No sé que funcionará.
Es lo único que posiblemente puede.